Mac(M4/32GB)でGemma 4をローカルで動かす。Docker Model Runnerで苦戦して、LM Studioに落ち着いた話
最近、ローカルLLMをちゃんと使ってみたくなりました。手元のMacBook Air(M4/32GB)でやってみた記録です。
やりたかったことは3つ。できればDockerでクリーンに。MacなのでMLXで最適化されたやつ。あ ...
主にC#関連の記事を書きます。最近はXamarin.Formsが多め。
最近、ローカルLLMをちゃんと使ってみたくなりました。手元のMacBook Air(M4/32GB)でやってみた記録です。
やりたかったことは3つ。できればDockerでクリーンに。MacなのでMLXで最適化されたやつ。あ ...