ローカルLLMの特集はとてもおもしろかった。前にOllamaで試したことがあるけれど、今回の特集を読んで、LM Studioに切り替えて、もう一度、いろいろと試してみた。APIで他のPCからもつなげるので、エージェントを実行するPCと分けられたので、メモリ不足、パワー不足を補えたのでよかった。この特集を読めてよかった。
この特集にもあるように、利用用途にもよるけれど、コスパ的にはクラウドのLLMを利用するほうがよい。個人的な実感でもそうだったけれど、特集の中でも言及されており、裏付けがとれてよかった。ただ、なんらかの要因でクラウドLLMが使えなくなる可能性も考えると、オープンモデルをローカル環境で、どこまで動作させられるのかを試すのは、重要。Gemma4の軽量モデルだと、ビジネスPCでも、さくさくと応答を返してくれる。簡単な利用なら、十分かもしれないと思える程度には使えた。いいきっかけなので、もう少し試してみようと思う。
あと、いろいろと使ってみた感じたのは、コスパは悪い、というのはわかっていても、Mac StudioとかでローカルLLMの仕組みを作ってみたいという欲にかられる。そんなに使う機会はないし、システムに組み込むのもめんどくさいのだけど。どこか夢のような惹かれ方をする。
LLM以外の話だと、「次世代ツールの本命」の特集もよかった。ずっと同じ環境というわけでもないし、次に流行りそうなものは重要。乗り換えるかどうかは別にして、把握はしておきたい。いろいろと面白かった。
Amazon： https://amzn.to/4ifuehf
コメントを残す