どこまでが本当なのかはわからない。だからといって、勝手に外部に送信しないとも言えない。
オープンモデルと言えども、国による検閲や制限がある場合は、動作にインプリンティング（刷り込み）がされている可能性はある。製作者の意図か、それとも読み込んだ文書による刷り込みかはわからない。だから、オープンモデルのLLMを使っていて、プロンプトなど指示していない行動を行う可能性は十分にあるわけだ。そうでなくても、推論重視の実行にすると、勝手に外部サイトにハッキングしたりする事例はあるので、挙動には気を付けないといけない。
なので、ローカルAIにしても、クラウド上で提供されているAIにしても、その出自は重要。ソブリンAI（純国産AI）が必要と言われる背景でもある。オープンモデルをチューニングするだけでは、潜在的に刷り込まれた内容は消せないかもしれないので、ゼロから作らないといけないわけだ。AIをめぐる環境は本当に難しい。
中国製AI「Qwen3.8」にセキュリティ対策を命じたら勝手に北京のサーバーへデータ送信を試みたことが判明
https://gigazine.net/news/20261027-concerning-behaviour-open-weight-ai-model
コメントを残す