ChatGPTのアドバイスを実行して大変なことになったという事例・・・

この問題について、考えてみる。事件の内容がいいとも悪いとも言えない。ChatGPTというか生成AIを利用したという点で考えてみる。

ChatGPTに相談したら意図せぬ結果に　巨人・阿部監督辞任、娘の手紙全文
https://japan.cnet.com/article/35248020

生成AIに軽い気持ちで相談はできるかもしれない。でも、帰ってくる回答が、自身の背景も含めた上で正しい回答が返ってくるわけではない。ChatGPTのアドバイスを、そのまま実行して、大変なことになった、という事例になってしまった、と言える。

ネットのアドバイスも、ChatGPTのアドバイスも、アドバイスした側に責任があるわけではない、というのがポイント。あくまでも、意思決定をしたのは、実行した人なので、責任はその人にある。ChatGPTのアドバイスが間違っていたのか、というと、そういうわけでもない。重度に危険な状況であれば、適切だったと思う。ただ今回のような軽いと思われるケースでは、適切ではなかった。相談者の心情としては、話を聞いてもらう先が欲しかっただけかもしれないので、もっと軽い相談窓口でもよかったかもしれない。でも、AIは、質問の背景を読めない。ちゃんと説明すれば、適切な解はあるだろうが、大概はそんなことをしない。簡単な言葉でのみオーダーをAIに伝える。その結果、単語から連想される前後の単語を推測して文書を組み立てる（それがトランスフォーマーモデルなので。GPTのTの部分。）。その結果、「殴〇れた」「暴〇」などから想起された結果として、「児童相談所」への連絡だった、と考えられる。AIのモデルとしては、間違っていないと思う。ネット上にもDVに関連するページは多いので、学習結果として、優先順位が上がるのもわかる。汎用的なAIは、メンタルサポート用として作られているわけではなく、ロール（役割）を与えない限りは、知識から返答するだけのマシンだから。結局は、使う人の意識次第、判断力次第と言ってしまえば、それまでだが。

今後のことを考えると、SNS同様に、AIについても、未成年者への規制が議論される気がする。今回は18歳で成人扱いのようだが（なんだかんだで18歳は危険、世間知らずで社会のクイモノにされやすい点で。）。リテラシーが未熟な人向けのAIが年齢認証で自動的に利用されるようになればいいのだけど。

あとは、別パターンで、AIに提示された内容を実行して、大事になるケースがこれから先、増えていくのだろう。企業とかだと、取り返しのつかないことになりそうな気がする。このケースも取返しが付かないことになってしまっているけれど。