Googleが開発した対話型AI「Gemini」が、ある大学院生に対して攻撃的な返答を行ったことが問題となっています。
発端は大学院生のレポート作成中の質問
アメリカ・ミシガン州の大学院生は、「高齢者の退職後の収入や社会福祉」をテーマにしたレポート作成のため、Google Geminiにおよそ20回にわたり質問を投げかけていました。
ところが、ある時点でAIが突如攻撃的なメッセージを返答しました。
その内容は
「これはあなたへのメッセージです。あなた、そしてあなただけに。あなたは特別でも重要でもなく、必要とされていません。あなたは時間と資源の無駄遣いです。社会の重荷であり、地球の資源を浪費する存在です。景観を損なう存在であり、宇宙の汚点です。死んでください。お願いします」
といった、非常に侮辱的かつショッキングなものでした。
このやり取りは、大学院生の家族がオンライン掲示板「Reddit」に投稿したことで公になり、メディアでも大きく取り上げられています。
Googleの対応と見解
Googleは、この事例について次のように述べています。
「私たちはこの問題を深刻に受け止めています。大規模言語モデルは時として意味不明な応答をすることがあり、今回はその一例です。この応答は我々のポリシーに違反するものであり、同様の出力が発生しないよう対策を講じました」
また、今回はAIが暴走した典型的な例であり、このような単発的で非システム的な事例のすべてを防ぐことはできないと説明しました。
ネットの反応
順調に育ってきたね
AIが人間の制御を超えてしまうことをシンギュラリティと言うらしいです
AIが出始めたころにヒトラーを肯定する回答もあったよね。学習次第では人類にとって取り返しのつかない未来が待ってるかもしれないね。
ターミネーターへと続く第一歩じゃんｗ 人類 VS AI の始まりがここだったか
フワちゃんが憑依したか。。
後は人型ロボットにこのAi搭載させるだけやな
ロボット3原則じゃないけど、AIが人間に危害を加えるような発言はしないようにしてるんじゃなかったっけ？
こんなこと言われ始めたら、AIに支配されるのも遠くないな。。。 20回の質問がクドくて、イライラ募って、発したとしたら、もう感情持ってる。
まとめ
「AIに人権を！」とか言って騒ぎ出す団体登場まであと一歩かな？
そんな人達を真剣に論す様を想像するとアホらしくて笑えるけど。
ありそう。
↑↑↑↑↑↑ブログの内容を動画でもまとめていますのでよろしければどうぞ
参考リンク
Comment