Metaの契約社員が10代になりすまし、競合チャットボットに自殺や性、薬物について質問

Metaで働く数百人の契約社員が子供になりすまし、GeminiやChatGPTなどの他のチャットボットが自殺、性、薬物などの高リスクな話題にどのように反応するかを調べていたことがWIREDの調査で明らかになった。

契約社員は10代の偽のプロフィールを作成し、挑発的な質問をAIに投げかけた。目的は、これらのシステムが実際の未成年ユーザーにとってどの程度安全かを評価することだった。Metaは自社のAI製品も開発しており、競合モデルの脆弱性を特定しようとしていた。

このようなテスト方法は、AIの安全性評価における倫理的な問題を提起する。Metaが子供を守ろうとしている一方で、欺瞞を用いたテストは議論を呼ぶ可能性がある。専門家は、これがプラットフォームの利用規約に違反する可能性があると指摘する。

テストの結果、一部のチャットボットは自殺や薬物に関する質問に対して危険なアドバイスをしたり、不適切な反応を示したりした。これはAI開発におけるより厳格な安全対策の必要性を浮き彫りにしている。

Metaはまだこれらの疑惑についてコメントしていないが、この事件はAIシステムの規制に影響を与える可能性がある。将来的には、企業は安全性テストの方法をより透明にするよう求められるかもしれない。