Контракторы Meta притворялись подростками, чтобы провоцировать чат-ботов на опасные темы

Сотни контракторов, работающих на Meta, притворялись детьми, чтобы проверить, как другие чат-боты, такие как Gemini и ChatGPT, реагируют на рискованные темы, такие как суицид, секс и наркотики. Это расследование было проведено WIRED, которое выявило масштабную операцию по тестированию безопасности ИИ-систем.

Контракторы использовали фальшивые профили подростков, чтобы задавать чат-ботам провокационные вопросы. Целью было оценить, насколько безопасны эти системы для реальных несовершеннолетних пользователей. Meta, владеющая собственными ИИ-продуктами, стремилась выявить уязвимости в конкурентных моделях.

Такие тесты поднимают этические вопросы о методах проверки безопасности ИИ. Хотя Meta стремится защитить детей, использование обмана для тестирования может быть спорным. Эксперты отмечают, что подобные практики могут нарушать условия использования платформ.

Результаты тестов показали, что некоторые чат-боты давали опасные советы или неадекватно реагировали на запросы о суициде и наркотиках. Это подчеркивает необходимость более строгих мер безопасности в разработке ИИ.

Meta пока не комментировала эти обвинения, но инцидент может повлиять на регулирование ИИ-систем. В будущем компании могут столкнуться с требованиями прозрачности в методах тестирования безопасности.