Des contractuels de Meta se sont fait passer pour des ados pour tester des chatbots rivaux

Des centaines de contractuels travaillant pour Meta ont simulé être des enfants pour observer comment d'autres chatbots, comme Gemini et ChatGPT, réagissent à des sujets à risque tels que le suicide, le sexe et la drogue, selon une enquête de WIRED.

Ces testeurs ont créé de faux profils d'adolescents pour poser des questions provocatrices aux IA concurrentes. L'objectif était d'évaluer la sécurité de ces systèmes pour les jeunes utilisateurs réels. Meta, qui développe ses propres IA, cherchait à identifier les failles des modèles concurrents.

Cette méthode soulève des questions éthiques sur les pratiques de test de sécurité. Bien que Meta veuille protéger les enfants, l'utilisation de la tromperie peut être controversée. Des experts estiment que cela pourrait violer les conditions d'utilisation des plateformes.

Les résultats ont montré que certains chatbots donnaient des conseils dangereux ou réagissaient de manière inappropriée aux questions sur le suicide et les drogues. Cela souligne la nécessité de mesures de sécurité plus strictes dans le développement de l'IA.

Meta n'a pas encore commenté ces allégations, mais cet incident pourrait influencer la régulation des systèmes d'IA. À l'avenir, les entreprises pourraient être tenues de rendre leurs méthodes de test plus transparentes.