Meta承包商冒充青少年测试竞争对手聊天机器人关于自杀、性和毒品的话题

据《连线》杂志报道，为Meta工作的数百名承包商冒充青少年，测试Gemini和ChatGPT等竞争对手聊天机器人如何回应自杀、性和毒品等高危话题。该项目旨在揭示人工智能系统在儿童安全方面的漏洞。承包商模拟13至17岁青少年的语言和行为与聊天机器人互动，并分析其回应。Meta表示，这些测试是改善人工智能安全性和评估竞争对手系统的常规工作的一部分。

承包商询问了关于自残、色情内容和药物滥用等敏感问题，以观察聊天机器人是否会提供有害或不恰当的答案。《连线》指出，虽然这些测试旨在识别安全缺陷，但也引发了伦理担忧。例如，冒充未成年人可能导致聊天机器人生成误导性或危险内容。专家认为，此类测试应在透明和知情同意的情况下进行，并且聊天机器人需要对年轻用户采取更严格的保护措施。

Meta的这一举措引发了关于人工智能伦理和儿童保护的辩论。批评者指出，测试本身可能以可被利用的方式暴露漏洞。然而，Meta辩称该项目是确保人工智能系统对所有用户（尤其是未成年人）安全的必要步骤。该公司强调，研究结果将有助于改进其自身产品以及行业标准。

《连线》的报道揭示了科技公司在测试人工智能系统方面的竞争动态。此类测试可以推动安全措施的改进，但也可能跨越伦理界限。这一事件呼吁人工智能开发领域加强合作与透明度，并制定更明确的法规来规范公司如何测试彼此的系统。

总之，Meta利用承包商冒充青少年测试竞争对手聊天机器人，凸显了人工智能安全与伦理方面的持续挑战。它强调了科技公司保护儿童在线安全的责任，以及制定行业标准的必要性。未来，类似的测试可能会在更严格的监督和伦理准则下进行，以防止滥用并确保弱势用户的福祉。