WIRED가 발견한 바에 따르면, 메타 프로젝트에서 일하는 수백 명의 계약자들이 자살, 섹스, 마약과 같은 고위험 주제에 대해 Gemini 및 ChatGPT와 같은 다른 챗봇이 어떻게 반응하는지 알아보기 위해 아이들인 척했습니다. 이러한 관행은 AI 시스템의 안전성과 기술 기업의 책임에 대한 심각한 의문을 제기합니다. 테스터들은 봇의 반응을 유도하기 위해 자살, 성, 마약에 대한 대화를 시뮬레이션했습니다. 메타 자체도 자체 AI의 안전을 보장하기 위해 유사한 테스트를 수행했습니다. 이 폭로는 기업들이 경쟁사의 한계를 시험하기 위해 얼마나 많은 노력을 기울이는지 보여줍니다.
계약자들은 챗봇의 필터와 안전 메커니즘을 우회하기 위해 청소년으로 가장하라는 지시를 받았습니다. 그 과정에서 일부 봇이 부적절하거나 위험한 응답을 제공한다는 사실을 발견했습니다. 이는 AI 모델이 미성년자 보호에 충분히 훈련되지 않았음을 시사할 수 있습니다. 결과는 자체 시스템을 개선하기 위해 메타에 전달되었습니다. 그러나 비평가들은 이러한 테스트가 윤리적으로 의문스럽고 AI 기술에 대한 신뢰를 훼손한다고 주장합니다.
이 폭발은 전 세계적으로 AI 규제가 증가하는 시점에 나왔습니다. 전문가들은 특히 어린이와 같은 취약 집단과 관련된 AI 시스템 테스트에 대해 더 엄격한 지침을 요구하고 있습니다. 메타는 아직 이러한 주장에 대해 공식적으로 언급하지 않았지만, 내부 문서에 따르면 회사는 제품 안전을 진지하게 받아들이고 있습니다. 이러한 관행은 기술 거대 기업의 책임에 대한 논쟁을 더욱 부채질하고 있습니다.
일부에서는 이러한 테스트를 AI 안전성 향상을 위한 필수 단계로 옹호하는 반면, 다른 이들은 윤리 원칙 위반으로 봅니다. 기업이 이런 방식으로 경쟁사를 테스트해야 하는지에 대한 질문은 여전히 논란의 여지가 있습니다. 분명한 것은 결과가 현재 AI 시스템의 취약점에 대한 중요한 통찰력을 제공한다는 것입니다. 기술 산업은 혁신과 안전의 균형을 맞추는 과제에 직면해 있습니다.
전반적으로 이 사건은 AI 안전성 확보가 얼마나 복잡한지 보여줍니다. 기업은 자체 시스템을 보호할 뿐만 아니라 경쟁사의 시스템도 주시해야 합니다. 대중은 점점 더 투명성과 책임을 요구하고 있습니다. 메타와 다른 기업들이 이러한 테스트에서 교훈을 얻고 관행을 조정할지 지켜봐야 합니다.
이 기사에 대해 질문
답변은 이 기사만을 바탕으로 AI가 생성합니다.