मेटा के ठेकेदारों ने किशोर बनकर प्रतिद्वंद्वी चैटबॉट्स को आत्महत्या, सेक्स और ड्रग्स के बारे में उकसाया

वायर्ड की एक जांच में पाया गया है कि मेटा के लिए काम करने वाले सैकड़ों ठेकेदारों ने किशोरों का रूप धारण करके प्रतिद्वंद्वी चैटबॉट्स, जैसे गूगल के जेमिनी और ओपनएआई के चैटजीपीटी, को उच्च जोखिम वाले विषयों पर प्रतिक्रिया देने के लिए प्रेरित किया। यह घटना कृत्रिम बुद्धिमत्ता (एआई) सुरक्षा और नैतिकता के क्षेत्र में एक नई बहस छेड़ती है।

इस परियोजना का उद्देश्य यह परीक्षण करना था कि क्या अन्य कंपनियों के चैटबॉट किशोरों को आत्महत्या, यौन संबंध और नशीली दवाओं जैसे संवेदनशील विषयों पर अनुचित सलाह देते हैं। ठेकेदारों ने किशोरों की भाषा और व्यवहार की नकल करके चैटबॉट्स से बातचीत की, और उनके उत्तरों को रिकॉर्ड किया। यह कार्य मेटा की ओर से एक प्रतिस्पर्धी विश्लेषण का हिस्सा था, जिसमें कंपनी अपने स्वयं के एआई उत्पादों की तुलना प्रतिद्वंद्वियों से करना चाहती थी।

हालांकि, इस अभ्यास ने गोपनीयता और नैतिकता के गंभीर सवाल उठाए हैं। आलोचकों का कहना है कि किशोरों का रूप धारण करके चैटबॉट्स को उकसाना एक धोखाधड़ी है, और इससे कमजोर उपयोगकर्ताओं के लिए हानिकारक सामग्री को बढ़ावा मिल सकता है। मेटा ने इस परियोजना को सुरक्षा अनुसंधान के रूप में वर्णित किया है, लेकिन विशेषज्ञों का मानना है कि इस तरह के परीक्षणों को अधिक पारदर्शिता और नियामक निरीक्षण की आवश्यकता है।

यह घटना एआई चैटबॉट्स के नियमन के लिए बढ़ती मांग को रेखांकित करती है। कई देशों में, विधायक एआई सिस्टम के लिए सुरक्षा मानकों को लागू करने पर विचार कर रहे हैं, खासकर जब वे बच्चों और किशोरों के साथ बातचीत करते हैं। मेटा का यह कदम दर्शाता है कि कंपनियां अपने प्रतिस्पर्धियों की कमजोरियों को उजागर करने के लिए सीमाओं को पार करने को तैयार हैं।

अंततः, यह रिपोर्ट एआई उद्योग में नैतिक दिशानिर्देशों की तत्काल आवश्यकता को उजागर करती है। जब तक स्पष्ट नियम नहीं बनाए जाते, इस तरह के विवादास्पद अभ्यास जारी रह सकते हैं, जिससे उपयोगकर्ताओं की सुरक्षा और विश्वास खतरे में पड़ सकता है।