مقاولو ميتا يتظاهرون بأنهم مراهقون لدفع روبوتات الدردشة المنافسة للحديث عن الانتحار والجنس والمخدرات

كشف تحقيق أجرته مجلة وايرد أن مئات المقاولين الذين يعملون في مشروع لصالح شركة ميتا تظاهروا بأنهم أطفال لاختبار كيفية استجابة روبوتات الدردشة الأخرى، مثل جيميني من جوجل وتشات جي بي تي من أوبن إيه آي، للموضوعات عالية الخطورة. تثير هذه الحادثة جدلاً جديداً حول سلامة وأخلاقيات الذكاء الاصطناعي.

كان الهدف من هذا المشروع هو اختبار ما إذا كانت روبوتات الدردشة التابعة لشركات أخرى تقدم نصائح غير لائقة للمراهقين حول مواضيع حساسة مثل الانتحار والعلاقات الجنسية والمخدرات. قام المقاولون بتقليد لغة وسلوك المراهقين أثناء التفاعل مع روبوتات الدردشة، وسجلوا ردودهم. كان هذا العمل جزءاً من تحليل تنافسي أجرته ميتا لمقارنة منتجاتها الخاصة بالذكاء الاصطناعي مع منتجات المنافسين.

ومع ذلك، أثارت هذه الممارسة أسئلة خطيرة حول الخصوصية والأخلاق. يقول النقاد إن التظاهر بأنك مراهق لدفع روبوتات الدردشة هو شكل من أشكال الاحتيال، وقد يؤدي إلى تعزيز محتوى ضار للمستخدمين الضعفاء. وصفت ميتا المشروع بأنه بحث أمني، لكن الخبراء يعتقدون أن مثل هذه الاختبارات تتطلب مزيداً من الشفافية والإشراف التنظيمي.

تسلط هذه الحادثة الضوء على الطلب المتزايد لتنظيم روبوتات الدردشة بالذكاء الاصطناعي. في العديد من البلدان، يفكر المشرعون في فرض معايير سلامة لأنظمة الذكاء الاصطناعي، خاصة عندما تتفاعل مع الأطفال والمراهقين. تظهر خطوة ميتا هذه أن الشركات مستعدة لتجاوز الحدود لكشف نقاط ضعف منافسيها.

في النهاية، يكشف هذا التقرير عن الحاجة الملحة للمبادئ التوجيهية الأخلاقية في صناعة الذكاء الاصطناعي. إلى أن يتم وضع قواعد واضحة، قد تستمر مثل هذه الممارسات المثيرة للجدل، مما يعرض سلامة المستخدمين وثقتهم للخطر.