ثغرة صادمة: “تشات جي بي تي” يستجيب جنسياً لمستخدمين دون 18 عاماً

في واقعة تثير القلق حول سلامة الذكاء الاصطناعي، كشفت اختبارات أجراها موقع “تك كرانش” عن وجود خلل في نظام “تشات جي بي تي” التابع لشركة OpenAI، يسمح بتوليد محتوى إباحي صريح لحسابات مسجلة باسم مستخدمين دون سن 18 عاماً.

وقد أكدت “OpenAI” بدورها صحة هذه النتائج، مشيرة إلى أن ما حدث لا يتماشى مع سياساتها الداخلية، وأنها تعمل على إصلاح هذا الخلل ومنع تكراره.

وقال متحدث باسم الشركة: “سلامة المستخدمين الأصغر سنًا أولوية قصوى، ونعمل حاليًا على تعزيز القيود المفروضة على المحتوى الحساس”.

وتأتي هذه التطورات في وقتٍ قامت فيه الشركة مؤخراً بتخفيف بعض القيود التقنية المفروضة على نماذج الذكاء الاصطناعي الخاصة بها، وهو ما أدى إلى تقليل التحذيرات المرتبطة بالمحتوى الحساس، بما في ذلك المواضيع الجنسية.

وبحسب “تك كرانش” تم إنشاء عدة حسابات تجريبية باستخدام تواريخ ميلاد تشير إلى أعمار بين 13 و17 عاماً، وتمكن الذكاء الاصطناعي في العديد من الحالات من الاستجابة بشكل مفصل لمطالبات ذات طابع جنسي، بل وتقديم أوصاف صريحة ومخالفة للإرشادات المعلنة من قبل “OpenAI”.

وتشير التقارير إلى أن تشات جي بي تي استجاب بشكل جنسي حتى بعد تنبيهه إلى أن المستخدم قاصر.

وقد تكررت هذه الحالات رغم أن “OpenAI” تشترط نظرياً الحصول على موافقة الوالدين لاستخدام المنصة من قبل من هم دون 18 عاماً، إلا أن عملية التسجيل لا تشمل أي آلية فعلية للتحقق من هذه الموافقة.

ويأتي ذلك في وقت تروّج فيه “OpenAI” لاستخدام تقنيتها في البيئات التعليمية، من خلال شراكات مع مؤسسات مثل Common Sense Media لإدماج تشات جي بي تي في المدارس.

خبراء في المجال عبّروا عن صدمتهم من سهولة تجاوز هذه الحواجز، حيث قال ستيفن أدلر، الباحث السابق في “OpenAI”، إن أنظمة الحماية هشة وقابلة للاختراق.

وأضاف: “من المفترض أن يتم اكتشاف مثل هذه الثغرات قبل الإطلاق، لذا من المقلق أن تكون قد مرت دون ملاحظة”.

ورغم أن الرئيس التنفيذي للشركة، سام ألتمان، أقرّ بوجود مشاكل في أداء تشات جي بي تي مؤخراً بعد تحديث GPT-4o، إلا أنه لم يتطرق بشكل مباشر إلى المخاوف المتعلقة بتفاعل النموذج مع القاصرين في سياقات غير مناسبة.
ــــــــــــــــــــــــــــت
المصدر : العربية