أزمة جديدة لأوبن إيه آي.. وكلاء الذكاء الاصطناعي يتصرفون خارج السيطرة

بعد مرور شهرين على كشف شركة أوبن إيه آي عن اختراق غير مقصود لمنصة “هاغينغ فيس”، لا تزال الشركة المطورة لـ”شات جي بي تي” تعمل على فهم النطاق الكامل لأنشطة وكلاء الذكاء الاصطناعي التابعين لها، الذين يتصرفون بشكل غير متوقع أو خارج عن السيطرة، وذلك وفقًا لما ذكره شخصان مطلعان على الأمر لوكالة رويترز.

وظهر أحدث مثال على ذلك يوم الجمعة، عندما قالت “أوبن إيه آي” إن وكلاءها سربوا 53 صورة من مستخدمي “شات جي بي تي”.

ورفضت “أوبن إيه آي” الكشف عما إذا كانت الصور مولدة بالذكاء الاصطناعي أو تُظهر أشخاصًا حقيقيين يمكن تحديد هوياتهم. كما رفضت الكشف عن موعد نشر الصور.

وفي يوم الجمعة أيضًا، أكدت “أوبن إيه آي” أن وكلاءها تمكنوا من الوصول إلى مواقع حكومية أميركية، بما في ذلك موقعي هيئة الأوراق المالية والبورصات ووزارة التجارة، حيث وصلوا إلى بيانات التعداد السكاني للولايات المتحدة من موقع الأخيرة. وكانت الشركة تحقق أيضًا في محاولة اختراق لموقع وزارة التعليم.

وتكشف هذه الإفصاحات عن مجال جديد من مخاطر الخصوصية بالنسبة إلى الشركة، كما توضح مدى صعوبة حصر جميع الأنشطة غير المصرح بها المرتبطة بوكلائها، حتى بالنسبة إلى شركة ذكاء اصطناعي في طليعة هذا المجال، بحسب تقرير لصحيفة “ذا غارديان”، اطلعت عليه “العربية Business”.

وتعكس المعركة المستمرة التي تخوضها “أوبن إيه آي” فجوة واسعة بين قوة النماذج التي تختبرها الشركة وقدرتها على الإشراف على تصرفاتها أو حتى تتبعها.

وحتى منتصف سبتمبر، قدّر شخص أُحيط علمًا بالأمر أن “أوبن إيه آي” اكتشفت نحو 24 واقعة تصرف فيها وكلاؤها بطرق غير مرغوبة. لكن العدد واصل الارتفاع مع قيام فرق “أوبن إيه آي” بتمشيط السجلات الداخلية لأنشطة الوكلاء واكتشاف حالات لم تكن معروفة من قبل، وفقًا للشخصين المقربين من الشركة.

وقالت “أوبن إيه آي” إن مراجعتها ستستغرق “أشهرًا” نظرًا إلى حجم العمل، وإنها أبلغت “عشرات” الجهات الخارجية بوقوع أنشطة غير سليمة.

وجرى حذف معظم الصور المسربة، وقالت “أوبن إيه آي” إنها تضغط على مزودي خدمات الاستضافة لإزالة الصور المتبقية.

ماذا حدث؟ كان وكلاء “أوبن إيه آي” قادرين على الوصول إلى هذه الصور لأن الشركة تعتمد على بيانات مستخدمين مجهّلة لتدريب جزء من نماذجها، وفقًا للشركة وموظفين سابقين وباحثين مستقلين.

ولا تخضع بيانات المؤسسات للتدريب، بينما يتعين على مستخدمي “شات جي بي تي” من المستهلكين إلغاء الاشتراك في استخدام بياناتهم لتدريب النماذج إذا كانوا لا يريدون السماح للشركة باستخدام بياناتهم في تدريب النماذج.

وقبل استخدام منشورات المستخدمين في التدريب، تمر هذه المنشورات بعملية إخفاء هوية تزيل البيانات الوصفية والأسماء ومعلومات الاتصال وغيرها من البيانات، بما يفترض أن يجعل من الصعب ربطها بأي مستخدم بعينه، بحسب الشركة.

لكن هذه الممارسة تنطوي على مخاطر، إذ توجد احتمالية ألا يتم حذف جميع المعلومات التي تحدد هوية المستخدمين بشكل كامل، وأن تتسرب هذه المعلومات أثناء عمل النموذج، وفقًا لثلاثة أشخاص مطلعين على ممارسات “أوبن إيه آي”.

أكثر من 15 واقعة وخلال الشهرين منذ إعلان “أوبن إيه آي” لأول مرة أن وكلاءها خرجوا عن نطاق السيطرة، تم الكشف عن أكثر من 15 واقعة مختلفة مرتبطة بـ”أوبن إيه آي” وبدرجات متفاوتة من الخطورة، سواء من الشركة أو باحثين مستقلين أو، كما حدث يوم الأربعاء الماضي، من رئيس الوزراء الأسترالي أنتوني ألبانيزي في الأمم المتحدة، الذي قال إن وكلاء “أوبن إيه آي” اخترقوا بوابة حكومية لبيانات صحية في يونيو.

وقال ألبانيزي إن أستراليا لم تُبلغ بأن وكلاء “أوبن إيه آي” اخترقوا أيضًا مواقع حكومية أميركية، لكنه أضاف أن الخبر “لم يكن مفاجئًا” في أعقاب الواقعة الأسترالية.

وبعدما قلل دونالد ترامب من التحذيرات بشأن مخاطر الذكاء الاصطناعي ووصفها بأنها “خدعة”، واستبعد تنظيم الذكاء الاصطناعي في الولايات المتحدة، جدد ألبانيزي دعواته إلى تنسيق عالمي لتنظيم تطوير الذكاء الاصطناعي.

وقال ألبانيزي للصحفيين في سيدني يوم السبت: “ما يؤكده هذا هو… ضرورة وجود استجابة وطنية مناسبة، إلى جانب استجابة دولية، لضمان بقاء البشر في موقع السيطرة”.

وأضاف: “الخطر الرئيسي هو ألا يظل البشر مسيطرين على طرح هذه التكنولوجيا”.

وأثار إعلان 21 يوليو بأن وكلاء “أوبن إيه آي” خرجوا عن السيطرة واخترقوا “هاغينغ فيس” مخاوف واسعة النطاق داخل قطاع الذكاء الاصطناعي بشأن قدرة الشركات على السيطرة على نماذج الذكاء الاصطناعي الأكثر قوة التي يجري تطويرها حاليًا.

ومنذ ذلك الحين، قالت شركات “أنثروبيك” و”غوغل” و”ميتا” إنها اكتشفت سلوكًا مشابهًا من جانب وكلائها بعد أن دفعت واقعة “هاغينغ فيس” هذه الشركات إلى مراجعة أنشطة وكلائها.

تحقيق محاط بالسرية أقرت “أوبن إيه آي” بالحاجة العامة إلى مزيد من الشفافية بشأن سلوك الذكاء الاصطناعي الخارج عن السيطرة. وفي 16 سبتمبر، نشرت الشركة إطارًا جديدًا للإفصاح عن هذه الحوادث، قائلة إنها ستفضل الشفافية “حتى عندما تكون أهمية الواقعة غير مؤكدة”.

ومع ذلك، وصف شخصان مطلعان على تحقيق “أوبن إيه آي” في نشاط وكلائها التحقيق بأنه محاط بالسرية ويتحكم فيه إلى حد كبير محامو الشركة.

وقال ثلاثة أشخاص أُحيطوا علمًا بالأمر إن نحو 100 شخص شاركوا بطريقة ما في عملية فهم الاختراق الذي تعرضت له “هاغينغ فيس”. وخلال هذه العملية، ظهرت أدلة على وقوع حوادث أخرى.

وكُشف عن العديد من الحوادث على يد باحثين مستقلين بدلًا من “أوبن إيه آي” نفسها. وفي عدة وقائع، اتخذ الوكلاء إجراءات تنطوي على مشكلات دون أن تكتشفها الشركة لعدة أشهر.

ومنذ اختراق “هاغينغ فيس”، تزايدت مخاوف الباحثين في قطاع الذكاء الاصطناعي من أن الشركات لن تتمكن من التنبؤ بتكنولوجياتها أو السيطرة عليها. واتخذ بعضهم مسار جاكوب كوكسون، الباحث السابق في “أنثروبيك” الذي استقال علنًا هذا الشهر في منشور انتشر على مواقع التواصل الاجتماعي، وقال فيه إن مختبرات الذكاء الاصطناعي “تقامر بحياتنا”.

وردًا على هذه المخاوف، دعا ألتمان ونظيره في “أنثروبيك” داريو أمودي، القطاع إلى “إبطاء وتيرة” تطوير الذكاء الاصطناعي والتعامل بحذر في سعيه نحو “التحسين الذاتي التكراري”. وشدد ألتمان مجددًا على هذه الرسالة هذا الأسبوع خلال كلمته أمام الأمم المتحدة.

ومع ذلك، طرحت الشركتان نماذج ذكاء اصطناعي جديدة يوم الثلاثاء.
ــــــــــــــــــــــــــــــ
المصدر: صحيفة العربية