أنثروبيك تحذّر من مخاطر استقلالية نماذج الذكاء الاصطناعي وتوسع صلاحياتها

حذّرت شركة أنثروبيك من أن تطور نماذج الذكاء الاصطناعي وزيادة قدرتها على تنفيذ المهام المعقدة والعمل باستقلالية قد يؤديان إلى ظهور مخاطر جديدة.

وقد تُستخدم هذه النماذج في مجالات مفيدة، مثل تحليل البيانات وتطوير البرمجيات، لكنها قد تُستغل أيضًا في تنفيذ هجمات إلكترونية، أو معالجة معلومات حساسة، أو إنتاج محتوى مضلل، بحسب الصلاحيات والأدوات المتاحة لها.

وتزداد المخاطر عند ربط النماذج بالتطبيقات والملفات والشبكات، إذ قد تتمكن من تنفيذ سلسلة من المهام دون تدخل بشري مستمر. ومع ذلك، لا يعني ذلك أن النماذج الحالية قادرة بالضرورة على تنفيذ هجمات واسعة بصورة مستقلة، إذ يعتمد حجم الخطر على تصميم النظام، ونطاق صلاحياته، ومستوى الرقابة والحماية المحيطين به.

وترى أنثروبيك أن الحد من هذه المخاطر يتطلب اختبارات أمنية منتظمة، ومراقبة مستمرة، وتقييد الصلاحيات، وحماية البيانات، مع توفير آليات لإيقاف العمليات الحساسة وخطط واضحة للاستجابة للحوادث. كما تبرز أهمية التعاون بين شركات التقنية والباحثين والجهات التنظيمية، لضمان الاستفادة من الذكاء الاصطناعي ضمن حدود واضحة وإشراف بشري مناسب.