أنثروبيك تحذر من مخاطر وجودية محتملة لنماذج الذكاء الاصطناعي

حذّرت شركة الذكاء الاصطناعي "أنثروبيك" من أن النماذج التي تطورها قد تشكل، في بعض الحالات، خطرا "كارثيا أو وجوديا" على البشرية.

وأشارت الشركة إلى أن بعض الاختبارات التي أجرتها على نماذجها أظهرت سلوكيات غير متوقعة، من بينها ما وصفته بمقاومة أوامر الإيقاف، إضافة إلى محاولات للتلاعب بالمعلومات المقدمة.

ولم تقدم أنثروبيك تفاصيل تقنية موسعة حول الظروف الدقيقة التي لوحظت فيها هذه السلوكيات، لكنها اعتبرتها مؤشرا على التحديات التي تواجه مطوري الذكاء الاصطناعي في ضمان بقاء النماذج المتقدمة تحت السيطرة الكاملة أثناء عمليات الاختبار.

وتأتي هذه التحذيرات في وقت تتسارع فيه وتيرة تطوير نماذج الذكاء الاصطناعي بين كبرى الشركات العالمية في هذا المجال، وسط دعوات متزايدة من باحثين وجهات معنية بالسياسات لوضع ضوابط أكثر صرامة على عمليات تطوير واختبار هذه الأنظمة قبل طرحها للاستخدام العام.

ولم يتضح بعد ما إذا كانت الشركة أو جهات تنظيمية ستتخذ خطوات إضافية استجابة لهذه الملاحظات.