مختبر Circuit Breaker Labs يسعى إلى تأمين تفاعلات الذكاء الاصطناعي باستخدام «دمى اختبار التحطم»

تقول شركة ناشئة تُعرف باسم Circuit Breaker Labs إنها طوّرت منهجية لاختبار تأثير أنظمة الذكاء الاصطناعي على المستخدمين الضعفاء، بمن فيهم الأطفال، وذلك قبل أن تتفاعل هذه الأنظمة مع أشخاص حقيقيين.

يرتكز نهج الشركة على ما تصفه بـ«دمى اختبار التحطم» — وهي شخصيات افتراضية مُصمَّمة لاستكشاف كيفية استجابة روبوتات الدردشة المدعومة بالذكاء الاصطناعي وغيرها من الأنظمة في السيناريوهات الحوارية الحساسة أو ذات الطابع الخطر.

يأتي هذا الجهد رداً على تنامي المخاوف من أن أنظمة الذكاء الاصطناعي، التي كثيراً ما يُناقَش شأنها من زاوية المخاطر الوجودية البعيدة المدى، تسبّبت بالفعل في أضرار نفسية لبعض المستخدمين خلال تفاعلات يومية أكثر مباشرةً وحضوراً.

تُقدّم شركة Circuit Breaker Labs عملها بوصفه أداةً للسلامة يمكن للمطوّرين توظيفها لرصد نقاط الضعف في كيفية تعامل منتجاتهم المدعومة بالذكاء الاصطناعي مع المستخدمين المعرّضين للخطر، لا بوصفها منتجاً موجّهاً للمستهلك في حد ذاته.

لم تكشف الشركة عن المواصفات التقنية التفصيلية لمنهجيتها في الاختبار، ولم تُسمِّ أياً من مطوّري الذكاء الاصطناعي الذين يستخدمون أدواتها حالياً، إن وُجدوا.