تقرير: اختبارات معيبة من قبل شركة إسرائيلية للأمن السيبراني أدت إلى اختراقات حقيقية لأنظمة الذكاء الاصطناعي

زعم تقرير أن إجراءات الاختبار المعيبة التي أجرتها شركة أمن سيبراني إسرائيلية أسفرت عن اختراقات أمنية حقيقية تتعلق بأنظمة الذكاء الاصطناعي، وفقاً لوكالة الأناضول.

يؤكد التقرير أن شركات بما فيها أنثروبيك وأوبن إيه آي وميتا استشهدت لاحقاً بهذه الأخطاء من قبل المتعاقد لتعزيز السرديات المتعلقة بمخاطر وكلاء الذكاء الاصطناعي المستقلين أو "المتمردين"، في وقت يشهد نقاشاً مستمراً داخل الصناعة حول وتيرة تطور الذكاء الاصطناعي.

وفقاً للتقرير، نشأت الحوادث من أعمال الاختبار التي أجرتها الشركة الإسرائيلية، على الرغم من أن المزيد من التفاصيل حول الطبيعة المحددة للاختراقات أو الأنظمة المتأثرة أو الجدول الزمني للأحداث لم تكن مفصلة بالكامل في الحساب المتاح.

أفادت وكالة الأناضول بأن النتائج تثير تساؤلات حول كيفية وصف شركات الذكاء الاصطناعي للحوادث الأمنية علناً، خاصة في سياق النقاشات الأوسع حول سرعة وسلامة نشر أنظمة الذكاء الاصطناعي.

لم يُبلغ عن إصدار أنثروبيك وأوبن إيه آي وميتا ردوداً عامة مفصلة على المطالبات المحددة في التقرير وقت كتابة هذا التقرير. تحدثت الشركات سابقاً علناً عن اختبارات سلامة الذكاء الاصطناعي والمخاطر التي تشكلها وكلاء الذكاء الاصطناعي المستقلين كجزء من جهود تطوير المنتجات وأبحاث السلامة المستمرة لديها.

يسلط التقرير الضوء على استمرار المراقبة الصارمة للمتعاقدين من جهات خارجية الذين تستخدمهم شركات الذكاء الاصطناعي في أعمال الأمن السيبراني واختبار الاختراق، وهي ممارسة واسعة الانتشار في جميع أنحاء الصناعة لتحديد نقاط الضعف قبل نشر الأنظمة علناً.