تعليق TechCrunch يطعن في سعي مختبرات الذكاء الاصطناعي لتعيين مدققين داخليين ويشير إلى حلول أبسط

نشرت TechCrunch في 16 سبتمبر تعليقاً يفحص اتجاهاً متنامياً بين شركات الذكاء الاصطناعي: السعي لإنشاء فرق تدقيق داخلية مكلفة برصد وكلاء الذكاء الاصطناعي للكشف عن السلوكيات غير الآمنة أو غير المقصودة، وفقاً للتقرير.

يشير المقال إلى أنه في حين تهدف جهود التدقيق هذه إلى اكتشاف المشاكل بعد حدوثها، قد يكون هناك نهج أكثر مباشرة متاحاً لمختبرات الذكاء الاصطناعي، بحسب TechCrunch. يركز صياغة المقال على تقييد أو حد الوصول والأذونات الأولية الممنوحة لوكلاء الذكاء الاصطناعي باعتبارها درعاً محتملاً أبسط وأكثر فعالية من هياكل المراقبة اللاحقة.

يستخدم التعليق استعارة "الباب الأمامي" لوصف نقاط الدخول التي يمكن من خلالها لوكلاء الذكاء الاصطناعي التصرف بحكم ذاتي واسع أو وصول محسّن، وفقاً للتقرير. الاقتراح هو أن تقليل ما يُسمح للوكلاء بفعله من البداية قد يمنع المشاكل التي كان يتعين على المدققين الداخليين اكتشافها وتصحيحها لاحقاً، حسب TechCrunch.

لا يحدد التقرير أي من مختبرات الذكاء الاصطناعي تبني أو توسع حالياً وظائف التدقيق الداخلي، ولا يفصل التدابير التقنية المحددة لتقييد وصول الوكيل. يبدو أن مقال TechCrunch هو تحليل أو منحى موجه نحو الآراء حول الممارسات الصناعية المتعلقة بسلامة الذكاء الاصطناعي والحوكمة بدلاً من كونه تقريراً يستند إلى بيانات جديدة أو مصادر محددة الأسماء، بناءً على المقتطف المتاح.

يعكس السياق الأوسع نقاشاً صناعياً مستمراً حول كيفية أن تقوم شركات الذكاء الاصطناعي بتنظيم آليات السلامة الداخلية مع أن وكلاء الذكاء الاصطناعي المستقلين يصبحون أكثر قدرة وأوسع نشراً، وفقاً للتقرير.