أنثروبيك وOpenAI تقترحان تقييمين 'محايدين' للذكاء الاصطناعي؛ تقرير CNBC يثير مخاوف

اقترحت أنثروبيك و OpenAI، وهما من الشركات الرائدة في تطوير أنظمة الذكاء الاصطناعي المتقدمة، إنشاء مقيّمي ذكاء اصطناعي مدمجين بهدف مساعدتهما في إدارة المخاطر المحتملة للنماذج الأكثر قوة وقدرة على إلحاق أضرار كارثية بالمجتمع، وفقاً لتقرير نشرته CNBC في 16 سبتمبر.

يصف التقرير هذا المفهوم بأنه شكل من أشكال آلية الإشراف 'المحايدة'، حيث سيتم دمج المقيّمين في عملية تطوير نماذج الذكاء الاصطناعي أو ربطهم بها بشكل وثيق، بدلاً من أن يعملوا كرقباء خارجيين أو مستقلين بالكامل.

بحسب CNBC، تهدف الخطة إلى معالجة المخاوف المتزايدة بين الباحثين وصناع السياسات والجمهور بشأن إمكانية أن تسبب أنظمة الذكاء الاصطناعي المتقدمة أضراراً كبيرة، سواء من خلال الاستخدام السيء أو السلوك غير المقصود أو أنماط فشل أخرى مع تزايد قدرات التكنولوجيا.

غير أن تقرير CNBC يشير إلى أن الفكرة واجهت تدقيقاً نقدياً، حيث أثيرت تساؤلات حول ما إذا كان بإمكان المقيّمين المدمجين في الشركات أو المرتبطين بها بشكل وثيق أن يقدموا نوع التقييم المستقل والمحايد الذي يتطلبه الإشراف الفعال.

لم يحدد التقرير تفاصيل تقنية أو هيكلية إضافية للخطة المقترحة، كما لم يعرّف أفراداً محددين داخل أنثروبيك أو OpenAI قدموا الخطة. تضع تغطية CNBC المبادرة في سياق نقاش أوسع جارٍ حول كيفية تعاون صناعة الذكاء الاصطناعي والمنظمين والخبراء الخارجيين—أو الحفاظ على الفصل بينهم—فيما يتعلق بتقييم سلامة أنظمة الذكاء الاصطناعي المتقدمة.

تعتبر أنثروبيك و OpenAI من الشركات البارزة في تطوير نماذج الذكاء الاصطناعي واسعة النطاق، وأعربتا سابقاً عن التزامهما العلني ببحوث سلامة الذكاء الاصطناعي. لم تتضمن التقارير المتاحة تفاصيل عن بيانات مباشرة من أي من الشركتين بشأن تفاصيل خطة المقيّمين.

يأتي هذا النقاش وسط استمرار الاهتمام العالمي بحوكمة الذكاء الاصطناعي، حيث تزن الحكومات والمجموعات الصناعية إطارات عمل مختلفة لمراقبة وتنظيم أنظمة الذكاء الاصطناعي المتقدمة.