تقرير CNBC يثير مخاوف بشأن خطة Anthropic و OpenAI لمقيمي مخاطر الذكاء الاصطناعي

اقترحت Anthropic و OpenAI استخدام مقيّمين ذكاء اصطناعي مدمجين كأداة للمساعدة في إدارة مخاطر نماذج الذكاء الاصطناعي التي قد تسبب ضررا كارثيا للمجتمع، وفقاً لتقرير نشرته CNBC.

يصف التقرير الاقتراح بأنه فكرة ناشئة في صناعة الذكاء الاصطناعي تهدف إلى معالجة مخاوف الأمان المرتبطة بأنظمة الذكاء الاصطناعي المتطورة بشكل متزايد. بموجب هذا النهج، سيتم بناء مقيّمين قائمين على الذكاء الاصطناعي داخل النماذج أو الأنظمة للمساعدة في تقييم وتحديد المخاطر المحتملة قبل أن تتفاقم وتسبب ضررا كبيرا.

ومع ذلك، يشير تقرير CNBC إلى أن هذا المفهوم يواجه مشاكل جوهرية تستحق الفحص الدقيق. لا يفصل التقرير النطاق الكامل لهذه المخاوف في المقتطف المتاح، لكنه يصور الاقتراح بوصفه مبادرة مقصودة لتعزيز الأمان، قد تفضي بنفسها إلى مخاطر أو قيود جديدة لم يتم حلها بشكل كامل.

تعتبر Anthropic و OpenAI من بين الشركات الرائدة في تطوير نماذج ذكاء اصطناعي متقدمة، وقد أكدت كلاهما مسبقاً على أبحاث الأمان كجزء من رسائلها العامة بشأن تطوير الذكاء الاصطناعي. لم تدلِ الشركتان بأي تصريحات مباشرة في المقتطف المتاح بخصوص تفاصيل اقتراح المقيّم.

يشير تقرير CNBC إلى أن صناعة الذكاء الاصطناعي الأوسع وصانعي السياسات قد يحتاجان إلى الموازنة بين فوائد وعيوب الاعتماد على أنظمة الذكاء الاصطناعي نفسها في الإشراف على أنظمة ذكاء اصطناعي أخرى من أجل تجنب المخاطر الكارثية، وهي نقاش من المرجح أن يستمر مع استكشاف الشركات لأطر أمان جديدة.