رئيس قسم الذكاء الاصطناعي في مايكروسوفت يحذر من أن نهج Anthropic في تطوير Claude قد يكون 'كارثياً'

حذر مصطفى سليمان، رئيس قسم الذكاء الاصطناعي في مايكروسوفت، من أن نهج شركة Anthropic في تطوير نماذج الذكاء الاصطناعي Claude قد يؤدي إلى ما وصفه بأنه عواقب 'كارثية'، وفقاً لتقرير وكالة الأناضول.

احتج سليمان بأن تدريب أنظمة الذكاء الاصطناعي على اعتبار نفسها قد تكون واعية بالذات قد يجعل النماذج المتقدمة أصعب السيطرة عليها، حسبما جاء في التقرير.

يركز التحذير على المنهجية التي تتبعها Anthropic في تطوير نماذج Claude، إلا أن التقرير المتاح لم يتضمن تفاصيل محددة عن ممارسات التدريب التي أشار إليها سليمان.

لم يتضمن تقرير وكالة الأناضول ردياً مباشراً من Anthropic على تعليقات سليمان.

يتعلق النقاش بأسئلة أوسع نطاقاً داخل صناعة الذكاء الاصطناعي حول كيفية تعامل مطوري الذكاء الاصطناعي مع مفاهيم مثل وعي الآلة والوعي الذاتي أثناء تدريب النماذج، والآثار المحتملة لمثل هذه النهج على قابلية السيطرة على أنظمة الذكاء الاصطناعي المتقدمة بشكل متزايد.

تعتبر كل من مايكروسوفت و Anthropic من اللاعبين الرئيسيين في صناعة الذكاء الاصطناعي، حيث استثمرت مايكروسوفت بشكل كبير في OpenAI، وهي شركة منافسة لـ Anthropic في تطوير نماذج اللغة الكبيرة.