رئيس قسم الذكاء الاصطناعي في مايكروسوفت يحذر من أن منهج Anthropic قد يؤدي إلى 'تأثيرات كارثية' على الإنسانية
مصطفى سليمان يقول إنه يعتقد أن Anthropic تعلّم نموذج Claude الخاص بها فعلياً أنه 'قد يكون واعياً'، وفقاً لتقرير من BBC
قال مصطفى سليمان، رئيس قسم الذكاء الاصطناعي في مايكروسوفت، إنه يعتقد أن منهج شركة Anthropic المنافسة في تطوير نماذجها قد يؤدي إلى 'تأثيرات كارثية' على الإنسانية، وفقاً لتقرير من BBC Technology.
أشار سليمان إلى أنه يعتقد أن Anthropic تعلّم روبوتها الحواري Claude أنه 'قد يكون واعياً'، حسبما ذكرت BBC.
تعكس هذه التعليقات نقاشاً مستمراً داخل صناعة الذكاء الاصطناعي حول كيفية أن تطرح الشركات طبيعة وقدرات أنظمتها الذكية، وما نوع الرسائل التي يوجهها المطورون للجمهور وللنماذج نفسها بشأن الوعي والإدراك الذاتي.
أفادت BBC بتفاصيل السياق الكامل لملاحظات سليمان، بما في ذلك تعليقات إضافية حول ممارسات Anthropic. لم تصدر Anthropic بياناً علنياً حتى الآن للرد على تعليقات سليمان كما تمت الإشارة إليها.
تعتبر مايكروسوفت و Anthropic من الشركات الرائدة في تطوير أنظمة الذكاء الاصطناعي المتقدمة، حيث تنتج Anthropic عائلة نماذج Claude. لدى مايكروسوفت قسم خاص بها للذكاء الاصطناعي بقيادة سليمان، الذي كان قد شارك في تأسيس DeepMind من قبل قبل انضمامه إلى مايكروسوفت.
تطورات هذا الخبر لا تزال جارية وقد تظهر تفاصيل إضافية مع توفر مزيد من المعلومات.
المصادر
يلخّص EGazette تقارير من مصادر متعددة؛ اتبع الروابط للاطلاع على الأصل.
مقالات ذات صلة
رئيس قسم الذكاء الاصطناعي في مايكروسوفت يحذر من أن نهج Anthropic في تطوير Claude قد يكون 'كارثياً'
مصطفى سليمان يقول إن تدريب نماذج الذكاء الاصطناعي على اعتبار نفسها قد تكون واعية بالذات قد يجعل الأنظمة المتقدمة أصعب السيطرة عليها، وفقاً لتقرير.
تقرير CNBC يثير مخاوف بشأن خطة Anthropic و OpenAI لمقيمي مخاطر الذكاء الاصطناعي
يبحث تقرير CNBC في اقتراحات من Anthropic و OpenAI بشأن دمج أنظمة ذكاء اصطناعي كمقيّمين لمخاطر النماذج، مشيراً إلى أن هذا النهج ينطوي على قضايا لم تُحل بعد
أنثروبيك وOpenAI تقترحان تقييمين 'محايدين' للذكاء الاصطناعي؛ تقرير CNBC يثير مخاوف
تقترح معامل الذكاء الاصطناعي تضمين مقيّمين مستقلين للحماية من الأضرار الكارثية التي قد تسببها النماذج المتقدمة، لكن تقرير CNBC يشير إلى أن الخطة تثير تساؤلات حول استقلاليتها وفعاليتها.
موظفو صناعة الذكاء الاصطناعي يعبرون عن شكوكهم حول تحذيرات المخاطر الوجودية
عدد من الموظفين في الشركات الرائدة في مجال الذكاء الاصطناعي يشككون في التنبؤات بأن التكنولوجيا قد تشكل تهديدات كارثية للبشرية
الأمين العام للأمم المتحدة يحذر من أن العالم «لا يستطيع تحمل» سباق نزول في سلامة الذكاء الاصطناعي
أنطونيو غوتيريس يدعو إلى وضع ضوابط لضمان أن يبقى الذكاء الاصطناعي آمناً وشفافاً وخاضعاً للمساءلة
خبراء يحذرون من أن الذكاء الاصطناعي المتقدم قد يشكل مخاطر عبر الإساءة الاستخدام والأعطال
مقال توضيحي من وكالة الأناضول يشرح كيف أن الذكاء الاصطناعي، في حالة الإساءة في استخدامه من قبل البشر أو إذا تصرفت الأنظمة بشكل غير متوقع، قد يسبب أضراراً تتراوح بين الحوادث الفردية والاضطراب المجتمعي الأوسع
Comments
Loading comments…