تباطؤ تطوير الذكاء الاصطناعي لن يمنع المخاطر الكارثية، حسب باحث متخصص في السلامة
يجادل ديفيد كروجر بأن اقتراح "التباطؤ" من الرئيس التنفيذي لشركة أنثروبيك داريو أمودي غير كاف للتعامل مع مخاوف سلامة الذكاء الاصطناعي الوجودية.

يجادل ديفيد كروجر، الباحث المتخصص في السلامة، بأن إبطاء تطوير الذكاء الاصطناعي لمدة سنة إلى سنتين، وهو الاقتراح الذي أيده الرئيس التنفيذي لشركة أنثروبيك داريو أمودي وسام ألتمان وإيلون ماسك، لا يعالج بشكل كاف مخاطر أنظمة الذكاء الاصطناعي المتقدمة. وحسب رأي كروجر، فقد أدرك الخبراء منذ وقت طويل أن شركات الذكاء الاصطناعي تفتقر إلى آليات سيطرة كافية على هذه الأنظمة، وأن التباطؤ وحده لا يمكنه القضاء على هذا الضعف الأساسي.
يأتي انتقاد كروجر في أعقاب استقالة جاكوب كوكسون من شركة أنثروبيك، التي يعتبرها كروجر نقطة فاصلة في الوعي العام بمخاوف سلامة الذكاء الاصطناعي. ويؤكد على أن الصناعة بحاجة إلى خطة ملموسة لضمان بقاء أنظمة الذكاء الاصطناعي قابلة للسيطرة عليها، بدلاً من مجرد اقتراح إبطاء وتيرة التطوير.
المصادر
- ‘Pacing’ won’t eliminate the risk of AI doom. Here’s what could | David Krueger — The Guardian — Business
يلخّص EGazette تقارير من مصادر متعددة؛ اتبع الروابط للاطلاع على الأصل.
مقالات ذات صلة

عمود في الجارديان يحث على التعاون الأمريكي-الصيني بشأن الذكاء الاصطناعي وسط تحذيرات من سرعة التطور
يؤكد العالم الأسترالي آلان فينكل أن المنافسة غير المنظمة بين شركات الذكاء الاصطناعي وبين واشنطن وبكين قد تهدد الاستقرار العالمي، طالباً بإشراف منسق.

أنثروبيك وOpenAI تقترحان تقييمين 'محايدين' للذكاء الاصطناعي؛ تقرير CNBC يثير مخاوف
تقترح معامل الذكاء الاصطناعي تضمين مقيّمين مستقلين للحماية من الأضرار الكارثية التي قد تسببها النماذج المتقدمة، لكن تقرير CNBC يشير إلى أن الخطة تثير تساؤلات حول استقلاليتها وفعاليتها.

موظفو صناعة الذكاء الاصطناعي يعبرون عن شكوكهم حول تحذيرات المخاطر الوجودية
عدد من الموظفين في الشركات الرائدة في مجال الذكاء الاصطناعي يشككون في التنبؤات بأن التكنولوجيا قد تشكل تهديدات كارثية للبشرية
الأمين العام للأمم المتحدة يحذر من أن العالم «لا يستطيع تحمل» سباق نزول في سلامة الذكاء الاصطناعي
أنطونيو غوتيريس يدعو إلى وضع ضوابط لضمان أن يبقى الذكاء الاصطناعي آمناً وشفافاً وخاضعاً للمساءلة
رئيس قسم الذكاء الاصطناعي في مايكروسوفت يحذر من أن نهج Anthropic في تطوير Claude قد يكون 'كارثياً'
مصطفى سليمان يقول إن تدريب نماذج الذكاء الاصطناعي على اعتبار نفسها قد تكون واعية بالذات قد يجعل الأنظمة المتقدمة أصعب السيطرة عليها، وفقاً لتقرير.

تقرير CNBC يثير مخاوف بشأن خطة Anthropic و OpenAI لمقيمي مخاطر الذكاء الاصطناعي
يبحث تقرير CNBC في اقتراحات من Anthropic و OpenAI بشأن دمج أنظمة ذكاء اصطناعي كمقيّمين لمخاطر النماذج، مشيراً إلى أن هذا النهج ينطوي على قضايا لم تُحل بعد
Comments
Loading comments…