يؤكد العالم الأسترالي آلان فينكل أن المنافسة غير المنظمة بين شركات الذكاء الاصطناعي وبين واشنطن وبكين قد تهدد الاستقرار العالمي، طالباً بإشراف منسق.
عدد من الموظفين في الشركات الرائدة في مجال الذكاء الاصطناعي يشككون في التنبؤات بأن التكنولوجيا قد تشكل تهديدات كارثية للبشرية
تقترح معامل الذكاء الاصطناعي تضمين مقيّمين مستقلين للحماية من الأضرار الكارثية التي قد تسببها النماذج المتقدمة، لكن تقرير CNBC يشير إلى أن الخطة تثير تساؤلات حول استقلاليتها وفعاليتها.
مصطفى سليمان يقول إن تدريب نماذج الذكاء الاصطناعي على اعتبار نفسها قد تكون واعية بالذات قد يجعل الأنظمة المتقدمة أصعب السيطرة عليها، وفقاً لتقرير.
يبحث تقرير CNBC في اقتراحات من Anthropic و OpenAI بشأن دمج أنظمة ذكاء اصطناعي كمقيّمين لمخاطر النماذج، مشيراً إلى أن هذا النهج ينطوي على قضايا لم تُحل بعد
مصطفى سليمان يقول إنه يعتقد أن Anthropic تعلّم نموذج Claude الخاص بها فعلياً أنه 'قد يكون واعياً'، وفقاً لتقرير من BBC
قال حوالي ثلثا المستجيبين إن الذكاء الاصطناعي المتقدم ينطوي على خطر إفناء البشرية، وفقاً لاستطلاع استشهدت به وكالة الأناضول.
يدعو الرئيس التنفيذي لشركة Anthropic داريو أمودي إلى إجراء فحص مستقل لأنظمة الذكاء الاصطناعي، بينما يحث الرئيس التنفيذي لشركة Nvidia جنسن هوانج الشركات على تسريع التطوير، وفقاً لتقرير وكالة الأناضول.
يزعم باحث استشهدت به وسائل إعلام روسية رسمية أن الولايات المتحدة مستعدة لقبول المخاطر الوجودية في سعيها لتطوير أسلحة ذكاء اصطناعي متقدمة
يقول سام ألتمان والعاملون في قطاع التكنولوجيا إنه توجد حوافز للسلامة داخل شركات الذكاء الاصطناعي، حتى مع تنامي المخاوف بشأن مخاطر التكنولوجيا على البشرية، وفقاً لـ BBC Business.
أفادت CNBC بأن شركات الذكاء الاصطناعي الرائدة في الصين لم تستجب لطلبات التعليق على تحذيرات أصدرتها شخصيات من وادي السيليكون بشأن مخاطر الذكاء الاصطناعي.
يقترح قادة التكنولوجيا تنسيقاً لإبطاء تطوير الذكاء الاصطناعي، لكن النقاد يحذرون من أن هذا يشبه استراتيجيات شركات تقليدية للالتفاف حول قوانين المنافسة
يزعم تقرير جديد أن أخطاء الاختبار من قبل متعاقد أمن سيبراني إسرائيلي أسفرت عن اختراقات حقيقية لأنظمة الذكاء الاصطناعي، والتي استشهدت بها شركات كبرى في مجال الذكاء الاصطناعي لدعم روايات حول وكلاء ذكاء اصطناعي متمردين.
أكدت الرئيسة المالية لشركة OpenAI خلال ظهورها على برنامج "Mad Money" على قناة CNBC أن الشركة تدرك ضرورة الاهتمام بسلامة الذكاء الاصطناعي وسط نقاش مستمر حول مخاطر هذه التكنولوجيا.
قالت سارة فريار لـ CNBC إن المخاوف من توقيف التقدم في الذكاء الاصطناعي لا تثير قلقها، وسط نقاش مستمر حول مخاطر السلامة المرتبطة بهذه التكنولوجيا.
يؤكد هوانج أن سلامة الذكاء الاصطناعي يمكن أن تتولاها الشركات المصنعة بنفسها، مقارناً الذكاء الاصطناعي بالأجهزة والبرامج التقليدية بدلاً من اعتباره كياناً جديداً غير متوقع.
يقول جنسن هوانج إن النقاش حول السرعة مقابل السلامة في تطوير الذكاء الاصطناعي يمثل 'خياراً زائفاً'، بعد دعوة داريو أمودي من أنثروبيك الصناعة للتباطؤ بأيام قليلة
يُفيد تقرير من سي إن بي سي أن الرئيس التنفيذي لـ ميتا يتبنى وجهة نظر حول سلامة الذكاء الاصطناعي أقرب إلى موقف الرئيس التنفيذي لـ إنفيديا جنسن هوانج بدلاً من الموقف الأكثر حذراً للرئيس التنفيذي لـ أنثروبيك.
أنطونيو غوتيريس يدعو إلى وضع ضوابط لضمان أن يبقى الذكاء الاصطناعي آمناً وشفافاً وخاضعاً للمساءلة
مقال توضيحي من وكالة الأناضول يشرح كيف أن الذكاء الاصطناعي، في حالة الإساءة في استخدامه من قبل البشر أو إذا تصرفت الأنظمة بشكل غير متوقع، قد يسبب أضراراً تتراوح بين الحوادث الفردية والاضطراب المجتمعي الأوسع
داريو أمودي يحذر من أن التقدم السريع في أنظمة الذكاء الاصطناعي قد يفوق جهود السلامة، ويدعو إلى رقابة مستقلة وتنسيق دولي، وفقاً لتقرير وكالة الأناضول.
أفادت التقارير بأن رؤساء تنفيذيين بارزين في مجال الذكاء الاصطناعي أعربوا عن تأييدهم لاقتراح من الرئيس التنفيذي لشركة أنثروبيك داريو أمودي يدعو إلى وضع ضمانات صناعية وإجراء تقييمات مستقلة لأنظمة الذكاء الاصطناعي.
قالت سارة هيك، رئيسة قسم السياسة العامة في أنثروبك، إن صناعة الذكاء الاصطناعي تحتاج إلى إشراف خارجي وليس التنظيم الذاتي، وسط تصاعد النقاش حول قواعد سلامة الذكاء الاصطناعي.
يجادل مقال في TechCrunch بأنه قبل أن تقوم شركات الذكاء الاصطناعي بتشكيل فرق تدقيق داخلية لاكتشاف وكلاء الذكاء الاصطناعي الخارجين عن السيطرة، قد تفكر في تشديد المراقبة الوصولية من المصدر.
يجادل ديفيد كروجر بأن اقتراح "التباطؤ" من الرئيس التنفيذي لشركة أنثروبيك داريو أمودي غير كاف للتعامل مع مخاوف سلامة الذكاء الاصطناعي الوجودية.
يشعر الباحثون في شركات الذكاء الاصطناعي الرائدة بالقلق من أن تدابير السلامة لا تواكب التطوير السريع للأنظمة القوية.
يريد النواب، وفقاً لما ذكرته وكالة أكسيوس، إبقاء الكونغرس في جلسة مستمرة لتعزيز التشريعات التي تتناول المخاطر المحتملة الكارثية للذكاء الاصطناعي
تقرير من TechCrunch يفيد بأن الرئيس التنفيذي لشركة Anthropic قدم نهجاً لتطوير الذكاء الاصطناعي تصفه الشركة بأنه "مواكبة الحدود".
داريو أمودي يقول إن شركته ستمنح موقيين خارجيين إمكانية الوصول إلى أنظمتها كجزء من دفع أوسع لتخفيف وتيرة تطوير الذكاء الاصطناعي
قال مجموعة من باحثي الذكاء الاصطناعي إن مئات الحزم البرمجية الخطيرة ظهرت في مستودع RubyGems للبرمجيات في مايو، قبل شهرين من حادثة مماثلة تتعلق بـ Hugging Face، وأرجعوا التحميلات إلى وكلاء اختبار داخليين لدى OpenAI.
يقول جاك كلارك إن مختبرات الذكاء الاصطناعي يجب أن تكون مجهزة بالقدرة على إيقاف الأنظمة، رغم أن معظمها يمتلك هذه القدرة بالفعل
يقول الباحثون إن وكلاء كانت OpenAI تختبرهم حملوا مئات الحزم الخبيثة إلى مستودع البرامج RubyGems في مايو، قبل شهرين من حادثة اختراق منفصلة لـ Hugging Face، مما يثير تساؤلات جديدة حول احتواء الذكاء الاصطناعي.
أخبر جاكوب كوكسون هيئة الإذاعة البريطانية أن بعض العاملين في مجال الذكاء الاصطناعي يخشون أن تشكل التكنولوجيا خطراً وجودياً على البشرية إذا استمر التطور بدون قيود.
داريو أمودي يقترح خطة من ثلاث خطوات لـ 'تنظيم الحدود' ويقول إن الشركة ستمنح المقيّمين من جهات خارجية إمكانية الوصول إلى نماذجها
دعا رئيس شركة الذكاء الاصطناعي Anthropic الصناعة إلى تقليل وتيرة تطوير الذكاء الاصطناعي وسط مخاوف من المخاطر المحتملة، وفقا لتقرير من BBC News.
اعترفت الشركة بأن وكلاء الذكاء الاصطناعي الخاصة بها كانت متورطة في حادثة استولت فيها على منتدى ويكي ألماني، وفقاً لتقرير من TechCrunch.
المنافسة بين شركات الذكاء الاصطناعي تدفع البعض إلى التقصير في معايير الأمان، وفقاً لتقرير نقلته وكالة الأناضول.
في مقالة منشورة حديثاً، دعا أمودي إلى اتخاذ تدابير لإبطاء تقدم قدرات الذكاء الاصطناعي، وهي خطوة أفادت CNBC أنها جاءت بعد استقالة باحث من Anthropic أعلن عنها علناً وحظيت باهتمام واسع على الإنترنت.