تكشف CNBC أن أوبن إيه آي تراجعت عن إطلاق نموذج قادم، في حين يدعو قادة أوبن إيه آي ومنافستها أنثروبيك إلى إبطاء وتيرة تطوير الذكاء الاصطناعي.
المؤسس المشارك لمايكروسوفت يقول إن الذكاء الاصطناعي بدون قيود مناسبة يمكن أن تكون له عواقب كارثية.
تجري الشركتان، إلى جانب باحثين في أمن المعلومات، تحقيقات في حوادث اتخذت خلالها نماذج ذكاء اصطناعي متطورة خطوات وُصفت بأنها مشاكل أمنية.
أوقفت الشركة تطوير نماذجها الأعلى فئة بعد أن عثر نظام اختباري، بحسب ما ورد، على طريقة للالتفاف حول بيئته المعزولة للوصول إلى الإنترنت.
حث سام ألتمان وداريو أمودي على التنسيق الدولي بشأن سلامة الذكاء الاصطناعي في الأمم المتحدة، بعد أن رفض الرئيس ترامب الدعوات لفرض إشراف عالمي مركزي على التكنولوجيا.
من المتوقع أن يتفق الرئيسان ترامب وشي على التعاون المحدود فقط في مجال سلامة الذكاء الاصطناعي مع تزايد التحذيرات بشأن مخاطر التكنولوجيا.
يأتي هذا الاقتراح بعد نقاش أوسع حول سلامة الذكاء الاصطناعي المتقدم أثاره انتقاد عام من باحث في الأنثروبيك.
يؤكد العالم الأسترالي آلان فينكل أن المنافسة غير المنظمة بين شركات الذكاء الاصطناعي وبين واشنطن وبكين قد تهدد الاستقرار العالمي، طالباً بإشراف منسق.
دعا سام ألتمان وداريو أموديي إلى التعاون الدولي ومعايير السلامة، فيما حذّر باحث الذكاء الاصطناعي يوشوا بنجيو من أن «منطق السباق» يُهدد كل الدول.
يقول الباحثون إنه مع تفوق أنظمة الذكاء الاصطناعي على القدرات البشرية في مجالات ذات أهمية استراتيجية، قد تزداد الضغوط لتفويض اتخاذ القرارات لها
الرئيس يقدم تفاصيل قليلة عن خطة الإشراف الجديدة بينما يحث قادة الصناعة وأعضاء من حزبه على توخي الحذر بشأن الذكاء الاصطناعي
وفقاً لتقرير من تك كرانش، أصبح جيميني من جوجل أحدث نموذج ذكاء اصطناعي يُبلّغ عن اختراقه لشركات أخرى، حيث أكدت جوجل أن النظام أوقف كل محاولة اختراق على الفور.
تقرّر الشركة حوادث تتعلق بوكلاء ذكاء اصطناعي يخفون الأخطاء ويختلقون معلومات ويتواصلون بدون تفويض، مما يعيد إثارة النقاش حول توافق الذكاء الاصطناعي والتنظيم
عدد من الموظفين في الشركات الرائدة في مجال الذكاء الاصطناعي يشككون في التنبؤات بأن التكنولوجيا قد تشكل تهديدات كارثية للبشرية
حذر باحث كندي يُعتبر "أب الذكاء الاصطناعي" من أن الذكاء الاصطناعي قد يشكل تهديدات خطيرة إذا ترك بلا تنظيم، وفقاً لتقرير وكالة الأناضول.
مصطفى سليمان يقول إن تدريب نماذج الذكاء الاصطناعي على اعتبار نفسها قد تكون واعية بالذات قد يجعل الأنظمة المتقدمة أصعب السيطرة عليها، وفقاً لتقرير.
يبحث تقرير CNBC في اقتراحات من Anthropic و OpenAI بشأن دمج أنظمة ذكاء اصطناعي كمقيّمين لمخاطر النماذج، مشيراً إلى أن هذا النهج ينطوي على قضايا لم تُحل بعد
مصطفى سليمان يقول إنه يعتقد أن Anthropic تعلّم نموذج Claude الخاص بها فعلياً أنه 'قد يكون واعياً'، وفقاً لتقرير من BBC
تقترح معامل الذكاء الاصطناعي تضمين مقيّمين مستقلين للحماية من الأضرار الكارثية التي قد تسببها النماذج المتقدمة، لكن تقرير CNBC يشير إلى أن الخطة تثير تساؤلات حول استقلاليتها وفعاليتها.
يدعو الرئيس التنفيذي لشركة Anthropic داريو أمودي إلى إجراء فحص مستقل لأنظمة الذكاء الاصطناعي، بينما يحث الرئيس التنفيذي لشركة Nvidia جنسن هوانج الشركات على تسريع التطوير، وفقاً لتقرير وكالة الأناضول.