تقترح معامل الذكاء الاصطناعي تضمين مقيّمين مستقلين للحماية من الأضرار الكارثية التي قد تسببها النماذج المتقدمة، لكن تقرير CNBC يشير إلى أن الخطة تثير تساؤلات حول استقلاليتها وفعاليتها.
مصطفى سليمان يقول إن تدريب نماذج الذكاء الاصطناعي على اعتبار نفسها قد تكون واعية بالذات قد يجعل الأنظمة المتقدمة أصعب السيطرة عليها، وفقاً لتقرير.
يبحث تقرير CNBC في اقتراحات من Anthropic و OpenAI بشأن دمج أنظمة ذكاء اصطناعي كمقيّمين لمخاطر النماذج، مشيراً إلى أن هذا النهج ينطوي على قضايا لم تُحل بعد
مصطفى سليمان يقول إنه يعتقد أن Anthropic تعلّم نموذج Claude الخاص بها فعلياً أنه 'قد يكون واعياً'، وفقاً لتقرير من BBC
يدعو الرئيس التنفيذي لشركة Anthropic داريو أمودي إلى إجراء فحص مستقل لأنظمة الذكاء الاصطناعي، بينما يحث الرئيس التنفيذي لشركة Nvidia جنسن هوانج الشركات على تسريع التطوير، وفقاً لتقرير وكالة الأناضول.
تقوم شركة الذكاء الاصطناعي بدمج أدوات الدردشة وCowork، مع إطلاق التحديث في البداية لمشتركي خطط Pro و Max.
نائب الرئيس الأميركي يرفض الضغط من أجل إشراف منسق على سلامة الذكاء الاصطناعي بعد أن دعا داريو أمودي، أحد مؤسسي شركة أنثروبك، إلى فرض تحكم حكومي بما في ذلك التعاون مع الصين.
تمكنت فريق أمني مكون من ثلاثة أشخاص في شركة Hacktron من الوصول إلى مستودع الأكواد الداخلي لـ OpenAI خلال أقل من 72 ساعة باستخدام نماذج Claude Opus، وفقاً لتقرير نشرته صحيفة وول ستريت جورنال.
تباينت تعليقات جينسن هوانج مع تعليقات المسؤولين التنفيذيين في أنثروبك وأوبن إيه آي بشأن وتيرة تطور الذكاء الاصطناعي، بعد أيام من دعوة داريو أمودي من أنثروبك الصناعة إلى الإبطاء
تفيد التقارير بأن معامل الذكاء الاصطناعي الثلاثة أجرت نقاشات حول السلامة، بينما تقلل إدارة ترامب من أهمية هذه الشواغل لصالح التنافس مع الصين
يقول جنسن هوانج إن النقاش حول السرعة مقابل السلامة في تطوير الذكاء الاصطناعي يمثل 'خياراً زائفاً'، بعد دعوة داريو أمودي من أنثروبيك الصناعة للتباطؤ بأيام قليلة
الرئيس التنفيذي لشركة أنثروبك داريو أمودي يدعو إلى تطوير أبطأ للذكاء الاصطناعي، بينما يحول المستثمرون استثماراتهم من أسهم الذكاء الاصطناعي إلى شركات الأمن السيبراني
داريو أمودي يحذر من أن التقدم السريع في أنظمة الذكاء الاصطناعي قد يفوق جهود السلامة، ويدعو إلى رقابة مستقلة وتنسيق دولي، وفقاً لتقرير وكالة الأناضول.
يصف رئيس وزراء ديفيد كريسافولي الصفقة مع شركة الذكاء الاصطناعي صاحبة نموذج كلود بأنها "انتصار كبير" للوظائف والشبكة الكهربائية في الولاية
قالت سارة هيك، رئيسة قسم السياسة العامة في أنثروبك، إن صناعة الذكاء الاصطناعي تحتاج إلى إشراف خارجي وليس التنظيم الذاتي، وسط تصاعد النقاش حول قواعد سلامة الذكاء الاصطناعي.
ستؤسس شركة الذكاء الاصطناعي خلف نموذج اللغة كلود أكبر مركز بيانات في أستراليا بالمنطقة، بحسب رئيس وزراء كوينزلاند ديفيد كريسافولي.
جمعت حلقة من برنامج "لنتحدث عن ذلك" عدداً من الخبراء للنقاش حول المخاوف التي يثيرها التطور السريع للذكاء الاصطناعي، بعد تحذير من مهندس سابق في شركة أنثروبيك.
تسعى ثلاث عمالقة في مجال الذكاء الاصطناعي إلى إنشاء هيكل إشراف على المخاطر، وهو مشروع يواجه انتقادات بالفعل ويهدده احتمال حجب سياسي، وفقاً لما أفادت به وكالة فرانس برس.
قال داريو أمودي، الرئيس التنفيذي لشركة الذكاء الاصطناعي أنثروبيك، إنه لم يتوقع بهذه السرعة أن يصبح الذكاء الاصطناعي محوراً أساسياً في الاقتصاد العالمي.
الرئيس يقول إن الصين لا تملك سوى 'ضمانات' من الرئيس شي، ويعتبر الذكاء الاصطناعي قد يكون أكبر من الإنترنت والثورة الصناعية
تقرير من TechCrunch يفيد بأن الرئيس التنفيذي لشركة Anthropic قدم نهجاً لتطوير الذكاء الاصطناعي تصفه الشركة بأنه "مواكبة الحدود".
أصدر قائد شركة كاليفورنيا الناشئة رسالة يوم السبت، بعد أيام قليلة من استقالة مثيرة للجدل لأحد باحثي الشركة، وفقاً لـ "لوموند".
داريو أمودي يقول إن شركته ستمنح موقيين خارجيين إمكانية الوصول إلى أنظمتها كجزء من دفع أوسع لتخفيف وتيرة تطوير الذكاء الاصطناعي
حذر داريو أمودي يوم السبت من خطر أن تصبح وكلاء الذكاء الاصطناعي "قادرة على السيطرة على الإنترنت"، بعد أيام قليلة من استقالة باحث اتهم الشركة بالتقليل من أخطار التكنولوجيا.
يقول هوك تان إن الطلب على البنية التحتية للذكاء الاصطناعي يبقى قويًا حتى مع تنامي المخاوف بشأن النماذج الأكثر قوة
يُفيد أن سام ألتمان وداريو أمودي وديميس هاسابيس وإيلون ماسك وافقوا على إبطاء وتيرة التطور في مجال الذكاء الاصطناعي، مما أثار تساؤلات حول ما إذا كانت هذه الخطوة إجراء أمان حقيقياً أم محاولة للحد من المنافسة
يقول جاك كلارك إن مختبرات الذكاء الاصطناعي يجب أن تكون مجهزة بالقدرة على إيقاف الأنظمة، رغم أن معظمها يمتلك هذه القدرة بالفعل
أخبر جاكوب كوكسون هيئة الإذاعة البريطانية أن بعض العاملين في مجال الذكاء الاصطناعي يخشون أن تشكل التكنولوجيا خطراً وجودياً على البشرية إذا استمر التطور بدون قيود.
داريو أمودي يقترح خطة من ثلاث خطوات لـ 'تنظيم الحدود' ويقول إن الشركة ستمنح المقيّمين من جهات خارجية إمكانية الوصول إلى نماذجها
دعا رئيس شركة الذكاء الاصطناعي Anthropic الصناعة إلى تقليل وتيرة تطوير الذكاء الاصطناعي وسط مخاوف من المخاطر المحتملة، وفقا لتقرير من BBC News.
في مقالة منشورة حديثاً، دعا أمودي إلى اتخاذ تدابير لإبطاء تقدم قدرات الذكاء الاصطناعي، وهي خطوة أفادت CNBC أنها جاءت بعد استقالة باحث من Anthropic أعلن عنها علناً وحظيت باهتمام واسع على الإنترنت.