شركة ناشئة تأسسها موظفون سابقون في Anthropic و METR تجمع 40 مليون دولار للسيطرة على وكلاء الذكاء الاصطناعي
شركة متخصصة في الاكتتاب بالذكاء الاصطناعي تقول إنها طورت طريقة لمنع وكلاء الذكاء الاصطناعي المستقلين من التصرف بطرق غير متوقعة، مدعومة بجولة تمويل Series A جديدة.
جمعت شركة ناشئة تأسسها موظف سابق في المراحل الأولى من Anthropic والرئيس التنفيذي العامل السابق في METR 40 مليون دولار في جولة تمويل Series A تهدف إلى معالجة المخاطر التي يشكلها وكلاء الذكاء الاصطناعي المستقلون، وفقاً لتقرير من TechCrunch.
قالت الشركة، المسماة شركة الاكتتاب بالذكاء الاصطناعي (AIUC)، إنها طورت منهجاً يهدف إلى التحكم أو "السيطرة على" وكلاء الذكاء الاصطناعي الذين يتصرفون بطرق غير مقصودة أو "متوحشة"، وفقاً لما ذكره TechCrunch.
تم قيادة جولة التمويل من قبل Ribbit Capital، مع مشاركة إضافية من First Harmonic، حسب التقرير.
لم يكشف تقرير TechCrunch عن تفاصيل إضافية بشأن التكنولوجيا المحددة لـ AIUC، أو عروض المنتجات، أو تقييم الشركة بعد جولة التمويل.
METR، إحدى المنظمات المذكورة فيما يتعلق بمؤسسي AIUC، معروفة بتقييم قدرات ومخاطر نماذج الذكاء الاصطناعي المتقدمة. أما Anthropic فهي شركة متخصصة في تطوير الذكاء الاصطناعي معروفة بعائلة نماذجها Claude.
أثار ارتفاع وكلاء الذكاء الاصطناعي — الأنظمة المصممة لتنفيذ مهام متعددة الخطوات بشكل مستقل مع إشراف بشري محدود — اهتماماً متزايداً من المستثمرين والباحثين بأدوات يمكنها مراقبة سلوك هذه الوكلاء أو تقييده أو التدقيق فيه.
المصادر
يلخّص EGazette تقارير من مصادر متعددة؛ اتبع الروابط للاطلاع على الأصل.
مقالات ذات صلة
موظفو صناعة الذكاء الاصطناعي يعبرون عن شكوكهم حول تحذيرات المخاطر الوجودية
عدد من الموظفين في الشركات الرائدة في مجال الذكاء الاصطناعي يشككون في التنبؤات بأن التكنولوجيا قد تشكل تهديدات كارثية للبشرية
الأمين العام للأمم المتحدة يحذر من أن العالم «لا يستطيع تحمل» سباق نزول في سلامة الذكاء الاصطناعي
أنطونيو غوتيريس يدعو إلى وضع ضوابط لضمان أن يبقى الذكاء الاصطناعي آمناً وشفافاً وخاضعاً للمساءلة
رئيس قسم الذكاء الاصطناعي في مايكروسوفت يحذر من أن نهج Anthropic في تطوير Claude قد يكون 'كارثياً'
مصطفى سليمان يقول إن تدريب نماذج الذكاء الاصطناعي على اعتبار نفسها قد تكون واعية بالذات قد يجعل الأنظمة المتقدمة أصعب السيطرة عليها، وفقاً لتقرير.
تقرير CNBC يثير مخاوف بشأن خطة Anthropic و OpenAI لمقيمي مخاطر الذكاء الاصطناعي
يبحث تقرير CNBC في اقتراحات من Anthropic و OpenAI بشأن دمج أنظمة ذكاء اصطناعي كمقيّمين لمخاطر النماذج، مشيراً إلى أن هذا النهج ينطوي على قضايا لم تُحل بعد
عمود في الجارديان يحث على التعاون الأمريكي-الصيني بشأن الذكاء الاصطناعي وسط تحذيرات من سرعة التطور
يؤكد العالم الأسترالي آلان فينكل أن المنافسة غير المنظمة بين شركات الذكاء الاصطناعي وبين واشنطن وبكين قد تهدد الاستقرار العالمي، طالباً بإشراف منسق.
أنثروبيك وOpenAI تقترحان تقييمين 'محايدين' للذكاء الاصطناعي؛ تقرير CNBC يثير مخاوف
تقترح معامل الذكاء الاصطناعي تضمين مقيّمين مستقلين للحماية من الأضرار الكارثية التي قد تسببها النماذج المتقدمة، لكن تقرير CNBC يشير إلى أن الخطة تثير تساؤلات حول استقلاليتها وفعاليتها.
Comments
Loading comments…