Anthropic کے سی ای او نے AI کی ترقی کی رفتار کو سست کرنے کا مطالبہ کیا

مصنوعی ذہانت کی کمپنی Anthropic کے چیف ایگزیکٹو ڈیریو امودئی نے ایک مضمون میں کہا ہے کہ اب وقت آ گیا ہے AI کے نظاموں کی ترقی کو سست کیا جائے۔

امودئی نے اس بات کو "سرحد کو قابو میں رکھنے" کے نام سے ایک تین مرحلی منصوبہ پیش کیا ہے، جس سے وہ اس رفتار میں اعتدال پسندی کا مطلب دے رہے ہیں جس سے AI کی صلاحیتیں آگے بڑھتی ہیں۔

اس منصوبے کے حصے کے طور پر، Anthropic نے کہا ہے کہ وہ تیسری فریق کے تشخیص کنندگان، بشمول METR تنظیم کے، کو اپنے AI ماڈلز تک رسائی فراہم کرے گی۔ کمپنی نے کہا ہے کہ یہ رسائی "حفاظتی طریقہ کار اور وعدوں کی پیروی" کو یقینی بنانے کے لیے مقصود ہے۔

The Verge کی رپورٹ کے مطابق، امودئی کے مضمون میں اس تجویز کردہ سست رفتار کے لیے اس کی دلیلیں بیان کی گئی ہیں، اگرچہ منصوبے کی مزید تفصیلات اس حصے میں فوری طور پر دستیاب نہیں تھیں جس کا جائزہ لیا گیا۔

Anthropic نے اپنے آپ کو AI کی حفاظت پر توجہ مرکوز کرنے والی کمپنی کے طور پر پہلے سے پیش کیا ہے، اور امودئی نے ماضی میں تیز رفتار AI کی ترقی سے منسلک خطرات کے بارے میں عوامی طور پر بات کی ہے۔