Anthropic کے سابق محقق کا کہنا ہے کہ AI کے عملے کو تیزی سے ترقی سے 'سنجیدہ خوف' ہے

Anthropic میں ایک سابق محقق، جو Claude چیٹ بوٹ کے پیچھے کی مصنوعی ذہانت کمپنی ہے، نے بی بی سی کو بتایا ہے کہ AI انڈسٹری کے اندر کے عملے بغیر کسی حد و بندی کے ٹیکنالوجی کی ترقی کے ممکنہ نتائج کے بارے میں "سنجیدہ طور پر خوفزدہ" ہیں۔

جیکب کاکسن نے کہا کہ اگر AI کی ترقی کی رفتار کو سست نہ کیا جائے یا بہتر طریقے سے ریگولیٹ نہ کیا جائے تو اس کے انسانیت کے مستقبل کے لیے خطرہ بننے کا خطرناک امکان ہے، بی بی سی کے مطابق۔

کاکسن کے تبصرے ان افراد کی طرف سے اظہار شدہ تشویش کی بڑھتی ہوئی فہرست میں اضافہ کرتے ہیں جنہوں نے جدید AI کے نظاموں کے ساتھ قریب سے کام کیا ہے، جن میں سے کچھ لوگوں نے اس شعبے میں تیز رفتار، بڑی حد تک بے نیاز ترقی سے متعلقہ خطرات کے بارے میں سرعام انتباہ دیے ہیں۔

Anthropic، جس کا بانی OpenAI کے سابق ملازمین میں سے کچھ ہیں، نے اپنے آپ کو AI سیفٹی پر توجہ دینے والی کمپنی کے طور پر پیش کیا ہے، اور اس کی قیادت نے اس ٹیکنالوجی کی نگرانی کی ضرورت کے بارے میں پہلے کہا ہے جو وہ تیار کرتے ہیں۔

بی بی سی کی رپورٹ میں کاکسن کے موجودہ کردار یا Anthropic سے ان کے روانگی کی درست نوعیت کی مزید تفصیلات درج نہیں ہیں۔ کمپنی کے کاکسن سے منسوب تبصروں کے جواب میں کوئی بیان دینے کی اطلاع نہیں دی گئی ہے۔

AI کی ترقی کی رفتار کے بارے میں تشویش حالیہ برسوں میں محققین، ایگزیکٹوز اور پالیسی سازوں کی طرف سے بار بار اٹھائی گئی ہے، اور اس بارے میں بحثیں جاری رہتی ہیں کہ اس ٹیکنالوجی کو بین الاقوامی سطح پر کس طریقے سے منظم کیا جائے۔