Anthropic اور OpenAI نے 'غیرجانبدار' AI تجزیہ کاروں کی تجویز دی ہے؛ CNBC نے اعلیٰ تشویشات کا اشارہ کیا

Anthropic اور OpenAI، جو جدید مصنوعی ذہانت کے نظاموں کے سب سے بڑے ڈیولپرز میں سے ہیں، نے 16 ستمبر کو CNBC کی رپورٹ کے مطابق، AI تجزیہ کاروں کو شامل کرنے کی تجویز دی ہے جو معاشرے کو شدید نقصان پہنچانے والے ماڈلز کے خطرات کو سنبھالنے میں مدد دیں گے۔

رپورٹ اس تصور کو "غیرجانبدار" نگرانی کے ایک طریقے کے طور پر بیان کرتی ہے، جس میں تجزیہ کار AI ماڈلز کی ترقی کے عمل میں شامل ہوں گے یا ان کے ساتھ قریبی تعلق رکھیں گے، بجائے اس کے کہ وہ مکمل طور پر بیرونی یا آزادانہ نگرانوں کے طور پر کام کریں۔

CNBC کے مطابق، یہ تجویز محققین، پالیسی سازوں اور عوام میں بڑھتی ہوئی تشویشات کو دور کرنے کے لیے ہے کہ جدید AI نظام معاشرے کو کس طرح نمایاں نقصان پہنچا سکتے ہیں، چاہے غلط استعمال، غیر ارادی رویے یا دیگر ناکامیوں کے ذریعے جب ٹیکنالوجی مزید طاقتور ہو جائے۔

تاہم، CNBC رپورٹ بتاتی ہے کہ یہ نظریہ تنقید کا شکار ہوا ہے، اور اس بات کے بارے میں سوالات اٹھائے گئے ہیں کہ آیا کمپنیوں کے اندر شامل یا قریبی تعلق رکھنے والے تجزیہ کار وہ قسم کی آزادانہ اور غیرجانبدار تشخیص فراہم کر سکتے ہیں جو موثر نگرانی کے لیے ضروری ہے۔

رپورٹ اس تجویز کی مزید تکنیکی یا ساختی تفصیلات کی نشاندہی نہیں کرتی، اور نہ ہی یہ Anthropic یا OpenAI کے اندر اُن مخصوص افراد کی نشاندہی کرتی ہے جنہوں نے یہ منصوبہ پیش کیا۔ CNBC کی کوریج اس اقدام کو اس وسیع تر جاری بحث کے اندر پیش کرتی ہے کہ AI انڈسٹری، ریگولیٹرز اور بیرونی ماہرین کو سرحدی AI نظاموں کی حفاظت کی تشخیص کے معاملے میں کس طرح تعاون کرنا چاہیے یا الگ رہنا چاہیے۔

Anthropic اور OpenAI دونوں بڑے پیمانے پر AI ماڈلز کے نمایاں ڈیولپرز ہیں اور انہوں نے پہلے AI حفاظت کی تحقیق کے لیے عوامی طور پر اپنی فراہمی کا اظہار کیا ہے۔ تجزیہ کار کی تجویز کی تفصیلات پر نہ تو Anthropic اور نہ ہی OpenAI کے براہ راست بیانات موجودہ رپورٹنگ میں تفصیل سے بیان کیے گئے ہیں۔

یہ بحث AI گورننس کی طرف سے جاری عالمی توجہ کے درمیان آئی ہے، جب حکومتیں اور انڈسٹری گروپ جدید AI نظاموں کی نگرانی اور ریگولیٹ کرنے کے لیے مختلف فریم ورک پر غور کر رہے ہیں۔