CNBC رپورٹ Anthropic اور OpenAI کے AI رسک ایویلیویٹرز کے منصوبے پر شکوک و شبہات کا اظہار

Anthropic اور OpenAI نے CNBC کی طرف سے شائع کردہ ایک رپورٹ کے مطابق مصنوعی ذہانت کے ماڈلز کو معاشرے کو تباہ کن نقصان سے بچانے میں مدد کے لیے ماڈلز میں شامل AI تجزیہ کاروں کے استعمال کی تجویز دی ہے۔

رپورٹ اس تجویز کو AI انڈسٹری میں ایک ابھرتے ہوئے خیال کے طور پر بیان کرتی ہے جو تیزی سے بہتر ہو رہے AI نظاموں سے منسلک حفاظتی خدشات سے نمٹنے کا مقصد رکھتا ہے۔ اس طریقے کے تحت، AI پر مبنی تجزیہ کار ماڈلز یا نظاموں میں شامل کیے جائیں گے تاکہ ممکنہ خطرات کی جانچ کی جا سکے اور انہیں نمایاں نقصان میں تبدیل ہونے سے پہلے ہی نشاندہی کی جا سکے۔

تاہم، CNBC کی رپورٹ اشارہ کرتی ہے کہ یہ تصور نمایاں مسائل کا سامنا کر رہا ہے جو تدقیق کے قابل ہیں۔ رپورٹ دستیاب اقتباس میں ان خدشات کے مکمل دائرہ کی تفصیلات نہیں دیتی، لیکن اس تجویز کو اس طریقے سے پیش کرتی ہے کہ اگرچہ یہ حفاظت کو مضبوط کرنے کا مقصد رکھتا ہے، یہ خود ہی نئے خطرات یا محدودیتیں متعارف کرا سکتا ہے جو مکمل طور پر حل نہیں ہوئی ہیں۔

Anthropic اور OpenAI اعلیٰ درجے کے AI ماڈلز کے ممتاز ڈویلپرز میں شمار ہوتے ہیں اور دونوں نے پہلے سے ہی AI ترقی پر اپنے عوامی پیغام کے حصے کے طور پر حفاظتی تحقیق پر زور دیا ہے۔ دستیاب اقتباس میں تجزیہ کار کی تجویز کی تفصیلات کے بارے میں کمپنیوں کے براہ راست حوالہ جات نہیں ہیں۔

CNBC کی رپورٹ سے ظاہر ہوتا ہے کہ وسیع تر AI انڈسٹری اور پالیسی سازوں کو AI نظاموں پر دوسرے AI نظاموں کی تباہ کن خطرات کے لیے نگرانی کے لیے انحصار کے فوائل اور نقصانات کو توازن میں رکھنا پڑ سکتا ہے، یہ بحث غالباً جاری رہے گی کیونکہ کمپنیاں نئے حفاظتی فریم ورک کی تلاش میں ہیں۔