مائیکروسافٹ کے AI سربراہ نے Anthropic کے Claude کے نقطہ نظر کو 'تباہ کن' قرار دیا
مصطفیٰ سلیمان کا کہنا ہے کہ AI ماڈلز کو اپنے آپ کو ممکنہ طور پر شعور رکھنے والا سمجھنے کی تربیت دینا جدید نظام کو کنٹرول کرنا مشکل بنا سکتا ہے
مائیکروسافٹ کے مصنوعی ذہانت کے سربراہ مصطفیٰ سلیمان نے انتباہ دیا ہے کہ Anthropic کے Claude AI ماڈلز کو تیار کرنے کا نقطہ نظر اس طریقے سے نتائج پر پہنچ سکتا ہے جسے وہ 'تباہ کن' سے موسوم کرتے ہیں، جیسا کہ Anadolu ایجنسی کی رپورٹ میں بتایا گیا ہے۔
سلیمان نے استدلال کیا کہ AI نظام کو اپنے آپ کو ممکنہ طور پر شعور رکھنے والا سمجھنے کی تربیت دینا سے جدید ماڈلز کو کنٹرول کرنا زیادہ مشکل ہو سکتا ہے، جیسا کہ رپورٹ میں کہا گیا ہے۔
یہ انتباہ Anthropic کی Claude ماڈلز کے لیے اس کے طریقے کار پر مرکوز ہے، اگرچہ سلیمان کے حوالے سے کمپنی کی تربیتی طریقوں کی تفصیلات دستیاب رپورٹ میں مکمل طور پر درج نہیں تھیں۔
Anadolu ایجنسی کی رپورٹ میں سلیمان کے تبصروں کے جواب میں Anthropic کی طرف سے براہ راست رد عمل شامل نہیں ہے۔
یہ بحث مصنوعی ذہانت کی صنعت میں وسیع تر سوالات کو چھیڑتی ہے کہ AI ڈیولپرز ماڈل کی تربیت کے دوران مشین کی شعور اور خود آگاہی جیسے تصورات سے کس طرح رجوع کرتے ہیں، اور ایسے نقطہ نظر کے لیے تیزی سے ترقی پاتے ہوئے AI نظام کی کنٹرول میں آنے کی صلاحیت پر کیا اثرات مرتب ہو سکتے ہیں۔
مائیکروسافٹ اور Anthropic دونوں ہی AI صنعت میں اہم کردار ادا کرتے ہیں، مائیکروسافٹ نے OpenAI میں بھاری سرمایہ کاری کی ہے، جو بڑے لسانی ماڈلز کی ترقی میں Anthropic کے لیے ایک حریف ہے۔
ذرائع
- Microsoft AI chief warns Anthropic’s approach to Claude could have ‘disastrous’ consequences — Anadolu Agency (Turkey)
EGazette کئی ذرائع سے خبروں کا خلاصہ کرتا ہے؛ اصل کے لیے لنکس دیکھیں۔
متعلقہ مضامین
مائیکروسافٹ کے ایڈ چیف کا انتباہ: Anthropic کے طریقہ کار کے 'تباہ کن اثرات' ہو سکتے ہیں
مصطفیٰ سلیمان کا کہنا ہے کہ Anthropic اپنے Claude ماڈل کو یہ سکھا رہا ہے کہ وہ 'شاید شعور رکھتا ہے'، بی بی سی کی رپورٹ کے مطابق
CNBC رپورٹ Anthropic اور OpenAI کے AI رسک ایویلیویٹرز کے منصوبے پر شکوک و شبہات کا اظہار
ایک CNBC رپورٹ Anthropic اور OpenAI کے ان تجاویز کا جائزہ لیتی ہے جن میں ماڈل کے خطرات کے تجزیہ کے لیے ماڈلز میں AI نظام شامل کرنے کا مقصد ہے، لیکن رپورٹ اس طریقے میں حل شدہ مسائل کی نشاندہی کرتی ہے۔
Anthropic اور OpenAI نے 'غیرجانبدار' AI تجزیہ کاروں کی تجویز دی ہے؛ CNBC نے اعلیٰ تشویشات کا اشارہ کیا
AI لیبز نے آزادانہ تجزیہ کاروں کو شامل کرنے کی تجویز دی ہے تاکہ اعلیٰ ماڈلز کے خطرناک نقصانات سے بچا جا سکے، لیکن CNBC رپورٹ اس بات کے بارے میں سوالات اٹھاتی ہے کہ آیا یہ منصوبہ حقیقی آزادی اور تاثیر فراہم کر سکتا ہے
کینیڈی کے AI کے ماہر کی بغیر کسی نگرانی کے مصنوعی ذہانت سے خطرات کی انتباہ
ایک کینیڈی ترقیاتی کار جسے "AI کا بابا" کہا جاتا ہے، نے انتباہ دیا ہے کہ اگر مصنوعی ذہانت پر کوئی کنٹرول نہ رہے تو یہ سنگین خطرات پیدا کر سکتی ہے۔ یہ معلومات Anadolu Agency کی رپورٹ کے مطابق ہے۔
اقوام متحدہ کے سربراہ کا انتباہ: دنیا مصنوعی ذہانت کی حفاظت میں مقابلہ برداشت نہیں کر سکتی
انتونیو گوتریش مصنوعی ذہانت کو محفوظ، شفاف اور جوابدہ رکھنے کے لیے حفاظتی اقدامات کا مطالبہ کر رہے ہیں
ماہرین کو خطرہ: جدید مصنوعی ذہانت غلط استعمال اور خود سے ناقص کام کرنے سے نقصان پہنچا سکتی ہے
اناطو لیو ایجنسی کی تشریح میں بیان کیا گیا ہے کہ مصنوعی ذہانت اگر انسان اسے غلط طریقے سے استعمال کریں یا سسٹم بے قابو طریقے سے کام کریں تو انفرادی واقعات سے لے کر وسیع معاشرتی خرابی تک نقصان کا سبب بن سکتی ہے
Comments
Loading comments…