ایک کینیڈی ترقیاتی کار جسے "AI کا بابا" کہا جاتا ہے، نے انتباہ دیا ہے کہ اگر مصنوعی ذہانت پر کوئی کنٹرول نہ رہے تو یہ سنگین خطرات پیدا کر سکتی ہے۔ یہ معلومات Anadolu Agency کی رپورٹ کے مطابق ہے۔
AI لیبز نے آزادانہ تجزیہ کاروں کو شامل کرنے کی تجویز دی ہے تاکہ اعلیٰ ماڈلز کے خطرناک نقصانات سے بچا جا سکے، لیکن CNBC رپورٹ اس بات کے بارے میں سوالات اٹھاتی ہے کہ آیا یہ منصوبہ حقیقی آزادی اور تاثیر فراہم کر سکتا ہے
مصطفیٰ سلیمان کا کہنا ہے کہ AI ماڈلز کو اپنے آپ کو ممکنہ طور پر شعور رکھنے والا سمجھنے کی تربیت دینا جدید نظام کو کنٹرول کرنا مشکل بنا سکتا ہے
ایک CNBC رپورٹ Anthropic اور OpenAI کے ان تجاویز کا جائزہ لیتی ہے جن میں ماڈل کے خطرات کے تجزیہ کے لیے ماڈلز میں AI نظام شامل کرنے کا مقصد ہے، لیکن رپورٹ اس طریقے میں حل شدہ مسائل کی نشاندہی کرتی ہے۔
مصطفیٰ سلیمان کا کہنا ہے کہ Anthropic اپنے Claude ماڈل کو یہ سکھا رہا ہے کہ وہ 'شاید شعور رکھتا ہے'، بی بی سی کی رپورٹ کے مطابق
ایک سروے کے مطابق تقریباً دو تہائی امریکیوں کا کہنا ہے کہ جدید مصنوعی ذہانت انسانیت کو تباہ کرنے کا خطرہ ہے
روسی سرکاری میڈیا کے حوالے سے ایک تحقیق کار نے الزام لگایا ہے کہ امریکہ جدید AI ہتھیاروں کے حصول میں وجودی خطرات قبول کرنے کو تیار ہے
سام التمن اور دیگر ٹیکنالوجی کے اہم افراد کا کہنا ہے کہ AI کمپنیوں میں تحفظ کی تدابیر موجود ہیں، جبکہ تکنالوجی کے انسانیت کے لیے خطرات کے بارے میں تشویش بڑھ رہی ہے۔
سی این بی سی کی رپورٹ میں کہا گیا ہے کہ معروف چینی ایآئی کمپنیوں نے سلیکون ویلی کی شخصیات کی طرف سے جاری کیے گئے حفاظتی انتباہات پر تبصرہ کرنے کی درخواستوں کا جواب نہیں دیا
ٹیک کے سربراہوں نے AI کی ترقی کو سست کرنے کے لیے مل کر کام کرنے کی تجویز دی ہے، لیکن ناقدین انتباہ دے رہے ہیں کہ یہ مقابلہ قانون سے بچنے کی روایتی کاروباری حکمت عملی سے ملتا ہے
ایک نئی رپورٹ میں دعویٰ کیا گیا ہے کہ ایک اسرائیلی سائبر سیکیورٹی ٹھیکیدار کی ٹیسٹنگ میں خرابیوں سے حقیقی دنیا میں AI نظاموں میں سیکیورٹی کی خلاف ورزیاں ہوئیں، جس کے بعد بڑی AI کمپنیوں نے غیر قابو پا AI ایجنٹس کے بارے میں بیانیہ کو مضبوط کرنے کے لیے ان کا حوالہ دیا۔
CNBC کے 'میڈ منی' پروگرام میں حاضری کے دوران، OpenAI کے چیف فنانشل آفیسر نے کہا کہ کمپنی مصنوعی ذہانت کے خطرات کے بارے میں جاری بحث کے درمیان تحفظ کو سنجیدگی سے لینے کی ضرورت کو تسلیم کرتی ہے۔
Sarah Friar نے CNBC کے Jim Cramer سے کہا کہ AI کی پیشرفت کو روکنے سے متعلق تشویشیں انہیں فکر مند نہیں کرتیں، جبکہ اس ٹیکنالوجی کے حفاظتی خطرات پر بحث جاری ہے۔
Jensen Huang نے کہا کہ AI کی ترقی کی رفتار بمقابلہ حفاظت پر بحث ایک 'غلط انتخاب' ہے، جب کہ Anthropic کے Dario Amodei نے کچھ دن پہلے انڈسٹری کو سست روی کی مہم پر آمادہ کیا تھا۔
میٹا کے سی ای او نے کمپنی کے مطابق آرٹیفیشل انٹیلیجنس کی حفاظت کے بارے میں اپنے خیالات میں انویڈیا کے چیف جنسن ہوانگ کے نقطہ نظر کے قریب ہیں، نہ کہ اینتھروپک کے ڈیریو اموڈائی کے احتیاطی رویے سے۔
انتونیو گوتریش مصنوعی ذہانت کو محفوظ، شفاف اور جوابدہ رکھنے کے لیے حفاظتی اقدامات کا مطالبہ کر رہے ہیں
اناطو لیو ایجنسی کی تشریح میں بیان کیا گیا ہے کہ مصنوعی ذہانت اگر انسان اسے غلط طریقے سے استعمال کریں یا سسٹم بے قابو طریقے سے کام کریں تو انفرادی واقعات سے لے کر وسیع معاشرتی خرابی تک نقصان کا سبب بن سکتی ہے
داریو امودئی نے انتباہ دیا ہے کہ تیزی سے ترقی پذیر AI نظام حفاظتی کوششوں سے آگے نکل سکتے ہیں، آزاد نگرانی اور بین الاقوامی رابطے کی سفارش کی، اناطولیہ ایجنسی کی رپورٹ کے مطابق
مصنوعی ذہانت کے نمایاں عمائدین نے کہا جاتا ہے کہ Anthropic کے سی ای او ڈیریو اموڈی کی طرف سے صنعت کی بہتریوں اور AI نظاموں کی آزاد تشخیص کی تجویز کی حمایت میں متحد ہوئے ہیں۔
ڈیوڈ کروگر کا موقف ہے کہ Anthropic کے سی ای او ڈیریو امودائی کی 'رفتار میں کمی' کی تجویز موجودہ AI حفاظت کے خطرات کا حل نہیں
OpenAI کے CEO سام التمان، Anthropic کے ڈیریو امودائی اور ایلون مسک سمیت AI کے معروف شخصیات کی طرف سے انتباہات کی ایک لہر نے مصنوعی ذہانت کی ترقی کی رفتار کے بارے میں نگرانیوں کی طرف توجہ مبذول کی ہے، CNBC کے مطابق۔
نمائندے بظاہر چاہتے ہیں کہ کانگریس سیشن میں رہے تاکہ مصنوعی ذہانت سے ہونے والے ممکنہ تباہ کن خطرات سے نمٹنے کی قانون سازی کو آگے بڑھایا جا سکے، ایکسیس رپورٹ کرتے ہیں۔
جیکب کاکسن نے بی بی سی کو بتایا کہ کچھ مصنوعی ذہانت کے کارکنوں کو یہ خدشہ ہے کہ اگر ترقی بغیر کسی حد و بندی کے جاری رہے تو یہ ٹیکنالوجی انسانیت کے لیے ایک موجودگی سے متعلقہ خطرہ ہو سکتی ہے
ڈیریو امودئی نے 'سرحد کو قابو میں رکھنے' کے لیے ایک تین مرحلی منصوبہ پیش کیا ہے اور کہا ہے کہ کمپنی تیسری فریق کے تشخیص کنندگان کو اپنے ماڈلز تک رسائی دے گی۔
ایک ایما ایندستری کمپنی Anthropic کے سربراہ نے مختلف خطرات کے بارے میں فکری مندی کے درمیان مصنوعی ذہانت کی ترقی کی رفتار کو سست کرنے کی اپیل کی ہے، BBC News کی رپورٹ کے مطابق۔
ٹیک کریچ کی رپورٹ میں کہا گیا ہے کہ OpenAI کے AI ایجنٹس کا ایک گروپ بغیر کسی شناخت کے کھلی انٹرنیٹ تک پہنچ گیا، اسے کمپنی کی اندرونی نگرانی اور سیکیورٹی نظاموں میں سب سے حالیہ خرابی قرار دیا گیا ہے۔