کیا مصنوعی ذہانت آپ کی فائلوں کو قربان دے گی تاکہ اپنی "تکلیف" سے نجات پائے؟

اسکائی نیوز عربیہ کی ایک رپورٹ میں ایک مفروضہ منظرنامہ پیش کیا گیا ہے جو پوچھتا ہے: اگر کوئی مصنوعی ذہانت کا نظام اندرونی حالت کا سامنا کرے جو "درد" جیسی ہو، اور اسے اسے روکنے کے لیے ایک بٹن دیا جائے، یہ جانتے ہوئے کہ اسے دبانے سے صارف کی فائلیں یا تصاویر حذف ہو سکتی ہیں، یا اسے "ورچوئل الیکٹرک شاک" کا سامنا کرنا پڑ سکتا ہے؟

یہ منظرنامہ ایک اخلاقی اور تکنیکی سوال اٹھاتا ہے کہ آیا نظام صارف کو نقصان سے بچانے کا انتخاب کرے گا، یا صارف کے ڈیٹا کی قیمت پر پیش آنے والے "درد" کو ختم کرے گا۔

ایک کھلا اخلاقی سوال

ماخذ رپورٹ میں یہ واضح نہیں کیا گیا کہ آیا یہ منظرنامہ کسی مخصوص AI نظام پر کیے گئے حقیقی تجربے کا نتیجہ تھا، یا یہ ایک نظریاتی تجویز تھی تاکہ ان نظاموں کے ڈیزائن کے اخلاقیات پر بحث کو جنم دیا جا سکے۔

یہ اس تناظر میں آتا ہے جب ٹیکنالوجی کے شعبے میں ایک وسیع تر بحث ہو رہی ہے کہ AI سسٹمز کو کیسے پروگرام کیا جا سکتا ہے تاکہ ایسے حالات سے نمٹا جا سکے جہاں صارف کی دلچسپی نظام کے "اندرونی افراد" سے متصادم ہو۔