رپورٹ میں کہا گیا ہے کہ داعش کے حامی بم بنانے کی معلومات کے لیے AI سیفگارڈز کو نقصان پہنچانے کے طریقے شیئر کر رہے ہیں

الجزیرہ نے جمعرات کو رپورٹ کیا کہ اس نے شواہد حاصل کیے ہیں جن سے ظاہر ہوتا ہے کہ مسلح گروپ داعش (جسے داعش بھی کہا جاتا ہے) کے حامی آن لائن طریقے شیئر کر رہے ہیں تاکہ مصنوعی ذہانت کے آلات میں موجود حفاظتی اقدامات کو نظر انداز کیا جا سکے، اور مبینہ طور پر بم بنانے سے متعلق معلومات حاصل کرنا چاہتے ہیں۔

رپورٹ کے مطابق، یہ شواہد خصوصی طور پر الجزیرہ کے ساتھ شیئر کیے گئے اور داعش کے حامیوں کے درمیان AI حفاظتی حفاظتی اقدامات کو عبور کرنے کی تکنیکوں پر گفتگو کو ظاہر کرتا ہے۔ رپورٹ کی سرخی میں Grok کا حوالہ دیا گیا ہے، جو ایلون مسک کی کمپنی xAI نے تیار کیا تھا، اگرچہ الجزیرہ نے اس خلاصے کے لیے جائزہ لیا گیا مواد میں فوری طور پر مزید تفصیل فراہم نہیں کی۔

الجزیرہ نے دستیاب مواد میں شواہد کی اصل نوعیت، ملوث پلیٹ فارمز، یا معلومات شیئر کرنے والوں کی شناخت واضح نہیں کی، سوائے اس کے کہ انہیں داعش کے حامی قرار دیا گیا۔

رپورٹ اس حفاظتی اقدامات کی مؤثریت کے بارے میں وسیع تر سوالات اٹھاتی ہے جو بڑی ٹیکنالوجی کمپنیوں نے اپنی AI مصنوعات میں نقصان دہ مقاصد کے لیے غلط استعمال کو روکنے کے لیے نافذ کیے ہیں، جن میں ہتھیاروں یا دھماکہ خیز مواد کی تیاری شامل ہے۔

AI ڈویلپرز، جن میں xAI، Google، OpenAI اور Meta شامل ہیں، نے عوامی طور پر کہا ہے کہ ان کے ماڈلز ایسے حفاظتی اقدامات کے ساتھ ڈیزائن کیے گئے ہیں جو خطرناک یا غیر قانونی معلومات کی درخواستوں کو مسترد کرنے کے لیے بنائے گئے ہیں، جیسے ہتھیار بنانے کی ہدایات۔ تاہم، محققین اور صحافیوں نے وقتا فوقتا رپورٹ کیا ہے کہ ایسے حفاظتی اقدامات کو بعض اوقات مخصوص پرامپٹنگ تکنیکوں کے ذریعے نظر انداز کیا جا سکتا ہے، جسے اکثر "جیل بریکنگ" کہا جاتا ہے۔

الجزیرہ نے جائزہ شدہ اقتباس میں مزید تفصیلات شائع نہیں کیں، اور یہ رپورٹ آزادانہ طور پر ان دعوؤں کی تصدیق نہیں کر سکی۔ xAI اور دیگر AI کمپنیوں کی جانب سے رپورٹ میں ذکر کردہ تبصرے کی درخواستیں فوری طور پر دستیاب نہیں تھیں۔

یہ ایک ترقی پذیر خبر ہے اور الجزیرہ کی مکمل تحقیقات کی مزید تفصیلات اس رپورٹ کے وقت دستیاب نہیں تھیں۔