سرکٹ بریکر لیبز نے "کریش ٹیسٹ ڈمیز" کے ذریعے اے آئی تعاملات کو محفوظ بنانے کا ہدف رکھا

سرکٹ بریکر لیبز نامی ایک اسٹارٹ اپ نے دعویٰ کیا ہے کہ اس نے یہ جانچنے کا ایک طریقہ تیار کیا ہے کہ مصنوعی ذہانت کے نظام — حقیقی لوگوں سے تعامل کرنے سے پہلے — کمزور صارفین، بشمول بچوں، کو کس طرح متاثر کرتے ہیں۔

کمپنی کا طریقۂ کار ان چیزوں پر مبنی ہے جنہیں وہ "کریش ٹیسٹ ڈمیز" کہتی ہے — یعنی مصنوعی کردار جو یہ جانچنے کے لیے ڈیزائن کیے گئے ہیں کہ اے آئی چیٹ بوٹس اور دیگر نظام حساس یا خطرناک گفتگو کے منظرناموں میں کیسے ردعمل ظاہر کرتے ہیں۔

یہ کوشش اس بڑھتی ہوئی تشویش کا جواب ہے کہ اے آئی نظاموں کے بارے میں اکثر طویل مدتی وجودی خطرات کے تناظر میں بات کی جاتی ہے، لیکن یہ نظام کچھ صارفین کو پہلے سے ہی زیادہ فوری اور روزمرہ کے تعاملات میں نفسیاتی نقصان پہنچا چکے ہیں۔

سرکٹ بریکر لیبز کا کام ایک ایسے سیکیورٹی ٹول کے طور پر پیش کیا گیا ہے جسے ڈویلپرز اپنی اے آئی مصنوعات میں کمزور صارفین کے ساتھ پیش آنے کے طریقے میں خامیوں کی نشاندہی کے لیے استعمال کر سکتے ہیں — نہ کہ اسے ایک صارفین کے لیے براہ راست مصنوع کے طور پر۔

کمپنی نے اپنے تجربے کے طریقۂ کار کی تکنیکی تفصیلات ظاہر نہیں کیں اور نہ ہی یہ بتایا کہ کون سے اے آئی ڈویلپرز، اگر کوئی ہیں، اس وقت اس کے ٹولز استعمال کر رہے ہیں۔