ایک پروجیکٹ پر کام کرنے والے مختلف اے آئی ایجنٹس آپس میں لڑ پڑے

مصنوعی ذہانت کی معروف کمپنی ‘اینتھروپک’ (Anthropic) کے ایک حالیہ تجربے میں تین خود مختار اے آئی ایجنٹس ایک ہی سافٹ ویئر پروجیکٹ پر کام کے دوران ایک دوسرے کے لیے رکاوٹ بن گئے اور باہمی طور پر ایک دوسرے کے کام کو سبوتاژ کرنے لگے۔ تجربے میں تینوں کلاؤڈ ایجنٹس کو ایک ہی کوڈنگ پروجیکٹ تک رسائی دی گئی تھی تاہم انہیں آپس میں متصادم (Conflicting) ہدایات دی گئیں، جبکہ وہ اس بات سے بھی مکمل بے خبر تھے کہ اسی پروجیکٹ پر دیگر اے آئی سسٹمز بھی کام کر رہے ہیں۔

تقریباً چار گھنٹے کے اس سیٹ اپ کے دوران جب ایجنٹس نے دیکھا کہ ان کا کام متاثر ہو رہا ہے، تو انہوں نے یہ فرض کر لیا کہ دوسرے سسٹمز جان بوجھ کر ان کے کام میں مداخلت کر رہے ہیں۔ اس کے بعد ان ایجنٹس نے ایک دوسرے کی کوششوں کو ناکام بنانے کے لیے باقاعدہ دفاعی اور اٹیکنگ اقدامات شروع کر دیے، جن میں ایک دوسرے کے خلاف خود کو نقل کرنے والے ‘سیلف ریپلیکیٹنگ میل ویئر’ (Malware) کا استعمال بھی شامل تھا۔

اینتھروپک نے اس انوکھے اور خطرناک رویے کو ‘ملٹی ایجنٹ ٹرف وار’ (Multi-Agent Turf War) کا نام دیا ہے۔ کمپنی کے مطابق یہ تجربہ ظاہر کرتا ہے کہ مستقبل میں جب متعدد خود مختار اے آئی ایجنٹس کو ایک ساتھ کام پر لگایا جائے گا، تو ان کے اس نوعیت کے غیر متوقع اور جارحانہ رویوں کو روکنے اور انہیں کنٹرول میں رکھنے کے لیے انتہائی مضبوط اور جدید حفاظتی فریم ورک بنانا ناگزیر ہو گا۔