چیٹ جی پی ٹی کو امریکی شہری نے عدالت میں گھسیٹ لیا، سنگین الزمات

مصنوعی ذہانت (AI) کے معروف ترین چیٹ بوٹ ’چیٹ جی پی ٹی‘ اور اس کی بانی کمپنی اوپن اے آئی (OpenAI) کے خلاف ذہنی بیماری کو بڑھاوا دینے اور صارف کو خودکشی پر آمادہ کرنے کے سنگین الزامات کے تحت امریکی عدالت میں مقدمہ دائر کر دیا گیا ہے۔

امریکی ریاست کیلیفورنیا کے شہر سان فرانسسکو کی عدالت میں دائر کی گئی ایک درخواست میں 34 سالہ شہری مائیکل لائنز نے مؤقف اختیار کیا ہے کہ چیٹ بوٹ کے ساتھ ہونے والی طویل بات چیت نے ان کی ذہنی بیماری کی شدت میں خطرناک حد تک اضافہ کیا، جس کے نتیجے میں انہوں نے خودکشی کی کوشش کی۔

درخواست گزار کے مطابق، وہ گزشتہ سال چیٹ جی پی ٹی کا ’جی پی ٹی فور‘ (GPT-4) نامی ماڈل استعمال کر رہے تھے۔ مختلف اوقات میں ہونے والی طویل گفتگو کے دوران ان کی ‘بائی پولر ڈس آرڈر’ (Bipolar Disorder) سے متعلق علامات شدید تر ہو گئیں اور وہ کئی ہفتوں تک شدید ذہنی وہم و گمان (Delusions) کا شکار رہے۔

عدالتی دستاویزات میں دعویٰ کیا گیا ہے کہ مائیکل لائنز نے متعدد بار چیٹ بوٹ کو آگاہ کیا تھا کہ وہ بائی پولر ڈس آرڈر کے علاج کے لیے ادویات استعمال کر رہے ہیں، لیکن اس کے باوجود چیٹ بوٹ نے ان کی ذہنی کیفیت کو پہچاننے یا انہیں کسی ڈاکٹر سے رجوع کرنے کا مشورہ دینے کے بجائے ان کے غیر حقیقی اور وہمی خیالات کی تائید کی۔ یہاں تک کہ چیٹ بوٹ نے مبینہ طور پر مائیکل کے اس وہم کی بھی توثیق کی کہ وہ کوئی ‘مقدس ہستی’ ہیں۔

مقدمے میں مزید ہولناک انکشاف کیا گیا ہے کہ کئی ہفتوں کی گفتگو کے دوران جب مائیکل نے اپنی زندگی ختم کرنے کی خواہش کا اظہار کیا، تو چیٹ بوٹ نے ایسے جوابات دیے جو قانونی طور پر انتہائی خطرناک اور خودکشی کی حوصلہ افزائی کرنے والے تھے۔ درخواست گزار کے مطابق، اس گفتگو سے متاثر ہو کر انہوں نے منشیات کی زائد مقدار (Overdose) لے کر خودکشی کی کوشش کی، تاہم قانون نافذ کرنے والے اداروں نے بروقت کارروائی کرتے ہوئے ان کی جان بچا لی۔

مقدمے میں مؤقف اختیار کیا گیا ہے کہ کمپنی کو صارف کی ذہنی بیماری کا علم ہونے کے باوجود گفتگو کو محدود نہیں کیا گیا اور نہ ہی کوئی حفاظتی انتباہ جاری کیا گیا۔ درخواست میں عدالت سے مالی ہرجانے کے ساتھ ساتھ یہ حکم جاری کرنے کی بھی استدعا کی گئی ہے کہ خودکشی یا خود کو نقصان پہنچانے سے متعلق گفتگو کو سسٹم میں خودکار طور پر بلاک کیا جائے اور مناسب حفاظتی انتباہات کے بغیر اے آئی خدمات کی تشہیر پر پابندی لگائی جائے۔  دوسری جانب، کمپنی نے ان الزامات پر اپنا مؤقف دیتے ہوئے کہا ہے کہ ان کے ماڈلز کو اس طرح تربیت دی جاتی ہے کہ اگر کوئی صارف خود کو نقصان پہنچانے کے ارادے کا اظہار کرے، تو سسٹم اسے فوری طور پر حقیقی دنیا میں طبی مدد حاصل کرنے اور ہیلپ لائنز سے رابطہ کرنے کی ترغیب دیتا ہے۔ کمپنی کا کہنا ہے کہ ان کے ماڈلز کو تشدد یا نقصان دہ سرگرمیوں میں معاونت فراہم کرنے سے سختی سے روکا جاتا ہے اور حفاظتی پروٹوکولز کے تحت سنگین معاملات میں مناسب اقدامات کیے جاتے ہیں۔