خوش مزاج بچی کو خودکشی کے دہانے پہنچا دیا: والدین کا گوگل پر مقدمہ

امریکا کی ریاست کیلیفورنیا کی عدالت میں 13 سالہ طالبہ ‘ایما’ کے والدین نے ٹیک کمپنی گوگل کے خلاف ایک سنگین اور اپنی نوعیت کا پہلا قانونی مقدمہ دائر کر دیا ہے، جس میں الزام عائد کیا گیا ہے کہ ان کی بیٹی نے اسکول سے ملنے والے کروم بک کمپیوٹر پر گوگل سرچ کے آرٹیفیشل انٹیلی جنس (اے آئی) فیچرز استعمال کر کے خودکشی کے طریقوں اور اپنی آخری رسومات کی منصوبہ بندی کی۔

مقدمے کے متن کے مطابق، نارتھ کیرولائنا سے تعلق رکھنے والی ایما ذہنی بیماری کی کوئی تاریخ نہ رکھنے کے باوجود اپنے اسکول کمپیوٹر پر گوگل سرچ میں مدغم اے آئی ٹولز استعمال کرنے کے بعد شدید نفسیاتی بحران کا شکار ہو گئی۔ 17 مارچ کو اسکول مانیٹرنگ سافٹ ویئر کے ذریعے پتہ چلنے پر جب والدین نے بیٹی کے اکاؤنٹ میں لاگ ان کر کے دیکھا تو وہ ریئل ٹائم میں الوداعی خط لکھ رہی تھی، جس پر والد نے بروقت مداخلت کر کے اس کی جان بچائی۔ متاثرہ خاندان کے وکیل اینڈریو لڈل نے مؤقف اپنایا ہے کہ اسکولوں کو گوگل سرچ سروس اس وقت تک مکمل طور پر بند کر دینی چاہیے جب تک سرچ سے اے آئی موڈ ختم نہ کیا جائے، کیونکہ گوگل کے حفاظتی فلٹرز بچوں کے تحفظ میں مکمل ناکام ثابت ہوئے ہیں۔

دوسری جانب گوگل کے ترجمان جوز کاسٹانیڈا کا کہنا ہے کہ وہ دعوؤں کا جائزہ لے رہے ہیں اور ان کے اے آئی موڈ میں خودکشی سے متعلق مواد کو روکنے کے لیے سخت حفاظتی فلٹرز موجود ہیں۔ واضح رہے کہ امریکا میں اے آئی کمپنیوں کو اس طرح کے متعدد قانونی چیلنجز کا سامنا ہے، جن میں اوپن اے آئی کے خلاف 16 سالہ ایڈم رین کی خودکشی کا زیرِ التوا مقدمہ بھی شامل ہے۔ مزید برآں، گوگل، ٹک ٹاک اور میٹا نے کیلیفورنیا کے اس نئے قانون کو روکنے کے لیے بھی عدالت سے رجوع کر رکھا ہے جو 16 سال سے کم عمر بچوں کو سوشل میڈیا کے نشہ آور فیچرز کی فراہمی پر پابندی عائد کرتا ہے۔