ٹک ٹاک پر کم عمر بچیوں سے مشابہ اے آئی کی نازیبا ویڈیوز بے نقاب؛ تحقیق

سائنسی جریدے میں شائع ہونے والی ایک تحقیق میں انکشاف کیا گیا ہے کہ مصنوعی ذہانت (اے آئی) سے تیار کی گئی ایسی ویڈیوز سامنے آئی ہیں جن میں کم عمر بچیوں سے مشابہ کرداروں کو نامناسب انداز میں پیش کیا جا رہا ہے۔ اسپین میں قائم ادارے میلڈیٹا کی تحقیق کے مطابق یہ ویڈیوز ٹک ٹاک کے قواعد کے باوجود لاکھوں لائیکس حاصل کرنے میں کامیاب ہوئیں۔

رپورٹ میں بتایا گیا کہ درجن سے زائد ٹک ٹاک اکاؤنٹس کمپیوٹر سے تیار کردہ کم عمر لڑکیوں جیسی ویڈیوز شیئر کر رہے تھے، جن کے مجموعی طور پر لاکھوں فالوورز ہیں۔ محققین کے مطابق اکثر ویڈیوز ٹک ٹاک کے اپنے فیچر AI Alive کے ذریعے بنائی گئیں، جبکہ کچھ مواد بیرونی اے آئی ٹولز سے تیار کیا گیا۔

تحقیق میں یہ بھی سامنے آیا کہ ویڈیوز کے کمنٹ سیکشن میں ٹیلیگرام لنکس موجود تھے جہاں غیر قانونی مواد فروخت کرنے کی پیشکش کی جا رہی تھی۔ ادارے نے ان لنکس کی نشاندہی متعلقہ حکام کو کر دی ہے، تاہم تاحال مؤثر کارروائی نہیں کی گئی۔

ٹک ٹاک کی پالیسی کے مطابق کم عمر افراد کو جنسی انداز میں دکھانا سختی سے ممنوع ہے۔ کمپنی کا کہنا ہے کہ وہ خودکار ٹیکنالوجی اور انسانی ماڈریشن کے ذریعے مواد کی نگرانی کرتی ہے اور 2025 کی دوسری سہ ماہی میں کروڑوں ویڈیوز اور اکاؤنٹس حذف کیے گئے۔

تاہم محققین کا کہنا ہے کہ کئی اکاؤنٹس اور ویڈیوز کو ابتدا میں قواعد کی خلاف ورزی قرار نہیں دیا گیا، جس سے پلیٹ فارم کی ماڈریشن صلاحیت پر سوالات اٹھتے ہیں۔ ڈیجیٹل ماہرین نے خبردار کیا ہے کہ مؤثر نگرانی کے بغیر جنریٹو اے آئی بچوں کے تحفظ کے لیے بڑا خطرہ بن سکتی ہے، اسی تناظر میں دنیا بھر میں سوشل میڈیا قوانین سخت کیے جا رہے ہیں۔