ایکس کا گروک کو تصاویر میں تبدیلی سے روکنے کے لیے اقدامات کا اعلان

ایلون مسک کے پلیٹ فارم ایکس نے بدھ کے روز اپنے اے آئی چیٹ بوٹ گروک کو حقیقی لوگوں کی تصاویر میں لباس اتارنے سے روکنے کے لیے اقدامات کا اعلان کیا- یہ پیش رفت خواتین اور بچوں کی جنسی تصاویر کے خلاف عالمی ردِ عمل کے بعد ہوئی ہے۔

ایکس نے کہا، جن دائرہ اختیار میں ایسی حرکات غیر قانونی سمجھی جاتی ہیں، وہاں یہ اقدام گروک اور ایکس کے تمام صارفین کی "بیکنی، زیرجامے اور اسی طرح کے لباس" میں لوگوں کی تصاویر بنانے کی "صلاحیت کو جغرافیائی لحاظ سے بلاک کر دے گا۔"

ایکس کی سیفٹی ٹیم نے ایک بیان میں کہا، "ہم نے گروک اکاؤنٹ کو حقیقی لوگوں کی تصاویر میں ترمیم مثلاً جسم ظاہر کرنے والے بکنی جیسے لباس میں دکھانے سے روکنے کے لیے تکنیکی اقدامات نافذ کیے ہیں۔"

نیز کہا، "یہ پابندی تمام صارفین بشمول معاوضہ ادا کرنے والے سبسکرائبرز پر نافذ ہوتی ہے۔"

حالیہ ہفتوں میں "غیر رضامندانہ، جنسی طور پر واضح مواد" کی تخلیق سے متعلق کیلیفورنیا کے اٹارنی جنرل نے گروک کے ڈویلپر ایکس اے آئی کے خلاف تحقیقات شروع کر دیں جن کے چند گھنٹے بعد یہ بیان سامنے آیا ہے۔

سادہ متنی کمانڈز مثلاً "اسے بکنی پہنا دو" یا "اس کا لباس اتار دو" کا استعمال کرتے ہوئے گروک کے نام نہاد "سپائسی موڈ" فیچر کے ذریعے صارفین کے لیے خواتین اور بچوں کے جنسی ڈیپ فیکس بنانا ممکن ہو گیا تھا جس کے بعد اسے کنٹرول کرنے کے لیے ایکس اے آئی پر بین الاقوامی دباؤ بڑھ رہا تھا۔

ہفتہ کے روز انڈونیشیا اور اتوار کو ہمسایہ ملک ملائیشیا گروک تک رسائی کو مکمل طور پر روک دینے والے ممالک بن گئے تھے۔

بھارت نے اتوار کو کہا کہ ایکس نے اس کی شکایات کے جواب میں ہزاروں پوسٹس اور سینکڑوں صارف اکاؤنٹس ہٹا دیے تھے۔

برطانیہ کے میڈیا ریگولیٹر آف کام نے پیر کو اس بات کی تحقیقات شروع کرنے کا اعلان کیا کہ آیا ایکس جنسی تصاویر پر برطانوی قانون کی تعمیل کرنے میں ناکام رہا۔

اور فرانس کی کمشنر برائے اطفال سارہ ایل ہیری نے منگل کو کہا کہ انہوں نے گروک کی تیار کردہ تصاویر فرانسیسی پراسیکیوٹرز، آرکوم میڈیا ریگولیٹر اور یورپی یونین کو بھیج دی تھیں۔