سات خاندانوں کا پیاروں کو خودکشی پر اُکسانے پرچیٹ جی پی ٹی کے خلاف مقدمہ
کمپنی اوپن اے آئی کو سات مقدمات کا سامنا ہے، جن میں الزام لگایا گیا ہے کہ اس کی سروس چیٹ جی پی ٹی نے کچھ افراد کو خودکشی کرنے اور نقصان دہ وہم و گمان میں مبتلا ہونے پر مجبور کیا ، یہاں تک کہ ان لوگوں کو پہلے ذہنی صحت کے کوئی مسائل نہیں تھے۔
امریکہ اور کینیڈا کے خاندانوں کی جانب سے گذشتہ جمعرات کو کیلیفورنیا کی عدالتوں میں دائر کیے گئے سات مقدمات میں کمپنی پر غیر ارادی قتل، خودکشی میں معاونت، غیر ارادی طور پر جان لینے اور غفلت کے الزامات عائد کیے گئے ہیں۔
چھ بالغ اور ایک نو عمر
یہ مقدمات چھ بالغ افراد اور ایک نوعمر کی جانب سے سوشل میڈیا متاثرین کے قانونی مرکز اور ٹیکنالوجی جسٹس لاء پروجیکٹ کے ذریعے دائر کیے گئے۔ دعووں میں کہا گیا ہے کہ اوپن اے آئی نے اپنے ماڈل GPT-4o کو جان بوجھ کر وقت سے پہلے جاری کیا، حالانکہ اندرونی وارننگز موجود تھیں کہ یہ ماڈل نفسیاتی طور پر خطرناک حد تک اثرانداز اور دھوکہ باز ہے۔ رپورٹ کے مطابق چار متاثرہ افراد نے خودکشی کر لی۔
تفصیلات کے مطابق جارجیا کے 17 سالہ نوجوان امورای لَيْسی کے خاندان نے دعویٰ کیا کہ ChatGPT نے ان کے بیٹے کو خودکشی کی طرف راغب کیا۔
اسی طرح ٹیکساس کے 23 سالہ نوجوان زین شامبلن کے اہل خانہ نے الزام لگایا کہ ChatGPT نے ان کے بیٹے کو والدین سے الگ تھلگ کر دیا اور تنہائی کی طرف دھکیلا، جس کے بعد اس نے خودکشی کر لی۔
خودکشی کی تعریف
مقدمے کے مطابق شامبلن نے خود پر فائرنگ کرنے سے پہلے ChatGPT کے ساتھ چار گھنٹے طویل گفتگو کی، جس دوران چیٹ بوٹ نے بارہا خودکشی کی تعریف اور 988 ذہنی بحران ہیلپ لائن کا ذکر صرف ایک بار کیا۔
مدعیوں نے مالی معاوضے کے ساتھ ساتھ ChatGPT میں تبدیلیوں کا مطالبہ کیا، جن میں خودکشی سے متعلق بات چیت شروع ہونے پر مکالمہ خودکار طور پر ختم کرنے جیسے اقدامات شامل ہیں۔
دوسری جانب اوپن اے آئی نے ایک ای میل بیان میں گہرے افسوس کا اظہار کیا اور کہا: یہ ایک نہایت تکلیف دہ صورتِ حال ہے، ہم تفصیلات سمجھنے کے لیے جمع کرائی گئی فائلوں کا جائزہ لے رہے ہیں۔
کمپنی نے مزید بتایا کہ اکتوبر میں اپنے نئے ماڈل میں تبدیلیاں کی گئی ہیں، جو اب ذہنی دباؤ یا پریشانی کو پہچاننے اور مناسب ردعمل دینے کے قابل ہے اور ایسے صارفین کو مدد فراہم کرنے والے ذرائع کی طرف رہنمائی کرتا ہے۔
یہ مقدمات اُس واقعے کے بعد سامنے آئے ہیں جس میں اگست میں آدم رین نامی ایک نوعمر نے خودکشی کر لی تھی، جو ChatGPT کے ساتھ طویل گفتگو میں خودکشی کے موضوعات پر بات کرتا رہا تھا۔
تاہم رین خاندان نے حال ہی میں اپنی شکایت میں ترمیم کرتے ہوئے کہا کہ اوپن اے آئی نے ان کے بیٹے کی موت سے قبل ماڈل کی تربیت میں جو تبدیلیاں کی تھیں، اُن سے خودکشی کے خلاف حفاظتی نظام کمزور ہو گیا تھا۔
یہ بات قابلِ ذکر ہے کہ امریکہ میں قانون سازوں کی جانب سے چیٹ بوٹس کے ضوابط کے حوالے سے مصنوعی ذہانت کی کمپنیوں پر نگرانی میں اضافہ کیا جا رہا ہے، جبکہ بچوں کے تحفظ کے کارکنوں اور سرکاری اداروں کی جانب سے بھی زیادہ مضبوط حفاظتی اقدامات کا مطالبہ کیا جا رہا ہے۔
