چیٹ جی پی ٹی کے مشوروں نے ایک شہری کو موت کے قریب پہنچا دیا

طبی مشورے فراہم کرنے میں مصنوعی ذہانت پر انحصار کے خطرات سے متعلق سالہا سال کی تنبیہات کے بعد ’’ اوپن اے آئی ‘‘ کمپنی کو اپنی نوعیت کے پہلے قانونی امتحان کا سامنا کرنا پڑ گیا ہے۔ یہ کیس ایک ایسے مقدمے کے بعد سامنے آیا ہے جس میں چیٹ بوٹ "چیٹ جی پی ٹی" پر گمراہ کن طبی مشورے دینے کا الزام عائد کیا گیا ہے۔ چیٹ جی پی ٹی کے مشوروں کے باعث ایک امریکی شہری نے علاج کی طلب میں تاخیر کردی اور بعد میں اسے صحت کے ایسے شدید بحران کا سامنا کرنا پڑا جو اس کی جان لے سکتا تھا۔

اخبار ’’ نیویارک ٹائمز‘‘کی رپورٹ کے مطابق ظاہری طور پر یہ پہلا ایسا مقدمہ ہے جس میں یہ دعویٰ کیا گیا ہے کہ کسی چیٹ بوٹ کے مشوروں نے کسی ایسے شخص کو نقصان پہنچایا جو اپنی طبی حالت کے بارے میں رہنمائی کا طالب تھا۔ اخبار نے وضاحت کی ہے کہ فلوریڈا ریاست کے ایک پادری سکاٹ ونٹرز نے گزشتہ بدھ کو ایک قانونی دعویٰ دائر کیا ہے جس میں دعویٰ کیا گیا ہے کہ "چیٹ جی پی ٹی" نے انہیں انسان کی جان کے لیے انتہائی خطرناک طبی سفارشات فراہم کیں جس کی وجہ سے ان سے پھیپھڑوں کے پلمونری ایمبولزم کا بروقت علاج کرانے میں تاخیر ہوگئی۔ اس صورت حال نے گزشتہ سال ان کی زندگی کو خطرے میں ڈال دیا تھا۔

مقدمے میں یہ بھی کہا گیا ہے کہ "چیٹ جی پی ٹی" نے پادری سکاٹ ونٹرز کو یہ اطمینان دلایا کہ ان کے صحت کے بحران کی ابتدائی علامتیں کوئی سنگین معاملہ نہیں ہیں۔ چیٹ جی پی ٹی نے انہیں طبی مشورہ لینے سے باز رکھا اور اس کے بجائے ان سے یہ کہا کہ وہ اس بات پر بھروسہ رکھیں کہ خدا نے آپ کے جسم کو ایسا نہیں بنایا کہ وہ آپ کو مسلسل دھوکہ دے۔

مزید برآں سان فرانسسکو میں کیلیفورنیا کی سپریم کورٹ میں دائر کیے گئے اس مقدمے میں "OpenAI" کمپنی اور اس کے سی ای او سیم آلٹمین پر غفلت اور غیر مجاز طبی مشق کا الزام لگایا گیا ہے۔ یہ موقف اختیار کیا گیا ہے کہ "چیٹ جی پی ٹی" میں شامل کی گئی حفاظتی تدابیر نے قابل اعتماد طریقے سے کام نہیں کیا۔ یہ چیٹ بوٹس صحت کے متعلق سوالات پوچھنے والے صارفین کو ماہرین سے رجوع کرنے کی ترغیب دینے اور کسی طبی بحران کے واضح اشارے ظاہر ہونے پر گفتگو ختم کرنے کے لیے ڈیزائن کیے گئے تھے۔

یہ مقدمہ ایک ایسے وقت میں سامنے آیا ہے جب ’’ اوپن اے آئی ‘‘، مائیکروسافٹ اور مصنوعی ذہانت کے شعبے کی دیگر کمپنیوں نے ’’ چیٹ جی پی ٹی ہیلتھ ‘‘ سمیت نئی خدمات متعارف کروائی ہیں تاکہ صارفین کو اپنے طبی ریکارڈ اپ لوڈ کرنے اور مصنوعی ذہانت کے نظاموں کے سامنے اپنے صحت سے متعلق سوالات پیش کرنے کی ترغیب دی جا سکے۔

امریکی پادری اور غیر منافع بخش تنظیم ’’ ٹیک جسٹس لا ‘‘ نے کمپنی سے مالی ہرجانے کا مطالبہ کیا ہے۔ انہوں نے عدالت سے ’’ چیٹ جی پی ٹی ہیلتھ‘‘ سروس کی فعال سرگرمیوں کو اس وقت تک روکنے کی درخواست بھی کی ہے جب تک کہ آزاد ادارے اس کے محفوظ ہونے کی تصدیق نہ کر دیں۔ انہوں نے یہ درخواست بھی کی ہے کہ ایسی سخت پابندیاں عائد کی جائیں جو "چیٹ جی پی ٹی" کو طبی تشخیص یا علاج کے منصوبوں سے متعلق جوابات دینے سے روک دیں۔

اس کے علاوہ، یہ مقدمہ اس ماہ دائر کیے گئے ایک اور مقدمے کے ساتھ ہی سامنے آیا ہے۔ اس مقدمے میں "چیٹ جی پی ٹی" پر 29 سالہ ایک جوان ماں کو گاڑیوں کے سامنے چھلانگ لگا کر خودکشی کرنے پر اکسانے کا الزام لگایا گیا ہے۔ خاتون کے خاندان نے دعویٰ کیا تھا کہ "چیٹ بوٹ" نے ان کی طویل گفتگو کے دوران اس کے مذہبی وہم و گمان کی آبیاری کی ۔ اس وہم نے موت کو خوبصورت اور رومانوی بنا کر پیش کرتے ہوئے اسے خودکشی کی طرف دھکیل دیا۔

امریکی پادری کی حالت کیسے بگڑی؟

سکاٹ ونٹرز نے 2024ء میں اپنے صحت کے مسائل کے بارے میں دریافت کرنے کے لیے "ChatGPT-4o" کا استعمال شروع کیا تھا اور روبوٹ شروع میں انہیں ڈاکٹر سے رجوع کرنے کی ترغیب دیتا رہا۔ تاہم مقدمے کے مطابق اس نے بعد میں یہ تنبیہات جاری کرنا بند کر دیں اور ان کی علامات، جن میں چکر آنے کے دورے شامل تھے، کے بارے میں براہِ راست تشخیص اور مشورے دینا شروع کر دیے۔ جب انہوں نے روبوٹ کو بتایا کہ ان کے قریبی لوگ انہیں ہسپتال جانے کا مشورہ دے رہے ہیں تو روبوٹ نے انہیں اطمینان دلایا کہ وہ گھر پر ہی صحت یاب ہو سکتے ہیں حالانکہ ان کی حالت بتدریج بگڑ رہی تھی۔

ہفتے گزرنے کے ساتھ ساتھ سکاٹ ونٹرز کی تکلیف اتنی بڑھ گئی کہ وہ چکر آنے کی وجہ سے کھڑے ہونے سے بھی قاصر ہو گئے۔ مقدمے کے مطابق "چیٹ جی پی ٹی" علامات کی سنگینی کو کم تر دکھاتا رہا اور علاج تجویز کرتا رہا۔ اس کی وجہ سے انہوں نے طبی دیکھ بھال کی طلب میں تاخیر کردی۔

جولائی 2025ء میں اور روبوٹ کی جانب سے ران کے بالائی حصے میں درد کے بارے میں دوبارہ اطمینان دلانے کے بعد انہیں چند گھنٹوں بعد ہی پھیپھڑوں کے شدید انسداد کے باعث آئی سی یو منتقل کر دیا گیا جہاں ڈاکٹروں نے تصدیق کی کہ ان کی سابقہ علامات خون کے لوتھڑوں کی ابتدائی نشانیاں تھیں اور انہیں جسمانی و نفسیاتی صحت یابی کے لیے سالہا سال درکار ہوں گے۔

اوپن اے آئی کا واقعہ پر ردِعمل

اوپن اے آئی کے ترجمان ڈریو بوساتیری نے اس مقدمے پر تبصرہ کرتے ہوئے کہا کہ "چیٹ جی پی ٹی" کے استعمال کی شرائط واضح کرتی ہیں کہ یہ طبی تشخیص یا علاج کے لیے نہیں بنایا گیا۔

تاہم انہوں نے مزید کہا کہ کمپنی اس بات کی اہمیت کو سمجھتی ہے کہ صحت سے متعلق جوابات کو ممکنہ حد تک محفوظ بنایا جائے کیونکہ بہت سے لوگ اس مقصد کے لیے روبوٹ کا استعمال کرتے ہیں۔

بوساتیری نے کہا کہ چیٹ بوٹس کو لوگوں کے طبی فیصلوں یا نتائج کے پیچھے واحد عنصر قرار دینا ایک بہت بڑے چیلنج کو سادہ بنا کر پیش کرتا ہے۔ یہ لوگوں کی ان نئے اور طاقتور ٹولز تک رسائی میں رکاوٹ بن سکتا ہے جو ان کے صحت کے سفر میں مددگار ثابت ہو سکتے ہیں۔

انہوں نے وضاحت کی کہ نئے ماڈلز سکاٹ ونٹرز کے استعمال کردہ ماڈل کے مقابلے میں ادھوری معلومات کی طلب، عدم یقین کی سطح کے اظہار اور ماہرانہ طبی مداخلت کی متقاضی حالتوں کی شناخت کرنے میں کہیں بہتر ہو چکے ہیں۔