نئے مصنوعی ذہانت کے ہتھیار جو دنیا کو تباہ کر سکتے ہیں، ان کے بارے میں انتباہ

اقوامِ متحدہ کے معاون سیکریٹری جنرل اور ٹیکنالوجی کے حوالے سے خصوصی ایلچی، اماندیپ گل نے کہا کہ مصنوعی ذہانت کی غیر منظم ترقی اور استعمال ایسے ہتھیاروں کے ظہور کا سبب بن سکتا ہے جو ناقابلِ قبول حد تک خود مختار ہوں گے۔

گل نے کہا کہ مصنوعی ذہانت ایک طاقتور ٹیکنالوجی ہے، جو موجودہ اسلحہ نظاموں کی ترقی کو تیز کر سکتی ہے اور مستقبل میں ہم ایسے نظام دیکھ سکتے ہیں جن میں موجودہ خودکار نظاموں کے مقابلے میں کہیں زیادہ خود مختاری ہو گی۔

اقوامِ متحدہ کے اس عہدیدار کے مطابق حکومتوں کو چاہیے کہ وہ اس بات کو یقینی بنائیں کہ ہتھیاروں پر انسانی کنٹرول برقرار رہے اور ان فوجی افسران کی ذمہ داری اور جوابدہی یقینی ہو جو "اہداف کے انتخاب" کا فیصلہ کرتے ہیں۔

یہاں ایک اہم سوال سامنے آتا ہے:

کیسے یہ ممکن بنایا جائے کہ یہ ٹیکنالوجی عدم استحکام کا نیا ذریعہ نہ بنے؟

غیر منضبط فوجی ٹیکنالوجی کے کیا خطرات ہیں؟

ان سے بچاؤ کیسے ممکن ہے؟

اور اس کی تباہ کن اور عسکری طاقت کتنی ہے؟

پیچیدہ چیلنج

ڈاکٹر محمد محسن رمضان جو مرکز العرب برائے تحقیق و مطالعات میں مصنوعی ذہانت اور سائبر سیکیورٹی کے سربراہ ہیں،ان کا کہنا ہے کہ اقوامِ متحدہ کا انتباہ صرف ایک سیاسی بیان نہیں بلکہ ایک ابتدائی وارننگ ہے کہ دنیا ایک نئے دور کے اسلحہ جاتی مقابلے میں داخل ہو رہی ہے۔ اس نئے دور میں ایسے الگورتھم شامل ہوں گے جو خود مختارانہ طور پر جان لیوا فیصلے کرنے کی صلاحیت رکھتے ہیں۔ خود فیصلے کرنے والے ہتھیاروں کی طرف پیش قدمی ایک ایسا پیچیدہ چیلنج ہے جس میں سائبر سیکیورٹی، عسکری ٹیکنالوجی، بین الاقوامی انسانی قوانین اور عالمی استحکام—سب شامل ہیں۔

انہوں نے مزید کہا کہ بنیادی خطرہ دراصل مصنوعی ذہانت کی نوعیت میں ہے۔ جدید ہتھیاروں میں استعمال ہونے والی AI صرف عام پروگرامنگ پر منحصر نہیں بلکہ خود سیکھنے والے نیورل نیٹ ورکس اور ایسے الگورتھمز پر چلتی ہے جو غیر مستحکم ماحول میں فیصلے کرتے ہیں۔ یہ سسٹمز ایسے سینسرز اور ڈیٹا پر انحصار کرتے ہیں جنہیں باآسانی دھوکہ دیا جا سکتا ہے۔

حریف کے فائدے کے لیے ایک حملہ آور ہتھیار

انہوں نے مزید کہا کہ جیسے جیسے ہم "انسانی معاونت والے نظام" سے "بڑھتی ہوئی خود مختاری والے نظام" کی طرف بڑھ رہے ہیں، ویسے ویسے اس بات کا خطرہ بڑھ جاتا ہے کہ کوئی ہتھیار بغیر انسانی نگرانی کے خود فیصلہ کرکے حملہ کر دے۔ ایسے فیصلے سیاسی مقاصد یا جنگی اصولوں سے مطابقت نہیں رکھ سکتے۔

دوسرا بڑا خطرہ تکنیکی اور سیکیورٹی سے متعلق ہے، کیونکہ خودکار ہتھیار مکمل طور پر ڈیجیٹل ڈھانچے پر چلتے ہیں، جیسے کنٹرول الگورتھم، نیویگیشن سسٹمز، ڈیٹا بیس اور کمیونیکیشن نیٹ ورکس—جو سائبر حملوں کے لیے حساس ہوتے ہیں۔

انہوں نے بتایا کہ اگر ان ڈیجیٹل نظاموں میں گھس کر انہیں تبدیل کر دیا جائے، تو ہتھیار کا راستہ بدلا جا سکتا ہے، اسے شہری اہداف پر حملہ کرنے پر مجبور کیا جا سکتا ہے۔

اس کا حفاظتی نظام ناکارہ بنایا جا سکتا ہے یا اسے غیر مجاز حملے کے لیے استعمال کیا جا سکتا ہے۔ یوں ایک دفاعی ہتھیار دشمن کے فائدے کے لیے حملہ آور ہتھیار بن سکتا ہے۔

انسانی کنٹرول کا خاتمہ

ڈاکٹر رمضان نے وضاحت کی کہ دھوکہ دہی پر مبنی حملوں (Adversarial Manipulation) میں دشمن AI سسٹمز کو دھوکہ دے سکتے ہیں، جیسے کہ الگورتھمز کے ذریعے تصاویر میں تبدیلی کرنا، گمراہ کن الیکٹرانک سگنلز بھیجنا یا جھوٹا ڈیٹا نظام میں داخل کرنا۔ سائنسی تحقیق سے ثابت ہوا ہے کہ معمولی تبدیلیاں، جو انسانی آنکھ سے نظر نہیں آتیں، بھی الگورتھمز کو غلط فیصلے کرنے پر مجبور کر سکتی ہیں۔ اس طرح انسانی نگرانی کا فقدان (Loss of Human Oversight) پیدا ہو جاتا ہے۔

رمضان نے بتایا کہ خود مختار ہتھیار فیصلہ سازی کے عمل مشاہدہ، تجزیہ، اندازہ، فیصلہ اور فائرنگ—کو مختصر کر کے صرف ایک لمحاتی خودکار فیصلے تک محدود کر دیتے ہیں۔ یہ تبدیلی غیر ارادی تصادم، غیر قانونی اہداف پر حملے اور آپریشن کے دوران انسانی مداخلت کے فقدان کا باعث بن سکتی ہے اور یہ بین الاقوامی انسانی قوانین کی خلاف ورزی کر سکتی ہے۔

انہوں نے مزید کہا کہ ایک اہم مسئلہ قانونی جوابدہی کا خلا (Accountability Gap) ہے۔ اگر خودکار ہتھیار جنگجو اور شہری میں فرق کرنے میں غلطی کرے تو سوال یہ پیدا ہوتا ہے:

ذمہ دار کون ہے؟ عسکری کمانڈر، کمپنی، پروگرامر یا خود نظام؟ یہ خلا عالمی انصاف کے نظام کے لیے ایک براہِ راست خطرہ ہے۔

خود مختار ہتھیاروں پر پابندی

ڈاکٹر محسن رمضان کی سفارش ہے کہ مکمل انسانی کنٹرول (Human-in-the-loop) لازمی ہونا چاہیے۔ یعنی مہلک طاقت کے استعمال کا آخری فیصلہ ہمیشہ انسان ہی کرے—جیسے ہدف کے محلِ وقوع کی تصدیق، ہدف کی نوعیت کا جائزہ، فائرنگ کا دستی حکم اور ضرورت پڑنے پر فوری طور پر کارروائی روک دینا۔ وہ کہتے ہیں کہ خود فیصلے کرنے والے ہتھیاروں کو منظم کرنے کے لیے ایک عالمی قانونی نظام ضروری ہے۔ وہ اقوام متحدہ کی اُس کوشش کی حمایت کرتے ہیں جس کا مقصد 2026 تک ان ہتھیاروں پر پابندی لگانا ہے جو خود فیصلہ کر کے تباہی پھیلا سکتے ہیں اور اس کے لیے مختلف سطحوں کی خود مختاری کے یکساں عالمی معیار، بین الاقوامی معائنہ میکانزم اور عسکری AI نظاموں کا ایک عالمی ڈیٹا بیس قائم کیا جانا چاہیے۔

دوسری جانب میجر جنرل عادل العمدة—جو اکیڈمی آف ملٹری اسٹڈیز میں لیکچرار ہیں—ان کا کہنا ہے کہ یہ ہتھیار ٹیکنالوجی کی ترقی کے منفی نتائج میں سے ایک ہیں۔ ان کے مطابق فوجی فیصلہ ہمیشہ "تقدیرِ موقف" یعنی صورتحال کا باریک جائزہ مانگتا ہے، جبکہ مصنوعی ذہانت والے یہ جدید ہتھیار ایسا جائزہ لینے کی صلاحیت نہیں رکھتے۔ اس لیے فیصلہ سازی کا بنیادی میکانزم ان میں موجود ہی نہیں۔

انہوں نے مزید کہا کہ وہ اقوامِ متحدہ کے ان مطالبات سے متفق ہیں جو ان ہتھیاروں پر مکمل پابندی کے لیے کیے جا رہے ہیں۔ ان کے مطابق ایسے ہتھیار آزاد چھوڑ دینا انسانیت کے لیے خطرناک ہے، کیونکہ مکمل خود مختاری کی صورت میں بڑے پیمانے پر تباہی ہو سکتی ہے، حتیٰ کہ دنیا کی بقا بھی خطرے میں پڑ سکتی ہے۔ اس طرح کے اسمارٹ ہتھیار انسانی معاشروں، قوموں اور عالمی استحکام کے لیے شدید خطرہ ہیں۔