آنکھوں پر بھروسہ نہ کریں: سوشل میڈیا پر جعلی ویڈیوز کیسے پکڑی جاتی ہیں؟

دنیا ایک نازک مرحلے میں داخل ہو گئی ہے کیونکہ جنریٹو مصنوعی ذہانت (Generative AI) کی ٹیکنالوجیز تیزی سے ترقی کر رہی ہیں، جس کے ذریعے حقیقی مناظر تخلیق کیے جا سکتے ہیں، جہاں لوگ وہ کہہ رہے یا کر رہے ہوں جو حقیقت میں نہیں ہوا۔

اسی سلسلے میں ماہرین نے حقیقت کو جعل سازی سے بچانے کے طریقے پیش کرتے ہوئے خبردار کیا ہے۔اس ضمن میں ڈاکٹر محمد محسن رمضان جومرکز عرب برائے تحقیق اور مطالعہ میں مصنوعی ذہانت اور سائبر سیکیورٹی یونٹ کے سربراہ ہیں، نے واضح کیا کہ تازہ ترین تکنیکی تحقیقات اور رپورٹس نے گہری جعل سازی (Deepfake) کی ٹیکنالوجیز کے غیر معمولی بڑھتے ہوئے استعمال سے خبردار کیا ہے۔

ڈاکٹر محمد محسن رمضان نے العربیہ ڈاٹ نیٹ/الحدث ڈاٹ نیٹ کو دیے گئے بیان میں واضح کیا کہ یہ ٹیکنالوجیز اب صرف تفریح یا تحقیقی تجربات تک محدود نہیں رہیں، بلکہ یہ میڈیا میں گمراہ کن معلومات پھیلانے، ڈیجیٹل بلیک میلنگ، کردار کشی، عوامی رائے کو متاثر کرنے حتیٰ کہ سماجی و سیاسی استحکام پر اثر ڈالنے کے لیے ایک مؤثر آلہ بن گئی ہیں۔

انہوں نے اس بات کی بھی نشاندہی کی کہ گہری جعل سازی (Deepfake) کی ٹیکنالوجیز پہلے ابتدائی مراحل میں تھیں، جن کے لیے اعلیٰ تکنیکی مہارت، طویل وقت اور طاقتور کمپیوٹنگ صلاحیتیں درکار تھیں، جس کی وجہ سے ان کا استعمال محدود تھا۔لیکن آج رمضان کے مطابق منظرنامہ بالکل بدل گیا ہے۔ جنریٹو مصنوعی ذہانت کے ماڈلز کی بدولت جعل سازی کے اوزار عام صارفین کے لیے دستیاب، استعمال میں آسان اور چند منٹوں میں انتہائی حقیقت پسندانہ مواد تخلیق کرنے کی صلاحیت رکھتے ہیں، جس نے ان کی خطرناک شدت کو اس میڈیا ماحول میں مزید بڑھا دیا ہے جہاں تیز رفتاری کبھی کبھی تصدیق سے زیادہ اہم سمجھا جاتا ہے۔
اس کے ساتھ رمضان نے کئی ڈیجیٹل تصدیقی اوزار کا بھی ذکر کیا جو عوام کے لیے دستیاب ہیں اور یہ خودکار تیار شدہ مواد کے خلاف پہلی دفاعی لائن کے طور پر کام کرتے ہیں۔
https/deepfakedetection.ioutm_source=chatgpt.com

یہ ٹول حرکت، پکسلز اور انسانی آنکھ سے نظر نہ آنے والے صوتی عناصر کا تجزیہ کرتا ہے۔ یہ مواد اپ لوڈ کر کے اس کی ڈیجیٹل ساخت کا تجزیہ کرتا ہے اور جعلی ہونے کا ایک احتمالی اشارہ دیتا ہے، خاص طور پر سوشل میڈیا پر پھیلی چھوٹی ویڈیوز کے لیے۔

Copy leaks

یہ ٹیکنالوجی (Copyleaks) میڈیا اداروں میں وسیع پیمانے پر استعمال ہوتی ہے اور یہ تصویر کی ڈیجیٹل ساخت کا تجزیہ کر کے اسے مصنوعی ذہانت سے تیار شدہ بڑے ڈیٹا بیس سے موازنہ کرتی ہے، جس سے جعلی تصاویر کے فوری خبروں میں شامل ہونے سے بچاؤ ممکن ہوتا ہے۔

Arting AI

یہ ٹول مصنوعی ذہانت سے تیار شدہ تصاویر کا پتہ لگاتا ہے اور خاص طور پر اُن تصاویر کی نشاندہی میں مؤثر ہے جو ضرورت سے زیادہ مثالی دکھائی دیتی ہیں۔یہ پس منظر میں باریک نقص، تفصیلات میں تضاد اور AI الگوردم کے غیر مرئی نشانات بھی معلوم کر لیتا ہے۔
سادہ انداز میں:یہ جعلی یا مصنوعی تصاویر پکڑتا ہےزیادہ خوبصورت یا مثالی تصاویر فوری پہچان لی جاتی ہیںپس منظر اور تفصیلات میں چھوٹے فرق یا AI کے نشان بھی نظر آ جاتے ہیں۔
Arting AIhttps/arting.ai/ar/ai-image-detector?utmsource=chatgpt.com

InVID WeVerify

یہ ایک براؤزر ہے جو دنیا بھر کے تحقیقی نیوز رومز میں بڑے پیمانے پر استعمال ہوتا ہے۔ یہ ویڈیو کو اسٹیل فریمز میں تقسیم کرتا ہے اور ہر فریم پر ریورس سرچ کر کے یہ معلوم کرتا ہے کہ آیا پرانی ویڈیوز کو گمراہ کن سیاق و سباق میں دوبارہ استعمال کیا جا رہا ہے۔سادہ انداز میں:ویڈیو کو چھوٹے اسٹیل شاٹس میں تقسیم کیا جاتا ہے،ہر شاٹ کی تصدیق اور ریورس سرچ کی جاتی ہےاس سے پتہ چلتا ہے کہ کیا پرانی ویڈیوز غلط سیاق میں دوبارہ استعمال ہو رہی ہیں۔
https://chromewebstore.google.com/detail/fake-news-debunker-by-inv/mhccpoafgdgbhnjfhkcmgknndkeen

افواہیں پھیلانے کے خطرات

مصر کے سابق سیکریٹری وزارت داخلہ لیفٹیننٹ جنرل محمد رجائی نے العربيہ ڈاٹ نیٹ اور الحدث ڈاٹ نیٹ کو دیے گئے بیان میں بتایا کہ سائبر سیکیورٹی کے ماہرین نے چند بار بار آنے والے اشارے بتائے ہیں ،جو جعلی مواد کی ابتدائی نشاندہی میں مددگار ہیں:
غیر معمولی یا ہم آہنگ نہ ہونے والی آنکھوں کی حرکت
چہرے کے تاثرات سے میل نہ کھانے والی آواز
ہاتھ یا کان میں غیر معمولی خرابی یا نقص
شخص اور پس منظر کے درمیان روشنی کا فر ق
حقیقی سائے کا فقدان یا تضاد
اگرچہ یہ اشارے اہم ہیں، مگر صرف یہ کافی نہیں، خصوصی تجزیاتی ٹولز کی ضرورت ہوتی ہے۔
محمد رجائی نے مزید کہا کہ Deepfake کی خطرناکیاں صرف افراد کو بدنام کرنے تک محدود نہیں:
میڈیا پر اعتماد کو کمزور کرنا
بحران کے دوران افواہیں پھیلانا
عوامی شخصیات اور اداروں کو نشانہ بنانا
سماجی اور سیاسی استحکام کو خطرے میں ڈالنا
انہوں نے کہا:اسی وجہ سے کچھ ممالک نے Deepfake کو براہِ راست قومی ڈیجیٹل سیکیورٹی کا خطرہ قرار دیا ہے اور اس کے خلاف قانون سازی اور جدید حفاظتی آلات نافذ کرنا شروع کر دیے ہیں۔
محمد رجائی نے عوام کے لیے چند حفاظتی اقدامات بھی تجویز کیے:
کسی بھی چوکننے یا صدمہ دینے والے مواد کو بغیر تصدیق کے دوبارہ شیئر نہ کریں۔
متعدد جعلی شناختی ٹولز استعمال کریں، صرف ایک پر انحصار نہ کریں۔
آنکھوں یا ذاتی احساس پر بھروسہ نہ کریں۔
اکاؤنٹس کی پرائیویسی سیٹنگز فعال رکھیں۔
تصاویر اور ویڈیوز کی اصل کاپی محفوظ رکھیں۔