Getty Images
یہ ایک ایسی ابھرتی ہوئی ’صنعت‘ ہے جہاں سکرین شاٹس میں ہزاروں ڈالروں کی آمدن کا دعویٰ بعض اوقات ان لوگوں کی طرف سے کیا جاتا ہے جنھیں انگریزی آتی ہے نہ اپنے عمل سے ہونے والے ممکنہ نقصان کا اندازہ ہے۔
چاہے بات امریکہ اور برطانیہ میں پناہ گزین مخالف اور اسلاموفوبیا پر مبنی پراپیگنڈے کی ہو، ایران جنگ کے دوران گمراہ کن بیانیے کی یا پاکستان میں 2025 کے سیلاب سے متاثرہ خواتین کی جنسی نوعیت کی فیک ویڈیوز کی ہو۔ ان سب میں ’اے سلوپ‘ قدر مشترک ہے۔
ماہرین کے بقول اے سلوپ یعنی مصنوعی ذہانت سے تیار کردہ ’غیر معیاری‘ ویڈیوز اور تصاویر ایک ڈیجیٹل اکانومی کی شکل اختیار کرتی جا رہی ہے۔
پاکستان سے جڑے ایسے کیسز بھی سامنے آئے ہیں جن میں سوشل میڈیا پلیٹ فارمز کے ذریعے آمدن کمانے کے لیے بیرون ملک بیٹھے صارف کسی اے آئی ویڈیوز میں برطانوی شہری ہونے کا دعویٰ کرتے ہیں اور وہ امیگریشن یا اسلام کے خلاف مقامی لوگوں کے جذبات ابھارتے ہیں۔
سوشل میڈیا کمپنیوں کی مونیٹائزیشن پالیسیوں کی بدولت ویڈیو پر جتنی زیادہ انگیجمنٹ ہوتی ہے، کونٹینٹ کری ایٹرز اتنی زیادہ آمدن حاصل کرتا ہے۔
مثلاً دی بیورو آف انویسٹیگیٹو جرنلزم نے حال ہی میں ایک پاکستانی شہری سے بات کی جنھوں نے برطانوی آڈیئنس کو نسل پرستانہ اے آئی ویڈیوز دکھا کر ہزاروں ڈالر کمائے۔ ایک ویڈیو میں تو برطانوی وزیر اعظم کیئر سٹامر کو بھی دکھایا گیا جس سے امیگریشن کے خلاف اشتعال انگیزی پھیلی۔ اس شخص نے انٹرویو دیتے ہوئے کہا تھا کہ وہ وائرل اور ٹرینڈ ہوتی چیزوں کو سمجھے بغیر آمدن کمانے کے لیے اے آئی سے ویڈیوز بناتے تھے۔
انھوں نے کہا تھا کہ ’ہمیں خبروں میں کوئی دلچسپی نہیں۔ میں نے تو یہ تک نہیں دیکھا کہ ویڈیوز میں کیا کہا جا رہا ہے، کیا لکھا گیا ہے اور کیا نہیں لکھا گیا۔‘
حال ہی میں اسرائیلی وزیر اعظم نیتن یاہو نے الزام عائد کیا تھا کہ کئی ممالک امریکہ، اسرائیل اتحاد کو نقصان پہنچانے کے لیے ’بوٹ فارمز‘ اور ’جعلی پتوں‘ (ایڈریس) کا استعمال کرتے ہیں۔
اس کی مثال دیتے ہوئے اسرائیلی وزیر اعظم نے دعویٰ کیا کہ ’آپ اس نوعیت کا ٹیکسٹ میسج سُنتے ہیں کہ میں ٹیکساس (امریکہ) سے تعلق رکھتا ہوں۔ میں نے ہمیشہ اسرائیل کو سپورٹ کیا، لیکن اب میں اُن (اسرائیل) کے اقدامات سے سخت ناخوش ہوں اور اسرائیل کے خلاف ہو رہا ہوں۔۔۔ اِس کا پتہ پاکستان کے کسی بیسمنٹ (تہہ خانہ) کا نکلتا ہے۔‘
ہم نے اس تحریر میں یہ جاننے کی کوشش کی ہے کہ اے سلوپ ایک خطرناک رجحان میں کیسے تبدیل ہو رہا ہے، کیا پاکستان میں اس کی منظم موجودگی ہے اور ملک کو اس سے کیا نقصان ہو سکتا ہے۔
’اے آئی سلوپ‘ کیا ہے اور پاکستان میں اس کی ’صنعت‘ کیسے کام کرتی ہے؟
ماہرین کے مطابق سلوپ سے مراد مصنوعی ذہانت سے تیار کردہ ایسا غیر معیاری مواد ہے جسے انٹرنیٹ، خاص طور پر سوشل میڈیا، پر زیادہ سے توجہ حاصل کرنے کے لیے بنایا جاتا ہے۔
ایسی ویڈیوز، تصاویر، آڈیو یا تحریر کو آسانی سے دستیاب اے آئی ٹولز کی مدد سے بنایا جاتا ہے اور اس سے آسانی سے پہچانا بھی جا سکتا ہے۔ ایسا مواد بنانا نہ صرف تیز اور آسان ہے بلکہ اسے بنانے میں زیادہ لاگت بھی نہیں آتی۔
سوشل میڈیا پر مونیٹائزیشن کو استعمال کر کے ایسے مواد سے عموماً آمدن بھی کمائی جاتی ہے۔
محمد عبد اللہ ماضی میں اے آئی ٹولز کی مدد سے پاکستان میں کونٹیٹ بنا کر آمدن کما چکے ہیں۔ وہ تسلیم کرتے ہیں کہ ڈیپ فیکس بنانے کا رجحان ’بہت بڑھ گیا ہے‘ اور کئی لوگ ہزاروں ڈالر آمدن کے سکرین شاٹس لگا کر اے آئی ویڈیو کورس بھی بیچ رہے ہیں۔
مگر اچھی آمدن کے لیے یہ لوگ انگلش آڈیئنس کو اپنی جانب راغب کرتے ہیں اور ایسے ممالک کو نشانہ بناتے ہیں جہاں سے ویڈیوز پر زیادہ امپریشنز اور ویوز حاصل کر کے زیادہ آمدن کمائی جا سکے، جیسے امریکہ یا برطانیہ۔
انھوں نے بی بی سی کو بتایا کہ انھوں نے انٹرمیڈیٹ کے بعد تعلیم حاصل نہیں کی اور ان کی آمدن کے ذرائع یوٹیوب اور فیس بُک ہی تھے۔
ان سمیت کئی لوگوں نے اے آئی ویڈیوز سیکھنے کے لیے یا تو پیسے دے کر کورسز کیے یا مفت میں یوٹیوب سے سب سیکھ لیا۔ نوجوانوں نے اس میں اس لیے اتنی دلچسپی لی ہے کیونکہ اس سے اچھی آمدن حاصل ہو جاتی ہے۔
مثلاً ان کے بقول ’اگر ایک، ایک منٹ کی ویڈیو ہو اور اس پر 40 لاکھ سے زیادہ ویوز ہوں تو چار سے پانچ ہزار ڈالر بن سکتے ہیں، اگر ویوز امریکہ سے آ رہے ہوں۔‘
عبد اللہ تسلیم کرتے ہیں کہ زیادہ ویوز اشتعال انگیز، نسل پرستانہ، گمراہ کن یا جنسی نوعیت کی ویڈیوز پر ہی آتے ہیں۔ ’لوگوں نے ایسا مواد اتنا پھیلا دیا ہے کہ (سوشل میڈیا کا) الگوردم بھی اکثر اس کی نشاندہی نہیں کر پاتا۔‘
وہ خبردار کرتے ہیں کہ پاکستان میں ہی ہزاروں کی تعداد میں لوگ یہ کام سیکھ چکے ہیں یا وہ صرف کاپی پیسٹ کر کے ہی ایسی ویڈیوز سے کمانا شروع کر دیتے ہیں۔ ’ایک، ایک بندہ 10 سے 20 چینل اور اکاؤنٹ چلا رہا ہوتا ہے۔ وہ اے آئی کی مدد سے پیسے کمانے کے آسان اور تیز راستے تلاش کرتا ہے۔ انھیں معیار کی کوئی فکر نہیں ہوتی اور نہ ہی انھیں یہ پرواہ ہوتی ہے کہ آیا اس مواد میں اخلاقی طور پر قابل اعتراض چیزیں دکھائی جا رہی ہیں۔‘
عمران خان کی جیل میں پُش اپس لگانے کی تصویر کی حقیقت کیا ہے؟نیتن یاہو اور مودی کی طالبان حمایت سے متعلق ’ڈیپ فیک ویڈیوز‘: ’یہ اے آئی ہے لیکن انڈیا اور اسرائیل کا گٹھ جوڑ ڈھکا چھپا نہیں‘سوشل میڈیا پر نظر آنے والی جعلی اے آئی ویڈیوز کی شناخت کیسے کریں؟ڈیپ فیک ویڈیوز کیا ہیں اور کیسے پہچانی جائیں؟پاکستان میں اے آئی سلوپ میں تیزی کیوں آئی؟
’واٹ ٹو فِکس‘ ایک غیر منافع بخش تنظیم ہے جو ٹیکنالوجی کمپنیوں کی پالیسی پر تحقیق کرتی ہیں۔ بی بی سی اردو سے بات کرتے ہوئے اس تنظیم کی ایگزیکٹیو ڈائرکٹر وکٹوار ریو کا کہنا تھا کہ سوشل میڈیا کمپنیوں نے اپنے پلیٹ فارمز کو ڈیزائن ہی اس طرح کیا ہے کہ وہ ایسے مواد کے پھیلاؤ سے منافع کما سکیں۔
مثلاً چونکہ میٹا کا کونٹینٹ مونیٹائزیشن پروگرام کارکردگی کی بنیاد پر پیسے دیتا ہے تو یقیناً ایسا مواد زیادہ پیسے کماتا ہے جس پر زیادہ لائیکس، شیئرز اور کمنٹس حاصل ہوں۔
ان کے بقول اس نظام کے دو قدرتی ردعمل ہیں، یا تو لوگ ایسا کونٹینٹ بنائیں جو حیران اور پریشان کر دینے والا ہو، متنازع ہو یا جذبات ابھارے۔ دوسرا یہ کہ لوگ ایسی تصاویر اور ویڈیوز پر ردعمل دیں۔ اے آئی ان دونوں کے لیے کارآمد ثابت ہو رہا ہے۔
اس سوال پر کہ پاکستان اور دیگر جنوبی ایشیائی ممالک میں اے آئی سلوپ دیکھنے اور بنانے کا رجحان کیوں بڑھ رہا ہے، وہ کہتی ہیں کہ اس کی ایک وجہ سے ایشیا میں نوجوانوں کی بڑی تعداد ہے۔ ان کا کہنا ہے کہ 'جب آپ کسی کو یہ کہتا دیکھتے ہیں کہ وہ فیس بُک پر ہزاروں ڈالر کما رہے ہیں تو آپ بھی اس کی کوشش کرتے ہیں۔۔۔ اس کے لیے محض ایک فون ہی تو چاہیے۔'
ان کا کہنا ہے کہ کونٹینٹ مونیٹائزیشن کا رجحان بڑھنے کا اندازہ اس بات سے لگایا جا سکتا ہے کہ جنوری 2025 میں فیس بک پر عالمی سطح پر تقریباً 25 لاکھ مونیٹائزڈ اکاؤنٹس تھے جو اب بڑھ کر ایک کروڑ 40 لاکھ ہو چکے ہیں، یعنی ایک سال میں 500 فیصد سے زیادہ اضافہ۔
انھوں نے ڈیٹا کا حوالہ دیتے ہوئے بتایا کہ فیس بُک کونٹینٹ مونیٹائزیشن پروگرام میں اس وقت پاکستان کے 10 ہزار سے زیادہ اکاؤنٹس ہیں جو اردو میں مواد شائع کرتے ہیں۔ لیکن دلچسپ بات یہ ہے کہ پاکستان میں بیٹھے کئی صارفین انگلش سمیت دیگر زبانوں میں بھی مواد شائع کر رہے ہیں۔ قریب 55 فیصد فیس بک پیجز، جن کے ایڈمن کی لوکیشن پاکستان ہے، وہ اپنا مواد انگریزی میں شائع کر رہے ہیں جبکہ کئی ایڈمن بظاہر اے آئی کی مدد سے ہندی، ہسپانوی، پرتگالی، انڈونیشیئن اور عربی زبانیں استعمال کر رہے ہیں۔
Getty Imagesبی بی سی سے گفتگو کرتے ہوئے پاکستان میں سائبر کرائم کے خلاف قائم کردہ ادارے این سی سی آئی اے کے نمائندہ سید نجیب الحسن نے تسلیم کیا کہ ملک میں ڈیپ فیکس اور اے آئی سلوپ کا مسئلہ 'سنگین صورتحال اختیار کر چکا ہے۔'پاکستان میں ’سنگین صورتحال‘ اور سیلاب کے دوران خواتین کا استحصال
بی بی سی سے گفتگو کرتے ہوئے پاکستان میں سائبر کرائم کے خلاف قائم کردہ ادارے این سی سی آئی اے کے نمائندہ سید نجیب الحسن نے تسلیم کیا کہ ملک میں ڈیپ فیکس اور اے آئی سلوپ کا مسئلہ 'سنگین صورتحال اختیار کر چکا ہے۔'
’یہ مسئلہ محض چند جعلی تصاویر تک محدود نہیں، سوشل میڈیا پر مصنوعی مواد کی بھرمار ہے۔‘
انھوں نے کہا کہ پاکستانی ادارے ’دو مختلف محاذوں پر لڑ رہے ہیں۔ ایک طرف منظم جرائم پیشہ گروہ ہیں۔۔ دوسری طرف وہ عام افراد ہیں جو محض سوشل میڈیا سے پیسے کمانے کے لیے اے آئی کے ذریعے جذباتی یا مذہبی قسم کا ’سلوپ‘ مواد پھیلا رہے ہیں۔‘
وہ کہتے ہیں کہ این سی سی آئی اے کی طرف سے ڈیپ فیک مواد ہٹانے کے لیے سوشل میڈیا کمپنیوں سے رابطہ کیا جاتا ہے اور پیکا قوانین کے تحت قانونی کارروائی کرتا ہے مگر وہ تسلیم کرتے ہیں کہ گذشتہ ایک سال کے دوران موصول ہونے والی شکایات میں 'اے آئی سے متعلق کیسز میں اضافہ ہوا ہے۔۔۔ ہراسانی اور بلیک میلنگ کا شکار ہونے والوں میں اکثریت خواتین اور بچوں کی ہے۔'
ڈیجیٹل حقوق کے لیے کام کرنے والی تنظیم ’ڈیجیٹل رائٹس فاؤنڈیشن‘ کی ایگزيکٹِو ڈائریکٹر نگہت داد کا کہنا ہے کہ اے سلوپ پاکستان میں ایک 'انڈسٹری' کی طرح ہے کیونکہ اے آئی ٹولز کی آسان رسائی اور رفتار کے باعث یہ ڈیجیٹل اکانومی بنتی جا رہی ہے جبکہ بہت سے نوجوان اس ’ڈیجیٹل اکانومی‘ سے فائدہ اٹھا رہے ہیں۔
ڈیجیٹل رائٹس فاؤنڈیشن نے پاکستان میں 2025 کے سیلاب کے دوران ایک حیران کن رجحان کی نشاندہی کی تھی جس میں سیلاب سے متاثرہ گاؤں کی خواتین کی جنسی نوعیت کی اے آئی ویڈیوز پھیلائی جا رہی تھیں۔
نگہت میٹا کے ’اورسائٹ بورڈ‘ کی بھی رکن ہیں۔ جب ہم نے اس سے پوچھا کہ کیا اس بارے میں وہاں بات نہیں ہوتی تو ان کا کہنا تھا کہ ہم نے میٹا کو بار بار اس بارے میں تجاویز دی ہیں۔ لیکن کونٹینٹ موڈریشن کے حوالے سے ’ہمارا مینڈیٹ محدود ہے۔ ہم اے آئی سے بنائے گئے مواد سے متعلق کئی کیسز کو دیکھ رہے ہیں اور میٹا بھی یہ مسئلہ حل کرنا چاہتا ہے۔ بورڈ کی میٹنگز میں بھی میٹا کو یہی کہا جاتا ہے کہ یہ آپ کی پالیسی کا مسئلہ ہے۔‘
مگر ان کا کہنا ہے کہ پاکستان میں اس کے خلاف قوانین کمزور ہیں اور اگر ہیں بھی تو یہ یقینی نہیں بنایا جاتا کہ عوام کے باقی حقوق پر کوئی قدغن نہ آئے۔ 'یہ قوانین اور مقاصد کے لیے استعمال ہوتے ہیں۔۔۔ یہ رجحان اتنا تیزی سے نہ بڑھتا اگر کونٹیٹ کری ایٹرز کو پتا ہوتا ہے کہ اے آئی سلوپ بنانے سے ان کی پکڑ ہو سکتی ہے۔'
ان کا کہنا تھا کہ پیکا قانون بھی کئی بار اصل مجرموں کی بجائے صحافیوں اور سیاسی مخالفین کے خلاف استعمال ہوا ہے۔ لہذا نئی قانون سازی کے لیے ان کے مطابق سٹیک ہولڈرز سے مشاورت کرنی ہو گی۔
ویسے تو اے آئی سلوپ کا معیار کوئی اچھا نہیں ہوتا مگر بعض مطالعات میں یہ بات سامنے آئی ہے کہ کئی لوگ اب بھی اے آئی سلوپ اور ڈیپ فیک ویڈیو کو نہیں پہچان پاتے۔
مثلاً ٹک ٹاک پر واضح طور پر اے آئی سے تیار کردہ ایک ڈیپ فیک ویڈیو میں ٹرمپ کو یہ کہتے سنا جا سکتا ہے کہ ’عمران خان ایک خطرناک رہنما ہیں۔ وہ امریکہ اور اسرائیل کے لیے خطرہ ہیں۔‘
جبکہ اسی طرح کی پرانی ڈیپ فیک ویڈیو میں ٹرمپ کو یہ کہتے سنا جا سکتا ہے کہ وہ الیکشن جیتنے کے بعد ’عمران خان کی رہائی کے لیے کوشش کریں گے۔‘ دونوں ہی ویڈیوز پر لاکھوں ویوز، لائیکس اور شیئرز ہیں جو اس جانب اشارہ کرتے ہیں شاید بہت سے لوگوں نے ان ویڈیوز کو سچ مان لیا تھا۔
نگہت داد کا خیال ہے کہ پاکستان میں اے آئی گورننس پر بات تو ہو رہی ہے مگر یہ کوئی آسان کام نہیں ہوگا۔ آنے والے عرصے کے دوران عوامی شخصیات خصوصاً خواتین کے ڈیپ فیکس اور انتخابات پر اثرات جیسے مسائل پیدا ہو سکتے ہیں۔
آخر اس مسئلے کا حل کیا ہے؟
وکٹوار ریو کی رائے میں یہ مسئلہ چونکہ پلیٹ فارمز نے ہی پیدا کیا ہے، لہذا انھیں ہی اسے حل کرنا ہو گا۔ یعنی پلیٹ فارمز کو ہی مونیٹائزڈ اکاؤنٹس اور مواد کی جانچ پڑتال کرنی چاہیے۔
مگر ان کے مطابق ملکوں میں موجود قانون نافذ کرنے والے اداروں کو بھی کریک ڈاؤن کرنا ہو گا کیونکہ فیک اکاؤنٹس اور بوٹ فارم کے کاروبار قانونی طور پر جائز نہیں ہونے چاہییں۔
ان کا مزید کہنا ہے کہ یہ ’ابھرتی ہوئی صنعت' پاکستان سمیت ایشیا کے لیے بہت تشویشناک ہے کیونکہ اب پلیٹ فارمز نے خود بھی اپنے اے آئی ویڈیو ٹولز بنا لیے ہیں۔ جب وہ (سوشل میڈیا کمپنیاں) اس میں مہارت حاصل کر لیں گے تو پھر انھیں اس نوعیت کا مواد پوسٹ کرنے کے لیے کسی کو ادائیگی کرنے میں دلچسپی نہیں رہے گی۔ یہی وہ مرحلہ ہو گا جب صورتحال بہت خراب ہو سکتی ہے۔‘
وہ سوال کرتی ہیں کہ ’ان لاکھوں لوگوں کا کیا ہو گا جنھوں نے اسے فل ٹائم کام کے طور پر اختیار کر لیا ہے؟‘
ان کے بقول یہ خطرہ بھی موجود ہے کہ کچھ افراد اپنی مہارت، جعلی اکاؤنٹس کی فوج اور وسائل سے آمدن کے دیگر طریقے تلاش کرنے کی کوشش کریں گے۔ ’فراڈ اور معاوضے کے عوض گمراہ کن معلومات فراہم کرنے کی سرگرمیوں میں بڑا ہو سکتا ہے جس سے نمٹنا قانون نافذ کرنے والے اداروں کے لیے ایک بڑا چیلنج ہو گا۔‘
سوشل میڈیا پر نظر آنے والی جعلی اے آئی ویڈیوز کی شناخت کیسے کریں؟’نیشنل کرش‘ گریجا اے آئی کے غلط استعمال کا نشانہ: ’میرا چہرہ چھوٹے کپڑے پہنی ایک خاتون کی تصویر پر تھا‘نیتن یاہو اور مودی کی طالبان حمایت سے متعلق ’ڈیپ فیک ویڈیوز‘: ’یہ اے آئی ہے لیکن انڈیا اور اسرائیل کا گٹھ جوڑ ڈھکا چھپا نہیں‘عمران خان کی جیل میں پُش اپس لگانے کی تصویر کی حقیقت کیا ہے؟ڈیپ فیک ویڈیوز کیا ہیں اور کیسے پہچانی جائیں؟