انٹرنیشنل ڈیسک: ملائیشیا اور انڈونیشیا ایلن مسک کی کمپنی 'XAI' کی جانب سے تیار کردہ مصنوعی ذہانت (AI) چیٹ بوٹ گروک (  Grok)  پر پابندی لگانے والے دنیا کے پہلے ممالک بن گئے ہیں۔ حکام کا کہنا ہے کہ اس ٹول کا غلط استعمال فحش اور بغیر اجازت کے ڈیپ فیک تصاویر تیار کرنے میں کیا جا رہا تھا۔ ملائیشیا اور انڈونیشیا کے اس اقدام سے جنریٹیو AI کے حوالے سے عالمی تشویش ظاہر ہوتی ہے، کیونکہ ایسے ٹول حقیقت جیسے دکھنے والے تصاویر، آواز اور تحریری پیغامات تیار کر سکتے ہیں، جبکہ موجودہ حفاظتی اقدامات ان کے غلط استعمال کو روکنے میں ناکام ثابت ہو رہے ہیں۔
مسک کے ہی سوشل میڈیا پلیٹ فارم 'X' کے ذریعے دستیاب 'Grok' پر خواتین اور بچوں سے متعلقہ قابل اعتراض اور ہراسانی والے مواد تیار کرنے کے الزامات لگے ہیں۔ جنوب مشرقی ایشیا کے ان دونوں ممالک کے ریگولیٹرز نے کہا کہ موجودہ کنٹرول اقدامات جعلی فحش مواد، خاص طور پر خواتین اور نابالغوں سے متعلق مواد کے تیار کرنے اور پھیلانے کو روکنے میں ناکام رہے ہیں۔ انڈونیشیا کی حکومت نے ہفتے کو 'Grok' تک رسائی عارضی طور پر بند کی، جبکہ ملائیشیا نے اتوار کو ایسا ہی اقدام کیا۔ انڈونیشیا کی مواصلات اور ڈیجیٹل امور کی وزیر میوتیا ہافد نے ایک بیان میں کہا، حکومت بغیر اجازت کے ڈیپ فیک کو انسانی حقوق، وقار اور ڈیجیٹل شعبے میں شہریوں کی حفاظت کی سنگین خلاف ورزی سمجھتی ہے۔
وزارت نے کہا کہ یہ اقدام AI کے ذریعے تیار ہونے والے جعلی فحش مواد سے خواتین، بچوں اور وسیع کمیونٹی کی حفاظت کے لیے اٹھایا گیا ہے۔ ڈیجیٹل اسپیس مانیٹرنگ کے ڈائریکٹر جنرل الیگزینڈر سابر نے کہا کہ ابتدائی تحقیقات میں پایا گیا ہے کہ 'Grok' میں ایسے مؤثر حفاظتی اقدامات موجود نہیں ہیں جو انڈونیشیائی شہریوں کی حقیقی تصاویر کی بنیاد پر فحش مواد کی تیاری اور پھیلا ؤکو روک سکیں۔ انہوں نے کہا کہ بغیر اجازت تصاویر میں تبدیلی یا اشتراک سے نجی زندگی اور امیج کے حقوق کی خلاف ورزی ہوتی ہے، جس سے ذہنی، سماجی اور ساکھ سے متعلق نقصان ہو سکتا ہے۔ کوالالمپور میں ملائیشیا کمیونیکیشن اور ملٹی میڈیا کمیشن نے اتوار کو 'Grok' پر عارضی پابندی کا حکم دیا۔
کمیشن نے کہا کہ اس ٹول کا بار بار غلط استعمال کر کے فحش، جنسی نوعیت اور بغیر اجازت کے تصاویر تیار کیے گئے، جن میں خواتین اور نابالغوں سے متعلق مواد بھی شامل تھا۔ ریگولیٹر نے بتایا کہ اس ماہ  X Corp اور XAI کو مضبوط حفاظتی اقدامات نافذ کرنے کے لیے بھیجے گئے نوٹس کے جوابات اطمینان بخش نہیں تھے۔ کمیشن نے کہا، قانونی اور ریگولیٹری عمل جاری رہنے تک یہ پابندی ایک روک تھام اور متوازن اقدام کے طور پر لگائی گئی ہے، اور مؤثر حفاظتی اقدامات نافذ ہونے تک پابندی برقرار رہے گی۔ سال 2023 میں شروع کیا گیا 'Grok'  ایکس  پر مفت دستیاب ہے۔ 
پچھلے سال کمپنی نے 'Grok Imagine' کے نام سے تصویر تیار کرنے کی خصوصیت شامل کی تھی، جس میں بالغ مواد تیار کرنے والا مبینہ 'Spicy Mode' بھی شامل تھا۔ جنوب مشرقی ایشیا میں لگائی گئی یہ پابندیاں ایسے وقت میں آئی ہیں جب یورپی یونین، برطانیہ، ہندوستان اور فرانس سمیت دیگر ممالک میں بھی 'Grok' پر سخت نگرانی کی جا رہی ہے۔ گزشتہ ہفتے عالمی تنقید کے بعد کمپنی نے تصویر تیار کرنے اور ایڈیٹنگ کی سہولت کو صرف ادائیگی کرنے والے صارفین تک محدود کر دیا تھا۔ ناقدین کا کہنا ہے کہ یہ اقدام مسئلے کے حل کے لیے کافی نہیں ہے۔