মালয়েশিয়া ও ইন্দোনেশিয়া প্রথম দেশ হিসেবে এলন মাস্কের কোম্পানি xAI-এর তৈরি কৃত্রিম বুদ্ধিমত্তা চ্যাটবট ‘গ্রক’ ব্লক করেছে। কারণ, এটি অশ্লীল ও অননুমোদিত ছবি তৈরি করতে ব্যবহার হচ্ছে, বিশেষ করে নারীদের এবং শিশুর ছবি।
ইন্দোনেশিয়ার ডিজিটাল বিষয়ক মন্ত্রী মেউটিয়া হাফিদ বলেন, “অননুমোদিত যৌন ডিপফেকস মানবাধিকার, মর্যাদা এবং ডিজিটাল নিরাপত্তার জন্য গুরুতর হুমকি।” মালয়েশিয়ার নিয়ন্ত্রক সংস্থা বলেছে, গ্রক ব্যবহার করে “অশ্লীল ও অননুমোদিত ছবি” তৈরি হওয়া রোধ করতে যথেষ্ট ব্যবস্থা নেই।
উল্লেখ্য, গ্রক ২০২৩ সালে চালু হয় এবং ২০২৫ সালে এতে ছবি তৈরি ফিচার যুক্ত হয়েছিল, যা ‘স্পাইসি মোড’-এ প্রাপ্তবয়স্ক বিষয়বস্তুও তৈরি করতে সক্ষম।
এদিকে, যুক্তরাজ্যে Ofcom গ্রকের বিরুদ্ধে আনুষ্ঠানিক তদন্ত শুরু করেছে। টেকনোলজি সেক্রেটারি লিজ ক্যান্ডাল বলেন, গ্রক ব্যবহার করে শিশুদের বা অন্যদের অশ্লীল ছবি তৈরি হওয়া “গুরুতর উদ্বেগজনক”।
