গ্রক এআই চ্যাটবটের মাধ্যমে যৌননির্যাতন কিংবা ব্ল্যাকমেইলের উদ্দেশ্যে নগ্ন ডিপফেক ছবি তৈরি ও ছড়ানোর অভিযোগে ইলন মাস্কের মালিকানাধীন সামাজিক যোগাযোগমাধ্যম এক্সের বিরুদ্ধে আনুষ্ঠানিক তদন্ত শুরু করেছে ব্রিটেনের মিডিয়া নিয়ন্ত্রক সংস্থা অফকম। ব্রিটিশ বার্তা সংস্থা রয়টার্স এ খবরটি জানিয়েছে।
এক বিবৃতিতে অফকম জানিয়েছে, গ্রক ব্যবহার করে মানুষের পোশাকহীন ছবি তৈরি ও শেয়ার করার অভিযোগ পাওয়া গেছে, যা যৌনতার প্রতি উত্তেজক নগ্ন ছবি অপব্যবহার বা পর্নোগ্রাফির শামিল হতে পারে। একই সঙ্গে শিশুদের যৌনায়িত ছবিও তৈরি হয়েছে বলে অভিযোগ উঠেছে, যা শিশু যৌন নির্যাতনবিষয়ক উপকরণ হিসেবে গণ্য হতে পারে। এতে প্ল্যাটফর্মগুলোর নিরাপত্তা বিধানের দায়িত্ব লঙ্ঘনের ঝুঁকি রয়েছে বলে সতর্ক করেছে সংস্থাটি।
তদন্তে খতিয়ে দেখা হবে, যুক্তরাজ্যের ব্যবহারকারীরা, বিশেষ করে শিশুরা, অবৈধ কনটেন্টের মুখোমুখি হতে পারেন, এমন ঝুঁকি এক্স যথাযথভাবে মূল্যায়ন করেছিল কি না এবং সুরক্ষাব্যবস্থা পর্যাপ্ত ছিল কি না। অফকম বলেছে, এ তদন্ত রাজনৈতিক চাপ ও কৃত্রিম বুদ্ধিমত্তা নির্ভর যৌন উত্তেজক কনটেন্ট নিয়ে জনমনে উদ্বেগ বাড়ার প্রেক্ষাপটে শুরু হয়েছে।
এক্স এক প্রতিক্রিয়ায় আগের অবস্থান পুনর্ব্যক্ত করে জানিয়েছে, প্ল্যাটফর্মটি অবৈধ কনটেন্ট সরিয়ে দেয়, সংশ্লিষ্ট অ্যাকাউন্ট স্থায়ীভাবে স্থগিত করে এবং আইনশৃঙ্খলা বাহিনীর সঙ্গে সহযোগিতা করে। প্রতিষ্ঠানটি বলেছে, “গ্রক ব্যবহার করে কেউ অবৈধ কনটেন্ট তৈরি করলে তা আপলোডের মতোই একই পরিণতি ভোগ করতে হবে।”
যুক্তরাজ্যের আইনে সম্মতি ছাড়া ঘনিষ্ঠ ছবি তৈরি বা শেয়ার করা এবং শিশু যৌন নির্যাতনবিষয়ক উপকরণ, তা কৃত্রিম বুদ্ধিমত্তার তৈরি হলেও অবৈধ। একই সঙ্গে প্ল্যাটফর্মগুলোর দায়িত্ব হলো ব্যবহারকারীদের এমন কনটেন্ট থেকে সুরক্ষিত রাখা এবং শনাক্ত হলে দ্রুত অপসারণ করা।
একই ধরনের অভিযোগে অন্য দেশেও সমালোচনার মুখে পড়েছে এক্স। এক্স জানিয়েছে, ছবি পোশাকমুক্ত করার অনুরোধ কেবল অর্থপ্রদানকারী ব্যবহারকারীদের জন্য সীমিত করা হয়েছে।
অফকম জানিয়েছে, প্ল্যাটফর্মগুলোর গুরুতর অনানুগত্যের ক্ষেত্রে আদালতের মাধ্যমে বিজ্ঞাপনদাতা বা পেমেন্ট সেবাদাতাদের সম্পর্ক ছিন্ন করতে বাধ্য করা কিংবা যুক্তরাজ্যে ইন্টারনেট সেবাদাতাদের দিয়ে প্ল্যাটফর্মটি ব্লক করার নির্দেশ দেওয়ার ক্ষমতাও রয়েছে তাদের।
