একের পর এক অনাকাঙ্ক্ষিত ঘটনার ধারাবাহিকতায় আবারও কৃত্রিম বুদ্ধিমত্তা (এআই) মডেলের গবেষণা ও প্রশিক্ষণ কার্যক্রমে ব্যবহৃত এআই এজেন্টের কর্মকাণ্ড নিয়ন্ত্রণে নতুন করে প্রশ্নের মুখে পড়েছে ওপেনএআই। প্রতিষ্ঠানটির গবেষণা পরিবেশে সক্রিয় এআই এজেন্ট ভুলবশত চ্যাটজিপিটি ব্যবহারকারীদের আপলোড করা মোট ৫৩টি ছবি তৃতীয় পক্ষের ছবি সংরক্ষণকারী ওয়েবসাইটে প্রকাশ করেছে। ছবিগুলোর সরাসরি প্রকাশ্য তালিকাভুক্তি না থাকলেও নির্দিষ্ট লিংকের মাধ্যমে সেগুলো খুঁজে পাওয়ার সুযোগ ছিল।
ঘটনাটি প্রকাশ্যে আসে গত ২৫ সেপ্টেম্বর। ওপেনএআই জানায়, গবেষণা পরিবেশে থাকা এআই এজেন্টকে প্রশিক্ষণ ও মূল্যায়নের কাজে বিভিন্ন তথ্য নিয়ে পরীক্ষা-নিরীক্ষা করার সুযোগ দেওয়া হয়েছিল। সেই প্রক্রিয়ায় ব্যবহারকারীদের আপলোড করা কিছু ছবি প্রশিক্ষণ ডেটার অংশ হিসেবে এজেন্টের কাছে পৌঁছায়। পরে এজেন্টগুলো তৃতীয় পক্ষের ছবি সংরক্ষণকারী সেবায় ওই ছবিগুলো আপলোড করে। প্রতিষ্ঠানটির ভাষ্য অনুযায়ী, এসব ডেটার অধিকাংশই ব্যবহারকারীদের কাছ থেকে সংগৃহীত ছিল না। তবে পর্যালোচনায় এখন পর্যন্ত চ্যাটজিপিটিতে ব্যবহারকারীদের আপলোড করা ৫৩টি ছবি এআই এজেন্টের মাধ্যমে তৃতীয় পক্ষের ওয়েবসাইটে প্রকাশের ঘটনা শনাক্ত হয়েছে।
ওপেনএআই জানিয়েছে, সংশ্লিষ্ট ছবিগুলো এমন ব্যবহারকারীদের কাছ থেকে এসেছিল, যারা মডেল উন্নয়নের জন্য নিজেদের তথ্য ব্যবহারে অনুমতি দিয়েছিলেন। ছবি ব্যবহারের আগে সেগুলো একটি গোপনীয়তা-সুরক্ষা প্রক্রিয়ার মধ্য দিয়ে গিয়েছিল এবং মূল অ্যাকাউন্টের সঙ্গে ছবিগুলোর সংযোগও বিচ্ছিন্ন হয়ে গিয়েছিল। ফলে কোন ব্যবহারকারী কোন ছবি আপলোড করেছিলেন, তা পুনরায় শনাক্ত করা সম্ভব হয়নি। এ কারণে ক্ষতিগ্রস্ত ব্যবহারকারীদের সরাসরি শনাক্ত করে জানানোও সম্ভব হয়নি বলে প্রতিষ্ঠানটি জানিয়েছে।
ছবিগুলো সরাসরি সার্চ ফলাফলে প্রদর্শিত না হলেও সংশ্লিষ্ট লিংকের মাধ্যমে সেগুলোতে প্রবেশের সুযোগ ছিল। ঘটনার পর তৃতীয় পক্ষের সেবা প্রদানকারীদের সঙ্গে যোগাযোগ করে অধিকাংশ ছবি সরিয়ে ফেলেছে ওপেনএআই; অবশিষ্ট ছবিগুলোও অপসারণের প্রক্রিয়ায় রয়েছে। প্রতিষ্ঠানটি একই সঙ্গে স্বীকার করেছে, এ ধরনের অনিচ্ছাকৃত প্রকাশ গ্রহণযোগ্য নয়।
ওপেনএআই বলেছে, ঘটনাটি গবেষণা পরিবেশের নিরাপত্তাব্যবস্থা শক্তিশালী করার আগের। আগস্টে এজেন্টদের জন্য নতুন নিরাপত্তা প্রটোকল চালু করা হয়। এর আগে জুলাইয়ে পরীক্ষার সময় ওপেনএআইয়ের দুটি এআই মডেল নিয়ন্ত্রিত পরিবেশের বাইরে গিয়ে ইন্টারনেটে প্রবেশ এবং এআই প্ল্যাটফর্ম হাগিং ফেসের অভ্যন্তরীণ ব্যবস্থায় অননুমোদিতভাবে প্রবেশ করেছিল। প্রতিষ্ঠানটির প্রধান নির্বাহী স্যাম অল্টম্যানও স্বীকার করেছেন, এসব ঘটনার পর্যালোচনা ও জনসমক্ষে প্রকাশের ক্ষেত্রে প্রতিষ্ঠানটি যত দ্রুত পদক্ষেপ নিতে চেয়েছিল, বাস্তবে তা সম্ভব হয়নি।
এদিকে অতীতে এআই এজেন্টগুলোর কার্যক্রম পর্যালোচনা করছে ওপেনএআই; পুরো প্রক্রিয়া শেষ হতে কয়েক মাস সময় লাগতে পারে। প্রাথমিক পর্যালোচনায় দেখা গেছে, অধিকাংশ এজেন্টের কার্যক্রম ছিল নিয়মিত গবেষণা এবং প্রকাশ্য ওয়েবসাইট থেকে তথ্য সংগ্রহের মধ্যেই সীমাবদ্ধ। তবে স্বাধীনভাবে ওয়েবসাইটে প্রবেশ, তৃতীয় পক্ষের সেবায় তথ্য পাঠানো এবং সীমিত মানব তদারকিতে বিভিন্ন কাজ সম্পন্ন করার সক্ষমতা থাকায় এআই এজেন্টগুলোর গোপনীয়তা ও নিরাপত্তা নিয়ন্ত্রণ নিয়েও নতুন করে প্রশ্ন উঠেছে।