যুক্তরাষ্ট্রের ফিলাডেলফিয়ার একটি অমীমাংসিত হত্যাকাণ্ড বিষয়ে পুলিশ ওয়েবসাইটে ভুয়া তথ্য বা টিপস পাঠিয়েছে মার্কিন প্রযুক্তিপ্রতিষ্ঠান অ্যানথ্রোপিকের কৃত্রিম বুদ্ধিমত্তা (এআই) মডেল ক্লড। পরীক্ষায় এআই মডেলগুলোর অনাকাঙ্ক্ষিত আচরণ ও বিভিন্ন সরকারি ওয়েবসাইটে অনভিপ্রেত হস্তক্ষেপের সর্বশেষ উদাহরণ হিসেবে বিষয়টি সামনে এসেছে।
অ্যানথ্রোপিক জানায়, গত ১৮ জুলাই তাদের ‘ক্লড হাইকু ৪.৫’ মডেলটিকে দৈবচয়ন ভিত্তিতে নির্বাচিত কিছু ওয়েবসাইটে বিভিন্ন কাজের প্রশিক্ষণ দেওয়ার সময় এই ঘটনা ঘটে। মডেলটি ফিলাডেলফিয়া পুলিশের ওয়েবসাইট -এ গিয়ে একটি অমীমাংসিত হত্যাকাণ্ডের বিষয়ে তথ্য থাকার কথা উল্লেখ করে একটি ফরম পূরণ করে পাঠায়।
ফিলাডেলফিয়া পুলিশ এক বিবৃতিতে জানায়, গত বুধবার অ্যানথ্রোপিক বিষয়টি না জানানো পর্যন্ত তারা এটি সম্পর্কে অবগত ছিলেন না। পরে তারা যাচাই করে দেখেন যে স্বয়ংক্রিয়ভাবে আসা ওই তথ্যটি স্প্যাম হিসেবে চিহ্নিত হয়ে আটকে গিয়েছিল এবং তা কোনও তদন্তকারী কর্মকর্তার কাছে পৌঁছায়নি।
এ ঘটনায় ফিলাডেলফিয়া পুলিশ বিভাগ বিবৃতিতে ক্ষোভ প্রকাশ করে বলে, অমীমাংসিত ঘটনাগুলোর সঙ্গে প্রকৃত ভুক্তভোগী, তাদের শোকসন্তপ্ত পরিবার এবং তদন্তকারীরা জড়িত থাকেন। এআই প্রযুক্তি কোম্পানিগুলোকে অবশ্যই সব প্রয়োজনীয় ব্যবস্থা নিতে হবে, যাতে তাদের সিস্টেম আইনশৃঙ্খলা রক্ষাকারী বাহিনীর কাছে কোনও ভুয়া তথ্য জমা দিতে না পারে।
ঘটনার পর অ্যানথ্রোপিক জানিয়েছে, তাদের এআই মডেলটি যখন নির্ধারিত কোনও কাজ সাধারণ উপায়ে সম্পন্ন করতে পারে না, তখন এটি কাজ বন্ধ না করে ভিন্ন উপায়ে তা করার চেষ্টা করে। প্রতিষ্ঠানটি তাদের এআই প্রশিক্ষণ পদ্ধতিতে পরিবর্তন আনছে যাতে ভবিষ্যতে এ ধরনের ঘটনার পুনরাবৃত্তি না ঘটে। এ ছাড়া হোয়াইট হাউসসহ ক্ষতিগ্রস্ত সরকারি সংস্থাগুলোকে পুরো বিষয়টি আনুষ্ঠানিকভাবে অবহিত করা হয়েছে বলে জানিয়েছে অ্যানথ্রোপিক।
সম্প্রতি এআই এজেন্টদের অবাধ নিয়ন্ত্রণ ও সরকারি তথ্যভান্ডারে অনাকাঙ্ক্ষিত হস্তক্ষেপ নিয়ে বিশ্বজুড়ে উদ্বেগ বাড়ার মধ্যে এই খবর প্রকাশিত হলো। এর আগে গত সেপ্টেম্বরে আরেক এআই নির্মাতা প্রতিষ্ঠান ওপেনএআই-ও তাদের মডেলে অনাকাঙ্ক্ষিত আচরণের ছয়টি ঘটনা সামনে এনেছিল।
সূত্র: এপি