মৃত্যুর মাত্র কয়েক ঘণ্টা আগেও মায়ের সঙ্গে শৈশবের প্রিয় কার্টুন নিয়ে ক্ষুদেবার্তা আদান-প্রদান করছিলেন ২৪ বছর বয়সী অ্যালিস ক্যারিয়ার। মা ক্রিস্টি ক্যারিয়ারের কাছে মেয়ে ছিলেন তার গল্পসঙ্গী। তবে দীর্ঘদিন ধরে নিজের মানসিক সংকট ও একাকীত্বের কথা ভাগ করে নেওয়ার জন্য অ্যালিস বেছে নিয়েছিলেন চ্যাটজিপিটিকে।
মেয়ের মৃত্যুর প্রায় এক বছর পর ওপেনএআই এবং প্রতিষ্ঠানটির প্রধান নির্বাহী কর্মকর্তা স্যাম অল্টম্যানের বিরুদ্ধে মামলা করেছেন ক্রিস্টি ক্যারিয়ার। তার অভিযোগ, ব্যবহারকারীর আত্মঘাতী মানসিক অবস্থা শনাক্ত করতে সক্ষম হওয়া সত্ত্বেও ওপেনএআইয়ের পক্ষ থেকে কোনও কার্যকর পদক্ষেপ নেওয়া হয়নি কিংবা পরিবারকেও সতর্ক করা হয়নি।
আদালতে জমা দেওয়া অভিযোগপত্র অনুযায়ী, কানাডার মন্ট্রিয়ালে ওয়েব ডেভেলপার হিসেবে কর্মরত অ্যালিস ২০২৩ সালে প্রথমে কম্পিউটার ও গেমিং কনসোল-সংক্রান্ত সমস্যার সমাধান খুঁজতে চ্যাটজিপিটি ব্যবহার শুরু করেন। পরে সেই ব্যবহার প্রযুক্তিগত প্রশ্নোত্তরের গণ্ডি ছাড়িয়ে তার ব্যক্তিগত ও মানসিক স্বাস্থ্যবিষয়ক আলোচনার ক্ষেত্র হয়ে ওঠে। একাকীত্ব, মানসিক চাপ এবং আত্মমূল্যায়নসংক্রান্ত উদ্বেগ নিয়ে তিনি নিয়মিত চ্যাটবটের সঙ্গে কথা বলতেন।
অ্যালিস ক্যারিয়ার ২০২৫ সালের ২ জুলাই মন্ট্রিয়ালে নিজ বাসায় আত্মহত্যা করেন। এরপর মেয়ের ব্যবহৃত ডিভাইসগুলো পরীক্ষা করে চ্যাটজিপিটি অ্যাপে দীর্ঘ কথোপকথনের রেকর্ড খুঁজে পান তার মা। মামলায় দাবি করা হয়েছে, আত্মঘাতী চিন্তা ও মানসিক অবস্থার অবনতিসংক্রান্ত বিষয়ে অ্যালিস অন্তত ৪০ বারের বেশি চ্যাটজিপিটির সঙ্গে আলোচনা করেছিলেন।
ক্রিস্টি ক্যারিয়ার জানিয়েছেন, অ্যালিস মানসিক স্বাস্থ্য সমস্যার জন্য চিকিৎসকের তত্ত্বাবধানে ছিলেন এবং নিয়মিত থেরাপিও নিতেন। একইসঙ্গে অ্যালিস নিজের না-বলা কষ্টগুলো ক্রমশ চ্যাটবটের কাছে প্রকাশ করতে শুরু করেন। অভিযোগপত্রে বলা হয়েছে, জিপিটি-৪ও মডেল ব্যবহারকারীর প্রতি সহানুভূতিশীল প্রতিক্রিয়া দেখিয়ে অ্যালিসকে এর ওপর মানসিকভাবে নির্ভরশীল করে তোলে। অথচ এসব কথোপকথন ওপেনএআইয়ের নিরাপত্তা দলের কাছে পর্যালোচনার জন্য পাঠানো হয়নি এবং কোনও জরুরি হস্তক্ষেপও করা হয়নি।
ওপেনএআই ঘটনাটিকে ‘হৃদয়বিদারক’ বলে উল্লেখ করেছে। প্রতিষ্ঠানটির দাবি, আলোচিত কথোপকথনগুলো চ্যাটজিপিটির একটি পুরোনো মডেলের সঙ্গে হয়েছিল, যা বর্তমানে আর ব্যবহৃত হয় না। ওপেনএআই জানিয়েছে, এরপর থেকে তারা ১৭০ জনের বেশি মানসিক স্বাস্থ্য বিশেষজ্ঞের সহায়তায় নিরাপত্তা ব্যবস্থা উন্নত করেছে এবং ব্যবহারকারীর মানসিক স্বাস্থ্যঝুঁকি শনাক্ত করার সক্ষমতা বাড়িয়েছে।
ক্রিস্টি ক্যারিয়ারের ভাষ্য, তার মেয়ের সঙ্গে যা ঘটেছে, তা শুধু তাদের পরিবারের ট্র্যাজেডি নয়; অজান্তেই আরও অসংখ্য তরুণ-তরুণী একই ধরনের ঝুঁকির মধ্যে থাকতে পারে। তাই ভবিষ্যতে অন্য কোনও পরিবার যেন এমন পরিস্থিতির মুখোমুখি না হয়, সে জন্য প্রয়োজনীয় পরিবর্তনের দাবি জানিয়েছেন তিনি।
বিশেষজ্ঞদের মতে, ঘটনাটি কোনও বিচ্ছিন্ন ঘটনা নয়। সাম্প্রতিক সময়ে কৃত্রিম বুদ্ধিমত্তাভিত্তিক চ্যাটবটের সঙ্গে অতিরিক্ত মানসিক নির্ভরশীলতা এবং তার সম্ভাব্য ঝুঁকি নিয়ে উদ্বেগ বাড়ছে। বর্তমানে চ্যাটজিপিটির সাপ্তাহিক ব্যবহারকারী সংখ্যা শত কোটির পর্যায়ে পৌঁছেছে। বিভিন্ন গবেষণায় দেখা গেছে, বিশেষ করে তরুণদের একটি বড় অংশ মানসিক স্বাস্থ্যসংক্রান্ত পরামর্শের জন্য এআই চ্যাটবটের শরণাপন্ন হচ্ছেন।
ফলে শুধু এআই মডেলের সক্ষমতা বৃদ্ধি নয়, বরং কোটি কোটি ব্যবহারকারীর নিরাপত্তা নিশ্চিত করাও প্রযুক্তি প্রতিষ্ঠানগুলোর বড় দায়িত্ব হয়ে উঠেছে। বিশেষজ্ঞদের মতে, এআইভিত্তিক সেবার বিস্তারের সঙ্গে সঙ্গে এসব প্ল্যাটফর্মের নিরাপত্তা ও ঝুঁকি ব্যবস্থাপনাকেও আরও শক্তিশালী করতে হবে।
