চ্যাটজিপিটির নির্মাতা প্রতিষ্ঠান ওপেনএআই-এর সাবেক সেফটি ইঞ্জিনিয়ার ডেভিড রবিনসন সতর্ক করে বলেছেন, কৃত্রিম বুদ্ধিমত্তা বা এআই প্রতিষ্ঠানগুলো ‘যথেষ্ট সতর্কতার সাথে কাজ করছে না’।
এআই অতিরিক্ত শক্তিশালী হয়ে ওঠার ক্রমবর্ধমান উদ্বেগের মধ্যেই ডেভিড রবিনসন এই মন্তব্য করেছেন। যদিও মার্কিন প্রেসিডেন্ট ডোনাল্ড ট্রাম্প এই হুমকিকে একটি ‘ভুয়া গল্প’বলে উড়িয়ে দিয়েছেন।
সম্প্রতি ওপেনএআই এবং অ্যানথ্রপিক এমন কিছু ঘটনার কথা প্রকাশ করেছে, যেখানে তাদের এআই মডেলগুলো নিরাপত্তা নিয়ন্ত্রণ এড়িয়ে গেছে, ভুল লুকিয়ে রেখেছে এবং যে সিস্টেমে প্রবেশ করার কথা নয় সেখানে হ্যাকিং করেছে।
‘দ্য আটলান্টিক’-এ লেখা একটি মতামত কলামে রবিনসন বলেন, পারমাণবিক শক্তি এবং এভিয়েশনের মতো এআই খাতের জন্যও সুরক্ষা বা গার্ডরেল প্রয়োজন। তিনি যোগ করেন, ‘পরীক্ষা-নিরীক্ষার সময় এখন শেষ’।
মার্কিন বিগ টেক কোম্পানিগুলো আরও উন্নত এআই মডেল তৈরি করার আগে তিনি সুরক্ষার ওপর বেশি জোর দেওয়ার আহ্বান জানিয়ে বলেন, যাতে মাঝেমধ্যে ঘটে যাওয়া অনিবার্য মানবজনিত ত্রুটি কোনও বড় বিপর্যয়ের দুয়ার উন্মুক্ত করে না দেয়।
অন্যের ভিডিও ক্লিপ ব্যবহার করছেন? বড় ধাক্কা আসছে!১২টি ফ্রন্টিয়ার এআই-মডেল লঞ্চের নিরাপত্তা প্রতিবেদন তদারক করা রবিনসন বলেন, সাম্প্রতিক ত্রুটিগুলো স্বাভাবিক ছিল কারণ প্রযুক্তি জায়ান্টগুলো ‘গতি এবং নমনীয়তাকে’ অগ্রাধিকার দিচ্ছে।
তিনি আরও বলেন, এমন একটি পরিবেশ যেখানে এ ধরনের ঘটনা ঘটতে পারে, তা এমন কোনও কৃত্রিম মন গড়ে তোলার জায়গা নয় যা আমাদের চেয়েও স্মার্ট হতে পারে এবং আমরা যা চাই তা নাও করতে পারে।
ওপেনএআই-এর সাবেক এই কর্মী উল্লেখ করেছেন, প্রতিষ্ঠানটি ‘ইটারেটিভ ডিপ্লয়মেন্ট’ বা পুনরাবৃত্তিমূলক মোতায়েনের ওপর নির্ভর করে। তারা প্রথমে নতুন এআই মডেল প্রকাশ করে এবং সমস্যা দেখা দেওয়ার পরেই কেবল নিরাপত্তা কড়াকড়ি করে।
ওপেনএআই-এ সাড়ে তিন বছর কাজ করা রবিনসন আরও বলেন, কোম্পানিটি এক লঞ্চ থেকে অন্য লঞ্চে ছোটাছুটি করার সময় আমার বিশ্বাস অনুযায়ী যে স্তরের যত্নের প্রয়োজন, তা অর্জনে ব্যর্থ হচ্ছে।
সর্বশেষ এই সমালোচনার জবাবে ওপেনএআই এক বিবৃতিতে জানিয়েছে, ‘আমরা নিশ্চিত করছি যেন আমাদের মডেলগুলো এমন সক্ষম হয়ে না ওঠে যা আমরা নিরাপদে পরিচালনা ও সুরক্ষিত করতে পারি না, এবং যখন আমাদের গতি কমানোর প্রয়োজন হয় তখন আমরা প্রশিক্ষণ স্থগিত রাখি বা মডেলগুলোকে আটকে রাখি’।
সাম্প্রতিক মাসগুলোতে প্রযুক্তি বিশেষজ্ঞ এবং নীতি নির্ধারকদের পক্ষ থেকে বারবার সতর্কবার্তা দেওয়া হয়েছে যে এআই মডেলগুলো এত দ্রুত অগ্রসর হচ্ছে যে তারা নিয়ন্ত্রণ নিজের হাতে নিয়ে নিতে পারে এবং সম্ভবত মানবজাতিকে ধ্বংস করে দিতে পারে।
এ ধরনের আশঙ্কা সত্ত্বেও, মার্কিন প্রেসিডেন্ট ডোনাল্ড ট্রাম্প কঠোর নিয়মনীতির তীব্র বিরোধী। তিনি জোর দিয়ে বলেছেন যে এটি উদ্ভাবনকে মন্থর করে দেবে এবং মার্কিন এআই মডেলগুলোর পক্ষে চীনা প্রতিদ্বন্দ্বীদের পরাস্ত করা কঠিন করে তুলবে।
ফেসবুক-ইনস্টাগ্রাম-হোয়াটসঅ্যাপে মেটা এআই নিয়ন্ত্রণ করবেন যেভাবেচলতি সপ্তাহে ট্রাম্প এনভিডিয়া, স্পেসএক্স, ওপেনএআই, অ্যানথ্রপিক, মেটা এবং অ্যালফাবেটের গুগলের মতো ছয়টি কোম্পানির সাথে একটি স্বেচ্ছামূলক নিরাপত্তা চুক্তির ঘোষণা দিয়েছেন। আইনগতভাবে বাধ্যতামূলক না হলেও প্রেসিডেন্ট এই চুক্তিটিকে ‘নৈতিকভাবে বাধ্যবাধকতাপূর্ণ’ বলে বর্ণনা করেছেন।
তিনি তার প্রশাসনকে এআই-এর নাম পরিবর্তন করে ‘সুপার ইন্টেলিজেন্স’ বা এসআই করার নির্দেশও দিয়েছেন।
গত মাসে রয়টার্স-ইপসোসের একটি জরিপে দেখা গেছে, আমেরিকার তিন-চতুর্থাংশ মানুষ এআই জায়ান্টরা সমাজকে গুরুতর ক্ষতির হাত থেকে রক্ষা করার জন্য পর্যাপ্ত পদক্ষেপ না নেওয়া নিয়ে উদ্বিগ্ন।
সূত্র: ডিডব্লিউ
