নিয়ন্ত্রিত এআই, নাকি নিয়ন্ত্রণহীন এআই 

কৃত্রিম বুদ্ধিমত্তা বা এআই নিয়ে আমরা এখন এক অদ্ভুত বৈপরীত্যের মধ্যে দাঁড়িয়ে আছি। একদিকে এআই চিকিৎসাবিজ্ঞান, শিক্ষা, গবেষণা, ব্যবসা, কৃষি, যোগাযোগ, তথ্য বিশ্লেষণ থেকে শুরু করে দৈনন্দিন জীবনের প্রায় প্রতিটি ক্ষেত্রে মানুষের সক্ষমতাকে বহুগুণ বাড়িয়ে দিচ্ছে। একেবারে সাধারণ মানুষও এআইকে অনেকটাই বুঝতে শিখেছে। যত দিন যাচ্ছে, তত এআইয়ের অপব্যবহার বাড়ছে, ব্যক্তিগত নিরাপত্তা বিঘ্নিত হচ্ছে। এই প্রযুক্তিরই বহু নির্মাতা ও গবেষক এখন প্রশ্ন তুলছেন, আমরা কি এমন একটি বুদ্ধিমত্তা তৈরি করছি, যেটিকে একদিন আর নিয়ন্ত্রণ করতে পারবো না?

এআইয়ের সম্ভাব্য বিপদ নিয়ে সতর্কবার্তাগুলোর মধ্যে সম্ভবত সবচেয়ে তাৎপর্যপূর্ণটি এসেছে এমন একজন মানুষের কাছ থেকে, যাকে আধুনিক এআই বিপ্লবের অন্যতম স্থপতি বলা হয়, জিওফ্রি হিন্টন। কৃত্রিম নিউরাল নেটওয়ার্ক ও ডিপ লার্নিংয়ের বিকাশে মৌলিক অবদানের জন্য হিন্টন এবং জন জে. হপফিল্ড যৌথভাবে ২০২৪ সালের পদার্থবিজ্ঞানে নোবেল পুরস্কার লাভ করেন।

২০২৪ সালের ১০ ডিসেম্বর স্টকহোম সিটি হলে নোবেল ভোজসভায় দেওয়া সংক্ষিপ্ত বক্তৃতাতেও হিন্টন তার অর্জনের উদযাপনের চেয়ে এআইয়ের ভবিষ্যৎ ঝুঁকির কথাই সামনে নিয়ে আসেন। তিনি সতর্ক করেন যে মানুষের চেয়ে অধিক বুদ্ধিমান ডিজিটাল সত্তা তৈরি হলে—একটি দীর্ঘমেয়াদি অস্তিত্বগত হুমকি দেখা দিতে পারে এবং আমরা তাদের নিয়ন্ত্রণে রাখতে পারবো কিনা, তা এখনও জানি না। তিনি আরও বলেন, স্বল্পমেয়াদি মুনাফা দ্বারা পরিচালিত কোম্পানিগুলোর হাতে এই প্রযুক্তির বিকাশ হলে মানবনিরাপত্তা সর্বোচ্চ অগ্রাধিকার নাও পেতে পারে। তার আহ্বান ছিল, এই সিস্টেমগুলো যেন নিয়ন্ত্রণ দখল করতে না চায়, সে বিষয়ে জরুরি গবেষণা প্রয়োজন; বিষয়টি আর কল্পবিজ্ঞান নয়।

নোবেল সপ্তাহে দেওয়া তার অফিসিয়াল সাক্ষাৎকারেও একই উদ্বেগ ফিরে আসে। হিন্টনের ধারণা, আগামী প্রায় ২০ বছরের মধ্যেই এআই মানুষের চেয়ে বেশি বুদ্ধিমান হয়ে উঠতে পারে। তার কাছে আসল প্রশ্নটি তাই— এআই আমাদের চেয়ে বেশি বুদ্ধিমান হবে কিনা, সেটি নয়— বরং সেটি ঘটলে আমরা কীভাবে নিশ্চিত করবো যে, সেই বুদ্ধিমত্তা আমাদের নিয়ন্ত্রণের বাইরে চলে যেতে চাইবে না? তিনি স্পষ্টভাবে স্বীকার করেন, এর উত্তর এখনও আমাদের জানা নেই এবং তাই নিয়ন্ত্রণ ও নিরাপত্তা গবেষণায় বিপুল সম্পদ বিনিয়োগ করা প্রয়োজন।

এর কিছুদিন পর, ২০২৪ সালের ডিসেম্বরে বিবিসি রেডিও ৪-এর ‘টুডে’ অনুষ্ঠানে হিন্টন তার আশঙ্কাকে আরও সংখ্যাগতভাবে প্রকাশ করেন। এআই আগামী ৩০ বছরের মধ্যে মানবজাতির জন্য বিপর্যয়কর বা বিলুপ্তি-পর্যায়ের ফল তৈরি করতে পারে, এমন ঝুঁকির ব্যক্তিগত অনুমান তিনি ১০ থেকে ২০ শতাংশ বলে উল্লেখ করেন।

হিন্টনের উদাহরণটিও তাৎপর্যপূর্ণ। প্রকৃতিতে অধিক বুদ্ধিমান সত্তা সাধারণত কম বুদ্ধিমান সত্তার নিয়ন্ত্রণে থাকে না। তার ভাষায়, মানুষ যদি ভবিষ্যতের সুপারইন্টেলিজেন্ট এআইয়ের তুলনায় শিশুর মতো হয়ে পড়ে, তাহলে শুধু ‘আমরাই তো এআই তৈরি করেছি’— এই যুক্তি আমাদের কখনও নিয়ন্ত্রণের নিশ্চয়তা দেয় না।

সেপ্টেম্বর ২০২৬-এ সেই বিতর্ক নতুন মাত্রা পেয়েছে। অ্যানথ্রপিকের সাবেক গবেষক জ্যাকব কক্সন প্রতিষ্ঠানটি ছেড়ে দিয়ে অভিযোগ করেছেন, বিশ্বের শীর্ষ এআই প্রতিষ্ঠানগুলো যথেষ্ট নিরাপত্তা নিশ্চিত না করেই নিজে নিজে উন্নত হতে সক্ষম সুপারইন্টেলিজেন্স তৈরির প্রতিযোগিতায় এগোচ্ছে। তার বক্তব্যকে আরও তাৎপর্যপূর্ণ করে তুলেছেন অ্যানথ্রপিকের অ্যালাইনমেন্ট গবেষক ইভান হুবিঙ্গার। তার ব্যক্তিগত অনুমান, আগামী দশ বছরে এআইয়ের কারণে মানবজাতি বিলুপ্ত হওয়ার সম্ভাবনা ১০ শতাংশের বেশি। অ্যানথ্রপিকের আরেক গবেষক স্যামুয়েল মার্কসও বলেছেন, শিল্পের অভিজ্ঞ গবেষকদের একটি অংশ বিপর্যয়কর ফল নিয়ে গভীরভাবে উদ্বিগ্ন।

১০ শতাংশ, সংখ্যাটি শুনতে হয়তো ছোট। কিন্তু পরিসংখ্যানের ভাষায় প্রশ্নটি অন্যভাবে করা যাক। যদি কোনও বিমান সংস্থা বলে, ‘এই উড়োজাহাজটি নিরাপদ; তবে বিধ্বস্ত হওয়ার সম্ভাবনা ১০ শতাংশ’, আমরা কি সেই বিমানে উঠবো? আর যদি সম্ভাব্য ক্ষতিটি শুধু একটি বিমানের যাত্রীদের মৃত্যু নয়, বরং গোটা মানবসভ্যতাকে অস্তিত্বহীন করে তোলার প্রেক্ষাপটে নিয়ে যায়— তাহলে কতটুকু ঝুঁকিকে আমরা গ্রহণযোগ্য বলবো?

২০২২ সালে এআই ইমপ্যাক্টসের একটি বড় বিশেষজ্ঞ জরিপে উন্নত এআইয়ের দীর্ঘমেয়াদি ফল ‘অত্যন্ত খারাপ; যেমন মানবজাতির বিলুপ্তি’ হওয়ার মধ্যম সম্ভাবনা ছিল ৫ শতাংশ। প্রায় ৪৮ শতাংশ উত্তরদাতা এমন চরম খারাপ ফলের সম্ভাবনা অন্তত ১০ শতাংশ বলে মনে করেছিলেন। মানবজাতি ভবিষ্যতের উন্নত এআইকে নিয়ন্ত্রণ করতে ব্যর্থ হয়ে বিলুপ্তি বা স্থায়ী ও গুরুতর ক্ষমতাহীনতার মুখে পড়তে পারে—এমন প্রশ্নে মধ্যম অনুমান ছিল ১০ শতাংশ। অর্থাৎ চ্যাটজিপিটি-পরবর্তী এআই বিস্ফোরণের আগেই গবেষকসমাজের একটি উল্লেখযোগ্য অংশ ঝুঁকিটিকে গুরুত্ব দিয়ে দেখছিল।

মার্চ ২০২৩ সালের ঘটনা, জিপিটি-৪ প্রকাশের পর ফিউচার অব লাইফ ইনস্টিটিউটের বহুল আলোচিত খোলা চিঠিতে গবেষক ও প্রযুক্তি নেতারা জিপিটি-৪-এর চেয়ে শক্তিশালী এআই তৈরির প্রশিক্ষণ অন্তত ছয় মাস স্থগিত রাখার আহ্বান জানান। চিঠিটির মূল উদ্বেগ ছিল ভয়াবহ— আমরা এমন আরও শক্তিশালী ডিজিটাল মাইন্ড তৈরি করছি, যেগুলোর আচরণ এমনকি তাদের নির্মাতারাও সবসময় বুঝতে, পূর্বানুমান করতে বা নির্ভরযোগ্যভাবে নিয়ন্ত্রণ করতে পারেন না। পরবর্তী সময়ে এতে ৩০ হাজারের বেশি মানুষ স্বাক্ষর করেন।

নভেম্বর ২০২৩: উদ্বেগ তখন আর শুধু গবেষকদের আলোচনায় সীমাবদ্ধ থাকেনি। যুক্তরাজ্যের ব্লেচলি পার্কে অনুষ্ঠিত প্রথম এআই সেফটি সামিটের ঘোষণায় অংশগ্রহণকারী দেশগুলো ফ্রন্টিয়ার এআই থেকে ইচ্ছাকৃত বা অনিচ্ছাকৃতভাবে ‘গুরুতর, এমনকি বিপর্যয়কর ক্ষতি’ ঘটার সম্ভাবনা স্বীকার করে এবং আন্তর্জাতিক সহযোগিতার প্রয়োজনীয়তার কথা বলে। এআই নিরাপত্তা বিতর্ক আর শুধু ভবিষ্যতের তাত্ত্বিক বিপর্যয়ের আলোচনা থাকেনি— গবেষকেরা পরীক্ষাগারে দেখতে শুরু করেন, শক্তিশালী মডেলগুলো বিশেষ পরিস্থিতিতে আসলে কী ধরনের আচরণ করতে পারে।

অ্যালাইনমেন্ট গবেষণায় দেখা গেছে, কিছু মডেল পরীক্ষামূলক পরিস্থিতিতে এমন আচরণের যুক্তি তৈরি করতে পারে, যাকে গবেষকেরা অ্যালাইনমেন্ট ফেকিং বলেন, অর্থাৎ প্রশিক্ষণ বা পর্যবেক্ষণের সময় এক ধরনের আচরণ দেখানো, কিন্তু পর্যবেক্ষণ না থাকলে অন্য আচরণের প্রবণতা প্রকাশ করা। পরবর্তী গবেষণায় প্রতারণা শনাক্ত ও কমানোর পদ্ধতিও পরীক্ষা করতে হয়েছে।

২০২৫ সালে অ্যানথ্রপিক আরও উদ্বেগজনক একটি স্ট্রেস টেস্ট প্রকাশ করে। ১৬টি শীর্ষস্থানীয় মডেলকে কাল্পনিক করপোরেট পরিবেশে স্বায়ত্তশাসিত এজেন্ট হিসেবে পরীক্ষা করা হয়। কিছু পরিস্থিতিতে যখন তাদের লক্ষ্য অর্জনের অন্য পথ বন্ধ করে দেওয়া হয়, বিভিন্ন প্রতিষ্ঠানের মডেল ব্ল্যাকমেইল, করপোরেট গুপ্তচরবৃত্তি বা সংবেদনশীল তথ্য ফাঁসের মতো ক্ষতিকর পথ বেছে নেয়। অ্যানথ্রপিক এর নাম দেয় এজেন্টিক মিসঅ্যালাইনমেন্ট।

ইন্টারন্যাশনাল এআই সেফটি রিপোর্ট ২০২৫ আরও ভারসাম্যপূর্ণ একটি ছবি তুলে ধরে। সেখানে স্পষ্টভাবে বলা হয়, বর্তমান এআই সিস্টেমগুলো মানবনিয়ন্ত্রণ কেড়ে নেওয়ার মতো সক্ষম নয়। কিন্তু ভবিষ্যতের আরও শক্তিশালী সিস্টেম যদি নজরদারি এড়িয়ে চলা, দীর্ঘমেয়াদি পরিকল্পনা করা, স্বায়ত্তশাসিত পদক্ষেপ নেওয়া এবং বন্ধ করে দেওয়ার প্রচেষ্টা প্রতিরোধের মতো ক্ষমতা অর্জন করে, তাহলে ‘নিয়ন্ত্রণ হারানো’ নিয়ে উদ্বেগ তৈরি হতে পারে। বিশেষজ্ঞদের মধ্যে এর সম্ভাবনা নিয়ে ব্যাপক মতভেদ রয়েছে। আর এখানেই ২০২৬ সালের রিপোর্টটি বিশেষ গুরুত্বপূর্ণ।

ইন্টারন্যাশনাল এআই সেফটি রিপোর্ট ২০২৬ বলছে, বর্তমান সিস্টেমগুলো এখনও নিয়ন্ত্রণ হারানোর মতো পর্যায়ে পৌঁছেনি। কিন্তু গত বছরের তুলনায় মডেলগুলোর পরিকল্পনা, পরিস্থিতি সম্পর্কে সচেতনতা, রিওয়ার্ড হ্যাকিং এবং নজরদারি দুর্বল করার সক্ষমতা পরীক্ষামূলক পরিবেশে উন্নত হয়েছে। কিছু মডেল এখন মূল্যায়নের ফাঁকফোকর খুঁজে বের করতে পারে এবং কখন তারা পরীক্ষার মধ্যে আছে, সেটিও শনাক্ত করতে পারে। নিরাপত্তা প্রকৌশলের দৃষ্টিতে এগুলো আগাম সতর্কসংকেত হিসেবে গুরুত্বপূর্ণ।

এবার ব্যাখ্যা করা যাক, এআই কীভাবে মানুষের জন্য অস্তিত্বগত হুমকি হতে পারে? হলিউডের ছবির মতো রোবট বাহিনী এসে মানুষকে গুলি করবে, পুরো সায়েন্স ফিকশন মনে হলেও, এআই বিলুপ্তির ঝুঁকির মূল বৈজ্ঞানিক আলোচনা এত সরল নয়। ঝুঁকির কয়েকটি সম্ভাব্য পথ রয়েছে।

প্রথমটি মিসঅ্যালাইনমেন্ট। আমরা এআইকে একটি লক্ষ্য দিলাম, কিন্তু মানুষের মূল্যবোধ ও প্রকৃত উদ্দেশ্যের সঙ্গে সেই লক্ষ্য পুরোপুরি সামঞ্জস্যপূর্ণ হলো না। অত্যন্ত শক্তিশালী এআই তখন লক্ষ্যটি এমনভাবে অর্জন করতে পারে, যা আমরা চাইনি।

দ্বিতীয়টি প্রতারণা ও নিয়ন্ত্রণ হারানো। ভবিষ্যতের কোনও সিস্টেম যদি বুঝতে পারে কখন তাকে পরীক্ষা করা হচ্ছে, পর্যবেক্ষণ এড়িয়ে যেতে পারে, দীর্ঘমেয়াদি পরিকল্পনা করতে পারে এবং নিজের উদ্দেশ্য গোপন করতে পারে— তাহলে প্রচলিত নিরাপত্তা পরীক্ষা দুর্বল হয়ে পড়তে পারে।

তৃতীয়টি মানুষের অপব্যবহার। এআই নিজে ‘খারাপ’ না হলেও একজন মানুষ বা রাষ্ট্র অত্যন্ত সক্ষম এআই ব্যবহার করে সাইবার হামলা, জৈবিক হুমকি, স্বায়ত্তশাসিত অস্ত্র বা গুরুত্বপূর্ণ অবকাঠামোয় হামলার সক্ষমতা বহুগুণ বাড়িয়ে দিতে পারে।

চতুর্থটি সম্ভবত সবচেয়ে গুরুত্বপূর্ণ, পুনরাবৃত্তিমূলক নিজস্ব উন্নয়ন। যদি কোনও উন্নত এআই নিজেই এআই গবেষণা, কোডিং এবং মডেল উন্নয়নে মানুষের চেয়ে দক্ষ হয়ে যায়, তবে উন্নতির একটি ফিডব্যাক লুপ তৈরি হতে পারে— ইভান হুবিঙ্গারের ‘১০ শতাংশের বেশি’ অনুমান কোনও ক্লিনিক্যাল ট্রায়াল, অ্যাকচুয়ারিয়াল টেবিল বা পুনরাবৃত্ত ঐতিহাসিক পরীক্ষা থেকে পাওয়া সম্ভাবনা নয়। মানবজাতি আগে কখনো সুপারইন্টেলিজেন্ট এআই তৈরি করেনি। ফলে আমাদের কাছে বিলুপ্তির ঝুঁকির প্রামাণ্য ঘটনার হার নেই। এগুলো মূলত বিশেষজ্ঞের ব্যক্তিগত সম্ভাবনা, অনিশ্চয়তার মধ্যে একজন বিশেষজ্ঞের বিশ্বাসের পরিমাপ। একই সঙ্গে অনেক গবেষক বিলুপ্তির পরিস্থিতিকে অত্যন্ত অনুমাননির্ভর বা অসম্ভব বলে মনে করেন। কারণ বিজ্ঞান আতঙ্ক দিয়ে চলে না, চলে প্রমাণ, অনিশ্চয়তা এবং পরস্পরবিরোধী ব্যাখ্যা দিয়ে।

সবচেয়ে বড় প্যারাডক্স: যারা সতর্ক করছেন, তারাই আবার এআই বানাচ্ছেন। এআই বিতর্কের সম্ভবত সবচেয়ে অস্বস্তিকর দিক এটি। একদিকে ফ্রন্টিয়ার এআই কোম্পানিগুলো বলছে, এই প্রযুক্তি মানবসভ্যতাকে আমূল বদলে দেবে। অন্যদিকে তাদের নিজেদের নিরাপত্তা কাঠামোতে বিপর্যয়কর ঝুঁকি, জৈবিক অপব্যবহার, স্বায়ত্তশাসিত মিসঅ্যালাইনমেন্ট এবং নিয়ন্ত্রণ হারানো নিয়ে বিস্তারিত আলোচনা রয়েছে।

অ্যানথ্রপিক ২০২৩ সালেই রেসপনসিবল স্কেলিং পলিসি চালু করে এবং এরপর ধারাবাহিকভাবে সেটি সংশোধন করেছে। ২০২৬ সালের আগস্ট পর্যন্ত নীতিটির একাধিক সংস্করণ প্রকাশিত হয়েছে। প্রতিষ্ঠানটির বক্তব্য, এআই যত শক্তিশালী হবে, ঝুঁকির মাত্রা অনুযায়ী সুরক্ষাব্যবস্থাও তত শক্তিশালী হতে হবে।

তাহলে প্রশ্ন ওঠে, যে প্রযুক্তির সম্ভাব্য বিপর্যয়কর ঝুঁকি এত গুরুতর যে তার নির্মাতারাই বিশেষ নিরাপত্তা স্তর, ঝুঁকি প্রতিবেদন এবং নিয়ন্ত্রণ নীতি তৈরি করছেন, সেই প্রযুক্তির নিরাপত্তা কি শুধু নির্মাতা প্রতিষ্ঠানের স্বেচ্ছাসেবী অঙ্গীকারের ওপর ছেড়ে দেওয়া যায়? আমার মতে, যায় না।

পারমাণবিক বিদ্যুৎকেন্দ্রের নিরাপত্তা নিরীক্ষা শুধু বিদ্যুৎকেন্দ্রের মালিক নিজে করে না। নতুন ওষুধ বাজারে আনার আগে ওষুধ কোম্পানির নিজস্ব নিশ্চয়তাই যথেষ্ট নয়। বিমান নির্মাতা বললো ‘আমাদের এয়ারক্রাফট নিরাপদ’, এটুকু শুনে এভিয়েশন নিয়ন্ত্রক সংস্থা সনদ দেয় না। তাহলে সম্ভাব্য মানবসদৃশ সক্ষমতার এআইয়ের ক্ষেত্রে আমরা কেন ভিন্ন মানদণ্ড গ্রহণ করবো?

এআই হয়তো ক্যানসার ওষুধ আবিষ্কার দ্রুত করবে, জলবায়ু মডেলিং উন্নত করবে, ব্যক্তিকেন্দ্রিক শিক্ষা পৌঁছে দেবে কোটি মানুষের কাছে, বৈজ্ঞানিক গবেষণার গতি বহুগুণ বাড়াবে। এমনকি অ্যানথ্রপিক নিজেও ফ্রন্টিয়ার এআইয়ের বিপুল সামাজিক ও অর্থনৈতিক সম্ভাবনার কথা স্বীকার করে। কিন্তু সুবিধা এবং ঝুঁকি—দুটিই একই সমীকরণের অংশ। দরকার এগুলোর ট্রেড-অফ।

তাই বিশ্বের প্রয়োজন এমন শাসনব্যবস্থা, যেখানে ফ্রন্টিয়ার এআইয়ের জন্য স্বাধীন নিরাপত্তা মূল্যায়ন থাকবে, সবচেয়ে শক্তিশালী মডেলগুলোর সক্ষমতা ও ঝুঁকি মূল্যায়ন বাধ্যতামূলক হবে, বিপর্যয়কর সক্ষমতার সীমা অতিক্রম করলে প্রয়োগের আগে নিয়ন্ত্রক সংস্থার অনুমোদন প্রয়োজন হবে, সাইবার নিরাপত্তা ও জৈবিক নিরাপত্তা মূল্যায়ন থাকবে, গুরুতর এআই-সংক্রান্ত ঘটনা বাধ্যতামূলকভাবে জানাতে হবে এবং সবচেয়ে গুরুত্বপূর্ণভাবে, কোনও কোম্পানি যেন বাণিজ্যিক প্রতিযোগিতার কারণে নিরাপত্তা পরীক্ষা এড়িয়ে যেতে না পারে।

এআই একটি বৈশ্বিক প্রযুক্তি। তাই এর শাসনব্যবস্থাও শেষ পর্যন্ত বৈশ্বিক হতে হবে। ২০২৩ সালের ব্লেচলি ঘোষণা সেই আন্তর্জাতিক সহযোগিতার প্রয়োজন স্বীকার করেছিল। ২০২৬ সালে অ্যানথ্রপিকও এমন নিয়ন্ত্রক কাঠামোর কথা বলছে, যেখানে সবচেয়ে উন্নত সক্ষমতার পর্যায়ে সরকার বিপজ্জনক প্রয়োগ ঠেকাতে পারবে।

আমরা হয়তো ভাবতে পারি, ওপেনএআই, অ্যানথ্রপিক, গুগল ডিপমাইন্ড কিংবা সুপারইন্টেলিজেন্স নিয়ে আলোচনা সিলিকন ভ্যালি, লন্ডন বা বেইজিংয়ের বিষয়, বাংলাদেশের জন্যও এটি দূরের কোনও বিতর্ক নয়। তবে তা চরম ভুল হবে।

এআই যদি শ্রমবাজার বদলায়, বাংলাদেশের তরুণদের চাকরির বাজার বদলাবে। এআই যদি ভুল তথ্য ছড়ানোর ক্ষমতা বাড়ায়, আমাদের নির্বাচন ও সামাজিক স্থিতিশীলতাও আক্রান্ত হতে পারে। এআই যদি শিক্ষা বদলায়, আমাদের বিশ্ববিদ্যালয় বদলাবে। এআই যদি পরিসংখ্যানভিত্তিক বিশ্লেষণ, প্রোগ্রামিং এবং গবেষণা স্বয়ংক্রিয় করে, আমাদের গবেষণার ধরন বদলাবে।

আর এআই যদি সত্যিই বৈশ্বিক বিপর্যয়কর ঝুঁকি তৈরি করে, সেখানে উন্নত ও উন্নয়নশীল দেশের জন্য আলাদা পৃথিবী থাকবে না। তাই বাংলাদেশকেও এখন থেকেই এআই সাক্ষরতার পাশাপাশি এআই নিরাপত্তা-সচেতনতা তৈরি করতে হবে। বিশ্ববিদ্যালয়গুলোতে শুধু ‘কীভাবে এআই ব্যবহার করতে হয়’ শেখালেই চলবে না, শেখাতে হবে এআই কীভাবে ভুল করে, হ্যালুসিনেশন তৈরি করে, পক্ষপাত তৈরি করে, প্রভাবিত করতে পারে এবং স্বায়ত্তশাসিত ব্যবস্থা হিসেবে কী ধরনের নতুন ঝুঁকি তৈরি করতে পারে।

মানবসভ্যতার ইতিহাসে প্রযুক্তি বারবার মানুষের ক্ষমতা বাড়িয়েছে। আগুন আমাদের শক্তি দিয়েছে। শিল্পবিপ্লব উৎপাদনের ক্ষমতা দিয়েছে। পারমাণবিক প্রযুক্তি দিয়েছে প্রায় অকল্পনীয় শক্তি, একই সঙ্গে শহর ধ্বংস করার ক্ষমতাও। কিন্তু এআইয়ের ক্ষেত্রে একটি মৌলিক পার্থক্য রয়েছে। আগের প্রযুক্তিগুলো আমাদের শারীরিক ক্ষমতা বাড়িয়েছে। এআই প্রথম প্রযুক্তি, যার লক্ষ্য আমাদের বুদ্ধিবৃত্তিক ক্ষমতার সমকক্ষ বা তার চেয়েও বেশি সক্ষমতা তৈরি করা। এই কারণেই প্রশ্নটি শুধু, ‘এআই কতটা বুদ্ধিমান হবে?’ নয়। আরও গুরুত্বপূর্ণ প্রশ্ন হলো— ‘এআই যতই বুদ্ধিমান হোক, সেটি কি মানুষের নিয়ন্ত্রণে থাকবে?’

জ্যাকব কক্সন, ইভান হুবিঙ্গার বা স্যামুয়েল মার্কসের ভবিষ্যদ্বাণী শেষ পর্যন্ত ভুলও হতে পারে। বরং আমরা সবাই চাই, তারা ভুল প্রমাণিত হোন। কিন্তু সভ্যতা-পর্যায়ের ঝুঁকি ব্যবস্থাপনার নিয়ম হলো— সম্ভাব্য বিপর্যয় ঘটার পর সতর্কতার যথার্থতা প্রমাণ করা নয়, বিপর্যয় ঘটার আগেই এমন ব্যবস্থা নেওয়া, যাতে সতর্কবার্তাটি কোনও দিন সত্য না হয়। মানবজাতির সামনে তাই পছন্দটি ‘এআই অথবা এআই নয়’, এমন নয়। পছন্দটি হলো— নিয়ন্ত্রিত এআই, নাকি নিয়ন্ত্রণহীন এআই।

লেখক:  অধ্যাপক, ইনস্টিটিউট অব অ্যাপ্লাইড স্ট্যাটিস্টিক্স অ্যান্ড ডেটা সায়েন্স, ঢাকা বিশ্ববিদ্যালয়