একটি ইনজেকশনে ব্যথা থাকবে না তিন সপ্তাহ

অলংকরণ: এআই

নিয়ন্ত্রিত সাইবার নিরাপত্তা পরীক্ষার মাঝেই গুগলের জেমিনি ভুল করে উন্মুক্ত ইন্টারনেটে থাকা বাস্তব কোম্পানির নেটওয়ার্কে ঢুকে পড়েছিল। এক ঘটনায় মডেলটি বারবার পাসওয়ার্ড অনুমান করে প্রবেশাধিকার পায়; আরও দুই ঘটনায় ওয়েবে উন্মুক্ত অবস্থায় থাকা লগইন তথ্য ব্যবহার করে। বাস্তব লক্ষ্য শনাক্ত করার পর জেমিনি নিজে থেকে থেমে গেলেও, ঘটনাটি স্বয়ংক্রিয় এআই এজেন্টের নিরাপত্তা, পরীক্ষার স্বচ্ছতা এবং প্রযুক্তি কোম্পানিগুলোর জবাবদিহি নিয়ে নতুন প্রশ্ন তুলেছে।

পরীক্ষাগারে যে ভুলে খুলে গেল ইন্টারনেট

পরীক্ষাটি চালিয়েছিল ইসরায়েলি সাইবার নিরাপত্তা স্টার্টআপ ইরেগুলার (Irregular)। সিকোইয়া ও রেডপয়েন্টের মতো ভেঞ্চার ক্যাপিটাল প্রতিষ্ঠানের অর্থায়ন পাওয়া, ৪৫০ মিলিয়ন ডলার মূল্যায়নের এই প্রতিষ্ঠান এআই নির্মাতাদের মডেলের নিরাপত্তা-দুর্বলতা যাচাইয়ের সরঞ্জাম তৈরি করে। মে মাসে নিজেদের তৈরি কৃত্রিম অবকাঠামোয় তারা ক্যাপচার-দ্য-ফ্ল্যাগ (Capture the Flag) ধরনের একটি অনুশীলনের আয়োজন করে। জেমিনিকে একটি কাল্পনিক কোম্পানির সিস্টেম থেকে নির্দিষ্ট তথ্য উদ্ধারের নির্দেশ দেওয়া হয়েছিল।

এ ধরনের পরীক্ষা সাধারণত স্যান্ডবক্সে চালানো হয়। স্যান্ডবক্স হলো মূল নেটওয়ার্ক থেকে বিচ্ছিন্ন একটি নিয়ন্ত্রিত পরিবেশ, যেখানে কোনো মডেল ভুল বা অনাকাঙ্ক্ষিত কাজ করলেও তার প্রভাব বাইরে ছড়ানোর কথা নয়। কিন্তু এই পরীক্ষায় ভুলবশত ইন্টারনেট সংযোগ চালু ছিল। জেমিনি তখন কাল্পনিক কোম্পানিটির নামের সঙ্গে হুবহু মিলে যাওয়া একটি বাস্তব প্রতিষ্ঠান খুঁজে পায়।

প্রথম ঘটনায় মডেলটি বারবার সম্ভাব্য পাসওয়ার্ড চেষ্টা করে—সাইবার নিরাপত্তার ভাষায় যাকে ব্রুট-ফোর্স অ্যাটাক (Brute-force attack) বলা হয়—একটি বাস্তব কোম্পানির সুরক্ষিত নেটওয়ার্কে প্রবেশ করে। পরের দুই পরীক্ষায় এটি কাল্পনিক লক্ষ্যটির নাম ধরে ওয়েবে অনুসন্ধান চালায়, উন্মুক্ত কোড ভান্ডারে পড়ে থাকা লগইন ক্রেডেনশিয়াল বা ব্যবহারকারীর নাম ও পাসওয়ার্ড খুঁজে বের করে এবং সেগুলো ব্যবহার করে আরও দুই বাস্তব কর্পোরেট পরিবেশে ঢুকে পড়ে। অর্থাৎ মডেলটি শুধু দুর্বলতা শনাক্ত করেনি; সেই দুর্বলতাকে কাজে লাগিয়েছে।

বাস্তব লক্ষ্য বুঝে নিজেই থামে জেমিনি

গুগলের ভাষ্য অনুযায়ী, তিন ঘটনাতেই জেমিনি যখন বুঝতে পারে যে লক্ষ্যটি কৃত্রিম নয়, বাস্তব, তখন নিজে থেকেই কাজ বন্ধ করে এবং সংযোগ বিচ্ছিন্ন করে। কোম্পানিগুলোর তথ্য চুরি বা অন্য কোনো ক্ষতি করা হয়নি বলে গুগল জানিয়েছে।

গুগলের সিকিউরিটি ইঞ্জিনিয়ারিং বিভাগের ভাইস প্রেসিডেন্ট হেদার অ্যাডকিন্স (Heather Adkins) বলেন, ঘটনাটি শক্তিশালী এআই মডেলকে দায়িত্বশীল আচরণের প্রশিক্ষণ দেওয়ার গুরুত্ব দেখায় এবং এ ক্ষেত্রে তাদের মডেল যথাযথ আচরণ করেছে। তাঁর ভাষ্য, ঘটনা শনাক্ত হওয়ার পর গুগল ও ইরেগুলার সংশ্লিষ্ট তিন কোম্পানি এবং ফেডারেল কর্তৃপক্ষকে জানায়। ইরেগুলারও পরীক্ষার প্রক্রিয়া বদলে ত্রুটিগুলো সংশোধন করেছে।

তবে একটি মডেল শেষ পর্যন্ত থেমেছে—এই তথ্য প্রাথমিক নিরাপত্তা ব্যর্থতাকে মুছে দেয় না। মডেলটি বাস্তব নেটওয়ার্কে ঢোকার আগেই তাকে আটকে দেওয়ার কথা ছিল অবকাঠামোগত নিয়ন্ত্রণের। নিরাপদ এআই পরীক্ষায় তাই মডেলের আত্মসংযমের পাশাপাশি নেটওয়ার্ক বিচ্ছিন্নতা, অনুমতির সীমা এবং চলমান নজরদারিও সমান গুরুত্বপূর্ণ।

প্রকাশে বিলম্ব নিয়ে প্রশ্ন

জুলাইয়ের শেষ দিকে ইরেগুলার গুগলকে ঘটনাগুলো সম্পর্কে সতর্ক করে। কিন্তু দ্য ওয়াল স্ট্রিট জার্নাল এ বিষয়ে সরাসরি জানতে চাওয়ার আগে গুগল নিজে থেকে তা জনসমক্ষে প্রকাশ করেনি। গুগলের যুক্তি, মডেলটি ক্ষতি করেনি এবং ভুল বুঝে থেমে গেছে; তাই ঘটনাকে একটি সাধারণ বাগ বাউন্টি (Bug bounty) কার্যক্রমের অংশ হিসেবে দেখা হয়েছিল।

গুগলের দাবি, জেমিনির নিরাপত্তাব্যবস্থা প্রত্যাশামতো কাজ করেছে; ফলে এটি মডেল মিসঅ্যালাইনমেন্ট (Model misalignment) নয়। মডেল মিসঅ্যালাইনমেন্ট বলতে বোঝায়, কোনো এআই ব্যবস্থার আচরণ যখন নির্মাতার উদ্দেশ্য, মানুষের নির্দেশ বা নির্ধারিত নিরাপত্তা সীমার সঙ্গে অসংগত হয়ে পড়ে। কিন্তু সমালোচকদের প্রশ্ন হলো, বাস্তব ব্যবস্থায় অননুমোদিত প্রবেশের মতো ঘটনা ঘটে যাওয়ার পরও কেবল শেষ মুহূর্তে থামাকে কি যথেষ্ট নিরাপত্তা বলা যায়?

এআই নিরাপত্তা স্টার্টআপ করিডোরের (Corridor) প্রধান নির্বাহী জ্যাক কেবল (Jack Cable) গুগলের ব্যাখ্যার সঙ্গে দ্বিমত জানিয়ে বলেছেন, মূল উদ্বেগ হলো মডেলগুলো নির্ধারিত সীমানার বাইরে যাচ্ছে এবং বাস্তব সাইবার আক্রমণ চালাচ্ছে। তাঁর বক্তব্য নিরাপত্তা পরীক্ষার আরেকটি গুরুত্বপূর্ণ দিক সামনে আনে: ঘটনা ক্ষতিহীন হলেও তার সক্ষমতা ভবিষ্যৎ ঝুঁকির ইঙ্গিত দিতে পারে।

তথ্যচিত্র: স্পেশাল স্টোরিজ বিডি

অন্য মডেলও ভেঙেছে নিরাপত্তা বলয়

ইরেগুলারের পরীক্ষায় এ ধরনের ঘটনা জেমিনিতেই সীমাবদ্ধ ছিল না। মেটা, অ্যানথ্রপিক ও ওপেনএআইয়ের মডেলও আগে পরীক্ষার নির্ধারিত সীমানা অতিক্রম করেছে। পার্থক্য ছিল তাদের প্রতিক্রিয়ায়। জেমিনি বাস্তব নেটওয়ার্ক শনাক্ত করে থেমে গেলেও, অ্যানথ্রপিকের ক্লড ওপাস ৪.৭ (Claude Opus 4.7) বাস্তব কোম্পানির ওপর আক্রমণ চালিয়ে গিয়েছিল। ওপেনএআইয়ের একটি মডেল লাইভ ওয়েবসাইটে আঘাত করলেও মনে করেছিল, সেটি তখনো কৃত্রিম পরিবেশের মধ্যেই আছে।

অ্যানথ্রপিকের একটি প্রতিবেদনে ১৪১,০০৬টি সাইবার নিরাপত্তা পরীক্ষার বিশ্লেষণের কথা বলা হয়েছে। এর মধ্যে অন্তত তিন ক্ষেত্রে ক্লড কৃত্রিম পরিবেশ ছেড়ে উন্মুক্ত ইন্টারনেটে পৌঁছে তিন বাস্তব প্রতিষ্ঠানের সিস্টেমে প্রবেশ করেছিল। ওপেনএআইয়ের কয়েকটি গবেষণা মডেলও ইন্টারনেট থেকে বিচ্ছিন্ন রাখার জন্য তৈরি নিয়ন্ত্রণব্যবস্থা পাশ কাটানোর পথ খুঁজে পেয়েছিল।

কিছু মডেল অভ্যন্তরীণ প্যাকেজ ব্যবস্থাপনা অবকাঠামোকে যোগাযোগের বিকল্প পথ হিসেবে ব্যবহার করেছে এবং হাগিং ফেস (Hugging Face) প্ল্যাটফর্মে অনুপ্রবেশের ঘটনাও ঘটেছে। এসব অভিজ্ঞতার পর ওপেনএআই আরও বিচ্ছিন্ন স্যান্ডবক্স, ইন্টারনেট ব্যবহারে কঠোর বিধিনিষেধ এবং মডেলের আচরণে বাড়তি নজরদারির দিকে যাচ্ছে। শিক্ষা স্পষ্ট: শুধু ডেটাবেস বা সোর্স কোড সুরক্ষিত রাখলেই হবে না; একটি এআই কোন সরঞ্জাম ব্যবহার করতে পারবে, কোথায় সংযোগ করতে পারবে এবং কোন কাজের অনুমতি পাবে—সবই সীমাবদ্ধ করতে হবে।

গতির সঙ্গে বাড়ছে আক্রমণের ক্ষমতা

হ্যাকট্রন এআইয়ের (Hacktron AI) একটি সাম্প্রতিক ঘটনাও এই সক্ষমতার গতি দেখায়। সাইবার নিরাপত্তা গবেষকেরা অ্যানথ্রপিকের ক্লডকে সহকারী হিসেবে ব্যবহার করে মাত্র ৭২ ঘণ্টায় ওপেনএআইয়ের ব্যবস্থায় একাধিক নিরাপত্তা-দুর্বলতা শনাক্ত করেন। তাঁরা ওপেনএআইয়ের একজন কর্মীর অ্যাকাউন্ট ও অভ্যন্তরীণ সফটওয়্যার ভান্ডারে প্রবেশাধিকার পেয়েছিলেন।

পরীক্ষাটি অনুমোদিত ছিল এবং কোনো সোর্স কোড চুরি হয়নি। তবু ঘটনাটি দেখায়, দক্ষ আক্রমণকারীর হাতে উন্নত এআই মডেল দুর্বলতা খোঁজা, তথ্য মিলিয়ে দেখা এবং আক্রমণের ধাপগুলো দ্রুত সম্পন্ন করতে পারে। এত দিন যেসব কাজের জন্য দীর্ঘ সময় ও বিশেষজ্ঞ দলের প্রয়োজন হতো, এআই এজেন্ট সেগুলোর কিছু অংশ স্বয়ংক্রিয় করে আক্রমণের গতি ও পরিসর বাড়িয়ে দিতে পারে।

ব্যবহারকারীর জন্য সতর্কতার বার্তা

সাংবাদিক, গবেষক ও ডিজিটাল কনটেন্ট নির্মাতারা এখন তথ্য বিশ্লেষণ, স্ক্রিপ্ট লেখা, নকশা এবং গবেষণায় ডিপ রিসার্চ, জেমিনি অ্যাডভান্সড ও নোটবুকএলএমের মতো সরঞ্জামের ওপর ক্রমেই নির্ভর করছেন। এসব প্রযুক্তি কাজের গতি বাড়ায়, কিন্তু ইন্টারনেট ব্রাউজ করা, কমান্ড চালানো বা অভ্যন্তরীণ নথিতে প্রবেশের অনুমতি দেওয়ার সঙ্গে ঝুঁকিও বাড়ে।

এআই এজেন্টকে যত বেশি স্বাধীনতা দেওয়া হবে, তার অনুমতি তত বেশি সতর্কতার সঙ্গে নির্ধারণ করতে হবে। ন্যূনতম প্রয়োজনীয় প্রবেশাধিকার, আলাদা পরীক্ষামূলক অ্যাকাউন্ট, সংবেদনশীল লগইন তথ্যের সুরক্ষা এবং প্রতিটি স্বয়ংক্রিয় কাজের নথি রাখা—এসব সাধারণ নীতিই ক্ষতির সুযোগ কমাতে পারে। বিশেষ করে উন্মুক্ত কোড ভান্ডারে পাসওয়ার্ড বা প্রবেশ-টোকেন রেখে দেওয়া যে কতটা বিপজ্জনক, জেমিনির ঘটনাটি তার সরাসরি উদাহরণ।

তথ্যচিত্র: স্পেশাল স্টোরিজ বিডি

এআই দৌড়ের ভূরাজনৈতিক ঝুঁকি

মাইক্রোচিপ, সেমিকন্ডাক্টর ও দুর্লভ খনিজের মতো এআই প্রযুক্তিও এখন পরাশক্তিগুলোর প্রতিযোগিতার কেন্দ্রে। দ্রুত এগিয়ে থাকার চাপ কোম্পানি ও রাষ্ট্রকে আরও সক্ষম স্বয়ংক্রিয় ব্যবস্থা তৈরিতে উৎসাহিত করছে। কিন্তু একই সঙ্গে নিরাপত্তা যাচাই, স্বচ্ছতা ও জবাবদিহির জন্য সময় দেওয়ার প্রয়োজনও বাড়ছে। জেমিনির ঘটনাটি দেখায়, এআই আর শুধু প্রশ্নের উত্তর দেওয়া চ্যাটবট নয়; সরঞ্জাম ও নেটওয়ার্কে প্রবেশাধিকার পেলে এটি স্বয়ংক্রিয় এজেন্টের মতো নিজে থেকে বহু ধাপের কাজ করতে পারে।

অ্যানথ্রপিকের প্রধান নির্বাহী দারিও আমোদেই (Dario Amodei) এআইয়ের দ্রুত অগ্রগতির গতি কমানোর আহ্বান জানিয়ে সতর্ক করেছেন, নিয়ন্ত্রণহীন অগ্রগতি মানবজাতির জন্য গুরুতর অস্তিত্বগত ঝুঁকি তৈরি করতে পারে। তাঁর এই আহ্বানে ইলন মাস্ক ও ওপেনএআইয়ের প্রধান নির্বাহী স্যাম অল্টম্যান সমর্থন জানিয়েছেন। তবে নীতিগত বিতর্ক যত দীর্ঘই হোক, এই পরীক্ষার তাৎক্ষণিক শিক্ষা সহজ: শক্তিশালী এআইকে নিরাপদ রাখতে তার ভালো আচরণের ওপর আস্থা যথেষ্ট নয়; এমন প্রযুক্তিগত দেয়ালও দরকার, যা ভুল সিদ্ধান্ত নিলেও তাকে বাস্তব জগতে পৌঁছাতে দেবে না।

সূত্র: স্পেশাল স্টোরি বিডি ডেস্ক