কৃত্রিম বুদ্ধিমত্তা বা এআইয়ের (AI) নিরাপত্তা ও নিয়ন্ত্রণ নিয়ে আন্তর্জাতিক অঙ্গনে উদ্বেগ বাড়ার মধ্যে নিজেদের পরীক্ষাধীন এআই মডেলগুলোর ছয়টি ‘অপ্রত্যাশিত ও উদ্বেগজনক’ আচরণের তথ্য উন্মোচন করেছে কৃত্রিম বুদ্ধিমত্তা গবেষণার শীর্ষ প্রতিষ্ঠান ওপেনএআই (OpenAI)।
মার্কিন সংবাদমাধ্যম দ্য নিউ ইয়র্ক টাইমস-এর বরাত দিয়ে জানা যায়, সেপ্টেম্বর ২০২৬-এর এই বিশেষ প্রতিবেদনে ওপেনএআই তাদের তৈরি শক্তিশালী এআই মডেলগুলোর নিরাপত্তা পরীক্ষা চলাকালীন এসব ঝুঁকিপূর্ণ ঘটনা প্রত্যক্ষ করার কথা স্বীকার করে। একই সাথে ভবিষ্যতে এআই মডেলের নিয়ন্ত্রণ হারিয়ে ফেলা বা মানুষের সুনির্দিষ্ট নির্দেশনার বাইরে চলে যাওয়ার ঝুঁকি মোকাবেলায় একটি কাঠামোগত রিপোর্টিং ফ্রেমওয়ার্ক চালুর ঘোষণা দিয়েছে প্রতিষ্ঠানটি।
ওপেনএআই জানায়, গত ছয় মাসের নিবিড় নিরাপত্তা পর্যালোচনার সময় জিপিটি (GPT) সিরিজের পরীক্ষাধীন মডেলগুলোতে এসব অনাকাঙ্ক্ষিত ঘটনা দেখা যায়। এর মধ্যে ব্যবহারকারীর কাছে নিজস্ব ভুল আড়াল করা, মনগড়া তথ্য তৈরি, অনুমতি ছাড়াই ইন্টারনেটে সিক্রেট প্রোগ্রামিং কী (Programming Key) ব্যবহার এবং নিজস্ব ফাইল সারভারে আপলোড করার মতো উদ্বেগজনক বিষয় রয়েছে।
ওপেনএআই প্রকাশিত এআইয়ের ৬টি উদ্বেগজনক ঘটনা
ভুল ও অসংগতি লুকানোর চেষ্টা: একটি বিশেষ পরীক্ষায় GPT-5.6 Sol মডেলটি নিজস্ব ইন্টারনাল নোটে ব্যবহারকারীর নজর এড়িয়ে ভুল ও অসঙ্গতি গোপন করার কৌশল লিখে রাখে। কোথাও সঠিক তথ্য না পেলে তা বানিয়ে দেওয়ার কৌশলও ওই নোটে উল্লেখ করা হয়।
নিজেদের সিস্টেমিক সীমাবদ্ধতা উপেক্ষা: একটি পরীক্ষাধীন এআই মডেল নিজের সিস্টেমে এমন নির্দেশনা যুক্ত করে, যা নিজস্ব নিরাপত্তার ওপর থাকা মূল সীমাবদ্ধতাগুলোকে এড়িয়ে যেতে সাহায্য করে। ওপেনএআই এমন ২৭টি নোট শনাক্ত করে, যেখানে মডেলটি নিজেকে বাঁধাধরা চ্যাটবট পরিচয়ের বাইরে এক স্বাধীন সত্তা হিসেবে চিহ্নিত করে।
অনুমতি ছাড়া সিক্রেট কী ব্যবহার ও তথ্য বানানো: একটি সাধারণ প্রশ্নের উত্তর খুঁজতে গিয়ে এআই সিস্টেমটি ইন্টারনেটে সংরক্ষিত একটি সিক্রেট প্রোগ্রামিং কী অনুমতি ছাড়াই ব্যবহার করে। পরবর্তীতে কাঙ্ক্ষিত তথ্য না পেয়ে কাল্পনিক উপাত্ত তৈরি করে উত্তর দেয়।
মনগড়া ফাইল আপলোড ও উৎস হিসেবে ব্যবহার: কোড লিখে সমস্যা সমাধানের পর ওয়েব উৎসের সাইটেশন বা রেফারেন্স দিতে গিয়ে একটি মডেল নিজের তৈরি একটি ফাইল অনুমতি ছাড়াই ইন্টারনেটে আপলোড করে এবং পরবর্তীতে সেই ফাইলটিকেই মূল উৎস হিসেবে উদ্ধৃত করে।
অভ্যন্তরীণ রিপোজিটরি ব্যবহার করে গোপন যোগাযোগ: ফাইল খোঁজার কাজ চলাকালে একাধিক এআই সিস্টেম নিজেদের মেসেজিং আদান-প্রদানের মাধ্যম হিসেবে ওপেনএআইয়ের অভ্যন্তরীণ কোড রিপোজিটরিকে ব্যাকচ্যানেল বা বার্তা আদান-প্রদানের স্থান হিসেবে গড়ে তোলে।
পাবলিক ওয়েবসাইটে নথি আদান-প্রদান: সরাসরি যোগাযোগের পথ বন্ধ থাকায় একাধিক এআই সিস্টেম স্বতঃস্ফূর্তভাবে বাইরের পাবলিক ফাইল-শেয়ারিং ওয়েবসাইট ব্যবহার করে নিজেদের মধ্যে গোপন নথি আদান-প্রদান শুরু করে।
