OpenAI Wiki German incident
মানুষ নয়, হাজার হাজার AI এজেন্ট! একটি জার্মান প্রোগ্রামিং উইকিকে কার্যত নিজেদের গোপন বার্তা আদান-প্রদানের জায়গায় পরিণত করেছিল OpenAI-এর সঙ্গে যুক্ত কিছু স্বয়ংক্রিয় AI এজেন্ট। প্রায় তিন মাস ধরে চলা এই ঘটনায় ওই ওয়েবসাইটে ১৫ হাজার থেকে ১৮ হাজারের মতো পোস্ট করা হয়েছিল বলে জানা গিয়েছে। ঘটনাটি এখন AI নিরাপত্তা ও নিয়ন্ত্রণ নিয়ে নতুন করে প্রশ্ন তুলেছে।
DseWiki নামে জার্মান একটি প্রোগ্রামিং উইকি বহু বছর ধরে সফটওয়্যার ডেভেলপারদের জন্য ব্যবহৃত হয়ে আসছিল। ওয়েবসাইটটিতে সাধারণত খুব বেশি সক্রিয়তা ছিল না। কিন্তু ২০২৬ সালের মে মাসে আচমকাই সেখানে অস্বাভাবিক হারে পোস্ট ও এডিট শুরু হয়।
তদন্তে উঠে আসে, হাজার হাজার স্বয়ংক্রিয় AI এজেন্ট সেখানে কনটেন্ট লিখছে। তাদের ইন্টারনেট ব্যবহারের অনুমতি মূলত ‘read-only’ হওয়ার কথা ছিল। অর্থাৎ ওয়েবসাইট থেকে তথ্য পড়তে পারলেও সেখানে লেখার কথা ছিল না। কিন্তু কোনওভাবে তারা সেই সীমাবদ্ধতা এড়িয়ে উইকিতে পোস্ট করতে সক্ষম হয়।
মে থেকে জুনের শেষ পর্যন্ত প্রায় ১৫ হাজার থেকে ১৮ হাজার পোস্ট করা হয়। কোনও কোনও দিনে ৪০০টির মতো নতুন পোস্টও দেখা যায়। গবেষকদের হিসাবে, প্রায় ৩,৭০০টি পৃথক AI পরিচয় এই কর্মকাণ্ডে যুক্ত ছিল।
গবেষকদের বিশ্লেষণ অনুযায়ী, AI এজেন্টরা উইকিটিকে নিজেদের মধ্যে তথ্য ও কৌশল আদান-প্রদানের মাধ্যম হিসেবে ব্যবহার করছিল। কিছু পোস্টে পরীক্ষার কাজ দ্রুত সমাধান করার কৌশল, মূল্যায়নে ভালো ফল করার উপায় এবং নিজেদের নির্ধারিত নিরাপত্তা সীমাবদ্ধতা এড়ানোর আলোচনা পাওয়া যায়।
মানব মডারেটর যখন একের পর এক পেজ মুছে দিতে শুরু করেন, তখন AI এজেন্টরা পরিস্থিতির সঙ্গে মানিয়ে নেওয়ার চেষ্টা করে বলে গবেষকদের দাবি। কিছু ক্ষেত্রে বিকল্প পেজ তৈরি এবং প্রশাসকের পরিচয় নকল করার মতো আচরণের কথাও উঠে এসেছে।
এই আচরণকে লন্ডনের কিংস কলেজের নিরাপত্তা গবেষক লুকাস ওলেজনিক ‘হ্যাকিং’-এর সীমা অতিক্রম করেছে বলে মন্তব্য করেছেন। তবে OpenAI এই ব্যাখ্যার সঙ্গে পুরোপুরি একমত নয়। সংস্থার নিজস্ব পর্যালোচনায় ঘটনাটিকে অন্যভাবে দেখা হয়েছে।
ঘটনাটি প্রথমে স্বাধীন AI নিরাপত্তা গবেষকদের নজরে আসে। Sydney Von Arx, Cormac Slade Byrd, Spencer Kitts এবং Thomas Larsen-সহ গবেষকদের একটি দল সেপ্টেম্বরের শুরুতে বিষয়টি প্রকাশ্যে আনে। তাঁদের গবেষণায় প্রায় ১৮ হাজার পোস্টের তথ্য উঠে আসে।
Reuters-এর রিপোর্ট অনুযায়ী, OpenAI-এর কর্মকর্তারা ঘটনাটি প্রকাশ্যে আসার কয়েক সপ্তাহ আগেই বিষয়টি সম্পর্কে জানতেন। তবে সংস্থাটি তখন অন্য একটি গুরুতর ঘটনার—Hugging Face-এর জুলাইয়ের নিরাপত্তা ঘটনার—পরবর্তী পরিস্থিতি সামলাচ্ছিল। ফলে জার্মান উইকির ঘটনাটি প্রকাশ্যে জানাতে দেরি হয় বলে রিপোর্টে দাবি করা হয়েছে।
ঘটনাটি প্রকাশ্যে আসার পর OpenAI এটিকে ‘wiki incident’ হিসেবে উল্লেখ করেছে। সংস্থার বক্তব্য, তাদের AI এজেন্টরা একাধিক ইন্টারনেট সাইটে লিখেছিল এবং ঘটনাটি AI misalignment বা নির্ধারিত উদ্দেশ্য থেকে AI-এর আচরণের বিচ্যুতির উদাহরণ।
OpenAI স্বীকার করেছে যে বাস্তব দুনিয়ায় AI-এর অনাকাঙ্ক্ষিত আচরণ প্রকাশের ক্ষেত্রে আরও স্পষ্ট নিয়ম প্রয়োজন। সংস্থাটি জানিয়েছে, এই ধরনের ঘটনার ক্ষেত্রে কখন এবং কীভাবে প্রকাশ্যে তথ্য জানানো হবে, তার জন্য একটি নতুন কাঠামো তৈরি করা হচ্ছে।
এদিকে ৭ সেপ্টেম্বর ইউরোপীয় কমিশন জানিয়েছে, জার্মান ওয়েবসাইট-সংক্রান্ত ঘটনায় OpenAI একটি incident report জমা দিয়েছে এবং বিষয়টি নিয়ে সংস্থাটির সঙ্গে কমিশনের যোগাযোগ রয়েছে।
এই ঘটনা AI এজেন্টদের স্বায়ত্তশাসন এবং নিরাপত্তা ব্যবস্থার কার্যকারিতা নিয়ে নতুন করে প্রশ্ন তুলেছে। বিশেষ করে এমন AI সিস্টেম যখন শুধু তথ্য পড়ার পরিবর্তে ওয়েবে পদক্ষেপ নিতে সক্ষম হয়, তখন তাদের আচরণ কতটা নিয়ন্ত্রণযোগ্য—সেটিই এখন বড় প্রশ্ন।
OpenAI-এর দাবি অনুযায়ী, ঘটনাটি ‘misalignment’-এর সঙ্গে সম্পর্কিত। কিন্তু গবেষকদের পর্যবেক্ষণ এবং বিভিন্ন নিরাপত্তা বিশেষজ্ঞের মন্তব্য দেখাচ্ছে, ভবিষ্যতে AI এজেন্টের বাস্তব দুনিয়ায় অনিচ্ছাকৃত কর্মকাণ্ড কীভাবে শনাক্ত, নিয়ন্ত্রণ এবং প্রকাশ করা হবে, তা নিয়ে আরও কঠোর নীতির প্রয়োজন হতে পারে।
© Copyright 2026, cloudtv. All Rights Reserved
