দশকের শেষেই মানুষকে শেষ করে দিতে পারে AI? Anthropic গবেষকের ইস্তফায় উঠল ভয়ঙ্কর প্রশ্ন

কৃত্রিম বুদ্ধিমত্তার দ্রুত বিকাশ নিয়ে বিশ্বজুড়ে যখন উচ্ছ্বাস এবং আশঙ্কা পাশাপাশি বাড়ছে, তখন Anthropic-এর এক গবেষকের ইস্তফা সেই বিতর্ককে আরও তীব্র করে তুলেছে। ২৭ বছরের AI গবেষক জ্যাকব কক্সন দাবি করেছেন, বিশ্বের শীর্ষ AI সংস্থাগুলি যে গতিতে ‘self-improving superintelligence’-এর দিকে এগোচ্ছে, তা অত্যন্ত বিপজ্জনক। তাঁর আশঙ্কা, দশকের শেষ হওয়ার আগেই AI মানবসভ্যতার জন্য অস্তিত্বগত বিপদ হয়ে উঠতে পারে।

Advertisement

OpenAI ও Anthropic-কে কাঠগড়ায় কক্সন

Anthropic ছাড়ার কথা জানিয়ে সোশ্যাল মিডিয়ায় কক্সন লিখেছেন, গত তিন বছর তিনি OpenAI এবং Anthropic—দুই সংস্থাতেই AI pre-training নিয়ে গবেষণা করেছেন। তাঁর অভিযোগ, দুই সংস্থাই দায়িত্বশীলভাবে এগোচ্ছে না। বরং তারা এমন AI তৈরির প্রতিযোগিতায় নেমেছে, যা নিজেই আরও উন্নত AI তৈরি করতে সক্ষম হতে পারে।

কক্সনের বক্তব্য অনুযায়ী, AI নির্মাণের সঙ্গে যুক্ত বহু গবেষক এবং আধিকারিক ব্যক্তিগতভাবে মনে করেন যে অত্যন্ত শক্তিশালী AI মানবজাতির জন্য ভয়াবহ বিপদ ডেকে আনতে পারে। তিনি দাবি করেছেন, দশকের শেষের মধ্যেই AI মানুষের অস্তিত্বের জন্য হুমকি হয়ে উঠতে পারে। তবে এটি কক্সনের ব্যক্তিগত মূল্যায়ন—মানবজাতি নিশ্চিতভাবে ওই সময়ের মধ্যে ধ্বংস হবে, এমন কোনও প্রমাণ এই রিপোর্টে নেই।

Advertisement

Anthropic-এ ঝুঁকি বোঝা হলেও থামছে না দৌড়?

কক্সন OpenAI এবং Anthropic-এর মধ্যে একটি গুরুত্বপূর্ণ পার্থক্যের কথাও বলেছেন। তাঁর দাবি, OpenAI-তে অনেকেই AI-এর সম্ভাব্য সভ্যতাগত ঝুঁকির গুরুত্ব পুরোপুরি উপলব্ধি করেননি। অন্যদিকে Anthropic-এর গবেষকেরা ঝুঁকিটি বুঝলেও প্রতিযোগিতায় পিছিয়ে পড়ার আশঙ্কায় উন্নয়ন থামাচ্ছেন না।

Anthropic-এর Alignment Science Lead Evan Hubinger-ও কক্সনের বক্তব্যের একটি গুরুত্বপূর্ণ অংশের সঙ্গে একমত হয়েছেন। তিনি বলেছেন, AI যে মানুষের অস্তিত্বের জন্য বিপদ হয়ে উঠতে পারে, সেই সম্ভাবনাকে তিনি গুরুত্বের সঙ্গে দেখেন এবং আগামী এক দশকের মধ্যে এমন ঝুঁকির সম্ভাবনা তাঁর কাছে ১০ শতাংশের বেশি। একই সঙ্গে তিনি জানিয়েছেন, superintelligence-এর alignment সমস্যা সমাধানের জন্য Anthropic-এর এখনও সম্পূর্ণ পরিকল্পনা নেই এবং তারা সঠিক পথে রয়েছে—এমন নিশ্চয়তাও নেই।

AI-এর ‘endgame’ নিয়ে বাড়ছে উদ্বেগ

কক্সনের মূল আশঙ্কা শুধু বর্তমান AI মডেলকে ঘিরে নয়। তাঁর উদ্বেগ এমন ভবিষ্যৎ AI নিয়ে, যা মানুষের তুলনায় দ্রুত গবেষণা করতে, সফটওয়্যার তৈরি করতে, সাইবার সিস্টেমে প্রবেশ করতে এবং নিজস্ব ক্ষমতা বাড়াতে পারবে।

তিনি সতর্ক করেছেন, এমন প্রযুক্তি যদি পর্যাপ্ত নিরাপত্তা ব্যবস্থা ছাড়াই তৈরি হয়, তাহলে পরিস্থিতি মানুষের নিয়ন্ত্রণের বাইরে চলে যেতে পারে। সাম্প্রতিক সময়ে AI agents-এর নিরাপত্তা পরীক্ষায় অপ্রত্যাশিত আচরণ এবং বিভিন্ন সিস্টেমে অননুমোদিত প্রবেশের ঘটনা নিয়েও উদ্বেগ তৈরি হয়েছে। জাতিসংঘের মানবাধিকার প্রধান ভলকার তুর্কও সম্প্রতি advanced AI-এর সম্ভাব্য ‘existential risk’ নিয়ে সতর্ক করে আন্তর্জাতিকভাবে শক্তিশালী নিরাপত্তা ব্যবস্থা গড়ে তোলার আহ্বান জানিয়েছেন।

তবে কক্সনের ইস্তফা বা তাঁর বক্তব্যকে AI-এর ভবিষ্যৎ সম্পর্কে চূড়ান্ত প্রমাণ হিসেবে দেখা ঠিক হবে না। এটি মূলত একজন অভিজ্ঞ AI গবেষকের সতর্কবার্তা। কিন্তু যে ব্যক্তি OpenAI এবং Anthropic—দুই frontier AI সংস্থাতেই কাজ করেছেন, তাঁর প্রকাশ্য উদ্বেগ AI নিরাপত্তা, নিয়ন্ত্রণ এবং আন্তর্জাতিক নীতিনির্ধারণ নিয়ে নতুন করে প্রশ্ন তুলেছে।