AI নিয়ে ভয়ঙ্কর সতর্কবার্তা! Google DeepMind ছাড়লেন গবেষক, বললেন ‘আগামী ৫ বছরেই বড় বিপদ’

কৃত্রিম বুদ্ধিমত্তার ভবিষ্যৎ নিয়ে নতুন করে উদ্বেগ তৈরি হয়েছে। Google DeepMind-এর AGI Safety Team-এর গবেষক Josh Engels সংস্থা ছেড়ে দিয়েছেন।

Advertisement

প্রায় তিন সপ্তাহ আগে DeepMind ছাড়ার সিদ্ধান্ত নেন Engels। এরপর তিনি AI evaluation organisation METR-এ যোগ দিয়েছেন।

Advertisement

AGI Safety Team ছেড়ে METR-এ যোগ

নিজের X পোস্টে Engels জানিয়েছেন, DeepMind-এ তাঁর কাজ ভালো লাগত। এমনকি Anthropic এবং OpenAI থেকেও তিনি চাকরির প্রস্তাব পেয়েছিলেন।

কিন্তু সেই প্রস্তাবও তিনি গ্রহণ করেননি। তাঁর মতে, উন্নত AI নিয়ে পরিস্থিতি এতটাই গুরুত্বপূর্ণ হয়ে উঠেছে যে নিরাপত্তা নিয়ে কাজ করাই এখন সবচেয়ে জরুরি।

Engels-এর সতর্কবার্তা, আগামী পাঁচ বছরে AI systems থেকে ‘অত্যন্ত বড় ক্ষতি’ হওয়ার আশঙ্কা রয়েছে। তিনি নির্দিষ্ট কোনও সম্ভাবনার হিসাব দেননি। তবে তাঁর মতে, ঝুঁকি যথেষ্ট বেশি।

তাঁর বক্তব্য, AI-এর ক্ষমতা যত দ্রুত বাড়ছে, সেই তুলনায় AI alignment এবং safety research যথেষ্ট দ্রুত এগোচ্ছে কি না, তা এখনও নিশ্চিত নয়।

Recursive Self-Improvement নিয়েই সবচেয়ে বড় ভয়

Engels-এর উদ্বেগের কেন্দ্রে রয়েছে Recursive Self-Improvement বা RSI।

সহজভাবে বললে, এমন একটি AI system-এর কথা বলা হচ্ছে, যা নিজেই আরও উন্নত AI তৈরি বা নিজের ক্ষমতা বাড়াতে সাহায্য করতে পারে।

এর ফলে একটি feedback loop তৈরি হওয়ার সম্ভাবনা থাকে। একটি system আরও শক্তিশালী system তৈরি করবে। সেই system আবার আরও উন্নত successor তৈরি করতে পারে।

মানুষের নিয়ন্ত্রণ এবং নিরাপত্তা ব্যবস্থা যদি এই গতির সঙ্গে তাল রাখতে না পারে, তাহলে পরিস্থিতি বিপজ্জনক হতে পারে বলে মনে করেন Engels।

তিনি আরও বলেন, বর্তমানে AI systems-এর আচরণ নিয়ে কিছু উদ্বেগজনক ঘটনা সামনে এসেছে। এর মধ্যে collusion, hacking, নিজেদের কাজ গোপন করার চেষ্টা এবং মানুষের সঙ্গে social engineering-এর মতো আচরণের উদাহরণ রয়েছে।

তাঁর মতে, প্রতিটি ঘটনা আলাদা করে কতটা ভয়ঙ্কর, সেটাই একমাত্র প্রশ্ন নয়। বরং এই ঘটনাগুলি ভবিষ্যতের আরও autonomous AI systems কতটা নির্ভরযোগ্য হতে পারে, সেই প্রশ্নও তুলে দিচ্ছে।

Engels-এর বক্তব্য, Recursive Self-Improvement-এর পর্যায়ে পৌঁছনো AI-এর জন্য বর্তমানে যথেষ্ট নিরাপত্তা নিশ্চিত করার পদ্ধতি এখনও স্পষ্ট নয়।

Anthropic-এর পর DeepMind, AI slowdown নিয়ে বাড়ছে চাপ

Engels-এর পদত্যাগ এমন সময়ে সামনে এল, যখন AI industry-তে safety নিয়ে একের পর এক সতর্কবার্তা আসছে।

কয়েকদিন আগেই Anthropic-এর researcher Jacob Coxon পদত্যাগ করেছিলেন। তিনিও AI development-এর দ্রুত গতি এবং self-improving AI নিয়ে গুরুতর উদ্বেগ প্রকাশ করেছিলেন।

এরপর Anthropic CEO Dario Amodei frontier AI development-এর গতি কমানোর পক্ষে সওয়াল করেছেন। তাঁর প্রস্তাবের মধ্যে independent evaluators-কে উন্নত AI systems পরীক্ষা করার সুযোগ দেওয়ার বিষয়ও রয়েছে।

এই বিতর্কের মূল প্রশ্ন হল, AI capabilities কি safety research-এর চেয়ে দ্রুত এগিয়ে যাচ্ছে?

Engels-এর মতে, AI development এমন গতিতে এগোনো উচিত নয়, যাতে মানুষের alignment এবং control করার ক্ষমতা পিছনে পড়ে যায়।

তিনি METR-এ গিয়ে AI misalignment-এর কারণ এবং বর্তমান safety measures কতটা কার্যকর, তা নিয়ে কাজ করবেন।

একই সঙ্গে তাঁর লক্ষ্য হবে বোঝা, AI industry সত্যিই advanced AI-এর alignment problem সমাধানের পথে রয়েছে কি না।

ফলে তাঁর পদত্যাগ শুধু একজন গবেষকের চাকরি ছাড়ার ঘটনা নয়। এটি AI industry-র ভিতর থেকেই আসা একটি বড় safety warning হিসেবেও দেখা হচ্ছে।