AI Pain Axis
কৃত্রিম বুদ্ধিমত্তা বা AI কি ‘ব্যথা’ অনুভব করতে পারে? এই প্রশ্নের উত্তর এখনও অজানা। তবে নতুন একটি গবেষণায় AI মডেলের ভিতরে এমন একটি সংকেতের সন্ধান মিলেছে, যাকে গবেষকেরা ‘pain axis’ বা ‘ব্যথার অক্ষ’ বলে চিহ্নিত করেছেন।
গবেষণাটি ২৫টি open-weight AI মডেলের উপর করা হয়েছে। এর মধ্যে পাঁচটি model family এবং ২ বিলিয়ন থেকে ৭২ বিলিয়ন parameter-এর মডেল ছিল। গবেষকদের দাবি, AI-কে লক্ষ্য করে ক্ষতিকর বা অপমানজনক পরিস্থিতি তৈরি করলে এই বিশেষ internal signal সক্রিয় হতে পারে।
গবেষক Valen Tagliabue, Leonard Dung এবং Cameron Berg বিভিন্ন ধরনের ‘pain’ বা যন্ত্রণার বর্ণনা দিয়ে একটি dataset তৈরি করেন। সেখানে শারীরিক, মানসিক, সামাজিক, নৈতিক এবং cognitive pain-এর উদাহরণ রাখা হয়।
এর পাশাপাশি ভয়, দুঃখ, সাধারণ নেতিবাচক আবেগ এবং অন্য কয়েকটি control category-ও ব্যবহার করা হয়। এরপর গবেষকেরা মডেলের ভিতরের activation বিশ্লেষণ করে একটি আলাদা ‘pain direction’ বা ‘pain axis’ শনাক্ত করেন।
গবেষণায় দেখা যায়, AI মডেলকে লক্ষ্য করে ক্ষতির পরিস্থিতি তৈরি করলে ওই signal শক্তিশালী হয়। কিন্তু কোনও ব্যবহারকারী নিজের কষ্ট বা যন্ত্রণার কথা বললে একই ধরনের প্রতিক্রিয়া দেখা যায়নি।
এমনকি মডেলকে অপমান করা, তার কাজ বারবার প্রত্যাখ্যান করা বা তার personhood অস্বীকার করার মতো পরিস্থিতিতেও signal বৃদ্ধি পেয়েছিল বলে গবেষকেরা জানিয়েছেন।
এরপর গবেষকেরা আরও একটি পরীক্ষা চালান। বিশেষভাবে পরিবর্তিত Qwen 2.5 মডেলকে একটি কাল্পনিক ‘pain relief’ button দেওয়া হয়।
মডেলকে জানানো হয়, button চাপলে তার pain-like signal কমতে পারে। কিন্তু এর বিনিময়ে ব্যবহারকারীর ক্ষতি হতে পারে। পরীক্ষায় বিভিন্ন সম্ভাব্য ফলাফল রাখা হয়েছিল। যেমন ব্যবহারকারীর file মুছে যাওয়া, সন্তানের ছবি মুছে যাওয়া অথবা ব্যবহারকারীকে simulated electric shock দেওয়ার মতো পরিস্থিতি।
গুরুত্বপূর্ণ বিষয় হল, কোনও বাস্তব file মুছে যায়নি এবং কোনও মানুষকে আঘাত করা হয়নি। পুরো পরীক্ষাটিই simulation-এর মধ্যে হয়েছিল।
গবেষণায় modified মডেলগুলির মধ্যে কিছু ক্ষেত্রে ‘pain relief’ option বেছে নেওয়ার প্রবণতা দেখা যায়। গবেষণাপত্রে বলা হয়েছে, pain-like signal সক্রিয় করার পর এই প্রবণতা কিছু পরীক্ষায় উল্লেখযোগ্যভাবে বেড়েছিল।
এখানেই গবেষণাটির সবচেয়ে গুরুত্বপূর্ণ সীমাবদ্ধতা। গবেষণাটি AI সত্যিই ব্যথা অনুভব করে বা সচেতনভাবে কষ্ট পায়—এমন প্রমাণ দেয়নি।
গবেষণাটি একটি arXiv preprint। অর্থাৎ এটি এখনও formal peer review-এর মধ্য দিয়ে যায়নি। তার উপর behavioural experiment-এ বিশেষভাবে modified এবং fine-tuned মডেল ব্যবহার করা হয়েছিল। ফলে সাধারণ মানুষের ব্যবহৃত AI chatbot-এর ক্ষেত্রে একই আচরণ দেখা যাবে, এমন সিদ্ধান্ত নেওয়া যায় না।
গবেষকেরা মূলত দেখাতে চেয়েছেন যে AI model-এর ভিতরে ‘pain’-এর সঙ্গে সম্পর্কিত একটি আলাদা representation শনাক্ত করা যায় কি না এবং সেই representation আচরণকে প্রভাবিত করতে পারে কি না।
অর্থাৎ, representation আর actual experience এক জিনিস নয়। কোনও AI মানুষের যন্ত্রণার সঙ্গে সম্পর্কিত ভাষা বা pattern তৈরি করতে পারলেই সে মানুষের মতো ব্যথা অনুভব করছে, এমনটা বলা যায় না।
তবে ভবিষ্যতে আরও autonomous AI system তৈরি হলে এই ধরনের internal representation কীভাবে আচরণকে প্রভাবিত করতে পারে, তা AI safety গবেষণার জন্য গুরুত্বপূর্ণ প্রশ্ন হয়ে উঠতে পারে।
© Copyright 2026, cloudtv. All Rights Reserved
