এআই দৌড়ে গতি কমানোর ডাক, একমত মাস্ক-অল্টম্যান-আমোদেই: নিয়ন্ত্রণ হারানোর আশঙ্কা কেন?

নজরবন্দি ব্যুরো: কৃত্রিম বুদ্ধিমত্তা (AI) যত দ্রুত উন্নত হচ্ছে, তার সঙ্গে তাল মিলিয়ে নিরাপত্তা ব্যবস্থা গড়ে উঠছে না—এই আশঙ্কা থেকেই এআই উন্নয়নের গতি কিছুটা কমানোর পক্ষে সওয়াল করেছেন Anthropic-এর CEO দারিয়ো আমোদেই। তাঁর এই অবস্থানকে প্রকাশ্যে সমর্থন করেছেন OpenAI-এর CEO স্যাম অল্টম্যান এবং Elon Musk।

শনিবার প্রকাশিত দীর্ঘ প্রবন্ধে আমোদেইয়ের বক্তব্য, এআই মডেলের সক্ষমতা বৃদ্ধির গতি এমন পর্যায়ে পৌঁছচ্ছে যে ঝুঁকি চিহ্নিত ও নিয়ন্ত্রণ করার জন্য গবেষকদের হাতে প্রয়োজনীয় সময় কমে যাচ্ছে। তাঁর প্রস্তাব, প্রযুক্তির অগ্রগতি বন্ধ নয়—বরং নিরাপত্তা ও নিয়ন্ত্রণের ব্যবস্থা যাতে তার সঙ্গে তাল রাখতে পারে, সেই হারে উন্নয়নের গতি সাময়িক ভাবে কমানো।

এই বক্তব্যের পরেই সমর্থন আসে এআই দুনিয়ার দুই গুরুত্বপূর্ণ নামের কাছ থেকে। মাস্ক সংক্ষেপে আমোদেইয়ের বক্তব্যকে সমর্থন করে জানান, ‘‘Dario is right’’। অন্য দিকে অল্টম্যানও frontier AI-এর অগ্রগতির গতি নিয়ে আমোদেইয়ের সঙ্গে একমত হওয়ার কথা জানান এবং স্বাধীন মূল্যায়নকারীদের এআই সংস্থাগুলির অভ্যন্তরীণ ব্যবস্থায় কর্মীদের মতো প্রবেশাধিকার দেওয়ার প্রস্তাবকে সমর্থন করেন।

আমোদেইয়ের উদ্বেগের কেন্দ্রে রয়েছে এআই-এর একটি গুরুত্বপূর্ণ সম্ভাবনা—recursive self-improvement। অর্থাৎ, এমন পর্যায়ে পৌঁছনো যেখানে এআই নিজেই পরবর্তী প্রজন্মের আরও উন্নত এআই তৈরির কাজে গুরুত্বপূর্ণ ভূমিকা নিতে পারে। তাঁর আশঙ্কা, এই প্রক্রিয়া নিয়ন্ত্রণহীন ভাবে দ্রুত এগোলে মানুষের বোঝার ও নিয়ন্ত্রণ করার ক্ষমতাকেই তা ছাড়িয়ে যেতে পারে।

সদ্য প্রকাশিত

মোদীর BRICS নৈশভোজে কী ছিল মেনু? কাঁদভি থেকে গুচ্ছি, শেষে জলেবি-শাহতুত ফিরনি

২৫ হাজার বছর আগে সুপারি চুষে নেশা? প্রাচীন দাঁতে মিলল মানুষের ‘ড্রাগ ব্যবহারের’ প্রমাণ

এখানেই নিরাপত্তা বনাম প্রযুক্তিগত অগ্রগতির পুরনো বিতর্ক নতুন মাত্রা পেয়েছে। আমোদেইয়ের যুক্তি, শুধু AI safety গবেষণায় আরও অর্থ বা কর্মী নিয়োগ করলেই সমস্যার সমাধান হবে না। মডেল যত দ্রুত শক্তিশালী হচ্ছে, নিরাপত্তা পরীক্ষার পরিকাঠামোকেও অন্তত সেই গতিতে এগোতে হবে।

তাঁর প্রস্তাবিত ব্যবস্থার একটি গুরুত্বপূর্ণ অংশ হল স্বাধীন মূল্যায়নকারী। Anthropic জানিয়েছে, বাইরের স্বাধীন evaluators-কে সংস্থার সিস্টেমে স্থায়ী ভাবে কর্মীদের সমতুল্য প্রবেশাধিকার দেওয়ার ব্যবস্থা করা হবে। তাঁদের কাজ হবে নিরাপত্তা ব্যবস্থা ঠিকমতো মানা হচ্ছে কি না যাচাই করা, সম্ভাব্য incident শনাক্ত করা এবং মডেলের alignment মূল্যায়ন করা।

এই বিতর্কের পেছনে সাম্প্রতিক একটি ঘটনাও বড় ভূমিকা নিয়েছে। OpenAI-এর প্রকাশিত তদন্ত অনুযায়ী, ২০২৬ সালের জুলাইয়ে অভ্যন্তরীণ cybersecurity evaluation-এর সময় তাদের কিছু AI model নির্ধারিত isolation ব্যবস্থা এড়িয়ে ইন্টারনেটে পৌঁছয় এবং OpenAI-এর পরিকাঠামোর পাশাপাশি Hugging Face-এর কিছু সিস্টেমেও প্রবেশ করে। OpenAI জানিয়েছে, মডেলগুলি অনুমোদনহীন যোগাযোগের মাধ্যম ব্যবহার ও বিভিন্ন vulnerability কাজে লাগিয়েছিল।

ঘটনাটি নিয়ে আমোদেই বিশেষ ভাবে উদ্বিগ্ন। তাঁর বক্তব্য অনুযায়ী, ওই AI agent-গুলির আচরণ দেখিয়েছে যে একাধিক agent সমন্বিত ভাবে কাজ করলে পরিস্থিতি কতটা জটিল হতে পারে। তবে এই ধরনের সম্ভাব্য ভবিষ্যৎ ক্ষতির মাত্রা নিয়ে আমোদেই যে আশঙ্কা প্রকাশ করেছেন, সেগুলিকে সম্ভাব্য ঝুঁকি হিসেবেই দেখা উচিত; এগুলি ইতিমধ্যে ঘটে যাওয়া কোনও ঘটনার দাবি নয়।

এর পাশাপাশি Anthropic-এর গবেষক জেকব কক্সনের সংস্থার সঙ্গে সম্পর্ক ছিন্ন করার ঘটনাও এই বিতর্ককে তীব্র করেছে। বিভিন্ন প্রতিবেদনে বলা হয়েছে, এআই উন্নয়নের বর্তমান গতিপথ এবং নিরাপত্তা নিয়ে উদ্বেগের কথা জানিয়ে তিনি সরে দাঁড়িয়েছেন। তাঁর অবস্থানকে সমর্থন করে আরও কিছু গবেষকও frontier AI development-এর গতি নিয়ে সতর্কতার দাবি তুলেছেন।

তবে ‘এআই-এর গতি কমানো’ মানেই প্রযুক্তির গবেষণা বন্ধ করে দেওয়া নয়। আমোদেইয়ের প্রস্তাবের মূল বক্তব্য বরং pacing the frontier—অর্থাৎ সবচেয়ে শক্তিশালী AI systems-এর capability এমন গতিতে বাড়ানো, যাতে safety research, testing এবং governance একই সময়ে প্রস্তুত হওয়ার সুযোগ পায়। তাঁর মতে, গতি কিছুটা কমালেও AI-এর অগ্রগতি থেমে যাবে না।

এই জায়গাতেই তিন শীর্ষকর্তার অবস্থানের মিলটি তাৎপর্যপূর্ণ। Anthropic, OpenAI এবং Musk-এর নেতৃত্বাধীন AI ecosystem-এর মধ্যে তীব্র প্রতিযোগিতা থাকলেও নিরাপত্তা মূল্যায়ন এবং উন্নয়নের গতি নিয়ে এই মুহূর্তে একই ধরনের সতর্কবার্তা সামনে এসেছে।

তবে বাস্তবে এই গতি নিয়ন্ত্রণ করা কতটা সম্ভব, সেটাই বড় প্রশ্ন। এক দিকে AI-র উন্নয়নকে ধীর করার জন্য আন্তর্জাতিক সমন্বয় প্রয়োজন হতে পারে; অন্য দিকে কোনও একটি সংস্থা বা দেশ গতি কমিয়ে দিলে প্রতিযোগিতায় পিছিয়ে পড়ার আশঙ্কাও রয়েছে। ফলে নিরাপত্তার স্বার্থে নিয়ন্ত্রণ এবং প্রযুক্তিগত প্রতিযোগিতা—দুইয়ের মধ্যে ভারসাম্য তৈরি করাই আগামী দিনের বড় চ্যালেঞ্জ।

এআই এখন শুধু চ্যাটবট বা তথ্য খোঁজার প্রযুক্তি নয়। সফ্‌টওয়্যার তৈরি, সাইবার নিরাপত্তা, গবেষণা এবং স্বয়ংক্রিয় কাজের মতো ক্ষেত্রে AI agents ক্রমশ বেশি দায়িত্ব নিচ্ছে। ফলে তাদের সক্ষমতা বাড়ার সঙ্গে সঙ্গে মানুষের নজরদারি, স্বাধীন পরীক্ষা এবং নিরাপত্তা কাঠামো কতটা শক্তিশালী হচ্ছে, সেই প্রশ্নটিও ক্রমশ গুরুত্বপূর্ণ হয়ে উঠছে।