নয়াদিল্লি: কৃত্রিম বুদ্ধিমত্তা বা এআইকে ঘিরে বিশ্বজুড়ে প্রত্যাশা তুঙ্গে। চিকিৎসা থেকে শিক্ষা, গবেষণা থেকে ব্যবসা—প্রায় প্রতিটি ক্ষেত্রেই নতুন সম্ভাবনার দরজা খুলে দিচ্ছে এই প্রযুক্তি। কিন্তু সেই এআই-ই যদি এক দিন মানুষের অস্তিত্বের জন্য সবচেয়ে বড় বিপদ হয়ে ওঠে? আশঙ্কাটা নিছক কল্পবিজ্ঞানের গল্প বলে উড়িয়ে দিতে রাজি নন প্রাক্তন গুগল ইঞ্জিনিয়ার নেট সোয়ারেস। তাঁর দাবি, আগামী ১০ বছরের মধ্যেই উন্নত এআইয়ের হাতে মানবসভ্যতা ধ্বংস হয়ে যাওয়ার আশঙ্কা যথেষ্ট প্রবল। আর সেই বিশ্বাস থেকেই নাকি গত এক দশক ধরে অবসরের জন্য নতুন করে কোনও টাকা জমাচ্ছেন না তিনি!
সোয়ারেস বর্তমানে মেশিন ইন্টেলিজেন্স রিসার্চ ইনস্টিটিউটের (এমআইআরআই) সভাপতি। দীর্ঘদিন ধরে কৃত্রিম বুদ্ধিমত্তাকে মানুষের নিয়ন্ত্রণের মধ্যে রাখার উপায় নিয়ে গবেষণা করছেন তিনি। তাঁর মতে, যে গতিতে এআইয়ের ক্ষমতা বাড়ছে, তাতে এক সময় এই প্রযুক্তি মানুষের বুদ্ধিমত্তাকেও ছাপিয়ে যেতে পারে। তখন মানুষের তৈরি ব্যবস্থার উপর মানুষের নিয়ন্ত্রণ বজায় থাকবে কি না, তা নিয়ে গুরুতর প্রশ্ন দেখা দেবে।
অবসরের জন্য সঞ্চয় বন্ধ কেন?
সম্প্রতি ‘দ্য মোস্ট ইন্টারেস্টিং থিং ইন এআই’ পডকাস্টে নিজের আশঙ্কার কথা জানিয়েছেন সোয়ারেস। তিনি জানিয়েছেন, গুগলে কাজ করার সময় একটি অবসরকালীন সঞ্চয় প্রকল্পে টাকা জমাতেন। কিন্তু প্রায় ১০ বছর ধরে তাতে আর নতুন করে কোনও অর্থ জমা করেননি। কারণ, তাঁর আশঙ্কা, অবসর নেওয়ার মতো বয়স পর্যন্ত মানবসভ্যতা আদৌ টিকে থাকবে কি না, তা নিয়েই সংশয় রয়েছে।
সাক্ষাৎকারে তাঁকে প্রশ্ন করা হয়েছিল, আগামী ১০ বছরের মধ্যে মানুষের অস্তিত্ব বিপন্ন হওয়ার সম্ভাবনা কি ৫০ শতাংশের বেশি বলে তিনি মনে করেন? উত্তরে সোয়ারেস জানান, তাঁর বর্তমান মূল্যায়নে সেই আশঙ্কা ৫০ শতাংশেরও বেশি।
তবে তাঁর এই বক্তব্যকে কোনও বৈজ্ঞানিকভাবে প্রতিষ্ঠিত ভবিষ্যদ্বাণী হিসেবে দেখার সুযোগ নেই। এটি এআইয়ের সম্ভাব্য বিপদ সম্পর্কে তাঁর ব্যক্তিগত মূল্যায়ন। কৃত্রিম বুদ্ধিমত্তার কারণে মানবসভ্যতা ধ্বংস হয়ে যাওয়ার সম্ভাবনা কতটা, তা নির্ভরযোগ্য ভাবে নির্ধারণ করার মতো কোনও সর্বজনস্বীকৃত পদ্ধতি এখনও নেই।
মানুষের চেয়ে বুদ্ধিমান হয়ে উঠলে কী হবে?
সোয়ারেসের আশঙ্কার কেন্দ্রে রয়েছে এমন এক কৃত্রিম বুদ্ধিমত্তা, যা শুধু মানুষের নির্দেশ পালন করবে না, বরং নিজে থেকেই জটিল সিদ্ধান্ত নিতে, পরিকল্পনা করতে এবং নিজের ক্ষমতা বাড়ানোর উপায় খুঁজে বের করতে পারবে। এই ধরনের ব্যবস্থাকে ঘিরেই এআই নিরাপত্তা বিশেষজ্ঞদের একাংশের উদ্বেগ। তাঁর মতে, বিপদটা শুধু এই নয় যে মানুষ এআইকে অপব্যবহার করতে পারে। বরং এমন পরিস্থিতিও তৈরি হতে পারে, যখন অত্যন্ত শক্তিশালী কোনও এআই নিজের নির্ধারিত লক্ষ্য পূরণ করতে গিয়ে মানুষের স্বার্থের বিরোধী পথে এগোবে।
সেই লক্ষ্য কী ভাবে নির্ধারিত হচ্ছে, ব্যবস্থা কী ভাবে সিদ্ধান্ত নিচ্ছে এবং তার আচরণকে নিয়ন্ত্রণ করা সম্ভব কি না—এই প্রশ্নগুলির উত্তর এখনও পুরোপুরি স্পষ্ট নয়। সোয়ারেস ও এআই নিরাপত্তা গবেষক এলিয়েজার ইউডকোস্কি ২০২৫ সালে প্রকাশিত ‘ইফ এনিওয়ান বিল্ডস ইট, এভরিওয়ান ডাইজ’ বইয়ে এই আশঙ্কার কথা বিস্তারিত ভাবে তুলে ধরেছেন। তাঁদের যুক্তি, পর্যাপ্ত নিয়ন্ত্রণ ও নিরাপত্তা নিশ্চিত না করে অতি শক্তিশালী এআই তৈরি করা হলে তার পরিণতি ভয়াবহ হতে পারে।
নিজের ক্ষমতা নিজেই বাড়াবে এআই?
এআই নিয়ে উদ্বেগের অন্যতম কারণ হল, ভবিষ্যতে উন্নত কোনও ব্যবস্থা নিজেই নিজের পরবর্তী সংস্করণ তৈরিতে সাহায্য করতে পারে। তাতে তার ক্ষমতা বাড়ানোর প্রক্রিয়া আরও দ্রুত হয়ে উঠতে পারে। এই পরিস্থিতিকে অনেক গবেষক ‘ইন্টেলিজেন্স এক্সপ্লোশন’ বা বুদ্ধিমত্তার বিস্ফোরণ বলে উল্লেখ করেন। সোয়ারেসের আশঙ্কা, এমন কোনও পর্যায়ে পৌঁছে গেলে মানুষ হয়তো এআইয়ের বিকাশের গতির সঙ্গে তাল রাখতে পারবে না।
যে প্রযুক্তি মানুষের তৈরি, সেটিকেই নিয়ন্ত্রণে রাখার ক্ষমতা হারাতে পারে তার স্রষ্টা। তাঁর বক্তব্যের মূল কথা, কোনও ব্যবস্থা তৈরি করতে পারলেই যে তার ভিতরের সমস্ত কার্যপ্রণালী বোঝা সম্ভব, এমন নয়। উন্নত এআইয়ের ক্ষেত্রে এই সমস্যাই আরও গুরুতর হয়ে উঠতে পারে। কারণ, বিপুল পরিমাণ তথ্য ও কম্পিউটিং ক্ষমতার সাহায্যে প্রশিক্ষিত মডেল এমন আচরণ দেখাতে পারে, যার সম্পূর্ণ ব্যাখ্যা নির্মাতাদের কাছেও স্পষ্ট নয়।
এআইকে দিয়ে এআইয়ের কাজ যাচাই, তাতেও কি বিপদ কাটবে?
সোয়ারেসের উদ্বেগের আর একটি দিক হল, এআইয়ের কাজ যাচাই করার দায়িত্বও ক্রমশ অন্য এআই ব্যবস্থার হাতে চলে যাচ্ছে। তাঁর বক্তব্য অনুযায়ী, একটি উন্নত এআইয়ের তৈরি কাজ পরীক্ষা করার জন্য গবেষকেরা অন্য একটি এআইকে ব্যবহার করছেন। কিন্তু দ্বিতীয় ব্যবস্থাটি প্রথমটির ভুল বা বিপজ্জনক আচরণ সঠিক ভাবে শনাক্ত করতে পারবে কি না, সেই নিশ্চয়তা কোথায়? মানুষের তদারকি কমতে থাকলে ভুল সিদ্ধান্ত, গোপন আচরণ কিংবা নিরাপত্তার দুর্বলতা চিহ্নিত করা আরও কঠিন হয়ে উঠতে পারে।
বিশেষ করে, এআই যখন শুধু প্রশ্নের উত্তর দেওয়ার মধ্যে সীমাবদ্ধ না থেকে নিজে থেকে বিভিন্ন কাজ সম্পন্ন করতে পারবে, তখন ঝুঁকির মাত্রাও বাড়তে পারে। অবশ্য এআইয়ের আচরণ সব সময় মানুষের নিয়ন্ত্রণের বাইরে চলে যাবে, এমন কোনও প্রমাণ নেই। বরং এই ঝুঁকি কী ভাবে কমানো যায়, তা নিয়েই গবেষণা চলছে। কিন্তু সোয়ারেসের মতে, নিরাপত্তার সমস্যাগুলি পুরোপুরি বোঝার আগেই প্রযুক্তিকে দ্রুত এগিয়ে নিয়ে যাওয়ার প্রতিযোগিতা বিপদ বাড়াচ্ছে।
এআই সংস্থাগুলির ভূমিকা নিয়েও প্রশ্ন
শুধু প্রযুক্তির ক্ষমতা নয়, এআই নির্মাতা সংস্থাগুলির ভূমিকা নিয়েও প্রশ্ন তুলেছেন সোয়ারেস। তাঁর অভিযোগ, কোনও কোনও সংস্থা এআইয়ের সম্ভাব্য বিপদকে যথেষ্ট গুরুত্ব দিতে চাইছে না। বাণিজ্যিক প্রতিযোগিতায় এগিয়ে থাকার তাগিদে নিরাপত্তার বিষয়টি পিছনের সারিতে চলে যাওয়ার আশঙ্কা রয়েছে। এই বিতর্কের সঙ্গে জড়িয়ে রয়েছে তাঁর নিজের কর্মজীবনের অভিজ্ঞতাও।
২০১৪ সালে গুগল ছেড়ে এআই নিরাপত্তা নিয়ে গবেষণার কাজে যোগ দেন সোয়ারেস। বর্তমানে তিনি এমন একটি প্রতিষ্ঠানের নেতৃত্বে রয়েছেন, যার অন্যতম লক্ষ্য উন্নত কৃত্রিম বুদ্ধিমত্তাকে মানুষের জন্য নিরাপদ করে তোলা। তবে এআই নিয়ে তাঁর আশঙ্কার অর্থ এই নয় যে প্রযুক্তিটির সমস্ত ব্যবহারই বিপজ্জনক। চিকিৎসা, বিজ্ঞান, উৎপাদন কিংবা দৈনন্দিন জীবনের নানা ক্ষেত্রে এআইয়ের ইতিবাচক ভূমিকার সম্ভাবনাও বিপুল। প্রশ্ন হল, সেই সম্ভাবনাকে কাজে লাগাতে গিয়ে এমন কোনও ব্যবস্থা তৈরি করা হচ্ছে কি না, যা ভবিষ্যতে মানুষের নিয়ন্ত্রণের বাইরে চলে যেতে পারে।
এআই কি থামানো সম্ভব?
সোয়ারেসের বক্তব্য, মানবসভ্যতার ধ্বংস অনিবার্য—এমনটা তিনি মনে করেন না। বিপদ এড়ানোর জন্যই তিনি এআই নিরাপত্তার প্রশ্নটিকে গুরুত্ব দেওয়ার কথা বলছেন। তাঁর মতে, অতি শক্তিশালী এআই তৈরির প্রতিযোগিতায় গতি বাড়ানোর বদলে নিরাপত্তা, নিয়ন্ত্রণ এবং নির্ভরযোগ্যতার উপর জোর দেওয়া প্রয়োজন। তাঁর আশঙ্কা কতটা বাস্তব হবে, তা ভবিষ্যৎই বলবে। কিন্তু একটি বিষয় স্পষ্ট, এআই যত শক্তিশালী হচ্ছে, ততই প্রযুক্তির অগ্রগতির পাশাপাশি তার নিয়ন্ত্রণ নিয়ে বিতর্ক বাড়ছে। মানুষের জীবনকে সহজ করে তোলার জন্য তৈরি প্রযুক্তিই এক দিন মানুষের অস্তিত্বের সামনে প্রশ্নচিহ্ন হয়ে দাঁড়াতে পারে কি না, সেই উদ্বেগ এখন আর শুধু কল্পবিজ্ঞানের পাতায় আটকে নেই।
