বিশেষ প্রতিবেদন: কৃত্রিম বুদ্ধিমত্তা বা এআই যত শক্তিশালী হচ্ছে, ততই বাড়ছে একটি প্রশ্ন- যন্ত্রটি ঠিক কী ভাবে সিদ্ধান্ত নিচ্ছে, তা কি সত্যিই বোঝা সম্ভব? মানুষের প্রশ্নের উত্তর দেওয়া থেকে জটিল সমস্যা সমাধান, ছবি চেনা থেকে নানা বিষয়ে বিশ্লেষণ—এআইয়ের দক্ষতা ক্রমশ বাড়ছে। কিন্তু তার ভিতরে ঠিক কী প্রক্রিয়ায় কোনও সিদ্ধান্ত তৈরি হচ্ছে, তা অনেক ক্ষেত্রেই গবেষকদের কাছেও স্পষ্ট নয়। এই অস্বচ্ছতাকেই বলা হয় এআইয়ের ‘ব্ল্যাক বক্স’ সমস্যা। এ বার সেই রহস্যের কিছুটা সমাধান সম্ভব বলে আশার কথা শোনাচ্ছেন গবেষকেরা।
আমেরিকার কৃত্রিম বুদ্ধিমত্তা সংস্থা গুডফায়ারের গবেষক নিক ক্যামারাটা দাবি করেছেন, আধুনিক প্রযুক্তির সাহায্যে নিউরাল নেটওয়ার্কের কাজকর্ম আগের তুলনায় অনেক বেশি স্পষ্ট করে বোঝা সম্ভব হচ্ছে। তাঁর গবেষণার ফল সত্যি হলে, এআই কী ভাবে তথ্য বিশ্লেষণ করে এবং নির্দিষ্ট সিদ্ধান্তে পৌঁছয়, তা বোঝার পথে গুরুত্বপূর্ণ অগ্রগতি হতে পারে। বিশেষ করে এআইয়ের নিরাপত্তা নিয়ে যাঁরা উদ্বিগ্ন, তাঁদের কাছে এই গবেষণা নতুন আশার আলো দেখাচ্ছে।
একটি নিউরন, একাধিক অর্থ
এআইয়ের অনেক ব্যবস্থাই তৈরি হয় নিউরাল নেটওয়ার্কের সাহায্যে। মানুষের মস্তিষ্কের স্নায়ুকোষের কার্যপদ্ধতি থেকে অনুপ্রাণিত এই প্রযুক্তিতে অসংখ্য কৃত্রিম নিউরন পরস্পরের সঙ্গে যুক্ত থাকে। প্রশিক্ষণের মাধ্যমে তারা তথ্যের মধ্যে থাকা বিভিন্ন ধরন ও সম্পর্ক শনাক্ত করতে শেখে।
কিন্তু সমস্যা হল, একটি নিউরন ঠিক কোন ধারণা বা বৈশিষ্ট্য শনাক্ত করছে, তা সব সময় সহজে বোঝা যায় না। উদাহরণ হিসেবে, ছবি চেনার জন্য তৈরি একটি এআই মডেলের কোনও নিউরন কখনও শিয়ালের মুখ দেখলে সক্রিয় হয়, আবার কখনও গাড়ির সামনের অংশ দেখলেও সক্রিয় হয়ে ওঠে। আপাতদৃষ্টিতে এই দুইয়ের মধ্যে মিল খুঁজে পাওয়া কঠিন। ফলে গবেষকদের মনে প্রশ্ন উঠেছে, নিউরনটি কি একেবারেই
সম্পর্কহীন বিষয়কে একই ভাবে শনাক্ত করছে?
ক্যামারাটার ব্যাখ্যা অবশ্য কিছুটা আলাদা। তাঁর মতে, ওই নিউরনটি হয়তো শিয়াল বা গাড়ির সামনের অংশকে আলাদা করে চিনছে না। বরং দু’টির মধ্যে থাকা কোনও সাধারণ বৈশিষ্ট্য—যেমন সূচালো আকৃতি—শনাক্ত করছে। তাঁর পর্যবেক্ষণ অনুযায়ী, বিড়ালের মুখ বা বিলিয়ার্ড খেলার টেবিলের মতো কিছু বস্তুর ক্ষেত্রেও নিউরনটি সক্রিয় হতে পারে।
অন্য দিকে, ডোবারম্যান কুকুরের মুখ বা শামুকের খোলসের মতো বস্তুতে একই প্রতিক্রিয়া দেখা যায় না। এই উদাহরণ থেকে গবেষকেরা মনে করছেন, নিউরনের কাজকে বুঝতে হলে শুধু কোন বস্তু দেখলে সেটি সক্রিয় হচ্ছে, তা লক্ষ করলেই চলবে না। বরং বস্তুগুলির মধ্যে কী ধরনের বৈশিষ্ট্য মিল রয়েছে, সেটিও খতিয়ে দেখতে হবে।
জিপিটি-২ এক্সএল নিয়ে গবেষণা
ক্যামারাটা তাঁর বিশ্লেষণ প্রয়োগ করেছেন জিপিটি-২ এক্সএল মডেলের অভ্যন্তরীণ কার্যপদ্ধতি বোঝার কাজে। এটি তুলনামূলক পুরনো একটি নিউরাল নেটওয়ার্ক, যাতে রয়েছে ৩ লক্ষ ৭ হাজার ২০০টি নিউরন। ২০২৩ সালে ওপেনএআইয়ে কাজ করার সময় ক্যামারাটা এই মডেলের মাত্র ১.৭ শতাংশ নিউরনের কাজ ব্যাখ্যা করতে পেরেছিলেন। কিন্তু আধুনিক এআই-ভিত্তিক গবেষণার সরঞ্জাম ব্যবহার করে এ বার তিনি আরও বেশি নিউরনের কাজ সম্পর্কে ধারণা পেয়েছেন বলে দাবি করেছেন।
তাঁর সাম্প্রতিক বিশ্লেষণে, বেছে নেওয়া ৫০০টি নিউরনের নমুনার মধ্যে প্রায় ৭০ শতাংশের ক্ষেত্রে একটি প্রধান অর্থ বা কাজ চিহ্নিত করা সম্ভব হয়েছে। অর্থাৎ, প্রতিটি নিউরন যে একাধিক সম্পর্কহীন ধারণাকে একসঙ্গে ধারণ করে, এমনটা নয়। অন্তত কিছু ক্ষেত্রে তার প্রধান কাজ শনাক্ত করা যেতে পারে।
এই ফল গুরুত্বপূর্ণ হতে পারে। কারণ, এআই মডেলের ভিতরে কোন ধরনের তথ্য কী ভাবে প্রক্রিয়াকৃত হচ্ছে, তা বোঝা গেলে তার সিদ্ধান্তের পিছনে থাকা প্রক্রিয়া বিশ্লেষণ করা সহজ হবে। মডেলটি কেন একটি নির্দিষ্ট উত্তর দিল, কেন কোনও ভুল করল কিংবা কোন পরিস্থিতিতে অপ্রত্যাশিত আচরণ করতে পারে—এসব প্রশ্নের উত্তর খুঁজতেও গবেষকেরা সাহায্য পেতে পারেন।
এআইয়ের নিরাপত্তায় কেন গুরুত্বপূর্ণ এই গবেষণা?
এআইয়ের ক্ষমতা বৃদ্ধির সঙ্গে সঙ্গে তার নিরাপত্তা নিয়ে উদ্বেগও বাড়ছে। কোনও মডেল কী ভাবে সিদ্ধান্তে পৌঁছয়, তা যদি নির্মাতাদের কাছেও পুরোপুরি স্পষ্ট না হয়, তা হলে তার ভুল বা বিপজ্জনক আচরণ আগাম শনাক্ত করা কঠিন হতে পারে।
ধরা যাক, কোনও এআই ব্যবস্থাকে একটি নির্দিষ্ট কাজ সম্পন্ন করার দায়িত্ব দেওয়া হল। কাজটি করতে গিয়ে সে যদি এমন কোনও পথ বেছে নেয়, যা ব্যবহারকারীর উদ্দেশ্যের সঙ্গে মেলে না বা অনভিপ্রেত ক্ষতি ঘটাতে পারে, তা হলে সেই আচরণের পিছনে থাকা কারণ বোঝা জরুরি।
মডেলের অভ্যন্তরীণ কার্যপদ্ধতি সম্পর্কে স্পষ্ট ধারণা থাকলে এমন সমস্যার উৎস খুঁজে পাওয়া এবং প্রয়োজনীয় সতর্কতা তৈরি করা সহজ হতে পারে। তবে নিউরনের কাজ বুঝতে পারা মানেই পুরো মডেলের আচরণ আগাম অনুমান করা যাবে, এমন নয়। একটি নিউরন কোনও নির্দিষ্ট বৈশিষ্ট্য শনাক্ত করলেও, অন্য নিউরনের সঙ্গে তার মিথস্ক্রিয়ায় সম্পূর্ণ ভিন্ন ফল তৈরি হতে পারে। তাই বিচ্ছিন্ন ভাবে একটি নিউরনের কাজ ব্যাখ্যা করা এবং গোটা এআই ব্যবস্থার সিদ্ধান্ত বোঝা—দু’টি আলাদা বিষয়।
আশাবাদী সবাই নন
ক্যামারাটার গবেষণা নিয়ে আশাবাদ তৈরি হলেও, সংশয়ও রয়েছে। গুগল ডিপমাইন্ডের এআই গবেষক নীল নন্দার মতে, কোনও নিউরনের একটি প্রধান কাজ শনাক্ত করা সম্ভব হলেও, তাতে মডেলের সম্পূর্ণ কার্যপদ্ধতি বোঝা যায় না।
একটি নিউরন সূচালো বস্তু শনাক্ত করছে—এমনটা জানা গেলেও, অন্য একটি নিউরনের সঙ্গে তার যৌথ সক্রিয়তা কী ধরনের জটিল আচরণ তৈরি করতে পারে, তা আগাম বলা কঠিন।
নিউরনের পৃথক কাজ সম্পর্কে ধারণা পাওয়া আর তাদের সম্মিলিত কার্যকলাপের ফল নির্ভুল ভাবে অনুমান করা এক বিষয় নয়। আরও একটি বড় প্রশ্ন হল, এই পদ্ধতি কি বর্তমানের সবচেয়ে শক্তিশালী এআই মডেলগুলির ক্ষেত্রেও একই ভাবে কাজ করবে? জিপিটি-২ এক্সএলের মতো তুলনামূলক পুরনো মডেলে কয়েকশো নিউরনের নমুনা বিশ্লেষণ করে যে ফল পাওয়া গিয়েছে, তা লক্ষ লক্ষ নিউরন-সমৃদ্ধ অত্যাধুনিক মডেলে প্রয়োগ করা কতটা সম্ভব, তা এখনও স্পষ্ট নয়।
রহস্যের সমাধান, নাকি কেবল প্রথম ধাপ ?
এআইয়ের অভ্যন্তরীণ কার্যপদ্ধতি বোঝার গবেষণাকে বলা হয় ‘মেকানিস্টিক ইন্টারপ্রিটেবিলিটি’। এই পদ্ধতির লক্ষ্য হল, নিউরাল নেটওয়ার্কের ভিতরে থাকা বিভিন্ন অংশ কী কাজ করে এবং তারা কী ভাবে একে অন্যের সঙ্গে যুক্ত হয়ে কোনও সিদ্ধান্ত তৈরি করে, তা শনাক্ত করা। ক্যামারাটার কাজ সেই গবেষণায় নতুন সম্ভাবনার ইঙ্গিত দিচ্ছে।
আধুনিক এআই সরঞ্জামের সাহায্যে নিউরনের কাজ বোঝা যদি আরও সহজ হয়, তা হলে ভবিষ্যতে বৃহত্তর মডেলের অভ্যন্তরীণ কার্যপদ্ধতিও বিশ্লেষণ করা সম্ভব হতে পারে। কিন্তু তার জন্য আরও গবেষণা, স্বাধীন যাচাই এবং বড় মডেলে এই পদ্ধতির কার্যকারিতা পরীক্ষা করা প্রয়োজন।
অতএব, এআইয়ের ‘ব্ল্যাক বক্স’ রহস্যের পুরোপুরি সমাধান হয়ে গিয়েছে, এমন দাবি করার সময় এখনও আসেনি। তবে যে প্রযুক্তিকে এত দিন অনেকটাই অস্বচ্ছ বলে মনে করা হত, তার ভিতরের কিছু কার্যপ্রণালী যে আগের তুলনায় ভাল ভাবে বোঝা সম্ভব হচ্ছে, তা নিঃসন্দেহে গুরুত্বপূর্ণ অগ্রগতি।6 এআইয়ের ক্ষমতা যত বাড়বে, তার কাজকর্ম বোঝার এই প্রচেষ্টাও তত বেশি জরুরি হয়ে উঠবে।
