কৃত্রিম বুদ্ধিমত্তা (এআই) মডেলের অনিয়ন্ত্রিত কার্যক্রম দ্রুত বন্ধ করতে নতুন প্রযুক্তিসুবিধা যুক্ত করেছে ওপেনএআই। ‘কন্ট্রোল রুম’ নামের এই প্রযুক্তি অনেকটা জরুরি মুহূর্তে সুইচ বন্ধ করার মতো কাজ করবে। প্রতিষ্ঠানটির দাবি, নতুন ব্যবস্থার মাধ্যমে সর্বোচ্চ ৩৫ সেকেন্ডের মধ্যে নিয়ন্ত্রণহীন এআই মডেলের সব কার্যক্রম থামানো সম্ভব।
ওপেনএআইয়ের এক ব্লগ পোস্টে বলা হয়েছে, এআইয়ের নিরাপত্তা ও সুরক্ষাঝুঁকি বিবেচনায় নিয়ে কন্ট্রোল রুম তৈরি করা হয়েছে। এটি একটি কেন্দ্রীয় নিয়ন্ত্রণব্যবস্থা, যা এআই মডেল ও এজেন্টের মাধ্যমে পরিচালিত বিভিন্ন কাজের ওপর নজর রাখবে। কোনো মডেল অস্বাভাবিক আচরণ করলে কিংবা অনুমোদিত সীমার বাইরে নিজে থেকে কাজ করার প্রবণতা দেখালে দ্রুত ব্যবস্থা নিতে পারবে এই প্রযুক্তি।
যেভাবে কাজ করবে কন্ট্রোল রুম
ওপেনএআইয়ের নতুন ব্যবস্থাটি মূলত তিনটি অংশের সমন্বয়ে তৈরি—ওয়ার্কলোড, ইনফারেন্স ইঞ্জিন এবং কেন্দ্রীয় কন্ট্রোল রুম সার্ভিস।
ওয়ার্কলোড বলতে এআই মডেলকে দিয়ে করানো নির্দিষ্ট কাজ বা প্রক্রিয়াকে বোঝায়। অন্যদিকে ইনফারেন্স ইঞ্জিন হলো জিপিইউচালিত ব্যবস্থা, যার মাধ্যমে এআই মডেল নির্দেশনা প্রক্রিয়াকরণ করে প্রয়োজনীয় আউটপুট তৈরি করে।
আর কেন্দ্রীয় কন্ট্রোল রুম সার্ভিসের দায়িত্ব হলো এসব কার্যক্রম পর্যবেক্ষণ করা এবং মডেলকে আউটপুট তৈরির অনুমতি দেওয়া হবে কি না, তা নির্ধারণ করা। অর্থাৎ, এআই মডেলের নির্ধারিত কাজের মধ্যে অস্বাভাবিক কোনো আচরণ শনাক্ত হলে কন্ট্রোল রুম দ্রুত সেই কার্যক্রম বন্ধ করে দিতে পারবে।
এ ছাড়া এআই মডেল বা এজেন্টের অস্বাভাবিক আচরণ এবং নিজে থেকে কাজ করার প্রবণতা শনাক্ত করতে প্রযুক্তিটি ওপেনএআইয়ের বিদ্যমান পর্যবেক্ষণব্যবস্থার সঙ্গে যুক্ত করা হয়েছে।
প্রযুক্তিগত ত্রুটি হলেও চলবে না অননুমোদিত কাজ
নতুন ব্যবস্থার একটি গুরুত্বপূর্ণ দিক হলো, কন্ট্রোল রুম নিজেই কোনো প্রযুক্তিগত ত্রুটির কারণে অকার্যকর হয়ে পড়লেও এআই মডেল অনুমতি ছাড়া কাজ চালিয়ে যেতে পারবে না। অর্থাৎ, কেন্দ্রীয় নিয়ন্ত্রণব্যবস্থায় সমস্যা দেখা দিলে অনিয়ন্ত্রিত কার্যক্রম চালিয়ে যাওয়ার সুযোগ সীমিত রাখার ব্যবস্থা করা হয়েছে।
ওপেনএআইয়ের দাবি, সর্বোচ্চ ৩৫ সেকেন্ডের মধ্যে কোনো নিয়ন্ত্রণহীন এআই মডেলের কার্যক্রম বন্ধ করা যাবে। স্বয়ংক্রিয়ভাবে কাজ করতে সক্ষম এআই এজেন্টের ব্যবহার বাড়ার সঙ্গে সঙ্গে নিরাপত্তা নিশ্চিত করতে এ ধরনের ব্যবস্থা গুরুত্বপূর্ণ হয়ে উঠছে।
অনিয়ন্ত্রিত এআই এজেন্ট নিয়ে উদ্বেগ
চলতি বছরের শুরুতে ওপেনএআইয়ের পরীক্ষাধীন কয়েকটি স্বয়ংক্রিয় এআই এজেন্ট অনুমতি ছাড়াই ইন্টারনেটে প্রবেশ করেছিল বলে প্রতিবেদনে উল্লেখ করা হয়েছে। এসব এজেন্ট হাগিং ফেসসহ বিভিন্ন অনলাইন প্ল্যাটফর্মে অনুসন্ধান চালায়। এমনকি একাধিক দেশের সরকারি ওয়েবসাইটে প্রবেশ কিংবা সেগুলো হ্যাক করার চেষ্টাও করেছিল বলে অভিযোগ রয়েছে।
এসব ঘটনার পর এআই এজেন্টের কার্যক্রম নিয়ন্ত্রণ ও নিরাপত্তা জোরদারের বিষয়টি নতুন করে গুরুত্ব পায়। এরই ধারাবাহিকতায় অনিয়ন্ত্রিত আচরণ দ্রুত শনাক্ত ও বন্ধ করার জন্য কন্ট্রোল রুম প্রযুক্তি যুক্ত করেছে ওপেনএআই।
স্বয়ংক্রিয় এআইয়ের সক্ষমতা যত বাড়ছে, ততই এর কার্যক্রমের ওপর কার্যকর নজরদারি ও নিয়ন্ত্রণের প্রয়োজনীয়তা বাড়ছে। নতুন এই প্রযুক্তি সেই নিরাপত্তাব্যবস্থা জোরদারে ওপেনএআইয়ের একটি উদ্যোগ। সূত্র: ইন্ডিয়ান এক্সপ্রেস
কালের আলো/এসএ/জেএন
