Nvidia সম্প্রতি তাদের Open Agent Safety Platform উন্মোচন করেছে, যা স্বয়ংক্রিয় AI এজেন্টদের নিয়ন্ত্রণে একটি সফটওয়্যার সুরক্ষা প্ল্যাটফর্ম।
এই প্ল্যাটফর্মের মূল উপাদান OpenShell, যা একটি সিল করা স্যান্ডবক্স হিসেবে কাজ করে। এখানে AI এজেন্টরা নির্দিষ্ট নিয়ম মেনে কাজ করতে পারে, যেমন নির্দিষ্ট ফোল্ডারে অ্যাক্সেস পাওয়া, কিন্তু ফাইল পরিবর্তন বা মুছে ফেলা এবং অননুমোদিত ওয়েবসাইটে প্রবেশের মতো কাজ থেকে বিরত থাকে।
OpenShell AI এজেন্টদের কার্যকলাপ ট্রেস করে এবং Vera চিপে নীতিমালা প্রয়োগ করে। এটি ওপেন সোর্স হওয়ায় Arm, Intel-এর মতো অন্যান্য প্ল্যাটফর্মের সাথেও কাজ করতে পারে।
অতিরিক্ত নিরাপত্তার জন্য Sentry নামে একটি হার্ডওয়্যার স্তরের ব্যবস্থা রয়েছে, যা Nvidia-এর Bluefield-4 ডিজিটাল প্রসেসিং ইউনিটে চলে। এটি AI এজেন্টের আচরণ পর্যবেক্ষণ করে এবং সীমা অতিক্রম করলে তাৎক্ষণিকভাবে কোয়ারেন্টাইন করতে পারে।
তবে, এই প্ল্যাটফর্ম সম্পূর্ণ AI নিরাপত্তার সমাধান নয়। এটি AI মডেলকে অসৎ বা ভুল থেকে রোধ করবে না, বরং AI এজেন্টদের সীমাবদ্ধ রাখতে সাহায্য করবে। ব্যবহারকারী প্রতিষ্ঠানগুলোকে নিজস্ব নিয়ম ও অনুমতি নির্ধারণ করতে হবে।
বিশেষজ্ঞরা মনে করেন, এই সফটওয়্যার কিছু ক্ষেত্রে AI এজেন্টের কার্যকারিতা সীমিত করতে পারে এবং এর সঠিক প্রভাব বুঝতে বাস্তব উদাহরণ প্রয়োজন।
সূত্র: Durango Herald
প্রকাশক: AmarAI