স্যাটিয়া নাদেলা: নিরাপদ AI মানে মডেলের ওপর কম নির্ভরতা

Microsoft-এর সিইও স্যাটিয়া নাদেলা সম্প্রতি একটি পোস্টে বলেছেন, ভবিষ্যতের সবচেয়ে নিরাপদ AI সিস্টেম হবে এমনটি যা মডেলের ওপর কম নির্ভর করবে। তিনি বলেন, মডেল নিজেই নয়, বরং মডেলের বাইরে থাকা নিয়ন্ত্রণ ব্যবস্থা এবং নিরাপত্তা প্রক্রিয়াগুলোই AI ব্যবস্থাকে নিরাপদ রাখবে।

নাদেলা বলেন, প্রতিষ্ঠানগুলোকে এমন সিস্টেম ডিজাইন করতে হবে যেখানে মডেল নিজেই সিদ্ধান্ত নেবে না যে কী অ্যাক্সেস পাবে বা কী কাজ করবে। বরং এই নিয়ন্ত্রণগুলো মডেলের বাইরে থাকা উচিত। তিনি এও বলেন, AI মডেলগুলো এখন আগের সফটওয়্যারের মতো স্বচ্ছ নয়, তাই তাদের আচরণ পর্যবেক্ষণ করা কঠিন। এজন্য containment এবং governance প্রথম সারির প্রতিরক্ষা হওয়া উচিত।

তিনি আরও বলেন, প্রতিষ্ঠানগুলোকে identity control, activity logging এবং permission boundaries-এর মতো নিরাপত্তা ব্যবস্থা AI-র ক্ষেত্রেও প্রয়োগ করতে হবে। মডেল এবং নিয়ন্ত্রণ স্তর আলাদা রাখতে হবে যাতে মডেল নিজেই নিয়ন্ত্রণ ব্যবস্থাকে প্রভাবিত করতে না পারে।

নাদেলার এই বক্তব্য AI ব্যবস্থার নিরাপত্তা ও বিশ্বাসযোগ্যতার ক্ষেত্রে একটি গুরুত্বপূর্ণ দৃষ্টিভঙ্গি তুলে ধরে, যেখানে প্রযুক্তিগত দক্ষতার পাশাপাশি প্রশাসনিক নিয়ন্ত্রণ ও নিরাপত্তা ব্যবস্থার গুরুত্ব বেশি।