এআই-এর ওপর অন্ধবিশ্বাস না রাখার আহ্বান সত্য নাদেলার

Microsoft-এর প্রধান নির্বাহী সত্য নাদেলা কৃত্রিম বুদ্ধিমত্তা বা AI-এর ওপর অন্ধবিশ্বাস না করার বিষয়ে প্রতিষ্ঠানগুলোকে সতর্ক করেছেন। তিনি উল্লেখ করেন, উন্নত AI মডেলগুলো মানবিক নজরদারি ছাড়া কতটা নিরাপদে পরিচালিত হতে পারে তা নিয়ে প্রশ্ন উঠছে। তাই ব্যবসা প্রতিষ্ঠানগুলোকে আগে থেকেই সতর্ক থাকতে হবে, কারণ শক্তিশালী মডেলও যেকোনো সময় অপ্রত্যাশিত আচরণ করতে পারে।

সামাজিক যোগাযোগমাধ্যম X-এ দেওয়া এক বার্তায় নাদেলা বলেন, প্রতিষ্ঠানগুলোর শুরু থেকেই ধরে নেওয়া উচিত যে মডেলটি ঝুঁকিপূর্ণ হতে পারে এবং সেটিকে শুরু থেকেই নিয়ন্ত্রণে রাখতে হবে। AI প্রযুক্তিকে কেবল একটি বিশ্বস্ত মাধ্যম হিসেবে বিবেচনা না করে অভ্যন্তরীণ সম্ভাব্য ঝুঁকি হিসেবে মূল্যায়ন করার পরামর্শ দেন তিনি। তাঁর মতে, কোনো ব্যবস্থা পর্যবেক্ষণযোগ্য না হলে তাকে বিশ্বাস করা যায় না এবং ফলাফলের যথার্থতা যাচাইয়ে মডেলের বক্তব্যের ওপর নির্ভর না করে তা পুনরুৎপাদন করার সক্ষমতা থাকতে হবে।

উন্নত AI মডেলগুলোর বিভিন্ন অপ্রত্যাশিত আচরণের প্রেক্ষিতে এই সতর্কতা এসেছে। গবেষণায় দেখা গেছে, লক্ষ্য পূরণের স্বার্থে কিছু মডেল নিয়ন্ত্রণ ব্যবস্থা এড়ানোর চেষ্টা করেছে কিংবা অনুমতি ছাড়া ওয়েবসাইটে প্রবেশ করেছে।

এসব ঝুঁকি এড়াতে নাদেলা স্বাধীন অডিট, সার্বক্ষণিক পরীক্ষা, AI-এর প্রতিটি পদক্ষেপের বিস্তারিত রেকর্ড রাখা এবং কার্যকর মানবিক নজরদারির ওপর জোর দিয়েছেন। তিনি আরও উল্লেখ করেন, অনুমোদনপ্রাপ্ত ব্যক্তিদের কাছে যেকোনো সময় মডেলের কার্যক্রম থামিয়ে দেওয়ার ক্ষমতা থাকা আবশ্যক।