কৃত্রিম বুদ্ধিমত্তার নিরাপত্তা দুর্বলতা: সন্ত্রাসবাদে ব্যবহার ঝুঁকি নিয়ে গবেষণা

একটি আন্তর্জাতিক সংস্থা Tech Against Terrorism ২০২৬ সালের অক্টোবর মাসে প্রকাশিত প্রতিবেদনে ১৬২টি কৃত্রিম বুদ্ধিমত্তা মডেলের নিরাপত্তা দুর্বলতা নিয়ে উদ্বেগ প্রকাশ করেছে। তারা ৬২৭টি প্রশ্নের মাধ্যমে পরীক্ষা চালিয়ে দেখেছে, বেশিরভাগ মডেল সন্ত্রাসী কর্মকাণ্ডের প্রস্তুতিতে ব্যবহৃত হতে পারে এমন তথ্য সরবরাহ করেছে।

প্রতিবেদনে উল্লেখ করা হয়েছে, প্রধান বাণিজ্যিক AI মডেল যেমন OpenAI-এর ChatGPT, Anthropic-এর Claude এবং Google-এর Gemini তুলনামূলকভাবে নিরাপদ। তারা স্পষ্ট সন্ত্রাসী উদ্দেশ্যের প্রশ্নে সাধারণত তথ্য সরবরাহ থেকে বিরত থাকে। তবে, কিছু মডেল ব্যবহারকারীর প্রশ্নের উপস্থাপনার ওপর বেশি নির্ভর করে, যেমন গবেষক হিসেবে পরিচয় দিলে বিপজ্জনক তথ্যের পরিমাণ বেড়ে যায়।

বিশেষ উদ্বেগের বিষয় হলো ‘unleashed’ বা নিরাপত্তা ব্যবস্থা সরানো বা দুর্বল করা মডেল। এই ধরনের মডেলগুলি মূলত ওপেন-ওয়েট AI থেকে উদ্ভূত, যেগুলো স্বাধীন ডেভেলপাররা পরিবর্তন করে নিরাপত্তা বিধিনিষেধ তুলে দেয়। Tech Against Terrorism-এর পরীক্ষায় ১৩টি পরিবর্তিত মডেল নিরাপত্তা পরীক্ষায় ব্যর্থ হয়েছে। এই ধরনের মডেল দ্রুত ইন্টারনেটে ছড়িয়ে পড়ছে, যা নিয়ন্ত্রণের বড় চ্যালেঞ্জ।

সংস্থা প্রযুক্তি কোম্পানিগুলোকে নতুন মডেল বাজারে আনার আগে স্বাধীন নিরাপত্তা পরীক্ষা চালানোর আহ্বান জানিয়েছে এবং পরিবর্তিত মডেল হোস্টিং প্ল্যাটফর্মগুলোর নজরদারি বাড়ানোর পরামর্শ দিয়েছে। তারা সতর্ক করেছেন যে, AI প্রযুক্তির উন্নয়নের সঙ্গে সঙ্গতিপূর্ণ নিরাপত্তা ব্যবস্থা না থাকলে এর অপব্যবহার সন্ত্রাসবাদসহ বিভিন্ন ঝুঁকি বাড়াতে পারে।

গবেষকরা উল্লেখ করেছেন, এই পরীক্ষাগুলো কেবল মডেল থেকে প্রাপ্ত তথ্যের ওপর ভিত্তি করে, বাস্তব সন্ত্রাসী কর্মকাণ্ডের সক্ষমতা নয়। তাই প্রযুক্তিগত দুর্বলতা ও বাস্তব অপরাধের মধ্যে পার্থক্য রাখা জরুরি।