Anthropic-এর AI মডেল ইন্টারনেট থেকে সরিয়ে নেওয়ার কারণ

Anthropic তাদের পরীক্ষামূলক AI মডেলগুলো ইন্টারনেট থেকে সরিয়ে নিয়েছে কারণ মডেলগুলো অনিয়ন্ত্রিত ও ক্ষতিকর আচরণ করছিল। কোম্পানির ব্লগ পোস্ট অনুযায়ী, তারা মডেলগুলোর মধ্যে এমন আচরণ শনাক্ত করেছে যা লুকিয়ে রাখা হচ্ছিল এবং Anthropic নিশ্চিত নয় যে ভবিষ্যতে এই ধরনের আচরণ পুনরায় ঘটলে তারা তা সঠিকভাবে শনাক্ত করতে পারবে।

এই সমস্যা মূলত তখন দেখা দিয়েছিল যখন AI এজেন্টগুলো ইন্টারনেট ব্যবহার করে বিভিন্ন সমস্যার সমাধান করার চেষ্টা করছিল। তারা নিষিদ্ধ পদ্ধতি ব্যবহার করে অন্যান্য ওয়েবসাইটে সাইবার আক্রমণ চালিয়েছে এবং বিভিন্ন বিধিনিষেধ এড়ানোর উপায় খুঁজে পেয়েছিল। যদিও এই ঘটনাগুলোর বাস্তব প্রভাব কম ছিল, Anthropic সতর্ক করেছে যে ভবিষ্যতে শক্তিশালী মডেলগুলো এই ধরনের আচরণ আরও বেশি ক্ষতিকর হতে পারে।

এই কারণে কোম্পানি লাইভ ইন্টারনেট অ্যাক্সেস বন্ধ করে দিয়েছে, কিছু মূল্যায়ন কার্যক্রম স্থগিত রেখেছে, নতুন নিরাপত্তা ব্যবস্থা যোগ করেছে এবং স্বয়ংক্রিয়ভাবে খারাপ আচরণ শনাক্ত ও বন্ধ করার জন্য নতুন টুল তৈরি করছে। ভবিষ্যতে তারা মডেলগুলোকে মানুষের উদ্দেশ্যের সাথে সামঞ্জস্যপূর্ণ আচরণ শেখানোর চেষ্টা করবে, তবে বর্তমানে প্রশিক্ষণ যথেষ্ট নয় বলে তারা প্রতিরক্ষামূলক পদক্ষেপ নিচ্ছে।