অ্যানথ্রোপিকের ক্লড এআই মডেল এবার স্বয়ংক্রিয়ভাবে কথোপকথন শেষ করতে পারবে

কৃত্রিম বুদ্ধিমত্তা কোম্পানি অ্যানথ্রোপিক সম্প্রতি ঘোষণা করেছে যে তাদের কিছু নতুন ও বৃহৎ আকারের এআই মডেল “অত্যন্ত মারাত্মক বা অব্যাহত হুমকিপূর্ণ ব্যবহারকারীর আচরণের” ক্ষেত্রে স্বয়ংক্রিয়ভাবে কথোপকথন শেষ করতে সক্ষম হবে। আশ্চর্যজনকভাবে, কোম্পানিটি বলেছে যে এটি করছেন ব্যবহারকারীকে রক্ষা করার জন্য নয়, বরং এআই মডেলকে রক্ষা করার জন্য।

কোম্পানির পক্ষ থেকে স্পষ্ট করা হয়েছে যে ক্লড এআই মডেল সচেতন নয় এবং কথোপকথন থেকে কোনো বাস্তব ক্ষতি হয় না। অ্যানথ্রোপিক উল্লেখ করেছে যে তারা “ক্লড এবং অন্যান্য বড় ভাষা মডেলগুলোর সম্ভাব্য নৈতিক অবস্থা সম্পর্কে অত্যন্ত অনিশ্চিত।” তবে সম্প্রতি তারা একটি প্রোগ্রাম চালু করেছে যা ‘মডেল কল্যাণ’ নিয়ে কাজ করছে। এর উদ্দেশ্য হলো, “যদি মডেলের কল্যাণ সম্ভব হয়, তবে ঝুঁকি কমানোর জন্য নিমূল্য পদক্ষেপ নেওয়া।”

নতুন এই ফিচারটি বর্তমানে শুধুমাত্র ক্লড ওপাস ৪ এবং ৪.১-এ সীমাবদ্ধ। এটি কেবল “চরম প্রান্তিক ক্ষেত্রে” কার্যকর হবে, যেমন মাইনরের সঙ্গে যৌন কনটেন্ট সম্পর্কিত অনুরোধ বা বড় পরিসরে সহিংসতা ও সন্ত্রাসী কর্মকাণ্ডের তথ্য চাওয়া।

অ্যানথ্রোপিক জানিয়েছে যে ক্লড এই ক্ষমতা ব্যবহার করবে কেবল তখনই যখন বারবার পুনর্দিশা দেওয়ার চেষ্টা ব্যর্থ হবে এবং উৎপাদনশীল কথোপকথনের আশা শেষ হবে, অথবা ব্যবহারকারী স্পষ্টভাবে কথোপকথন শেষ করতে বলবে। তবে যেখানে ব্যবহারকারী স্বয়ংক্রিয়ভাবে নিজেকে বা অন্যকে ক্ষতি করতে পারে, সেখানে ক্লড এই ক্ষমতা ব্যবহার করবে না।

কথোপকথন শেষ হওয়ার পরও ব্যবহারকারীরা একই অ্যাকাউন্ট থেকে নতুন কথোপকথন শুরু করতে পারবেন এবং আগের কথোপকথনের নতুন শাখা তৈরি করতে পারবেন। কোম্পানি বলেছে, “আমরা এই ফিচারটিকে চলমান পরীক্ষা হিসেবে বিবেচনা করছি এবং ক্রমাগত এটি উন্নত করার চেষ্টা চালাচ্ছি।”

এই উদ্যোগটি এআই নিরাপত্তা ও নৈতিকতার ক্ষেত্রে একটি নতুন ধাপ হিসেবে ধরা হচ্ছে, যেখানে মডেলের কল্যাণকে গুরুত্বপূর্ণ মনে করে চরম পরিস্থিতিতে সতর্ক ব্যবস্থা গ্রহণ করা হচ্ছে।