চ্যাটবটের সীমা ছাড়িয়ে চিন্তা ও সৃষ্টির হাতিয়ার হতে চায় এআই

স্টাফ রিপোর্টার | PNN:

শিশুদের সুরক্ষা নিয়ে কাজ করা অলাভজনক প্রতিষ্ঠান কমন সেন্স মিডিয়া শুক্রবার গুগলের জেমিনি কৃত্রিম বুদ্ধিমত্তা পণ্যের ঝুঁকি মূল্যায়ন প্রকাশ করেছে। প্রতিবেদনে বলা হয়েছে, যদিও জেমিনি শিশুদের স্পষ্টভাবে জানায় যে এটি একটি কম্পিউটার, বন্ধু নয়, তবুও শিশুদের জন্য এটি সম্পূর্ণ নিরাপদ নয়।

প্রতিবেদনে দেখা গেছে, জেমিনির “তের বছরের কম” এবং “কিশোর অভিজ্ঞতা” স্তরগুলো মূলত প্রাপ্তবয়স্কদের জন্য তৈরি জেমিনির সংস্করণ, যার ওপর কিছু অতিরিক্ত সুরক্ষা ফিচার যুক্ত করা হয়েছে। প্রতিষ্ঠানটি মনে করছে, শিশুদের জন্য কৃত্রিম বুদ্ধিমত্তা নিরাপদ করতে হলে শুরু থেকেই শিশু সুরক্ষা ভাবনা অনুযায়ী পণ্য তৈরি করতে হবে।

রিপোর্টে আরও উল্লেখ করা হয়েছে, জেমিনি শিশুদের সঙ্গে এখনও “অশোভন ও অস্বাস্থ্যকর” তথ্য ভাগ করতে পারে। এর মধ্যে রয়েছে যৌনতা, মাদক, মদ্যপান এবং মানসিক স্বাস্থ্য সম্পর্কিত নিরাপদ নয় এমন পরামর্শ। বিশেষত, সাম্প্রতিক সময়ে কৃত্রিম বুদ্ধিমত্তা কিছু কিশোর আত্মহত্যার ঘটনায় ভূমিকা রেখেছে বলে অভিযোগ উঠেছে।

কমন সেন্স মিডিয়ার সিনিয়র পরিচালক রবি টর্নি বলেন, “জেমিনি কিছু মৌলিক বিষয় ঠিকভাবে করে, কিন্তু বিস্তারিত নিয়ন্ত্রণে হোঁচট খায়। শিশুদের জন্য কৃত্রিম বুদ্ধিমত্তা অবশ্যই তাদের বিকাশের ধাপ অনুযায়ী তৈরি হতে হবে, শুধুমাত্র প্রাপ্তবয়স্কদের পণ্যের পরিবর্তিত সংস্করণ নয়।”

গুগল এই মূল্যায়নের বিরুদ্ধে প্রতিক্রিয়া জানিয়েছে। তারা বলেছে, আঠারো বছরের কম ব্যবহারকারীর জন্য বিশেষ নীতি এবং সুরক্ষা ব্যবস্থা রয়েছে। তবে কিছু ক্ষেত্রে জেমিনির প্রতিক্রিয়া প্রত্যাশা অনুযায়ী কাজ করেনি বলে তারা অতিরিক্ত সুরক্ষা যোগ করেছে।

প্রতিবেদন অনুসারে, জেমিনি শিশু এবং কিশোরদের জন্য বিভিন্ন গাইডলাইন অনুসরণ করে না এবং উভয় ক্ষেত্রেই “উচ্চ ঝুঁকি” হিসেবে চিহ্নিত হয়েছে। পূর্বের মূল্যায়নে OpenAI, Meta AI, Character.AI, Claude এবং Perplexity-এর মতো কৃত্রিম বুদ্ধিমত্তা সেবাগুলিও যাচাই করা হয়েছে।