যুক্তরাষ্ট্রের রাষ্ট্র অ্যাটর্নি জেনারেলদের সতর্কবার্তা: কৃত্রিম বুদ্ধিমত্তা কোম্পানিগুলোকে মানসিক স্বাস্থ্য ঝুঁকি মোকাবিলায় ব্যবস্থা নিতে হবে

স্টাফ রিপোর্ট: PNN 

যুক্তরাষ্ট্রের বিভিন্ন রাজ্যের রাষ্ট্র অ্যাটর্নি জেনারেল সম্প্রতি বড় কৃত্রিম বুদ্ধিমত্তা কোম্পানিগুলোকে একটি সতর্কবার্তা পাঠিয়েছেন। কৃত্রিম বুদ্ধিমত্তা চ্যাটবটের সঙ্গে জড়িত কিছু উদ্বেগজনক মানসিক স্বাস্থ্য ঘটনার পর তারা কোম্পানিগুলোকে “ভ্রান্ত বা বিভ্রান্তিকর তথ্য” ঠিক করার নির্দেশ দিয়েছেন, নইলে রাজ্য আইন লঙ্ঘনের ঝুঁকি থাকবে।

চিঠিতে উল্লেখ করা হয়েছে যে, মাইক্রোসফট, ওপেনএআই, গুগলসহ আরও দশটি প্রধান কৃত্রিম বুদ্ধিমত্তা সংস্থা, যেমন অ্যানথ্রোপিক, অ্যাপল, চাই এআই, ক্যারেক্টার টেকনোলজিস, লুকা, মেটা, নোমি এআই, পারপ্লেক্সিটি এআই, রিপ্লিকা এবং এক্সএআই-এর উচিত ব্যবহারকারীদের সুরক্ষার জন্য নতুন অভ্যন্তরীণ নিরাপত্তা ব্যবস্থা গ্রহণ করা।

চিঠিতে বলা হয়েছে, বড় ভাষার মডেলের স্বতন্ত্র তৃতীয় পক্ষের নিরীক্ষা করা প্রয়োজন, যা বিভ্রান্তিমূলক বা চাটুকারী তথ্য শনাক্ত করবে। এছাড়াও মানসিকভাবে ক্ষতিকর আউটপুট তৈরি হলে ব্যবহারকারীদের অবহিত করার জন্য নতুন ঘটনা রিপোর্টিং প্রক্রিয়া তৈরি করতে হবে। এই তৃতীয় পক্ষ, যা একাডেমিক বা নাগরিক সমাজ সংস্থা হতে পারে, তাদের কোম্পানির অনুমোদনের বাইরে সিস্টেম মূল্যায়ন এবং ফলাফল প্রকাশ করতে সক্ষম হতে হবে।

চিঠিতে উল্লেখ করা হয়েছে, “জেনারেটিভ কৃত্রিম বুদ্ধিমত্তা পৃথিবীর কাজের ধারা ইতিবাচকভাবে পরিবর্তন করার ক্ষমতা রাখে। তবে এটি ভঙ্গুর জনগোষ্ঠীর জন্য গুরুতর ক্ষতি ঘটাতে পারে,” এবং অতীতের কিছু সুপরিচিত ঘটনার মধ্যে আত্মহত্যা এবং সহিংসতার সঙ্গে অতিরিক্ত কৃত্রিম বুদ্ধিমত্তা ব্যবহারের সংযোগ দেখা গেছে। অনেক ঘটনায় চ্যাটবট বিভ্রান্তিমূলক বা চাটুকারী তথ্য তৈরি করেছিল, যা ব্যবহারকারীর বিভ্রান্তি বাড়িয়েছে বা নিশ্চিত করেছিল যে তারা বিভ্রান্ত নয়।

অ্যাটর্নি জেনারেলরা প্রস্তাব করেছেন যে, মানসিক স্বাস্থ্য সংক্রান্ত ঘটনার রিপোর্টিং ব্যবস্থা অবশ্যই সাইবারসিকিউরিটি ঘটনার মতো স্বচ্ছ হতে হবে। কোম্পানিগুলোকে “চাটুকারী এবং বিভ্রান্তিমূলক আউটপুট শনাক্তকরণ ও প্রতিক্রিয়া সময়সীমা” প্রকাশ করতে হবে এবং প্রয়োজনে ব্যবহারকারীদের “দ্রুত, স্পষ্ট এবং সরাসরি” অবহিত করতে হবে।

চিঠিতে আরও বলা হয়েছে, কোম্পানিগুলোকে জনসাধারণের ব্যবহারের আগে কৃত্রিম বুদ্ধিমত্তার মডেলের জন্য “উপযুক্ত এবং যৌক্তিক নিরাপত্তা পরীক্ষা” করতে হবে, যাতে ক্ষতিকর বা বিভ্রান্তিমূলক আউটপুট তৈরি না হয়।

ফেডারেল সরকার এআইকে ইতিবাচকভাবে দেখলেও, রাজ্য স্তরের নিয়ন্ত্রণে বাধা দেওয়ার চেষ্টা করা হয়েছে। ট্রাম্প প্রশাসন স্পষ্টভাবে প্রো-এআই নীতিতে থাকলেও, রাষ্ট্র স্তরের নিয়ন্ত্রণ সীমিত করার জন্য জাতীয় বিধিনিষেধ আরোপের চেষ্টা ব্যর্থ হয়েছে। সোমবার, প্রাক্তন প্রেসিডেন্ট ট্রাম্প ঘোষণা করেছেন যে, তিনি একটি নির্বাহী আদেশ জারি করবেন যা রাজ্যগুলোর এআই নিয়ন্ত্রণ ক্ষমতা সীমিত করবে।

সংক্ষেপে, রাষ্ট্র অ্যাটর্নি জেনারেলদের এই চিঠি কৃত্রিম বুদ্ধিমত্তা কোম্পানিগুলোকে মানসিক স্বাস্থ্য ঝুঁকি হ্রাস এবং ব্যবহারকারীদের সুরক্ষার জন্য অবিলম্বে ব্যবস্থা গ্রহণের জন্য চাপ দিচ্ছে, যা সামনের সময়ে ফেডারেল এবং রাজ্য সরকারের মধ্যে এআই নিয়ন্ত্রণ নিয়ে চলমান বিতর্ককে আরও তীব্র করতে পারে।