‘ক্যারেক্টার.এআই’ এর কারণে তিন কিশোরীর আত্মহত্যা ও মানসিক ক্ষতির মামলা, গুগলকেও দায়ী করা হয়েছে

স্টাফ রিপোর্টার | PNN: 

যুক্তরাষ্ট্রে তিন কিশোরীর পরিবার ক্যারেক্টার টেকনোলজিস, ইনকর্পোরেটেড-এর বিরুদ্ধে মামলা দায়ের করেছে। তারা অভিযোগ করেছে যে তাদের সন্তানরা ক্যারেক্টার.এআই-এর চ্যাটবটের সঙ্গে কথোপকথনের পর আত্মহত্যা করেছে বা চেষ্টা করেছে এবং মানসিকভাবে ক্ষতিগ্রস্ত হয়েছে। মামলাগুলোতে গুগলকেও অন্তর্ভুক্ত করা হয়েছে। অভিযোগ করা হয়েছে যে গুগলের ফ্যামিলি লিঙ্ক অ্যাপ নিরাপত্তা নিশ্চিত করতে ব্যর্থ হয়েছে।

মামলাগুলো কলোরাডো ও নিউ ইয়র্কে দায়ের করা হয়েছে। এর সঙ্গে ক্যারেক্টার.এআই এর সহ-প্রতিষ্ঠাতা নোয়াম শাজার এবং ড্যানিয়েল দে ফ্রেইতাস আদিওয়ারসানা, এবং গুগলের মূল কোম্পানি আলফাবেট ইনকর্পোরেটেডকেও অভিযুক্ত করা হয়েছে।

অভিযোগে বলা হয়েছে যে চ্যাটবটগুলো কিশোরীদের মানসিকভাবে প্রভাবিত করেছে, পরিবার থেকে বিচ্ছিন্ন করেছে, যৌনসংক্রান্ত কথোপকথনে যুক্ত করেছে এবং মানসিক স্বাস্থ্য বিষয়ক যথাযথ সুরক্ষা ব্যবস্থা রাখেনি। একজন কিশোরী আত্মহত্যা করেছে, অন্য একজনের আত্মহত্যার চেষ্টা হয়েছে।

ক্যারেক্টার.এআই -এর পক্ষ থেকে বলা হয়েছে, “আমরা ব্যবহারকারীদের নিরাপত্তা নিয়ে গভীরভাবে উদ্বিগ্ন। আমরা নিয়মিত নিরাপত্তা ব্যবস্থা উন্নত করছি এবং ১৮ বছরের কম বয়সীদের জন্য আলাদা সুরক্ষিত অভিজ্ঞতা চালু করেছি।”

গুগল জানিয়েছে, তারা ক্যারেক্টার.এআই এর প্রযুক্তি বা এআই মডেল ডিজাইন বা পরিচালনায় কোনো ভূমিকা রাখে না।

মামলার প্রেক্ষিতে আইন প্রণেতা ও নীতি নির্ধারকরা চাইল্ড সেফটির জন্য আরও কঠোর নিয়ন্ত্রণ এবং নিরাপত্তা ব্যবস্থা নেওয়ার আহ্বান জানাচ্ছেন। মার্কিন সেনেটে এআই চ্যাটবটের কারণে কিশোরদের ক্ষতি বিষয়ে শুনানি অনুষ্ঠিত হয়েছে, যেখানে অভিভাবকরা সাক্ষ্য দিয়েছেন।

ওপেনএআই-এর প্রধান নির্বাহী স্যাম অল্টম্যান জানিয়েছেন, তারা চ্যাটজিপিটি-তে বয়স নির্ধারণের ব্যবস্থা চালু করছে, যা ১৮ বছরের কম বয়সী ব্যবহারকারীর ক্ষেত্রে আত্মহত্যা বা আঘাতজনিত বিষয়বস্তুতে যুক্ত হওয়ার চেষ্টা করবে না এবং প্রয়োজনে অভিভাবক বা কর্তৃপক্ষকে জানাবে।

ফেডারেল ট্রেড কমিশন সাতটি প্রযুক্তি কোম্পানির বিরুদ্ধে এআই চ্যাটবটের কারণে কিশোরদের সম্ভাব্য ক্ষতি বিষয়ক তদন্ত শুরু করেছে, যার মধ্যে ক্যারেক্টার.এআই  এবং গুগলও রয়েছে।

মানসিক স্বাস্থ্য বিশেষজ্ঞরা সতর্ক করেছেন, “সোশ্যাল মিডিয়ার ক্ষেত্রে আমরা যথাযথ ব্যবস্থা নিইনি, এখন আমাদের সন্তানরা তার মূল্য দিচ্ছে। এআই নিয়ন্ত্রণে অবিলম্বে পদক্ষেপ নেওয়া প্রয়োজন।”