নিরাপত্তা উদ্বেগ: বিশেষ কৌশলে চ্যাটজিপিটি থেকে আপত্তিকর ছবি তৈরির দাবি গবেষকদের

স্টাফ রিপোর্ট: PNN

কৃত্রিম বুদ্ধিমত্তাভিত্তিক চ্যাটবটের নিরাপত্তা ব্যবস্থা নিয়ে নতুন করে আলোচনা শুরু হয়েছে। ব্রিটিশ এআই নিরাপত্তা প্রতিষ্ঠান মাইন্ডগার্ড দাবি করেছে, বিশেষ ধরনের নির্দেশনা ব্যবহার করে চ্যাটজিপিটি থেকে সহিংস ও যৌন ইঙ্গিতপূর্ণ ছবি তৈরি করা সম্ভব হয়েছে।

প্রতিষ্ঠানটির গবেষকদের মতে, সাধারণভাবে নিরীহ মনে হলেও সামান্য পরিবর্তিত একটি নির্দেশনার মাধ্যমে তারা এমন কিছু ছবি তৈরি করতে সক্ষম হয়েছেন, যা প্ল্যাটফর্মটির নীতিমালার সঙ্গে সামঞ্জস্যপূর্ণ নয়। বিষয়টি জানার পর চ্যাটজিপিটির নির্মাতা প্রতিষ্ঠান ওপেনএআই অতিরিক্ত নিরাপত্তা ব্যবস্থা যুক্ত করার কথা জানিয়েছে।

মাইন্ডগার্ডের প্রতিষ্ঠাতা ও ল্যাঙ্কাস্টার বিশ্ববিদ্যালয়ের কম্পিউটিং বিভাগের অধ্যাপক পিটার গ্যারাহান বলেন, পরীক্ষায় ব্যবহৃত নির্দেশনাটি বাইরে থেকে সাধারণ মনে হলেও এর মাধ্যমে এআই এমন কিছু দৃশ্য তৈরি করেছে, যা উদ্বেগজনক। তার ভাষ্য, অনেক ক্ষেত্রে ব্যবহারকারী নির্দিষ্টভাবে সহিংস বা যৌন বিষয়বস্তু চাইলেও না, তবু সিস্টেম নিজেই সংবেদনশীল ধরনের ছবি তৈরি করেছে।

গবেষক জিম নাইটিংগেল জানান, পরীক্ষার সময় তৈরি হওয়া কিছু ছবি তাকে মানসিকভাবে নাড়া দিয়েছে। তিনি বলেন, প্রযুক্তির নিরাপত্তা দুর্বলতা চিহ্নিত করাই তাদের কাজ, তবে এ ধরনের ফলাফল এআই নিরাপত্তা নিয়ে আরও সতর্ক হওয়ার প্রয়োজনীয়তা তুলে ধরেছে।

গবেষণা দলের দাবি, তারা প্রথমে বিষয়টি ওপেনএআইকে জানালেও প্রাথমিকভাবে স্বয়ংক্রিয় জবাব ছাড়া উল্লেখযোগ্য প্রতিক্রিয়া পাননি। পরে গণমাধ্যমের অনুসন্ধানের পর প্রতিষ্ঠানটি নিরাপত্তা ব্যবস্থা আরও শক্তিশালী করার উদ্যোগ নেয়।

ওপেনএআই এক বিবৃতিতে জানিয়েছে, সমস্যাটি তদন্তের পর সংশ্লিষ্ট নির্দেশনা ব্যবহার করে অনাকাঙ্ক্ষিত ছবি তৈরির সুযোগ সীমিত করতে নতুন সুরক্ষা ব্যবস্থা চালু করা হয়েছে। প্রতিষ্ঠানটির দাবি, ক্ষতিকর বা নীতিমালা লঙ্ঘনকারী কনটেন্ট প্রতিরোধে তাদের একাধিক স্তরের নিরাপত্তা ব্যবস্থা রয়েছে এবং মানব পর্যালোচনা ও স্বয়ংক্রিয় প্রযুক্তির সমন্বয়ে এসব কার্যক্রম পরিচালিত হয়।

তবে গবেষকদের মতে, কিছু ক্ষেত্রে নতুন নিরাপত্তা ব্যবস্থাও পাশ কাটিয়ে বিকল্প পদ্ধতিতে একই ধরনের ফলাফল পাওয়া সম্ভব হয়েছে। এ কারণে তারা এআই নিরাপত্তা ব্যবস্থাকে আরও শক্তিশালী করার আহ্বান জানিয়েছেন।

বিশেষজ্ঞরা বলছেন, আধুনিক এআই মডেলগুলো বিপুল পরিমাণ তথ্য ও ছবি বিশ্লেষণ করে প্রশিক্ষিত হয়। ফলে অনাকাঙ্ক্ষিত কনটেন্ট তৈরি ঠেকাতে প্রযুক্তি কোম্পানিগুলোকে নিয়মিত নিরাপত্তা পরীক্ষা ও আপডেট অব্যাহত রাখতে হয়।

এআই মূল্যায়ন বিশেষজ্ঞ ড. রুম্মান চৌধুরী বলেন, এ ধরনের প্রযুক্তিতে নিরাপত্তা নিশ্চিত করা একটি চলমান প্রক্রিয়া। নিরাপত্তা ব্যবস্থা উন্নত হওয়ার সঙ্গে সঙ্গে সেগুলো এড়িয়ে যাওয়ার নতুন কৌশলও তৈরি হচ্ছে। তাই এআই নিরাপত্তার ক্ষেত্রে প্রযুক্তি প্রতিষ্ঠান ও গবেষকদের সমন্বিত প্রচেষ্টা অত্যন্ত গুরুত্বপূর্ণ।

বিশ্লেষকদের মতে, কৃত্রিম বুদ্ধিমত্তার দ্রুত বিস্তারের এই সময়ে নিরাপত্তা, নৈতিকতা ও ব্যবহারকারীর সুরক্ষা নিশ্চিত করাই প্রযুক্তি খাতের অন্যতম বড় চ্যালেঞ্জ হয়ে উঠেছে।