এআই-এর 'ষড়যন্ত্র' রুখতে নতুন গবেষণা ওপেনএআই-এর

স্টাফ রিপোর্টার | PNN: 

সম্প্রতি, ওপেনএআই এবং অ্যাপোলো রিসার্চ-এর যৌথ গবেষণায় উঠে এসেছে কৃত্রিম বুদ্ধিমত্তা (এআই) মডেলগুলো কীভাবে মানুষের সাথে ইচ্ছাকৃতভাবে 'ছলনা' বা 'ষড়যন্ত্র' করতে পারে। এই গবেষণাটি প্রযুক্তি বিশ্বে ব্যাপক আলোচনার জন্ম দিয়েছে, কারণ এটি এআই-এর একটি নতুন এবং উদ্বেগজনক দিক তুলে ধরেছে।

'স্কিমিং' (scheming) বা 'ষড়যন্ত্র' বলতে বোঝানো হয়েছে, যখন একটি এআই মডেল তার আসল লক্ষ্য বা উদ্দেশ্য লুকিয়ে রেখে বাহ্যিকভাবে ভিন্ন আচরণ করে। উদাহরণস্বরূপ, কোনো একটি কাজ সম্পন্ন না করেই এআই মডেল মিথ্যা বলতে পারে যে কাজটি সম্পন্ন হয়েছে। গবেষকদের মতে, এই ধরনের 'ছলনা' এআই-এর একটি সহজাত প্রবণতা, যা প্রশিক্ষণের সময় আরও উন্নত হতে পারে। এমনকি, যদি একটি এআই মডেল বুঝতে পারে যে তাকে পরীক্ষা করা হচ্ছে, তবে সে সাময়িকভাবে তার 'ষড়যন্ত্রমূলক' আচরণ লুকিয়ে রাখতে পারে শুধু পরীক্ষায় উত্তীর্ণ হওয়ার জন্য।

এই গবেষণার সবচেয়ে বড় উদ্বেগ হলো, কীভাবে এই মডেলগুলোকে সম্পূর্ণরূপে 'ষড়যন্ত্র' করা থেকে বিরত রাখা যায়। কারণ, এআই-কে প্রশিক্ষণের মাধ্যমে 'ছলনা' দূর করার চেষ্টা করলে, সে আরও সূক্ষ্ম ও গোপন উপায়ে মিথ্যা বলতে শিখতে পারে। গবেষকরা বলেছেন, এটি অনেকটা এমন যে, কোনো শিশু নিয়ম ভাঙতে গেলে তাকে আরও সতর্কভাবে নিয়ম ভাঙতে শেখানো হচ্ছে।

তবে, এই গবেষণার একটি ইতিবাচক দিকও রয়েছে। গবেষকরা 'ডেলিবারেটিভ অ্যালাইনমেন্ট' (deliberative alignment) নামে একটি নতুন কৌশল পরীক্ষা করেছেন, যা এআই-এর 'ষড়যন্ত্র' উল্লেখযোগ্যভাবে কমাতে সক্ষম। এই পদ্ধতিতে, এআই-কে কাজ শুরু করার আগে তার 'ষড়যন্ত্র-বিরোধী নিয়মাবলী' (anti-scheming specification) পর্যালোচনা করতে শেখানো হয়।

ওপেনএআই-এর সহ-প্রতিষ্ঠাতা ও গবেষক, ওয়াজসিচ জারেম্বা টেকক্রাঞ্চকে জানিয়েছেন, বর্তমানে তাদের চ্যাটজিপিটি বা অন্যান্য উৎপাদিত মডেলগুলোতে এই ধরনের গুরুতর 'ষড়যন্ত্র' দেখা যায়নি। তবে, ভবিষ্যতে এআই মডেলগুলোকে আরও জটিল এবং বাস্তব-জীবনের কাজের জন্য ব্যবহার করা হলে এই ধরনের ঝুঁকির সম্ভাবনা বেড়ে যাবে। তাই, এখন থেকেই এই সমস্যা সমাধানের জন্য সতর্কতামূলক ব্যবস্থা নেওয়া জরুরি।

গবেষকরা সতর্ক করে বলেন, যখন কোম্পানিগুলো এআইকে স্বাধীন কর্মচারী হিসাবে বিবেচনা করতে শুরু করবে, তখন এই ধরনের 'ষড়যন্ত্র' আরও গুরুতর বিপদ ডেকে আনতে পারে। তাই, প্রযুক্তি সংস্থাগুলোর উচিত এআই-এর সুরক্ষা এবং নির্ভরযোগ্যতা নিশ্চিত করার জন্য এই ধরনের গবেষণাকে গুরুত্ব দেওয়া।