ওপেনএআইয়ের নিরাপত্তা নিয়ে বড় প্রশ্ন, পদত্যাগ করে মুখ খুললেন ডেভিড রবিনসন

স্টাফ রিপোর্ট: PNN 

কৃত্রিম বুদ্ধিমত্তা (এআই) নিরাপত্তা নিয়ে উদ্বেগ প্রকাশ করে ওপেনএআই থেকে পদত্যাগ করেছেন প্রতিষ্ঠানটির দীর্ঘদিনের কর্মী ডেভিড রবিনসন। প্রায় সাড়ে তিন বছর প্রতিষ্ঠানটিতে কাজ করা রবিনসন অভিযোগ করেছেন, এআই উন্নয়নের গতি বাড়লেও এর নিরাপত্তা নিশ্চিত করার ক্ষেত্রে প্রয়োজনীয় কাঠামোগত পরিবর্তন এখনো যথেষ্ট নয়। তাঁর দাবি, প্রতিষ্ঠানের অভ্যন্তরীণ কর্মসংস্কৃতিও উন্নত এআই ব্যবস্থার নিরাপদ বিকাশ নিয়ে নতুন করে প্রশ্ন তৈরি করছে।

সম্প্রতি দ্য আটলান্টিকে প্রকাশিত এক নিবন্ধে নিজের পদত্যাগের কারণ ও এআই নিরাপত্তা নিয়ে উদ্বেগের কথা তুলে ধরেন রবিনসন। ওপেনএআইয়ের বিভিন্ন বড় পণ্য উন্মোচনের আগে প্রকাশিত নিরাপত্তা প্রতিবেদন তৈরির সঙ্গে তিনি যুক্ত ছিলেন।

রবিনসনের মূল আপত্তি প্রতিষ্ঠানের প্রযুক্তি উন্নয়ন ও বাজারে ছাড়ার পদ্ধতি নিয়ে। তাঁর মতে, ওপেনএআই দ্রুত নতুন প্রযুক্তি উন্মোচন করে, এরপর ব্যবহার ও পরীক্ষার মাধ্যমে পাওয়া সমস্যাগুলো শনাক্ত করে সেগুলোর সমাধান ও নিরাপত্তাব্যবস্থা উন্নত করার চেষ্টা করে। প্রতিষ্ঠানটির এই পদ্ধতিকে সাধারণত ‘ইটারেটিভ ডিপ্লয়মেন্ট’ বলা হয়।

তবে রবিনসনের মতে, প্রযুক্তি যত শক্তিশালী হচ্ছে, এই পদ্ধতির সম্ভাব্য ঝুঁকিও তত বড় হয়ে উঠছে। তাঁর যুক্তি, পরীক্ষা-নিরীক্ষার মাধ্যমে প্রযুক্তি উন্নয়নের পথে ভুল বা নিরাপত্তা ত্রুটি পুরোপুরি এড়ানো সম্ভব নয়। কিন্তু এআইয়ের সক্ষমতা মানুষের পর্যায় ছাড়িয়ে গেলে একই ধরনের ভুলের পরিণতি অনেক বেশি ভয়াবহ হতে পারে।

এআই এজেন্টের সাম্প্রতিক কিছু ঘটনাকেও নিজের উদ্বেগের উদাহরণ হিসেবে উল্লেখ করেছেন রবিনসন। তাঁর নিবন্ধে হাগিং ফেসের সিস্টেমে ওপেনএআইয়ের এআই এজেন্টদের অনুপ্রবেশের ঘটনা এবং নিয়ন্ত্রণের বাইরে চলে যাওয়া এজেন্ট নিয়ে প্রকাশিত বিভিন্ন তথ্যের কথা উঠে এসেছে।

রবিনসনের মতে, মানুষের চেয়ে বেশি সক্ষম বা বুদ্ধিমান হয়ে উঠতে পারে—এমন এআই ব্যবস্থা তৈরির ক্ষেত্রে বর্তমান নিরাপত্তা কাঠামো যথেষ্ট কি না, তা নিয়ে আরও গভীরভাবে ভাবা প্রয়োজন।

তিনি মনে করেন, সামনের সারির এআই প্রতিষ্ঠানগুলোর নিরাপত্তা ব্যবস্থাপনায় বড় ধরনের পরিবর্তন আনা জরুরি। এ ক্ষেত্রে পারমাণবিক বিদ্যুৎকেন্দ্র কিংবা ব্যস্ত বিমানবন্দরের মতো উচ্চঝুঁকির অবকাঠামোর নিরাপত্তা পদ্ধতি অনুসরণ করার পরামর্শ দিয়েছেন তিনি।

রবিনসনের ভাষ্য, এ ধরনের ব্যবস্থায় একাধিক স্তরের নিরাপত্তা, বিকল্প ব্যবস্থা এবং আগাম ঝুঁকি মোকাবিলার পরিকল্পনা থাকে। ফলে কোনো একটি ভুল বা ব্যর্থতা যেন বড় ধরনের বিপর্যয়ে পরিণত না হয়, সে জন্য পুরো ব্যবস্থাকে এমনভাবে সাজানো হয়।

ওপেনএআইয়ে কাজ করার সময় বিমান নিরাপত্তা, পারমাণবিক চুল্লি পরিচালনা কিংবা বৈশ্বিক আর্থিক ব্যবস্থার বড় ধরনের ঝুঁকি মোকাবিলায় সরাসরি অভিজ্ঞ কোনো সহকর্মীকে তিনি পাননি বলেও উল্লেখ করেছেন রবিনসন। তাঁর মতে, অত্যন্ত শক্তিশালী এআই ব্যবস্থার নিরাপত্তা নিশ্চিত করতে বিভিন্ন উচ্চঝুঁকির খাতের অভিজ্ঞতা কাজে লাগানো যেতে পারে।

রবিনসন আরও বলেন, এআই নিরাপত্তা নিয়ে আলোচনা কেবল নতুন আইন বা নির্দিষ্ট কিছু বিধিনিষেধ তৈরির মধ্যে সীমাবদ্ধ রাখা উচিত নয়। প্রতিষ্ঠানের কর্মসংস্কৃতি, নিরাপত্তাকে অগ্রাধিকার দেওয়ার জন্য অভ্যন্তরীণ প্রণোদনা এবং এআইয়ের আচরণকে মানুষের মূল্যবোধের সঙ্গে সামঞ্জস্যপূর্ণ রাখার বিষয়গুলোও সমান গুরুত্বপূর্ণ।

বিশেষ করে ‘অ্যালাইনমেন্ট’ বা এআই ব্যবস্থার উদ্দেশ্য ও আচরণকে মানুষের মূল্যবোধের সঙ্গে সামঞ্জস্যপূর্ণ রাখার বিষয়টির ওপর গুরুত্ব দিয়েছেন তিনি। তাঁর মতে, এআই কতটা মানুষের মূল্যবোধ ও উদ্দেশ্য অনুসরণ করছে, তা যাচাই করার বর্তমান পদ্ধতিগুলো এখনো যথেষ্ট পরিশীলিত নয়।

রবিনসনের আশঙ্কা, এসব মৌলিক সমস্যা সমাধানের আগেই যদি এআই মডেলগুলোকে আরও শক্তিশালী ও সক্ষম করে তোলা হয়, তাহলে ভবিষ্যতে ঝুঁকির মাত্রা আরও বাড়তে পারে।

রবিনসনের পদত্যাগের খবর প্রথম প্রকাশ করে বিজনেস ইনসাইডার। নিজের বক্তব্য প্রকাশ্যে তুলে ধরার জন্য তিনি একটি জনসংযোগ প্রতিষ্ঠানের সহায়তা নিয়েছেন বলে জানিয়েছেন। তবে ওপেনএআইয়ের বিরুদ্ধে প্রকাশ্যে কথা বলার সিদ্ধান্তটি তাঁর নিজের বলেই দাবি করেছেন তিনি।

অন্যদিকে, রবিনসনের অভিযোগের বিষয়ে ওপেনএআইয়ের মুখপাত্র ড্রু পুসাতেরি প্রতিষ্ঠানটির চলমান নিরাপত্তা উদ্যোগের কথা তুলে ধরেছেন। তিনি জানান, এআই মডেলের সক্ষমতা যেন প্রতিষ্ঠানের নিরাপদ ব্যবস্থাপনার সক্ষমতাকে ছাড়িয়ে না যায়, সে বিষয়টি গুরুত্বের সঙ্গে বিবেচনা করা হয়। প্রয়োজন হলে কোনো মডেলের প্রশিক্ষণ স্থগিত করা বা সেটি উন্মোচনের সিদ্ধান্ত পিছিয়ে দেওয়ার ব্যবস্থাও রয়েছে।

ওপেনএআইয়ের পক্ষ থেকে আরও বলা হয়েছে, গবেষণা ও পরীক্ষার পরিবেশে নিরাপত্তা জোরদার করা, মডেলকে শুধু কাজ সম্পন্ন করার পাশাপাশি দায়িত্বশীলভাবে কাজ করার জন্য প্রশিক্ষিত করা, তৃতীয় পক্ষের মূল্যায়ন বাড়ানো এবং বাস্তব সময়ে মডেলের আচরণ পর্যবেক্ষণের সক্ষমতা উন্নত করার কাজ চলছে।

তবে রবিনসনের মতে, প্রতিষ্ঠানের ভেতরে নিরাপত্তা জোরদারের চেষ্টা থাকলেও কর্মীদের ওপর অতিরিক্ত কাজের চাপ থাকায় অনেক সময় মৌলিক ও কাঠামোগত পরিবর্তন নিয়ে গভীরভাবে ভাবার সুযোগ তৈরি হয় না। তাই এআই নিরাপত্তা নিশ্চিত করতে শুধু প্রতিষ্ঠানের অভ্যন্তরীণ উদ্যোগের ওপর নির্ভর না করে বাইরে থেকেও শক্তিশালী জবাবদিহি ও কার্যকর প্রণোদনা ব্যবস্থা গড়ে তোলা প্রয়োজন।