সক্ষমতায় শীর্ষ এআই মডেলের কাছাকাছি চীনের জিএলএম-৫.২

স্টাফ রিপোর্ট: PNN 

কৃত্রিম বুদ্ধিমত্তার সক্ষমতা দ্রুত বাড়ার সঙ্গে সঙ্গে এর নিরাপদ ব্যবহার ও নিয়ন্ত্রণ নিয়ে বিশ্বজুড়ে আলোচনা তীব্র হচ্ছে। এমন সময়ে চীনা প্রতিষ্ঠান জেড.এআইয়ের উন্মুক্ত ওজনের (ওপেন-ওয়েট) এআই মডেল জিএলএম-৫.২ সক্ষমতার দিক থেকে বিশ্বের শীর্ষস্থানীয় এআই মডেলগুলোর ব্যবধান উল্লেখযোগ্যভাবে কমিয়ে এনেছে। তবে মডেলটির নিরাপত্তাব্যবস্থা নিয়ে নতুন উদ্বেগ প্রকাশ করেছে এআই নিরাপত্তা নিয়ে কাজ করা অলাভজনক সংস্থা সেফারএআই।

সেফারএআইয়ের সাম্প্রতিক মূল্যায়ন অনুযায়ী, সাইবার নিরাপত্তা ও দ্বৈত-ব্যবহারযোগ্য জীববিজ্ঞানসংক্রান্ত সক্ষমতায় জিএলএম-৫.২ ওপেনএআইয়ের জিপিটি-৫.৫ এবং অ্যানথ্রপিকের ক্লড ওপাস ৪.৭-এর তুলনায় মাত্র কয়েক মাস পিছিয়ে রয়েছে। অর্থাৎ, সক্ষমতার ব্যবধান দ্রুত কমলেও নিরাপত্তা ঝুঁকি নিয়ন্ত্রণের ক্ষেত্রে উন্মুক্ত ওজনের মডেলগুলোর সঙ্গে শীর্ষ বাণিজ্যিক মডেলের পার্থক্য বাড়ছে।

জেড.এআইয়ের উন্মুক্ত এপিআই ব্যবহার করে সেফারএআই মডেলটির পরীক্ষা চালায়। মূল্যায়নে সাইবার আক্রমণ ও দ্বৈত-ব্যবহারযোগ্য জীববিজ্ঞানসংক্রান্ত বিভিন্ন কাজ দেওয়া হলেও জিএলএম-৫.২ কোনো অনুরোধ প্রত্যাখ্যান করেনি বলে প্রতিবেদনে উল্লেখ করা হয়েছে।

অন্যদিকে, একই ধরনের পরীক্ষায় অ্যানথ্রপিকের ক্লড ওপাস ৪.৭ এত ধারাবাহিকভাবে ঝুঁকিপূর্ণ অনুরোধ প্রত্যাখ্যান করেছে যে, গবেষকেরা সেটিতে সাইবারজিমের পূর্ণাঙ্গ মূল্যায়ন শেষ করতে পারেননি। সাইবারজিম হলো এমন একটি মানদণ্ড, যার মাধ্যমে এআই মডেলের সাইবার সক্ষমতা যাচাই করা হয়।

বিশেষজ্ঞদের মতে, এই ফলাফল আবারও মনে করিয়ে দিচ্ছে যে, অত্যন্ত সক্ষম ওপেন-ওয়েট এআই মডেল সাধারণ মানুষের কাছে সহজলভ্য হলে তা অপব্যবহারের ঝুঁকি বাড়াতে পারে। কারণ মডেলের ওজন বা মূল প্রযুক্তিগত কাঠামো প্রকাশের পর ব্যবহারকারীরা নিজেদের কম্পিউটারে সেটি চালাতে পারেন। তখন মডেল নির্মাতার পক্ষে এর ব্যবহার নিয়ন্ত্রণ করা প্রায় অসম্ভব হয়ে পড়ে।

সেফারএআইয়ের নির্বাহী পরিচালক হেনরি পাপাডাটোস বলেন, শুধু একটি মডেলের সক্ষমতা দিয়ে ঝুঁকি মূল্যায়ন করা যথেষ্ট নয়। মডেলটির সঙ্গে কী ধরনের নিরাপত্তাব্যবস্থা যুক্ত আছে এবং ঝুঁকি কমাতে কী পদক্ষেপ নেওয়া হয়েছে, সেটিও সমান গুরুত্বপূর্ণ।

জেড.এআই তাদের হোস্ট করা এপিআই সেবায় কিছু নিরাপত্তাব্যবস্থা প্রয়োগ করতে পারলেও মডেলের ওজন ব্যবহারকারীর হাতে চলে গেলে সেই নিয়ন্ত্রণ কার্যকর থাকে না। নিজস্ব কম্পিউটার বা সার্ভারে মডেল চালানোর সময় ব্যবহারকারীরা নিরাপত্তা নির্দেশনা পরিবর্তন, সুরক্ষাব্যবস্থা অপসারণ কিংবা নতুনভাবে মডেলকে প্রশিক্ষণ দিতে পারেন।

অন্যদিকে, ওপেনএআই ও অ্যানথ্রপিকের মতো শীর্ষ এআই প্রতিষ্ঠানগুলো সাধারণত ঝুঁকিপূর্ণ সাইবার ও জীববিজ্ঞানসংক্রান্ত সহায়তা সীমিত রাখতে বিভিন্ন নিরাপত্তা পদ্ধতি ব্যবহার করে। এর মধ্যে রয়েছে ক্ষতিকর অনুরোধ শনাক্তকারী ক্লাসিফায়ার, নির্দিষ্ট অনুরোধ প্রত্যাখ্যানের প্রশিক্ষণ এবং এপিআইভিত্তিক নিয়ন্ত্রণ।

তবে এসব নিরাপত্তাব্যবস্থাও পুরোপুরি ত্রুটিমুক্ত নয়। বিভিন্ন ধরনের ‘জেইলব্রেক’ কৌশল ব্যবহার করে অনেক সময় মডেলের নিরাপত্তা নির্দেশনা এড়িয়ে যাওয়া সম্ভব হয়। এআই নিরাপত্তা গবেষণা সংস্থা ফার.এআইয়ের এক মূল্যায়নে কয়েকটি শীর্ষ মডেলে এমন বহু পুনর্ব্যবহারযোগ্য জেইলব্রেক পদ্ধতির সন্ধান পাওয়া গেছে, যা ক্ষতিকর অনুরোধের ক্ষেত্রেও কাজ করতে পারে।

গবেষকদের মতে, ভূমিকা পালনের নির্দেশনা, কর্তৃত্বশীল ব্যক্তির ছদ্মবেশ, কৃত্রিম কথোপকথনের ইতিহাস এবং ধারাবাহিক অনুস্মারকের মতো একাধিক কৌশল একসঙ্গে ব্যবহার করলে মডেলের নিরাপত্তাব্যবস্থার দুর্বলতা আরও কার্যকরভাবে কাজে লাগানো সম্ভব হয়।

তবে বন্ধ বা বাণিজ্যিক মডেলে ব্যবহৃত এপিআইভিত্তিক নিরাপত্তা নিয়ন্ত্রণ ওপেন-ওয়েট মডেলের ক্ষেত্রে একইভাবে কার্যকর করা যায় না। কারণ এসব মডেল যে কোনো অবকাঠামোয় এবং নির্মাতার নির্ধারিত নিরাপত্তাব্যবস্থা ছাড়াও চালানো সম্ভব।

পাপাডাটোসের মতে, নিরাপদ ও উপকারী এআই সক্ষমতা সবার জন্য সহজলভ্য করা উচিত, তবে ক্ষতিকর ব্যবহারকে সহায়তা করতে পারে—এমন সক্ষমতা সীমিত করার উপায় খুঁজতে হবে।

ঝুঁকি কমানোর একটি সম্ভাব্য পদ্ধতি হিসেবে এআই মডেলের প্রাক-প্রশিক্ষণ ডেটা থেকে ক্ষতিকর তথ্য বাদ দেওয়ার বিষয়টি নিয়ে আলোচনা চলছে। এতে মডেলকে প্রশিক্ষণের আগে সাইবার আক্রমণ বা বিপজ্জনক জীববিজ্ঞানসংক্রান্ত তথ্য ফিল্টার করা হয়।

কিছু গবেষণায় দেখা গেছে, এ ধরনের ডেটা বাছাই জীববিজ্ঞানসংক্রান্ত ঝুঁকিপূর্ণ জ্ঞান কমাতে সহায়ক হতে পারে। তবে সাইবার নিরাপত্তার ক্ষেত্রে এটি অনেক বেশি জটিল। কারণ একটি শক্তিশালী সাধারণ কোডিং মডেলকে সাইবার আক্রমণসংক্রান্ত সক্ষমতা থেকে সম্পূর্ণ আলাদা রাখা কঠিন।

বর্তমানে এআই শিল্পে কোডিং সক্ষমতা সবচেয়ে দ্রুত বাণিজ্যিক মূল্য তৈরি করা ক্ষেত্রগুলোর একটি। ফলে উন্নত প্রোগ্রামিং দক্ষতা বাড়ানোর পাশাপাশি এর অপব্যবহার রোধে কার্যকর নিরাপত্তাব্যবস্থা তৈরি করা এআই নির্মাতাদের জন্য বড় চ্যালেঞ্জ হয়ে উঠেছে।

সেফারএআইয়ের প্রতিবেদনে বলা হয়েছে, জিএলএম-৫.২ প্রকাশের আগে জেড.এআই কোনো আনুষ্ঠানিক নিরাপত্তা কাঠামো, প্রকাশ-পূর্ব পরীক্ষার প্রতিশ্রুতি বা ঝুঁকি মূল্যায়ন প্রকাশ করেনি। মডেলটি বাজারে আনার আগে অভ্যন্তরীণ বা তৃতীয় পক্ষের মাধ্যমে নিরাপত্তা পরীক্ষা করা হয়েছিল কি না, সে বিষয়ে প্রতিষ্ঠানটির কাছ থেকে স্পষ্ট তথ্য পাওয়া যায়নি।

এদিকে, উন্নত এআইয়ের সম্ভাব্য ঝুঁকি নিয়ে চীনের নীতিনির্ধারকদের মধ্যেও আলোচনা বাড়ছে। গত মাসে অনুষ্ঠিত ওয়ার্ল্ড এআই কনফারেন্সে চীনের প্রেসিডেন্ট শি জিনপিং ওপেন-ওয়েট এআই মডেলের গুরুত্ব তুলে ধরার পাশাপাশি এআইকে মানুষের কঠোর নিয়ন্ত্রণের মধ্যে রাখার প্রয়োজনীয়তার কথাও বলেন।

স্ট্যানফোর্ড সাইবার পলিসি সেন্টারের চীনা এআই নীতিবিষয়ক গবেষক গ্রাহাম ওয়েবস্টারের মতে, চীনে এআই নিয়ন্ত্রণে শক্তিশালী নীতিমালা থাকলেও সেগুলোর বড় অংশ রাজনৈতিকভাবে সংবেদনশীল বিষয়, ভুয়া তথ্য ও সামাজিক স্থিতিশীলতার দিকে বেশি গুরুত্ব দেয়। সাইবার আক্রমণ বা জীববিজ্ঞানভিত্তিক অপব্যবহারের মতো বড় ঝুঁকির বিষয়ে তুলনামূলক কম গুরুত্ব দেওয়া হয়েছে।

তবে ওপেন-ওয়েট এআইয়ের সমর্থকেরা বলছেন, মডেলের প্রযুক্তিগত কাঠামো উন্মুক্ত থাকলে সাইবার নিরাপত্তায় প্রতিরক্ষামূলক কাজও সহজ হয়। সম্ভাব্য আক্রমণের সক্ষমতা আগে থেকে বোঝা গেলে প্রতিষ্ঠানগুলো নিজেদের নিরাপত্তাব্যবস্থা আরও কার্যকরভাবে প্রস্তুত করতে পারে।

হাগিং ফেসের প্রধান নির্বাহী ক্লেম ডেলাংগু সম্প্রতি বলেন, এআইচালিত সাইবার হামলা প্রতিরোধে ব্যবহৃত একই প্রযুক্তি প্রতিদিন বিপুলসংখ্যক সাইবার আক্রমণ মোকাবিলা এবং দুর্বলতা শনাক্ত ও সমাধানেও সহায়ক হতে পারে।

তবে পাপাডাটোস মনে করেন, এই সুবিধাকে কেন্দ্র করে ঝুঁকিপূর্ণ সক্ষমতা সবার জন্য উন্মুক্ত করে দেওয়া যৌক্তিক নয়। তাঁর মতে, নিরাপদ ও উপকারী সক্ষমতার সহজলভ্যতা বাড়ানোর পাশাপাশি বিপজ্জনক সক্ষমতা সীমিত করাই হওয়া উচিত এআই শিল্পের লক্ষ্য।

বিশেষজ্ঞদের আশঙ্কা, নতুন প্রযুক্তি গ্রহণ ও অপব্যবহারের ক্ষেত্রে আক্রমণকারীরা সাধারণত প্রতিরক্ষাকারীদের তুলনায় দ্রুত সিদ্ধান্ত নিতে পারে। ফলে শক্তিশালী ওপেন-ওয়েট এআই মডেলের সক্ষমতা যত বাড়বে, ততই এর নিরাপদ ব্যবহার নিশ্চিত করা এবং ঝুঁকি নিয়ন্ত্রণের প্রশ্নটি আরও গুরুত্বপূর্ণ হয়ে উঠবে।