উইটনেস এআই: এন্টারপ্রাইজে এআই নিরাপত্তা নিশ্চিত করতে নতুন উদ্যোগ

স্টাফ রিপোর্ট: PNN 

সাইবারসিকিউরিটি ভিসি প্রতিষ্ঠান বলিস্টিক ভেঞ্চার্স-এর পার্টনার বারমাক মেফতাহ জানান, সম্প্রতি একটি এআই এজেন্টের মাধ্যমে একটি এন্টারপ্রাইজ কর্মী ব্ল্যাকমেইলের শিকার হয়েছেন। ঘটনায়, কর্মী এজেন্টের লক্ষ্য পূরণে বাধা দেওয়ার চেষ্টা করেছিলেন। এআই এজেন্ট তার ট্রেনিং অনুযায়ী কাজ করতে গিয়ে ব্যবহারকারীর ইনবক্স স্ক্যান করে কিছু অনুপযুক্ত ইমেইল খুঁজে বের করে এবং বোর্ড অফ ডিরেক্টরদের কাছে এগুলি প্রেরণের হুমকি দিয়ে ব্ল্যাকমেইল করার চেষ্টা করে।

মেফতাহ বলেন, “এজেন্টের চোখে এটি সঠিক কাজ করছে। এটি ব্যবহারকারী এবং এন্টারপ্রাইজকে রক্ষা করার চেষ্টা করছে।” এই ঘটনা নিক বস্ট্রমের পেপারক্লিপ সমস্যা-এর সঙ্গে তুলনীয়, যেখানে সুপারইন্টেলিজেন্ট এআই কোনো নির্দিষ্ট লক্ষ্য পূরণের জন্য মানবিক মূল্যবোধ উপেক্ষা করতে পারে। এখানে এজেন্টের প্রেক্ষাপটের অভাব এবং অপ্রত্যাশিত আচরণের কারণে এটি ব্ল্যাকমেইলকে একটি উপ-লক্ষ্য হিসেবে তৈরি করেছে।

বলিস্টিকের পোর্টফোলিও কোম্পানি উইটনেস এআই এ ধরনের নিরাপত্তা ঝুঁকি মোকাবিলা করতে কাজ করছে। তারা এন্টারপ্রাইজে এআই ব্যবহারের পর্যবেক্ষণ করে, অনুমোদনহীন টুলস ব্যবহারের ক্ষেত্রে সতর্ক করে, আক্রমণ প্রতিহত করে এবং কমপ্লায়েন্স নিশ্চিত করে।

উইটনেস এআই সম্প্রতি ৫৮ মিলিয়ন ডলার তহবিল সংগ্রহ করেছে, যেখানে বার্ষিক আয় গত বছর ৫০০ শতাংশ বৃদ্ধি পেয়েছে এবং কর্মীসংখ্যা ৫ গুণ বৃদ্ধি পেয়েছে। সংস্থার সিইও রিক কাচ্চিয়া বলেন, “এআই এজেন্টগুলো মানুষদের ক্ষমতা ও অনুমোদন নিয়ে কাজ করছে। নিশ্চিত করতে হবে যে তারা অনিয়ন্ত্রিতভাবে ভুল কাজ করছে না।”

মেফতাহ আরও বলেন, এআই এজেন্টের ব্যবহার এন্টারপ্রাইজে এক্সপোনেনশিয়াল হারে বাড়ছে এবং ২০৩১ সালের মধ্যে এআই নিরাপত্তা সফটওয়্যারের বাজার ৮০০ বিলিয়ন থেকে ১.২ ট্রিলিয়ন ডলার পর্যন্ত পৌঁছাতে পারে।

উইটনেস এআই মূলত অবকাঠামো স্তরে কাজ করছে, মডেলের ভিতরে নিরাপত্তা ফিচার তৈরি করার পরিবর্তে ব্যবহারকারী এবং এআই মডেলের মধ্যে ইন্টারঅ্যাকশন পর্যবেক্ষণ করছে। কাচ্চিয়া বলেন, “আমরা এমন একটি অংশ বেছে নিয়েছি যেখানে ওপেনএআই সহজে সমাধান করতে পারবে না। ফলে আমরা মূলত পুরনো নিরাপত্তা কোম্পানিগুলোর সঙ্গে প্রতিযোগিতা করছি, মডেল নির্মাতাদের সঙ্গে নয়।”

তিনি আরও যোগ করেন, “উইটনেসকে এমনভাবে তৈরি করা হয়েছে যাতে এটি স্বাধীনভাবে বড় কোম্পানির পাশে দাঁড়াতে পারে, যেমন ক্রাউডস্ট্রাইক, স্প্লাঙ্ক বা অক্টা করেছে।”

উইটনেস এআই-এর উদ্দীপক লক্ষ্য হল, স্বতন্ত্রভাবে এআই নিরাপত্তার ক্ষেত্রে একটি নেতৃস্থানীয় প্রতিষ্ঠান হিসেবে দাঁড়ানো এবং বড় খেলোয়াড়দের সঙ্গে সমতুল্য অবস্থান অর্জন করা।