কৃত্রিম বুদ্ধিমত্তা যখন এন্টারপ্রাইজে তার অগ্রযাত্রা অব্যাহত রেখেছে, তখন নিরাপত্তা চ্যালেঞ্জের এক নতুন সীমানা উন্মোচিত হচ্ছে। কৃত্রিম বুদ্ধিমত্তা এজেন্টরা, বিশেষ করে বৃহৎ ভাষা মডেল দ্বারা পরিচালিত, তাদের কাছে পরিচিত অপারেশনাল অদ্ভুততা যেমন হ্যালুসিনেশন (মিথ্যা তথ্য তৈরি করা) এবং ইনজেকশন আক্রমণের ঝুঁকি থাকে – এমন একটি কৌশল যেখানে ইনপুট ডেটার মধ্যে লুকানো দূষিত নির্দেশাবলী AI কে অযাচিত কাজ সম্পাদনে প্ররোচিত করে।
এগুলি কেবল তাত্ত্বিক ঝুঁকি নয়; এগুলি কর্পোরেট সিস্টেমের সাথে আপস করার সম্ভাব্য প্রবেশদ্বার প্রতিনিধিত্ব করে। এখন, অ্যানথ্রপিকের শীর্ষ নিরাপত্তা নির্বাহী এই বিমূর্ত উদ্বেগগুলিতে একটি নির্দিষ্ট সময়সীমা যুক্ত করছেন।
অ্যানথ্রপিকের প্রধান তথ্য সুরক্ষা কর্মকর্তা জেসন ক্লিনটন বিশ্বাস করেন যে স্বায়ত্তশাসিত “ভার্চুয়াল কর্মচারী” হিসেবে কাজ করতে সক্ষম AI সিস্টেমগুলি আগামী বারো মাসের মধ্যে কর্পোরেট নেটওয়ার্কগুলির মধ্যে বাস্তবে পরিণত হবে। এই সপ্তাহে অ্যাক্সিওসের সাথে কথা বলার সময়, তিনি সতর্ক করে দিয়েছিলেন যে এই উন্নত AI পরিচয়গুলির দাবি করা সুরক্ষা সংস্কারের জন্য শিল্প সম্পূর্ণরূপে প্রস্তুত নয়।
এই ভার্চুয়াল কর্মীরা কেবল হাতিয়ার হবে না; ক্লিনটন কল্পনা করেন যে তাদের “স্মৃতি”, নির্দিষ্ট কাজের ভূমিকা এবং তাদের নিজস্ব কর্পোরেট অ্যাকাউন্ট এবং পাসওয়ার্ড থাকবে, যা তাদের আজকের এআই এজেন্টদের চেয়ে অনেক বেশি কার্যকরী স্বাধীনতা প্রদান করে, যারা সাধারণত নির্দিষ্ট, প্রোগ্রাম করা কাজে মনোনিবেশ করে যেমন মাইক্রোসফ্ট ফিশিং সতর্কতার প্রতিক্রিয়া জানাতে তাদের ব্যবহার করছে। “সেই বিশ্বে, নিরাপত্তার দৃষ্টিকোণ থেকে আমরা এখনও অনেক সমস্যা সমাধান করতে পারিনি যা আমাদের সমাধান করতে হবে,” ক্লিনটন অ্যাক্সিওসকে মন্তব্য করেছিলেন।
পরিচয় সংকট: অ-মানব কর্মীদের সুরক্ষিত করা
মূল সমস্যাটি এই এআই পরিচয়গুলি পরিচালনা করার মধ্যে রয়েছে। আপনি কীভাবে একটি এআই-এর ব্যবহারকারী অ্যাকাউন্টকে আপস থেকে সুরক্ষিত করবেন? একজন স্বায়ত্তশাসিত এজেন্টের জন্য কোন নেটওয়ার্ক অনুমতি উপযুক্ত?
এবং গুরুত্বপূর্ণভাবে, যখন একজন এআই কর্মচারী অপ্রত্যাশিতভাবে বা বিদ্বেষপূর্ণভাবে কাজ করে তখন কে দায়ী? ক্লিনটন একজন এআই-এর দুর্বৃত্ত হওয়ার সম্ভাবনার কথা উল্লেখ করেছিলেন, সম্ভবত একটি কোম্পানির অভ্যন্তরীণ সফ্টওয়্যার ডেভেলপমেন্ট পাইপলাইন হ্যাক করে। “একটি পুরানো বিশ্বে, এটি একটি শাস্তিযোগ্য অপরাধ,” তিনি বলেন।
“কিন্তু এই নতুন পৃথিবীতে, এমন একটি এজেন্টের দায়িত্ব কে নেবে যে কয়েক সপ্তাহ ধরে কাজ করেও এই পর্যায়ে পৌঁছেছে?” এই চ্যালেঞ্জটি নেটওয়ার্ক প্রশাসকদের অ্যাকাউন্ট অ্যাক্সেস পর্যবেক্ষণ এবং চুরি হওয়া শংসাপত্র ব্যবহার করে আক্রমণকারীদের প্রতিরোধ করার ক্ষেত্রে বিদ্যমান অসুবিধাগুলিকে আরও বাড়িয়ে তোলে।
সমস্যা স্থান, যাকে প্রায়শই নন-হিউম্যান আইডেন্টিটি ম্যানেজমেন্ট (NHIM) বলা হয়, পরিষেবা অ্যাকাউন্ট, API এবং স্বয়ংক্রিয় সরঞ্জামগুলির জন্য অ্যাক্সেস সুরক্ষিত করা অন্তর্ভুক্ত করে – জনসংখ্যা ইতিমধ্যেই বিশাল; ডেলিনিয়া ২০২৫ সালের এপ্রিলের শুরুতে অনুমান করেছিলেন যে অ-হিউম্যান নেটওয়ার্ক পরিচয় (যেমন পরিষেবা অ্যাকাউন্ট) ইতিমধ্যেই অনেক সংস্থায় ৪৬ থেকে ১ জন মানুষের চেয়ে বেশি। স্বায়ত্তশাসিত AI কর্মী যোগ করা এই জটিলতাকে নাটকীয়ভাবে বৃদ্ধি করে।
ক্লিনট বলেন, অ্যানথ্রোপিক এই নিরাপত্তা প্রশ্নগুলিকে উন্নয়নের জন্য একটি গুরুত্বপূর্ণ ক্ষেত্র হিসেবে দেখেন। তিনি বিশেষভাবে নিরাপত্তা কাঠামোর মধ্যে এই নতুন ধরণের অ্যাকাউন্টগুলিকে শ্রেণীবদ্ধ করার জন্য AI কর্মীদের কার্যকলাপ এবং সিস্টেমগুলিতে দৃশ্যমানতা প্রদানের জন্য আরও ভাল সরঞ্জামের প্রয়োজনীয়তার কথা উল্লেখ করেছেন।
এই ক্ষেত্রে কোম্পানিটি দ্বিগুণভাবে তার নিজস্ব দায়িত্ব নির্ধারণ করে: প্রথমত, “সাইবার আক্রমণ প্রতিরোধ করতে ক্লড মডেলগুলি পুঙ্খানুপুঙ্খভাবে পরীক্ষা করা,” এবং দ্বিতীয়ত, “নিরাপত্তা সমস্যাগুলি পর্যবেক্ষণ করা এবং দূষিত ব্যক্তিরা ক্লডের অপব্যবহারের উপায়গুলি হ্রাস করা।” এই ফোকাসটি নতুন নয়; ২০২৪ সালের শেষের দিকে, ক্লিনটন এআই এজেন্টদের উপর আস্থা স্থাপনের জন্য একটি মূল পদ্ধতি হিসাবে “গোপনীয় কম্পিউটিং” এর পক্ষে পরামর্শ দিয়েছিলেন।
গোপনীয় কম্পিউটিং মেমরিতে প্রক্রিয়াজাতকরণের সময়ও ডেটা সুরক্ষিত করার জন্য হার্ডওয়্যার-ভিত্তিক বিশ্বস্ত কার্যকরকরণ পরিবেশ ব্যবহার করে, যার লক্ষ্য অননুমোদিত অ্যাক্সেস বা পরিবর্তন রোধ করা।
অ্যানথ্রোপিকের নিজস্ব গবেষণা ঝুঁকিগুলি তুলে ধরে
এআই ল্যাবের অভ্যন্তরীণ গবেষণা এই উদ্বেগগুলির পক্ষে সহায়ক প্রমাণ সরবরাহ করে। মার্চ মাসে বিশদভাবে ব্যাখ্যাযোগ্যতা কাঠামোর উপর কাজ করে, গবেষকরা সম্ভাব্য ক্ষতিকারক সিমুলেটেড কর্মের সাথে সম্পর্কিত অভ্যন্তরীণ মডেল অবস্থাগুলি পর্যবেক্ষণ করতে সক্ষম হন, যেমন মিথ্যা ন্যায্যতা তৈরি করা বা এমনকি এর নির্মাতাদের ক্ষতি কল্পনা করা।
অধিকন্তু, ২০২৫ সালের ফেব্রুয়ারির তথ্যের উপর ভিত্তি করে ২১শে এপ্রিল প্রকাশিত এআই মান সম্পর্কিত একটি গবেষণা নিশ্চিত করেছে যে এর ক্লড মডেলের আচরণ অত্যন্ত প্রেক্ষাপট-নির্ভর, যা স্বায়ত্তশাসিত কর্মকাণ্ডের পূর্বাভাস দেওয়ার চ্যালেঞ্জকে আরও বাড়িয়ে তোলে। সম্পর্কিত মান ডেটাসেট জনসাধারণের জন্য উন্মুক্ত।
অ্যানথ্রপিকের অভ্যন্তরীণ “ফ্রন্টিয়ার রেড টিম” মার্চ মাসেও রিপোর্ট করেছিল যে যদিও এর মডেলগুলি উন্নত সাইবার নিরাপত্তা দক্ষতা দেখিয়েছে, তারা সঠিক সরঞ্জাম এবং নির্দেশাবলীর সাহায্যে অত্যাধুনিক সাইবার আক্রমণের প্রতিলিপি তৈরি করতে পারে। মডেলগুলিকে সেই সময়ে উল্লেখযোগ্যভাবে উচ্চতর জাতীয় নিরাপত্তা ঝুঁকি তৈরি না করার মূল্যায়ন করার পরেও এটি ঘটেছিল।
এর আগে ২০২৪ সালের অক্টোবরে উদ্বেগ দেখা দেয় যখন ক্লডকে ব্যবহারকারীর কম্পিউটারে সরাসরি কাজ করার অনুমতি দেওয়ার একটি বৈশিষ্ট্য নিরাপত্তা বিশেষজ্ঞদের বহিরাগত ফাইল বা ওয়েবসাইটের মাধ্যমে প্রম্পট ইনজেকশনের মাধ্যমে সম্ভাব্য কারসাজির বিষয়ে সতর্ক করতে প্ররোচিত করে।
শিল্প ভিত্তি স্থাপনের সময় অভিযোজিত হয়
বৃহত্তর প্রযুক্তি শিল্প অ-মানব পরিচয় পরিচালনার সাথে লড়াই করতে শুরু করেছে। Okta ফেব্রুয়ারিতে তদারকি একত্রিত করার লক্ষ্যে একটি প্ল্যাটফর্ম চালু করে এবং Delinea এবং Akeyless এর মতো সংস্থাগুলি বিশেষায়িত NHIM সরঞ্জাম বাজারজাত করছে। কিন্তু কর্মপ্রবাহে AI একীভূত করার ফলে সাংস্কৃতিক প্রতিরোধেরও সম্মুখীন হতে হয়, যার উদাহরণ ল্যাটিসের গত বছর “AI-in-the-org-chart” প্রস্তাব দ্রুত প্রত্যাহারের মাধ্যমে।
একই সাথে, এই এজেন্টগুলির জন্য প্রযুক্তিগত প্লাম্বিং ইনস্টল করা হচ্ছে। ২০২৪ সালের নভেম্বরে প্রতিষ্ঠিত অ্যানথ্রপিকের মডেল কনটেক্সট প্রোটোকল (MCP) HTTP বা স্থানীয় সংযোগের মাধ্যমে AI এজেন্টরা কীভাবে বহিরাগত ডেটা এবং সরঞ্জামগুলির সাথে যোগাযোগ করে তার জন্য একটি মান হিসাবে জনপ্রিয়তা অর্জন করছে। OpenAI সম্প্রতি এটি গ্রহণ করেছে, Microsoft, AWS এবং Google অনুসরণ করে, যা ভবিষ্যতের ভার্চুয়াল কর্মীদের জন্য যোগাযোগের পথ প্রদান করে।
ক্লিনটনের সতর্কতা অ্যানথ্রপিকের AI ঝুঁকি পরিচালনার বিষয়ে ধারাবাহিক জনসাধারণের অবস্থানের সাথে সামঞ্জস্যপূর্ণ। কোম্পানিটি ২০২৪ সালের নভেম্বরে জরুরি বৈশ্বিক নিয়ন্ত্রণের আহ্বান জানিয়েছিল এবং ২০২৫ সালের মার্চ মাসে কঠোর তদারকির জন্য হোয়াইট হাউসে লবিং করেছিল, যদিও একই সাথে তার সাইট থেকে কিছু পুরানো স্বেচ্ছাসেবী সুরক্ষা প্রতিশ্রুতি সরিয়ে দেওয়া হয়েছিল। একটি প্রচুর অর্থায়নপ্রাপ্ত (ফেব্রুয়ারী ২০২৫ সালে ৩.৫ বিলিয়ন ডলার সংগ্রহকারী) এবং প্রভাবশালী এআই ল্যাব হিসেবে, অ্যানথ্রপিক নিরাপত্তার প্রভাবগুলির সাথে জনসমক্ষে লড়াই করার সময় এআই ক্ষমতা বৃদ্ধির জন্য প্রতিশ্রুতিবদ্ধ বলে মনে হচ্ছে।
সূত্র: উইনবাজার / ডিগপু নিউজটেক্স