গুগলের জেমিনি ২.৫ প্রো এআই সুরক্ষা প্রতিবেদনটি দেরিতে এসেছে, কারণ এটি একটি “প্রিভিউ”, যার বিবরণ খুব কম।

গুগল এই সপ্তাহে তার সর্বশেষ জেমিনি ২.৫ প্রো রিজনিং মডেলের প্রাথমিক ডকুমেন্টেশন প্রকাশ করেছে, কিন্তু মডেলটি ব্যাপকভাবে উপলব্ধ হওয়ার কয়েক সপ্তাহ পরে এই পদক্ষেপ নেওয়া হয়েছে এবং এআই গভর্নেন্স বিশেষজ্ঞদের তীব্র সমালোচনার মুখে পড়েছে। “মডেল কার্ড” নামে পরিচিত এই ডকুমেন্টটি ১৬ এপ্রিল অনলাইনে প্রকাশিত হয়েছিল, তবুও বিশেষজ্ঞরা দাবি করেছেন যে এতে গুরুত্বপূর্ণ নিরাপত্তা বিশদ বিবরণের অভাব রয়েছে এবং পরামর্শ দিচ্ছে যে গুগল সরকার এবং আন্তর্জাতিক সংস্থাগুলিকে দেওয়া স্বচ্ছতার প্রতিশ্রুতি পূরণ করতে ব্যর্থ হতে পারে।

বিতর্কটি টাইমলাইন থেকে উদ্ভূত: জেমিনি ২.৫ প্রো প্রাথমিকভাবে ২৫শে মার্চ গ্রাহকদের জন্য তার প্রিভিউ রোলআউট শুরু করে (নির্দিষ্ট পরীক্ষামূলক সংস্করণ, gemini-2.5-pro-exp-03-25 সহ, ২৮শে মার্চ, গুগল ক্লাউড ডক্স অনুসারে প্রকাশিত হয়েছে) এবং ২৯শে মার্চ থেকে জেমিনি ওয়েব অ্যাপের মাধ্যমে সমস্ত বিনামূল্যে ব্যবহারকারীদের কাছে অ্যাক্সেস দ্রুত সম্প্রসারিত করা হয়েছিল।

তবে, নিরাপত্তা মূল্যায়ন এবং সীমাবদ্ধতার বিবরণ সহ মডেল কার্ডটি এই ব্যাপক জনসাধারণের অ্যাক্সেস শুরু হওয়ার মাত্র দুই সপ্তাহেরও বেশি সময় পরে প্রকাশিত হয়েছিল।

সেন্টার ফর ডেমোক্রেসি অ্যান্ড টেকনোলজির একজন সিনিয়র উপদেষ্টা কেভিন ব্যাঙ্কস্টন সোশ্যাল প্ল্যাটফর্ম এক্স-এর ছয় পৃষ্ঠার নথিটিকে “অল্প” ডকুমেন্টেশন হিসাবে বর্ণনা করেছেন, যোগ করেছেন যে এটি “এআই সুরক্ষা এবং স্বচ্ছতার উপর তলানিতে পৌঁছানোর একটি ঝামেলার গল্প বলে কারণ কোম্পানিগুলি তাদের মডেলগুলি বাজারে আনার জন্য তাড়াহুড়ো করছে।”

অনুপস্থিত বিবরণ এবং অপূর্ণ প্রতিশ্রুতি

ব্যাঙ্কস্টনের একটি প্রাথমিক উদ্বেগ হল গুরুত্বপূর্ণ সুরক্ষা মূল্যায়ন থেকে বিস্তারিত ফলাফলের অনুপস্থিতি, যেমন “রেড-টিমিং” অনুশীলন যা আবিষ্কার করার জন্য করা হয়েছিল যে এআইকে জৈব অস্ত্র তৈরির নির্দেশাবলীর মতো ক্ষতিকারক সামগ্রী তৈরি করতে প্ররোচিত করা যেতে পারে কিনা।

তিনি পরামর্শ দিয়েছিলেন যে সময় এবং বাদ পড়ার অর্থ হতে পারে গুগল “তার সবচেয়ে শক্তিশালী মডেল প্রকাশ করার আগে তার সুরক্ষা পরীক্ষা শেষ করেনি” এবং “এটি এখনও সেই পরীক্ষা সম্পন্ন করেনি,” অথবা কোম্পানি একটি মডেল সাধারণভাবে উপলব্ধ না হওয়া পর্যন্ত ব্যাপক ফলাফল আটকে রাখার একটি নতুন নীতি গ্রহণ করেছে।

পিটার ওয়াইল্ডফোর্ড এবং থমাস উডসাইড সহ অন্যান্য বিশেষজ্ঞরা মডেল কার্ডের নির্দিষ্ট ফলাফল বা গুগলের নিজস্ব ফ্রন্টিয়ার সেফটি ফ্রেমওয়ার্ক (FSF) এর অধীনে মূল্যায়নের সাথে সম্পর্কিত বিস্তারিত রেফারেন্সের অভাব তুলে ধরেছেন, যদিও কার্ডটিতে FSF প্রক্রিয়া ব্যবহার করার কথা উল্লেখ করা হয়েছে।

এই পদ্ধতিটি AI সুরক্ষা এবং স্বচ্ছতা সম্পর্কিত Google এর বেশ কয়েকটি জনসাধারণের প্রতিশ্রুতির সাথে অসঙ্গত বলে মনে হচ্ছে। এর মধ্যে রয়েছে জুলাই 2023 সালের হোয়াইট হাউসের সভায় শক্তিশালী নতুন মডেলগুলির জন্য বিশদ প্রতিবেদন প্রকাশের জন্য দেওয়া প্রতিশ্রুতি, 2023 সালের অক্টোবরে সম্মত G7 এর AI আচরণবিধি মেনে চলা এবং 2024 সালের মে মাসে সিউল AI সুরক্ষা শীর্ষ সম্মেলনে দেওয়া প্রতিশ্রুতি।

সিকিউর AI প্রকল্পের থমাস উডসাইড আরও উল্লেখ করেছেন যে বিপজ্জনক ক্ষমতা পরীক্ষার উপর গুগলের শেষ নিবেদিত প্রকাশনা 2024 সালের জুনে, নিয়মিত আপডেটের প্রতি কোম্পানির প্রতিশ্রুতি নিয়ে প্রশ্ন তুলেছে। গুগল নিশ্চিত করেনি যে জেমিনি 2.5 প্রো তার প্রিভিউ প্রকাশের আগে বহিরাগত মূল্যায়নের জন্য মার্কিন যুক্তরাষ্ট্র বা যুক্তরাজ্যের AI সুরক্ষা ইনস্টিটিউটে জমা দেওয়া হয়েছিল কিনা।

গুগলের অবস্থান এবং মডেল কার্ডের বিষয়বস্তু

সম্পূর্ণ প্রযুক্তিগত প্রতিবেদনটি এখনও মুলতুবি থাকলেও, প্রকাশিত মডেল কার্ডটি কিছু অন্তর্দৃষ্টি প্রদান করে। গুগল এতে তার নীতিমালার রূপরেখা দেয়: “প্রতিটি মডেল পরিবারের প্রকাশের জন্য একবার একটি বিস্তারিত প্রযুক্তিগত প্রতিবেদন প্রকাশিত হবে, 2.5 সিরিজটি সাধারণভাবে উপলব্ধ হওয়ার পরে পরবর্তী প্রযুক্তিগত প্রতিবেদন প্রকাশিত হবে।”

এটি যোগ করে যে “বিপজ্জনক ক্ষমতা মূল্যায়ন” সম্পর্কিত পৃথক প্রতিবেদনগুলি “নিয়মিত ক্যাডেন্সে” অনুসরণ করবে। গুগল পূর্বে বলেছিল যে সর্বশেষ জেমিনি “প্রি-রিলিজ পরীক্ষা, যার মধ্যে অভ্যন্তরীণ উন্নয়ন মূল্যায়ন এবং আশ্বাস মূল্যায়ন অন্তর্ভুক্ত ছিল যা মডেলটি প্রকাশের আগে পরিচালিত হয়েছিল।”

প্রকাশিত কার্ডটি নিশ্চিত করে যে জেমিনি 2.5 প্রো মিক্সচার-অফ-এক্সপার্টস (MoE) ট্রান্সফরমার আর্কিটেকচারের উপর ভিত্তি করে তৈরি, মডেলের অংশগুলি নির্বাচনীভাবে সক্রিয় করে দক্ষতার লক্ষ্যে একটি নকশা। এটি মডেলের ১ মিলিয়ন টোকেন ইনপুট কনটেক্সট উইন্ডো এবং ৬৪ কে টোকেন আউটপুট সীমার বিস্তারিত বর্ণনা করে, সাথে সাথে গুগলের এআই নীতিমালার সাথে সামঞ্জস্যপূর্ণ সুরক্ষা ফিল্টারিং সহ বিভিন্ন মাল্টিমোডাল ডেটার উপর প্রশিক্ষণও প্রদান করে।

কার্ডটিতে কর্মক্ষমতা বেঞ্চমার্ক (`gemini-2.5-pro-exp-03-25` সংস্করণে চালিত) অন্তর্ভুক্ত রয়েছে যা ২০২৫ সালের মার্চ পর্যন্ত প্রতিযোগিতামূলক ফলাফল দেখায়। এটি সম্ভাব্য “হ্যালুসিনেশন” এর মতো সীমাবদ্ধতা স্বীকার করে এবং জানুয়ারী ২০২৫ এ জ্ঞানের কাট-অফ নির্ধারণ করে। অভ্যন্তরীণ পর্যালোচনা (RSC) এবং বিভিন্ন প্রশমনের সাথে জড়িত সুরক্ষা প্রক্রিয়াগুলির রূপরেখা দেওয়ার সময় এবং জেমিনি ১.৫ এর তুলনায় কিছু স্বয়ংক্রিয় সুরক্ষা মেট্রিক উন্নতি দেখানোর সময়, এটি “অতিরিক্ত প্রত্যাখ্যান” সীমাবদ্ধতা হিসাবে অব্যাহত থাকার বিষয়টি নিশ্চিত করে।

একটি শিল্প এগিয়ে যাচ্ছে?

পরিস্থিতি বৃহত্তর উত্তেজনা প্রতিফলিত করে। অক্সফোর্ড ইন্টারনেট ইনস্টিটিউটের অধ্যাপক স্যান্ড্রা ওয়াচটার পূর্বে ফরচুনকে বলেছিলেন, “যদি এটি একটি গাড়ি বা বিমান হত, আমরা বলতাম না: যত তাড়াতাড়ি সম্ভব এটি বাজারে আনা যাক এবং আমরা পরে সুরক্ষার দিকগুলি খতিয়ে দেখব। যেখানে জেনারেটিভ এআই-এর সাথে এটিকে প্রকাশ করার এবং পরে উদ্বেগ, তদন্ত এবং সমস্যাগুলি সমাধান করার মনোভাব রয়েছে।”

এটি এসেছে যখন ওপেনএআই তার সুরক্ষা কাঠামো পরিবর্তন করেছে, সম্ভাব্যভাবে প্রতিযোগীদের পদক্ষেপের উপর ভিত্তি করে সমন্বয়ের অনুমতি দিয়েছে এবং মেটার লামা 4 রিপোর্টও বিশদের অভাবের জন্য সমালোচনার মুখোমুখি হয়েছে। ব্যাংকস্টন সতর্ক করে দিয়েছিলেন যে যদি সংস্থাগুলি মৌলিক, স্বেচ্ছাসেবী সুরক্ষা প্রতিশ্রুতি পূরণ করতে না পারে, “আইন প্রণেতাদের উপর স্পষ্ট স্বচ্ছতার প্রয়োজনীয়তা তৈরি এবং প্রয়োগ করা বাধ্যতামূলক হবে যা সংস্থাগুলি এড়াতে পারবে না।” গুগল ১৭ এপ্রিল জেমিনি ২.৫ ফ্ল্যাশের একটি প্রিভিউ চালু করে তার রোলআউট গতি অব্যাহত রেখেছে, আবারও জানিয়েছে যে এর সুরক্ষা পত্র “শীঘ্রই আসছে”।

সূত্র: উইনবাজার / ডিগপু নিউজটেক্স