গুগল তার প্রধান কৃত্রিম বুদ্ধিমত্তা মডেল, জেমিনি ২.৫ প্রো সম্পর্কে একটি সুরক্ষা পত্র শেয়ার করেছে। বিশেষজ্ঞরা বলছেন যে এটি মূল ঝুঁকিগুলি অব্যক্ত রেখে গেছে।
গ্রাহকদের জন্য জেমিনি ২.৫ প্রো প্রকাশ করার কয়েক সপ্তাহ পরে, বৃহস্পতিবার কোম্পানিটি প্রযুক্তিগত পত্রটি পোস্ট করেছে। নথিতে মডেলটিতে গুগল পরিচালিত অভ্যন্তরীণ পরীক্ষাগুলির তালিকা রয়েছে তবে অতিরিক্ত ওভারলোড বা অপব্যবহারের অধীনে সিস্টেমটি কীভাবে আচরণ করে সে সম্পর্কে খুব কম তথ্য সরবরাহ করা হয়েছে। গবেষণাপত্রটি পর্যালোচনা করা গবেষকরা টেকক্রাঞ্চকে বলেছেন যে অনুপস্থিত বিবরণগুলি জেমিনি ২.৫ প্রো ব্যাপক ব্যবহারের জন্য সত্যিই নিরাপদ কিনা তা বিচার করা কঠিন করে তোলে।
প্রযুক্তিগত প্রতিবেদনগুলি হল জনসাধারণের শেখার অন্যতম প্রধান উপায় যে উন্নত এআই সিস্টেমগুলি কী করতে পারে এবং কী করতে পারে না। একটি পুঙ্খানুপুঙ্খ প্রতিবেদন প্রায়শই দেখায় যে একটি মডেল কোথায় ব্যর্থ হয় এবং কোথায় এটির অপব্যবহার হতে পারে। অনেক এআই গবেষক এই কাগজপত্রগুলিকে একটি কোম্পানির সুরক্ষা দাবির সমর্থনে সৎ প্রচেষ্টা হিসাবে বিবেচনা করে।
গুগল সুরক্ষা প্রতিবেদনকে ভিন্নভাবে পরিচালনা করে।
কোনও মডেলকে আর “পরীক্ষামূলক” ট্যাগ না করার পরেই গুগল একটি প্রতিবেদন প্রকাশ করে এবং এটি কিছু “বিপজ্জনক ক্ষমতা” ফলাফলকে একটি পৃথক নিরীক্ষায় স্থানান্তর করে যা একবারে প্রকাশিত হয় না। ফলস্বরূপ, পাবলিক পেপারটি গুগলের দ্বারা পরীক্ষিত প্রতিটি হুমকির কথা উল্লেখ করে না।
বেশ কয়েকজন বিশ্লেষক বলেছেন যে নতুন জেমিনি 2.5 প্রো ডকুমেন্টটি সীমিত প্রকাশের একটি স্পষ্ট উদাহরণ। তারা আরও লক্ষ্য করেছেন যে প্রতিবেদনে কখনও গুগলের ফ্রন্টিয়ার সেফটি ফ্রেমওয়ার্ক বা FSF-এর কথা উল্লেখ করা হয়নি, যা কোম্পানিটি গত বছর ঘোষণা করেছিল ভবিষ্যতের AI ক্ষমতাগুলি সনাক্ত করার জন্য যা “গুরুতর ক্ষতি” করতে পারে।
“এই প্রতিবেদনটি খুবই বিরল, ন্যূনতম তথ্য রয়েছে এবং মডেলটি প্রকাশ্যে আসার কয়েক সপ্তাহ পরে এসেছে,” ইনস্টিটিউট ফর এআই পলিসি অ্যান্ড স্ট্র্যাটেজির সহ-প্রতিষ্ঠাতা পিটার ওয়াইল্ডফোর্ড বলেছেন। “গুগল তার নিজস্ব প্রতিশ্রুতি পূরণ করছে কিনা তা নিশ্চিত করা অসম্ভব, এবং তাই তার মডেলগুলির সুরক্ষা এবং সুরক্ষা বিচার করা অসম্ভব।”
সিকিউর এআই প্রজেক্টের সহ-প্রতিষ্ঠাতা থমাস উডসাইড বলেছেন যে তিনি খুশি যে কোনও পেপার আদৌ প্রকাশিত হয়েছে, তবুও তিনি গুগলের স্থির ফলো-আপ প্রকাশের পরিকল্পনা নিয়ে সন্দেহ প্রকাশ করেছেন। তিনি উল্লেখ করেছেন যে ফার্মটি শেষবার বিপজ্জনক-ক্ষমতা পরীক্ষার ফলাফল ভাগ করে নিয়েছিল 2024 সালের জুনে, এবং সেই পেপারটি একই বছরের ফেব্রুয়ারিতে ঘোষিত একটি মডেলকে অন্তর্ভুক্ত করেছিল।
গত সপ্তাহে গুগলের প্রকাশিত পাতলা এবং দ্রুত মডেল জেমিনি ২.৫ ফ্ল্যাশের জন্য কোনও সুরক্ষা পত্র না পেয়ে পর্যবেক্ষকরা আত্মবিশ্বাস আরও কমে যায়। কোম্পানির একজন মুখপাত্র বলেছেন যে একটি ফ্ল্যাশ পত্র “শীঘ্রই আসছে”।
“আমি আশা করি এটি আরও ঘন ঘন আপডেট দেওয়া শুরু করার একটি বাস্তব প্রতিশ্রুতি,” উডসাইড বলেছেন। “এই আপডেটগুলিতে এমন মডেলগুলির ফলাফল অন্তর্ভুক্ত করা উচিত যা এখনও জনসাধারণের কাছে পৌঁছায়নি, কারণ সেই মডেলগুলিও গুরুতর ঝুঁকি তৈরি করতে পারে।”
গুগল এখন স্বচ্ছতার ক্ষেত্রে কম
মেটার নতুন লামা ৪ মডেলের জন্য সুরক্ষা নোট মাত্র কয়েক পৃষ্ঠায় চলে, যখন ওপেনএআই তার জিপিটি-৪.১ সিরিজের জন্য কোনও প্রতিবেদন প্রকাশ না করার সিদ্ধান্ত নিয়েছে।
বিস্তারিত ঘাটতি একটি উত্তেজনাপূর্ণ সময়ে আসে। দুই বছর আগে, গুগল মার্কিন সরকারকে বলেছিল যে এটি সুযোগের মধ্যে প্রতিটি “গুরুত্বপূর্ণ” এআই মডেলের জন্য সুরক্ষা পত্র পোস্ট করবে।” কোম্পানিটি অন্যান্য দেশের কর্মকর্তাদের কাছেও একই রকম প্রতিশ্রুতি দিয়েছে, জানিয়েছে যে তারা তাদের AI পণ্য সম্পর্কে “জনসাধারণের জন্য স্বচ্ছতা” প্রদান করবে।
সেন্টার ফর ডেমোক্রেসি অ্যান্ড টেকনোলজির AI গভর্নেন্স বিষয়ক সিনিয়র উপদেষ্টা কেভিন ব্যাঙ্কস্টন, শীর্ষস্থানীয় ল্যাবগুলি থেকে মুক্তিকে নিরাপত্তার ক্ষেত্রে “নীচের স্তরে পৌঁছানোর প্রতিযোগিতা” বলে অভিহিত করেছেন।
“OpenAI-এর মতো প্রতিদ্বন্দ্বী ল্যাবগুলি মুক্তির আগে নিরাপত্তা-পরীক্ষার সময় কয়েক মাস থেকে কমিয়ে এনেছে এমন প্রতিবেদনের সাথে মিলিত হয়ে, Google-এর শীর্ষ মডেলের জন্য এই সামান্য ডকুমেন্টেশন AI সুরক্ষা এবং স্বচ্ছতার ক্ষেত্রে নীচে নেমে যাওয়ার প্রতিযোগিতার একটি উদ্বেগজনক গল্প বলে কারণ কোম্পানিগুলি তাদের মডেলগুলিকে বাজারে নিয়ে আসে,” তিনি আরও যোগ করেন।
Google বলেছে যে তাদের বেশিরভাগ নিরাপত্তা কাজ বন্ধ দরজার পিছনে ঘটে। কোম্পানিটি বলেছে যে প্রতিটি মডেলই যেকোনো পাবলিক লঞ্চের আগে “প্রতিকূল লাল দলবদ্ধতা” সহ কঠোর পরীক্ষার মধ্য দিয়ে যায়।
সূত্র: ক্রিপ্টোপলিটান / ডিগপু নিউজটেক্স