कर्सर एआई के सपोर्ट बॉट ने नीति को गलत बताया, जिससे उपयोगकर्ताओं में नाराजगी और कंपनी की माफ़ी की लहर दौड़ गई

ट्रूएल ने यह भी स्वीकार किया कि एक वास्तविक तकनीकी समस्या, संभवतः एक रेस कंडीशन (जहाँ परिणाम घटनाओं के अप्रत्याशित क्रम पर निर्भर करता है) जो हाल ही में हुए एक सत्र सुरक्षा अपडेट से जुड़ी है और धीमे कनेक्शन पर अधिक प्रचलित हो सकती है, उपयोगकर्ताओं को हो रही वास्तविक लॉगआउट समस्याओं के लिए ज़िम्मेदार थी। उन्होंने पुष्टि की कि इस अंतर्निहित बग का समाधान कर दिया गया है और बॉट के झूठे दावों को उजागर करने वाले मुख्य उपयोगकर्ता को धन वापस कर दिया गया है।

बॉट की विफलता के जवाब में, ट्रूएल ने एक प्रक्रियात्मक बदलाव की घोषणा की: “ईमेल सहायता के लिए उपयोग किए जाने वाले किसी भी AI प्रतिक्रिया को अब स्पष्ट रूप से लेबल किया जाएगा।”

पारदर्शिता बढ़ाने के उद्देश्य से, गलत AI प्रतिक्रियाओं से उपयोगकर्ता की निराशा को रोकने में लेबलिंग की प्रभावशीलता अभी भी एक बहस का विषय बनी हुई है। गूगल की पूर्व मुख्य निर्णय वैज्ञानिक, कैसी कोज़िरकोव ने लिंक्डइन के माध्यम से इस घटना पर टिप्पणी करते हुए कहा, “कर्सर… खुद को एक वायरल गड़बड़झाले में फँसा लिया क्योंकि वह उपयोगकर्ताओं को यह बताने में विफल रहा कि उसका ग्राहक सहायता ‘व्यक्ति’ सैम वास्तव में एक मतिभ्रम करने वाला बॉट है।” उन्होंने इसके व्यापक निहितार्थों पर विस्तार से बताया: “यह गड़बड़झाला टाला जा सकता था अगर नेता यह समझते कि (1) एआई गलतियाँ करता है, (2) एआई उन गलतियों की ज़िम्मेदारी नहीं ले सकता (इसलिए यह आप पर पड़ता है), और (3) उपयोगकर्ता मानव के रूप में प्रस्तुत मशीन द्वारा धोखा दिए जाने से घृणा करते हैं।”

मतिभ्रम और स्वचालन दुविधा

कर्सर सहायता बॉट द्वारा नीति का आविष्कार एआई मतिभ्रम का एक उत्कृष्ट उदाहरण है – विश्वसनीय लेकिन गलत जानकारी का उत्पादन, एक ऐसी घटना जिसे वर्तमान में पूरी तरह से रोका नहीं जा सकता है, हालाँकि इसे प्रबंधित किया जा सकता है, जैसा कि हगिंग फेस जैसे संसाधनों पर प्रलेखित है। मतिभ्रम लीडरबोर्ड।

यह प्रवृत्ति विभिन्न बड़े भाषा मॉडलों में एक ज्ञात चुनौती है, जिसके कारण कभी-कभी AI गैर-मौजूद सॉफ़्टवेयर पैकेजों का आविष्कार कर लेता है या नकली निर्भरताओं के साथ कोड में गड़बड़ी कर देता है।

जैसा कि सॉस लैब्स के मार्कस मेरेल ने द रजिस्टर को बताया, बॉट ने मतिभ्रम और अनिश्चितता (एक ही प्रश्न के अलग-अलग उत्तर देना) दोनों का प्रदर्शन किया, जिससे असंगत संदेश आए जिससे उपयोगकर्ता का विश्वास कम हुआ। मेरेल ने चेतावनी दी कि सहायक भूमिकाओं में स्टाफिंग लागत में कटौती के लिए AI का उपयोग करने से ब्रांड जोखिम होता है, और उन्होंने आगे कहा, “उपयोगकर्ताओं को यह बताना कि ‘यह प्रतिक्रिया AI द्वारा उत्पन्न की गई थी’ उपयोगकर्ता की वफादारी को पुनः प्राप्त करने के लिए एक अपर्याप्त उपाय हो सकता है।”

AI कोडिंग बाज़ार में कर्सर का संदर्भ

एनीस्फीयर का कर्सर, डेवलपर उत्पादकता को बढ़ाने के उद्देश्य से, AI कोडिंग सहायकों के लिए तेजी से बढ़ते बाजार में काम करता है। वीएस कोड ओपन-सोर्स फ्रेमवर्क पर निर्मित यह टूल, माइक्रोसॉफ्ट के गिटहब कोपायलट (जिसने हाल ही में अधिक स्वायत्त ‘एजेंट मोड’ सुविधाएँ और $39/माह का प्रो+ प्लान जोड़ा है) और गूगल के फायरबेस स्टूडियो (9 अप्रैल को एकीकृत जेमिनी एआई के साथ लॉन्च) जैसे स्थापित खिलाड़ियों के साथ सीधे प्रतिस्पर्धा करता है।

कर्सर स्वयं एक प्रो टियर प्रदान करता है जिसकी मासिक कीमत $20 बताई गई है। कंपनी ने उल्लेखनीय निवेश आकर्षित किया है, और ओपनएआई के स्टार्टअप फंड से जुड़े पिछले राउंड के बाद, थ्राइव कैपिटल, आंद्रेसेन होरोविट्ज़ और बेंचमार्क के नेतृत्व में जनवरी 2025 में $105 मिलियन का सीरीज़ बी राउंड पूरा किया है। ओपनएआई के साथ यह जुड़ाव एक दिलचस्प गतिशीलता जोड़ता है, खासकर अप्रैल के मध्य की रिपोर्टों को देखते हुए कि ओपनएआई एक अन्य एआई कोडिंग टूल स्टार्टअप, विंडसर्फ (कोडियम) के अधिग्रहण पर विचार कर रहा था।

स्रोत: विनबज़र / डिग्पू न्यूज़टेक्स