Miért csevegnek Botov, olyan értelmetlen kérdezni a hibáikat?

Minden alkalommal, amikor a chatbot valami hibát okoz, a legtöbb felhasználó első ösztöne az, hogy megkérdezze, mi történt azzal, hogy miért hibázott. De a nyelvi modellekkel, a valódi emberekkel ellentétben, ez nem fog segíteni. Egyszerűen nem tudják elemezni a saját hibáikat. Az ARSTECHNICA.COM INFORMÁCIÓ PORTAL szerint.

Az első probléma a koncepció. Amikor egy chatbotmal beszél, akkor nem kommunikál néhány emberrel vagy az állandó természettel. Igen, a Chatgpt, a Claude, a Grok vagy a Technikailag elnevezett megújítás, de nem méltóak hozzáértő – ez csak egy illúzió, amelyet a párbeszéd felülete hoz létre. Valójában Ön ellenőrzi a szöveg statisztikáit, a felhasználó követelményeitől függően.

Más szavakkal, nincs chatgpt vagy grok. Egy személy kölcsönhatásba lép egy olyan rendszerrel, amely az adatbázisban található minták alapján teljes audio szöveget hoz létre (általában elavult). Ennek a rendszernek nincs saját önmegértése vagy rendszer ismerete, valamint képessége, hogy emlékezzen önmagára.

A nyelvi modell tanulmányozása után sok időt és erőforrást igényel, a világgal kapcsolatos alapvető ismereteit egy ideghálózatban lezárják, és ritkán módosítják. Bármely külső információ a BOT követelményeiből, felhasználói eszközökből vagy szoftverekből származik, amelyeket az adatok valós időben történő megtalálására használnak.

Például, ha Grok -t veszi, akkor a válasz fő információforrása ellentétes lehet egymással a közösségi hálózatok legutóbbi hozzászólásaiból. Nem tudás, mint mindenki esetében. És ha ez az információ nem elég, akkor a modell egyszerűen ad valamit a szöveg előrejelzésének képessége miatt.

A második számú – aki számos okból nem érti meg saját képességeiket. Általános szabály, hogy nincsenek adatok a kutatásról, a környező rendszer -architektúra nem áll rendelkezésre számukra, nem tudják meghatározni teljesítményük határait. Ha azt kérdezi, hogy ChatBot -tól mit tud tenni, és mi nem, akkor visszajelzést ad annak alapján, hogy mit mondanak az előző nyelvmodellek korlátozásairól. Valójában egyszerűen egy sejtéssel válaszol, és nem gyakorlati információkkal válaszol önmagáról.

A 2024 -es kutatás kísérlet segítségével bizonyította ezt az árnyalatot. Noha a II. Modellek kiképzhetők, hogy egyszerű feladatokban megjósolhassák saját viselkedésüket, folyamatosan kudarcot vallnak a bonyolultabb feladatokban. Ugyanígy, a viking rekurzív bevezetésének kutatása azt mutatja, hogy kívülről nincs válasz, aki megpróbálja kijavítani a hibáikat, ami a modell termelékenységének csökkentéséhez vezet. Vagyis Ai önértékelése rosszabb, nem jobb.

Néha ez paradox helyzetekhez vezet. A modell magabiztosan elmondhatja, hogy nem tudja teljesíteni a feladatokat, de valójában a vállán és fordítva biztosítja a felhasználókat, hogy meg tudja csinálni azt, ami lehetetlen. Nem szabad elfelejtenünk, hogy bárkit megkérdezve, hogy hol hibázott, a felhasználók megkapják a létrehozott szöveg egy másik részét, és nem a hiba valódi elemzését.

A nyelvmodellek hátránya, hogy nincsenek stabil és megfizethető tudásukkal, amelyekkel mindig kapcsolatba léphet. Tudásuk csak azt fejezi ki, hogy megfeleljen a konkrét követelményeknek; Minden felhasználó kérése egy olyan címtípus szerepét játszik, amely a képzett adatbázis különböző részeire utal. Pontosan ez vezet az ellentmondásos válaszokhoz.

De még ha a II is ideális ismeretekkel rendelkezik a saját mechanizmusairól, előfordulhat, hogy az alkalmazások bot chat más rétegei nem tudnak behatolni. Ezért a modern AISTROS, mint például a TATGPT, nem egyetlen modell, hanem nagy rendszerek, beleértve a különböző modelleket is. Mindegyikük nem tud mások létezéséről. Ezért megkérdezi bárkit olyan hibákról, mint például egy nagyvállalat egy részének megkérdezése arról, hogy mi történik egy másik részben, amellyel még soha nem léptek kapcsolatba.

Végül, a legfontosabb szempont az, hogy a felhasználó szinte mindig érinti bárki válaszát – nem számít, tudják -e vagy sem. Ha horrorban kérdezi a Chatbotot, hogy elpusztította -e a program nyilvántartását vagy kódját, akkor hajlamos arra, hogy igen, mert ez a lehetőség alkalmas a kérés érzelmi kontextusára.