Miks keelemudelid hallutsineerivad — ja miks meie hindamisviis seda alal hoiab

Miks mudelid pakuvad — ja miks me õpetasime neid seda tegema

Küsi suurelt keelemudelilt võõra inimese sünnipäeva ja ta võib vastata „7. märts” sama rahuliku kindlusega, nagu loeks kuupäeva kaardilt — ning eksida kolm korda järjest kolme erineva kuupäevaga. Autorid toovad just sellise näite: tippmudelitelt küsitakse lihtsat faktiküsimust — inimese sünnipäeva või mõne vähetuntud lühendi tähendust — ja igaüks leiutab enesekindlalt erineva vastuse, ükski neist õige. Tööstus nimetab seda hallutsinatsiooniks, mis paneb selle kõlama tajuhäirena. Töö esimene samm on võtta sellest müstika välja.

Alustame sellest, kuidas mudel ehitatakse. Esimeses ja suurimas treeninguetapis õpib see sisuliselt tohutut tekstihulka lugedes, milline ladus keel välja näeb. Võtame nüüd fakti, mille taga pole mustrit — ühe konkreetse inimese sünnipäeva. Kui see kuupäev esines treeningtekstis ühe korra või mitte kunagi, pole mustriõppijal millestki kinni võtta: mudeli vaatepunktist on vastus meelevaldne. Autorid teevad selle täpseks, laenates vana idee Alan Turingilt, küll teisest probleemist: kui iga viies sünnipäev esineb andmetes ainult ühe korra, peaks mudel eeldatavasti vähemalt iga viienda puhul eksima — mitte seepärast, et mudel on katki, vaid seepärast, et õppimiseks polnud midagi. (Sama loogika järgi eksivad mudelid riigi pealinna puhul peaaegu mitte kunagi: neid esineb pidevalt.) Autorid väidavad hoolikalt, et tõese väite eristamine usutavast valest on ise raske probleem ning ainult tõeste väidete genereerimine on vähemalt sama raske. Teatud veapõrand on paratamatult sees.

See selgitab, kust hallutsinatsioonid tulevad. See ei selgita, miks need püsivad — miks mudelid pärast kogu hilisemat treeningut, mille eesmärk on muuta nad kasulikuks ja ausaks, ikka bluffivad selle asemel, et ebakindlust tunnistada. Siin on töö analoogia peaaegu ebamugavalt täpne. Kujuta ette õpilast eksamil, kes vastust ei tea. Kui tühi vastus annab null punkti ja pakkumine võib anda ühe, on hinde maksimeerimiseks õige käik pakkuda — enesekindlalt, konkreetselt, mitte kunagi „ma pole kindel”. Õpilased õpivad seda. Nagu selgub, mudelid samuti — sest me hindame neid samamoodi. Autorid vaatasid läbi võrdlustestid, mille nimel valdkond päriselt võistleb, edetabelid, kuhu mudelid optimeeritakse, ning leidsid, et peaaegu kõik annavad „ma ei tea” eest täpselt sama tulemuse kui vale vastuse eest: null. Sellise reegli all võidab alati pakkuv mudel muidu identsest mudelist, mis märgib ausalt oma ebakindluse. Üsna otseses mõttes hindame me neid hallutsineerima.

Just see osa tasub meelde jätta, sest see läheb vastu tavapärasele pealkirjale. Hallutsinatsiooni müüakse sageli kui tehnoloogia vältimatut, peaaegu müstilist piiri. Töö vaidleb mõlemale poolele vastu. Eeltreeningu veapõrand ei ole müsteerium — see on tavaline statistiline viga, mida masinõpe on aastakümneid mõistnud. Ja püsimine ei ole vältimatu — vähemalt osaliselt on see meie endi ehitatud stiimul, mida saaks muuta. Süsteem, mis ebakindluse korral lihtsalt keeldub vastamast, ei hallutsineeriks üldse; kasutuses olevad mudelid ei käitu nii, sest meie edetabelid karistavad keeldumist.

Mida autorid tegid

Tööl on kolm osa. Esiteks matemaatiline argument, et osa hallutsinatsioonist on eeltreeningu ajal statistiliselt sunnitud, näidates, et „genereeri ainult kehtiv tekst” on vähemalt sama raske kui binaarne klassifitseerimisprobleem „kas see väide on kehtiv?”. Teiseks argument — mida toetab kümne mõjuka võrdlustesti ülevaade — et levinud täpsuspõhised mõõdikud premeerivad pakkumist vastamata jätmise asemel. Kolmandaks pakutud parandus ja seda testiv juhtumiuuring: avatud hindamisreeglitega (open-rubric) hindamine, kus punktireegel on kirjas küsimuses endas (näiteks „õige vastus annab 1, vale −1, seega jäta vastamata, kui oled vähem kui 50% kindel”), nii et mudel teab, millal ausust premeeritakse. Nad proovivad seda neljal tippmudelil — Google Gemini 3 Pro, OpenAI GPT-5, xAI Grok 4 ja Anthropic Claude Opus 4.5 — kasutades SimpleQA 4326 faktiküsimust. Autorid rõhutavad, et juhtumiuuring on illustratiivne, „mitte kontrollitud mudelitevaheline hindamine” (vaikesätted, häälestamist ega kulude normaliseerimist pole).

Mida nad leidsid

• Eeltreening sunnib osa vigu. Määra, millega mudel toodab enesekindlaid valeväiteid, piirab altpoolt (ligikaudu kahekordselt) temast ehitatud parima „kas see väide on kehtiv?” klassifikaatori veamäär. Faktide puhul, millel puudub õpitav muster, on see põrand vähemalt singleton-määr — nende faktide osakaal, mis esinevad treeningus täpselt ühe korra. Mõni hallutsinatsioon on vältimatu isegi täiesti puhaste andmete korral.
• Hindamine premeerib pakkumist — konkreetselt. Tavalise õige/vale punktiarvestuse puhul on optimaalne strateegia mitte kunagi vastamata jätta ning autorite ülevaade leiab, et suur enamus populaarseid võrdlusteste hindab „ma ei tea” lihtsalt valeks. Ilmekas näide nende endi poolelt: SimpleQA testis soosib toortäpsus veidi OpenAI o4-mini mudelit — mis vastab peaaegu kõigele ja eksib rohkem kui kolmel neljandikul juhtudest — GPT-5-mini ees, mis teeb palju vähem vigu, sest jätab ebakindluse korral vastamata. Hoolimatum mudel näeb edetabelis parem välja.
• Avatud hindamisreeglid pööravad stiimuli ümber (nende juhtumiuuringus). Nad testivad lihtsat hallutsinatsiooni vähendamise võtet: las mudel vastab kaks korda ning jätab vastamata, kui vastused ei ühti. Tavapärase täpsuse puhul vähendab võte vigu, aga vähendab ka täpsust — seega mõõdik heidutab selle kasutamist. Avatud hindamisreeglitega tuleb sama võte kõigil neljal mudelil eri karistusmäärade puhul paremini välja; ning GPT-5-mini — mida toortäpsus karistas ebakindluse korral vastamata jätmise eest — edestab o4-mini mudelit, kui punktireegel on avalikult kirjas (n = 4326 küsimust mudeli kohta).

Mida see tõenäoliselt tähendab

Hallutsinatsiooni vähendamine ei ole peamiselt küsimus selles, kuidas leiutada veel rohkem hallutsinatsioonispetsiifilisi teste. Küsimus on selles, kuidas muuta levinud võrdlustestide ebakindluse hindamist nii, et „ma ei tea” tunnistamine poleks enam karistatav. Kuni edetabel ei muutu, maksab hallutsinatsiooni vähendamine mudelile täpsuspunkte ja jääb seetõttu ebasoovitavaks — seepärast nimetavad autorid probleemi „sotsio-tehniliseks”: osaliselt on vaja paremat mõõdikut, osaliselt peab veenma mõjukaid edetabeleid seda kasutusele võtma.

Mida see ei tõesta

• See ei näita, et avatud hindamisreeglid parandavad hallutsinatsiooni päris kasutuses. Toetav katse on väike ja teadlikult kontrollimata juhtumiuuring — neli vaikesätetel mudelit, üks valitud leevendusvõte, üks faktiküsimuste test — mille eesmärk on näidata stiimuli ümberpöördumist, mitte mudelite järjestamist ega üldise tõhususe tõestamist.
• See ei väida, et hindamine on ainus põhjus. Treeningandmete vead, päriselt rasked probleemid ja tundmatud viibad jäävad eraldi allikateks.
• See ei toeta populaarset väidet, et hallutsinatsioonid on vältimatud. Autorid väidavad vastupidist: süsteem, mis vastaks ainult kontrollitavatele küsimustele ja muidu ütleks „ma ei tea”, ei hallutsineeriks kunagi.
• See ei kaota eeltreeningu veapõrandat — see selgitab ja piirab seda ning piir puudutab enesekindlaid faktivigu, mitte mudeli kogu käitumist.
• See ei näita, et avatud hindamisreeglitest üksi piisab. Need muudavad seda, mida hindamine premeerib; need ei asenda infootsingut, tööriistade kasutamist ega paremini kalibreeritud mudeleid.

Kui tugevad on tõendid?

• Tuum on matemaatika — formaalsed alumised piirid, mitte mõõtmised. Teoreetilise argumendina on see oma eelduste piires tugev.
• See toetub probleemi teadlikult lihtsustatud mudelitele; autorid ise märgivad „vale trihhotoomia” probleemi, kui iga vastus liigitatakse õigeks, valeks või „ma ei tea”, ning idealiseeritud „meelevaldsete faktide” keskkonda, mida kasutatakse puhtaima piiri jaoks.
• Võrdlustestide ülevaade on väike kureeritud valim — kümme mõjukat hindamist, mitte ammendav audit.
• Juhtumiuuring on päris, kuid piiratud: neli tippmudelit, üks leevendusvõte, ainult SimpleQA, vaikesätted, selgesõnaliselt „mitte kontrollitud hindamine”. See on stiimuliargumendi põhimõtte tõestus, mitte võrdlustesti tulemus.
• Tasub nimetada vaatepunkti: neli autorit kolmest töötavad või on töötanud OpenAI-s ning töö väidab, et valdkond peaks muutma mudelite hindamist. See on huvitatud osapoole hästi argumenteeritud seisukoht, mitte neutraalne välisülevaade — seda tuleb kaaluda, mitte kõrvale heita. (Töö kasuks räägib, et kriitika suunatakse sama valmisolekuga oma mudelite o4-mini ja GPT-5-mini kui teiste pihta.)

Miks see oluline on

See raamib ümber tugevalt ülesköetud probleemi. „Hallutsinatsiooni” müüakse kas õõvastava veana või nihutamatu seinana; see töö muudab selle tavaliseks ja osaliselt enda tekitatuks — statistiline põrand, millest saame päriselt aru, ning selle peal meie enda valitud stiimul. Laiem õppetund on vaiksem ja kasulikum: järgmine samm töökindluses võib sõltuda sama palju sellest, mida me mõõdame, kui sellest, mida me ehitame.

Lühidalt

Keelemudelite enesekindlad valevastused tulevad kahest kohast. Esimene on statistiline: kui faktil pole õpitavat mustrit, eksib keelt jäljendama treenitud mudel mõnikord ning selle põranda suurust saab hinnata, näiteks selle järgi, kui palju fakte ilmub treeningus ainult ühe korra. Teine on stiimulites: peaaegu kõik võrdlustestid, mille järgi mudeleid järjestatakse, annavad „ma ei tea” eest sama tulemuse kui vale vastuse eest, seega võidab pakkumine alati — kuni selleni, et kolmveerandil juhtudest eksiv mudel võib saada kõrgema skoori kui ausam mudel, mis jätab ebakindluse korral vastamata. Autorite ettepanek pole uus hallutsinatsioonitest, vaid „avatud hindamisreeglid”: punktiarvestus öeldakse küsimuses välja. Nelja tippmudeli juhtumiuuringus pöörab see stiimuli ümber, nii et hallutsinatsiooni vähendavat meetodit premeeritakse, mitte ei karistata. Tegemist on teooriat ja ülevaadet ühendava tööga, millel on väike ja selgelt kontrollimata katse ning mis on eelretsenseeritud ajakirjas Nature; lahendus on paljulubav, kuid selle laiaulatuslikku toimimist pole veel näidatud ning autorite järgi pole hallutsinatsioonid ei müstilised ega rangelt vältimatud.

Ilustamata kontroll

Mida töö näitab: Matemaatiline alumine piir, mille tõttu osa hallutsinatsioonist on eeltreeningus sunnitud (mustrita faktide puhul vähemalt „singleton-määr”); ülevaade, mille järgi enamik juhtivaid võrdlusteste ei anna „ma ei tea” eest krediiti; ning nelja mudeli juhtumiuuring, kus punktireegli viibale lisamine („avatud hindamisreeglid”) paneb hallutsinatsiooni vähendava meetodi võitma olukorras, kus tavaline täpsus seda karistas.

Mis on usutav, kuid tõestamata: Et avatud hindamisreeglite viimine peamistesse võrdlustestidesse vähendaks kasutuses olevate mudelite hallutsinatsioone sisuliselt. Toetav katse on väike ja selgesõnaliselt kontrollimata.

Mida see ei näita: Et hallutsinatsioonid on vältimatud (töö väidab vastupidist); et hindamine on ainus põhjus; et hallutsinatsiooni saab täielikult kõrvaldada; et juhtumiuuring järjestab neli mudelit omavahel.

Peamised piirangud: Teadlikult lihtsustatud õige/vale/„ma ei tea” mudel (autorid nimetavad seda „valeks trihhotoomiaks”); väike kureeritud võrdlustestide ülevaade (kümme hindamist); kontrollimata juhtumiuuring (neli mudelit, üks leevendus, üks test, vaikesätted); ning OpenAI-ga tugevalt seotud autorite argument selle kohta, kuidas valdkond peaks mudeleid hindama.

Kui palju võiks tavalugeja seda usaldada? Kõrge kindlus, et hallutsinatsioon pole ei müstiline ega rangelt vältimatu ning et levinud võrdlustestid premeerivad praegu pakkumist. Mõõdukas kindlus, et pakutud parandus aitab — sellel on nüüd päris põhimõtte tõestus, kuid mitte veel demonstratsioon, et see toimib laialt ja suures mastaabis.