Informatikk
Et språk som ikke påvirker måten du tenker om programmering på, er ikke verdt å lære.
— (1982)
Erfarne utviklere følte seg raskere med KI mens de jobbet målbart saktere — det egentlige funnet, og hvorfor det ikke er en dom over KI-koding
I en randomisert kontrollert studie lot METR seksten erfarne utviklere av åpen kildekode utføre 246 reelle oppgaver i kodebaser de kjente godt, med KI-verktøy fra tidlig i 2025 (Cursor Pro pluss Claude 3.5/3.7 Sonnet) tillatt for en tilfeldig valgt halvpart. De ventet at KI ville redusere tiden per oppgave med rundt 24%; i stedet økte den tiden med 19% — og etterpå trodde de fortsatt at KI hadde gjort dem rundt 20% raskere. Dette oppfatningsgapet er den skarpe, robuste kjernen i studien. Men det gjelder seksten utviklere, én snever situasjon og et fast øyeblikksbilde fra tidlig i 2025: Forfatterne er tydelige på at det ikke viser at KI ikke hjelper de fleste utviklere, og deres egen oppfølging fra 2026 heller allerede mot en tidsgevinst, med sine egne forbehold.
Et kryptografisk bevis kan skjule hemmeligheten sin ved å gjøre den manglende simulatoren vanskelig å bevise
Nullkunnskapsbevis lar noen bevise en påstand uten å avsløre vitnet. Klassisk teori sier at dette, i full forstand, ikke kan oppnås med én melding, uten betrodd oppsett og med perfekt sunnhet. Rahul Ilangos artikkel får ikke denne umuligheten til å forsvinne. Den endrer målet: I stedet for å kreve at en simulator virkelig finnes, krever den at intet valgt bevissystem effektivt kan bevise at simulatoren ikke finnes. Under store antagelser fra beviskompleksitet og kryptografi er det nok til å gjenvinne falsifiserbare, spillbaserte konsekvenser av nullkunnskap, egenskap for egenskap. Poenget er ikke en internettprimitiv som kan kobles rett inn. Det er en bevisteoretisk måte å gjøre matematisk ubevisbarhet om til kryptografisk dekke på.
En medisinsk KI kan ivareta personvernet i gjennomsnitt og likevel eksponere enkeltpasienter — særlig de underrepresenterte
At en medisinsk KI-modell kalles «personvernbevarende», hviler vanligvis på ett gjennomsnittstall. Denne studien hevder at dette er feil test. Forfatterne studerte medlemskapsinferensangrep — som avslører om opplysningene til en bestemt person var med i treningsdataene til en modell og dermed kan røpe at personen hadde en bestemt sykdom — og målte risikoen for hver enkelt pasient i stedet for samlet, på tvers av sju medisinske datasett (bildediagnostikk, EKG, elektroniske journaler) og mange modeller per datasett. Mønsteret: Modeller som ser trygge ut i gjennomsnitt, kan likevel la en angriper identifisere bestemte personer nesten perfekt (angreps-AUC ≥ 0,95); de eksponerte kommer systematisk fra underrepresenterte grupper (etniske minoriteter, sjelden sykdom, uvanlig bildediagnostikk); og problemet blir verre når modellene vokser. Forfatterne sier ikke at medisinsk KI skal forlates — de sier at personvern må måles for hver enkelt pasient, at tilgangen til modeller må kontrolleres, og at differensielt personvern må brukes. Den ubehagelige kjernen: «privat i gjennomsnitt» er ingen personverngaranti, og den svikter pasientene som allerede har minst beskyttelse.
Å lære en KI som tegner å se på arket
Språkmodeller som genererer vektorgrafikk, gjør det i blinde — de skriver tegnekommandoene uten noen gang å se resultatet. En ny metode lar modellen se sitt eget lerret fylles, strek for strek, og den ærlige vendingen er at det blir dårligere bare å gi den øyne: Den må trenes på nytt for å bruke dem. Resultatet er en modell som matcher eller så vidt slår rivaler trent på opptil tjue ganger mer data — et reelt og nøkternt resultat på én standardtest, ikke en revolusjon.
En KI-agent håndterte hele pasientkasus på egen hånd — i en simulator, basert på tidligere journaler
MIRA er en ny type medisinsk KI: I stedet for å besvare ett spørsmål håndterer den en hel sak i en simulert sykehusjournal — tar opp sykehistorie, bestiller og leser undersøkelser, kommer frem til en diagnose og skriver ordinasjonene. På 574 retrospektive kasus fra en offentlig database, innenfor åtte forhåndsvalgte diagnoser, rapporterer forfatterne at den overgikk leger i diagnostisk treffsikkerhet og tok beslutninger som i stor grad fulgte retningslinjene og var legemiddelsikre. Hvert forbehold i den setningen veier tungt: Den kjørte i et sandkassemiljø med tidligere journaler, bare i tekst; mye av forspranget kom ved tilstander med entydige prøveresultater; den bestilte omtrent dobbelt så mange blodprøver som legene; og flere utfall ble vurdert opp mot det som var registrert i originaljournalen. Det virkelige fremskrittet er en agent som handler gjennom hele arbeidsflyten — ikke bevis for at en maskin nå stiller bedre diagnoser enn en lege. Forfatterne sier det selv: Generaliserbarhet, sikkerhet og styring krever fortsatt prospektive studier i den virkelige verden.
Fungerer store «grunnmodeller» for roboter faktisk bedre? Et grundig svar — et forsiktig ja, og de fleste studier klarer ikke å avgjøre det
Toyota Research Institute trente «store atferdsmodeller» — robotpolicyer forhåndstrent på ~1,700 timer med varierte manipulasjonsdata — og testet dem mot policyer for én oppgave som var trent fra bunnen av, med uvanlig grundighet: blindede, randomiserte forsøk med store utvalg (~1,800 i den virkelige verden, 47,000+ i simulering) og reell statistikk. Etter finjustering for hver oppgave gjorde de store modellene det bedre i gjennomsnitt, trengte omtrent 3–5× mindre oppgavespesifikke data og var mer robuste når forholdene endret seg; ytelsen steg jevnt med mer data til forhåndstreningen. Men uten finjustering slo de ikke konsekvent modeller for én oppgave, flere effekter var så små at de store utvalgene måtte til for at de i det hele tatt skulle bli synlige, og et hverdagslig valg om datanormalisering betydde mer enn arkitekturen. Dette er avmålt støtte til retningen med grunnmodeller for roboter — ikke en robot for generell bruk, ikke en zero-shot-generalist og ikke et «emergent sprang» — samt en tydelig advarsel om at mye av robotikken kanskje måler støy.
Hvorfor språkmodeller hallusinerer — og hvorfor måten vi bedømmer dem på opprettholder det
De selvsikre usannhetene vi kaller «hallusinasjoner», er ikke en mystisk feil: noen er et statistisk biprodukt av treningen, og de består fordi gjengse benchmarker belønner en selvsikker gjetning fremfor et ærlig «jeg vet ikke». En fallstudie på fire ledende modeller viser at det å angi bedømmelsesreglene i spørsmålet («åpne bedømmelsesregler») snur dette insentivet.