Datalogi
Et sprog, der ikke påvirker den måde, du tænker om programmering på, er ikke værd at lære.
— (1982)
Erfarne udviklere følte sig hurtigere med AI, mens de arbejdede målbart langsommere — det egentlige resultat, og hvorfor det ikke er en dom over AI-kodning
I et randomiseret kontrolleret forsøg lod METR seksten erfarne open source-udviklere udføre 246 virkelige opgaver i kodebaser, de kendte godt, med AI-værktøjer fra begyndelsen af 2025 (Cursor Pro plus Claude 3.5/3.7 Sonnet) tilladt for en tilfældigt valgt halvdel. De forventede, at AI ville reducere tiden pr. opgave med omkring 24%; i stedet øgede den tiden med 19% — og bagefter troede de stadig, at AI havde gjort dem omkring 20% hurtigere. Denne opfattelseskløft er undersøgelsens skarpe og robuste kerne. Men det gælder seksten udviklere, én snæver situation og et fast øjebliksbillede fra begyndelsen af 2025: Forfatterne er tydelige om, at det ikke viser, at AI ikke hjælper de fleste udviklere, og deres egen opfølgning fra 2026 hælder allerede mod en tidsgevinst med sine egne forbehold.
Et kryptografisk bevis kan skjule sin hemmelighed ved at gøre den manglende simulator svær at bevise
Nulvidensbeviser lader nogen bevise et udsagn uden at afsløre vidnet. Klassisk teori siger, at dette i fuld forstand ikke kan opnås med én meddelelse, uden betroet opsætning og med perfekt sundhed. Rahul Ilangos artikel får ikke denne umulighed til at forsvinde. Den ændrer målet: I stedet for at kræve, at en simulator virkelig findes, kræver den, at intet valgt bevissystem effektivt kan bevise, at simulatoren ikke findes. Under store antagelser fra beviskompleksitet og kryptografi er det nok til at genvinde falsificerbare, spilbaserede konsekvenser af nulviden, egenskab for egenskab. Pointen er ikke en internetprimitiv, der kan tilsluttes direkte. Det er en bevisteoretisk måde at gøre matematisk ubeviselighed til kryptografisk dække på.
En medicinsk AI kan beskytte privatlivet i gennemsnit og stadig blotlægge enkelte patienter — især de underrepræsenterede
At en medicinsk AI-model kaldes »privatlivsbevarende«, hviler som regel på ét gennemsnitstal. Dette studie hævder, at det er den forkerte test. Forfatterne undersøgte medlemskabsinferensangreb — som afslører, om en bestemt persons oplysninger var med i en models træningsdata, og dermed kan røbe, at personen havde en bestemt sygdom — og målte risikoen for hver patient frem for samlet, på tværs af syv medicinske datasæt (billeddiagnostik, EKG, elektroniske journaler) og mange modeller pr. datasæt. Mønstret: Modeller, der ser sikre ud i gennemsnit, kan stadig lade en angriber identificere bestemte personer næsten perfekt (angrebs-AUC ≥ 0,95); de eksponerede kommer systematisk fra underrepræsenterede grupper (etniske minoriteter, sjælden sygdom, usædvanlig billeddiagnostik); og problemet forværres, når modellerne vokser. Forfatterne siger ikke, at medicinsk AI skal opgives — de siger, at privatlivsrisikoen skal måles for hver patient, at adgangen til modeller skal kontrolleres, og at differentiel privatlivsbeskyttelse skal bruges. Den ubehagelige kerne: »privat i gennemsnit« er ingen privatlivsgaranti, og det svigter de patienter, der allerede er dårligst beskyttet.
At lære en tegnende AI at se på arket
Sprogmodeller, der genererer vektorgrafik, gør det i blinde — de skriver tegnekommandoerne uden nogensinde at se resultatet. En ny metode lader modellen se sit eget lærred blive fyldt, strøg for strøg, og den ærlige drejning er, at det bliver værre blot at give den øjne: Den skal genoptrænes til at bruge dem. Resultatet er en model, der matcher eller lige akkurat slår rivaler trænet på op til tyve gange flere data — et reelt og nøgternt resultat på én standardtest, ikke en revolution.
En AI-agent håndterede hele patientforløb på egen hånd — i en simulator, baseret på tidligere journaler
MIRA er en ny slags medicinsk AI: I stedet for at besvare ét spørgsmål håndterer den et helt forløb i en simuleret hospitalsjournal — optager sygehistorie, bestiller og læser undersøgelser, når frem til en diagnose og skriver ordinationerne. På 574 retrospektive forløb fra en offentlig database, inden for otte på forhånd udvalgte diagnoser, rapporterer forfatterne, at den overgik læger i diagnostisk nøjagtighed og traf beslutninger, som i vid udstrækning fulgte retningslinjerne og var lægemiddelsikre. Hvert forbehold i den sætning vejer tungt: Den kørte i et sandkassemiljø med tidligere journaler, udelukkende i tekst; en stor del af forspringet kom ved tilstande med entydige testresultater; den bestilte cirka dobbelt så mange blodprøver som lægerne; og flere resultater blev bedømt op mod det, der var registreret i den oprindelige journal. Det virkelige fremskridt er en agent, der handler gennem hele arbejdsgangen — ikke bevis for, at en maskine nu stiller bedre diagnoser end en læge. Forfatterne siger det selv: Generaliserbarhed, sikkerhed og styring kræver stadig prospektive studier i den virkelige verden.
Virker store ”grundmodeller” til robotter faktisk bedre? Et grundigt svar — et beskedent ja, og de fleste studier kan ikke afgøre det
Toyota Research Institute trænede ”store adfærdsmodeller” — robotpolitikker fortrænet på ~1,700 timer med varierede manipulationsdata — og testede dem mod politikker til én opgave, som var trænet fra bunden, med usædvanlig omhu: blindede, randomiserede forsøg med store stikprøver (~1,800 i den virkelige verden, 47,000+ i simulering) og reel statistik. Efter finjustering til hver opgave klarede de store modeller sig bedre i gennemsnit, behøvede omtrent 3–5× mindre opgavespecifikke data og var mere robuste, når betingelserne ændrede sig; ydeevnen steg jævnt med flere fortræningsdata. Men uden finjustering slog de ikke konsekvent modeller til én opgave, flere effekter var så små, at de store stikprøver var nødvendige for overhovedet at se dem, og et hverdagsagtigt valg om datanormalisering betød mere end arkitekturen. Det er afmålt støtte til retningen med grundmodeller til robotter — ikke en robot til generelle formål, ikke en zero-shot-generalist og ikke et ”emergent spring” — samt en skarp advarsel om, at en stor del af robotforskningen måske måler støj.
Hvorfor sprogmodeller hallucinerer — og hvorfor den måde vi bedømmer dem på, fastholder det
De selvsikre usandheder, vi kalder "hallucinationer", er ikke en mystisk fejl: nogle er et statistisk biprodukt af træningen, og de består, fordi gængse benchmarks belønner et selvsikkert gæt frem for et ærligt "jeg ved ikke". Et case study på fire førende modeller viser, at det at angive bedømmelsesreglerne i prompten ("åbne bedømmelsesregler") vender dette incitament om.