Informatika
Az a nyelv, amely nem változtatja meg, ahogyan a programozásról gondolkodsz, nem érdemes arra, hogy megismerd.
— (1982)
A tapasztalt fejlesztők gyorsabbnak érezték magukat MI-vel, miközben mérhetően lassabban dolgoztak — ez a valódi eredmény, nem ítélet az MI-s kódolásról
A METR randomizált kontrollált vizsgálatában tizenhat tapasztalt nyílt forráskódú fejlesztő 246 valódi feladatot végzett jól ismert kódbázisokon; a feladatok véletlenszerű felében 2025 eleji MI-eszközöket használhattak (Cursor Pro + Claude 3.5/3.7 Sonnet). Azt várták, hogy az MI körülbelül 24%-kal csökkenti a feladatidőt; ehelyett 19%-kal növelte — utólag mégis úgy érezték, hogy mintegy 20%-kal gyorsabbak voltak. Ez az észlelési rés a vizsgálat legerősebb magja. De tizenhat fejlesztőről, szűk környezetről és rögzített 2025 eleji pillanatfelvételről van szó; a szerzők szerint ez nem bizonyítja, hogy az MI a fejlesztők többségének nem segít, saját 2026-os utánkövetésük pedig már gyorsulás felé hajlik, a maga korlátaival.
Egy kriptográfiai bizonyítás úgy rejtheti el a titkát, hogy a hiányzó szimulátor hiányát nehéz bebizonyítani
A zéró tudású bizonyítások lehetővé teszik, hogy valaki egy állítást a tanú felfedése nélkül bizonyítson. A klasszikus elmélet szerint ez teljes értelemben nem lehetséges egyetlen üzenettel, megbízható beállítás nélkül és tökéletes megbízhatósággal. Rahul Ilango tanulmánya nem tünteti el ezt a lehetetlenséget. Megváltoztatja a célt: ahelyett, hogy valóban létező szimulátort követelne, azt kéri, hogy egy választott bizonyítási rendszer ne tudja hatékonyan bebizonyítani a szimulátor nemlétezését. Jelentős bizonyításkomplexitási és kriptográfiai feltevések mellett ez elég ahhoz, hogy tulajdonságonként visszanyerjük a zéró tudás cáfolható, játék-alapú következményeit. Nem egy kész internetes primitívről van szó, hanem egy bizonyításelméleti módszerről, amely a matematikai bizonyíthatatlanságot kriptográfiai fedezékké alakítja.
Egy orvosi MI átlagosan lehet privát, miközben egyes betegeket mégis felfed — leginkább az alulreprezentáltakat
Egy „adatvédelmet megőrzőnek” nevezett orvosi MI-modell minősítése rendszerint egyetlen átlagos számon nyugszik. Ez a tanulmány amellett érvel, hogy ez rossz teszt. A membership inference támadásokat vizsgálva — amelyek felfedhetik, hogy egy konkrét személy rekordja szerepelt-e a modell tanítóadatai között, és ezzel akár azt is elárulhatják, hogy bizonyos betegsége volt — a szerzők hét orvosi adathalmazon (képalkotás, ECG, elektronikus nyilvántartások) és számos modellen betegenként, nem összesítve mérték a kockázatot. A minta: az átlag alapján biztonságosnak tűnő modellek egyes személyeket szinte tökéletesen azonosíthatóvá tehetnek (attack AUC ≥ 0,95); a kitettek rendszeresen alulreprezentált csoportokból kerülnek ki; és a probléma a modellek növekedésével rosszabbodik. A szerzők nem az orvosi MI elhagyását kérik, hanem betegenkénti adatvédelmi mérést, a modellhozzáférés szabályozását és differenciális adatvédelmet. A kellemetlen lényeg: az „átlagosan privát” nem adatvédelmi garancia, és éppen azokat a betegeket hagyja cserben, akik eleve a legkevésbé védettek.
Megtanítani egy rajzoló MI-t arra, hogy nézze a lapot
A vektorgrafikát generáló nyelvi modellek vakon dolgoznak: úgy írják ki a rajzolási parancsokat, hogy közben nem látják az eredményt. Egy új módszer lehetővé teszi, hogy a modell vonásról vonásra figyelje, hogyan telik meg a vászon. Az őszinte csavar az, hogy pusztán attól, hogy szemet kap, még rosszabb lesz: újra kell tanítani arra, hogyan használja a látványt. A jutalom egy olyan modell, amely egy benchmarkon utoléri vagy kissé megelőzi az akár hússzor több adattal tanított riválisokat — valódi, gondosan körülhatárolt eredmény, nem forradalom.
Egy MI-ügynök önállóan vitt végig teljes betegeseteket — szimulátorban, múltbeli kórlapokon
A MIRA az orvosi MI új típusa: ahelyett, hogy egyetlen kérdésre válaszolna, egy teljes esetet dolgoz fel egy szimulált kórházi nyilvántartásban — anamnézist vesz fel, vizsgálatokat rendel és értelmez, diagnózist állít fel, majd utasításokat ír. Egy nyilvános adatbázis 574 retrospektív esetén, nyolc előre kiválasztott diagnózisban a szerzők szerint diagnosztikai pontosságban felülmúlta az orvosokat, döntései pedig nagyrészt irányelv-konformak és gyógyszerbiztonsági szempontból megfelelőek voltak. De minden minősítés számít: sandboxban, múltbeli kórlapokon, kizárólag szöveggel futott; előnyének nagy része egyértelmű vizsgálati eredményekkel járó állapotokon jelent meg; körülbelül kétszer annyi vérvizsgálati információt használt, mint az orvosok; és több kimenetelt ahhoz pontoztak, amit az eredeti kórlap rögzített. A valódi előrelépés egy olyan ügynök, amely az egész munkafolyamatban cselekszik — nem annak bizonyítéka, hogy egy gép most már jobban diagnosztizál az orvosnál. A szerzők is ezt mondják: az általánosíthatóságot, biztonságot és irányítást prospektív, valós vizsgálatokban kell még tesztelni.
Tényleg jobban működnek a nagy robotikai „foundation modellek”? Gondos válasz: mérsékelten igen — és a legtöbb vizsgálat nem tudná megmondani
A Toyota Research Institute „large behavior modelleket” — ~1 700 órányi sokféle manipulációs adaton előtanított robotpolicy-ket — tanított, majd szokatlan szigorral hasonlította őket nulláról tanított egyfeladatos policy-khez: vak, randomizált, nagy mintás próbákban (~1 800 valós, 47 000+ szimulációs), valódi statisztikával. Feladatonkénti finomhangolás után a nagy modellek átlagosan jobbak voltak, nagyjából 3–5× kevesebb feladatspecifikus adatot igényeltek, és robusztusabbak voltak megváltozott körülmények között; a teljesítmény simán nőtt több előtanítási adattal. Finomhangolás nélkül azonban nem verték következetesen az egyfeladatos modelleket, több hatás csak a nagy mintákban vált láthatóvá, és egy hétköznapi adatnormalizálási döntés többet számított az architektúránál. Ez kimért támogatás a robot foundation model iránynak — nem általános célú robot, nem zero-shot generalista és nem „emergens ugrás” —, valamint erős figyelmeztetés arra, hogy a robotika egy része talán zajt mér.
Miért hallucinálnak a nyelvi modellek — és miért tartja fenn ezt az, ahogyan pontozzuk őket
A magabiztos hamis állítások, amelyeket „hallucinációnak” nevezünk, nem rejtélyes hibák: egy részük a tanítás statisztikai mellékterméke, és azért maradnak fenn, mert a fősodorbeli benchmarkok jobban jutalmazzák a magabiztos tippet, mint az őszinte „nem tudom” választ. Négy élvonalbeli modellen végzett esettanulmány szerint a pontozási szabályok promptban való közlése („nyílt pontozási szabályok”) megfordítja ezt az ösztönzőt.