Informatika
Jazyk, ktorý neovplyvňuje spôsob, akým premýšľate o programovaní, nestojí za to poznať.
— (1982)
Skúsení vývojári sa s AI cítili rýchlejší, hoci merateľne spomalili — skutočný výsledok, nie verdikt nad programovaním s AI
V randomizovanej kontrolovanej štúdii nechal METR šestnásť skúsených open-source vývojárov vykonať 246 skutočných úloh v kódových základniach, ktoré dobre poznali, pričom pri náhodnej polovici boli povolené nástroje AI zo začiatku roka 2025 (Cursor Pro a Claude 3.5/3.7 Sonnet). Čakali, že AI skráti čas asi o 24 %; namiesto toho ho predĺžila o 19 % — a potom sa stále domnievali, že ich zrýchlila približne o 20 %. Táto medzera vo vnímaní je ostrým a robustným jadrom štúdie. Ide však o šestnásť vývojárov, jedno úzke prostredie a pevnú snímku začiatku roka 2025: autori výslovne uvádzajú, že výsledok neukazuje zlyhanie AI pri väčšine vývojárov, a ich vlastné nadväzujúce údaje z roku 2026 už smerujú k zrýchleniu, s vlastnými výhradami.
Kryptografický dôkaz môže skryť tajomstvo tým, že sťaží dokázanie, že simulátor chýba
Dôkazy s nulovou znalosťou umožňujú niekomu dokázať tvrdenie bez odhalenia svedka. Klasická teória hovorí, že ich v plnom zmysle nemožno mať s jedinou správou, bez dôveryhodného nastavenia a s dokonalou spoľahlivosťou. Práca Rahula Ilanga túto nemožnosť neruší. Mení cieľ: namiesto požiadavky, aby simulátor skutočne existoval, žiada, aby zvolený dôkazový systém nedokázal efektívne dokázať, že simulátor neexistuje. Za hlavných predpokladov z teórie zložitosti dôkazov a kryptografie to stačí na postupné obnovenie jednotlivých falzifikovateľných herných dôsledkov nulovej znalosti. Nejde o hotový praktický primitiv. Je to dôkazovo-teoretický spôsob, ako z matematickej nepreukázateľnosti vytvoriť kryptografické krytie.
Lekárska AI môže byť v priemere súkromná, no napriek tomu odhaľovať konkrétnych pacientov — najmä tých nedostatočne zastúpených
Tvrdenie, že medicínsky model AI „chráni súkromie“, zvyčajne stojí na jedinom priemernom čísle. Táto štúdia tvrdí, že ide o nesprávny test. Pri skúmaní útokov na odvodenie členstva — ktoré zisťujú, či bol záznam konkrétnej osoby v trénovacích dátach modelu, a môžu tak prezradiť, že mala určitú chorobu — autori merali riziko po jednotlivých pacientoch, nie iba súhrnne, naprieč siedmimi súbormi medicínskych dát a mnohými modelmi. Výsledný vzorec: modely, ktoré vyzerajú v priemere bezpečne, stále umožňujú útočníkovi takmer dokonale identifikovať niektoré osoby (AUC útoku ≥ 0,95); ohrození sú systematicky ľudia z nedostatočne zastúpených skupín, napríklad príslušníci etnických menšín, pacienti so zriedkavými chorobami či nezvyčajnými snímkami; a s veľkosťou modelov sa problém zhoršuje. Autori nenavrhujú opustiť medicínsku AI — žiadajú merať súkromie na úrovni pacienta, kontrolovať prístup k modelom a používať diferenciálne súkromie. Nepríjemné jadro výsledku znie: „súkromné v priemere“ nie je zárukou súkromia a zlyháva práve u pacientov, ktorí sú už najmenej chránení.
Naučiť kresliacu AI sledovať vlastné plátno
Jazykové modely, ktoré vytvárajú vektorovú grafiku, tradične kreslia naslepo — zapisujú príkazy bez toho, aby videli výsledok. Nová metóda umožňuje modelu sledovať, ako sa jeho vlastné plátno dopĺňa ťah po ťahu. Poctivým zvratom je, že samotné pridanie zraku výkon zhoršuje: model treba znovu natrénovať, aby vizuálnu spätnú väzbu vedel používať. Výsledný model sa vyrovnáva konkurentom trénovaným až na dvadsaťnásobnom množstve dát alebo ich mierne prekonáva — ide o skutočný, no skromný výsledok na jedinom benchmarku, nie o revolúciu.
Agent AI samostatne spracoval celé prípady pacientov — v simulátore a z minulých záznamov
MIRA je nový druh medicínskej AI: namiesto odpovede na jedinú otázku spracuje celý prípad v simulovanom nemocničnom zázname — odoberie anamnézu, objedná a vyhodnotí vyšetrenia, stanoví diagnózu a zapíše pokyny. V 574 retrospektívnych prípadoch z verejnej databázy, rozdelených medzi osem vopred vybraných diagnóz, podľa autorov prekonala lekárov v diagnostickej presnosti a prijímala prevažne odporúčané rozhodnutia bezpečné z hľadiska liečby. Každé spresnenie v tejto vete má váhu: pracovala v testovacom prostredí s minulými záznamami a iba s textom; veľká časť jej náskoku pochádzala zo stavov s jednoznačnými výsledkami vyšetrení; objednávala približne dvakrát toľko krvných testov ako lekári; a viaceré výsledky sa hodnotili podľa pôvodného záznamu. Skutočným pokrokom je agent, ktorý koná v celom pracovnom postupe — nie dôkaz, že stroj už diagnostikuje lepšie než lekár. Autori to hovoria jasne: zobecniteľnosť, bezpečnosť a správa si stále vyžadujú prospektívne štúdie v reálnom prostredí.
Fungujú veľké „základné modely“ robotov skutočne lepšie? Opatrná odpoveď znie: do určitej miery áno
Toyota Research Institute natrénoval „veľké modely správania“ – riadiace politiky robotov predtrénované na zhruba 1 700 hodinách rozmanitých manipulačných dát – a v mimoriadne prísnych, zaslepených a randomizovaných skúškach ich porovnal s politikami pre jedinú úlohu trénovanými od nuly. Po doladení si veľké modely viedli v priemere lepšie, potrebovali asi trikrát až päťkrát menej dát pre konkrétnu úlohu a lepšie odolávali zmenám podmienok. Bez doladenia však jednoúlohové modely sústavne neprekonávali, niektoré účinky boli veľmi malé a normalizácia dát mala väčší vplyv ako architektúra. Výsledok podporuje tento smer, ale nepreukazuje univerzálneho robota, schopnosť riešiť nové úlohy bez ukážok ani náhly „emergentný skok“.
Prečo jazykové modely halucinujú – a prečo tento problém udržuje spôsob hodnotenia
Sebavedome prednášané nepravdy, ktorým hovoríme „halucinácie“, nie sú záhadnou závadou: niektoré sú štatistickým vedľajším produktom trénovania a problém pretrváva, pretože bežné benchmarky odmeňujú sebavedomé hádanie viac než poctivé „neviem“. Prípadová štúdia štyroch popredných modelov ukazuje, že uvedenie pravidiel bodovania priamo v zadaní – pomocou „explicitných kritérií“ – tento stimul obracia.