Informatika
Jazyk, který nemění způsob, jakým přemýšlíte o programování, nestojí za to znát.
— (1982)
Zkušení vývojáři se s AI cítili rychlejší, přestože měřitelně zpomalili — skutečný výsledek, nikoli verdikt nad programováním s AI
V randomizované kontrolované studii nechal METR šestnáct zkušených open-source vývojářů provést 246 skutečných úloh v kódových základnách, které dobře znali, přičemž u náhodné poloviny byly povoleny nástroje AI z počátku roku 2025 (Cursor Pro a Claude 3.5/3.7 Sonnet). Čekali, že AI zkrátí čas asi o 24 %; místo toho jej prodloužila o 19 % — a poté se stále domnívali, že je zrychlila přibližně o 20 %. Tato mezera ve vnímání je výrazným a robustním jádrem studie. Jde však o šestnáct vývojářů, jedno úzké prostředí a pevný snímek počátku roku 2025: autoři výslovně uvádějí, že výsledek neukazuje selhání AI u většiny vývojářů, a jejich vlastní navazující data z roku 2026 již směřují ke zrychlení, s vlastními výhradami.
Kryptografický důkaz může skrýt tajemství tím, že ztíží prokázání nepřítomnosti simulátoru
Důkazy s nulovou znalostí umožňují prokázat tvrzení bez odhalení svědka. Klasická teorie říká, že v plném smyslu toho nelze dosáhnout jedinou zprávou, bez důvěryhodného počátečního nastavení a s dokonalou spolehlivostí. Práce Rahula Ilanga tuto nemožnost neruší. Mění cíl: místo požadavku, aby simulátor skutečně existoval, žádá, aby žádný zvolený důkazový systém nedokázal efektivně prokázat, že simulátor neexistuje. Za významných předpokladů z teorie složitosti důkazů a kryptografie to stačí k tomu, aby se — vlastnost po vlastnosti — obnovily falzifikovatelné důsledky nulové znalosti založené na hrách. Nejde o hotový internetový primitiv. Je to způsob vycházející z teorie důkazů, jak proměnit matematickou neprokazatelnost v kryptografické krytí.
Lékařská AI může být v průměru soukromá, a přesto odhalovat konkrétní pacienty — zejména ty nedostatečně zastoupené
Označení modelu lékařské AI za „chránící soukromí“ obvykle stojí na jediném průměrném čísle. Tato studie tvrdí, že jde o nesprávný test. Při zkoumání útoků na odvození členství — které odhalují, zda byl záznam konkrétní osoby v trénovacích datech modelu, a mohou tak prozradit, že dotyčný trpěl určitou nemocí — autoři měřili riziko pro každého pacienta zvlášť, nikoli pouze souhrnně. Analýza zahrnula sedm lékařských datových sad (snímky, EKG a elektronické záznamy) a u každé řadu modelů. Vzorec byl následující: modely, které v průměru vypadají bezpečně, mohou útočníkovi stále umožnit téměř dokonale určit konkrétní osoby (AUC útoku ≥ 0,95); ohroženi jsou systematicky lidé z nedostatečně zastoupených skupin (etnické menšiny, vzácná onemocnění, neobvyklé snímky); a s růstem modelů se problém zhoršuje. Autoři nevyzývají k opuštění lékařské AI — doporučují měřit soukromí na úrovni jednotlivých pacientů, řídit přístup k modelům a používat diferenciální soukromí. Nepříjemné jádro výsledku: „soukromý v průměru“ není zárukou soukromí a selhává právě u pacientů, kteří už jsou chráněni nejméně.
Jak naučit kreslící AI dívat se na plátno
Jazykové modely vytvářející vektorovou grafiku kreslí naslepo — zapisují kreslicí příkazy, aniž kdy spatří výsledek. Nová metoda dovoluje modelu sledovat, jak se jeho vlastní plátno zaplňuje tah po tahu. Poctivý zvrat spočívá v tom, že pouhé přidání zraku výkon zhorší: model se musí znovu naučit zrak používat. Výsledkem je model, který se vyrovná soupeřům trénovaným na až dvacetkrát větším množství dat nebo je mírně překoná — skutečný, pečlivě vymezený výsledek v jednom benchmarku, nikoli revoluce.
Agent AI samostatně zpracovával celé případy pacientů — v simulátoru nad staršími záznamy
MIRA je nový druh lékařské AI: místo odpovědi na jedinou otázku zpracuje celý případ v simulovaném nemocničním záznamu — odebere anamnézu, objedná a vyhodnotí vyšetření, dospěje k diagnóze a zapíše pokyny. U 574 retrospektivních případů z veřejné databáze, zahrnujících osm předem vybraných diagnóz, podle autorů překonal lékaře v diagnostické přesnosti a rozhodoval převážně v souladu s doporučeními a bezpečně z hlediska medikace. Každá výhrada v této větě je důležitá: systém běžel v testovacím prostředí, na minulých záznamech a pouze s textem; velká část jeho náskoku pocházela z onemocnění s jednoznačnými výsledky vyšetření; objednal zhruba dvakrát více krevních testů než lékaři; a několik výsledků se hodnotilo podle toho, co obsahovala původní dokumentace. Skutečným pokrokem je agent, který pracuje napříč celým postupem — nikoli důkaz, že stroj nyní diagnostikuje lépe než lékař. Autoři sami uvádějí, že zobecnitelnost, bezpečnost a řízení stále vyžadují prospektivní studie v reálném světě.
Fungují velké „základní modely“ robotů opravdu lépe? Opatrná odpověď zní: do určité míry ano
Toyota Research Institute natrénoval „velké modely chování“ – řídicí politiky robotů předtrénované na zhruba 1 700 hodinách rozmanitých manipulačních dat – a v mimořádně přísných, zaslepených a randomizovaných zkouškách je porovnal s politikami pro jedinou úlohu trénovanými od nuly. Po doladění si velké modely vedly v průměru lépe, potřebovaly asi třikrát až pětkrát méně dat pro konkrétní úlohu a lépe odolávaly změnám podmínek. Bez doladění však jednoúlohové modely soustavně nepřekonávaly, některé účinky byly velmi malé a normalizace dat měla větší vliv než architektura. Výsledek podporuje tento směr, ale neprokazuje univerzálního robota, schopnost řešit nové úlohy bez ukázek ani náhlý „emergentní skok“.
Proč jazykové modely halucinují – a proč tento problém udržuje způsob hodnocení
Sebevědomě pronášené nepravdy, kterým říkáme „halucinace“, nejsou záhadnou závadou: některé jsou statistickým vedlejším produktem trénování a problém přetrvává, protože běžné benchmarky odměňují sebevědomé hádání více než poctivé „nevím“. Případová studie čtyř předních modelů ukazuje, že uvedení pravidel bodování přímo v zadání – pomocí „explicitních kritérií“ – tuto pobídku obrací.