Informatyka
Język, który nie zmienia sposobu, w jaki myślisz o programowaniu, nie jest wart poznania.
— (1982)
Doświadczeni programiści czuli, że z AI pracują szybciej, choć pomiary wykazały spowolnienie — rzeczywisty wynik, ale nie werdykt o programowaniu z AI
W randomizowanym badaniu kontrolowanym METR zlecił szesnastu doświadczonym programistom open source wykonanie 246 rzeczywistych zadań w dobrze znanych im bazach kodu, losowo zezwalając na użycie narzędzi AI z początku 2025 roku (Cursor Pro oraz Claude 3.5/3.7 Sonnet) w połowie zadań. Oczekiwali, że AI skróci czas o około 24%; zamiast tego wydłużyła go o 19% — a później nadal sądzili, że przyspieszyła ich o około 20%. Ta luka w postrzeganiu jest wyraźnym i odpornym rdzeniem badania. Dotyczy ono jednak szesnastu programistów, jednego wąskiego środowiska i określonego momentu na początku 2025 roku: autorzy podkreślają, że nie pokazuje, iż AI nie pomaga większości programistów, a ich własne badanie uzupełniające z 2026 roku już wskazuje na przyspieszenie, choć ma własne zastrzeżenia.
Dowód kryptograficzny może ukryć sekret, utrudniając wykazanie braku symulatora
Dowody wiedzy zerowej pozwalają udowodnić zdanie bez ujawniania świadka. Klasyczna teoria mówi, że w pełnym znaczeniu nie da się tego osiągnąć jednocześnie za pomocą jednej wiadomości, bez zaufanej konfiguracji wstępnej i z doskonałą poprawnością. Praca Rahula Ilango nie usuwa tej niemożliwości. Zmienia cel: zamiast wymagać rzeczywistego istnienia symulatora, wymaga, by żaden wybrany system dowodowy nie potrafił efektywnie udowodnić, że symulator nie istnieje. Przy ważnych założeniach z teorii złożoności dowodów i kryptografii wystarcza to, by odzyskać — właściwość po właściwości — falsyfikowalne, definiowane przez gry konsekwencje wiedzy zerowej. Nie chodzi o gotowy element infrastruktury internetowej. To wywodzący się z teorii dowodów sposób przekształcenia matematycznej nieudowadnialności w kryptograficzną osłonę.
Medyczna AI może być prywatna średnio, a mimo to narażać konkretnych pacjentów — zwłaszcza słabo reprezentowanych
Określenie modelu medycznej AI jako „chroniącego prywatność” zwykle opiera się na jednej wartości średniej. Autorzy tego badania twierdzą, że to niewłaściwy test. Badając ataki wnioskowania o przynależności — ujawniające, czy rekord konkretnej osoby znalazł się w danych treningowych modelu, a tym samym mogące zdradzić, że miała ona określoną chorobę — mierzyli ryzyko osobno dla każdego pacjenta, nie tylko zbiorczo. Analiza objęła siedem medycznych zbiorów danych (obrazy, EKG i dokumentację elektroniczną) oraz wiele modeli dla każdego z nich. Wzorzec był następujący: modele wyglądające średnio na bezpieczne mogą nadal pozwalać atakującemu niemal bezbłędnie rozpoznawać konkretne osoby (AUC ataku ≥ 0,95); narażeni systematycznie należą do grup słabo reprezentowanych (mniejszości etniczne, rzadkie choroby, nietypowe obrazy); problem narasta też wraz z wielkością modeli. Autorzy nie postulują rezygnacji z medycznej AI — zalecają mierzenie prywatności na poziomie pacjenta, kontrolę dostępu do modeli i stosowanie prywatności różnicowej. Niewygodne sedno: „prywatny średnio” nie jest gwarancją prywatności i zawodzi właśnie pacjentów już najmniej chronionych.
Jak nauczyć rysującą AI patrzeć na obraz
Modele językowe generujące grafikę wektorową robią to na ślepo — zapisując polecenia rysowania bez zobaczenia efektu. Nowa metoda pozwala modelowi obserwować, jak jego własne płótno wypełnia się pociągnięcie po pociągnięciu, a szczerze mówiąc, samo dawanie mu oczu pogarsza sytuację: trzeba go przetrenować, by z nich korzystać. Efektem jest model, który dorównuje lub przewyższa rywali trenowanych na nawet dwudziestokrotnie większej liczbie danych — prawdziwy, staranny wynik na jednym benchmarku, a nie rewolucja.
Agent AI samodzielnie prowadził całe przypadki pacjentów — w symulatorze, na dawnych dokumentacjach
MIRA to nowy rodzaj medycznej AI: zamiast odpowiadać na pojedyncze pytanie, prowadzi cały przypadek w symulowanej dokumentacji szpitalnej — zbiera wywiad, zleca i odczytuje badania, ustala rozpoznanie i zapisuje zlecenia. W 574 retrospektywnych przypadkach z publicznej bazy danych, obejmujących osiem wcześniej wybranych diagnoz, według autorów osiągnęła większą trafność diagnostyczną niż lekarze, a jej decyzje były w znacznej mierze zgodne z wytycznymi i bezpieczne pod względem leków. Każde zastrzeżenie w tym zdaniu ma znaczenie: system działał w środowisku testowym, na dawnych dokumentacjach i wyłącznie na tekście; znaczna część przewagi dotyczyła chorób z jednoznacznymi wynikami badań; zlecał około dwa razy więcej badań krwi niż lekarze; kilka wyników oceniano zaś względem tego, co zapisano w pierwotnej dokumentacji. Rzeczywistym postępem jest agent działający w całym procesie pracy — nie dowód, że maszyna diagnozuje teraz lepiej od lekarza. Sami autorzy podkreślają, że uogólnienie wyników, bezpieczeństwo i nadzór nadal wymagają prospektywnych badań w rzeczywistym świecie.
Czy duże robotyczne „modele fundamentalne” naprawdę działają lepiej? Ostrożna odpowiedź — umiarkowanie tak, a większość badań nie potrafi tego stwierdzić
Toyota Research Institute wytrenował „duże modele zachowania” — polityki robotów poddane pretreningowi na ~1700 godzinach zróżnicowanych danych manipulacyjnych — i porównał je z politykami pojedynczych zadań trenowanymi od zera za pomocą wyjątkowo rygorystycznych, ślepych i randomizowanych prób o dużej liczebności (~1800 fizycznych, ponad 47 000 symulowanych) oraz właściwej statystyki. Po dostrojeniu duże modele średnio działały lepiej, potrzebowały około 3–5 razy mniej danych właściwych dla zadania i były odporniejsze na zmianę warunków; wynik rósł płynnie z ilością danych pretreningowych. Bez dostrajania nie przewyższały jednak konsekwentnie modeli jednego zadania, kilka efektów było bardzo małych, a zwykła decyzja o normalizacji danych znaczyła więcej niż architektura. To zmierzone wsparcie tego kierunku — nie robot ogólnego przeznaczenia, uniwersalny model zero-shot ani „wyłaniający się skok” — oraz ostrzeżenie, że znaczna część robotyki może mierzyć szum.
Dlaczego modele językowe halucynują — i dlaczego nasz sposób oceniania utrwala ten problem
Pewnie podawane fałsze, które nazywamy „halucynacjami”, nie są tajemniczą usterką: część stanowi statystyczny produkt uboczny treningu, a problem utrzymuje się, ponieważ główne benchmarki nagradzają pewne siebie zgadywanie bardziej niż uczciwe „nie wiem”. Studium czterech czołowych modeli pokazuje, że podanie zasad punktacji w poleceniu — zastosowanie „jawnych kryteriów” — odwraca tę zachętę.