Компјутерски науки
Јазик што не влијае врз начинот на кој размислувате за програмирањето не вреди да се изучува.
— (1982)
Искусни програмери се чувствуваа побрзи со AI додека мерливо работеа побавно — вистинскиот наод и пресудата што ова не е
Во рандомизирано контролирано испитување на METR, шеснаесет искусни развивачи на софтвер со отворен код извршувале 246 вистински задачи на кодни бази што добро ги познавале, а на случајна половина им биле дозволени AI-алатки од почетокот на 2025 година (Cursor Pro и Claude 3.5/3.7 Sonnet). Очекувале AI да го скрати времето за околу 24%; наместо тоа, времето за завршување пораснало за 19%, а потоа тие и натаму верувале дека се забрзале за околу 20%. Токму тој јаз меѓу чувството и мерењето е најсилниот дел од студијата. Но станува збор за шеснаесет програмери, тесна средина и фиксиран момент; авторите јасно велат дека ова не покажува дека AI не им помага на повеќето програмери, а нивното следење од 2026 година веќе навестува забрзување, со свои ограничувања.
Криптографски доказ може да ја скрие тајната така што ќе биде тешко да се докаже дека симулаторот недостига
Zero-knowledge доказите овозможуваат да докажете тврдење без да го откриете сведокот. Класичната теорија вели дека во целосната смисла не можете истовремено да имате една порака, никаков доверлив setup и perfect soundness. Трудот на Rahul Ilango не ја брише таа невозможност. Тој ја менува целта: наместо да бара симулатор навистина да постои, бара ниеден избран proof system да не може ефикасно да докаже дека симулаторот не постои. Под големи претпоставки од proof complexity и криптографијата, тоа е доволно за својство по својство да се вратат falsifiable, game-based последиците од zero-knowledge. Поентата не е готов интернет primitive. Тоа е proof-theoretic начин математичката недокажливост да се претвори во криптографско покритие.
Медицински AI може да биде приватен во просек, а сепак да изложува одредени пациенти — најмногу недоволно застапените
Ознаката „зачувува приватност“ за медицински AI обично се потпира на една просечна бројка. Оваа студија тврди дека тоа е погрешниот тест. Анализирајќи membership inference напади — кои откриваат дали записот на конкретно лице бил во податоците за обука и така може индиректно да открие дека лицето имало одредена болест — авторите го измериле ризикот по пациент, наместо агрегатно, низ седум медицински datasets (снимки, ECG и електронски записи) и многу модели во секој. Образецот е јасен: модели што изгледаат безбедни во просек сепак може да дозволат речиси совршена идентификација на конкретни поединци (attack AUC ≥ 0,95); изложените систематски потекнуваат од недоволно застапени групи — етнички малцинства, ретки болести, невообичаени снимки — а проблемот се влошува со растот на моделите. Авторите не велат да се напушти медицинскиот AI; бараат приватноста да се мери по пациент, пристапот до моделите да се контролира и да се користи диференцијална приватност. Непријатната суштина: „приватно во просек“ не е гаранција за приватност, а најчесто ги изневерува пациентите што и инаку се најмалку заштитени.
Да научиш AI што црта да гледа во страницата
Јазичните модели што генерираат векторска графика работат на слепо — ги пишуваат инструкциите без никогаш да го видат резултатот. Нов метод му дозволува на моделот да гледа како сопственото платно се пополнува, потег по потег, а чесниот пресврт е дека само да му дадеш очи ги влошува работите: мора повторно да се обучи да ги користи. Добивката е модел што ги достигнува или малку ги надминува ривалите обучени со до дваесет пати повеќе податоци — реален, внимателен резултат на еден benchmark, не револуција.
AI-агент самостојно обработуваше цели случаи на пациенти — во симулатор, врз стари записи
MIRA е нов тип медицинска AI: наместо да одговори на едно прашање, таа обработува цел случај во симулиран болнички запис — зема анамнеза, нарачува и чита тестови, стигнува до дијагноза и ги пишува наредбите. На 574 ретроспективни случаи од јавна база, низ осум однапред избрани дијагнози, авторите пријавуваат дека ја надминала дијагностичката точност на лекарите и донесувала главно одлуки усогласени со насоките и безбедни во однос на лекови. Но секој квалификатор е важен: работела во песочна средина врз стари записи и само преку текст; голем дел од предноста дошол кај состојби со јасни тест-резултати; нарачувала околу двојно повеќе крвни тестови од лекарите; а неколку исходи биле оценети според тоа што било запишано во оригиналното досие. Вистинскиот напредок е агент што дејствува низ целиот работен тек — не доказ дека машина сега дијагностицира подобро од лекар. Самите автори велат дека генерализацијата, безбедноста и управувањето сè уште бараат проспективни студии во реалниот свет.
Дали големите роботски „foundation models“ навистина работат подобро? Внимателниот одговор е: умерено да — а многу студии не можат ни да го видат тоа
Toyota Research Institute обучи „large behavior models“ — роботски политики pretrained на ~1,700 часа разновидни манипулациски податоци — и ги тестираше против single-task политики обучени од нула со невообичаена строгост: слепи, рандомизирани, големи примероци (~1,800 реални, 47,000+ симулациски) со вистинска статистика. По finetuning по задача, големите модели во просек беа подобри, бараа приближно 3–5× помалку task-specific податоци и беа поробусни кога условите се менуваа; перформансите растеа мазно со повеќе pretraining data. Но без finetuning не ги победуваа конзистентно single-task моделите, неколку ефекти беа толку мали што бараа големи примероци, а банален избор на нормализација значеше повеќе од архитектурата. Тоа е измерена поддршка за robot-foundation-model насоката — не општ робот, не zero-shot генералист, не „emergent скок“ — и предупредување дека многу роботика можеби мери шум.
Зошто јазичните модели халуцинираат — и зошто начинот на кој ги оценуваме го одржува проблемот
Самоуверените неточности што ги нарекуваме „халуцинации“ не се мистериозен дефект: дел се статистички нуспроизвод на обуката, а опстојуваат затоа што главните benchmark-и наградуваат самоуверено погодување повеќе од искрено „не знам“. Case study со четири frontier модели покажува дека наведувањето на правилата за бодирање во prompt-от („open rubrics“) го превртува тој поттик.