Πληροφορική
Μια γλώσσα που δεν επηρεάζει τον τρόπο με τον οποίο σκέφτεσαι τον προγραμματισμό δεν αξίζει να τη γνωρίζεις.
— (1982)
Έμπειροι προγραμματιστές ένιωθαν ταχύτεροι με AI ενώ μετρήθηκαν πιο αργοί — το πραγματικό εύρημα και η ετυμηγορία που δεν είναι για το AI coding
Σε τυχαιοποιημένη ελεγχόμενη δοκιμή της METR, δεκαέξι έμπειροι προγραμματιστές ανοιχτού κώδικα εκτέλεσαν 246 πραγματικές εργασίες σε βάσεις κώδικα που γνώριζαν καλά, με εργαλεία AI των αρχών του 2025 (Cursor Pro μαζί με Claude 3.5/3.7 Sonnet) να επιτρέπονται τυχαία στις μισές. Περίμεναν ότι η AI θα μείωνε τον χρόνο κατά περίπου 24%· αντί γι’ αυτό, αύξησε τον χρόνο ολοκλήρωσης κατά 19% — και παρ’ όλα αυτά μετά πίστευαν ακόμη ότι τους είχε επιταχύνει κατά περίπου 20%. Αυτό το χάσμα αντίληψης είναι ο πιο καθαρός και ανθεκτικός πυρήνας της μελέτης. Όμως πρόκειται για δεκαέξι προγραμματιστές, ένα στενό πλαίσιο και ένα στιγμιότυπο των αρχών του 2025: οι συγγραφείς τονίζουν ότι δεν δείχνει πως η AI δεν βοηθά τους περισσότερους προγραμματιστές, και η δική τους συνέχεια του 2026 ήδη γέρνει προς επιτάχυνση, με τις δικές της επιφυλάξεις.
Μια κρυπτογραφική απόδειξη μπορεί να κρύψει το μυστικό της κάνοντας δύσκολο να αποδειχθεί ότι λείπει ο προσομοιωτής
Οι αποδείξεις μηδενικής γνώσης επιτρέπουν σε κάποιον να αποδείξει μια πρόταση χωρίς να αποκαλύψει τον witness. Η κλασική θεωρία λέει ότι αυτό, με την πλήρη έννοια, δεν μπορεί να συνδυαστεί με ένα μόνο μήνυμα, χωρίς trusted setup και με τέλεια soundness. Η εργασία του Rahul Ilango δεν εξαφανίζει αυτή την αδυνατότητα. Αλλάζει τον στόχο: αντί να απαιτεί ότι ένας simulator υπάρχει πραγματικά, ζητά κανένα επιλεγμένο proof system να μην μπορεί να αποδείξει αποτελεσματικά ότι ο simulator δεν υπάρχει. Υπό σημαντικές υποθέσεις από την πολυπλοκότητα αποδείξεων και την κρυπτογραφία, αυτό αρκεί για να ανακτηθούν, μία προς μία, διαψεύσιμες συνέπειες της zero-knowledge που βασίζονται σε παιχνίδια. Το νόημα δεν είναι ένα έτοιμο primitive για το διαδίκτυο. Είναι ένας proof-theoretic τρόπος να μετατραπεί η μαθηματική αναποδειξιμότητα σε κρυπτογραφική κάλυψη.
Μια ιατρική ΤΝ μπορεί να είναι ιδιωτική κατά μέσο όρο και παρ’ όλα αυτά να εκθέτει συγκεκριμένους ασθενείς — κυρίως τους υποεκπροσωπούμενους
Ένα μοντέλο ιατρικής ΤΝ που χαρακτηρίζεται «προστατευτικό της ιδιωτικότητας» συνήθως στηρίζεται σε έναν μέσο αριθμό. Αυτή η μελέτη υποστηρίζει ότι αυτός είναι λάθος έλεγχος. Μελετώντας επιθέσεις membership inference — οι οποίες αποκαλύπτουν αν η εγγραφή ενός συγκεκριμένου ανθρώπου βρισκόταν στα δεδομένα εκπαίδευσης ενός μοντέλου και έτσι μπορούν να προδώσουν ότι είχε μια συγκεκριμένη νόσο — οι συγγραφείς μέτρησαν τον κίνδυνο ανά ασθενή αντί συνολικά, σε επτά ιατρικά σύνολα δεδομένων (απεικόνιση, ΗΚΓ, ηλεκτρονικοί φάκελοι) και πολλά μοντέλα για το καθένα. Το μοτίβο: μοντέλα που φαίνονται ασφαλή κατά μέσο όρο μπορούν ακόμη να επιτρέπουν σε έναν επιτιθέμενο να ταυτοποιεί συγκεκριμένα άτομα σχεδόν τέλεια (AUC επίθεσης ≥ 0.95)· όσοι εκτίθενται ανήκουν συστηματικά σε υποεκπροσωπούμενες ομάδες (εθνοτικές μειονότητες, σπάνια νόσος, ασυνήθιστη απεικόνιση)· και το πρόβλημα χειροτερεύει όσο μεγαλώνουν τα μοντέλα. Οι συγγραφείς δεν λένε να εγκαταλείψουμε την ιατρική ΤΝ — λένε να μετράμε την ιδιωτικότητα ανά ασθενή, να ελέγχουμε την πρόσβαση στα μοντέλα και να χρησιμοποιούμε differential privacy. Ο άβολος πυρήνας: «ιδιωτικό κατά μέσο όρο» δεν είναι εγγύηση ιδιωτικότητας, και αποτυγχάνει ακριβώς για τους ασθενείς που ήδη προστατεύονται λιγότερο.
Μαθαίνοντας σε μια AI που ζωγραφίζει να κοιτάζει τη σελίδα
Τα γλωσσικά μοντέλα που παράγουν διανυσματικά γραφικά το κάνουν στα τυφλά — γράφουν τις εντολές σχεδίασης χωρίς να βλέπουν ποτέ το αποτέλεσμα. Μια νέα μέθοδος αφήνει το μοντέλο να παρακολουθεί τον καμβά του να γεμίζει, γραμμή προς γραμμή, και η έντιμη ανατροπή είναι ότι το να του δώσεις απλώς μάτια κάνει τα πράγματα χειρότερα: πρέπει να επανεκπαιδευτεί για να τα χρησιμοποιεί. Το αποτέλεσμα είναι ένα μοντέλο που ισοφαρίζει ή ξεπερνά οριακά ανταγωνιστές εκπαιδευμένους με έως είκοσι φορές περισσότερα δεδομένα — πραγματικό, προσεκτικό αποτέλεσμα σε ένα benchmark, όχι επανάσταση.
Ένας πράκτορας ΤΝ χειρίστηκε μόνος του ολόκληρα περιστατικά ασθενών — σε προσομοιωτή, πάνω σε παλιούς φακέλους
Το MIRA είναι ένα νέο είδος ιατρικής ΤΝ: αντί να απαντά σε μία ερώτηση, χειρίζεται ολόκληρο περιστατικό μέσα σε προσομοιωμένο νοσοκομειακό φάκελο — παίρνει ιστορικό, παραγγέλνει και διαβάζει εξετάσεις, φτάνει σε διάγνωση και γράφει τις εντολές. Σε 574 αναδρομικά περιστατικά από δημόσια βάση δεδομένων, για οκτώ προεπιλεγμένες διαγνώσεις, οι συγγραφείς αναφέρουν ότι ξεπέρασε τους γιατρούς στη διαγνωστική ακρίβεια και πήρε αποφάσεις σε μεγάλο βαθμό σύμφωνες με τις κατευθυντήριες οδηγίες και ασφαλείς ως προς τα φάρμακα. Κάθε επιφύλαξη σε αυτή την πρόταση έχει βάρος: λειτούργησε σε sandbox πάνω σε παλιούς φακέλους και μόνο μέσω κειμένου· μεγάλο μέρος του πλεονεκτήματος εμφανίστηκε στις παθήσεις με καθαρά αποτελέσματα εξετάσεων· παρήγγειλε περίπου διπλάσιες αιματολογικές εξετάσεις από τους γιατρούς· και αρκετά αποτελέσματα βαθμολογήθηκαν έναντι όσων είχαν καταγραφεί στον αρχικό φάκελο. Η πραγματική πρόοδος είναι ένας πράκτορας που ενεργεί σε ολόκληρη τη ροή εργασίας — όχι απόδειξη ότι μια μηχανή πλέον διαγιγνώσκει καλύτερα από έναν γιατρό. Οι συγγραφείς το λένε καθαρά: γενίκευση, ασφάλεια και διακυβέρνηση εξακολουθούν να χρειάζονται προοπτικές μελέτες στον πραγματικό κόσμο.
Λειτουργούν πράγματι καλύτερα τα μεγάλα «foundation models» για ρομπότ; Μια προσεκτική απάντηση — ναι, μετρίως, και οι περισσότερες μελέτες δεν μπορούν να το ξεχωρίσουν
Το Toyota Research Institute εκπαίδευσε «large behavior models» — πολιτικές ρομπότ προεκπαιδευμένες σε περίπου 1.700 ώρες ποικίλων δεδομένων χειρισμού — και τα δοκίμασε απέναντι σε πολιτικές μίας εργασίας εκπαιδευμένες από το μηδέν, με ασυνήθιστη αυστηρότητα: τυφλές, τυχαιοποιημένες δοκιμές μεγάλου δείγματος (περίπου 1.800 στον πραγματικό κόσμο και πάνω από 47.000 σε προσομοίωση) με κανονική στατιστική ανάλυση. Μετά από fine-tuning ανά εργασία τα μεγάλα μοντέλα ήταν κατά μέσο όρο καλύτερα, χρειάζονταν περίπου 3–5× λιγότερα δεδομένα ειδικά για την εργασία και ήταν πιο ανθεκτικά όταν άλλαζαν οι συνθήκες· η επίδοση αυξανόταν ομαλά με περισσότερα δεδομένα προεκπαίδευσης. Χωρίς fine-tuning όμως δεν ξεπερνούσαν συστηματικά τα μοντέλα μίας εργασίας, αρκετές επιδράσεις ήταν τόσο μικρές ώστε χρειάζονταν μεγάλα δείγματα για να φανούν, και μια πεζή επιλογή κανονικοποίησης δεδομένων επηρέαζε περισσότερο από την αρχιτεκτονική. Είναι μετρημένη υποστήριξη για την κατεύθυνση των foundation models στη ρομποτική — όχι ρομπότ γενικής χρήσης, όχι zero-shot γενικευτής, όχι «αναδυόμενο άλμα» — μαζί με μια αιχμηρή προειδοποίηση ότι μεγάλο μέρος της ρομποτικής ίσως μετρά θόρυβο.
Γιατί τα γλωσσικά μοντέλα κάνουν hallucinations — και γιατί ο τρόπος που τα βαθμολογούμε τις διατηρεί
Οι ψευδείς απαντήσεις με αυτοπεποίθηση που ονομάζουμε «hallucinations» δεν είναι μυστηριώδες σφάλμα: ορισμένες είναι στατιστικό υποπροϊόν της εκπαίδευσης και επιμένουν επειδή τα κύρια benchmarks ανταμείβουν μια μαντεψιά με αυτοπεποίθηση περισσότερο από ένα ειλικρινές «δεν ξέρω». Μια μελέτη περίπτωσης σε τέσσερα frontier models δείχνει ότι η δήλωση των κανόνων βαθμολόγησης μέσα στο prompt («open rubrics») αντιστρέφει αυτό το κίνητρο.