The Clean Paper
Artigos científicos, explicados sem rodeios.
O que o estudo diz. O que não diz. Por que importa.
Sem caça-cliques, sem publicidade, sem exagero.
Uma IA médica pode ser privada em média e ainda expor pacientes específicos, sobretudo os sub-representados
Um modelo de IA médica chamado preservador de privacidade costuma se apoiar em um número médio. Este estudo argumenta que esse é o teste errado. Ao estudar ataques de inferência de participação — que revelam se o registro de uma pessoa específica esteve nos dados de treinamento de um modelo e portanto podem denunciar que ela teve certa doença —, os autores mediram o risco por paciente, não em agregado, em sete conjuntos de dados médicos e muitos modelos. O padrão: modelos que parecem seguros em média ainda podem permitir identificar indivíduos específicos quase perfeitamente (AUC de ataque >= 0,95); os expostos pertencem sistematicamente a grupos sub-representados; e o problema piora à medida que os modelos crescem. Eles não dizem para abandonar a IA médica: dizem para medir a privacidade por paciente, controlar o acesso ao modelo e usar privacidade diferencial.
Um agente de IA trabalhou casos completos de pacientes por conta própria: em um simulador, com prontuários antigos
MIRA é um novo tipo de IA médica: em vez de responder a uma única pergunta, trabalha um caso inteiro dentro de um prontuário hospitalar simulado: colhe a história, pede e lê exames, chega a um diagnóstico e escreve as ordens. Em 574 casos retrospectivos de uma base pública, com oito diagnósticos pré-selecionados, os autores relatam que superou médicos em acurácia diagnóstica e tomou decisões em grande parte alinhadas a diretrizes e seguras em medicação. Cada qualificador importa: foi um sandbox com prontuários passados, apenas texto; boa parte da vantagem veio de condições com exames claros; pediu cerca de duas vezes mais exames de sangue que os médicos; e vários resultados foram pontuados contra o que estava no prontuário original. O avanço real é um agente que atua ao longo de todo o fluxo de trabalho, não uma prova de que uma máquina diagnostica melhor que um médico.