O Departamento de Saúde e Serviços Humanos publicou esta semana uma norma abrangente sobre tecnologia de informação em saúde que cria os primeiros requisitos específicos de transparência do governo federal para a inteligência artificial e outros algoritmos preditivos incorporados em sistemas de TI de saúde certificados, impondo novas obrigações à tecnologia que suporta os cuidados na maioria dos hospitais e consultórios médicos dos EUA.
A norma final HTI-1 do Gabinete do Coordenador Nacional de Tecnologia de Informação em Saúde (ONC) foi publicada no Diário Oficial Federal a 9 de janeiro. A norma final revê o Programa de Certificação de TI em Saúde do ONC, atualiza as normas de interoperabilidade, altera as disposições sobre o bloqueio de informação e cria uma nova estrutura de certificação para “intervenções de apoio à decisão”, incluindo modelos preditivos que aprendem relações a partir de dados de formação.
O ONC descreve as disposições do algoritmo como requisitos de transparência inéditos. O alcance é potencialmente amplo: a TI em saúde certificada pelo ONC apoia os cuidados prestados por mais de 96% dos hospitais dos EUA e 78% dos médicos que trabalham em consultórios, segundo a agência.
A regra foca-se na visibilidade em vez da aprovação federal de algoritmos
A HTI-1 não cria um sistema de aprovação pré-comercialização nos moldes da FDA para cada algoritmo clínico. Em vez disso, exige que os profissionais de TI em saúde certificados disponibilizem informações básicas para que os utilizadores possam compreender como as intervenções preditivas de apoio à decisão foram concebidas, desenvolvidas, treinadas e avaliadas.
A norma define um DSI preditivo de forma ampla como tecnologia que auxilia a tomada de decisões através de algoritmos ou modelos que derivam relações de dados de treino e produzem uma previsão, classificação, recomendação, avaliação ou análise. A definição visa abranger métodos que vão desde modelos estatísticos convencionais a machine learning e sistemas de inteligência artificial mais complexos, quando operam através de TI de saúde certificada.
Uma análise publicada no HIPAA Journal a 9 de janeiro refere que os requisitos de transparência visam ajudar os utilizadores clínicos a avaliar se os algoritmos são justos, apropriados, válidos, eficazes e seguros. Esta estrutura aborda um problema recorrente na IA para a área da saúde: um modelo pode influenciar o tratamento de um paciente mesmo quando o profissional de saúde que o utiliza tem informação limitada sobre a população de treino, a validação, a utilização pretendida ou as limitações conhecidas.
Os programadores devem expor os atributos de origem e as informações de gestão de riscos
Os novos critérios de certificação exigem que os programadores de TI em saúde suportem o acesso a "atributos de origem" específicos para intervenções de apoio à decisão. Estes atributos podem incluir informações sobre a finalidade da intervenção, os utilizadores previstos, o desenvolvimento e a validação, os conjuntos de dados, o desempenho e outras características relevantes para avaliar como o modelo deve ser utilizado.
A norma também exige que os desenvolvedores de TI de saúde certificada que suportam DSIs preditivas adotem práticas de gestão de riscos e tornem as informações sobre essas práticas publicamente acessíveis. O texto do Federal Register identifica áreas como a validade, fiabilidade, robustez, imparcialidade, inteligibilidade, segurança e privacidade.
O escritório de advogados Mintz afirmou, numa análise , que a regra representa a primeira alteração substancial nos requisitos de certificação dos sistemas de apoio à decisão clínica do ONC desde 2012. O objetivo não é garantir que todos os modelos são de elevada qualidade, mas sim disponibilizar informação consistente suficiente para que as organizações de saúde e os profissionais clínicos possam tomar decisões mais fundamentadas.
A regra surge numa altura em que a IA generativa acelera a implementação na área da saúde
O momento é notável. Hospitais, fornecedores de registos eletrónicos de saúde e empresas de tecnologia estão a adicionar rapidamente capacidades de aprendizagem automática e IA generativa aos fluxos de trabalho clínicos e administrativos. Estas ferramentas podem resumir registos, priorizar doentes, prever resultados ou recomendar ações, mas o seu desempenho pode variar quando aplicadas a populações diferentes das utilizadas para o desenvolvimento.
A Akin Gump descreveu a HTI-1 como um passo federal significativo na regulamentação da IA através da autoridade já existente do ONC sobre TI de saúde certificada. A norma utiliza a certificação como instrumento de controlo, em vez de tentar regular diretamente todos os algoritmos de saúde.
Esta distinção define também os limites da regra. Um algoritmo fora do ecossistema de TI em saúde certificado pode não ser alcançado por estes critérios de certificação específicos. Os hospitais e os médicos também mantêm as suas próprias responsabilidades pela governação, validação local e decisão sobre se os resultados do modelo são apropriados para os doentes individuais.
As alterações de interoperabilidade acompanham as disposições sobre IA
A HTI-1 vai além da transparência algorítmica. Adota a versão 3 dos Dados Essenciais para a Interoperabilidade dos Estados Unidos como base para futuras certificações, acrescentando e melhorando elementos de dados destinados a apoiar a saúde pública, a equidade em saúde e uma troca de informações mais padronizada. A norma atualiza também os requisitos para a notificação eletrónica de casos e interfaces de programação de aplicações (APIs).
A lei modifica as regulamentações de bloqueio de informação e cria alterações destinadas a facilitar a troca segura de dados no âmbito do Trusted Exchange Framework e do Common Agreement. O Healthcare Finance News noticiou que o Departamento de Saúde e Serviços Humanos (HHS) espera que a combinação de políticas de interoperabilidade e transparência melhore a capacidade dos médicos para compreender as ferramentas algorítmicas, ao mesmo tempo que dá continuidade às reformas mais amplas de partilha de dados previstas na Lei de Curas do Século XXI.
Assim, as organizações de saúde enfrentam questões de implementação que se sobrepõem: o que os seus fornecedores de EHR (Registos Eletrónicos de Saúde) devem divulgar, como as ferramentas preditivas são inventariadas, como a governação do modelo local utilizará as novas informações e como os padrões de interoperabilidade atualizados afetam as interfaces e os fluxos de trabalho existentes.
A transparência está a tornar-se parte da infraestrutura de segurança clínica
A regra reflete uma avaliação política de que a opacidade algorítmica representa, por si só, um risco para a saúde. Um modelo pode gerar uma pontuação de risco numérica ou uma recomendação que pareça precisa, enquanto oculta informações importantes sobre quem estava representado nos seus dados de treino, com que frequência falha ou se o desempenho varia entre os grupos de doentes.
Hooper Lundy observou que os prestadores de serviços terão de compreender as novas disposições sobre a transparência da IA, embora as obrigações de certificação recaiam principalmente sobre os programadores de TI na área da saúde. Os utilizadores clínicos são, em última instância, responsáveis pela forma como a informação de apoio à decisão é incorporada no atendimento.
A publicação no Diário Oficial Federal listou o dia 8 de fevereiro como a data de entrada em vigor da regra, enquanto as disposições individuais de certificação e normas têm os seus próprios prazos de conformidade que se estendem para além dessa data. A transição não é, portanto, uma mudança única, mas um conjunto de alterações em etapas que afetam os produtos e os programadores certificados.
A HTI-1 não resolve o debate mais amplo sobre a forma como a inteligência artificial deve ser regulamentada na medicina. No entanto, estabelece um requisito nacional concreto num dos canais tecnológicos mais difundidos na área da saúde. Para um ecossistema de EHR (Registo Eletrónico de Saúde) certificado, utilizado por praticamente todos os hospitais do país, os algoritmos preditivos já não podem ser tratados apenas como funções proprietárias invisíveis. A estrutura de certificação federal espera agora que os médicos e as organizações recebam informações suficientes para começar a questionar se estes algoritmos são justos, apropriados, válidos, eficazes e seguros.
