Connecticut exigirá revisão humana antes que a inteligência artificial possa influenciar decisões desfavoráveis sobre planos de saúde para mais de 270.000 funcionários públicos, reformados e trabalhadores municipais participantes. As medidas de segurança, anunciadas pelo Controlador Sean Scanlon a 16 de setembro, aplicam-se ao Plano de Saúde dos Funcionários do Estado e ao Plano de Parceria de Connecticut e entrarão em vigor a 1 de janeiro de 2027, de acordo com a política estadual e um relatório independente do CT Mirror .
A regra central é simples: nenhuma decisão desfavorável pode ser tomada exclusivamente por um sistema de IA. É necessária a revisão humana. As seguradoras também não podem utilizar a IA ou modelos preditivos isoladamente para reclassificar um pedido de reembolso, reduzir o pagamento a um prestador de serviços ou alterar um código de faturação. A política não elimina a automatização da administração rotineira de sinistros; preserva os processos contratuais e automatizados autorizados, ao mesmo tempo que estabelece um ponto de controlo humano nas decisões que podem reduzir o serviço ou o pagamento.
Esta distinção é importante porque o estado está a regular as suas próprias relações de compra, em vez de proibir uma tecnologia em todo o mercado de seguros do Connecticut. Os planos públicos utilizam várias gestoras: a Anthem trata dos benefícios médicos para os trabalhadores ativos, a Cigna gere a cobertura dentária, a Aetna gere o plano Medicare Advantage para reformados e a Caremark é a gestora dos benefícios farmacêuticos, como mostra a informação. Scanlon afirmou que as administradoras concordaram com os novos requisitos após negociações.
Privacidade, divulgação e auditorias
A política também proíbe que os dados dos membros sejam utilizados para treinar, desenvolver ou apoiar outros modelos de IA. Os operadores e os prestadores de serviços devem informar os membros quando a IA auxilia materialmente, participa diretamente ou recomenda um benefício ou serviço de saúde. Os sistemas de IA devem ser testados com dados históricos para garantir a precisão, consistência e imparcialidade, e os operadores devem divulgar os seus procedimentos de governação e auditoria ao responsável pelo tratamento. A cobertura da rádio pública WSHU confirmou de forma independente os requisitos de revisão humana, privacidade, divulgação e auditoria.
Para os doentes, o efeito prático é o direito à intervenção humana quando um algoritmo contribui para uma decisão desfavorável de cobertura nos planos estatais. Para os médicos, o mesmo princípio se aplica quando as ferramentas automatizadas reduzem o pagamento ou reveem a codificação. A política não garante que um revisor humano reverta uma recomendação inicial, mas impede que o resultado de uma IA seja a palavra final. Cria também um registo de supervisão, exigindo que os administradores documentem a forma como os seus sistemas são geridos e verificados.
O alcance é substancial, mas não universal. As regras abrangem ambos os planos supervisionados pelo controlador, e não todos os residentes no Connecticut. Scanlon afirmou que pretende solicitar aos legisladores, na sessão de 2027, que estendam proteções comparáveis a todos os planos de saúde regulados pelo Estado. Aproximadamente 220.000 pessoas obtêm cobertura através deste mercado, enquanto muitos planos autofinanciados de grandes empregadores permanecem sob autoridade federal, e não estadual, de acordo com o CT Mirror.
A Sociedade Médica do Estado de Connecticut apoiou a medida, argumentando que as negativas automatizadas e a redução de códigos não devem substituir o julgamento clínico. Um relatório independente da Becker's confirmou que a política abrange mais de 270.000 membros e mantém os protocolos autorizados para o processamento automatizado dos pedidos de reembolso. Portanto, a política funciona como uma regra de compras de curto prazo e como um modelo para um debate legislativo mais amplo no próximo ano.
