Departamento de saúde pública dos EUA vai testar modelos de IA da OpenAI e Anthropic em programa nacional
Departamentos de saúde pública dos Estados Unidos vão testar ferramentas de inteligência artificial generativa por meio de um novo programa chamado PULSE (Public Health Use Case and Learning Scaling Engine), conduzido pela Coalition for Health AI (CHAI), em parceria com OpenAI, Anthropic e Accenture. A iniciativa prevê a realização de pilotos em dez jurisdições estaduais, locais, tribais ou territoriais e tem como objetivo produzir guias de implementação para agências de saúde pública que consideram adotar tecnologias semelhantes.
O programa disponibilizará a profissionais de saúde pública o acesso a produtos corporativos de IA das duas empresas. A CHAI não divulgou quais produtos, versões de modelos ou configurações serão utilizados, nem explicou como os dois fornecedores serão distribuídos entre os pilotos. A OpenAI e a Anthropic doaram dez licenças corporativas com capacidade para até dois mil profissionais de saúde pública. A Accenture será responsável por acompanhar a integração dos participantes e ajudar no desenvolvimento dos manuais de implementação com base nos resultados dos testes.
O conselho de liderança da CHAI selecionará as jurisdições participantes e distribuirá os profissionais em comunidades voltadas a cinco casos de uso. O primeiro envolve biossegurança e previsão de surtos de drogas. O segundo trata dos determinantes sociais da saúde e mapeamento dos chamados SDoH, ou fatores sociais que influenciam a saúde das populações, como renda, moradia e educação. O terceiro é voltado para operações e eficiência, com análise de feedback da comunidade. O quarto abrange comunicação pública e funciona como um centro de tradução multilíngue. Por fim, o quinto caso envolve recuperação automatizada de dados clínicos por meio de um mecanismo de consulta baseado no padrão FHIR, um padrão da organização HL7 usado para troca eletrônica de informações de saúde entre sistemas compatíveis.
A implementação de inteligência artificial generativa em fluxos de saúde pública levanta questões sobre governança e proteção de dados. O framework de gestão de riscos de IA do NIST, instituto norte-americano de padrões e tecnologia, recomenda que sistemas de inteligência artificial sejam avaliados de acordo com seu uso pretendido, ambiente operacional, partes afetadas e possíveis consequências. A CHAI ainda não publicou requisitos separados de avaliação, privacidade, segurança ou revisão humana para os cinco casos de uso do PULSE. Da mesma forma, o anúncio não esclarece se os modelos serão usados para gerar consultas, recuperar registros, resumir informações retornadas ou combinar essas funções no caso do mecanismo baseado em FHIR.
A aplicação da lei norte-americana HIPAA, que protege determinadas informações eletrônicas de saúde, dependerá da agência, dos dados envolvidos e da função exercida em cada fluxo de trabalho. A OpenAI afirma que, por padrão, entradas e saídas de seus serviços corporativos, incluindo o ChatGPT Enterprise e sua API, não são utilizadas para treinar ou aprimorar seus modelos. A Anthropic adota política semelhante para seus produtos comerciais. Essas políticas, porém, não definem como os deployments do PULSE serão configurados nem estabelecem períodos de retenção, controles de acesso, auditorias, requisitos de armazenamento ou regras para submissão de informações protegidas de saúde.
Os pilotos estão previstos para começar no outono de 2026, no hemisfério norte, e os manuais de implementação devem ser publicados em 2027. A CHAI pretende converter os achados das dez jurisdições em orientações para uso mais amplo, mas o anúncio não explica como os playbooks considerarão diferenças de tamanho das agências, sistemas técnicos, responsabilidades legais, equipe ou processos de aquisição entre os participantes. Também não há definição sobre se os resultados serão usados apenas para testes, apresentados a profissionais para revisão ou incorporados a fluxos operacionais.
Dados da Associação Nacional de Autoridades de Saúde Municipais e Condados dos Estados Unidos, citados pela CHAI, indicam que quase quarenta por cento dos departamentos locais de saúde não utilizam inteligência artificial. A coalizão afirmou que parte desses departamentos tem interesse em revisar fluxos de trabalho e melhorar a eficiência operacional. O PULSE oferecerá licenças corporativas, integração, comunidades de prática entre pares e manuais de implementação, sem especificar requisitos mínimos de pessoal, infraestrutura, interoperabilidade ou segurança cibernética para as jurisdições participantes.
Segundo o diretor executivo da CHAI, Brian Anderson, as agências de saúde pública chegaram à pandemia de COVID-19 após anos de investimento limitado em tecnologia. Já Ashish Jha, ex-coordenador de resposta à COVID-19 na Casa Branca, afirmou que o programa pretende testar quais aplicações funcionam e documentar os achados para outras agências. O PULSE faz parte do trabalho mais amplo da CHAI sobre padrões de governança para inteligência artificial em saúde, que inclui o desenvolvimento de manuais sobre políticas organizacionais e estruturas de governança em parceria com a Joint Commission.
