OpenAI expande ferramentas para rastrear origem de conteúdos gerados por inteligência artificial
A OpenAI anunciou avanços significativos em suas tecnologias de rastreamento de procedência de conteúdos gerados por inteligência artificial. A empresa está implementando recursos que permitem identificar quando imagens foram criadas utilizando suas ferramentas de inteligência artificial, buscando combater a disseminação de desinformação e fornecer maior transparência sobre a origem de materiais visuais.
Entre as principais iniciativas está a incorporação de metadados baseados no padrão C2PA nas imagens geradas pelo modelo DALL-E 3. Essa tecnologia funciona como uma espécie de assinatura digital embutida no arquivo da imagem, permitindo que qualquer pessoa possa verificar informações sobre a criação e o histórico daquele conteúdo visual. O padrão C2PA, desenvolvido pela Coalition for Content Provenance and Authenticity, conta com a participação de diversas empresas e organizações do setor de tecnologia.
As imagens criadas através do ChatGPT na versão web e da API que utiliza o DALL-E 3 passaram a incluir esses metadados de procedência. Dessa forma, ao utilizar plataformas de verificação, os usuários podem confirmar se uma determinada imagem foi efetivamente gerada pelo modelo da OpenAI através de suas ferramentas oficiais.
A empresa também menciona em seus comunicados a integração com tecnologias complementares de marcação d'água, incluindo o SynthID, desenvolvido pelo Google. Esse sistema adiciona sinais imperceptíveis aos conteúdos gerados por inteligência artificial, funcionando como uma identificação que pode ser detectada por ferramentas especializadas mesmo quando a imagem é copiada ou modificada superficialmente.
Para facilitar a verificação, foi disponibilizada uma ferramenta que permite analisar qualquer imagem suspeita de ter sido gerada por IA. Ao acessar plataformas dedicadas a essa função, jornalistas, pesquisadores e o público em geral podem confirmar a procedência do material visual que encontram online.
Essas iniciativas fazem parte de um esforço mais amplo do setor de tecnologia para estabelecer padrões industriais de transparência. Além da OpenAI e do Google, outras grandes empresas como Microsoft, Adobe, Intel, Meta e Amazon participam de consórcios que desenvolvem especificações abertas para autenticação de conteúdos digitais.
A adoção desses padrões busca resolver um dos principais desafios da era da inteligência artificial generativa, que é a dificuldade crescente em distinguir conteúdos criados por humanos daqueles produzidos por máquinas. Com essas ferramentas, a esperança é que jornalistas, educadores e o público geral possam tomar decisões mais informadas sobre a confiança que depositam em materiais visuais que encontram na internet.
O padrão de credenciais de conteúdo utiliza uma combinação de metadados seguros e marcação d'água para vincular informações sobre a origem de uma mídia ao seu arquivo digital. Essas informações são preservadas mesmo quando o arquivo é transferido ou armazenado em diferentes plataformas, desde que os metadados não sejam intencionalmente removidos.
Com esses desenvolvimentos, a OpenAI demonstra seu compromisso com práticas responsáveis no desenvolvimento de tecnologias de inteligência artificial, reconhecendo que a capacidade de criar conteúdos visuais realistas traz responsabilidades importantes relacionadas à transparência e à confiança pública.
