OpenAI Adiciona ChatGPT Personalizado à Plataforma do Pentágono enquanto Especialista Avisa sobre Riscos

Resumo

• A OpenAI afirmou que irá implementar uma versão personalizada do ChatGPT na GenAI.mil do Pentágono.
• O sistema está aprovado para trabalhos não classificados do Departamento de Defesa, com dados mantidos separados dos modelos públicos da OpenAI.
• Críticos alertam que erro humano e confiança excessiva nos sistemas de IA continuam sendo riscos.

A OpenAI anunciou na segunda-feira que está a implementar uma versão personalizada do ChatGPT na GenAI.mil, a plataforma de IA desenvolvida pelo Departamento de Defesa dos EUA. A medida amplia o acesso militar a modelos de IA generativa poderosos, mesmo com críticos alertando que erros do utilizador continuam a representar um risco de segurança. O ChatGPT junta-se a uma lista crescente de modelos de IA disponibilizados às forças armadas dos EUA, incluindo o Gemini e o Grok do Google, e o sistema de IA desenvolvido pela xAI, que foi integrado na SpaceX no início deste mês. 

“Acreditamos que as pessoas responsáveis pela defesa do país devem ter acesso às melhores ferramentas disponíveis, e é importante que os EUA e outros países democráticos compreendam como, com as salvaguardas adequadas, a IA pode ajudar a proteger as pessoas, dissuadir adversários e prevenir conflitos futuros,” afirmou a OpenAI numa declaração. A OpenAI afirmou que a versão do ChatGPT na GenAI.mil é aprovada para uso não classificado do Departamento de Defesa e funcionará dentro de uma infraestrutura de nuvem governamental autorizada. Segundo a OpenAI, o sistema inclui salvaguardas projetadas para proteger dados sensíveis. No entanto, J.B. Branch, defensor da responsabilização das Big Techs na Public Citizen, alertou que a dependência excessiva dos utilizadores na IA pode comprometer essas proteções.

“Pesquisas mostram que, quando as pessoas usam esses grandes modelos de linguagem, tendem a dar-lhes o benefício da dúvida,” disse Branch ao Decrypt. “Portanto, em situações de alto impacto, como o militar, isso torna ainda mais importante garantir que as informações estejam corretas.” A implementação ocorre enquanto o Pentágono acelera a adoção de IA comercial em redes militares e enquanto os desenvolvedores de IA buscam rentabilidade. Em janeiro, o Secretário de Defesa, Pete Hegseth, afirmou que o departamento planeja implementar modelos de IA líderes tanto em redes militares não classificadas quanto classificadas. Embora a OpenAI tenha dito que a versão personalizada do ChatGPT destina-se apenas a dados não classificados, Branch alertou que colocar qualquer informação sensível em sistemas de IA a torna vulnerável a adversários, acrescentando que os utilizadores muitas vezes confundem essas ferramentas com cofres seguros. “As informações classificadas devem ser acessíveis apenas a um conjunto limitado de pessoas,” afirmou. “Portanto, mesmo que exista um sistema de restrição apenas para uso militar, isso não muda o fato de que dados classificados são destinados apenas a um subconjunto restrito de pessoas.” A OpenAI não respondeu imediatamente a um pedido de comentário feito ao Decrypt.