O Google assina acordo de IA com o Pentágono para trabalhos classificados, enquanto funcionários se opõem

Resumidamente

• A Google terá supostamente assinado um acordo para fornecer modelos de IA ao Pentágono para trabalhos classificados
• O Pentágono assinou acordos semelhantes com a OpenAI e a xAI.
• Funcionários do Google estão a instar o CEO Sundar Pichai a rejeitar cargas de trabalho de IA classificadas.

O Google assinou um acordo para fornecer ao Pentágono os seus modelos de inteligência artificial para trabalhos classificados, segundo um relatório do The Information. O acordo permite que o Departamento de Defesa dos EUA utilize a IA do Google para “qualquer propósito governamental legal”, disseram pessoas familiarizadas com o acordo ao The New York Times. A linguagem espelha os contratos que o Pentágono assinou no mês passado com a OpenAI e a xAI para usar os seus modelos de IA em redes classificadas. “Estamos orgulhosos de fazer parte de um amplo consórcio de laboratórios de IA líderes e empresas de tecnologia e nuvem que fornecem serviços e infraestruturas de IA em apoio à segurança nacional,” disse um porta-voz do Google ao The New York Times. “Continuamos comprometidos com o consenso do setor privado e público de que a IA não deve ser usada para vigilância em massa doméstica ou armamento autónomo sem supervisão humana adequada.”

O Google não respondeu imediatamente a um pedido de comentário do Decrypt. Embora os detalhes não tenham sido divulgados, antes do acordo, centenas de funcionários do Google assinaram uma carta aberta ao CEO Sundar Pichai, instando a empresa a não disponibilizar os seus sistemas de IA ao Pentágono.  “Queremos ver a IA beneficiar a humanidade; não vê-la a ser usada de formas desumanas ou extremamente prejudiciais,” dizia a carta. Atualmente, a única forma de garantir que o Google não se associe a tais danos é rejeitar qualquer carga de trabalho classificada. Caso contrário, tais usos podem ocorrer sem o nosso conhecimento ou capacidade de os impedir.”

A carta argumenta que os sistemas de IA “cometem erros” e podem “centralizar o poder,” e defende que o Google tem a responsabilidade de impedir “os seus usos mais antiéticos e perigosos,” incluindo “armas autónomas letais e vigilância em massa.” Os funcionários alertam que tomar a “decisão errada neste momento causaria danos irreparáveis à reputação, aos negócios e ao papel do Google no mundo.” O Pentágono acelerou os esforços para assegurar acordos com grandes empresas de IA desde janeiro, quando o Secretário de Defesa Pete Hegseth afirmou que a tecnologia deveria ser integrada em todo o setor militar. A carta destaca uma crescente divisão entre o setor militar e alguns desenvolvedores de IA sobre como a tecnologia deve ser usada na guerra. Em março, o Pentágono designou a Anthropic como um “risco na cadeia de abastecimento,” impedindo efetivamente a startup de São Francisco de trabalhar com o governo federal, após o CEO Dario Amodei recusar permitir o uso irrestrito dos seus modelos de IA. A Anthropic processou o Pentágono desde então por causa da designação, enquanto procura continuar a trabalhar com outras partes do governo. Apesar da resistência dos funcionários, o Google parece estar a avançar com o seu acordo com o Pentágono, à medida que o Departamento de Defesa expande o uso de inteligência artificial em operações classificadas. “Simplificando, os Estados Unidos devem vencer a competição estratégica pela supremacia tecnológica do século XXI,” disse Hegseth num discurso na Starbase de Elon Musk em janeiro, chamando-lhe de “há muito tempo esperado.” “Muito em breve, teremos os principais modelos de IA do mundo em todas as redes não classificadas e classificadas de todo o nosso departamento,” afirmou.