OpenAI añade ChatGPT personalizado a la plataforma del Pentágono mientras un experto advierte sobre los riesgos
En resumen
- OpenAI dijo que implementará una versión personalizada de ChatGPT en GenAI.mil del Pentágono.
- El sistema está aprobado para trabajos no clasificados del Departamento de Defensa, con datos separados de los modelos públicos de OpenAI.
- Los críticos advierten que el error humano y la confianza excesiva en los sistemas de IA siguen siendo riesgos.
OpenAI anunció el lunes que está desplegando una versión personalizada de ChatGPT en GenAI.mil, la plataforma de IA desarrollada por el Departamento de Defensa de EE. UU. La medida amplía el acceso militar a modelos de IA generativa potentes, aunque los críticos advierten que el error del usuario sigue siendo un riesgo clave para la seguridad. ChatGPT se une a una lista creciente de modelos de IA disponibles para el ejército de EE. UU., incluyendo Gemini y Grok de Google, y el sistema de IA desarrollado por xAI, que fue incorporado a SpaceX a principios de este mes.
“Creemos que las personas responsables de defender el país deben tener acceso a las mejores herramientas disponibles, y es importante que EE. UU. y otros países democráticos entiendan cómo, con las salvaguardas adecuadas, la IA puede ayudar a proteger a las personas, disuadir a los adversarios y prevenir conflictos futuros,” dijo OpenAI en un comunicado. OpenAI afirmó que la versión de ChatGPT para GenAI.mil está aprobada para uso no clasificado del Departamento de Defensa y funcionará dentro de una infraestructura de nube gubernamental autorizada. Según OpenAI, el sistema incluye salvaguardas diseñadas para proteger datos sensibles. Aún así, J.B. Branch, defensor de la responsabilidad en las grandes tecnológicas en Public Citizen, advirtió que la dependencia excesiva de los usuarios en la IA podría socavar esas protecciones.
“Las investigaciones muestran que cuando las personas usan estos grandes modelos de lenguaje, tienden a darles el beneficio de la duda,” dijo Branch a Decrypt. “Por lo tanto, en situaciones de alto impacto como en el ejército, eso hace aún más importante asegurarse de que las cosas se hagan correctamente.” El despliegue se produce mientras el Pentágono acelera la adopción de IA comercial en las redes militares y los desarrolladores de IA buscan rentabilidad. En enero, el secretario de Defensa, Pete Hegseth, dijo que el departamento planea desplegar los principales modelos de IA en redes militares tanto no clasificadas como clasificadas. Aunque OpenAI afirmó que la versión personalizada de ChatGPT está destinada solo para datos no clasificados, Branch advirtió que poner cualquier información sensible en sistemas de IA la deja vulnerable a adversarios, y agregó que los usuarios a menudo confunden estas herramientas con bóvedas seguras. “La información clasificada debe ser vista solo por un conjunto limitado de personas,” dijo. “Así que, incluso si tienes un sistema de corte que solo permite su uso dentro del ejército, eso no cambia el hecho de que los datos clasificados están destinados solo a un subconjunto limitado de personas.” OpenAI no respondió de inmediato a una solicitud de comentario de Decrypt.