En breve
- Según Bloomberg, funcionarios estadounidenses advirtieron a los principales bancos sobre riesgos de ciberseguridad vinculados al modelo de IA Mythos de Anthropic.
- Según se informa, el sistema puede identificar y explotar vulnerabilidades en sistemas operativos y navegadores.
- Anthropic tiene acceso limitado al modelo mientras evalúa posibles riesgos de seguridad.
Se informa que el secretario del Tesoro de EE. UU. Scott Bessent y la presidenta de la Reserva Federal, Jerome Powell, convocaron esta semana una reunión con los CEO de bancos de Wall Street para advertir sobre riesgos de ciberseguridad vinculados a un nuevo modelo de inteligencia artificial de Anthropic.
Según un informe de Bloomberg, en la reunión participaron ejecutivos de Citigroup, Bank of America, Wells Fargo, Morgan Stanley y Goldman Sachs. Los funcionarios analizaron el nuevo modelo de IA de Anthropic, Mythos, que recientemente ha generado una preocupación generalizada por sus capacidades avanzadas aparentes en materia de ciberseguridad.
Los funcionarios convocaron la reunión para garantizar que los bancos comprendan los riesgos que plantean sistemas capaces de identificar y explotar vulnerabilidades de software en sistemas operativos y navegadores web, y para alentar a las instituciones a reforzar sus defensas contra posibles ciberataques asistidos por IA dirigidos a infraestructura financiera.
Los investigadores de seguridad han advertido que las herramientas capaces de descubrir vulnerabilidades de forma automática podrían acelerar tanto el trabajo defensivo como la piratería maliciosa si se usan indebidamente.
El modelo Mythos de Anthropic apareció por primera vez en línea en marzo, después de que materiales preliminares sobre el sistema se filtraran en internet, revelando lo que la empresa describió como su modelo de IA más capaz hasta la fecha. En pruebas, el sistema supuestamente encontró miles de vulnerabilidades de software previamente desconocidas, incluidas fallas de día cero en sistemas operativos y navegadores web importantes.
Los investigadores de Anthropic dijeron en un informe a principios de esta semana que las capacidades de descubrimiento de vulnerabilidades de Mythos Preview no fueron entrenadas intencionalmente, sino que surgieron a partir de mejoras más amplias del modelo en su codificación, razonamiento y autonomía.
“La misma clase de mejoras que hacen que el modelo sea sustancialmente más eficaz para parchear vulnerabilidades también lo hacen sustancialmente más eficaz para explotarlas”, escribió la firma.
Debido a esas capacidades, Anthropic ha restringido el acceso a un pequeño grupo de organizaciones de ciberseguridad.
“Dada la solidez de sus capacidades, estamos siendo deliberados sobre cómo lo lanzamos”, dijo Anthropic en un comunicado. “Como es práctica estándar en la industria, estamos trabajando con un pequeño grupo de clientes de acceso temprano para probar el modelo. Consideramos este modelo un cambio significativo y el más capaz que hemos construido hasta la fecha”.
Para abordar ese riesgo, Anthropic está probando Mythos a través de Project Glasswing, una colaboración con importantes empresas tecnológicas y de ciberseguridad que usa el modelo para identificar y parchear vulnerabilidades en software crítico antes de que los atacantes puedan explotarlas.
“Project Glasswing es un punto de partida. Ninguna organización puede resolver estos problemas de ciberseguridad por sí sola”, dijo la empresa en un comunicado. “Los desarrolladores de Frontier AI, otras empresas de software, investigadores de seguridad, mantenedores de código abierto y gobiernos de todo el mundo tienen funciones esenciales que desempeñar”.
Anthropic no respondió de inmediato a la solicitud de comentarios de Decrypt.
Aviso legal: La información de esta página puede proceder de terceros y no representa los puntos de vista ni las opiniones de Gate. El contenido que aparece en esta página es solo para fines informativos y no constituye ningún tipo de asesoramiento financiero, de inversión o legal. Gate no garantiza la exactitud ni la integridad de la información y no se hace responsable de ninguna pérdida derivada del uso de esta información. Las inversiones en activos virtuales conllevan riesgos elevados y están sujetas a una volatilidad significativa de los precios. Podrías perder todo el capital invertido. Asegúrate de entender completamente los riesgos asociados y toma decisiones prudentes de acuerdo con tu situación financiera y tu tolerancia al riesgo. Para obtener más información, consulta el
Aviso legal.
Artículos relacionados
Elon Musk llama a Sam Altman "Scam Altman" mientras comienza la selección del jurado de la demanda de OpenAI
Gate News message, 27 de abril — Elon Musk escaló su disputa con OpenAI el lunes al llamar al director ejecutivo Sam Altman "Scam Altman" en X mientras comenzaba la selección de jurado en Oakland, California, para la demanda sobre el cambio de OpenAI de laboratorio de investigación sin fines de lucro a empresa comercial de IA. OpenAI respondió
GateNewshace1h
El estudio de la Fed encuentra que el crecimiento del empleo de programación en EE. UU. cayó 50% después del lanzamiento de ChatGPT
Mensaje de Gate News, 27 de abril — Un estudio de la Reserva Federal realizado por los economistas Leland D. Crane y Paul E. Soto halló que el crecimiento del empleo entre programadores de EE. UU. cayó aproximadamente un 50% después de que se lanzara ChatGPT en noviembre de 2022. Antes del lanzamiento del modelo de IA, los puestos de trabajo con alta carga de programación estaban creciendo a aproximadamente 5% anual, muy por encima del mercado laboral general. Desde entonces, el crecimiento en sectores como los servicios de TI y el desarrollo de software se ha estancado prácticamente.
Los investigadores estiman que, durante el período de tres años, alrededor de 500,000 empleos de programadores que de otro modo habrían existido nunca se cubrieron. La brecha de empleo no pareció manifestarse hasta mediados de 2024, aproximadamente 18 meses después del lanzamiento de ChatGPT, lo que sugiere que las empresas necesitaron tiempo para evaluar las capacidades de la IA antes de ajustar la plantilla. El estudio controló otras presiones de 2022—subidas de las tasas de interés, el fin del auge digital de la pandemia y el desplome de las criptomonedas—y encontró que el empleo de programadores seguía cayendo aproximadamente 3% por año incluso después de eliminar esos efectos.
Un estudio separado de Harvard sobre 62 millones de trabajadores en nómina halló que el empleo de desarrolladores junior cae aproximadamente 9-10% dentro de seis trimestres cuando las empresas adoptan IA generativa, mientras que el empleo senior se mantiene en gran medida sin cambios. El CEO de Anthropic, Dario Amodei, ha advertido que hasta 50% de los puestos de nivel inicial podrían desaparecer en cinco años. "Si la IA afecta de manera desproporcionada a los puestos junior, podría tener consecuencias duraderas para la prima salarial universitaria, la movilidad ascendente y las disparidades de ingresos", señalaron los investigadores de Harvard.
Los salarios de los programadores no han disminuido; el efecto se ha reflejado en el número de empleados más que en la remuneración. Las ofertas de empleo se estabilizaron en 2024 y desde entonces han subido ligeramente. Los investigadores de la Fed señalan que la programación asistida por IA más barata podría abrir nuevos mercados y aumentar la demanda total de mano de obra de desarrolladores a largo plazo. El estudio se publicó como una designación preliminar y representa el primer análisis a nivel de la Reserva Federal que vincula de forma directa la adopción de IA con una disminución medible y específica de ocupación en la contratación.
GateNewshace2h
¡Demanda de Musk y el CEO de OpenAI en audiencia hoy! Elon Musk arremete: estafador Altman
La demanda de Musk contra OpenAI se celebra en California. Musk primero arremetió en cadena contra X, calificando a Altman de “estafador Altman”, acusándolo de que Altman y Brockman robaron a una organización benéfica. Se considera que la demanda es producto de la envidia y de la supresión de la competencia. OpenAI afirma que en el tribunal revelará la verdad. El monto de la demanda asciende a 134 mil millones de dólares, con responsabilidad y compensación en dos fases. El jurado solo tiene carácter consultivo y, finalmente, el juez decidirá.
ChainNewsAbmediahace5h
Gemini Lanza Trading Agéntico para el Comercio Automatizado Impulsado por IA
La bolsa de criptomonedas Gemini ha lanzado la Operativa Agéntica (Agentic Trading), marcando la primera vez que una bolsa regulada en EE. UU. ha ofrecido integración directa de agentes de IA para operaciones automatizadas. La plataforma permite a los usuarios conectar Claude, ChatGPT y otros modelos de IA para automatizar estrategias de trading que van desde órdenes simples hasta
CryptoFrontierhace5h
Más de 580 empleados de Google exigen al CEO bloquear los contratos de IA del Pentágono
Mensaje de Gate News, 27 de abril — Más de 580 empleados de Google han firmado una carta abierta en la que instan al CEO Sundar Pichai a impedir que el Pentágono use la tecnología de inteligencia artificial de la empresa para aplicaciones militares. Los firmantes, entre los que se incluyen más de 18 altos cargos que van desde directores y directores ejecutivos hasta vicepresidentes, señalan preocupaciones éticas sobre los sistemas de IA que se despliegan para armas autónomas letales.
GateNewshace5h
El padre de AlphaGo recauda una ronda semilla de 1.100 millones de dólares: la más grande de Europa, valoración de 5.100 millones de dólares
Según el bufete Cooley, en su nota de prensa distribuida el 27 de abril, la empresa londinense de investigación en IA Ineffable Intelligence ha completado una ronda semilla de 1.100 millones de dólares ($1.1B), con una valoración post-inversión de 5.100 millones de dólares ($5.1B). La operación fue liderada conjuntamente por Sequoia Capital y Lightspeed Venture Partners, con participación de Google, Nvidia, Index Ventures y otros. Se trata de la ronda semilla de mayor tamaño de Europa en toda su historia, y también marca el inicio de una nueva ola de inversiones en el mercado de capitales de IA que “no solo apuesta por LLM”.
Ronda semilla de 1.100 millones de dólares: la mayor en la historia de Europa, con una valoración de 5.100 millones de dólares
En esta ronda de financiación, Ineffable Intelligence ha superado directamente al
ChainNewsAbmediahace6h
