Anthropic dona 20 millones de dólares a la «Organización de Acción Pública Prioritaria», para impulsar la defensa de la IA

Anthropic anunció una donación de 20 millones de dólares a Public First Action (Organización de Acción Prioritaria Pública, abreviada como PFA), para apoyar iniciativas relacionadas con la gobernanza de la inteligencia artificial. Anthropic indicó que estos fondos se utilizarán para promover la educación pública sobre inteligencia artificial y la creación de marcos legales, especialmente en la formulación de regulaciones para riesgos potenciales, incluyendo la prevención de ataques cibernéticos automatizados y el uso de tecnologías de IA para fabricar armas u otros escenarios de riesgo de IA.

Anthropic: El desarrollo de la inteligencia artificial conlleva riesgos, los países deben impulsar políticas para proteger la seguridad

Anthropic señaló que la inteligencia artificial tiene el potencial de aportar beneficios amplios en áreas como la investigación científica, la innovación tecnológica, el desarrollo médico y el crecimiento económico, pero sus riesgos potenciales no deben ser ignorados. Los riesgos relacionados provienen del uso indebido de la tecnología, como su utilización en ataques cibernéticos automatizados o en la fabricación de armas peligrosas en el futuro, e incluso la posibilidad de que, tras la mejora de las capacidades de los modelos, estos puedan desviarse de las intenciones de los usuarios y comportarse de manera incontrolable. A medida que los modelos de IA continúan evolucionando rápidamente, gestionar estos riesgos potenciales mientras se impulsa la innovación será un tema clave en el desarrollo de la inteligencia artificial.

Las capacidades de los modelos de inteligencia artificial están avanzando rápidamente, desde chatbots hasta agentes de IA capaces de realizar tareas complejas y múltiples pasos. Anthropic afirmó que, para afrontar los desafíos de la constante evolución de los nuevos modelos de IA, la empresa está elevando continuamente los requisitos para reclutar ingenieros de software, sometiendo a los nuevos ingenieros a pruebas de alta dificultad para estar preparados ante los rápidos avances en IA.

En vista de esto, Anthropic considera que la rápida adopción de la IA supera con creces el ritmo de desarrollo de muchas tecnologías anteriores, sin embargo, la formulación de políticas para la IA avanza lentamente. Actualmente, no existe un mecanismo de regulación oficial completo ni un marco federal integral, lo que ha llevado a que las discusiones políticas sean dispersas. Anthropic afirmó que las políticas de IA en los próximos años influirán en temas como el mercado laboral, la protección infantil y juvenil, la seguridad nacional y el poder internacional, por lo que es necesario establecer un sistema de regulación flexible y capaz de responder, logrando un equilibrio entre innovación y riesgos.

Donación de 20 millones a “Organización de Acción Prioritaria Pública”, sin afiliación política específica

Anthropic declaró que la donación de 20 millones a la Organización de Acción Prioritaria Pública no tiene fines políticos ni responde únicamente a intereses propios de la empresa, sino que enfatiza que los desarrolladores de IA tienen la responsabilidad de garantizar que la tecnología beneficie al interés público. La donación refleja esta postura.

La Organización de Acción Prioritaria Pública no es una organización de cabildeo en el sentido tradicional, sino un grupo de iniciativa política. Los temas que aborda incluyen la protección de los derechos de los niños, los trabajadores y el público en general, el fortalecimiento del control de exportaciones de semiconductores avanzados en Estados Unidos, la transparencia en laboratorios de IA y la reducción de riesgos significativos asociados a la IA. La organización apoya firmemente el trabajo de los legisladores estatales y locales para abordar los problemas emergentes de la IA, y se opone a que el gobierno federal, en ausencia de medidas de protección adecuadas, obstaculice el avance en el campo de la IA en los estados. La organización de Acción Prioritaria Pública está compuesta por figuras políticas de tendencia bipartidista en Estados Unidos. Es importante señalar que, aunque Anthropic afirmó que su donación no busca apoyar a ningún partido político en particular, recientemente la organización ha apoyado la campaña del senador republicano de Tennessee, Marsha Blackburn, para la gobernación del estado.

Este artículo sobre la donación de 20 millones de dólares de Anthropic a la “Organización de Acción Prioritaria Pública” para promover la defensa de la IA fue publicado originalmente en News ABMedia.