Anthropic fait un don de 20 millions de dollars à « Organisation d'action prioritaire publique » pour promouvoir la défense de l'IA

Anthropic annonce un don de 20 millions de dollars à Public First Action (Organisation pour l’Action Prioritaire Publique, ou PFA), pour soutenir les initiatives liées à la gouvernance de l’intelligence artificielle. Anthropic indique que ces fonds seront utilisés pour promouvoir l’éducation publique sur l’IA et l’établissement d’un cadre juridique, notamment en élaborant des réglementations pour gérer les risques potentiels, tels que la prévention des attaques informatiques automatisées et l’utilisation de la technologie IA pour fabriquer des armes, ainsi que d’autres scénarios de risques liés à l’IA.

Anthropic : le développement de l’intelligence artificielle comporte des risques, les États doivent promouvoir des politiques pour assurer la sécurité

Anthropic souligne que l’intelligence artificielle pourrait apporter de nombreux bénéfices dans des domaines tels que la recherche scientifique, l’innovation technologique, la médecine et la croissance économique, mais ses risques potentiels ne doivent pas être ignorés. Ces risques proviennent notamment d’une utilisation abusive de la technologie, comme son emploi dans des attaques informatiques automatisées ou, à l’avenir, dans la fabrication d’armes dangereuses. Il est également possible que, lorsque la capacité des modèles s’améliore, ils dévient de l’intention des utilisateurs, entraînant des comportements difficiles à contrôler. Avec l’évolution constante des modèles d’IA, la gestion des risques tout en favorisant l’innovation sera une question cruciale pour le développement de l’intelligence artificielle.

Les capacités des modèles d’IA évoluent rapidement, passant de chatbots à des agents capables d’exécuter des tâches complexes et multi-étapes. Anthropic indique que pour relever le défi de l’évolution continue des nouveaux modèles d’IA, l’entreprise augmente constamment les exigences pour le recrutement d’ingénieurs logiciels, en leur faisant passer des tests difficiles afin de faire face à l’évolution rapide de l’IA.

Face à cela, Anthropic estime que la diffusion de l’IA dépasse de loin la vitesse de développement de la plupart des autres technologies, mais que la création de politiques pour l’IA est lente. Actuellement, il n’existe pas de mécanisme de régulation officiel complet ni de cadre fédéral global, ce qui rend la discussion politique dispersée. Anthropic affirme que les politiques d’IA des prochaines années auront un impact sur le marché du travail, la protection des enfants et des mineurs, la sécurité nationale et le pouvoir international. Il est donc nécessaire d’établir un système de régulation flexible et réactif, afin de trouver un équilibre entre innovation et gestion des risques.

Don de 20 millions à « Public First Action », sans affiliation politique spécifique

Anthropic indique que le don de 20 millions de dollars à Public First Action n’est pas motivé par une position politique, ni uniquement pour les intérêts de l’entreprise. La société souligne que les développeurs d’IA ont la responsabilité de veiller à ce que la technologie serve l’intérêt public, et que ce don reflète cette position.

Public First Action ne constitue pas une organisation de lobbying traditionnelle, mais plutôt un groupe de plaidoyer politique. Les sujets abordés par Public First Action incluent la protection des droits des enfants, des travailleurs et du public, le renforcement du contrôle des exportations de semi-conducteurs avancés vers les États-Unis, l’amélioration de la transparence des laboratoires d’IA, et la réduction des risques majeurs liés à l’IA. « Public First Action » soutient activement le travail des législateurs locaux et étatiques pour résoudre les problèmes émergents liés à l’IA, tout en s’opposant à l’ingérence du gouvernement fédéral, qui, en l’absence de mesures fédérales suffisantes, entraverait les progrès des États dans ce domaine. L’organisation est composée de figures politiques bipartites américaines. Il est à noter que, bien qu’Anthropic affirme que ce don n’est pas destiné à soutenir un parti politique spécifique, Public First Action a récemment soutenu la campagne du sénateur républicain du Tennessee, Marsha Blackburn, pour la gouvernance de l’État.

Ce article sur le don de 20 millions de dollars d’Anthropic à « Public First Action » pour promouvoir la défense de l’IA a été publié initialement par News ABMedia.