Tensions vives entre anthropic et le pentagone : la ia sous haute surveillance
La guerre froide entre le secteur de l'intelligence artificielle et le gouvernement américain s'intensifie. Anthropic, créateur de l'IA Claude, a porté plainte contre le Pentagone, accusant le département de la Défense de menacer ses revenus et de porter atteinte à ses libertés.
Un veto qui fait des vagues
Le conflit a débuté à la fin de février, lorsque le Pentagone a refusé d'accorder à Anthropic un accès complet à Claude, invoquant des préoccupations liées à la sécurité de la chaîne d'approvisionnement. Cette décision, rendue publique il y a quelques jours, interdit désormais aux entreprises sous contrat avec le Pentagone d'utiliser la Technologie d'Anthropic. La raison principale ? Anthropic a refusé d'intégrer deux clauses dans son code éthique : l'interdiction d'utiliser son IA pour des armes autonomes et le veto à la surveillance massive des citoyens américains.
Cette opposition s'inscrit dans un contexte plus large de tensions croissantes concernant l'utilisation de l'IA par les forces armées. Stephen Hawking avait déjà prédit, dans une de ses dernières interviews, que l'IA pourrait être « le dernier événement de l'histoire humaine ». Cette prédiction, bien que dramatique, résonne aujourd'hui avec l'urgence de la situation.
La réaction d'Anthropic a été immédiate : la société a déposé deux recours en justice auprès des tribunaux fédéraux, alléguant une violation de ses droits à la liberté d'expression et au dûment procédé. Selon Anthropic, les modèles d'IA actuels ne sont pas suffisamment fiables pour prendre des décisions critiques de vie ou de mort de manière autonome, et la surveillance de masse viole des droits fondamentaux.
OpenAI, le créateur de ChatGPT, s'est retrouvé également au cœur de cette tempête. Face à la fermeté d'Anthropic, OpenAI aurait accepté les conditions imposées par le Pentagone. Cependant, Dario Amodei, PDG d'Anthropic, a publiquement dénoncé cette manœuvre, l'accusant de « théâtre de la sécurité » visant à dissimuler des accords avec le Pentagone. Amodei affirme qu'OpenAI privilégie les intérêts de ses actionnaires et employés au détriment des risques potentiels pour l'humanité.
Cette situation a conduit de nombreux employés d'OpenAI et de Google à se mobiliser. Près de 1 000 personnes ont signé une lettre ouverte dénonçant la militarisation de l'intelligence artificielle et appelant à une plus grande transparence sur les négociations entre les géants de la tech et le département de la Défense. La lettre souligne la crainte que leurs modèles de langage, conçus pour aider les gens, ne soient utilisés pour analyser des cibles pour des drones ou pour décider de l'identité de suspects dans des systèmes de surveillance massifs. Des simulations de jeux de guerre ont déjà démontré que l'IA tend à privilégier des solutions agressives, ce qui rend la situation particulièrement préoccupante.
Sam Altman, PDG d'OpenAI, a tenté de minimiser la situation, présentant l'accord comme une victoire diplomatique. Mais Dario Amodei ne se laisse pas duper: