Anthropic dévoile mythos : une ia défensive contre les cyberattaques
Une course effrénée s'engage dans le monde de l'intelligenceartificielle, et Anthropic vient de jouer une carte audacieuse. L'entreprise a mis en place le Projet Glasswing, une initiative collaborative visant à anticiper et contrer les menaces cybernétiques potentielles liées à l'essor des IA avancées. L'accès à son modèle phare, Mythos, est désormais ouvert à un cercle restreint d'acteurs technologiques, une annonce qui résonne dans un contexte de préoccupations croissantes concernant la sécurité.
Mythos : un rempart contre les attaques futures
Le Projet Glasswing, fruit d'une collaboration avec Amazon, Apple, Microsoft et Cisco, offre à ses membres un accès privilégié à Mythos, un modèle d'IA généraliste. L'objectif ? Identifier les failles potentielles dans leurs propres produits et partager ces découvertes avec l'ensemble de l'industrie. Newton Cheng, responsable de la ciber-sécurité chez Anthropic, souligne que ce n'est pas qu'un problème spécifique à Anthropic, mais un défi qui concerne l'ensemble du secteur, impliquant une action conjointe des entreprises et des gouvernements. La stratégie est claire : armer les défenseurs avant que les attaquants ne disposent des outils nécessaires.
La révélation de l'existence de Mythos, précédée d'une fuite de documents, a mis en lumière la rapidité avec laquelle les capacités des IA évoluent. Mais ce qui frappe, c'est la capacité de Mythos à détecter des vulnérabilités existant depuis des décennies. L'IA a ainsi identifié un défaut de sécurité datant de 27 ans dans un logiciel critique pour internet, ainsi qu'une faille de 16 ans dans le code d'un jeu vidéo populaire, échappant aux outils de test automatisés qui l'avaient analysé à plus de cinq millions de reprises. La statistique est éloquente : une IA peut faire ce que des armées d'ingénieurs n'ont pas réussi à faire.
L'accès à Mythos est strictement contrôlé, avec des mesures de protection visant à garantir que les membres du Projet Glasswing ne puissent pas l'utiliser à des fins malveillantes. Dianne Penn, responsable de la gestion de produits pour la recherche chez Anthropic, a refusé de divulguer des détails sur ces mesures de sécurité, invoquant des raisons évidentes. Les discussions avec les autorités américaines, notamment l'Agency for Infrastructure and Cybersecurity et le National Institute of Standards and Technology, témoignent de la prise au sérieux de cette initiative par les pouvoirs publics.
Bien que Mythos n'ait pas été spécifiquement conçu pour la ciber-sécurité, sa capacité à repérer des failles, même les plus anciennes, démontre le potentiel de l'IA comme outil de défense. Loin d'être une simple curiosité technique, le Projet Glasswing représente une réponse proactive à un danger grandissant : l'utilisation abusive de l'IA par des acteurs malveillants. Si le futur de la ciber-sécurité reste incertain, une chose est claire : Anthropic a ouvert une brèche dans les défenses, et l'industrie technologique devra s'adapter rapidement pour suivre le rythme.