Anthropic : une fuite de données et de nouvelles vulnérabilités remettent en question claude mythos
Un nouveau coup de théâtre frappe Anthropic, l'entreprise à l'origine de l’IA conversationnelle Claude. Une fuite massive de données de code, combinée à de nouvelles vulnérabilités découvertes dans son modèle Mythos, ébranlent la confiance et soulèvent de sérieuses questions sur la sécurité de cette Technologie.
Claude mythos, une ardoise rouge pour anthropic
Récemment, une importante défiltration de code a déjà mis Anthropic à rude épreuve. Aujourd’hui, le modèle Claude Mythos, présenté comme un concurrent sérieux à GPT-4, est à nouveau au cœur d'une controverse. Un groupe d'utilisateurs de Discord a, selon un rapport de Bloomberg, eu accès à une version préliminaire du modèle, une faille qui met en lumière les risques liés au développement précoce de ces intelligences artificielles.
L'entreprise, qui avait même avancé que Mythos était trop puissant pour être déployé publiquement, se défend en affirmant qu'il n'y a pas eu de piratage massif. Une communication officielle, certes rassurante, ne saurait masquer la gravité de la situation. L'accès non autorisé, même non exploité pour le moment, constitue un précédent inquiétant.
Des failles majeures, des agents en paralelle
Les experts en cybersécurité soulignent que les failles découvertes ne sont qu'une partie du problème. Anthropic, qui avait déjà dévoilé 271 vulnérabilités dans Firefox grâce à Claude Mythos, continue de peiner à maîtriser les risques inhérents à ses modèles. Le projet, initialement conçu pour intégrer 300 agents en parallèle, capable de fonctionner sans supervision pendant des heures, semble avoir pris du retard sur le plan de la sécurité.
L’accès anticipé de ces utilisateurs de Discord n’est pas motivé par une intention malveillante, mais par la soif d'expérimenter avec une Technologie d'avant-garde. Pourtant, cette situation souligne la nécessité d'une vigilance accrue. Anthropic, qui a récemment limité l'accès à Mythos à des entreprises de premier plan comme Apple, Microsoft et Amazon, doit impérativement renforcer ses défenses. Dario Amodei, PDG d’Anthropic, prétend que Mythos peut s'infiltrer dans « tous les principaux systèmes d’exploitation et navigateurs web » sur commande de l'utilisateur – une affirmation qui, dans le contexte actuel, sonne plus comme une menace qu'une promesse.
Ce n’est pas une simple fuite de données, c’est une remise en question de l’ensemble de la stratégie d’Anthropic. La confiance des investisseurs et des utilisateurs est fragile et pourrait se briser si la sécurité de ses modèles ne s'améliore pas rapidement. La course à l’IA conversationnelle est impitoyable, mais elle ne doit pas se faire au détriment de la sécurité. Le déchiffrage de ces vulnérabilités est devenu une priorité absolue, non seulement pour Anthropic, mais pour l'ensemble de l'écosystème de l’intelligenceartificielle.