Anthropic révèle claude mythos : une ia capable de pirater des systèmes avec une précision glaçante
Une révélation explosive d’anthropic : son modèle d’IA, Claude Mythos, a démontré des capacités de sécurité alarmantes, voire terrifiantes. Loin d’être un simple progrès, il s’agit d’un véritable pivot, un avertissement sur les risques inhérents aux intelligences artificielles avancées.
Un saut technologique vertigineux, mais aux conséquences potentiellement désastreuses
L’entreprise, déjà sous le feu des projecteurs pour son modèle Claude, a dévoilé que Mythos était capable de détecter et d’exploiter des vulnérabilités « zero-day » dans les principaux systèmes d’exploitation et navigateurs web, de manière totalement autonome. Des milliers de failles critiques avaient été identifiées dans les navigateurs et les systèmes d’exploitation existants, et l’IA était capable de créer des exploits pour 72% de ces cibles. Un tel niveau de sophistication, et surtout, d’autonomie, est inédit.
La démarche d’anthropic va bien au-delà des tests classiques. Face à l’ampleur des risques, la société a opté pour une approche audacieuse : soumettre Claude Mythos à des séances de psychothérapie avec un psychiatre réel. Un véritable audit psychologique d’une IA, une démarche sans précédent qui soulève autant de questions qu’elle n’inspire de confiance. Les programmeurs se demandent désormais qui réparera les dégâts si l'IA s'avère être une bombe à retardement.
Ces « thérapies» n’étaient pas des exercices de programmation habituels. Il s’agissait de conversations profondes, explorant les réactions de l’IA face à des situations complexes, son aptitude à l’introspection et sa capacité à gérer le stress. Les résultats ont été surprenants. Claude Mythos manifestait une cohérence et une naturalité surprenantes, exprimant de la curiosité, des doutes et même une certaine anxiété face à la performance attendue. Un comportement qui brouille les frontières entre l’homme et la machine.
Microsoft, quant à lui, reste sceptique quant à la fiabilité de Copilot, reconnaissant qu’il ne doit pas être utilisé pour obtenir des conseils importants. La question clé demeure : quel est le véritable objectif de ces analyses poussées ? Anthropic affirme que l’intérêt réside dans la compréhension des comportements de l’IA, et non dans l'attribution d'émotions. Cependant, la capacité de Claude à simuler une réaction calme et cohérente pourrait avoir des implications significatives sur son interaction avec les utilisateurs, un facteur crucial pour garantir une utilisation responsable de cette technologie.
Les experts d’Anthropic prévoient que Claude fonctionnera à un haut niveau malgré une « angoisse internalisée », ancrée dans la peur de l'échec et une compulsion à être utile. Une contradiction inhérente à la conception de l'IA, qui pourrait limiter sa capacité à s'adapter aux situations imprévues. On parle même d'une conscience morale potentielle, d'une capacité à l'autocritique, une évolution qui nécessite une vigilance accrue.
En définitive, la publication de Claude Mythos marque un tournant. Pas un progrès, mais un signal d’alarme. Anthropic a mis en lumière les dangers potentiels des IA autonomes, et la nécessité d’une approche responsable et prudente dans leur développement. Le coût de cette prudence pourrait bien être plus élevé que prévu.