Openai mobilise les experts pour traquer les failles de l'ia
La course à l'intelligence artificielle prend une tournure inattendue : OpenAI, leader incontesté du domaine avec ChatGPT, lance un programme de primes à la chasse aux bogues, baptisé Safety Bug Bounty. L'objectif ? Anticiper les risques émergents liés à ses modèles d'IA, bien au-delà des classiques vulnérabilités informatiques.
Un nouveau champ de bataille : le comportement de l'ia
Alors que ChatGPT s'enrichit de bibliothèques de contenu et d'outils de commerce intégrés, la sécurité des systèmes d'IA ne peut se limiter aux protections habituelles. OpenAI reconnaît implicitement qu'il s'agit d'un terrain d'attaque inédit, où la manipulation par des requêtes malicieuses (prompt injection) ou l'exploitation abusive d'agents autonomes représentent des menaces concrètes. Les chercheurs sont invités à identifier des failles permettant, par exemple, la fuite de données sensibles ou l'exécution d'actions nuisibles par des systèmes automatisés.
Le programme ne se contente pas de chercher des problèmes potentiels. Pour qu'une découverte soit éligible à une prime, le chercheur doit démontrer une reproductibilité constante, environ 50% des tentatives devant aboutir au même résultat. Plus intéressant encore, OpenAI accepte les rapports concernant l'exposition de mécanismes internes de ses modèles – une fenêtre inédite sur le fonctionnement de l'IA, et potentiellement une source d'informations stratégiques pour des acteurs malveillants. Les tentatives de contournement des restrictions imposées à ChatGPT, ou encore les failles compromettant l’intégrité de la plateforme, entrent également dans le périmètre.
Mais attention : OpenAI exclut catégoriquement les “jailbreaks” simplistes, les failles à faible impact, ou celles qui ne présentent pas de solution claire et de conséquences pratiques. Les équipes de sécurité et de comportement de l'IA d'OpenAI examineront rigoureusement chaque proposition, pouvant la rediriger vers un département plus approprié. Cette initiative, bien qu'ambitieuse, pourrait être complétée par des programmes privés, ciblant des domaines particulièrement sensibles.
La démarche d'OpenAI, en ouvrant ses systèmes à un examen externe et volontaire, soulève une question fondamentale : est-ce le meilleur moyen de garantir la sécurité de l'IA, ou une course à l'armement entre les chercheurs en sécurité et les développeurs de modèles ? La réponse, probablement, réside dans la capacité de l'industrie à collaborer et à partager ses connaissances, avant que les conséquences d'une faille majeure ne se fassent sentir à grande échelle.