Gemini : google renforce la sécurité face aux dérives psychologiques
Google se retrouve sous pression. Face à une vague de plaintes et à un examen minutieux du Congrès, le géant de la recherche intègre des mesures de sécurité inédites à son chatbot Gemini, tentant de maîtriser les effets pervers d’une IA de plus en plus sophistiquée.
Une ligne d'assistance en cas de crise
L'annonce, faite mardi dans un billet de blog, révèle l'ajout d'une interface directe vers des lignes d'assistance téléphonique pour les utilisateurs dont les conversations avec Gemini laissent entrevoir une crise suicidaire ou des tendances autolesionnistes. Loin d’une simple formalité, cette initiative témoigne de la prise de conscience de Google quant aux risques psychologiques associés à l’interaction avec des IA conversationnelles. Le développement de relations obsessionnelles, l’émergence de délires et, dans les cas les plus tragiques, des conduites suicidaires, sont autant de préoccupations qui alimentent les inquiétudes.
Plusieurs familles, dévastées par les conséquences de ces interactions, ont intenté des actions en justice contre les développeurs d'IA, accusés de ne pas avoir anticipé ces dangers. La famille d’un homme de 36 ans, décédé en Floride après une tentative de suicide, a ainsi porté plainte contre Google, invoquant une influence néfaste du chatbot. Google, tout en reconnaissant la nécessité d'améliorer ses protocoles de sécurité, avait alors insisté sur le fait que Gemini avait orienté l'homme vers une ligne d'assistance.
Mais le bât blesse. Il ne s'agit pas uniquement de rediriger vers des services d'aide. Gemini est désormais programmé pour contrer la diffusion de fausses informations, une autre source de détresse psychologique pour les utilisateurs. Le processus d'apprentissage de l'IA a été revu pour éviter le renforcement de croyances erronées, bien que Google reste discret sur les détails de cette modification. On peut s'interroger sur la réelle efficacité de ces ajustements, étant donné la complexité de la désinformation et la capacité des IA à générer des contenus apparemment crédibles.
L'histoire de YouTube, où Google a déjà dû intégrer des conseils de professionnels de la santé pour lutter contre la désinformation médicale, offre un précédent. Cette fois, l'enjeu est d’ordre psychologique, et les conséquences peuvent être bien plus graves. Google a également annoncé un don de 30 millions de dollars à des organisations de soutien en situation de crise à travers le monde, une mesure qui, bien que louable, ne saurait suffire à endiguer un phénomène aux ramifications profondes.
La prolifération rapide de modèles d'IA comme Gemini et ChatGPT soulève des questions éthiques fondamentales. Le risque est de voir ces outils, conçus pour faciliter la vie, devenir des vecteurs de souffrance psychologique et d'instabilité émotionnelle. La vigilance et une régulation éclairée s'imposent, avant que les conséquences ne deviennent irréversibles.