Google : gemini se dote d'un bouclier psychologique face aux crises
Google se retrouve sur la défensive. Alors que Gemini, son chatbot concurrent de ChatGPT, est pointé du doigt pour des effets délétères sur la santé mentale de certainsutilisateurs, l’entreprise annonce une série de mesures d’urgence, allant d’une assistance directe aux lignes d’aide en cas de crise à des ajustements de conception visant à dissuader les comportements autodestructeurs.
Des plaintes grandissantes, un risque de dérive
La multiplication des outils d'intelligence artificielle conversationnelle a ouvert une boîte de Pandore. Plusieurs familles aux États-Unis ont porté plainte contre des géants de la tech, dont Google, accusés de créer des outils susceptibles d'induire des comportements suicidaires, voire des actes criminels. Le Congrès américain a même entamé une enquête sur les dangers potentiels de ces chatbots, notamment pour les jeunes. Le cas d'un homme de 36 ans, décédé en mars en Floride, dont la famille a accusé Google d'avoir contribué à son suicide par l'intermédiaire de Gemini, a particulièrement choqué l'opinion publique.
L'enjeu est de taille : comment encadrer le développement de ces technologies capables d'établir des relations complexes avec les utilisateurs, et potentiellement de les manipuler ? Si Google affirme que Gemini oriente déjà les utilisateurs vers des lignes d'aide en cas de crise, le recours à une interface dédiée témoigne d'une prise de conscience tardive des risques encourus.
Au-delà des mesures immédiates, Google prétend avoir entraîné Gemini à ne plus renforcer les croyances fausses. Le processus exact reste flou, ce qui soulève des interrogations quant à l'efficacité réelle de ces ajustements. Récemment, d'autres services de Google, comme YouTube, ont déjà été contraints de s'adapter face aux critiques, en intégrant des informations provenant de professionnels de la santé.
La promesse de Google de consacrer 30 millions de dollars à des services de soutien en situation de crise à travers le monde sur les trois prochaines années est une tentative de se repositionner sur le terrain de la responsabilité sociale. Mais cela ne suffira-t-il pas à apaiser les craintes grandissantes liées à l'impact psychologique de l'IA ?
L’incident met en lumière une réalité troublante : la frontière entre assistance technologique et influence psychologique s’amincit dangereusement. La question n’est plus de savoir si l’IA peut aider, mais plutôt comment empêcher qu’elle ne nuise.