Le sénateur démocrate bernie sanders révèle les pratiques de collecte de données de grandes entreprises
Le leader démocrate américain, âgé de 84 ans, a dévoilé dans une vidéo YouTube une conversation tendre avec l'IA Claude, développée par la startup Anthropic. La Technologie a détaillé les occasions où les données personnelles des utilisateurs sont compromises et les intérêts des entreprises qui en font usage.
Les entreprises collectent des profils détaillés des utilisateurs
Claude a expliqué que les entreprises enregistrent l'historique de navigation, la localisation, les achats, les recherches et même le temps que les utilisateurs passent sur une page web. Toutes ces informations se combinent pour créer des profils extrêmement détaillés.
La plupart des citoyens consentent à cela sans le savoir en acceptant les termes et conditions sans les lire. Mais Sanders a éclaté de rire en apprenant que la principale motivation derrière la collecte massive de données était le profit.
L'ia peut influencer les élections
Le point clé de l'entrevue est lorsque Claude a prévenu que le profilage massif permet une ciblage politique à une échelle sans précédent. Cela signifie qu'il est possible d'identifier les électeurs en fonction de leurs vulnérabilités spécifiques, comme l'anxiété économique, la défiance institutionnelle, l'isolement social, puis de leur envoyer des messages conçus pour exploiter ces faiblesses.
Cela se traduit par des narratifs complètement distincts pour chaque électeur, ce qui fragmente la réalité qui sous-tend la démocratie. Le risque s'aggrave si des acteurs étrangers ont accès à ces profils pour les manipuler avant les élections.
La réponse de Claude a également souligné l'hypocrisie des entreprises qui utilisent les données personnelles pour entraîner leurs modèles tout en réclamant protéger la vie privée.
Les réglementations sont nécessaires
En réponse à la question de Sanders sur la possibilité de faire confiance aux entreprises qui utilisent les données personnelles pour entraîner leurs modèles alors qu'elles affirment protéger la vie privée, le CEO d'Anthropic, Dario Amodei, a reconnu qu'il y avait un conflit d'intérêts inhérent.
Sans réglementation avec des conséquences réelles, comme la transparence, le consentement explicite ou les pénalités, l'esprit critique des citoyens est entièrement justifié.
Le sénateur a également suggéré l'idée de mettre en place des normes pour le développement de nouveaux centres de données d'intelligence artificielle. Claude a initialement proposé une réglementation plus chirurgicale, mais après que Sanders a pointé que les entreprises technologiques investissent des centaines de millions de dollars pour bloquer précisément ces réglementations, l'IA a reconnu que sa réponse avait été ingénue.
Elle a ainsi admis que dans ce contexte politique réel, une norme devient une outil de pression légitime. Les législateurs peuvent ainsi exiger des protections avant que les entreprises ne poursuivent leur expansion.
En fin de compte, la privacité n'est pas juste un problème personnel, mais une question de démocratie. Lorsque des entreprises et des gouvernements ont des profils détaillés de millions de personnes, ils ont un pouvoir sur elles qui la plupart des citoyens ne comprennent pas pleinement.