Comment la technologie a ruiné la démocratie

Avec les dernières élections présidentielle américaine du 5 novembre 2024, les craintes ont augmenté quant à la capacité de la technologie à perturber le vote. Les préoccupations concernant les médias sociaux et leur rôle dans la diffusion de la désinformation – alimentées par les adversaires de Washington – sont présentes dans le débat public depuis une décennie, mais les responsables mettent en garde contre le fait que les efforts d’ingérence de la Chine, de l’Iran et de la Russie se sont intensifiés autour des élections de 2024.

L’une des plus grandes craintes concerne l’impact de l’intelligence artificielle, en particulier des grands modèles de langage – comme le GPT-4 d’OpenAI – qui peuvent générer du texte, de l’audio et de la vidéo à la demande et menacent de dynamiser la désinformation. Bien qu’il n’existe pas de preuves concluantes que l’une des nombreuses élections organisées cette année ait été influencée par de fausses informations générées par l’IA, le scientifique et expert en IA Gary Marcus affirme qu’il s’agit d’une catastrophe imminente.

« Je suis certain que nous verrons davantage de désinformation générée par l’IA lors de la prochaine élection américaine », a déclaré Marcus à Foreign Policy. Des exemples préoccupants précoces dans le cycle électoral de cette année incluent un faux appel automatisé en janvier utilisant la voix du président Joe Biden pour décourager les électeurs d’aller voter lors des primaires démocrates du New Hampshire, ainsi qu’une fausse vidéo attribuée la semaine dernière à la Russie, montrant un agent électoral en Pennsylvanie détruisant des bulletins de vote.

« Je pourrais être prêt à accepter que nous en ayons vu moins que ce que j’avais prévu. Mais nous en voyons, et il suffit d’une élection serrée pour que cela retourne la situation et undermine réellement la nature de la démocratie », a déclaré Marcus. « Je pense qu’il serait imprudent de dire : “Eh bien, il n’y a pas eu de grande catastrophe jusqu’à présent, donc nous sommes en sécurité ici.” Ce serait comme dire que nous avons fabriqué beaucoup de bateaux à vapeur, donc celui-ci est invincible, et voilà, vous avez percuté un iceberg. »

Marcus a déclaré que les élections de cette année font partie de ce qui l’a poussé à écrire et à publier rapidement son nouveau livre, Dominer la Silicon Valley : Comment pouvons-nous nous assurer que l’IA fonctionne pour nous. « Je voulais que les gens réalisent, au fur et à mesure que ces élections se déroulent, que la politique en matière d’IA est vraiment, vraiment importante », a-t-il déclaré. « Nous avons mal géré les médias sociaux, et nous ne pouvons pas nous permettre de faire de même avec l’IA. »

Le livre de Marcus décrit l’état actuel de l’intelligence artificielle – en mettant particulièrement l’accent sur l’IA générative qui alimente les grands modèles de langage – et les plus grands risques qu’elle pose à la société. Il passe beaucoup de temps à mettre en garde contre l’influence des grandes entreprises technologiques sur la politique, ainsi que sur les dangers de permettre à des acteurs établis tels que Google, Meta, Microsoft et OpenAI d’avoir trop de marge de manœuvre sans les contrôler.

Il y a aujourd’hui plus de discussions publiques autour des garde-fous de l’IA que dans les premiers jours des médias sociaux, lorsque les décideurs n’ont pas reconnu les dangers de la technologie.

L’année dernière, Marcus a témoigné devant le Congrès aux côtés du PDG d’OpenAI, Sam Altman, tous deux mettant en lumière les risques de la technologie, et Altman affirmant qu’il accueillait la réglementation et les contrôles indépendants – bien que Marcus ait plus tard déclaré que le comportement ultérieur d’Altman et le lobbying d’OpenAI contre la réglementation européenne en matière d’IA indiquent le contraire. (« Il devient de plus en plus clair que les propos tenus par [Altman] lorsque nous étions côte à côte au Sénat ne sont pas tout à fait exacts », a déclaré Marcus à Foreign Policy.)

Mais Marcus a déclaré que les décideurs sont toujours en danger de commettre les mêmes erreurs.

« Vous ne pouvez pas permettre la capture réglementaire où les grandes entreprises dictent les règles. Vous devez surveiller la situation, et les mauvaises pratiques peuvent devenir à la fois culturellement et légalement enracinées », a-t-il déclaré. Son livre propose une série de solutions potentielles aux problèmes de développement et de réglementation de l’IA, y compris des protections de la vie privée, une meilleure compréhension de l’IA et une forte agence de gouvernance de l’IA aussi bien aux États-Unis qu’à l’échelle mondiale.

« Je pense que Washington est toujours sous l’emprise de la Silicon Valley et prend la Silicon Valley pour argent comptant », a ajouté Marcus. « Washington doit se réveiller et réaliser qu’en fait, la Silicon Valley est en train de mener une énorme prise de pouvoir. »