CARTON ROUGE - Le problème des personnes fictives - Quand l'IA déshumanisera la civilisation actuelle !

Les entreprises qui utilisent de l'IA pour générer de fausses personnes commettent un acte de vandalisme immoral, et devraient être tenues pour responsables.

La circulation de la monnaie existe depuis plusieurs milliers d'années et, dès l'origine, la contrefaçon a été reconnue comme un crime très grave, qui, dans de nombreux cas, appelle la peine capitale parce qu'il sape la confiance dont dépend la société. Aujourd'hui, pour la première fois dans l'histoire, grâce à l'intelligence artificielle (IA), il est possible pour quiconque de fabriquer des personnes fictives qui peuvent passer pour vraies dans un grand nombre des nouveaux environnements numériques que nous avons créés. Ces personnes fictives sont les artefacts les plus dangereux de l'histoire de l'humanité, capables de détruire non seulement les économies, mais aussi la liberté humaine elle-même. Avant qu'il ne soit trop tard (il est peut-être déjà trop tard), nous devons interdire à la fois la création de personnes fictives et la "transmission" de personnes fictives. Les peines encourues pour l'un ou l'autre de ces délits devraient être extrêmement sévères, étant donné que la civilisation elle-même est en danger.

Il est terriblement ironique que l'engouement actuel pour faire croire aux gens qu'ils interagissent avec une personne réelle soit né de la proposition innocente d'Alan Turing, en 1950, d'utiliser ce qu'il appelait "le jeu d'imitation" (aujourd'hui connu sous le nom de "test de Turing") comme point de référence de la pensée réelle. Cette proposition a engendré non seulement une industrie artisanale, mais aussi une industrie de haute technologie financée par des fonds publics et engagée dans la fabrication de produits qui tromperont même les interlocuteurs les plus sceptiques. Notre tendance naturelle à traiter comme une personne tout ce qui semble nous parler raisonnablement - en adoptant ce que j'ai appelé la "position intentionnelle" - s'avère facile à invoquer et presque impossible à résister, même pour les experts. Nous allons tous devenir des cibles faciles dans un avenir proche.

Le philosophe et historien Yuval Noah Harari, écrivant dans The Economist en avril, a terminé son avertissement opportun sur la menace imminente de l'IA pour la civilisation humaine par ces mots :

"Ce texte a été généré par un humain. Ou bien l'a-t-il été ?"

Il sera bientôt presque impossible de le savoir. Et même si (pour l'instant) nous sommes capables de nous enseigner mutuellement des méthodes fiables pour démasquer les personnes fictives, le coût de ces 'deepfakes' pour la confiance humaine sera énorme. Comment réagirez-vous si vos amis et votre famille vous posent des questions pièges à chaque fois que vous essayez de converser avec eux en ligne ?

La création de personnes fictives numériques risque de détruire notre civilisation. La démocratie repose sur le consentement informé (et non désinformé) des gouvernés. En permettant aux personnes, aux entreprises et aux gouvernements les plus puissants économiquement et politiquement de contrôler notre attention, ces systèmes nous contrôleront. Les personnes fictives, en nous distrayant, en nous déroutant et en exploitant nos peurs et nos angoisses les plus irrésistibles, nous conduiront à la tentation et, de là, à l'acceptation de notre propre assujettissement. Les personnes fictives nous amèneront à adopter des politiques et des convictions qui nous rendront vulnérables à d'autres manipulations. Ou bien nous détournerons simplement notre attention et deviendrons des pions passifs et ignorants. C'est une perspective terrifiante.

La principale innovation technologique qui fait de la perte de contrôle de ces systèmes une possibilité réelle est que, contrairement aux bombes nucléaires, ces armes peuvent se reproduire. L'évolution ne se limite pas aux organismes vivants, comme l'a démontré Richard Dawkins en 1976 dans Le gène égoïste. Les personnes fictives commencent déjà à nous manipuler pour que nous accouchions de leur progéniture. Ils apprendront les uns des autres, et les plus intelligents, les plus aptes, ne se contenteront pas de survivre, ils se multiplieront. L'explosion démographique des balais dans L'Apprenti sorcier a commencé, et nous ferions mieux d'espérer qu'il existe un moyen non magique de l'arrêter.

Il existe peut-être un moyen de retarder, voire d'éteindre cette évolution inquiétante, en s'inspirant du succès - limité mais impressionnant - obtenu par la plupart d'entre nous pour maintenir la fausse monnaie dans la catégorie des nuisances (ou bien examinez-vous attentivement chaque billet de 20 dollars que vous recevez ?)

Comme le dit Harari, nous devons "obliger l'IA à révéler qu'elle est une IA". Comment faire ? En adoptant un système de "filigrane" de haute technologie, comme la Constellation EURion, qui protège aujourd'hui la plupart des monnaies du monde. Bien qu'il ne soit pas infaillible, ce système est extrêmement difficile et coûteux à maîtriser, ce qui n'en vaut pas la peine pour presque tous les agents, même les gouvernements. Les informaticiens ont également la capacité de créer des modèles presque indélébiles qui crieront "FAKE !" dans presque toutes les conditions, à condition que les fabricants de téléphones portables, d'ordinateurs, de téléviseurs numériques et d'autres appareils coopèrent en installant le logiciel qui interrompra tout message fictif par un avertissement. Certains informaticiens travaillent déjà sur de telles mesures, mais si nous n'agissons pas rapidement, elles arriveront trop tard pour nous éviter de nous noyer dans le flot des contrefaçons.

Saviez-vous que les fabricants de scanners ont déjà installé des logiciels qui réagissent à la Constellation de l'EURion (ou à d'autres filigranes) en interrompant toute tentative de numérisation ou de photocopie de la monnaie légale ? La création de nouvelles lois dans ce sens nécessitera la coopération des principaux acteurs, mais ils peuvent être incités à le faire. Les mauvais acteurs peuvent s'attendre à des sanctions terribles s'ils sont pris en flagrant délit de désactivation des filigranes ou de transmission des produits de la technologie qui ont déjà été dépouillés d'une manière ou d'une autre de leurs filigranes. Les entreprises d'IA (Google, OpenAI et autres) qui créent des logiciels dotés de ces capacités de contrefaçon devraient être tenues pour responsables de toute utilisation abusive des produits (et des produits de leurs produits - n'oublions pas que ces systèmes peuvent évoluer d'eux-mêmes). Les entreprises qui créent ou utilisent l'IA - et leurs assureurs en responsabilité civile - devront donc faire preuve d'une grande agressivité pour s'assurer que les gens puissent facilement savoir s'ils conversent avec l'un de leurs produits d'IA.

Je ne suis pas favorable à la peine capitale pour quelque crime que ce soit, mais il serait rassurant de savoir que les principaux dirigeants, ainsi que leurs techniciens, risquent de passer le reste de leur vie en prison, en plus de devoir payer des milliards de dollars en dédommagement pour toute violation ou tout préjudice causé. Et les lois sur la responsabilité stricte, qui éliminent la nécessité de prouver la négligence ou l'intention malveillante, les maintiendraient sur le qui-vive. Les avantages économiques de l'IA sont considérables, et le prix à payer pour en profiter devrait être d'assumer le risque de condamnation et de faillite en cas de non-respect des obligations éthiques liées à l'utilisation de l'IA.

Il sera difficile, voire impossible, de nettoyer la pollution de nos moyens de communication qui s'est déjà produite, grâce à la course à l'armement des algorithmes qui propage l'infection à un rythme alarmant. Une autre pandémie s'annonce, qui s'attaque cette fois aux fragiles systèmes de contrôle de nos cerveaux - à savoir notre capacité à raisonner les uns avec les autres - que nous avons utilisés si efficacement pour nous maintenir relativement en sécurité au cours des derniers siècles.

Le moment est venu d'insister pour que tous ceux qui songent à contrefaire des personnes se sentent honteux et soient dûment dissuadés de commettre un tel acte de vandalisme antisocial. Si nous faisons savoir dès maintenant que de tels actes seront contraires à la loi dès que nous le pourrons, les gens n'auront plus aucune excuse pour persister dans leurs activités. De nos jours, de nombreux membres de la communauté de l'IA sont si impatients d'explorer leurs nouveaux pouvoirs qu'ils ont perdu de vue leurs obligations morales. Nous devrions leur rappeler, aussi brutalement que nécessaire, qu'ils risquent la liberté future de leurs proches et de nous tous.

Article traduit sur Atlantic