Edward Snowden parle de l'intelligence artificielle et de la prise de contrôle par les machines

Edward Snowden, ancien dénonciateur de la NSA, nous fait part de ses réflexions sur l’intelligence artificielle et sur ce qu’elle pourrait signifier pour l’avenir de l’humanité.

Pendant des décennies, les gens ont cru que la surveillance de masse et la collecte de données de grande ampleur relevaient de la « théorie du complot ».

Grâce à des lanceurs d’alerte comme Edward Snowden, qui travaillait pour l’Agence nationale de sécurité (NSA), nous savons que chacune de nos conversations et chacun de nos mouvements dans le monde réel et/ou numérique sont suivis et stockés.

Les révélations d’Edward Snowden ont mis au jour un système de surveillance de masse que même George Orwell n’aurait pu imaginer.

Bien que toutes ces activités soient omniprésentes et illégales, l’État de sécurité nationale les a justifiées en affirmant qu’elles étaient destinées à notre sécurité et à notre protection. Les masses ont adhéré à cette idée.

Ceux qui ont dénoncé les agissements illégaux de personnes puissantes, comme Julian Assange de Wikileaks, sont poursuivis et torturés. Pourtant, lorsqu’il s’agit d’autres problèmes mondiaux, comme le COVID ou le changement climatique, nous croyons les paroles des mêmes personnes et institutions puissantes qui ont été dénoncées comme étant contraires à l’éthique. Pourquoi ? Pourquoi les informations et les preuves solides et légales sont-elles toujours ridiculisées et considérées comme une théorie du complot, tout comme l’a été la surveillance de masse ?

En termes de dialogue autour de ces grandes questions mondiales, ce que nous obtenons n’est souvent pas détaillé et nuancé, mais plutôt des points de discussion issus d’un système de guerre de l’information de masse conçu pour façonner la perception/conscience des masses.

Les grands médias et la politique sont les principaux acteurs de la tromperie de masse. Pourquoi ? pour que des solutions puissent être proposées par les mêmes intérêts puissants qui poursuivent ceux qui les dénoncent.

Par exemple, les alarmistes climatiques peuvent affirmer qu’il faudra peut-être bloquer le soleil pour arrêter un jour le réchauffement de la planète. Mais les questions importantes à se poser sont les suivantes : quel est le véritable motif de cette « solution » ? Cette solution pourrait-elle même contribuer à résoudre nos problèmes environnementaux ? À quel prix devons-nous accepter ces solutions ?

Aujourd’hui, il semble que la plupart des solutions soient conçues pour donner plus de pouvoir et de contrôle à l’État de surveillance, qui semble saliver à l’idée d’un contrôle total de la population.

L’un des derniers outils de ce programme pourrait être l’intelligence artificielle.

Les masses s’éveillent-elles à cette dynamique ?

La bonne nouvelle, c’est que les masses sont de plus en plus conscientes de cette tromperie et ne sont pas si promptes à accepter les mêmes vieilles solutions.

Nous vivons à une époque où des discussions nuancées et significatives sur ces questions ont lieu en masse, mais pas par le gouvernement et les grands médias.

Edward Snowden et le scientifique cognitif Ben Goertzel ont discuté des implications de surveillance des récentes avancées en matière d’IA lors de Consensus 2023. Ben Goertzel sensibilise depuis longtemps aux possibilités infinies offertes par l’IA, tant négatives que positives, et à la manière dont l’IA est déjà en train de changer le monde dans lequel nous vivons. Il brosse un tableau à la fois logique et parfois effrayant de notre avenir en tant qu’êtres humains.

Dans la discussion ci-dessous, M. Snowden affirme que les modèles d’intelligence artificielle pourraient bientôt dépasser les capacités des humains, mais seulement si nous cessons de leur apprendre à penser comme nous et si nous leur permettons d’être « meilleurs que nous ». Bien que M. Snowden se soit parfois fait l’écho des avertissements de certains experts selon lesquels les technologies d’IA pourraient donner du pouvoir à de mauvais acteurs, il a également envisagé des cas d’utilisation positifs pour la technologie émergente.

Selon lui, les modèles d’IA pourraient entraver la surveillance gouvernementale plutôt que d’alimenter des programmes de renseignement invasifs. Il a également mis en garde contre le fait que le lancement de ChatGPT et d’autres modèles d’IA de plus en plus sophistiqués pourrait alimenter les initiatives des grandes entreprises technologiques et des gouvernements visant à empiéter sur la vie privée des utilisateurs.

Afin d’empêcher les mauvais acteurs de s’approprier les technologies de l’IA, M. Snowden a déclaré que les gens devaient se battre pour que les modèles d’IA ouverts restent ouverts.

Les gens vont brandir le drapeau rouge du « communisme logiciel », alors que nous devons déclarer que les modèles doivent être ouverts », a déclaré M. Snowden. Il a particulièrement critiqué les modèles d’IA émergents qui deviennent de moins en moins ouverts, en citant notamment l’OpenAI.

Selon lui, la façon dont la technologie est utilisée dépend de la manière dont les chercheurs forment les moteurs d’IA. Cela m’amène à un point que j’ai souligné à maintes reprises au cours des 15 dernières années : Ce n’est pas notre technologie qui pose problème, mais la conscience et les intentions qui la sous-tendent.

Devrions-nous utiliser les technologies avancées pour fabriquer des armes ? Ou devons-nous l’utiliser pour fournir de l’énergie gratuite et l’abondance pour tous ?

En fin de compte, je crois que l’humanité est douée d’inventeurs et de chercheurs et que nous progressons de manière exponentielle sur le plan technologique. Pourtant, nous sommes tellement sous-développés sur le plan de la conscience et de l’esprit que nos actions constituent une menace pour le cosmos tout entier.

Je ne dis pas tout cela pour suggérer que nous avons une vision négative et craintive de notre avenir, cela ne nous aidera pas. Mais il est temps d’engager des conversations plus nuancées sur les choses réelles qui émergent autour de nous, et de faire de la place pour une version plus lumineuse de notre avenir.

J’espère que vous apprécierez la discussion ci-dessous !