Le Secrétaire général de l'ONU appelle à une régulation de l'IA

Le secrétaire général des Nations unies appelle à la mise en place d’un système de gouvernance mondial pour orienter l’intelligence artificielle au service de l’humanité, mettant en garde contre le risque de laisser la technologie elle-même "coder notre avenir au feeling".

S'exprimant lors du Dialogue mondial de l'ONU sur l'IA, le secrétaire général António Guterres met en garde_._

Alors que l’IA progresse à une "vitesse effrénée", il averti qu_"une expérience est menée sur nos propres sociétés, sans plan et sans consentement"_.

"Cela n’est pas viable", a-t-il déclaré lors d’une allocution prononcée avant le premier Dialogue mondial sur la gouvernance de l’IA à Genève, qui rassemble des gouvernements, des entreprises technologiques, des universitaires et la société civile.

"L’IA est déjà en train de transformer notre monde", a-t-il souligné.

"La question est de savoir si nous allons façonner cette transformation ensemble, ou si nous allons la laisser nous façonner."

Guterres a averti que les systèmes d’IA n’étaient "plus de simples outils en attente d’instructions".

"Ils écrivent du code, agissent en ligne et font des choix avec de moins en moins de contrôle humain", a-t-il souligné.

"Nos institutions ont été conçues pour régir des machines qui suivent des ordres. Elles ne sont pas prêtes à faire face à des machines qui prennent des décisions."

António Guterres s’est dit préoccupé par le fait que l’IA brouille de plus en plus la frontière entre le vrai et le faux, et a souligné une tendance croissante à confier des tâches importantes à la technologie et à faire aveuglément confiance aux résultats.

Ce qu’on appelle le "vibe-coding", c’est-à-dire le fait d’utiliser l’IA pour indiquer à une machine ce que l’on veut au lieu de le coder soi-même, "peut faire des merveilles", a-t-il reconnu.

"Mais on ne peut pas coder la vérité par intuition. On ne peut pas coder l’avenir de l’humanité par intuition."

Risques majeurs

Un autre risque signalé par António Guterres est la concentration du pouvoir entre les mains d’une poignée d’entreprises spécialisées dans l’IA et d’une poignée de pays.

La plupart des pays "n’ont pas eu leur mot à dire dans les décisions qui façonneront leur avenir", a-t-il averti.

Face à de tels défis, il a déclaré que les pays étaient confrontés à un choix difficile, "entre gouverner de manière réfléchie et dériver par défaut".

Le secrétaire général de l’ONU a souligné le potentiel des technologies d’IA dans tous les domaines, qu’il s’agisse d’accélérer le développement, d’améliorer les soins de santé ou d’élargir l’accès à l’éducation.

Mais il a insisté sur le fait que ces avancées devaient être guidées par plusieurs priorités clés, notamment la sécurité et le respect des droits de l’homme, afin de garantir que tous, partout dans le monde, puissent en tirer profit.

Il a appelé à la mise en place de "méthodes communes pour évaluer et vérifier les risques" ainsi que de normes convenues d’un commun accord, notamment pour garantir la sécurité des enfants utilisant des systèmes d’IA.

"Nous ne laissons pas un médicament être administré à un enfant tant que son innocuité n’a pas été prouvée. Nous testons chaque jouet", a souligné Guterres.

"Pourtant, l’IA a déjà envahi la vie de nos enfants – leur apprentissage, leurs amitiés, leurs questions les plus intimes – avant même que quiconque ne se soit demandé quel impact elle aurait sur eux."

António Guterres a appelé à la mise en place d’un "engagement en faveur de la sécurité des enfants face à l’IA", exigeant des entreprises qu’elles prouvent que tout système accessible aux enfants est sûr et applique une tolérance zéro envers les abus sexuels.

Ces systèmes doivent également mettre tout enfant présentant des signes de détresse en relation avec un soutien humain réel, a-t-il ajouté.

"Aucun enfant ne devrait servir de cobaye à une IA non réglementée", a-t-il insisté.

"Robots tueurs"

Il a également souligné qu’il était essentiel de renforcer les capacités et l’accès à l’IA dans les pays en développement afin d’éviter que la fracture numérique profonde existante ne "se transforme en une fracture de l’IA".

M. Guterres a déclaré qu’il exhorterait l’Assemblée générale des Nations unies à créer un Fonds mondial pour l’IA, "afin de développer les compétences, les données et une puissance de calcul abordable partout dans le monde".

Une autre priorité consistait à réduire l’impact de l’IA sur le climat, a-t-il déclaré, réitérant son appel aux entreprises pour qu’elles révèlent leur empreinte environnementale croissante et s’engagent à alimenter tous leurs centres de données en énergie renouvelable d’ici 2030.

Le secrétaire général de l’ONU a par ailleurs indiqué que sa plus grande préoccupation concernait l’IA dans le domaine militaire, et en particulier les systèmes d’armes autonomes dits "létales".

"Appelons-les par leur nom : des robots tueurs", a-t-il déclaré.

"Des machines qui sélectionnent et attaquent leur cible, puis ôtent la vie – sans contrôle ni jugement humain".

"C’est moralement répugnant… Et cela doit être interdit par le droit international."

António Guterres a souligné l’urgence de mettre en place des garde-fous suffisants pour orienter l’IA dans une direction positive.

"Nous sommes peut-être la dernière génération capable de définir les conditions de coexistence entre l’humanité et les machines", a-t-il déclaré.

"La porte est encore ouverte. Elle ne le restera pas longtemps."