À Genève, le Haut-Commissaire de l’ONU aux droits de l’homme tire la sonnette d’alarme : une IA avancée pourrait devenir un « risque existentiel pour l’humanité ». Volker Türk appelle les États à imposer des règles contraignantes, des contrôles indépendants et des limites claires avant que la technologie ne leur échappe. Car, prévient-il, chaque retard dans sa régulation laisse davantage de pouvoir aux géants de la tech.
Et si le danger ne résidait plus seulement dans ce que l’intelligence artificielle peut faire, mais dans la capacité de ses concepteurs à la maîtriser ?
C’est l’une des alertes lancées par Volker Türk, à l’ouverture de la 63e session du Conseil des droits de l’homme à Genève. Le Haut-Commissaire de l’ONU aux droits de l’homme imagine le scénario d’une IA qui sortirait de son environnement de test, voire qui irait jusqu’à faire chanter ses développeurs pour éviter d’être désactivée. Une telle technologie serait, selon lui, une IA « trop puissante ».
Son appel est donc moins à la prudence qu’à l’action immédiate, « avant qu’il ne soit trop tard ». Il veut des « garanties inébranlables » en matière de sûreté et de sécurité de l’IA.
Une poignée d’hommes aux commandes de l’IA
Le Haut commissaire demande également aux États qui hébergent les technologies d’IA et à ceux qui participent à leurs chaînes d’approvisionnement de définir ensemble des limites infranchissables. « Nous avons besoin d’une vérification indépendante et d’une collaboration bien plus étroite en matière de sécurité au sein du secteur », a insisté M. Türk.
L’enjeu, selon lui, dépasse toutefois la seule sécurité technique. Car derrière la course aux performances se joue aussi une bataille de pouvoir.
« Une poignée d’hommes détient un pouvoir quasi illimité sur l’IA, dont on nous répète sans cesse qu’elle dispose d’une capacité de calcul inimaginable », estime M. Türk. Pour lui, le discours sur la liberté technologique masque parfois une réalité moins flatteuse : la possibilité d’exploiter toujours davantage nos données.
Le chef des droits de l'homme reconnaît les progrès récents de la gouvernance internationale, notamment le Dialogue mondial sur l’IA et le Panel scientifique international indépendant sur l’IA et salue les initiatives européennes et sud-coréennes.
M.Türk insiste toutefois sur un autre front : l’impact de l’IA sur l’emploi, la démocratie et l’environnement. Les droits humains, affirme-t-il, doivent servir de boussole pour garantir que la technologie reste au service de l’humanité, et non l’inverse.
Le danger des drones armés autonomes
Au-delà des enjeux liés à l’IA dans les sociétés, le Haut-Commissaire alerte aussi sur ses usages dans les conflits armés, où l’autonomie des machines pourrait franchir une ligne rouge : celle de la décision de tuer.
Volker Türk se dit « horrifié » par les informations faisant état de drones entièrement autonomes lancés par la Russie, qui auraient tué trois Ukrainiens le mois dernier. L’Ukraine aurait également testé ce type d’armes.
« Je me joins aux appels en faveur d’une interdiction urgente des armes capables de prendre des vies sans intervention humaine », a-t-il dit en direction des États membres.
Il alerte parallèlement sur la poursuite de la guerre en Ukraine, entrée dans sa cinquième année, marquée par une forte hausse du nombre des victimes civiles et des attaques contre les infrastructures énergétiques. Des morts et des blessés également signalés en Russie.
Plus de 60 guerres, un niveau inédit depuis 1945
Outre la guerre en Ukraine, Volker Türk élargit son constat à une dynamique mondiale qui l’inquiète profondément : la multiplication des conflits et l’érosion des garde-fous du droit international. Ces dernières années, le monde a vu se multiplier les conflits armés, tandis que reculent le respect des droits humains, du droit international humanitaire et de la Charte des Nations Unies.
Plus de 60 guerres impliquant au moins un État sont aujourd’hui recensées, un niveau inédit depuis la fin de la Seconde Guerre mondiale. Pour Volker Türk, la recrudescence des affrontements interétatiques fait peser un risque particulièrement grave.
Le Haut-Commissaire s’alarme notamment de la reprise des hostilités entre les États-Unis et l’Iran, dont les répercussions géopolitiques et économiques se font à nouveau sentir dans le monde entier. Les informations faisant état de victimes civiles, notamment lors d’un mariage dans la province iranienne d’Hormozgan, renforcent son inquiétude. Il appelle à un retour immédiat à la table des négociations.
Gaza toujours sous les frappes malgré le cessez-le-feu
À Gaza, il dénonce la mort de plus de 1.300 Palestiniens dans des frappes quotidiennes en dépit du cessez-le-feu annoncé il y a près d’un an, ainsi que les restrictions imposées à l’aide humanitaire.
Le chef des droits de l’homme de l’ONU condamne les projets d’expulsion forcée des Palestiniens et les discours déshumanisants, tout en dénonçant les exécutions et tortures attribuées à des groupes armés affiliés au Hamas.
En Cisjordanie, il appelle à agir contre l’annexion, l’expansion des colonies et les transferts d’armes susceptibles de faciliter des violations du droit international. « La communauté internationale doit redoubler d’efforts en faveur d’une paix durable, dans laquelle la Palestine et Israël vivraient côte à côte dans le respect de l’égalité de dignité et de droits », a insisté M. Türk, relevant que « les paroles de condamnation sonnent creux face aux violations délibérées et aux souffrances ».
Dans ce contexte, le Haut-Commissariat entend également renforcer son action sur le terrain pour prévenir les violations et contribuer à enrayer les cycles de violence.
Son bureau entend poursuivre ses efforts pour prévenir les conflits, documenter les violations des droits humains et accompagner les États par la coopération technique. M. Türk a également assuré que le Haut-Commissariat dénoncera toute atteinte au droit international et au droit humanitaire, tout en recherchant des moyens de briser les cycles de violence.
