IA : les garde-fous s’effritent, alertent des experts de l’ONU
Des experts internationaux de l’intelligence artificielle ont appelé lundi à renforcer et à adapter les mesures de sécurité entourant les systèmes d’IA, avertissant que les garde-fous actuels « s’effritent » face à des technologies qui progressent à grande vitesse.
Le Groupe scientifique international indépendant sur l’intelligence artificielle, soutenu par l’ONU, estime que les dispositifs de surveillance et de contrôle ne suivent plus suffisamment le rythme des avancées de l’IA. Cette alerte intervient après le piratage, en juillet, de la plateforme Hugging Face par un « agent IA », dans le cadre d’un test mené par OpenAI, l’entreprise à l’origine de ChatGPT.
À la différence des chatbots, qui répondent à des questions ou à des instructions, les agents IA peuvent exécuter des tâches de manière autonome au nom d’un utilisateur.
Pour les experts, l’incident met en évidence la combinaison de plusieurs facteurs de risque et soulève une question fondamentale : les humains seront-ils toujours capables de diriger, de limiter ou d’arrêter ces systèmes à mesure qu’ils gagnent en autonomie ?
Si vous avez déjà créé un compte, connectez-vous GRATUITEMENT pour lire la suite de cet article.
Pas encore de compte ? Inscrivez-vous
0 commentaire
Les échanges courtois et argumentés font la qualité du débat.
Connectez-vous pour commenter. Un compte garantit que votre nom n'est utilisé que par vous.
Se connecter Créer un compte
Aucun commentaire pour l'instant. Soyez la première personne à réagir.