L’association “Pause IA” est une organisation de bénévoles à but non lucratif qui constitue la branche française du mouvement mondial “PauseAI”.
L’objectif principal et fondamental de l’association est de convaincre les gouvernements – pour la branche française le gouvernement français – d’instaurer un moratoire (une “pause”) sur le développement des intelligences artificielles les plus avancées, notamment l’IA Générale (IAG) et la Superintelligence.
Le but de cette pause est de donner le temps nécessaire à la communauté scientifique et à la société de comprendre et de maîtriser les risques associés à ces technologies avant qu’elles ne deviennent incontrôlables.
⚠️ Priorités et axes d’action de l’Association
╰┈➤ Instaurer un moratoire international : la priorité absolue est de mettre en place un traité international contraignant qui suspendrait l’entraînement de tout système d’IA dépassant un certain seuil de puissance. Ils insistent sur le fait que cette mesure doit être internationale pour éviter une course à l’armement technologique entre les nations et les entreprises.
╰┈➤ Créer une Agence Internationale de Sécurité sur le modèle de l’Agence Internationale de l’Énergie Atomique (AIEA). Cette agence mondiale dédiée à la sécurité de l’IA aurait le pouvoir d’autoriser (ou non) les nouvelles sessions d’entraînement et le déploiement de modèles d’IA puissants, après évaluations de sécurité rigoureuses et indépendantes.
╰┈➤ Réguler le développement et le déploiement : Ils demandent une réglementation stricte sur les points suivants :
. Matériel (surveiller et tracer la vente des GPU par exemple),
. Responsabilité des entreprises développant les IA (légalement responsables des dommages causés par leurs systèmes);
. Propriété intellectuelle (interdire par exemple d’entrainer les modèles sur des données protégées par le droit d’auteur).
╰┈➤Sensibiliser le Public et les Décideurs.
Pourquoi cette Association a-t-elle été Créée ?
L’association “Pause IA” a été créée en réponse à une inquiétude croissante face aux dangers existentiels et sociétaux que représentent une intelligence artificielle de plus en plus puissante.
📌 Le risque d’extinction : La crainte principale est qu’une IA générale ou une super intelligence, une fois créée, puisse échapper au contrôle humain, avec des conséquences potentiellement catastrophiques pouvant aller jusqu’à l’extinction de l’humanité. L’association considère que ce risque, même s’il n’est pas certain, est suffisamment élevé pour justifier une pause immédiate.
📌 Les dangers économiques et matériels. Avant même le risque existentiel, l’association alerte sur des dangers plus immédiats : cyberattaques massives, chômage de masse, monopole des entreprises dans l’IA.
📌 Le manque de fiabilité et de contrôle : l’association souligne que les systèmes d’IA actuels sont déjà sujets à des dysfonctionnements, des biais et des manipulations (attaques adverses, empoisonnement de données).
Pour résumer, “Pause IA” a été fondée sur la conviction que la course actuelle au développement de l’IA est imprudente et se fait sans prise en compte suffisante des risques.
