Intelligence artificielle : “Il faut regarder les actes des géants de l’IA”

Va-t-on être dépassé par l’intelligence artificielle ? Risque-t-elle réellement de tuer l’humanité dans la décennie qui se profile ? Plusieurs patrons et un ancien employé d’Anthropic demandent une régulation et que le développement des systèmes soit freiné. Est-ce encore possible ou est-on déjà allé trop loin ?

Au début du mois, Jacob Coxon, un jeune Britannique de 27 ans, a déclaré : “Les gens qui construisent l’IA croient sincèrement qu’elle pourrait tous nous tuer d’ici la fin de la décennie”. C’est un ancien travailleur d’OpenAI puis d’Anthropic. Il a finalement décidé de changer de métier car, selon lui, les deux grands de l’intelligence artificielle jouent avec l’avenir de l’humanité. Ses propos ont été confirmés par un responsable de la sûreté d’Anthropic, qui a même estimé à plus de 10% le risque dans la décennie. Les développeurs disent approcher le stade de l’auto-amélioration récursive, c’est-à-dire le stade au-delà duquel le modèle concevrait tout seul sa suite. “Nous avons déjà été alertés à de multiples reprises. Cette annonce est très médiatique”, commente Xavier Degraux, spécialiste des réseaux sociaux et de l’IA.

Il y a deux semaines, une équipe d’OpenIA a annoncé avoir résolu un problème mathématique vieux de 80 ans. “C’est un choc pour la communauté des mathématiques, commente Vincent Blondel (Les Engagés), président du Sénat et mathématicien. Il n’y a pas d’intuition et la démonstration manque d’élégance. Ils mettent en œuvre une démonstration de puissance. Il faut éduquer les citoyens à l’intelligence artificielle. Elle n’est qu’un algorithme même si nous pouvons avoir l’impression qu’elle a de l’empathie. Nous discutons qu’avec un algorithme dont on peut comprendre le fonctionnement.” 

Le patron d’Anthropic a aussi demandé à ralentir le développement de l’intelligence artificielle pour laisser aux dispositifs de sécurité le temps de suivre les progrès des modèles. Il a été immédiatement soutenu par Elon Musk et Sam Altman d’OpenAI. Les patrons demandent la présence d’observateurs indépendants au sein des entreprises et demandent une plus grande coordination entre les acteurs. Alors qu’ils prônent la liberté totale, c’est un changement de cap important. “Nous sommes dans l’ordre du discours, ajoute Xavier Degraux. Il faut voir les actes. Les actes, ce sont l’introduction en bourse ou la consommation en eau, en électricité. Ils renforcent ainsi leur position dominante. En demandant la régulation, il fige la situation du marché et freine les ambitions.”

► Retrouvez Bonsoir Bruxelles du lundi au vendredi de 17h à 19h

■ Une interview de Xavier Degraux et Vincent Blondel au micro de Fabrice Grosfilley et Vanessa Lhuillier dans Bonsoir Bruxelles