Les préoccupations en matière de sécurité de l'IA mises en avant au sommet de New Delhi

Les discussions lors du sommet AI Impact à New Delhi en février 2026 se sont concentrées sur les risques associés au développement rapide de l'intelligence artificielle, les experts appelant à un contrôle accru et à une intervention gouvernementale.

Stuart Russell, professeur à l'Université de Californie, Berkeley, a pris la parole lors du sommet et a décrit le manque de réglementation dans le développement de l'IA comme un échec procédural. Il a comparé l'approche actuelle de la sécurité de l'IA à jouer à la roulette russe, soulignant les conséquences mondiales potentielles si le contrôle n'est pas renforcé.

Russell a déclaré que la concurrence entre les dirigeants des entreprises technologiques accélère le rythme de la recherche et du déploiement de l'IA. Il a qualifié cette situation de "course aux armements" et a noté que certains dirigeants d'entreprises pourraient être incapables de ralentir les progrès en raison des attentes des investisseurs.

Il a rapporté que des ingénieurs de laboratoires d'IA de premier plan ont fourni des estimations internes suggérant que la probabilité d'extinction humaine due à l'IA pourrait se situer entre 60 % et 70 %. Ces chiffres sont plus élevés que le risque de 10 % à 20 % qui a été discuté publiquement par certains dans le domaine.

Ce que montrent les chiffres

• Certains ingénieurs des principaux laboratoires d'IA estiment un risque de 60 à 70 % d'extinction humaine due à l'IA
• Les affirmations publiques sur le risque d'extinction due à l'IA sont généralement de 10 à 20 %
• Les normes de sécurité de l'énergie nucléaire exigent un risque d'échec inférieur à un sur dix millions par an
• Les niveaux de risque dans l'industrie de l'IA restent non spécifiés selon Russell
• Des centaines de milliards de dollars sont dépensés pour des centres de données IA à l'échelle mondiale

Russell a contrasté les exigences de sécurité dans l'industrie nucléaire, où le risque d'échec annuel doit rester inférieur à un sur dix millions, avec les normes beaucoup moins définies dans le secteur de l'IA. Il a indiqué que les niveaux de risque actuels dans le développement de l'IA ne sont pas clairement quantifiés et sont probablement beaucoup plus élevés que ceux de l'énergie nucléaire.

Il a également déclaré que des investissements majeurs sont réalisés à la fois par des pays et des entreprises privées pour construire et exploiter des centres de données énergivores pour la formation et le déploiement de l'IA. Cette tendance reflète l'ampleur et la rapidité de la recherche et de l'application de l'IA dans le monde entier.

Russell a plus de quatre décennies d'expérience dans la recherche en intelligence artificielle et a établi un centre à UC Berkeley en 2016 dédié à la sécurité de l'IA et au développement de systèmes qui sont manifestement bénéfiques pour l'humanité.

Le sommet AI Impact à New Delhi a fourni une plateforme à Russell pour présenter ses points de vue et plaider en faveur d'une implication gouvernementale accrue dans la réglementation du développement de l'IA. L'événement a rassemblé des parties prenantes pour discuter des défis et des responsabilités associés aux technologies avancées de l'IA.

* Cet article est basé sur des informations publiquement disponibles au moment de la rédaction.