L'IA transforme les centres d'opérations de sécurité avec de nouveaux outils et approches

Les centres d'opérations de sécurité (SOC) adaptent leurs processus et technologies alors que l'intelligence artificielle introduit de nouveaux types de menaces et de défis de détection. Ce changement pousse les organisations à intégrer des outils axés sur l'IA et des équipes interfonctionnelles pour faire face aux risques uniques des systèmes d'IA.

Les SOC conventionnels sont structurés pour identifier des menaces telles que les violations de données, les pannes de système et les interruptions de réseau. Cependant, ces centres ne sont pas conçus pour détecter des attaques ciblant des modèles d'IA, telles que des manipulations qui dégradent la prise de décision tout en laissant les systèmes opérationnels. En conséquence, de nouvelles approches de surveillance sont en cours de développement pour combler ces lacunes.

La surveillance spécifique à l'IA nécessite la collecte et l'analyse de données liées au comportement des modèles, aux schémas d'inférence et à la chaîne d'approvisionnement de l'IA. Ces méthodes visent à découvrir des attaques qui ne produisent pas de signes évidents comme l'exfiltration de données ou les interruptions de service, mais qui compromettent néanmoins l'intégrité des systèmes d'IA. L'intégration de ces capacités dans les plateformes de sécurité existantes est une partie clé de la transition.

L'évolution vers un SOC habilité par l'IA implique d'améliorer, plutôt que de remplacer, les outils de détection et de réponse traditionnels. En incorporant une logique de détection spécifique à l'IA dans des plateformes telles que la gestion des informations et des événements de sécurité (SIEM) et la détection et réponse étendues (XDR), les organisations peuvent répondre à la fois aux menaces conventionnelles et liées à l'IA.

Ce que montrent les chiffres

• Plus d'une organisation sur trois a signalé une compromission de système d'IA d'ici 2025
• Plus d'une initiative sur quatre en IA n'a pas été mise à l'échelle en raison de préoccupations en matière de sécurité
• 76 % des dirigeants s'attendent à des améliorations opérationnelles grâce aux agents d'IA dans les deux ans
• Les agents d'IA devraient augmenter l'automatisation des flux de travail de 45 % dans trois ans

Des cadres d'IA agentique, y compris des systèmes d'orchestration multi-agents, sont introduits pour permettre des opérations de sécurité autonomes. Ces systèmes permettent aux SOC de fonctionner avec une intervention humaine minimale, tandis que les analystes conservent une supervision. La machine d'opérations de menaces autonomes (ATOM) d'IBM automatise la détection des menaces, la planification d'enquête et la remédiation en utilisant plusieurs agents d'IA pour soutenir les équipes de sécurité.

Des co-pilotes d'IA générative sont également déployés pour aider les analystes en triant les alertes, en priorisant les incidents et en automatisant les réponses. Ces outils aident à réduire les faux positifs et à rationaliser les flux de travail, tout en garantissant que les analystes humains conservent l'autorité sur les décisions critiques. L'assistant d'enquête QRadar d'IBM, lancé en mai 2025, utilise de grands modèles de langage pour améliorer l'efficacité des enquêtes au sein des environnements SOC.

Des recherches indiquent que les grands modèles de langage sont utilisés par les analystes SOC principalement pour la compréhension et la construction de contexte, plutôt que pour prendre des décisions à enjeux élevés. Cette approche aide à réduire la charge de travail des analystes tout en préservant le jugement humain pour les tâches critiques. Les cadres de collaboration homme-IA dans les SOC recommandent une autonomie par niveaux, où le niveau d'implication de l'IA est ajusté en fonction de l'importance de la tâche et de la calibration de la confiance.

La mise en œuvre de SOC habilités par l'IA nécessite une collaboration entre les opérations de sécurité, les équipes de plateforme, la science des données et les fonctions de gouvernance. Cet alignement interfonctionnel garantit une responsabilité partagée et une responsabilité claire pour la sécurité des systèmes d'IA. À mesure que les organisations adoptent ces nouvelles pratiques, l'accent reste mis sur l'extension des capacités existantes pour faire face à l'évolution du paysage des menaces pilotées par l'IA.

* Cet article est basé sur des informations publiquement disponibles au moment de la rédaction.