Conscience de la situation, intelligence artificielle, cybersécurité et systèmes adaptatifs

04/10/21

Dans le monde moderne, il est de plus en plus important de prendre des décisions conscientes relativement rapidement. C'est le cas des décideurs politiques confrontés à une crise nationale ou des décideurs militaires confrontés à un choix stratégique.

Dans un monde de plus en plus interconnecté, chaque décision, à quelque niveau que ce soit, peut avoir des conséquences indésirables et causer des "dommages collatéraux" considérables.

Le cinquième domaine, le cyberespace, est par sa caractéristique transversal à tous les autres (Terre, Mer, Air et Espace) et par conséquent toute décision dans ce domaine peut avoir des répercussions dans tous les autres domaines, c'est pourquoi il est nécessaire de prendre des décisions éclairées. limité dans le temps et c'est pourquoi il est nécessaire de développer des systèmes de cyber-conscience de la situation capable d'accompagner les décideurs dans leurs choix, où par « conscience situationnelle » j'entends la perception du milieu environnant, de ses éléments constitutifs et des événements qui s'y produisent et surtout la conscience du sens des éléments et des événements et la capacité de comprendre les états futurs possibles et les plus probables du système, ainsi que les variations possibles proposées par rapport aux objectifs initiaux basés sur la situation prospective actuelle et actualisée, en plus des variations possibles proposées par rapport aux objectifs originaux basés sur la situation actuelle et situation prospective actualisée.

Le développement de l'Intelligence Artificielle entre fortement dans le monde militaire et ses caractéristiques peuvent en faire un allié utile dans le développement de systèmes de connaissance de la situation cyber et en particulier dans le développement de systèmes de renseignement sur les cybermenaces, à la fois pour soutenir les décideurs.
Le but de cet article est de stimuler la discussion sur certaines questions pour permettre une meilleure compréhension de l'environnement cyber dans le monde moderne, à travers la définition d'un outil possible pour cyber-conscience de la situation.

Si nous considérons l'intelligence comme « le produit résultant de la collecte, du traitement, de l'intégration, de l'analyse, de l'évaluation et de l'interprétation d'informations (et de données) disponibles concernant des pays ou régions étrangers, ou d'informations et de connaissances sur un adversaire obtenues par observation, enquête, analyse ou compréhension » il est clair que cette définition s'applique également sans aucune différence au domaine cyber.

Il est clair pour tout le monde comment l'intelligence peut nous fournir les outils pour prendre des décisions, mais peut-être est-il moins clair que chacun de nous se fait une idée de la situation d'une manière différente, en fonction de l'expérience, des études, des attitudes à risque, ses préjugés et ainsi de suite. En pratique, pour chaque réalité il y a autant de lectures possibles qu'il y a de personnes qui l'observent et qui en quelque sorte s'appuient sur elle pour prendre des décisions.

Cela seul devrait suffire à nous pousser à étudier les méthodologies et les outils, notamment visuels, qui peuvent améliorer la « conscience du cyberenvironnement » (Cyber ​​​​Situational Awareness) et par conséquent faciliter le processus de prise de décision dans les organisations actives dans le domaine de l'évaluation des menaces (CTI - Cyber ​​Threat Intelligence). 

La Cyber ​​Threat Intelligence il permet aux organisations de prévenir ou d'atténuer les cyberattaques en étudiant les tendances des risques et en fournissant des informations sur les adversaires.

Le CTI aide à identifier, préparer et prévenir les attaques en fournissant des informations sur les attaquants, leur organisation, leur motivation et leurs capacités, en préparant les organisations à être proactives, en tirant parti des capacités prédictives plutôt que réactives pour les attaques futures.

Comprendre les vulnérabilités de sécurité, les indicateurs de menace et leur mise en œuvre permet de lutter efficacement contre les cyberattaques.

L'utilisation de professionnels et de systèmes de cyber-intelligence peut aider à prévenir et à contenir les attaques plus rapidement, ce qui permet de réduire les coûts en cas d'événement malveillant.

Systèmes de cyber intelligence intégrant des systèmes d'intelligence artificielle permettrait d'améliorer la réactivité de l'organisation, d'accélérer l'analyse des menaces et de coordonner les réponses en cas de cyberattaque complexe.

Dans ce contexte, le concept de cyber kill chain peut probablement être amélioré avec l'introduction de systèmes d'IA, et exploité au profit de l'écosystème de la cyberdéfense.

Dans le domaine des systèmes d'Intelligence Artificielle, il semble qu'une place particulière puisse être réservée aux systèmes d'Intelligence Artificielle Cognitive (IAO).

Ces systèmes peuvent être utilisés à plusieurs fins : 

  • extraction de connaissances à partir d'un système d'information intégré; 
  • dans les robots cognitifs probabilistes et dans la coordination entre systèmes autonomes ; 
  • dans l'identification des problèmes de santé humaine; 
  • dans les mesures électriques instrumentales.

Certaines de ces applications s'annoncent très prometteuses dans le domaine du renseignement sur les cybermenaces et des systèmes de cyberdéfense où l'extraction efficace de connaissances à partir d'une énorme quantité de données brutes ou d'informations difficilement exploitables constitue la base d'une analyse précise des menaces.

A y regarder de plus près, il existe également des analogies entre le contrôle de la santé du corps humain et celui d'un système. Cela suggère que les systèmes CAI peuvent, d'une certaine manière, également être utilisés pour détecter l'état (de santé) du système et utilisés pour détecter les infections par des logiciels malveillants.

La visualisation est le dernier, mais non le moindre, domaine de recherche précieux en raison de la grande importance de la perception dans la prise de décision. Bien sûr, tous les sens peuvent être stimulés d'une manière ou d'une autre pour améliorer la conscience et il a toujours été clair qu'une situation dangereuse attire immédiatement l'attention (nous en sommes conscients) si elle est associée à une alarme sonore d'intensité et de fréquence adéquates.

Il faut donc se demander : comment l'Intelligence Artificielle peut-elle améliorer la perception par la visualisation et l'analyse de modèles ?

Le retour d'information fourni par différents systèmes pourrait être utilisé pour alimenter un système d'intelligence artificielle chargé d'analyser, de développer et d'adapter en permanence les processus organisationnels, les structures et les flux d'informations, internes et externes, (je parle de systèmes adaptatifs) en améliorant la la structure générale et les processus et la promotion du partage de l'information.

La conception et la mise en œuvre d'un tel système, à partir d'un schéma logique d'un système prototype de « cyber-conscience de la situation », avec l'utilisation de toutes les technologies ci-dessus constituerait un projet de recherche ambitieux mais certainement important afin de faciliter les décisions stratégiques dans un environnement très complexe.

L'utilisation de l'intelligence artificielle pour la production de connaissances et pour superviser la santé des systèmes pourrait représenter une grande amélioration dans le secteur de la Défense où l'approche basée sur la visualisation et la « gamification » conduira à la création d'une nouvelle génération de systèmes intelligents capables de améliorer la connaissance de la situation à l'appui des décideurs.

Alessandro Rugolo, Giorgio Giacinto

Bibliographie
- A.Rugolo, Systèmes adaptatifs et connaissance de la situation - Défense en ligne ;
CyGraph : connaissance de la situation en matière de cybersécurité qui est plus évolutive, flexible et complète - Plate-forme de base de données Neo4j Graph ;
 - MR Endsley, « Vers une théorie de la conscience situationnelle dans les systèmes dynamiques », Facteurs humains et société ergonomique, 1995 ; 
- K. Podins, J. Stinissen, M. Maybaum. Vers une image de fonctionnement cybernétique. 2013 5th International Conference on Cyber ​​​​Confit (Eds.) 2013 © NATO CCD COE Publications, Tallinn. 
- Renforcement des capacités de cyberdéfense de l'UE. Rapport d'une task force du CEPS, novembre 2018. La cybersécurité dans la politique de sécurité et de défense commune de l'UE 
- Défis et risques pour l'UE. EPRS - Service de recherche du Parlement européen Unité de prospective scientifique (STOA) PE 603.175. 
- Manuel Esteve / Israel Pérez / Carlos Palau / Federico Carvajal / Javier Hingant D. Cyber ​​​​Common Operational Picture: A Tool for Cyber ​​​​Hybrid Situational Awareness Improvement. Communications. Université Polytechnique de Valence Camino de Vera S / N, Valence 46022 ESPAGNE; 
- S. Royston, C. De Fanti, K. Perlin, "GraphiteVR: A Collaborative Untethered Virtual Reality Environment for Interactive Social Network Visualization", conférence IEEE Scientific Visualization (SciVis), 2016 ; 
- Panagiotis Trimintzios, Roger Holfeldt, Mats Koraeus, Baris Uckan, Razvan Gavrila et Georgios Makrodimitris. Rapport sur la coopération et la gestion de la cyber-crise. Agence de l'Union européenne pour la sécurité des réseaux et de l'information. 
- Michael Muckin, Scott C. Fitch Lockheed Martin Corporation. Une approche de la cybersécurité axée sur les menaces. Méthodologies, pratiques et outils pour permettre une organisation de cybersécurité fonctionnellement intégrée. 2019. 
- Kwasi Mitchell, Joe Mariani, Adam Routh, Akash Keyal et Alex Mirkow. L'avenir de l'analyse du renseignement Une vue au niveau des tâches de l'impact de l'intelligence artificielle sur l'analyse du renseignement. LE CENTRE DELOITTE D'INFORMATION GOUVERNEMENTALE. 2019. 
- Richard Horton et al., Automation with intelligence: Reimagining the organization in the 'Age of With', Deloitte Insights, 6 septembre 2019. - Shawn Brimley et al., "Building the future force: Guaranteeing American leadership in a contested environment , "29 mars 2018.