La recette suivie du doigt

Avant qu'un plat n'entre à la carte, quelqu'un a suivi la recette du doigt, étape par étape, en posant chaque fois la même question : qu'est-ce qui peut rendre un client malade ici ? À la réception du poisson, la température du camion. Au stockage, la durée. À la cuisson, la température à cœur. Au dressage, les mains.

Toutes les étapes ne pèsent pas pareil. Une sauce mal assaisonnée déçoit ; une volaille pas assez cuite envoie quelqu'un à l'hôpital. On retient donc quelques points où l'erreur ne se rattrape pas, on leur fixe une limite chiffrée, on les surveille et on note. La restauration appelle cette méthode HACCP, l'analyse des dangers et des points critiques.

La gestion du risque en sécurité logicielle est la même discipline, avec d'autres dangers. Elle consiste à décider, de façon explicite, où l'on met son effort et ce qu'on accepte de laisser. Ce billet en donne le vocabulaire, le processus et les calculs.

En bref. Ce billet pose le vocabulaire du risque, la boucle qui sert à le gérer et les calculs qui servent à le peser. Le cas réel est WannaCry au NHS, en mai 2017 : le risque était identifié depuis 2014, mais personne n'en répondait là où il fallait agir.

Un risque n'est pas une faille

Le billet P1 a posé cinq mots : bien, menace, vulnérabilité, risque, contrôle. Reprenons le quatrième. Un risque est la possibilité qu'une menace exploite une vulnérabilité et cause un dommage à un bien. Il se pèse par deux grandeurs : la vraisemblance que cela arrive, et l'impact si cela arrive.

Trois conséquences en découlent, et elles vont contre des réflexes courants.

Une vulnérabilité sans menace n'est pas un risque. Une faille dans un outil interne coupé du réseau, que personne n'a intérêt à attaquer, peut attendre. La même faille sur un service exposé à Internet ne le peut pas.

Un score de gravité n'est pas un risque. Les systèmes de notation des vulnérabilités mesurent à quel point une faille est grave en elle-même. Ils ne savent rien de ton contexte : ce que le composant manipule, qui peut l'atteindre, ce qui se trouve derrière.

Un risque ne disparaît pas, il se réduit. Ce qui reste après les contrôles s'appelle le risque résiduel. Ce qu'il y avait avant s'appelle le risque inhérent. La différence entre les deux mesure ce que les contrôles apportent.

La figure 1 place ces deux mots de part et d'autre des contrôles.

  • Le risque avant les contrôles
  • Ce qui le réduit
Figure 1 : du risque inhérent au risque résiduel

Reste à savoir jusqu'où réduire. Chaque organisation a un appétit pour le risque, c'est-à-dire le niveau qu'elle accepte de porter pour atteindre ses objectifs. Une jeune pousse qui cherche son marché n'a pas celui d'une banque. Cet appétit se décide au sommet et s'écrit, faute de quoi chaque équipe applique le sien.

À retenir. Le but n'est pas de supprimer le risque. C'est de choisir lequel on garde, en le sachant.

Le processus : une boucle, pas un dossier

Les normes qui traitent du sujet, ISO 31000 pour le risque en général, ISO/IEC 27005 et le guide NIST SP 800-30 pour la sécurité de l'information, décrivent toutes la même boucle. La figure 2 la dessine, avec ce que chaque étape produit pour la suivante.

  • Ce que chaque étape produit pour la suivante
Figure 2 : la boucle de gestion du risque. La surveillance ramène à l'identification.
Étape La question Ce qu'on produit
Établir le contexte De quoi parle-t-on, et quelles sont les règles du jeu ? Périmètre, critères d'impact, appétit
Identifier Qu'est-ce qui peut arriver ? Une liste de scénarios
Analyser Avec quelle vraisemblance, et quel impact ? Un niveau pour chaque scénario
Évaluer Est-ce acceptable ? Une liste triée, comparée à l'appétit
Traiter Que fait-on de chacun ? Un plan, des propriétaires, des dates
Surveiller et revoir Est-ce toujours vrai ? Un registre à jour

Le mot important est boucle.

Piège. Une analyse de risque faite une fois, au lancement du projet, puis rangée, décrit un système qui n'existe plus au bout de six mois.

Trois événements au moins doivent la rouvrir : un changement d'architecture, une nouvelle menace rendue publique, un incident.


Identifier : partir des scénarios

On identifie mal un risque en partant d'une liste de failles. On l'identifie bien en partant de ce qui compte : quel bien, quel événement redouté, par quel chemin.

Un scénario de risque s'écrit en une phrase complète. « Injection SQL » n'est pas un scénario, c'est une technique. « Un attaquant externe exploite un champ de recherche non validé pour extraire la table des clients, ce qui déclenche une notification à l'autorité de protection des données » en est un. On y lit la source, le chemin, le bien et la conséquence.

La figure 3 découpe cette phrase en ses quatre parties.

Figure 3 : un scénario de risque, découpé en quatre parties

Quatre sources alimentent la liste :

  • Les biens. L'inventaire dressé au billet P1 : pour chaque bien et chaque propriété, qu'est-ce qui serait grave ?
  • La conception. La modélisation des menaces, détaillée au billet P12, parcourt les flux et cherche ce qui peut mal tourner.
  • L'histoire. Les incidents passés, les siens et ceux des autres. Les cas réels de cette série servent à cela.
  • Les catalogues. Les listes publiques de faiblesses et de risques applicatifs évitent d'oublier une famille entière.

On n'oublie pas les risques qui ne viennent pas d'un attaquant. Une obligation légale non respectée, un fournisseur qui fait défaut, une licence violée, un composant qui ne reçoit plus de correctifs : ce sont des risques de sécurité logicielle au même titre que les autres.


Analyser : deux façons de peser

Une fois les scénarios listés, il faut leur donner un poids. Deux approches existent, et elles se complètent.

L'analyse qualitative

On classe la vraisemblance et l'impact sur des échelles à quelques niveaux, et on lit le résultat dans une matrice.

Vraisemblance \ Impact Faible Modéré Élevé Critique
Très probable Moyen Élevé Critique Critique
Probable Faible Moyen Élevé Critique
Peu probable Faible Faible Moyen Élevé
Rare Faible Faible Faible Moyen

La méthode est rapide et se pratique en atelier. Elle a un défaut : deux personnes ne mettent pas la même chose derrière « probable ». On le corrige en définissant chaque niveau par des critères concrets. Pour l'impact, par exemple : nombre de personnes concernées, durée d'interruption, obligation de notification. Pour la vraisemblance : exposition à Internet, existence d'un outil d'attaque public, compétence requise.

L'analyse quantitative

On met des montants. Trois grandeurs suffisent pour commencer.

  • La perte par événement : la valeur du bien, multipliée par la part qui serait perdue.
  • La fréquence annuelle : combien de fois par an on s'attend à voir l'événement. Une fois tous les dix ans donne 0,1.
  • La perte annuelle attendue : le produit des deux.

Prenons un service de commande en ligne. Une indisponibilité d'une journée coûte 40 000 euros de ventes perdues et de gestes commerciaux. On estime qu'elle se produit une fois tous les deux ans.

Grandeur Calcul Valeur
Perte par événement Donnée d'entrée 40 000 €
Fréquence annuelle 1 fois tous les 2 ans 0,5
Perte annuelle attendue 40 000 × 0,5 20 000 €

Ce chiffre sert à une chose : comparer le coût d'un contrôle à ce qu'il évite. Une redondance à 8 000 euros par an qui ramène la fréquence à une fois tous les dix ans fait tomber la perte attendue à 4 000 euros. Elle évite 16 000 euros pour 8 000 dépensés. Le gain net est de 8 000 euros par an, soit un retour de 100 % sur la dépense.

La figure 4 refait ce calcul, d'abord sans la redondance, puis avec elle.

  • Ajouté à cette étape
Figure 4 : la perte annuelle attendue, sans puis avec la redondance

La méthode a ses limites. Les entrées sont des estimations, et un résultat à l'euro près donne une fausse impression de précision. Elle traite mal les événements rares et catastrophiques, pour lesquels la moyenne annuelle ne veut rien dire. On s'en sert pour ordonner et pour argumenter un budget, pas pour prédire.

En pratique, on combine. Le qualitatif trie l'ensemble des scénarios. Le quantitatif approfondit les quelques-uns qui demandent une décision d'investissement.

À retenir. Un chiffre faux mais discuté vaut mieux qu'une couleur que personne ne conteste.

Évaluer et traiter : quatre réponses possibles

Évaluer, c'est comparer chaque niveau de risque à l'appétit défini au départ. Ce qui est en dessous peut être accepté tel quel. Ce qui est au-dessus demande un traitement. Il n'y en a que quatre.

La figure 5 pose cette comparaison, puis les quatre traitements.

  • Les quatre traitements
Figure 5 : comparer le niveau de risque à l'appétit, puis choisir un traitement
Traitement Ce qu'on fait Exemple En cuisine
Réduire Ajouter ou renforcer un contrôle Valider les entrées, limiter les droits, chiffrer Cuire à cœur, relever les températures
Éviter Renoncer à l'activité qui crée le risque Ne pas collecter une donnée dont on n'a pas besoin Retirer le tartare de la carte en été
Transférer Faire porter l'impact financier par un tiers Assurance, clause contractuelle L'assurance du restaurant
Accepter Ne rien faire de plus, en le décidant Laisser une faille mineure sur un outil interne Servir des huîtres, en connaissance de cause

Deux précisions évitent des malentendus.

Transférer ne transfère que l'argent. Une assurance rembourse une perte. Elle ne rend pas les données, et la responsabilité envers les clients et le régulateur reste entière.

Accepter est un acte, pas une absence d'acte. Un risque accepté est décrit, signé par celui qui en porte les conséquences métier, et revu à une date fixée. Un risque que personne n'a regardé n'est pas accepté. Il est ignoré, et la différence apparaît le jour de l'incident.

Tout cela se consigne dans un registre des risques, qui n'a pas besoin d'être sophistiqué.

Scénario Bien Niveau inhérent Traitement Propriétaire Niveau résiduel Revue
Lecture des commandes d'un autre client par modification d'identifiant Historique des commandes Élevé Réduire : contrôle d'appartenance à chaque accès, test automatisé Responsable produit Faible Trimestrielle
Composant de paiement sans correctifs après fin de support Service de paiement Critique Réduire : migration planifiée ; en attendant, isolement réseau Responsable produit Moyen Mensuelle
Fuite d'allergies déclarées par un journal applicatif Données de réservation Élevé Éviter : ne plus journaliser ce champ Architecte Faible Semestrielle

Un registre utile a peu de lignes, toutes lues. Cinquante risques notés « moyen » sans propriétaire ne guident aucune décision.


Risque technique, risque métier

Le plan d'examen du CSSLP insiste sur une distinction que les équipes techniques ont tendance à escamoter.

Le risque technique se formule dans le langage du système : une désérialisation non sûre, un certificat expiré, une dépendance vulnérable. Le risque métier se formule dans le langage de l'organisation : des clients qui ne peuvent plus commander, une amende, un contrat perdu, une réputation abîmée.

Le second décide, le premier explique. Une faille techniquement sévère sur un système sans enjeu peut être un risque métier faible. Une faille techniquement banale sur le système qui fait tourner l'entreprise peut être le risque numéro un.

Le travail de l'architecte et de l'équipe sécurité est de traduire. Celui qui arbitre un budget ne peut pas trancher entre « corriger la faille 2024-1234 » et « livrer la fonctionnalité ». Il peut trancher entre « risque de deux jours d'arrêt du paiement » et « trois semaines de retard sur la fonctionnalité ».

La figure 6 suit cette traduction, du système à celui qui arbitre.

Système Architecte etéquipe sécurité Celui quiarbitre unbudget risquetechnique 1 2 risque métier 3 4 1 2 3 4 1. Le risque technique se formule dans le langage du système : « corriger la faille2024-1234 » 2. Le travail de l'architecte et de l'équipe sécurité est de traduire 3. Le risque métier se formule dans le langage de l'organisation : deux jours d'arrêt dupaiement 4. Il peut trancher entre ce risque et trois semaines de retard sur la fonctionnalité
  1. Le risque technique se formule dans le langage du système : « corriger la faille 2024-1234 »
  2. Le travail de l'architecte et de l'équipe sécurité est de traduire
  3. Le risque métier se formule dans le langage de l'organisation : deux jours d'arrêt du paiement
  4. Il peut trancher entre ce risque et trois semaines de retard sur la fonctionnalité
Figure 6 : du risque technique au risque métier, la traduction

La conformité entre dans ce cadre comme une source de risque parmi d'autres. Les textes qui s'appliquent à un logiciel sont nombreux en Europe : protection des données personnelles, sécurité des réseaux et des systèmes, résilience du secteur financier, exigences sur les produits numériques. Chacun impose des contrôles et prévoit des sanctions. Ne pas s'y conformer est un risque juridique qui se pèse comme les autres. Le billet P7 montre comment transformer ces textes en exigences.

Une mise en garde, toutefois.

Piège. Être conforme ne veut pas dire être en sécurité. Un texte fixe un plancher commun à tout un secteur. Tes risques propres ne figurent dans aucun règlement.

Ce que la cuisine sait déjà

La méthode HACCP repose sur sept principes. Mis côte à côte avec la boucle de gestion du risque, ils se répondent presque ligne à ligne.

Principe HACCP En cuisine En sécurité logicielle
Analyser les dangers Pour chaque étape de la recette, ce qui peut contaminer Identifier et analyser les scénarios
Déterminer les points critiques Les étapes où l'erreur ne se rattrape plus Évaluer : ce qui dépasse l'appétit
Fixer des limites critiques 63 degrés pour le maintien au chaud, 4 degrés au froid Écrire le standard : durée de jeton, délai de correctif
Surveiller Relevés à heure fixe Supervision, métriques
Prévoir les actions correctives Que fait-on du lot si la limite est dépassée ? Plan de réponse, retour arrière
Vérifier que le système fonctionne Audit, analyses en laboratoire Tests, revue du registre
Tenir des enregistrements Le classeur Le registre des risques et les preuves

La métaphore a une limite qu'il faut dire. L'hygiène alimentaire traite des dangers qui ne réfléchissent pas. Une bactérie ne change pas de stratégie quand on installe un thermomètre. Un attaquant observe les défenses et passe ailleurs. C'est pourquoi la vraisemblance, en sécurité, ne se déduit pas seulement de la fréquence passée : elle dépend de l'intérêt que quelqu'un a à réussir.


Scénario : WannaCry au NHS, ou le risque connu de tous

Le vendredi 12 mai 2017, un rançongiciel appelé WannaCry se répand dans le monde. Il chiffre les postes qu'il atteint et se propage seul d'une machine à l'autre. Le service de santé britannique, le NHS, est durement touché. La Cour des comptes britannique, le National Audit Office, publie son enquête le 27 octobre 2017.

Ses constats se résument en quelques chiffres. Au moins 81 des 236 établissements hospitaliers d'Angleterre sont perturbés, soit environ un tiers. S'y ajoutent 603 structures de soins primaires, dont 595 cabinets de médecine générale. Le NHS recense 6 912 rendez-vous annulés et estime le total réel à plus de 19 000. Le ministère ne connaît pas le coût de la perturbation.

L'attaque s'arrête quand un chercheur active un mécanisme d'arrêt présent dans le code du logiciel malveillant. Aucun organisme du NHS n'a payé de rançon, d'après les autorités.

Le rapport ne décrit pas une surprise. Il décrit un risque identifié de longue date :

  • Dès 2014, le ministère et le Cabinet Office avaient demandé aux établissements de prévoir la sortie des systèmes anciens, comme Windows XP, avant avril 2015.
  • En mars et avril 2017, l'agence numérique du NHS avait diffusé des alertes critiques demandant d'appliquer un correctif.
  • Le ministère n'avait aucun moyen formel de vérifier que ces demandes étaient suivies. Un plan de réponse existait. Il n'avait pas été testé au niveau local, ni répété pour une attaque nationale.

L'agence numérique relève que tous les organismes infectés partageaient la même vulnérabilité et auraient pu s'en protéger par des mesures simples. Le responsable du National Audit Office parle d'une attaque relativement peu sophistiquée, qu'une pratique élémentaire de sécurité aurait empêchée.

La figure 7 remet ces faits dans l'ordre des dates.

Ministère etCabinet Office ÉtablissementsNHS Agencenumérique duNHS Chercheur WannaCryrançongiciel National AuditOffice demande de 2014 1 alertes critiques 2 vérification 3 rançongiciel 4 mécanisme d'arrêt 5 6 1 2 3 4 5 6 1. Dès 2014, le ministère et le Cabinet Office demandent de prévoir la sortie dessystèmes anciens 2. En mars et avril 2017, l'agence numérique du NHS diffuse des alertes critiquesdemandant un correctif 3. Le ministère n'a aucun moyen formel de vérifier que ces demandes sont suivies 4. Le 12 mai 2017, WannaCry chiffre les postes qu'il atteint et se propage seul d'unemachine à l'autre 5. L'attaque s'arrête quand un chercheur active un mécanisme d'arrêt présent dans lecode 6. Le National Audit Office publie son enquête le 27 octobre 2017
  1. Dès 2014, le ministère et le Cabinet Office demandent de prévoir la sortie des systèmes anciens
  2. En mars et avril 2017, l'agence numérique du NHS diffuse des alertes critiques demandant un correctif
  3. Le ministère n'a aucun moyen formel de vérifier que ces demandes sont suivies
  4. Le 12 mai 2017, WannaCry chiffre les postes qu'il atteint et se propage seul d'une machine à l'autre
  5. L'attaque s'arrête quand un chercheur active un mécanisme d'arrêt présent dans le code
  6. Le National Audit Office publie son enquête le 27 octobre 2017
Figure 7 : WannaCry au NHS, de la demande de 2014 à l'enquête de 2017

Relisons ces faits avec la boucle.

Étape Ce que le rapport établit Ce qui manquait
Identifier Le risque des systèmes anciens était connu depuis 2014 Rien : l'identification était faite
Évaluer Des alertes critiques avaient été émises deux mois avant Rien : le niveau était reconnu
Traiter Les correctifs n'étaient pas appliqués partout Un propriétaire par établissement, et une échéance
Surveiller Aucun moyen de vérifier l'application des alertes Une mesure, et quelqu'un pour la lire
Communiquer Un plan de réponse jamais répété Un exercice

Les deux premières lignes sont bonnes. C'est ce qui rend le cas instructif. L'analyse de risque avait été faite, et bien faite. La boucle s'est rompue au traitement et à la surveillance : personne ne répondait du risque à l'endroit où il fallait agir, et personne ne pouvait dire s'il diminuait.

Un risque inscrit dans un registre et que nul ne suit n'a pas été géré. Il a été documenté.

À retenir. Savoir qu'un risque existe ne protège de rien. Ce qui protège, c'est un nom et une date à côté.

Testez-vous

Pourquoi un score de gravité n'est-il pas un risque ?

Parce que les systèmes de notation mesurent à quel point une faille est grave en elle-même. Ils ne savent rien de ton contexte : ce que le composant manipule, qui peut l'atteindre, ce qui se trouve derrière.

À quoi sert la perte annuelle attendue ?

À comparer le coût d'un contrôle à ce qu'il évite. On s'en sert pour ordonner et pour argumenter un budget, pas pour prédire.

Dans le cas WannaCry au NHS, à quelles étapes la boucle s'est-elle rompue ?

Au traitement et à la surveillance : personne ne répondait du risque à l'endroit où il fallait agir, et personne ne pouvait dire s'il diminuait.


Points clés

  • Un risque combine une menace, une vulnérabilité et un bien. Il se pèse par la vraisemblance et l'impact, pas par un score de gravité.
  • La gestion du risque est une boucle. Un changement d'architecture, une nouvelle menace ou un incident la rouvrent.
  • Le qualitatif trie, le quantitatif argumente. La perte annuelle attendue sert à comparer un contrôle à ce qu'il évite.
  • Il existe quatre traitements : réduire, éviter, transférer, accepter. Accepter se signe et se revoit.
  • Le risque métier décide, le risque technique explique. L'architecte traduit.
  • Un risque sans propriétaire ni échéance n'est pas géré, quelle que soit la qualité de l'analyse.

Dans la série

Palier 1 : Écrire la carte. Domaine : Cycle de vie.


Pour aller plus loin