Le tour de la cuisine, plan en main
La veille de l'ouverture, un chef expérimenté fait le tour de sa cuisine, plan en main. Il ne regarde pas si c'est beau. Il s'arrête à chaque porte et se demande qui peut entrer par là. Il suit le trajet d'une caisse de poisson, du camion à l'assiette, et note chaque endroit où elle pourrait attendre trop longtemps. Il se met à la place du livreur pressé, du commis du premier jour, du client qui cherche les toilettes et pousse la mauvaise porte.
Ce tour ne coûte qu'une heure. Il évite de découvrir, un samedi soir, que le chemin des poubelles croise celui des desserts.
La modélisation des menaces est ce tour-là, fait sur un schéma, avant que le code existe. C'est l'activité de sécurité qui rapporte le plus par heure passée, et celle que les équipes sautent le plus volontiers parce qu'elle a l'air d'une affaire de spécialistes. Ce billet montre qu'elle tient en quatre questions, un dessin et une grille de lecture.
Quatre questions
Toutes les méthodes de modélisation des menaces se ramènent à quatre questions, posées dans cet ordre.
| Question | Ce qu'on produit | Qui doit être là |
|---|---|---|
| Sur quoi travaille-t-on ? | Un schéma du système et de ses flux | Ceux qui le construisent |
| Qu'est-ce qui peut mal tourner ? | Une liste de menaces | Les mêmes, plus quelqu'un qui pense en attaquant |
| Que va-t-on faire ? | Une décision pour chaque menace | Celui qui répond du produit |
| A-t-on bien travaillé ? | Une relecture, puis des tests | L'équipe, plus tard |
La figure 1 les met bout à bout, avec ce que chacune produit.
Une relecture, puis des tests"] e1@{ animate: true } e2@{ animate: true } e3@{ animate: true }
- Ce que chaque question produit
La première question prend la moitié du temps, et c'est normal. La plupart des découvertes se font en dessinant. Deux développeurs s'aperçoivent qu'ils n'ont pas la même idée du chemin que suit une donnée. Quelqu'un demande ce qu'est ce service que personne n'a mentionné. Une flèche traverse une frontière que personne n'avait vue.
La troisième question renvoie au billet P6. Chaque menace retenue reçoit l'un des quatre traitements : réduire, éviter, transférer, accepter. Une menace listée sans décision n'a servi à rien.
Dessiner : cinq symboles suffisent
Le schéma qui sert à modéliser les menaces n'est pas un schéma d'architecture ordinaire. Il montre où vont les données et quelles frontières elles traversent. On l'appelle diagramme de flux de données, et il n'emploie que cinq symboles.
| Symbole | Ce qu'il représente | Exemples |
|---|---|---|
| Entité externe | Quelqu'un ou quelque chose qu'on ne contrôle pas | Un client, un service partenaire |
| Processus | Du code qui transforme des données | Un service, une fonction |
| Magasin de données | Un endroit où des données reposent | Une base, un fichier, une file |
| Flux | Des données qui se déplacent | Un appel, un message |
| Frontière de confiance | Une limite où le niveau de confiance change | Internet et réseau interne, deux zones |
Voici le système de réservation qui sert d'exemple depuis le billet P1. La figure 2 le dessine avec ces cinq symboles.
tiers"] S["Personnel de salle"] -->|"5. consultation"| R R -->|"6. événements"| J[("Journaux")] subgraph Internet C end subgraph Zone_exposee["Zone exposée"] W end subgraph Zone_interne["Zone interne"] R B J S end subgraph Tiers M end e1@{ animate: true } e4@{ animate: true }
- Flux 1 et flux 4, les deux premiers endroits où regarder
Trois règles rendent ce dessin utile. Chaque flux est numéroté et nommé par ce qu'il transporte, pas par le protocole. Chaque frontière est tracée, même celles qui paraissent évidentes. Et le schéma tient sur une page : s'il déborde, on modélise une partie à la fois. Les flux qui méritent l'attention sont ceux qui traversent un cadre. Ici, le flux 1 vient d'Internet. Le flux 4 sort vers un tiers, avec des données de clients dedans. Ce sont les deux premiers endroits où regarder.
STRIDE : six façons de mal tourner
Une fois le schéma posé, il faut une méthode pour ne pas se contenter des menaces qui viennent spontanément à l'esprit. La plus répandue s'appelle STRIDE, d'après les initiales anglaises de six familles. Chacune correspond à une propriété du billet P1 que l'attaquant viole.
| Famille | Ce que fait l'attaquant | Propriété violée | Parade type | En cuisine |
|---|---|---|---|---|
| Usurpation | Se fait passer pour un autre | Authentification | Authentification forte, certificats | Un faux livreur avec une blouse |
| Altération | Modifie une donnée ou du code | Intégrité | Signatures, contrôles d'accès en écriture | Une étiquette de date remplacée |
| Répudiation | Nie avoir fait une action | Non-répudiation | Journaux protégés, signatures | « Ce n'est pas moi qui ai sorti ce bac » |
| Divulgation | Lit ce qu'il ne devrait pas | Confidentialité | Chiffrement, contrôle d'accès en lecture | Le carnet de réservations laissé sur le comptoir |
| Déni de service | Empêche le système de répondre | Disponibilité | Quotas, redondance | Cent fausses réservations un samedi |
| Élévation de privilège | Obtient des droits qu'il n'a pas | Autorisation | Moindre privilège, cloisonnement | Le plongeur qui trouve la clé de la cave |
La grille s'applique élément par élément. Tous les symboles du schéma ne sont pas exposés aux six familles, ce qui réduit le travail.
| Élément du schéma | Usurpation | Altération | Répudiation | Divulgation | Déni de service | Élévation |
|---|---|---|---|---|---|---|
| Entité externe | Oui | Oui | ||||
| Processus | Oui | Oui | Oui | Oui | Oui | Oui |
| Magasin de données | Oui | Parfois | Oui | Oui | ||
| Flux | Oui | Oui | Oui |
On parcourt le schéma, élément par élément, et pour chaque case marquée on pose la question : comment cela pourrait-il arriver ici ? La plupart des cases ne donnent rien. Quelques-unes donnent une menace réelle. C'est le résultat attendu.
Appliquons-la aux flux qui traversent une frontière dans l'exemple.
| N° | Élément | Famille | Menace | Traitement |
|---|---|---|---|---|
| M1 | Flux 1 | Divulgation | Les allergies déclarées sont lues en transit | Réduire : transport chiffré de bout en bout |
| M2 | Client | Usurpation | Quelqu'un modifie la réservation d'un autre avec un lien deviné | Réduire : lien à usage unique, non devinable |
| M3 | Application web | Déni de service | Un automate crée des milliers de réservations | Réduire : quota par appelant, confirmation requise |
| M4 | Flux 4 | Divulgation | Les allergies partent chez le prestataire de messagerie | Éviter : le message ne contient que l'heure et le nom |
| M5 | Journaux | Divulgation | Les allergies sont recopiées dans les journaux | Éviter : ce champ n'est jamais journalisé |
| M6 | Personnel de salle | Répudiation | Une consultation abusive ne laisse pas de trace | Réduire : chaque lecture du champ est journalisée |
| M7 | Service de réservation | Élévation | Un compte de salle accède aux fonctions de gestion | Réduire : rôles distincts, refus par défaut |
La figure 3 replace trois de ces lignes, M1, M4 et M5, sur le trajet des allergies.
- M1 : les allergies déclarées sont lues en transit. Réduire : transport chiffré de bout en bout
- L'application web transmet la demande au service de réservation
- M4 : les allergies partent chez le prestataire. Éviter : le message ne contient que l'heure et le nom
- M5 : les allergies sont recopiées dans les journaux. Éviter : ce champ n'est jamais journalisé
Sept menaces, trouvées en parcourant six flux. Trois d'entre elles, M4, M5 et M6, ne seraient apparues dans aucun test d'intrusion. Elles ne correspondent à aucune faille. Ce sont des choix de conception.
Chaque ligne retenue devient une exigence au sens du billet P7, puis un test au sens du billet P9. Le modèle de menaces nourrit la matrice de traçabilité.
L'arbre d'attaque : partir du but
STRIDE part du système et cherche ce qui peut lui arriver. L'arbre d'attaque fait le chemin inverse. Il part de ce que veut l'attaquant et cherche toutes les façons d'y parvenir.
La racine de l'arbre est un but. Chaque nœud se décompose en sous-buts. Certains sont des alternatives : l'un ou l'autre suffit. D'autres sont des conditions : il les faut tous.
La figure 4 prend pour but la lecture des allergies d'un client précis.
le lien de
réservation"] A --> A2["Utiliser
un compte
de salle"] A2 --> A21["Voler un
mot de passe"] A2 --> A22["Convaincre
un employé"] B --> B1["Injection
dans une
requête"] B ---> B2["Accès d'un
administrateur"] C --> C1["Lire les
journaux"] C ---> C2["Récupérer
une sauvegarde"] C --> C3["Intercepter
le message de
confirmation"] class C,C1,C2,C3 risque
- Branche des copies, presque toujours la plus facile
L'arbre apporte deux choses que la grille ne donne pas.
Il montre les chemins complets. Une menace isolée paraît souvent bénigne. Mise au bout d'une branche, elle devient l'étape qui manquait. Voler le mot de passe d'un serveur de salle ne semble pas grave, jusqu'à ce qu'on voie ce que ce compte permet de lire.
Il aide à décider où mettre l'effort. On peut annoter chaque feuille par son coût pour l'attaquant, ou par la compétence qu'elle demande. Le chemin le moins cher est celui qu'il prendra. Dans l'exemple, la branche de droite, celle des copies, est presque toujours la plus facile. C'est ce que disait le billet P8.
Les deux outils se complètent. STRIDE assure qu'on a regardé partout. L'arbre assure qu'on a regardé dans l'ordre où un attaquant regarderait.
Qui attaque, et pourquoi cela change le modèle
Une menace n'existe pas sans quelqu'un pour la porter. Le plan d'examen du CSSLP demande de connaître les grandes familles d'adversaires, parce qu'elles ne cherchent pas la même chose et n'ont pas les mêmes moyens.
| Adversaire | Ce qu'il cherche | Ses moyens | Ce que cela change dans le modèle |
|---|---|---|---|
| Opportuniste | N'importe quelle cible facile | Outils automatiques, failles connues | Tenir à jour, fermer ce qui est exposé |
| Criminel organisé | De l'argent : données revendables, rançon | Du temps, des outils, des complices | Protéger ce qui se monétise, prévoir la reprise |
| Initié | Vengeance, profit, ou simple curiosité | Un accès légitime | Séparation des tâches, journaux, moindre privilège |
| Fournisseur compromis | Rien : il sert de passage | La confiance qu'on lui accorde | Cloisonner ce que son accès atteint |
| Acteur étatique | Renseignement, sabotage | Des moyens considérables, de la patience | Supposer l'intrusion, limiter ce qu'elle rapporte |
On ne modélise pas contre tous avec la même intensité. Un système de réservation de restaurant n'intéresse aucun service de renseignement. Il intéresse beaucoup un opportuniste, et il a des employés. L'exercice consiste à nommer les adversaires crédibles, et à assumer d'écarter les autres.
La figure 5 fait ce tri pour le système de réservation.
outils automatiques, failles connues"] -->|"il l'intéresse beaucoup"| S["Système de réservation
du restaurant"] I["Initié
un accès légitime"] -->|"il a des employés"| S E["Acteur étatique
renseignement, sabotage"] -.-|"aucun service de renseignement ne s'y intéresse"| S class O,I risque class E neutre
- Adversaire crédible
- Adversaire écarté
Le renseignement sur les menaces alimente ce choix. Savoir quelles techniques sont réellement utilisées contre ton secteur vaut mieux qu'une liste théorique. Des bases publiques décrivent les comportements observés chez les attaquants, étape par étape. Elles servent de liste de contrôle pour la deuxième question.
Il existe d'autres méthodes que STRIDE. Certaines partent du risque métier et déroulent plusieurs étapes jusqu'à la simulation d'attaques. D'autres se consacrent à la vie privée. Elles répondent toutes aux quatre mêmes questions. Le choix de la méthode compte beaucoup moins que le fait de la pratiquer.
En pratique : quatre-vingt-dix minutes, et quand recommencer
Un atelier de modélisation des menaces n'est pas un audit. C'est une réunion de travail, courte, avec ceux qui construisent.
| Temps | Ce qu'on fait |
|---|---|
| 30 minutes | Dessiner le schéma au tableau, numéroter les flux, tracer les frontières |
| 40 minutes | Parcourir les éléments qui touchent une frontière avec la grille |
| 15 minutes | Décider d'un traitement pour chaque menace retenue |
| 5 minutes | Nommer un propriétaire pour chaque action |
Le résultat tient en deux objets : le schéma, et la liste des menaces avec leur traitement. Les deux vont dans le dépôt, à côté du code, comme le demandait le billet P5.
La figure 6 déroule l'atelier, du tableau au dépôt.
Dessiner le schéma au tableau, numéroter les flux, tracer les frontières"] class D nouveau
Dessiner le schéma au tableau, numéroter les flux, tracer les frontières"] --> P["40 minutes
Parcourir les éléments qui touchent une frontière avec la grille"] class D neutre class P nouveau
Dessiner le schéma au tableau, numéroter les flux, tracer les frontières"] --> P["40 minutes
Parcourir les éléments qui touchent une frontière avec la grille"] P --> T["15 minutes
Décider d'un traitement pour chaque menace retenue"] class D,P neutre class T nouveau
Dessiner le schéma au tableau, numéroter les flux, tracer les frontières"] --> P["40 minutes
Parcourir les éléments qui touchent une frontière avec la grille"] P --> T["15 minutes
Décider d'un traitement pour chaque menace retenue"] T --> N["5 minutes
Nommer un propriétaire pour chaque action"] class D,P,T neutre class N nouveau
Dessiner le schéma au tableau, numéroter les flux, tracer les frontières"] --> P["40 minutes
Parcourir les éléments qui touchent une frontière avec la grille"] P --> T["15 minutes
Décider d'un traitement pour chaque menace retenue"] T --> N["5 minutes
Nommer un propriétaire pour chaque action"] N --> G[("Dépôt, à côté du code
Le schéma, la liste des menaces avec leur traitement")] class D,P,T,N neutre class G nouveau
- Ajouté à cette étape
Un modèle n'est pas fait une fois pour toutes. Quatre événements le rouvrent :
- un nouveau flux qui traverse une frontière ;
- un nouveau type de donnée sensible ;
- un changement dans l'authentification ou les rôles ;
- un incident, chez soi ou chez un voisin, qui montre un chemin qu'on n'avait pas vu.
Scénario : la Jeep Cherokee, ou le port que personne n'avait dessiné
En juillet 2015, deux chercheurs en sécurité, Charlie Miller et Chris Valasek, prennent à distance le contrôle d'une Jeep Cherokee qui roule sur une autoroute, avec à son bord un journaliste prévenu. Ils agissent sur la ventilation, la radio, les essuie-glaces, puis sur la transmission. Le véhicule n'a subi aucune modification préalable. Ils présentent leurs travaux en août à la conférence Black Hat.
Le chemin qu'ils décrivent tient en trois étapes.
Le système d'info-divertissement du véhicule dispose d'une connexion cellulaire. Sur cette connexion, un port réseau est ouvert. Il donne accès à un mécanisme interne de communication entre processus, sans authentification, et ce mécanisme s'exécute avec les droits les plus élevés. Les chercheurs constatent qu'ils peuvent atteindre un véhicule à plus de cent kilomètres, par le seul réseau de l'opérateur.
De là, ils exécutent du code sur le système d'info-divertissement. Cela ne suffit pas à commander le véhicule : ce système n'est pas censé pouvoir écrire sur le réseau interne qui relie la direction, les freins et la transmission.
Il leur faut un travail supplémentaire pour franchir cette séparation et faire accepter leurs commandes par le réseau interne. Ils y parviennent. Le constructeur, prévenu depuis l'automne précédent, publie un correctif puis rappelle environ 1,4 million de véhicules.
La figure 7 reprend ce chemin, du réseau de l'opérateur au rappel.
- Les chercheurs atteignent un véhicule à plus de cent kilomètres, par le seul réseau de l'opérateur
- Un port réseau ouvert donne accès à un mécanisme interne, sans authentification
- De là, ils exécutent du code sur le système d'info-divertissement
- Après un travail supplémentaire, ils font accepter leurs commandes par le réseau interne
- Le constructeur publie un correctif, puis rappelle environ 1,4 million de véhicules
Redessinons le véhicule comme on l'a fait pour la réservation, et passons la grille.
| Élément | Famille | Ce que les chercheurs ont trouvé | Ce qu'un modèle aurait demandé |
|---|---|---|---|
| Entité externe : le réseau cellulaire | Usurpation | N'importe quel abonné du réseau pouvait joindre le véhicule | Qui se trouve de l'autre côté de cette frontière ? |
| Flux : le port ouvert | Altération, élévation | Un service interne, sans authentification, exposé à l'extérieur | Ce flux doit-il traverser la frontière ? |
| Processus : l'info-divertissement | Élévation | Un mécanisme interne exécuté avec tous les droits | De quels droits ce processus a-t-il besoin ? |
| Frontière : divertissement et conduite | Altération | Une séparation franchissable avec du travail | Que se passe-t-il si le premier côté est compromis ? |
La première ligne est celle qui frappe. Le port ouvert n'était pas une faille au sens habituel. C'était un service interne, utile au fonctionnement du système, que personne n'avait imaginé voir joint depuis l'extérieur. Sur le schéma mental des concepteurs, la connexion cellulaire servait à la navigation et à la musique. Elle ne figurait pas comme une frontière de confiance, avec le monde entier de l'autre côté.
Un diagramme de flux de données aurait posé la question dès le premier trait. On dessine l'entité externe, on dessine le flux, on trace le cadre, et on demande ce qui a le droit de passer.
La dernière ligne compte autant. Les concepteurs avaient prévu une séparation entre le divertissement et la conduite. Elle a ralenti les chercheurs. Elle ne les a pas arrêtés. Une frontière intérieure se modélise en supposant que le côté le plus exposé est déjà perdu. Rappeler 1,4 million de véhicules donne aussi la mesure de ce que disait le billet P11 sur l'embarqué : quand la correction est lente, le modèle doit être juste avant la mise en circulation.
Testez-vous
Quels flux regarde-t-on en premier sur un diagramme de flux de données ?
Ceux qui traversent un cadre, c'est-à-dire une frontière de confiance. Dans l'exemple, le flux 1 vient d'Internet et le flux 4 sort vers un tiers.
Quelle différence entre STRIDE et l'arbre d'attaque ?
STRIDE part du système et cherche ce qui peut lui arriver. L'arbre d'attaque part de ce que veut l'attaquant et cherche toutes les façons d'y parvenir.
Pourquoi le port ouvert de la Jeep Cherokee n'était-il pas une faille au sens habituel ?
C'était un service interne, utile au fonctionnement du système, que personne n'avait imaginé voir joint depuis l'extérieur.
Points clés
- Modéliser les menaces, c'est répondre à quatre questions : sur quoi travaille-t-on, qu'est-ce qui peut mal tourner, que fait-on, a-t-on bien travaillé.
- Le diagramme de flux de données n'a que cinq symboles. Les flux qui traversent une frontière de confiance sont ceux qu'on examine.
- STRIDE range les menaces en six familles, chacune liée à une propriété de sécurité. On l'applique élément par élément.
- L'arbre d'attaque part du but de l'adversaire et montre les chemins complets, dont le moins cher.
- On modélise contre les adversaires crédibles, et on écarte explicitement les autres. Chaque menace retenue reçoit un traitement, devient une exigence, puis un test. Le modèle vit dans le dépôt et se rouvre à chaque nouvelle porte.
Dans la série
Palier 2 : Tenir les fourneaux. Domaine : Conception.
- Précédent : Sécurité des architectures : cloud, conteneurs, API, mobile, LLM
- Suivant : Revue d'architecture : non-fonctionnel et architecture d'exploitation
- Vue d'ensemble : Sécurité du cycle de vie logiciel : par où commencer dans La Brigade
Pour aller plus loin
- CSSLP Certification Exam Outline, ISC2 : objectif 4.4.
- Jeep Hack 0Day: An Exposed Port, Dark Reading, compte rendu de la présentation à Black Hat 2015.
- Researchers Demo How They Hacked a Jeep Remotely: Black Hat, eWeek, août 2015.
- Sur ce blog : Threat modeling STRIDE : penser comme l'attaquant.