Une blanquette, quatre cuisines

La même blanquette ne se prépare pas de la même façon partout. Dans un restaurant, le chef a tout sous la main et surveille chaque étape. Dans un camion de rue, il n'a ni chambre froide digne de ce nom ni point d'eau illimité. Dans une cuisine centrale qui livre vingt cantines, le plat voyage deux heures avant d'être servi par quelqu'un d'autre. Dans un avion, il a été cuit la veille par une entreprise que le commandant de bord n'a jamais vue.

La recette est la même. Les dangers ne le sont pas. Le camion craint la rupture de froid, la cuisine centrale craint le transport, l'avion dépend entièrement d'un fournisseur.

Le billet P10 a posé les principes d'une architecture de sécurité : zones, frontières, portes. Celui-ci regarde ce que ces principes deviennent selon la forme du système. Sept formes y passent, de l'API au modèle de langage. Aucune n'est traitée à fond. Pour chacune, on cherche ce qui se déplace.

En bref. Sept formes d'architecture passent par les trois mêmes questions : où passe la frontière de confiance, qui tient la plateforme, à quelle vitesse on corrige. Le cas réel est celui de l'opérateur australien Optus, en septembre 2022 : une API encore accessible sur un sous-domaine qui ne servait plus, d'après les pièces déposées par le régulateur.

Trois questions qui déplacent tout

Face à un type d'architecture qu'on ne connaît pas, trois questions suffisent à trouver où regarder.

  1. Où passe la frontière de confiance ? Entre quoi et quoi, et qui se trouve du mauvais côté ?
  2. Qui tient la plateforme ? Toi, un fournisseur, l'utilisateur final, personne ?
  3. À quelle vitesse peut-on corriger ? Une heure, un mois, jamais ?
Architecture Où passe la frontière Qui tient la plateforme Vitesse de correction Le risque qui domine
Services distribués Entre chaque paire de services Toi Rapide La confiance implicite entre services
API publique À chaque route, pour chaque objet Toi Rapide L'autorisation oubliée, la route oubliée
Cloud Entre toi et le fournisseur, puis dans ta configuration Partagée Rapide L'erreur de configuration, les droits trop larges
Conteneurs Entre conteneurs, et avec l'orchestrateur Toi, sur un socle partagé Rapide L'image d'origine douteuse, l'orchestrateur exposé
Mobile Dans la poche de l'utilisateur L'utilisateur Lente : il faut qu'il mette à jour Le secret embarqué dans l'application
Embarqué et industriel À portée de main de n'importe qui Personne au quotidien Très lente, parfois nulle L'impossibilité de corriger
IA et modèles de langage Dans le texte lui-même Souvent un fournisseur Variable L'instruction cachée dans une donnée

La colonne « vitesse de correction » décide de l'effort de conception. Quand on peut corriger en une heure, une erreur coûte une heure. Quand on ne peut pas corriger, tout doit être juste au départ, et l'architecture doit prévoir comment limiter les dégâts d'un défaut qui restera.

La figure 1 range les sept formes selon cette colonne.

  • Correction très lente, parfois nulle
Figure 1 : les sept formes, rangées par vitesse de correction
À retenir. Changer d'architecture ne supprime pas les risques. Cela déplace la frontière, et il faut la suivre.

Services distribués : chaque appel traverse un réseau

Quand une application devient vingt services, chaque appel de fonction devient un appel réseau. Ce qui était une confiance entre deux modules d'un même programme devient une confiance entre deux machines. Il faut la justifier.

Quatre décisions structurent ce type d'architecture.

Authentifier les services entre eux. Un service ne doit pas accepter un appel au seul motif qu'il vient de l'intérieur. Chaque service a une identité, prouvée par un certificat de courte durée, et les connexions sont chiffrées et authentifiées dans les deux sens. Un maillage de services automatise cela.

Propager l'identité de l'utilisateur. Quand le service de commande appelle le service de paiement, pour le compte de qui le fait-il ? Si l'identité de l'utilisateur se perd en route, le service aval ne peut plus vérifier ses droits et fait confiance à l'appelant. C'est ainsi qu'un service compromis peut tout demander au nom de tous.

Autoriser à chaque étage. C'est la médiation complète du billet P2. Chaque service vérifie le droit pour ce qui le concerne, même si un service amont l'a déjà fait.

Contenir les pannes. Un service lent peut bloquer tous ceux qui l'appellent. Délais d'attente, coupe-circuits et files d'attente bornées relèvent de la disponibilité, donc de la sécurité.

La figure 2 suit les trois premières décisions sur un seul appel, du service de commande au service de paiement.

Figure 2 : un appel du service de commande au service de paiement

En cuisine, c'est la brigade elle-même. Le saucier ne prend pas une commande au motif qu'elle est criée depuis la cuisine. Il attend le bon, qui dit de quelle table elle vient.


API : une porte par route, une vérification par objet

Une API expose directement les objets du métier. Il n'y a plus d'écran entre l'appelant et la donnée, donc plus rien pour cacher une route ou un identifiant. L'OWASP tient une liste des dix risques les plus courants pour les API. Cinq d'entre eux décrivent des erreurs de conception plus que de code.

Risque Ce qui se passe La décision de conception
Autorisation défaillante au niveau de l'objet L'appelant change un identifiant et lit l'objet d'un autre Vérifier l'appartenance à chaque accès, dans le service
Autorisation défaillante au niveau de la fonction Un utilisateur ordinaire appelle une route d'administration Séparer les routes par rôle, refuser par défaut
Consommation de ressources sans limite Un appelant demande dix mille pages, ou appelle mille fois par seconde Pagination bornée, quotas par appelant
Accès sans limite à un parcours métier sensible Un automate réserve tout le stock Limites métier, pas seulement techniques
Inventaire mal tenu Une ancienne version, un sous-domaine oublié répondent encore Un registre des API, une date de retrait pour chaque version

La première ligne est la faille applicative la plus fréquente, et aucun outil générique ne la règle. Le billet P9 en a fait un test négatif.

La figure 3 dessine cette première ligne, avec et sans la vérification.

  • Requête de l'appelant
  • Sans vérification
  • Avec vérification dans le service
Figure 3 : un identifiant changé, avec et sans vérification d'appartenance

La dernière ligne est la moins technique et l'une des plus coûteuses. Une API ne se retire pas d'elle-même. Tant que personne ne l'éteint, elle répond, avec le code et les contrôles qu'elle avait le jour où on a cessé de s'en occuper. Le cas réel de ce billet en est une illustration presque pure.


Cloud : une responsabilité partagée, une configuration à toi

Dans le cloud, une partie de la plateforme appartient au fournisseur. La frontière entre ses responsabilités et les tiennes dépend du modèle de service. Le blog y consacre un billet et une série entière, Le Port, cités en fin de page. Retenons ici ce qui change pour l'architecte.

L'identité devient le périmètre. Dans un centre de données classique, le réseau délimite ce qu'on peut atteindre. Dans le cloud, ce sont les rôles et leurs permissions. Un rôle trop large vaut un pare-feu ouvert, comme l'a montré le cas du billet P2.

Le plan de contrôle est une cible. L'interface qui crée les machines, ouvre les réseaux et lit les stockages est accessible depuis Internet par construction. Qui la contrôle possède tout. Sa protection est la première décision d'architecture, avant le premier serveur.

La configuration est du code. Une ressource créée à la main dans une console n'est relue par personne. Décrite dans un fichier, elle passe par les mêmes revues et les mêmes analyses que le reste.

Les services internes de la plateforme sont des portes. Chaque machine peut interroger un service local qui lui fournit des identifiants temporaires. Une application qu'on peut amener à faire des requêtes à la place de l'attaquant lui donne accès à ces identifiants.

La figure 4 suit ce détour.

Machine Attaquant Application Service local requête 1 requête 2 identifiants 3 identifiants 4 1 2 3 4 1. L'attaquant amène l'application à faire une requête à sa place 2. L'application interroge le service local de la machine 3. Le service local fournit des identifiants temporaires 4. L'attaquant a accès à ces identifiants temporaires
  1. L'attaquant amène l'application à faire une requête à sa place
  2. L'application interroge le service local de la machine
  3. Le service local fournit des identifiants temporaires
  4. L'attaquant a accès à ces identifiants temporaires
Figure 4 : une application amenée à interroger le service local de sa machine
Piège. L'erreur la plus fréquente reste la plus simple : un stockage ou une base rendus publics par un réglage. La parade est de conception. Les réglages dangereux sont interdits au niveau de l'organisation, pas confiés à la vigilance de chaque équipe.

Conteneurs : l'image, puis l'orchestrateur

Un conteneur emballe une application avec tout ce dont elle a besoin. La promesse est la reproductibilité. Le risque est qu'on reproduise aussi ce qu'on n'a pas regardé.

Étage La question La règle de conception
Image de base D'où vient-elle, et que contient-elle ? Un petit nombre d'images approuvées, minimales, reconstruites régulièrement
Construction Qu'ajoute-t-on, et y laisse-t-on des secrets ? Aucun secret dans l'image ; analyse à la construction
Exécution Avec quels droits tourne le conteneur ? Pas d'utilisateur privilégié, système de fichiers en lecture seule, capacités retirées
Réseau Qui parle à qui ? Tout est interdit par défaut entre conteneurs, puis ouvert flux par flux
Orchestrateur Qui peut déployer, et quoi ? Contrôle d'admission : seules les images signées et conformes sont acceptées

Le dernier étage est celui qui compte le plus. L'orchestrateur est le plan d'administration de toute la plateforme. Son interface permet de lancer n'importe quel programme sur n'importe quelle machine. Elle relève de la règle du billet P10 sur les interfaces d'administration, en plus strict.

La figure 5 montre la règle de ce dernier étage.

  • Image présentée au déploiement
  • Image acceptée
  • Image refusée
Figure 5 : le contrôle d'admission de l'orchestrateur
Piège. Un conteneur n'est pas une machine virtuelle. Il partage le noyau de la machine qui l'héberge, et l'isolation qu'il offre est plus mince. Deux applications de niveaux de confiance très différents ne devraient pas partager le même hôte sans une barrière supplémentaire.

Mobile : le terrain appartient à l'utilisateur

Une application mobile s'exécute sur un appareil que tu ne contrôles pas. Son propriétaire peut l'inspecter, la modifier, intercepter ses communications. Il faut partir de là.

  • Aucun secret dans l'application. Une clé d'API embarquée dans le code est publique : il suffit de décompiler. Ce qui doit rester secret reste sur le serveur.
  • Le serveur ne fait pas confiance au client. Toute règle vérifiée dans l'application doit l'être de nouveau côté serveur. Un prix, un droit, une limite contrôlés seulement sur le téléphone ne sont pas contrôlés.
  • Le stockage local est borné. Ce qu'on garde sur l'appareil va dans le coffre du système, et on en garde le moins possible. Un téléphone se perd.
  • Les mises à jour ne sont pas immédiates. Une version vulnérable reste en circulation tant que les utilisateurs ne la remplacent pas. Le serveur doit pouvoir refuser les versions trop anciennes.

La même logique vaut pour toute interface riche qui s'exécute dans un navigateur. Le code y est lisible par n'importe qui, et rien de ce qui s'y décide ne fait foi.

C'est la vente à emporter. Une fois la boîte sortie, le chef ne maîtrise plus ni la température ni le temps. Il ne met donc dans la boîte que ce qui supporte le voyage.


Embarqué et industriel : ce qu'on ne pourra pas corriger

Un logiciel embarqué dans un objet, un véhicule ou un automate cumule trois difficultés. N'importe qui peut avoir l'objet entre les mains. Sa durée de vie se compte en décennies. Et sa mise à jour est difficile, quand elle est possible.

L'architecture doit donc répondre à des questions que les autres formes posent moins.

Question Pourquoi elle se pose La réponse d'architecture
Comment met-on à jour, pendant vingt ans ? Les failles se découvriront après la vente Un mécanisme de mise à jour signé, prévu dès le départ
Que vaut un secret dans l'objet ? L'objet peut être ouvert et lu Un secret par objet, jamais un secret commun à toute la série
Que se passe-t-il si une partie est compromise ? Le divertissement et le freinage peuvent partager un même réseau Séparer les fonctions critiques des fonctions connectées
Quel est l'état sûr ? Une panne peut blesser Définir le comportement dégradé, fonction par fonction
Que valent les réglages d'usine ? Personne ne les change Aucun mot de passe par défaut commun

La troisième ligne est le sujet du billet P12, avec un véhicule. Dans le monde industriel s'ajoute une contrainte : la sûreté des personnes passe avant tout. Un contrôle de sécurité qui retarde un arrêt d'urgence n'est pas acceptable. La séparation des deux propriétés, annoncée au billet P1, devient ici une règle de conception.


IA et modèles de langage : quand la donnée donne des ordres

Intégrer un modèle de langage dans une application crée une situation que les architectures précédentes ne connaissaient pas. Dans un programme classique, le code et les données sont séparés. Une donnée ne donne pas d'ordre. Dans un modèle de langage, l'instruction et la donnée sont toutes deux du texte, et le modèle ne les distingue pas de façon fiable.

L'OWASP tient là aussi une liste des dix risques principaux. Quatre d'entre eux relèvent directement de l'architecture.

Risque Ce qui se passe La décision de conception
Injection d'instructions Un texte fourni par un tiers, courriel, page web ou document, contient des ordres que le modèle suit Traiter tout contenu externe comme hostile ; ne jamais lui donner l'autorité de l'utilisateur
Traitement non sûr des sorties La réponse du modèle est exécutée, affichée ou transmise sans contrôle Valider la sortie comme n'importe quelle entrée non fiable
Autonomie excessive Le modèle dispose d'outils puissants et les utilise à mauvais escient Droits minimaux par outil ; validation humaine pour toute action qui engage
Divulgation d'informations sensibles Le modèle restitue des données vues à l'entraînement ou dans le contexte Ne pas placer dans le contexte ce que l'utilisateur n'a pas le droit de lire

La règle d'architecture qui résume le tout est celle du billet P2, appliquée à un composant d'un genre nouveau : le modèle est un intermédiaire qu'on ne peut pas croire. Il se place dans une zone à lui. Ce qui y entre est filtré, ce qui en sort est validé, et ses droits sont ceux de l'utilisateur pour qui il agit, jamais davantage.

Le troisième risque grandit avec les agents, ces systèmes où le modèle enchaîne lui-même des actions. Un agent qui lit des courriels et peut en envoyer réunit les trois ingrédients d'un incident : il lit du contenu hostile, il accède à des données privées, il peut communiquer vers l'extérieur. La conception consiste à ne jamais réunir les trois sans un contrôle humain.

La figure 6 réunit ces trois ingrédients autour d'un même agent.

Courriel d'untiers Agent Extérieur Donnéesprivées contenu hostile 1 2 données privées 3 courriel envoyé 4 1 2 3 4 1. L'agent lit un courriel fourni par un tiers, qui contient des ordres 2. Le modèle ne distingue pas l'instruction de la donnée de façon fiable : il suit cesordres 3. L'agent accède à des données privées 4. Il peut communiquer vers l'extérieur : les trois ingrédients d'un incident sont réunis
  1. L'agent lit un courriel fourni par un tiers, qui contient des ordres
  2. Le modèle ne distingue pas l'instruction de la donnée de façon fiable : il suit ces ordres
  3. L'agent accède à des données privées
  4. Il peut communiquer vers l'extérieur : les trois ingrédients d'un incident sont réunis
Figure 6 : un agent qui lit des courriels et peut en envoyer

En cuisine, c'est le commis qui exécute tout ce qui est écrit sur un papier, quel qu'en soit l'auteur. On ne lui confie pas la clé de la cave, et un chef de partie relit ses bons.

À retenir. Un modèle de langage ne distingue pas un ordre d'une citation. L'architecture doit le faire à sa place.

Scénario : Optus, ou la porte qu'on croyait condamnée

Entre le 17 et le 20 septembre 2022, quelqu'un interroge une API de l'opérateur australien Optus et en extrait des données personnelles. Environ 9,5 millions de clients, actuels et anciens, sont concernés.

Le régulateur australien des communications, l'ACMA, saisit la justice fédérale en mai 2024. Ce qui suit vient des pièces qu'il a déposées et qui ont été rendues publiques en juin 2024. Ce sont les allégations d'une partie, et il revenait au tribunal de trancher.

D'après ces pièces, l'API visée était protégée par un contrôle d'accès. En septembre 2018, une modification du code a rendu ce contrôle inopérant. En août 2021, l'opérateur a découvert et corrigé cette erreur sur son domaine principal. La même erreur existait sur un sous-domaine, qui exposait la même API. Celui-là n'a pas été corrigé.

Ce sous-domaine n'était plus utilisé depuis des années. Il restait pourtant accessible depuis Internet, et il n'a été retiré qu'après l'attaque. Le régulateur écrit que celle-ci n'était pas très sophistiquée et ne demandait pas de compétences avancées : l'attaquant a envoyé des requêtes, et l'API a répondu.

La figure 7 remet ces dates dans l'ordre.

Optus Attaquant Sous-domaineplus utilisé Domaineprincipal APIcontrôle d'accès 1 2 3 requêtes 4 données personnelles 5 6 1 2 3 4 5 6 1. En septembre 2018, une modification du code rend le contrôle d'accès inopérant 2. En août 2021, l'opérateur découvre et corrige cette erreur sur son domaine principal 3. La même erreur existe sur un sous-domaine qui expose la même API : il n'est pascorrigé 4. Entre le 17 et le 20 septembre 2022, l'attaquant envoie des requêtes 5. L'API répond : environ 9,5 millions de clients, actuels et anciens, sont concernés 6. Le sous-domaine n'est retiré qu'après l'attaque
  1. En septembre 2018, une modification du code rend le contrôle d'accès inopérant
  2. En août 2021, l'opérateur découvre et corrige cette erreur sur son domaine principal
  3. La même erreur existe sur un sous-domaine qui expose la même API : il n'est pas corrigé
  4. Entre le 17 et le 20 septembre 2022, l'attaquant envoie des requêtes
  5. L'API répond : environ 9,5 millions de clients, actuels et anciens, sont concernés
  6. Le sous-domaine n'est retiré qu'après l'attaque
Figure 7 : Optus, d'après les pièces déposées par l'ACMA

Relisons ces éléments avec le tableau des API.

Sujet Ce que le régulateur allègue La décision de conception qui manquait
Inventaire Un sous-domaine dormant, toujours exposé Un registre des API, avec un propriétaire et une date de retrait
Retrait Une API inutile, jamais éteinte Le retrait comme étape du cycle, pas comme option
Contrôle d'accès Un contrôle rendu inopérant par un changement de code Un test négatif automatisé, qui échoue si l'API répond sans autorisation
Correction Une erreur corrigée à un endroit, pas à l'autre Savoir partout où un même code est déployé

La quatrième ligne mérite qu'on s'y arrête. L'erreur avait été trouvée. Elle avait été corrigée. Un an avant l'attaque, quelqu'un a eu sous les yeux le défaut exact qui serait exploité. Il ne manquait qu'une information : la liste des autres endroits où ce code répondait.

C'est tout l'intérêt d'un inventaire. Il ne sert pas à faire joli dans un audit. Il sert, le jour où l'on trouve un défaut, à répondre à la question « où d'autre ? ».

La première ligne rejoint le billet P5. Un système qu'on a cessé d'utiliser n'a pas cessé d'exister. Une porte de livraison qu'on n'emprunte plus reste une porte. Tant qu'on ne l'a pas murée, elle s'ouvre.

À retenir. Une API oubliée garde les contrôles du jour où on l'a oubliée. Les attaquants, eux, se tiennent à jour.

Testez-vous

Quelles sont les trois questions à poser face à un type d'architecture qu'on ne connaît pas ?

Où passe la frontière de confiance, qui tient la plateforme, et à quelle vitesse on peut corriger.

Quels sont les trois ingrédients qu'un agent ne doit jamais réunir sans un contrôle humain ?

Il lit du contenu hostile, il accède à des données privées, il peut communiquer vers l'extérieur.

D'après les pièces du régulateur, pourquoi la correction d'août 2021 n'a-t-elle pas suffi chez Optus ?

L'erreur a été corrigée sur le domaine principal. Elle existait aussi sur un sous-domaine qui exposait la même API, et celui-là n'a pas été corrigé.


Points clés

  • Chaque type d'architecture déplace la frontière de confiance. Trois questions la retrouvent : où passe-t-elle, qui tient la plateforme, à quelle vitesse corrige-t-on.
  • Entre services, rien n'est fiable du seul fait d'être à l'intérieur. L'identité de l'utilisateur se propage et se revérifie.
  • Une API se protège objet par objet, et se tient dans un registre avec une date de retrait.
  • Dans le cloud, les rôles sont le périmètre et la configuration est du code.
  • Sur mobile et dans le navigateur, rien de ce qui se décide côté client ne fait foi.
  • Dans l'embarqué, la mise à jour et la séparation des fonctions critiques se conçoivent dès le départ.
  • Un modèle de langage est un intermédiaire non fiable : entrées filtrées, sorties validées, droits minimaux.

Dans la série

Palier 2 : Tenir les fourneaux. Domaine : Conception.


Pour aller plus loin