Imaginez la puissance des réacteurs nucléaires, la complexité des plateformes de forage en mer profonde ou l’infrastructure sensible des systèmes de sécurité nationale. Ces exemples illustrent des technologies très complexes et impactantes, mais elles comportent également le potentiel de catastrophes. Même les évaluations de risques les plus rigoureuses peuvent ne pas détecter des défauts et des risques cachés en raison des limites de la connaissance humaine. Les tests d’ingénierie et les modèles mathématiques ne peuvent pas prévoir toutes les possibilités.
Néanmoins, il existe une lueur d’espoir dans la gestion et l’atténuation des risques technologiques, comme le souligne John Downer dans son livre de 2023, Accidents Logiques : Comment gérer les risques des technologies catastrophiques complexes ? Malgré l’intrication et la sensibilité des systèmes d’avions à réaction, les experts ont réussi à les rendre extrêmement sûrs. Cela est dû à la vaste flotte d’avions, qui permet des statistiques détaillées sur les accidents et la résolution de problèmes.
Peut-être que la même approche peut être appliquée à d’autres technologies à haut risque en sacrifiant une partie du pouvoir pour la sécurité, ouvrant ainsi la voie à un avenir plus durable. Toutefois, cette tâche n’est pas aisée. Le livre de Downer nous entraîne dans un voyage à travers le monde de la connaissance et de la technologie, explorant comment des experts ont réussi à atteindre des niveaux élevés de sécurité dans des domaines comme l’aviation civile et les avions à réaction. La question est : ces leçons peuvent-elles être appliquées aux réacteurs nucléaires ?
La catastrophe de Fukushima
Le livre examine la catastrophe nucléaire de Fukushima de 2011, qui a introduit le concept de « technologies catastrophiques » — des systèmes techniquement complexes nécessitant un degré élevé de sécurité. Il discute des défis de la gestion des risques associés à de telles technologies. Par exemple, les estimations des coûts financiers de la catastrophe de Fukushima ont considérablement augmenté au fil du temps, atteignant des centaines de milliards de dollars en 2017, sans prendre en compte les coûts indirects plus larges. Il y a également eu des difficultés à gérer l’information concernant les risques lors de tels incidents, car les parties prenantes ont tendance à retarder ou à dissimuler des informations nuisibles, en supposant que l’attention des médias diminuera. L’utilisation de métriques non officielles ajoute souvent à la confusion plutôt qu’à la clarté, puisqu’elles ignorent des faits scientifiques cruciaux.
Le livre retrace le développement historique du concept de sécurité dans les systèmes complexes, en mettant en lumière les évolutions conceptuelles et historiques clés. Initialement, des études ont été menées au 19ème siècle sur la durée de vie d’éléments de charge mobiles, comme les chemins de fer. Puis, dans les années 1920, les Laboratoires Bell ont créé un département qualité dédié pour s’attaquer aux variations de performance des tubes à vide, menant à l’établissement de normes de sécurité et de qualité.
Downer souligne que le langage utilisé dans les engagements de sécurité nucléaire peut être trompeur. Les grandes organisations n’affirment que rarement que des échecs catastrophiques sont impossibles, mais plutôt qu’ils sont très peu probables. Alors que les avions à réaction ont atteint des niveaux élevés de sécurité et de confiance, appliquer ceci à des systèmes comme les réacteurs nucléaires — où les chiffres sont moins nombreux — suggère une probabilité très faible de catastrophes.
L’auteur met également en avant les complexités liées à l’atteinte des normes de sécurité nécessaires dans les technologies catastrophiques. Les experts analysent les prévisions de défaillance et s’assurent de l’indépendance des différentes composantes du système, qui peuvent être influencées par le comportement des experts. De plus, Downer propose d’utiliser les données de service pour comprendre les facteurs de sécurité et les défis d’application du concept de ceteris paribus (tous les autres facteurs étant égaux par ailleurs) dans des environnements opérationnels complexes. L’importance de développer des concepts de sécurité en ingénierie est également soulignée, tout comme la manière dont ces efforts peuvent améliorer les performances et la durabilité des technologies de sécurité vitales.
La catastrophe de Fukushima a enseigné des leçons amères sur les limites de la technologie nucléaire et la nécessité de changer notre approche. La catastrophe a révélé un excès de confiance dans les affirmations de sécurité des centrales nucléaires et un manque de préparation pour les scénarios les plus extrêmes. De nombreux pays croyaient que la probabilité de grandes catastrophes nucléaires était si faible qu’ils les avaient exclues de leurs plans d’urgence. Pourtant, Fukushima a prouvé que l’impossible peut se produire et que les évaluations basées sur des experts peuvent être erronées. Ainsi, la leçon clé est claire : « Il n’y a aucune garantie absolue dans un monde de risques. » Les gouvernements et les entreprises doivent réévaluer radicalement leurs normes et leurs plans d’urgence, en tenant compte des scénarios les plus extrêmes.
Le modèle de sécurité aérienne
Le livre discute de la sécurité des avions à réaction, un phénomène unique et fascinant sur le plan scientifique. Les avions à réaction affichent des niveaux de sécurité exceptionnellement élevés. Bien qu’il y ait eu quelques incidents non fatals, les taux de crashs d’avions à réaction sont extrêmement bas comparativement à d’autres modes de transport, en faisant un moyen sûr et efficace de transporter des passagers sur de longues distances. Par exemple, l’Airbus A380 peut transporter près de 320 000 litres de carburant, lui permettant de parcourir de longues distances sans ravitaillement fréquent. Certains avions de passagers, comme le Boeing 737-200, ont été en service régulier pendant plus de 47 ans, mettant en avant leur durabilité et leur capacité à endurer de longues périodes de service.
Malgré quelques incidents non fatals, comme le vol Air France 66, les crashs d’avions à réaction restent rares comparativement aux autres modes de transport. Par exemple, le Boeing 747, depuis son introduction en 1970, n’a été impliqué que dans 34 accidents, entraînant un nombre limité de victimes. Cela après avoir effectué plus de 17 millions de vols et cover une distance cumulative de plus de 42 milliards de milles nautiques. Pourtant, cet exceptionnel bilan de sécurité ne signifie pas que les avions à réaction sont totalement exempts de risques. Bien que rares, les accidents peuvent entraîner des pertes humaines et matérielles significatives.
Les avions à réaction font face à de grands défis en matière de sécurité. Ainsi, le livre offre un aperçu complet de la sécurité aérienne, de la conception à l’exploitation, en analysant les accidents notables et les concepts clés utilisés pour garantir la sécurité des vols. Il met en lumière la philosophie de la Federal Aviation Administration (FAA) relative à la « conception sûre multi-couches » et l’importance de traiter les erreurs humaines et leur impact sur les systèmes de sécurité des aéronefs.
Le livre examine également la théorie des accidents naturels et la compare à l’argument reliant l’incertitude dans les tests et les modèles, démontrant comment ces concepts contribuent à la compréhension des accidents aériens et à l’amélioration de la sécurité aérienne future. À travers des analyses détaillées d’incidents aériens notables, tels que le vol British Airways 009, le livre explore les causes et les facteurs derrière ces accidents ainsi que les leçons de sécurité apprises. Il souligne également l’importance de la gestion des risques et des politiques de sécurité strictes dans l’industrie aéronautique pour minimiser les risques de catastrophes aériennes.
Défis de l’aviation commerciale
Le processus de lancement de nouveaux avions commerciaux est strictement supervisé par la Federal Aviation Administration (FAA), responsable de l’établissement d’un ensemble de règles et de réglementations strictes que les fabricants d’avions doivent suivre pour garantir la sécurité et la fiabilité des nouveaux appareils. Ce processus comprend un examen approfondi d’une vaste quantité de documents, de dessins techniques et de rapports techniques, ainsi que la réalisation de tests complexes et de calculs pour évaluer la probabilité de défaillance ou de dysfonctionnement dans divers systèmes d’aéronefs, tels que les moteurs, les ailes et les systèmes électriques.
Cependant, ce processus rencontre certains défis, tels que la définition floue de certains termes techniques et la difficulté d’effectuer des calculs précis des probabilités d’échec. Malgré ces obstacles, la FAA s’efforce d’appliquer des procédures strictes pour garantir le plus haut niveau de sécurité pour les nouveaux avions. L’objectif est de ne lancer que les appareils qui respectent toutes les normes de sécurité nécessaires, assurant ainsi la sécurité des passagers et de l’équipage. Les statistiques de la sécurité aérienne ont montré une baisse significative des accidents d’avions commerciaux au cours des dernières décennies, développement attribué aux avancées technologiques et aux améliorations des normes de sécurité, de maintenance et de formation.
Malgré d’autres défis, tels que les facteurs humains, les conditions météorologiques et les actes terroristes, l’avenir de l’aviation commerciale semble prometteur avec les développements technologiques en cours et un accent mis sur l’amélioration de la sécurité. L’auteur souligne que les collisions avec des oiseaux représentent l’un des principaux défis pour la sécurité aérienne, en particulier pour les avions commerciaux. L’armée de l’air américaine, qui opère souvent à des altitudes plus basses, encourt des coûts relativement plus élevés en raison de la fréquence de ces collisions, entraînant des pertes humaines et matérielles significatives.
Les recherches montrent que les oiseaux ne sont pas en mesure d’éviter efficacement les objets à grande vitesse, ce qui conduit parfois à des accidents dangereux. Par conséquent, les réglementations concernant les évaluations de la sécurité des moteurs ont été durcies, y compris de nouveaux tests impliquant une catégorie supplémentaire d’oiseaux plus gros. De plus, des recherches indiquent que la densité du trafic aviaire diminue à mesure que les aéronefs montent en altitude, réduisant ainsi la probabilité de collisions à des altitudes plus élevées.
Normes de sécurité et innovation
Le livre souligne que l’évolution des règles et des normes de sécurité aéronautique nécessite une surveillance continue des nouvelles technologies et des mises à jour de l’ingénierie. Il met en avant l’importance de l’apprentissage continu et de l’amélioration en aviation pour garantir la sécurité des vols et réduire les risques d’accidents. L’auteur soutient que les innovations dans la conception des aéronefs se font souvent au détriment de la sécurité. Bien que impressionnantes, des technologies telles que les matériaux composites et les conceptions révolutionnaires pour les aéronefs militaires et des appareils supersoniques augmentent la probabilité de dysfonctionnements et de risques.
L’auteur met également en lumière les problèmes et les défis auxquels font face les organisations et les experts dans des domaines tels que l’ingénierie et la conception, qui peuvent affecter la sécurité des produits comme les avions. Souvent, les organisations tentent de dissimuler des informations sensibles au public, telles que des préoccupations et des désaccords parmi les experts, en les classant comme « projets » pour éviter la divulgation. Dans certains cas, l’arrogance des organisations et leur excès de confiance dans la capacité de la technologie à surmonter tous les problèmes ont été constatés, ignorant la possibilité d’erreurs malgré tous les efforts. Cela souligne les défis liés à la modélisation et à l’analyse précises des systèmes complexes et parfois à la dissimulation de ces problèmes au public. Ces points illustrent l’importance de la transparence et de l’humilité dans la gestion de défis techniques complexes, ainsi que la nécessité de reconnaître les limites de la connaissance humaine et le potentiel d’erreurs pour assurer un maximum de sécurité dans des industries sensibles comme l’aviation.
L’auteur conclut en notant que, depuis le début de l’ère aéronautique, les avions à réaction sont devenus un symbole de progrès technologique et de fiabilité exceptionnelle. Ils sont souvent cités dans les discussions sur la sécurité des réacteurs nucléaires comme preuve que les technologies complexes peuvent être contrôlées si elles sont conçues et exploitées correctement. Mais cette comparaison est-elle vraiment exacte ? Bien qu’il existe effectivement certaines similitudes entre les aéronefs et les réacteurs — tous deux représentant des défis d’ingénierie complexes et nécessitant des niveaux élevés de sécurité opérationnelle pendant des décennies — il existe également des différences fondamentales dans leur fiabilité.
L’expérience opérationnelle des avions à réaction dépasse de loin celle des réacteurs nucléaires. Des dizaines de milliers d’avions volent quotidiennement, contre moins de 500 réacteurs nucléaires en fonctionnement dans le monde. Cette énorme différence dans les chiffres permet de collecter des données plus précises et complètes sur la fiabilité des aéronefs, permettant aux ingénieurs d’identifier les faiblesses et d’apporter des améliorations systématiques aux conceptions au fil du temps.
Pour les réacteurs nucléaires, les données limitées et les grandes différences de conception rendent difficile le tirage de leçons fiables et leur application généralisée. Donc, malgré les affirmations répétées sur la fiabilité des réacteurs avancés, un doute significatif subsiste quant à l’exactitude de ces affirmations, notamment lorsqu’on les compare au bilan de sécurité avéré des avions à réaction. Malheureusement, les décideurs ont ignoré ce scepticisme fondé avant la catastrophe de Fukushima, entraînant des conséquences dévastatrices.
Source:
John Downer, Rational Accidents: Reckoning with Catastrophic Technologies, MIT Press, 2023.
