21 octobre 2022

Le Safety-II a-t-il enterré le Safety-I ? Premier épisode

Over the past two decades, the "new view" has become a popular term in Safety theory and practice. It has however also been criticised, provoking division and controversy. The aim of this article is to clarify the current situation. It describes the origins, ambiguities and successes of the "new view" as well as the critiques formulated. The article begins by outlining the origins of this concept, in the 1980 s and 1990 s, from the cognitive (system) engineering (CSE) school initiated by Rasmussen, Hollnagel and Woods. This differed from Reason’s approach to human error in this period. The article explains how Dekker, in the early 2000 s, translates ideas from the CSE school to coin the term "new view", while also developing, shortly after, an argument against Reason’s legacy that was more radical and critical than his predecessors. Secondly, the article describes the ambiguities associated with the term "new view" because of the different programs that have derived from CSE (Resilience Engineering – RE then Safety II, Safety Differently, Theory of Graceful Extensibility). The text identifies three programs by different thinkers (methodological, formal and critical) and Dekker’s three eclectic versions of the "new view". Thirdly, the article discusses the successes of the CSE and RE school, showing how it has strongly resonated with many practitioners outside the academic world. Fourthly, the critiques raised within the field of human factors and system Safety but also from different traditions (e.g., system Safety engineering with Leveson, sociology of Safety with Hopkins) are introduced, and discussed.

Commentaire du Dr Marius Laurent (PAQS)

  • Le Coze brosse un panorama historique de l’évolution des idées sur « l’erreur humaine » et sur son rapport avec les accidents. Il note que dès les années 1970, Rasmussen prenait du recul devant l’erreur comme cause ou explication aux accidents, et mettait en doute l’utilité d’en faire un sujet d’analyse « scientifique », dans la mesure où sa connaissance ne survient qu’après que l’accident s’est produit. Il voit dans l’accident une manifestation de tentatives d’apprentissage par essais et erreurs dans une espèce de mouvement brownien qui peut toutefois faire migrer le point de fonctionnement d’un système vers une zone peu sûre si le système est peu amical. Reason, un élève de Rasmussen pourtant, accorde à l’erreur une réalité qui lui permet d’en tracer une taxonomie. Il la voit comme origine indispensable des accidents, unie à un facteur latent, un pathogène résident, dit-il. De leur côté, Woods et Hollnagel créent leur propre modèle (Safety-II et resilience engineering) en développant la vision de Rasmussen. Sidney Dekker souligne le fossé entre Reason et les autres en utilisant les termes de « new vue » et « old vue » tout en décrivant une vision propre (« Safety differently »). Le Coze fait une lecture critique et approfondie de ces quatre auteurs, et souligne aussi bien ce qui les unit que ce qui les sépare en fuyant la polémique, au contraire de Dekker qui souligne davantage ce qui les oppose. Dans le domaine de la sécurité, et en particulier de la sécurité de patients, Reason reste le penseur dominant quand bien même Hollnagel et Woods sont abondamment commentés. La new vue sera également violemment combattue, par exemple par Leveson (même si elle a cosigné avec Hollnagel un livre sur le resilience engineering). Elle critique par exemple la démarche intellectuelle d’Hollnagel, qui se contente trop facilement de faire du Safety-I un épouvantail dont il ridiculise des points de détail, ce qui lui permet de rejeter l’ensemble (straw man fallacy : sophisme de l’épouvantail), plutôt que démontrer la valeur du Safety-II. Plus récemment, Cooper soulignera le manque d’éléments objectifs soutenant le Safety-II1.

Le Coze JC. The ‘new view’ of human error. Origins, ambiguities, successes and critiques. Saf Sci 2022;154,105853. Doi : 10.1016/j.ssci.2022.105853.

Note :

1- Cooper MD. The emperor has no clothes: a critique of Safety-II. Saf Sci 2022;152.