Les soignants ne sont pas entraînés à travailler quand l’outil numérique tombe en panne ou se trompe.
Les hôpitaux dépendent de plus en plus de leurs logiciels : dossier du patient, prescriptions, résultats, et désormais des outils d’aide à la décision fondés sur l’intelligence artificielle. Quand le système tombe, comme lors des cyberattaques qui ont paralysé des hôpitaux pendant des semaines, les équipes doivent soigner sans leurs outils, souvent sans y avoir été préparées.
Et quand un outil donne une recommandation erronée, le risque est de la suivre parce qu’elle vient de la machine. C’est le biais d’automatisation, bien documenté dans l’aviation comme en médecine.
