En los dos años que el centro ha usado Sepsis Watch, las muertes por esta dolencia se han reducido drásticamente. Este éxito no solo se debe al potencial técnico de la herramienta, también al esfuerzo del personal por diseñar nuevos protocolos para implementarla y analizar y comunicar sus retos
En noviembre de 2018, el Departamento de Urgencias del Sistema Sanitario de la Universidad de Duke (EE. UU.) puso en marcha una nueva herramienta de aprendizaje profundo denominada Sepsis Watch. Estaba diseñada para ayudar a los médicos a detectar los primeros indicios de una de las principales causas de muerte hospitalaria a nivel mundial.
La sepsis ocurre cuando una infección genera una inflamación en todo el cuerpo y, al final, provoca que los órganos dejen de funcionar. Se puede tratar si se diagnostica a tiempo, pero eso es muy difícil porque sus síntomas se confunden fácilmente con otras afecciones.
Sepsis Watch prometió cambiar eso. Después de tres años y medio de desarrollo (que supuso la digitalización de los historiales clínicos, el análisis de 32 millones de puntos de datos y el diseño de una interfaz simple en forma de una app para iPad), la herramienta calcula cada hora la probabilidad de los pacientes de tener la sepsis. Luego señala a los que tienen un riesgo medio o alto y a los que ya cumplen los criterios. Cuando un médico confirma el diagnóstico, los pacientes reciben atención inmediata.
En los dos años transcurridos desde su implementación, la experiencia de los directivos y médicos del Hospital de Duke sugiere que Sepsis Watch realmente funciona. Ha reducido drásticamente las muertes de pacientes por sepsis y actualmente forma parte de un ensayo clínico registrado a nivel federal de EE. UU. cuyos resultados se esperan en 2021.
A primera vista, se trata de un ejemplo de una gran victoria técnica. Mediante un desarrollo cuidadoso y pruebas, el modelo de inteligencia artificial (IA) aumentó con éxito la capacidad de los médicos para diagnosticar esta enfermedad. Pero un nuevo informe del instituto de investigación Data & Society asegura que todo este proceso solo es la mitad de la historia. La otra mitad reside en la cantidad de esfuerzo social especializado que los médicos encargados del proyecto tuvieron que hacer para integrar la herramienta en su flujo de trabajo diario. Esto no solo implicó diseñar nuevos protocolos de comunicación y crear nuevos materiales de formación, sino también revisar la normativa del centro y la dinámica de poder.
El estudio de caso es un fiel reflejo de lo que realmente se necesita para que las herramientas de IA tengan éxito en el mundo real. «Fue verdaderamente complejo», afirma la coautora y antropóloga cultural que estudia el impacto de la IA, Madeleine Clare Elish.
Reparar la innovación
Se supone que la innovación es disruptiva. Sacude las viejas maneras de hacer las cosas para lograr mejores resultados. Pero, en las conversaciones sobre la disrupción tecnológica rara vez se reconoce que también es una forma de «ruptura». Los protocolos existentes se vuelven obsoletos; las jerarquías sociales se mezclan. Para que las innovaciones funcionen dentro de los sistemas existentes hace falta lo que Elish y su coautora Elizabeth Anne Watkins denominan «trabajo de reparación».
Durante su estudio de dos años sobre la implementación de Sepsis Watch en el hospital de la Universidad de Duke, las investigadoras documentaron numerosos ejemplos de esta disrupción y reparación. Un gran problema fue la forma en la que la herramienta desafió la dinámica de poder profundamente arraigada del mundo sanitario entre los médicos y el personal de enfermería.
En las primeras etapas del diseño de la herramienta, quedó claro que los usuarios principales tendrían que ser los miembros del personal de enfermería del equipo de respuesta rápida (ERR). Aunque los médicos son quienes suelen evaluar a los pacientes y diagnosticar la sepsis, no tienen tiempo para controlar una app continuamente mientras siguen con sus funciones habituales en las salas de urgencias. En cambio, la responsabilidad principal de un profesional de enfermería de ERR sí que consiste en monitorizar continuamente el bienestar del paciente y brindar asistencia adicional cuando sea necesario. Comprobar la app Sepsis Watch encajaba en su flujo de trabajo natural.
Aquí apareció el primer gran desafío. Cuando la aplicación señalaba a un paciente como de alto riesgo, los enfermeros debían avisar al médico tratante (conocido en lenguaje médico como «especialista de urgencias»). Pero el personal de enfermería no solo no solía tener relación previa con estos médicos (porque pasaban sus días en secciones completamente diferentes del hospital), sino que el protocolo suponía una inversión completa de la cadena de mando típica en cualquier hospital. Después de que le explicaran el proceso para usar la herramienta, una enfermera recuerda que pensó: «¿Me está tomando el pelo? ¿Vamos a llamar nosotros a los médicos de urgencias?».
Pero realmente era la mejor solución. Así que el equipo del proyecto se dedicó a reparar la «disrupción» de varias formas. Los jefes de enfermería organizaron reuniones informales con pizza para generar entusiasmo y confianza sobre Sepsis Watch entre sus compañeros. También desarrollaron tácticas de comunicación para suavizar sus llamadas a los médicos. Por ejemplo, decidieron realizar solo una llamada diaria para hablar sobre varios pacientes de alto riesgo a la vez, en el momento del día cuando los médicos estaban menos ocupados.
Además de eso, los líderes del proyecto comenzaron a informar regularmente a la dirección clínica sobre el impacto de Sepsis Watch. El equipo descubrió que no todos los empleados del hospital creían que la muerte por sepsis fuera un problema en Duke. Especialmente los médicos, que no tenían una visión global de las estadísticas del hospital, estaban mucho más ocupados con las emergencias a las que se enfrentaban día a día, como huesos rotos y enfermedades mentales graves. Como resultado, algunos creían que Sepsis Watch no era más que un incordio. Pero para la dirección clínica, la sepsis era un tema prioritario, y cuanto más veían funcionar a Sepsis Watch, más ayudaban a facilitar el proyecto.
Cambiar las normas
Elish identifica dos factores principales que finalmente ayudaron a Sepsis Watch a tener éxito. Primero, la herramienta se adaptó a un contexto muy local y específico: se diseñó exclusivamente para la sección de Urgencias de este hospital. «Este desarrollo realmente a medida fue clave para el éxito», destaca. Es algo que va en contra de las normas típicas de la IA.
En segundo lugar, a lo largo del proceso de desarrollo, el equipo pidió regularmente comentarios al personal de enfermería, a los médicos y a miembros del personal de todos los rangos jerárquicos del hospital. Esto no solo facilitó el uso de la herramienta, sino que también mantuvo un pequeño grupo de profesionales comprometidos con lograr el éxito de la herramienta. El hecho de que el proyecto estuviera dirigido por los propios médicos del hospital también marcó la diferencia, resalta Elish, en vez de por tecnólogos recién llegados desde una empresa de software. «Ante un algoritmo explicable hay que buscar otras formas de generar confianza», añade.
A la nueva profesora asistente del MIT que estudia aplicaciones de aprendizaje automático en la atención sanitaria Marzyeh Ghassemi todas estas conclusiones le resultan muy familiares. «Todos los sistemas de aprendizaje automático destinados a ser evaluados o utilizados por humanos deben contar con sus limitaciones socio-técnicas», afirma. Especialmente en los entornos clínicos, dirigidos por tomadores de decisiones humanos y que implican cuidar de personas en su estado más vulnerable. «Las dificultades que las personas deben conocer son realmente humanas y logísticas», añade.
Elish espera que su estudio de caso de Sepsis Watch convenza a los investigadores para que reevalúen su forma de abordar la investigación de la IA médica y el desarrollo de la IA en general. Gran parte del trabajo que se está realizando en este momento se centra en «lo que la IA podría ser o hacer en teoría «, asegura, y añade: «Hay muy poca información sobre lo que realmente sucede en el terreno». Para que la IA esté a la altura de su promesa, la gente debe pensar tanto en el desarrollo técnico como en su la integración social.
Su trabajo también plantea serias dudas. Elish concluye: «Una IA responsable debe requerir atención al contexto local y específico. De acuerdo con lo que he leído y aprendido, no se puede desarrollar algo en un lugar y luego simplemente implementarlo en otro. Así que, el desafío consiste en averiguar cómo mantener esa especificidad local mientras tratamos de trabajar a escala». No cabe duda de que esa es la próxima frontera para la investigación de la IA.
Fuente: technologyreview.es