Un modelo predictivo empezó a llegar a los hospitales de Estados Unidos con una promesa difícil de resistir: iba a detectar sepsis —una de las principales causas de muerte en pacientes internados— antes de que un médico se diera cuenta.

No era una empresa emergente con una idea prometedora. Era Epic Systems, uno de los gigantes de los sistemas de historias clínicas electrónicas, con presencia en cientos de hospitales. En sus materiales de marketing, la promesa era clara: cruzar decenas de variables para anticipar la sepsis y ganarle horas a una enfermedad que, literalmente, se mide en horas.

Durante un tiempo, pocos tuvieron razones para dudar.

Pasaron años.

Y entonces, en 2021, se publicó la validación independiente más conocida.

Los investigadores de Michigan Medicine validaron el modelo de manera independiente y publicaron el resultado en JAMA Internal Medicine: el modelo no detectaba dos de cada tres casos de sepsis. No era el resultado que la ficha técnica prometía.

¿Cómo un modelo así llega a cientos de hospitales, con semejante despliegue, sin que nadie note el problema antes? ¿Cómo pasan años —el modelo tomando decisiones sobre pacientes reales— antes de que alguien de afuera se siente a mirarlo con suficiente atención?

Esa pregunta va a esperar unos minutos más. Antes necesitamos hablar de algo que hacíamos casi sin pensar, hasta hace muy poco.

Durante décadas, analizar datos significaba, antes que nada, pasar tiempo con ellos.

Abrir la tabla y preguntarse por qué esa columna tiene tantos valores en blanco. Notar que hay una fecha que no tiene ningún sentido —un cliente que “nació” en 1900, por ejemplo, porque alguien dejó ese valor por defecto en un formulario. Preguntarse qué significa exactamente esa variable que alguien más creó hace tres años y nunca documentó. Decidir, columna por columna, si esa información tenía derecho a estar ahí o no.

Nadie lo llamaba “preprocesamiento”. Era, simplemente, la parte del trabajo que no se podía saltear. Como un médico que no empieza a operar sin antes revisar la historia clínica del paciente, por más apurado que esté el quirófano.

Ese tiempo con los datos no era una pérdida de tiempo.

Analizar datos se parecía más a un noviazgo que a un trámite. Primero había que conocerse. Descubrir las manías. Entender qué cosas podían sorprenderte. Recién después uno estaba en condiciones de tomar decisiones importantes: el análisis. El casamiento.

Hoy nos salteamos las tres etapas de un salto. Vamos directo al casamiento. Sin primera cita, sin conocer a la familia, sin conocer las manías.

Aquí entra la inteligencia artificial, sin papel de villana: basta una observación simple.

Antes, era difícil llegar a un modelo sin recorrer ese camino incómodo de conocer los datos. La herramienta misma te obligaba: si no entendías el conjunto de datos, el código tiraba error, el modelo no corría, o corría, pero con resultados tan raros que era imposible ignorarlos.

Hoy subimos un archivo, escribimos una frase parecida a “analiza estos datos” y esperamos la respuesta. Nada nos avisa de que nos saltamos un paso.

Ahí está, en una frase, el cambio real, y es humano.

Durante mucho tiempo el orden fue: primero entender, después analizar. Hoy, para mucha gente, el orden se invirtió: primero se analiza, y con suerte —solo con suerte— después se entiende.

Pongo todo y veo qué pasa.

Si alguna vez subiste un Excel a una IA sin mirarlo demasiado antes, esa frase te resulta incómodamente familiar. No hay nada de malo en la curiosidad de ver qué pasa. El problema es cuando “ver qué pasa” reemplaza por completo a “entender qué hay ahí”.

Porque hay algo que los datos nunca hacen.

Los datos no traen un cartel que diga “yo no debería estar en este análisis”.

Alguien tiene que decidirlo. Y ese alguien, cada vez más seguido, es nadie.

Algunos ejemplos, de más obvio a más traicionero.

Un identificador de cliente que, sin querer, terminó codificando el orden de inscripción —y con eso, indirectamente, la antigüedad. Fácil de detectar si alguien se molesta en mirar la columna dos segundos.

Una fecha de cancelación en un conjunto de datos de predicción de fuga de clientes. Suena inofensivo hasta que uno entiende que esa columna solo tiene valor para los clientes que ya se fueron: existe porque el cliente se fue, no antes.

Otro ejemplo: en agosto todavía faltan cuatro meses para terminar el año. Sin embargo, la tabla ya mostraba el total anual de ventas de cada cliente. Una información que, en el momento de hacer la predicción, simplemente no existía.

Y el caso de sepsis del comienzo: la columna que indicaba si un médico ya había ordenado antibióticos al paciente entró al modelo. Así, en parte, el modelo leía la sospecha clínica del médico y se la devolvía disfrazada de predicción.

Este detalle fue descrito en una investigación periodística de STAT News, publicada el 27 de septiembre de 2021.

No parece haber sido una decisión destinada a “engañar” al modelo. Con tantas variables disponibles, este tipo de situaciones puede aparecer si no se analiza cuidadosamente qué información estaba realmente disponible en el momento de la predicción.

Un año después, en octubre de 2022, STAT informó, a partir de documentos de la empresa, que Epic revisaba su modelo y reducía la dependencia de las órdenes de antibióticos como señal de sepsis.

Durante décadas aprendimos que analizar datos comenzaba mucho antes de ejecutar un algoritmo. Esa realidad sigue igual con la inteligencia artificial; lo que cambió es nuestra sensación de que esas etapas podían omitirse.

La IA puede responder en segundos.

Entender el problema sigue llevando tiempo.

En esa distancia entre las dos velocidades se juega buena parte de lo que hagamos bien o mal con estas herramientas.

Correr un modelo, hoy, toma segundos. La ventaja de quien sabe lo que hace está en saber qué datos no deberían estar en la pregunta.

Ross, C. Epic’s sepsis algorithm is going off the rails in the real world. STAT News, 2021. https://www.statnews.com/2021/09/27/epic-sepsis-algorithm-antibiotics-model/

Ross, C. Epic overhauls popular sepsis algorithm criticized for faulty alarms. STAT News, 2022. https://www.statnews.com/2022/10/03/epic-sepsis-algorithm-revamp-training/

Wong, A. et al. External Validation of a Widely Implemented Proprietary Sepsis Prediction Model in Hospitalized Patients. JAMA Internal Medicine, 2021. https://jamanetwork.com/journals/jamainternalmedicine/fullarticle/2781307

Habib, A. et al. The Epic Sepsis Model Falls Short: The Importance of External Validation. JAMA Internal Medicine, 2021. https://jamanetwork.com/journals/jamainternalmedicine/fullarticle/2781313

Ivete de Barros