La IA en la atención sanitaria es un entorno en evolución de nuevas tecnologías, beneficios de productividad e inseguridad jurídica.

Las herramientas de IA ya se están utilizando en hospitales, clínicas y consultorios médicos. ¿Quién toma las decisiones sobre el tratamiento y quién es responsable si la IA sale mal? Para abordar estas preguntas, el editor de Ciencia y Tecnología, Eric Smalley, organizó un seminario web con los panelistas, el Dr. Yodin Platt, profesor asociado de gestión y políticas de salud de la Universidad de Michigan, y el Dr. David Kao, director médico del Centro de Medicina Personalizada de Colorado.

El trabajo de Platt explora cómo los datos y la tecnología se pueden utilizar de manera responsable para mejorar la salud y al mismo tiempo ganarse y mantener la confianza del público. La investigación de Kao se centra en el uso de análisis de big data para personalizar el tratamiento de las enfermedades cardíacas, principalmente la insuficiencia cardíaca.

Eric Smalley: ¿Cuáles son los principales tipos de IA que cree que se utilizan en la atención sanitaria?

David Kao: Existe la tentación de pensar en la IA en la atención médica de alguna manera binaria: o lo haces como un viejo médico rural o como Skinnet de Terminator, donde automáticamente toma decisiones de vida o muerte para todas estas personas. Y la verdad es que es una continuidad.

En Colorado, nos centramos en el uso de inteligencia artificial para mejorar la toma de decisiones clínicas. Existen algoritmos basados ​​en aprendizaje automático que monitorearán continuamente el historial médico electrónico y, si alguien comienza a verse peor, alertarán al equipo. No son decisiones en sí mismas. Son simplemente mejor información sobre la cual tomar una decisión.

Jodine Platt: Antes de que tuviéramos grandes modelos de lenguaje e inteligencia artificial generativa, usábamos la IA para predecir el pronóstico de enfermedades. Esto brinda apoyo a las decisiones clínicas a los médicos al ayudarnos a tomar decisiones basadas en los datos de los pacientes.

Si ha visitado a un médico que utiliza un escriba para ayudarle a escribir notas clínicas, ese es un ejemplo muy reciente de IA que utiliza un modelo de lenguaje grande. Cada vez que participa en un chatbot sobre atención médica, ese también sería otro ejemplo del gran modelo de lenguaje subyacente a esa herramienta.

El tercer tipo de IA del que he empezado a hablar recientemente es el “hype”, una IA que promete cosas grandes y asombrosas o que posiblemente destruirá el mundo. Crea miedo a perderse algo y se basa en gran medida en sentimientos y no en muchos hechos.

ES: ¿Se exige que las personas den su consentimiento cuando los médicos utilizan herramientas de inteligencia artificial?

JP: Cada estado es diferente en términos de grabación de terceros y consentimientos por el estilo, por lo que el consentimiento puede variar dependiendo de dónde se encuentre. Por eso, a veces nadie se lo dirá, o cada vez más, el consentimiento se incluye en su consentimiento general para el tratamiento.

El consentimiento para el uso de herramientas de grabación y transcripción se incluye cada vez más en el consentimiento general para el tratamiento. Setenta y cuatro/iStock vía Getty Images Plus

El médico puede encenderlo y apagarlo a voluntad, y si tiene ganas de apagarlo, puede hacerlo. Por lo tanto, si desea estar seguro, es razonable preguntar si se utiliza IA en cada visita.

DK: Esa es una propuesta difícil. Si está considerando estudios de imágenes como una resonancia magnética, es posible que un proveedor externo los procese fuera del sitio. Pero no solicitamos consentimiento para enviar imágenes para procesamiento externo. El problema es ¿dónde está esa línea? Ya sabes, ¿en qué momento empiezas a necesitar consentimiento?

No digo que deba seguir así, pero hay algunas cosas caprichosas porque el hecho es que una gran cantidad de datos de las personas van a muchos socios comerciales y así ha sido durante décadas. Esa información es mucho más íntima que cualquier cosa que le darías actualmente a un modelo de IA, en realidad.

ES: ¿Cómo pueden los pacientes estar seguros de un cierto grado de privacidad de sus datos?

JP: Los sistemas de salud entablarán relaciones con proveedores externos que cumplan con HIPAA y todas las reglas de privacidad de datos que cabría esperar. La pregunta es si te sientes cómodo con alguna empresa con la que trabaje la gente.

Creo que uno de los mayores problemas, si la privacidad de los datos es importante para usted, es compartir su información fuera del sistema sanitario. Puede llevar mucho tiempo llegar al médico o puede que no lo haya. Si ingresa información médica en ChatGPT o en un sistema LLM externo para comprenderla, su información no está protegida.

ES: La FDA regula los dispositivos médicos junto con los medicamentos, pero ¿quién regula la IA utilizada en la atención al paciente?

DK: Los estados han creado sus propias regulaciones para la IA en la atención al paciente, lo que lo hace muy confuso porque no tienen ninguna otra capacidad regulatoria médica. En última instancia, la esperanza desde la perspectiva de la industria es que un estándar o proceso nacional demuestre eficacia y seguridad tal como lo hacemos con los medicamentos. Probablemente estará regulado por el Centro de Dispositivos y Salud Radiológica, el brazo regulador de dispositivos de la FDA.

La dificultad es que la valoración de la inteligencia artificial es diferente. Si el medicamento era diferente cada vez que lo tomaba, ¿cómo puede saber si es seguro? Las formas establecidas en que pensamos al respecto realmente no se aplican.

Yo diría que esa es la única forma en que realmente podemos usarlo en este momento. No existe un proceso regulatorio, por lo que debe haber un componente de “personas al tanto”.

ES: ¿Cuáles son sus preocupaciones o pensamientos sobre las personas que eligen ser tratadas con inteligencia artificial?

DK: No creo que sea prudente, pero sé que la gente lo hará.

Es importante que la persona participe en la toma de decisiones sobre el tratamiento. Algunas personas están recurriendo a la inteligencia artificial. MTStock Studio/E+ vía Getty Images

Estamos hablando de la necesidad de que los humanos estén al tanto de la salud y la inteligencia artificial, ¿verdad? En este caso, es el paciente quien está al tanto, quien probablemente no sea un buen juez para determinar si las recomendaciones son apropiadas o no. Es como darse un capricho, que casi nunca sale bien.

ES: ¿Cómo podemos garantizar que esta tecnología se desarrolle y despliegue en el mejor interés del público y del individuo?

JP: Hace poco me enteré de un marco desarrollado por una investigadora de la Universidad de Pittsburgh, Miranda Javer, que considera esto como una cuestión de equidad.

Los grandes actores crean parte del sistema. Pero ella dice que el público necesita saber que ella es parte de ello. Necesitamos saber cómo navegar por el sistema y tener los recursos para hacerlo. La barrera de entrada es tan alta que normalmente no aprendemos a hacerlo.

Así que creo que encontrar una manera para que los pacientes y el público tengan ese acceso fluido para que puedan elegir y proteger sus datos e información de la manera que quieran es fundamental a medida que desarrollamos el sistema.