‘Atrasado’: Washington intenta ponerse al día con el uso de la IA en la atención sanitaria

Los legisladores y reguladores en Washington están empezando a debatir cómo regular la inteligencia artificial en la atención médica, y la industria de la IA cree que hay muchas posibilidades de que lo arruinen.

«Es un problema increíblemente desalentador», afirmó Bob Wachter, presidente del Departamento de Medicina de la Universidad de California-San Francisco. «Existe el riesgo de que lleguemos con las armas encendidas y con una regulación excesiva».

El impacto de la IA en la atención sanitaria ya está generalizado. La Administración de Alimentos y Medicamentos ha aprobado unos 692 productos de IA. Los algoritmos están ayudando a programar pacientes, determinar los niveles de personal en las salas de emergencia e incluso transcribir y resumir las visitas clínicas para ahorrar tiempo a los médicos. Están empezando a ayudar a los radiólogos a leer resonancias magnéticas y radiografías. Wachter dijo que a veces consulta informalmente una versión de GPT-4, un modelo de lenguaje grande de la empresa OpenAI, para casos complejos.

El alcance del impacto de la IA (y el potencial de cambios futuros) significa que el gobierno ya se está poniendo al día.

«Los formuladores de políticas están terriblemente atrasados», dijo en un correo electrónico Michael Yang, socio gerente senior de OMERS Ventures, una firma de capital de riesgo. Los pares de Yang han realizado grandes inversiones en el sector. Rock Health, una empresa de capital de riesgo, dice que los financieros han invertido casi 28 mil millones de dólares en empresas de salud digital especializadas en inteligencia artificial.

Un problema al que se enfrentan los reguladores, dijo Wachter, es que, a diferencia de los medicamentos, que dentro de cinco años tendrán la misma química que tienen hoy, la IA cambia con el tiempo. Pero la gobernanza se está formando, con la Casa Blanca y múltiples agencias centradas en la salud desarrollando reglas para garantizar la transparencia y la privacidad. El Congreso también está mostrando interés. El Comité de Finanzas del Senado celebró una audiencia el 8 de febrero sobre la IA en la atención sanitaria.

Junto con la regulación y la legislación viene un aumento del lobby. CNBC contabilizó un aumento del 185% en el número de organizaciones que divulgaron actividades de lobby sobre IA en 2023. El grupo comercial TechNet lanzó una iniciativa de 25 millones de dólares, que incluye la compra de anuncios de televisión, para educar a los espectadores sobre los beneficios de la inteligencia artificial.

«Es muy difícil saber cómo regular inteligentemente la IA ya que estamos en una etapa muy temprana de la fase de invención de la tecnología», dijo en un correo electrónico Bob Kocher, socio de la firma de capital de riesgo Venrock que anteriormente trabajó en la administración Obama.

Kocher ha hablado con senadores sobre la regulación de la IA. Destaca algunas de las dificultades que enfrentará el sistema de atención médica al adoptar los productos. Los médicos, que enfrentan riesgos de negligencia, podrían desconfiar del uso de tecnología que no comprenden para tomar decisiones clínicas.

Un análisis de los datos de la Oficina del Censo de enero realizado por la consultora Capital Economics encontró que el 6,1% de las empresas de atención médica planeaban utilizar IA en los próximos seis meses, aproximadamente en el medio de los 14 sectores encuestados.

Como cualquier producto médico, los sistemas de IA pueden plantear riesgos para los pacientes, a veces de forma novedosa. Un ejemplo: pueden inventar cosas.

Wachter recordó que un colega, a modo de prueba, asignó al GPT-3 de OpenAI la tarea de escribir una carta de autorización previa a una aseguradora para una receta intencionadamente «estrafalaria»: un anticoagulante para tratar el insomnio de un paciente.

Pero la IA «escribió una hermosa nota», dijo. El sistema citó de manera tan convincente «literatura reciente» que la colega de Wachter se preguntó brevemente si se había perdido una nueva línea de investigación. Resultó que el chatbot se lo había inventado.