La inteligencia artificial ha irrumpido sin freno alguno en todos los ámbitos de la sociedad. Por ello, la Organización Mundial de la Salud (OMS) pide un especial cuidado al uso de herramientas de modelo de lenguajes grande (LLM) creadas por inteligencia artificial (IA) para proteger y promover el bienestar humano, la seguridad humana y la autonomía, y preservar la salud pública.
La OMS pide un cuidado estricto el uso de herramientas de IA para proteger el bienestar humano y preservar la salud pública
Los LLM incluyen algunas de las plataformas más conocidas, como ChatGPT, Bard, Bert y muchas otras que imitan la comprensión, el procesamiento y la producción de la comunicación humana. Su difusión pública meteórica y su creciente uso experimental con fines relacionados con la salud están generando un entusiasmo significativo en torno al potencial para apoyar las necesidades de salud de las personas.
Modelos de lenguaje grande (LLM)
Es fundamental que se analice pormenorizadamente los riesgos cuando se usan LLM para mejorar el acceso a la información de salud, como una herramienta de apoyo a la toma de decisiones, o incluso para mejorar la capacidad de diagnóstico en entornos de escasos recursos para proteger la salud de las personas y reducir la inequidad.
No obstante, la OMS está ilusionada con el uso apropiado de las tecnologías, para apoyar a los profesionales de la salud, los pacientes, los investigadores y los científicos. Aunque, también existe la preocupación de que la cautela que se aplicaría para cualquier tecnología nueva no se está realizando de manera coherente con los LLM. Esto incluye la adhesión generalizada a los valores clave de transparencia, inclusión, participación pública, supervisión experta y evaluación rigurosa.
Es clave el análisis detallado de los riesgos cuando se usan LLM para mejorar el acceso a la información de salud
La adopción precipitada de sistemas no probados podría provocar errores por parte de los trabajadores de la salud, dañar a los pacientes, erosionar la confianza en la IA y, por lo tanto, socavar (o retrasar) los posibles beneficios y usos a largo plazo de tales tecnologías en todo el mundo.
En este sentido, salen a la palestra una serie de preocupaciones que requieren de una supervisión rigurosa para la utilización de las tecnologías de una manera segura eficaz y ética.
Preocupaciones del uso de la IA
Hay que tener en cuenta que los datos utilizados para entrenar la IA pueden estar sesgados, generando información engañosa o inexacta que podría plantear riesgos para la salud, la equidad y la inclusión. Además, los LLM generan respuestas que pueden parecer autorizadas y plausibles para un usuario final. Sin embargo, estas respuestas pueden ser completamente incorrectas o contener errores graves, especialmente para las respuestas relacionadas con la salud.
Asimismo, los LLM pueden recibir capacitación sobre datos por los cuales es posible que no se haya proporcionado previamente el consentimiento para dicho uso, y los LLM pueden no proteger los datos confidenciales que un usuario proporciona a una aplicación para generar una respuesta. Del mismo modo, pueden usarse indebidamente para generar y difundir desinformación altamente convincente en forma de contenido de texto, audio o video que es difícil para el público diferenciar del contenido de salud confiable.
La OMS está comprometida con el aprovechamiento de las nuevas tecnologías para mejorar la salud humana
Si bien, la OMS está comprometida con el aprovechamiento de las nuevas tecnologías, incluida la IA y la salud digital para mejorar la salud humana, recomienda que los formuladores de políticas garanticen la seguridad y protección del paciente mientras las empresas de tecnología trabajan para comercializar los LLM.
En estes sentido, la Organización Mundial de la Salud propone que se aborden estas preocupaciones y se mida la evidencia clara del beneficio antes de su uso generalizado en la atención médica y la medicina de rutina, ya sea por parte de individuos, proveedores de atención o administradores del sistema de salud y formuladores de políticas.
Principios básicos
La OMS reitera la importancia de aplicar los principios éticos y la gobernanza adecuada, tal como se enumeran en la guía de la OMS sobre la ética y la gobernanza de la IA para la salud , al diseñar, desarrollar y desplegar la IA para la salud. Los 6 principios básicos identificados por la OMS son: proteger la autonomía; promover el bienestar humano, la seguridad humana y el interés público; garantizar la transparencia, la explicabilidad y la inteligibilidad; fomentar la responsabilidad y la rendición de cuentas; garantizar la inclusión y la equidad; promover una IA que responda y sea sostenible.
