La OMS da un paso crucial hacia la ética en la IA en salud con una guía que aborda riesgos y propone medidas para un uso seguro, destacando desafíos como el sesgo de automatización y la ciberseguridad. El resultado es un llamado a la cooperación global para garantizar un desarrollo y uso responsables de la inteligencia artificial en el ámbito sanitario.
La Organización Mundial de la Salud (OMS) ha dado un paso fundamental en el camino hacia el uso ético y seguro de la inteligencia artificial en el ámbito de la salud. En su última iniciativa, la lanzó una guía detallada que aborda los desafíos y riesgos asociados con los grandes modelos de lenguaje (LMM), un tipo de IA generativa en rápida evolución, destacando especialmente herramientas como Chat GPT.
Estos LMM, capaces de generar textos y contenido predictivo mediante el procesamiento masivo de datos, están ganando presencia a nivel exponencial en nuestras vidas. Esto especialmente en áreas médicas como diagnóstico, investigación de síntomas y tratamientos, desarrollo de fármacos y administración sanitaria.
Sin embargo, la OMS advierte sobre la necesidad de establecer normas para la integración y uso de estos LMM en la atención médica, ya que algunas de sus aplicaciones aún no han sido probadas y podrían no brindar los beneficios esperados. Uno de los riesgos identificados es el “sesgo de automatización”, que podría llevar a declaraciones falsas, inexactas, sesgadas o incompletas, afectando negativamente a las decisiones de salud basadas en esa información.
Otro foco en la ciberseguridad
Además, la ciberseguridad emerge como una preocupación importante. Los LMM, al igual que otras formas de IA, son vulnerables a ataques cibernéticos que podrían comprometer la seguridad de la información del paciente y la confiabilidad de los algoritmos utilizados en la asistencia médica.
Ante estos desafíos, la OMS propone un enfoque “vertical e integrado” que involucre a todas las partes interesadas, desde gobiernos hasta empresas tecnológicas, proveedores de atención médica y la sociedad civil. A nivel gubernamental, se sugiere la inversión en infraestructuras públicas accesibles para los desarrolladores de IA que se adhieran a principios éticos establecidos.
Alain Labrique, director del departamento de Salud Digital e Innovación de la OMS, enfatizó en el evento de presentación de esta guía que “los gobiernos de todos los países deben liderar de forma cooperativa los esfuerzos para regular eficazmente el desarrollo y el uso de las tecnologías de IA, como los LMM”.
El manual también aboga por leyes gubernamentales que aseguren que los LMM cumplan con los derechos humanos y sugiere la posibilidad de establecer agencias reguladoras para evaluar estas tecnologías antes de su implementación.
En un mundo donde la IA en salud está en constante evolución, la OMS destaca la importancia de abordar todos los aspectos del desarrollo de LMM, desde un diseño estructurado, inclusivo y transparente hasta un enfoque ético y seguro en todas las fases de desarrollo.
