Alejandro Pazos Sierra (Padrón, 1959), acaba de ingresar como académico correspondiente de Inteligencia Artificial —sección de nueva creación— en la Real Academia Nacional de Medicina. Es doctor en Medicina y también en Ingeniera Informática, catedrático de Ciencias de la Computación e Inteligencia Artificial de la UDC —donde, además, dirige el departamento de Tecnologías de la Información y Ciencias de la Computación y coordina el grupo de Redes de Neuronas Artificiales y Sistemas Adaptativos-Informática Médica y Diagnóstico Radiológico— y máster en Ingeniería del Conocimiento.
Estoy muy agradecido a todas estas instituciones. Muchas personas pueden pensar que están ancladas en el pasado y que no tienen capacidad de innovación, pero creo que al incorporarme han demostrado todo lo contrario. Es una gran satisfacción, y en todas he tenido una acogida extraordinaria. Centrándonos en el ingreso en la Real Academia Nacional de Medicina, hay dos cuestiones que me motivan mucho. Por un lado, se trata de la primera academia que crea una especialidad en inteligencia artificial —adelantándose a otras instituciones que deberían tener más reflejos—, lo que demuestra que tienen visión a largo plazo. Por otro, se trata de un organismo al que han pertenecido varios premios Nobel y grandes profesionales de la medicina, entre los que se encuentra mi ídolo científico, Santiago Ramón y Cajal. Él es el inspirador biológico de gran parte de los sistemas inteligentes que están ahora en boga. Propuso la teoría de la contigüidad de las neuronas y de la polarización dinámica, trabajos que nos siguen influyendo en la actualidad. En mi caso, concretamente, me inspira para proponer nuevos modelos que refuercen y que den más potencialidad a las redes de neuronas artificiales y a los sistemas inteligentes artificiales incluyendo células de glía en el procesamiento de información, tal como ocurre en el cerebro. Formar parte de un foro en el que antes participaron personas como él es un gran honor.
La inteligencia artificial es una potentísima herramienta para la actividad cognitiva de los humanos. Si se mira desde esta perspectiva —que es la que yo considero correcta—, es obvio que va a ser muy útil para el desarrollo profesional de las personas que tienen responsabilidad en el cuidado de la salud. Sin embargo, esta herramienta tan potente no está aquí para sustituir a nadie. Lo que hará la inteligencia artificial es mejorar la actividad profesional, en el sentido de que puede reducir muchísimo el tiempo que los médicos dedican a tareas burocráticas. Puede hacer informes, resúmenes y muchas otras cosas. Hoy en día, cuando uno va al médico se encuentra con que el profesional que le está atendiendo puede pasar entre el 60 y el 80% del tiempo mirando al computador. Si eliminamos las labores más repetitivas, tediosas y burocráticas que hacen los médicos, tendrán más tiempo para atender a la parte humanística del paciente y realizar tareas de mayor valor añadido. Creo que los profesionales de la salud deben caminar hacia ese tipo de atención.
Sí, puede parecer paradójico. Como cualquier herramienta, la tecnología puede utilizarse para el bien o para el mal. El mismo cuchillo sirve para cortar un excelente jamón de jabugo y para seccionar la yugular de alguien. Todo depende de quién lo use, cómo lo haga y con qué objetivo. Si la inteligencia artificial se utiliza de manera correcta va a ser algo muy positivo de lo que nos vamos a aprovechar tanto los profesionales como los pacientes, que verán cómo el médico está atendiendo a lo que le importa de verdad. Hay un estudio que recoge que una de las principales cosas que esperan los pacientes cuando piden ayuda en la atención a su salud es que les escuchen. Y si el médico dispone de más tiempo podrá escucharle mejor, lo que le llevará a contar con más datos, información y conocimiento sobre el proceso por el que está pasando el paciente para disponer de las herramientas con las que poder darle una respuesta satisfactoria. Esto es lo más importante.
Estos sistemas de inteligencia artificial han aparecido en un momento en el que los profesionales están desbordados por la cantidad de datos e información que surgen constantemente. Incluso dentro de una especialidad, solo una minoría de sus integrantes están al día de sus novedades —y resulta imposible pensar que lo estén en otras diferentes—. Por lo tanto, contar con una herramienta que potencie su capacidad cognitiva para analizar y para estar más al día va a hacer que el profesional tenga más conocimiento disponible para atender de una forma adecuada y más humanista al paciente. La mayoría de los errores médicos no se producen por desconocimiento, sino por no darle la debida importancia a un determinado valor de una variable. Esto a las máquinas no les pasa. Siempre están al cien por cien de sus posibilidades. Los clínicos son humanos que se divorcian, se preocupan por sus hijos, salen de copas o están cansados porque tienen que hacer una guardia de 24 horas. Es imposible tener el mismo nivel cognitivo durante las tres primeras horas de la guardia que durante las tres últimas. En este sentido, disponer de una herramienta que te permita contrastar tus decisiones permitirá corregir muchos errores. La IA va a ser muy importante para la medicina que yo llamo de las nPs.
El presidente Obama, en su segundo mandato, empezó a hablar de la medicina personalizada o de precisión —dos pes—, luego se añadieron otras dos y, cuando me paré a reflexionar sobre ellas, fueron saliendo muchas más. Y todavía pueden ampliarse, de ahí la denominación de nPs.
En primer lugar, el proceso asistencial tiene que ser proactivo antes que reactivo. No se puede hacer una medicina defensiva, en la que a veces se cae para no complicarnos la vida. Hay que ser proactivo para que la población tenga una mayor calidad asistencial y de salud. La sanidad también tiene que ser predictiva para saber cómo va a evolucionar la enfermedad de un paciente o una pandemia. Por otro lado, debe ser preventiva, adelantándose a los acontecimientos. Hay que hacer cribados para una detección precoz de enfermedades como el cáncer que nos permita actuar lo antes posible, porque esto mejorará mucho la perspectiva de la actuación. También personalizada: a cada uno hay que hacerle la prueba diagnóstica o practicarle la acción terapéutica que le corresponda. Si yo metabolizo mal un antibiótico necesito menos dosis que otro que lo metaboliza mejor, y puede que mis biorritmos hagan que la hora de administración de determinadas sustancias sea diferente a la del resto. Además, necesitamos una medicina de precisión que evite los efectos iatrogénicos. Hay que ser preciso a la hora de solicitar pruebas y de establecer las opciones terapéuticas que eviten efectos colaterales indeseados.
También debe ser participativa, en el sentido de que el paciente tiene que estar en el centro del proceso asistencial y darle protagonismo y responsabilidades, pero esto también implica facilitarle herramientas para que pueda tomar decisiones. De lo contrario, caemos en una delegación de responsabilidad y en la medicina defensiva. Otro aspecto importante es que sea poliprofesional, consensuando decisiones entre un grupo de profesionales que no solo está compuesto por médicos: enfermería, física, análisis de datos, farmacia y demás, para contar con una atención con una perspectiva múltiple. Además, tiene que ser periférica o desubicada: hay que intentar que quienes demanden asistencia para el cuidado de la salud no tengan que acudir a los centros asistenciales, porque ahí están los peores microorganismos —a lo que, en Galicia, hay que sumar el componente económico-social de la dispersión poblacional—. Por último, la atención tiene que ser propalabra. Hay que escuchar a los pacientes y empatizar con ellos para extraer toda la información necesaria para prestarle la atención que necesita. También darle las explicaciones con unos términos que entienda. La inteligencia artificial tiene un papel en todas estas pes, y en nuestro laboratorio hemos desarrollado herramientas específicas para cada una.
Además de mejorar la calidad asistencial, el otro gran objetivo es hacer sostenibles los sistemas públicos de salud. Nos permitirá ganar tiempo en lugar de perderlo en tareas burocráticas, y también pedir las pruebas precisas, administrar las terapias adecuadas e identificar problemas precozmente. Por ejemplo, si conseguimos detectar el cáncer antes de que se disemine y produzca metástasis, el coste de la atención para el sistema se reduce mucho.
Este es un ámbito en el que la inteligencia artificial también juega un papel importantísimo. En los últimos tiempos hemos asistido a un cambio de escala en cuanto a la etiopatogenia de las enfermedades. Hace años la escala era macroscópica: enfermaban los sistemas y, después, los órganos y tejidos. Luego pasamos a lo microscópico, a las células. Y ahora estamos en el nivel nanoscópico, con las moléculas, encontrando la causa de las enfermedades en las proteínas. Esto, probablemente, seguirá evolucionando y llegaremos al nivel atómico y subatómico, pero en la escala actual ya se genera una cantidad de datos enorme que resulta inabordable para cualquier cerebro humano. Por lo tanto, necesitamos sistemas, técnicas y herramientas potentes de computación avanzada y de inteligencia artificial para manejar este cambio de escala de cara a la investigación. Con todo esto en mente, vemos que la IA tiene un papel muy importante que desarrollar, pero de forma complementaria al clínico. Lo que hace es aumentar su potencialidad y sus capacidades cognitivas. No es una herramienta para sustituirlos, pero aquellos que desarrollen ciertas capacidades y habilidades para emplearla van a desplazar a aquellos que no lo hagan —especialmente en los mejores puestos— porque contarán con una ventaja competitiva.
En primer lugar, con respecto a los profesionales, hay que superar muchas inercias —como en cualquier ámbito cuando aparece algo nuevo—. Por eso, en nuestro caso, en todas las aplicaciones de inteligencia artificial que desarrollamos nos preocupamos de incorporar a los clínicos que las van a utilizar desde el diseño inicial hasta el final. Tienen que participar continuamente para verificar y validar el sistema y para que no nos desviemos demasiado de lo que están acostumbrados a hacer. Es importante que los sistemas de trabajo no cambien de forma muy intrusiva. Además, siempre intentamos buscar algún valor añadido que ellos reconozcan como una mejora y que vean que el esfuerzo que van a tener que hacer les resultará rentable porque va a reducir su carga de trabajo o porque va a eliminar tareas que no les gustan. Es fundamental romper las inercias de los protagonistas de la atención a la salud y que acojan el cambio tecnológico de buena gana. De lo contrario, el proceso resulta mucho más complicado. También hay retos consustanciales a los propios sistemas basados en inteligencia artificial conexionista, cuyo aprendizaje se basa en ejemplos, no en instrucciones. El conocimiento que va adquiriendo el sistema se representa por cambios de los pesos de las conexiones entre los elementos de la red de neuronas artificiales. Esto influye en la explicabilidad de la IA, que es clave en el ámbito biomédico, pero imposible por el momento. Estamos explicando el envoltorio, pero no lo que subyace, porque nadie lo entendería. Que el médico te diga que tienes que someterte a un trasplante de riñón porque la unión del elemento cuatro de la capa tres con el elemento cinco de la capa cuatro ha pasado de valer 0,84 a 0,73 no sirve de nada.
Que estas herramientas no se utilicen contra el individuo, que no sirvan para reducir la dignidad de las personas ni para perjudicarles. Si una aplicación de inteligencia artificial detecta que tienes cáncer, no debe pasar esa información a una aseguradora, por ejemplo. Tampoco que, si la IA está conectada a redes sociales, se utilicen imágenes tuyas en contextos informales para que el banco te deniegue un crédito. Es importante regular este tipo de situaciones y que se consideren estas herramientas como un producto sanitario que, por lo tanto, tendrá que pasar los controles correspondientes. Debemos contar con un organismo que acredite, en primer lugar, que se trata de un sistema de inteligencia artificial y no de uno que aparenta serlo. En segundo —al igual que los productos farmacéuticos—, debe demostrar que es efectivo, eficiente y que no daña. También hay que incidir en la necesidad de que lleguen a toda la población, no solo a unos elegidos, y esto es muy difícil. Hay muchos retos, y no son banales.
Como se entrenan en base a ejemplos, hay que tener en cuenta que esa información debe ser recogida por alguien. Los datos no proceden de una aldea de Zambia ni de la estepa siberiana, sino de países desarrollados y, en la mayoría de los casos, de lugares que cuentan con historia clínica electrónica. Aunque no nos damos cuenta, estamos entre el 5 % de la población que vive mejor, por lo que el sistema tiene sesgos y no está preparado para atender a personas de razas diferentes de las que han sido utilizadas para el entrenamiento. Esto es un problema.
En muchos casos, imposibles. Hay mucho vendedor de crecepelo en el ámbito de la inteligencia artificial. Es algo que me preocupa mucho, porque cuando no se cumplen las expectativas se genera frustración y, después, viene el rechazo. Esto provoca que unha herramienta que puede resultar muy útil sea desechada. La inteligencia artificial ya ha pasado, al menos, por un invierno entre las décadas de los setenta y los ochenta. La historia puede volver a repetirse si generamos unas expectativas enormes antes de desarrollar el cuerpo doctrinal que las pueda soportar.
Yo he sido un firme partidario del sistema MIR, porque creo que ha mejorado mucho la calidad asistencial, pero en este momento no tiene ningún sentido. He llegado a afirmar que se trata del principal cáncer en la formación de los médicos. El sistema MIR se ha convertido en el benchmarking de las facultades de medicina, que, a partir del tercer curso, ya no se dedican a formar médicos, sino individuos que respondan bien a preguntas del examen MIR para conseguir una buena calificación. La prueba es objetiva, pero en aras de esa objetividad —y por eficiencia— está diseñada con preguntas test porque se corrigen de forma mucho más sencilla. Sin embargo, las preguntas se complican cada vez más de forma artificiosa sin que ese incremento de complejidad aporte nada nuevo. Además, el médico aspirante a residente tiene que saberse todas las preguntas para obtener una buena nota, aunque solo vaya a emplear el 5 % de ese conocimiento en la especialidad que le corresponda, por lo que estamos ante un derroche enorme de tiempo y dedicación. Insisto: nadie puede estar al día de todo lo que sucede en su especialidad y, además, actualmente todo el conocimiento se encuentra a un clic de distancia. ChatGPT sacaría muy buena nota en el examen MIR simplemente dándole los enunciados de las preguntas.
No tiene sentido que la selección de los futuros médicos se base en la capacidad para acumular conocimientos. Lo que debería hacerse es potenciar dos cuestiones: la vocación y la habilidad. Con respecto a la primera, se percibe un porcentaje mucho más elevado de lo deseable de alumnos de medicina y de residentes que carecen de vocación. Muchos eligen la carrera porque tienen unas notas muy buenas, o hacen especialidades muy demandadas —como dermatología— porque han quedado entre los primeros en el MIR. Esas no son razones adecuadas. También hay que poner más en valor la adquisición de nuevas habilidades, que tiene mucho que ver con la medicina propalabra. Hay que obtener del paciente todo lo que resulte útil para ayudarle a resolver su problema. Esto implica empatía y capacidad de comunicación, pero también habilidades para saber identificar los componentes principales de un problema complejo para buscar soluciones a cada uno de ellos. Si se resuelven todos podremos dar una solución global y, de lo contrario, por lo menos podremos resolver una parte.
¿La carrera no está bien enfocada?En lugar de desarrollar vocaciones y habilidades se enseña muy bien la medicina del siglo XX, basada en acumular conocimientos. Con la tecnología de la que disponemos, esto no es necesario. Hay que buscar alternativas, pero las inercias provocan que a las universidades les resulte muy difícil actualizarse. Las facultades de medicina deben ofrecer una formación adaptada al siglo XXI. Evidentemente, los alumnos tienen que saber de anatomía, fisiología, técnicas quirúrgicas y médicas… Pero también son necesarias asignaturas relacionadas con legislación y normativa, comunicación y empatía con los pacientes, economía de la salud, trabajo en equipo y, por supuesto, tecnologías de la información y las comunicaciones, con la inteligencia artificial como una de sus protagonistas. Nada de eso se enseña actualmente, pero son cuestiones imprescindibles para poder ejercer la profesión de manera adecuada. Por otro lado, hay un nivel de exigencia muy alto y se está haciendo tan rebuscado que resulta artificialmente difícil superar las asignaturas. Esto provoca un burning en los estudiantes de medicina más que preocupante. Han demostrado en su etapa formativa previa que están entre lo mejores, por lo que la carrera no debería ser un problema. Acaban quemados, pero son los propios estudiantes quienes reclaman esa diferenciación para mantener la idea de que estudiar medicina equivale a estar entre los más inteligentes. Todo esto genera dinámicas muy perniciosas para los alumnos.
En las áreas sanitarías de A Coruña y de Ferrol tenemos todos los mimbres para ofrecer una formación de calidad a los futuros médicos. Hay dos hospitales públicos de referencia y otros privados con excelentes profesionales de la medicina, además de unos extraordinarios científicos y grupos de investigación en bioinformática, informática médica o ingeniería biomédica con reconocimiento internacional en la Facultad de Informática de A Coruña y en la Escuela Politécnica de Ferrol. También contamos con extraordinarios grupos de investigación en economía de la salud, en comunicación o en normativa y legislación para la salud. En la zona contamos con la capacidad de formar excelentemente a los médicos del siglo XXI, y considero que se estarían desaprovechando estos recursos públicos si no se facilita una iniciativa que ponga en valor esta situación desde las instituciones públicas.
Todos sabemos que hay países que no respetan absolutamente nada relacionado con la ética. En China no hay patentes; si algo les interesa, lo copian. Ser excesivamente garantista provoca que te adelanten por todos lados y que te quedes atrás, pero tampoco podemos carecer de reglamentos porque entonces pasaríamos a regirnos por la ley de la selva y la inmensa mayoría de la gente resultaría perjudicada. Por otro lado, hay que seguir avanzando en inteligencia artificial. Yo estoy en contra de esos mil científicos que pidieron paralizar la investigación en este ámbito. Me parece una soberana tontería. Si los buenos no progresan, los malos sí lo harán. Tenemos que avanzar y estudiar cómo poner salvaguardas para que esos desarrollos no se empleen de manera perniciosa.
Está claro que si la Aesia se ha instalado en A Coruña es porque aquí se ha desarrollado un trabajo importante en este campo. No obstante, de momento nadie de la agencia se ha puesto en contacto con nosotros a pesar de contar con un área de Ciencias de la Computación e Inteligencia Artificial con casi 120 profesionales y un cuerpo de especialistas que llevamos 35 años trabajando en esto, por lo que creo que podríamos aportar muchas cosas. Conformamos el 70 % de todos los de Galicia, y probablemente se trate del núcleo más grande en una única universidad de todo el país. En la UDC fuimos los primeros de España en contar con una asignatura de inteligencia artificial conexionista, y con los apuntes de primer año, junto a algunos alumnos, elaboramos el primer libro en castellano. Entiendo que la Aesia creará una sección para acreditar que los productos que se presentan como de inteligencia artificial realmente lo son, que tienen los efectos que dicen tener y que no generan problemas en cuanto a sesgos o la dignidad de las personas, pero no tengo ninguna confirmación al respecto.
