Aura Celeste Fernández R., Presidenta del CONABIOS, participó como ponente en el 4to panel Ética y Bioética del primer Foro Nacional de Salud e Inteligencia Artificial, junto a diferentes actores del sector salud y educativo, local e internacional, quienes hicieron un escenario de debate que mostró una perspectiva de lo que implica el coincidir del talento humano y la inteligencia artificial (IA) en la medicina y en la sociedad.
Vamos en lo adelante la ponencia de la Presidenta del CONABIOS:
La curiosidad es un aspecto emocional intrínseco a los seres humanos y que nos lleva a crear, con el fin de simplificar el día a día, sin embargo, la finalidad inicial de determinado proyecto no siempre trae beneficios comunes o generales, ni se escapa de los dilemas. La inteligencia artificial o sistemas creados con la finalidad de sustituir la inteligencia natural, son, como hemos visto, tecnologías de procesamiento de la información en grandes volúmenes, con diferentes grados de autonomía, para encontrar patrones, calcular, predecir y dar respuesta a determinadas situaciones o problemas. Esto no es algo nuevo, sino que ha venido desarrollándose desde hace más de 70 años, y cada vez los sistemas creados cuentan con mayor complejidad y capacidad resolutiva, tanto así que el campo de la medicina, el diagnóstico de determinadas patologías ha sido puesto en sus manos y ya existen cirugías guiadas exclusivamente por tecnología robótica, entre cientos de aplicaciones más.
Toda esta creatividad y esfuerzos por imitar, potenciar y superar el razonamiento humano es de utilidad en muchos ámbitos para determinadas poblaciones, pero también genera preocupación y abre el debate bioético.
Como es sabido, la bioética es una disciplina que surge a mediados del siglo XX como respuesta al desarrollo tecno científico sobre la vida, siendo esta rama de la ética la que se dedica a promover los principios para la conducta más apropiada del ser humano con respecto a la vida.
La inteligencia artificial es una herramienta importante de progreso científico y tecnológico, que bien puede mejorar las condiciones de vida y salud del ser humano y atenuar el efecto de las actividades humanas en el medio ambiente y el clima, no obstante y reconociendo que las máquinas inteligentes pueden hacer mejores cálculos que los humanos y que pueden interactuar con los seres conscientes, acompañarlos y cuidarlos, el desarrollo de la inteligencia artificial plantea desafíos éticos y riesgos trascendentes respecto de las sociedades, el medio ambiente, los ecosistemas y las vidas humanas, incluyendo que bien podría menoscabar la libertad de expresión, la privacidad, la prohibición de discriminación y el derecho a la tutela judicial efectiva y tal y como lo ha expresado la UNESCO en el preámbulo de su Recomendación del 23 de noviembre de 2021, sus repercusiones positivas y negativas se dan “…debido en parte a las nuevas formas en que en su utilización influye en el pensamiento, las interacciones y la adopción de decisiones de los seres humanos y afecta a la educación, las ciencias sociales y humanas, las ciencias exactas y naturales, la cultura y la comunicación y la información,…”
Mirando desde la otra perspectiva esta tecnología IA puede restringir las opciones de individuos y grupos, reducir el nivel de vida, entrar en conflicto con los derechos fundamentales, así como exacerbar las desigualdades sociales y económicas, de la población mundial en general. Andrea Elena Grigor de la Universidad de Sevilla, España, nos dice en su artículo “Derechos Humanos e Inteligencia Artificial” que ésta “no es objetiva, neutral o universal, por el contrario, está profundamente arraigada en la cultura y la realidad económica de quienes crean…”.
En los últimos 20 años ha habido un auge en la creación de estas nuevas tecnologías y en busca de mitigar los riesgos que implica la creación e implementación de las mismas se han abierto espacios para el diálogo común entre las partes interesadas y se han propuesto algunas recomendaciones y normativas internacionales.
En el año 2018, en Canadá, se adopta la Declaración de Montreal para un desarrollo responsable de la inteligencia artificial, fruto del trabajo de un equipo científico multidisciplinario e interuniversitario que se basó en un proceso de consulta ciudadana y en el diálogo con expertos en el desarrollo de la Inteligencia Artificial. Esta Declaración tiene 3 objetivos principales: 1. Crear un marco ético para el desarrollo y la implementación de la IA; 2. Guiar la transición digital para que todos puedan beneficiarse de esta revolución tecnológica; 3. Abrir un foro de discusión nacional e internacional a fin de lograr conjuntamente un desarrollo equitativo, inclusivo y ecológicamente sostenible de la IA. Para lograr el cumplimiento de estos objetivos, la Declaración proclama 10 principios, no jerárquicos a ser aplicados durante la creación e implementación de sistemas inteligentes.
En el año 2019, la Organización de las Naciones Unidas para la Educación, la Ciencia y la Cultura (UNESCO), ordenó que se elaborara un instrumento normativo internacional sobre la ética de la inteligencia artificial (IA) en forma de recomendación”, el mismo fue presentado y aprobado en su reunión del año 2021 y publicado en el año 2022. República Dominicana es un Estado miembro de la UNESCO desde el año 1946, por lo cual ante el inminente dominio en diversos sectores incluyendo el sector salud, tenemos que acoger estas recomendaciones con la finalidad de garantizar y preservar el respeto universal a la justicia, a la ley, a los derechos humanos y a las libertades fundamentales que se reconocen a todos los pueblos del mundo.
En su conjunto, las medidas planteadas buscan que no se incorporen ni se exacerben los sesgos con estos programas, porque de ser así se profundizarían la discriminación, las desigualdades, las brechas digitales, la exclusión, las divisiones sociales y económicas, se afectaría la dignidad humana, los derechos humanos, la igualdad de género, la democracia, el medio ambiente, entre otros, y se amenazaría la diversidad cultural, social y biológica.
Estas normativas buscan que los Estados asuman responsabilidades respecto de esta materia para asegurar que los mecanismos de gobernanza de la Inteligencia Artificial sean inclusivos, transparentes, multidisciplinarios y multilaterales. En particular, que se incluyan en cada programa, aspectos de previsión y dispositivos eficaces de protección, seguimiento de los efectos, aplicación y reparación.
Según las recomendaciones de la UNESCO, para proteger a los más vulnerables se debe investigar y reparar los daños causados mediante sistemas de IA, así como establecer mecanismos de aplicación estrictos y medidas correctivas, a fin de asegurarse de que los derechos humanos, las libertades fundamentales y el estado de derecho sean respetados en el mundo digital y en el mundo físico. Entre esos mecanismos y medidas deberían figurar mecanismos de reparación aportados por empresas de los sectores público y privado. Con ese fin, debería promoverse la auditabilidad y la trazabilidad de los sistemas de IA.
En el ámbito de la salud y dentro del respeto por el principio fundamental de la autonomía de la voluntad, se debe establecer la voluntariedad del paciente en cuanto a la aplicación de la inteligencia artificial y la relación médico-paciente. Siempre se debe preguntar la disposición del paciente a ser intervenido utilizando esta nueva modalidad de tecnología en donde los pacientes interaccionan con un computador y no con un médico humano. Solo si esta propuesta es aceptada podría ser utilizada, de lo contrario debería prevalecer la relación humano-humano tradicional hasta tanto el paciente decida lo contrario. El ser humano por naturaleza es cauto y poco receptivo a los cambios y más aún, en una población con pocos conocimientos en la materia. Aunque esta atención mediante los denominados Chat-bots plantean un beneficio en salud para la población, siempre será necesario plantear los riesgos que esto puede traer como: 1. La deshumanización de la atención en salud, ya que el contacto no sería con un ser humano poseedor de valores y moral: 2.Aumentar la inequidad pues no todos tienen acceso a tecnología de última generación para acceder a estos sistemas; 3. La pérdida de empleos, pues se eliminaría una parte de la atención disminuyendo la necesidad de personal en salud capaz de realizar una historia clínica y 4. La posible generación de publicidad engañosa para atraer usuarios de los nuevos sistemas, todos compitiendo por la ganancia económica que esto puede representar.
Recordemos que los sistemas aplicables en la salud y aquellos cuyo objetivo principal es hacer un diagnóstico más preciso basado en el cálculo de probabilidades y tendencias, es alimentado con datos reales de pacientes reales. Por derecho universal y fundamental una persona es dueña de su información personal y debe ser su opción, compartir su historial clínico, aún se contemple como una ganancia en el bien común, por tanto, se prevé la necesidad de implementar dentro del manejo rutinario de los pacientes un proceso de consentimiento informado que incluya la posibilidad de poner a la disposición de la ciencia sus datos médicos anonimizados y sin forma de ser vinculados y así poder ser incorporados en las bases de datos de los sistemas inteligentes. De no establecerse el proceso de consentimiento informado, nos podríamos preguntar qué tan ética es la obtención de datos.
Es importante aclarar que solo se puede responsabilizar a los seres humanos por las decisiones que surjan de las recomendaciones de los Sistemas de Inteligencia Artificial y las acciones que resulten de ello. Según dicta el Principio de Responsabilidad incluido en la Declaración de Montreal, en los ámbitos en que se deben tomar decisiones que afectan la vida, la calidad de vida o la reputación de una persona, siempre que el tiempo y las circunstancias lo permitan, un ser humano debe tomar la decisión final y esta decisión debe ser libre e informada. La Organización Mundial de la Salud ha advertido en repetidas ocasiones que el uso inadecuado de la inteligencia artificial puede perjudicar a los pacientes mediante un diagnóstico erróneo o un tratamiento equivocado, por eso, las herramientas se pueden usar, pero las decisiones siempre deben estar a cargo de un trabajador sanitario capacitado.
Del mismo modo, según la UNESCO, se deberían establecer salvaguardias adecuadas para proteger el derecho a la privacidad, de conformidad con el derecho internacional. Se debe alentar enérgicamente a todos los actores de la IA, incluidas las empresas, a que cumplan las normas internacionales vigentes y, en particular, a que realicen evaluaciones adecuadas del impacto en la privacidad, como parte de las evaluaciones del impacto ético, que tengan en cuenta las repercusiones socioeconómicas más amplias del tratamiento previsto de los datos, y a que aplique el principio de protección de la privacidad desde la concepción de sus sistemas. La privacidad debería ser respetada, protegida y promovida a lo largo del ciclo de vida de los sistemas de IA en todos los sectores y no solo en el sector salud.
Es fundamental que la creación y aplicación de sistemas inteligentes aplicables en salud estén regulados, de modo que sean seguros, eficaces, eficientes y probados desde el punto de vista científico y médico y faciliten la innovación y el progreso médico con base empírica. Además, es conveniente que todos los actores de la obra, desde los pacientes hasta los médicos, los programadores y sus representantes estén presentes en todas las etapas pertinentes del desarrollo del Sistema. Es decir, se recomienda que los mismos sean creados de una manera transparente, auditables, con participación multisectorial y que eventualmente sea para todos.
Una mirada no menos importante es la que podemos hacer desde la perspectiva bioética hacia la educación general, la educación en salud y la educación sobre la inteligencia artificial. No es bioética mente correcto implementar tecnologías basadas en inteligencia artificial en poblaciones que donde la escolaridad es baja, pues se presta a aumentar la inequidad además de dar el uso y traducción de los resultados de manera incorrecta. Es necesario formar y capacitar la población para que la implementación de cualquier sistema alcance el objetivo para el cual fue creado y que la misma población usuaria pueda detectar cuando las cosas no van por el lado correcto o se irrespeten o violenten sus derechos como ser humano.
La intersección de la bioética y la inteligencia artificial es crucial en la atención médica del presente y del futuro, pues la misma llegó para ser utilizada. Nos corresponde como ciudadanos determinar los fines morales que dan sentido a los riesgos que se corren en un mundo incierto. Cuanto menores sean los riesgos al hacer uso de la inteligencia artificial, mayores serán sus beneficios. Para esto debemos estar atentos, debemos participar activamente en los procesos y hacer valer los derechos que nos corresponden como seres humanos.
No menos importante es la grandísima responsabilidad de los Estados.
En nuestro país necesitamos aprobar leyes internas que nos protejan de los riesgos evidentes de la IA. No esperemos a que los tribunales tengan que decidir.
Bibliografía:
- Comisión Nacional de Bioética, México. Bioética de la inteligencia artificial en salud, 2023. https://www.gob.mx/cms/uploads/attachment/file/832082/Bio_tica_de_la_inteligencia_artificial_Junio2023.pdf [accedido el 15/11/2023].
- Declaración de Montreal para un desarrollo responsable de la Inteligencia Artificial. 2018 [descargado el 14/11/2023].
- Heloá da Conceição Nunes et.al. Desafíos bioéticos del uso de la inteligencia artificial en los hospitales. Rev. Bioét. vol.30 no.1 Brasília Ene./Mar. 2022. https://www.scielo.br/j/bioet/a/kG8vs4WHYKcGSrQVGwmrkTg/?format=pdf&lang=es [accedido el 15/11/2023].
- Noticias ONU: Detrás del uso de la IA en la salud debe haber siempre un profesional responsable. 5 junio 2023. https://news.un.org/es/interview/2023/06/1521472 accedido el 15/11/2023.
- Programa Universitario de Bioética UNAM, Conferencia Magistral: «La recomendación sobre la ética de la inteligencia artificial», 2023. https://www.youtube.com/live/iNoOj41oRYY?si=re–Hm1TD-ovRQ-g [accedido el 14/11/2023].
- UNESCO, “Recomendación sobre la ética de la inteligencia artificial”, 22 de noviembre de 2022, en https://unesdoc.unesco.org/ark:/48223/pf0000381137_spa [accedido el 16/11/2023].
- Universidad del Desarrollo. Diálogo Bioético | Consideraciones éticas de la inteligencia artificial en salud, 2022. https://www.youtube.com/live/n3kfHMNSdLg?si=awhluyYSE5RwNM2a [accedido el 14/11/2023].
- Villalba Gómez J. Problemas bioéticos emergentes de la inteligencia artificial, 2016. https://www.redalyc.org/journal/679/67945904010/html [accedido el 15/11/2023].