BOLETIN IATROS, DICIEMBRE 2025

¿Ética o ideología de la inteligencia artificial? El eclipse de la razón comunicativa en una sociedad tecnologizada.

Autora: Adela Cortina

Editorial: PAIDÓS. 2024

La autora analiza en este libro temas de máxima actualidad, tanto en el espacio público, como en otros espacios más restringidos de la sociedad: espacios académicos, científicos, tecnológicos, económicos etc.

Ya en el prólogo, la autora, nos hace ver la preocupación que demuestra ante la llegada de la inteligencia artificial que, sin negarla en ningún momento, sino todo lo contrario, apostando por la ciencia y el progreso, nos advierte de que “el primer deber de la ética de la ciencia es no engañar”. No se puede confundir la ética con la ideología, la cual también está presente en un campo, aparentemente neutro, como es la propia ciencia. “¿No se está calificando como ciencia lo que no lo es, para atraer suculentas inversiones, conformar las mentalidades e incluso ganar en la competencia por el orden mundial?”

Y una preocupación que muestra y demuestra a lo largo de todo el libro, intenso en contenidos, es el hecho de que “triunfa una vez más la razón estratégica, que pasa a ocupar todo el espacio público, y se produce el eclipse de la razón comunicativa. Es esta una pésima noticia si queremos fortalecer la democracia, que es una tarea urgente, porque está en peligro en el ámbito mundial”.

La autora se pregunta si aquello que nos hace humanos: lenguaje, dialogo, deliberación, motivaciones, sentimientos subjetivos, autoconciencia, autonomía, libertad, responsabilidad, etc., se podría dar en máquinas inteligentes, programando en ellas una mente moral, por tanto, sujeta a responsabilidad y acreedora de derechos, de tal modo que la condición biológica pudiese ser sustituida por un sustrato de silicio.  Se situarían estos sistemas inteligentes al mismo nivel que aquello que según Kant forma parte de la naturaleza humana: escuchar la voz del deber o alcanzar aquellas predisposiciones que sólo tienen los seres humanos: “sentimiento moral, conciencia moral, el amor al prójimo y el respeto por sí mismo”. ¿Dónde quedaría la libertad, dentro de esa conciencia moral, que muestra al hombre su deber en cada caso concreto?

Y nos plantea qué se entiende por una ética de la IA, ¿se pregunta si realmente la IA puede tener una ética desde la que actúa, o más bien se trata de una ética con la que los seres humanos deben actuar para servirse de la IA? ¿Se trata de que los seres humanos utilicemos los sistemas inteligentes como instrumentos o que puedan llegar a sustituirnos y utilicen sus propias normas y valores? ¿Se trataría de ampliar el término persona dotada de dignidad y de derechos a estas inteligencias artificiales?

El libro plantea la posibilidad de estar ante tres tipos de éticas al hablar de la inteligencia artificial:1. “La ética propia de las superinteligencias” al estilo de lo que piensa el transhumanismo y el posthumanismo. 2. Construir un marco ético de una IA confiable para orientar el tratamiento humano de los sistemas inteligentes especiales y 3. Abordar el desafío de la creación de máquinas éticas que se comporten como colaboradoras de los seres humanos”.

Si nos quedamos en el punto dos debemos conocer, al menos, que desde el 2019 en el marco de la Unión Europea existe un marco ético “humanocéntrico, aunque señalando que una de las metas consiste en respetar la naturaleza. Los sistemas inteligentes son instrumentos para mejorar la vida humana y la naturaleza, y no “fines en sí mismos” y además a los cuatro principios clásicos de las éticas aplicadas añaden un quinto: la explicabilidad y rendición de cuentas y la trazabilidad que estarían ligados al principio de autonomía, pues los afectados tienen derecho a controlar el uso de sus datos y a conocer los algoritmos que los manejan.

Los principios clásicos de las éticas aplicadas se reformularían según nos dice la autora en el principio de beneficencia que exigiría ahora poner los progresos al servicio de todos los seres humanos y la sostenibilidad del planeta; el de no maleficencia, que ordenaría evitar los daños posibles, protegiendo a las personas en cuestiones de privacidad, mal uso de los datos, la posible sumisión a decisiones tomadas por máquinas y no supervisadas por seres humanos; el principio de autonomía de las personas que puede fortalecerse por el uso de sistemas inteligentes […] y el principio de justicia, que exige distribuir equitativamente los beneficios.

Con respecto a algunas teorías éticas para los sistemas inteligentes, sean cuales sean, la autora nos propone tres:

El primero sería un enfoque de arriba abajo que trata de “integrar reglas en los robots, presumiblemente algorítmicas y programables”, bien en el sentido kantiano deontologista, las reglas éticas valen por si mismas, o bien en el sentido utilitaristas que miden la corrección de las reglas por sus consecuencias.

Un segundo enfoque sería de abajo arriba, siguiendo el modelo aristotélico de la ética de la virtud, teniendo en cuenta los contextos de la acción, la emociones y la experiencia; y un tercer enfoque, híbrido, que es por el que se decanta la autora, “que operaría sobre la base de un marco de principios éticos y lo adaptaría a contextos morales específicos, tomando en cuenta inductivamente las experiencias de esos contextos”.

Explicado de otro modo: “se trataría entonces de trabajar en dos niveles estrechamente conectados entre sí: diseñar un marco, contando con las teorías éticas acreditadas y, dentro de él, articular las normas y las reglas adecuadas para el razonamiento, la decisión y la actuación obtenidas a partir de las particularidades y las experiencias concretas de los afectados en ese ámbito”.

Adela Cortina también nos traslada su preocupación con la utilización que se está haciendo con la posibilidad de tener un mundo interconectado gracias a las nuevas y recientes tecnologías, pues lo que podría ser una manera de alcanzar un “nosotros democrático que alcanzara a todos los seres con capacidad de decidir” se está convirtiendo en un peligro para la veracidad de la información, pues nos dice que lo contrario a la verdad es el error y se puede subsanar, pero lo contrario a la veracidad es la mentira y esta puede alcanzar niveles planetarios de modo prácticamente instantáneo.

Analiza la palabra “posverdad la cual es uno de los términos que ha venido a caracterizar nuestra época a través de las redes y los medios de comunicación” y mira a la Real Academia Española para definir la posverdad: “es una distorsión deliberada de una realidad, que manipula creencias y emociones con el fin de influir en la opinión pública y en actitudes sociales. Los demagogos-se añade- son maestros de la posverdad”.  O apelando al Diccionario del uso del español de María Moliner “mentir es decir cosas que no son verdad para engañar” existe pues, la intencionalidad de difundir bulos fabricados deliberadamente como, dice la RAE, que “socavan la pretensión de veracidad indispensable para lograr la comunicación”.

Para evitar este mal, planetario, apela al “logos para interpretar el mundo social y natural, en conjunción con los demás seres humanos […] desde el vínculo de intersubjetividad que nos constituye.” Y nos urge a recobrar el cosmopolitismo, ahora más que nunca en un mundo tan tecnológico e interconectado como en el que vivimos, apuesta por una conversación global con interlocutores actuales y virtuales, siempre desde el enfoque que tanto Ortega, como Scheler, -dentro de su teoría de los valores-, daban a la verdad como un valor intelectual y a la veracidad como un valor ético, sujeto a la voluntad de los hablantes. Pues la veracidad no es una cuestión de conocimiento sino de voluntad, nos dice la autora. Apartarnos de dogmatismos y apostar por la educación   ayudando a formar una ciudadanía democrática y cosmopolita, recuperar la razón comunicativa frente a la meramente estratégica o instrumental, donde todo es comercio y mercancía, es una necesidad. Y para la autora la Inteligencia Artificial (IA) debe estar al servicio de los seres humanos, un instrumento que nos ayude desde la educación y la comunicación a conectarnos “para estrechar la intersubjetividad entre los seres humanos y cuidar la naturaleza. Para lograrlo es preciso educar en esa unión de corazón y razón que desde hace tiempo vengo llamando razón cordial”, en palabras de Adela Cortina.

Juan Carlos Hernández Clemente

Madrid, 2025