Por: Papa Francisco
El Papa Francisco se trasladó este 14 de junio hasta la región de Puglia, en el sur de Italia, para participar en la cumbre del G7, un evento anual que reúne a líderes de las 7 economías más avanzadas del mundo.
A continuación, el discurso completo del Papa Francisco sobre la Inteligencia Artificial: “La inteligencia artificial es un instrumento fascinante y tremendo”.
Me dirijo hoy a ustedes, líderes del Foro Intergubernamental del G7, con una reflexión sobre los efectos de la inteligencia artificial en el futuro de la humanidad.
La Sagrada Escritura atestigua que Dios ha dado a los hombres su Espíritu para que tengan “habilidad, talento y experiencia en la ejecución de toda clase de trabajos” (Ex 35,31)”. La ciencia y la tecnología son, por lo tanto, producto extraordinario del potencial creativo que poseemos los seres humanos.
Ahora bien, la inteligencia artificial se origina precisamente a partir del uso de este potencial creativo que Dios nos ha dado.
Dicha inteligencia artificial, como sabemos, es un instrumento extremadamente poderoso, que se emplea en numerosas áreas de la actividad humana: de la medicina al mundo laboral, de la cultura al ámbito de la comunicación, de la educación a la política. Y es lícito suponer, entonces, que su uso influirá cada vez más en nuestro modo de vivir, en nuestras relaciones sociales y en el futuro, incluso en la manera en que concebimos nuestra identidad como seres humanos.
El tema de la inteligencia artificial, sin embargo, a menudo es percibido de modo ambivalente: por una parte, entusiasma por las posibilidades que ofrece; por otra, provoca temor ante las consecuencias que podrían llegar a producirse.
No podemos dudar, ciertamente, de que la llegada de la inteligencia artificial representa una auténtica revolución cognitiva-industrial, que contribuirá a la creación de un nuevo sistema social caracterizado por complejas transformaciones de época.
Por ejemplo, la inteligencia artificial podría permitir una democratización del acceso al saber, el progreso exponencial de la investigación científica, la posibilidad de delegar a las máquinas los trabajos desgastantes; pero, al mismo tiempo, podría traer consigo una mayor inequidad entre naciones avanzadas y naciones en vías de desarrollo, entre clases sociales dominantes y clases sociales oprimidas, poniendo así en peligro la posibilidad de una “cultura del encuentro” y favoreciendo una “cultura del descarte”. Este es el peligro.
La magnitud de estas complejas transformaciones está vinculada obviamente al rápido desarrollo tecnológico de la misma inteligencia artificial misma.
Es precisamente este poderoso avance tecnológico el que hace de la inteligencia artificial un instrumento fascinante y tremendo al mismo tiempo, y exige una reflexión a la altura de la situación. En esa dirección tal vez se podría partir de la constatación de que la inteligencia artificial es sobre todo un instrumento. Y resulta espontáneo afirmar que los beneficios o los daños que esta conlleve dependerán de su uso.
Esto es cierto, porque ha sido así con cada herramienta construida por el ser humano desde el principio de los tiempos.
Nuestra capacidad de construir herramientas, en una cantidad y complejidad que no tiene igual entre los seres vivos, nos habla de una condición tecno-humana. El ser humano siempre ha mantenido una relación con el ambiente mediada por los instrumentos que iba produciendo. Vivimos una condición de ulterioridad respecto a nuestro ser biológico; somos seres inclinados hacia el fuera-de-nosotros, es más, radicalmente abiertos al más allá. De aquí se origina nuestra apertura a los otros y a Dios; de aquí nace el potencial creativo de nuestra inteligencia en términos de cultura y de belleza; de aquí, por último, se origina nuestra capacidad técnica. La tecnología es así una huella de nuestra ulterioridad.
Sin embargo, el uso de nuestras herramientas no siempre está dirigido unívocamente al bien. Aun cuando el ser humano siente dentro de sí una vocación al más allá y al conocimiento vivido como instrumento de bien al servicio de los hermanos y hermanas, y de la casa común (cf. Gaudium et spes, 16), esto no siempre sucede. Es más, no pocas veces, precisamente gracias a su libertad radical, la humanidad ha pervertido los fines de su propio ser, transformándose en enemiga de sí misma y del planeta.
La misma suerte pueden correr los instrumentos tecnológicos. Solamente si se garantiza su vocación al servicio de lo humano, los instrumentos tecnológicos revelarán no sólo la grandeza y la dignidad única del ser humano, sino también el mandato que este último ha recibido de “cultivar y cuidar” el planeta y todos sus habitantes (cf. Gn 2,15). Hablar de tecnología es hablar de lo que significa ser humanos y, por tanto, de nuestra condición única entre libertad y responsabilidad, es decir, significa hablar de ética. No se puede separar una de la otra.
Pero la inteligencia artificial es una herramienta aún más compleja. Yo diría que es una herramienta sui generis. Conviene recordar siempre que la máquina puede, en algunas formas y con estos nuevos medios, elegir por medio de algoritmos. Lo que hace la máquina es una elección técnica entre varias posibilidades y se basa en criterios bien definidos o en inferencias estadísticas.
El ser humano, en cambio, no sólo elige, sino que en su corazón es capaz de decidir. La decisión es un elemento que podríamos definir el más estratégico de una elección y requiere una evaluación práctica. Por esta razón, frente a los prodigios de las máquinas, que parecen saber elegir de manera independiente, debemos tener bien claro que al ser humano le corresponde siempre la decisión, incluso con los tonos dramáticos y urgentes con que a veces ésta se presenta en nuestra vida.
Condenaríamos a la humanidad a un futuro sin esperanza si quitamos a las personas la capacidad de decidir por sí mismas y por sus vidas, condenándolas a depender de las elecciones de las máquinas. Necesitamos garantizar y proteger un espacio de control significativo del ser humano sobre el proceso de elección utilizado por los programas de inteligencia artificial. Está en juego la misma dignidad humana.
Precisamente sobre este tema, permítanme insistir en que, en un drama como el de los conflictos armados, es urgente replantearse el desarrollo y la utilización de dispositivos como las llamadas “armas autónomas letales” autónomas para prohibir su uso, empezando desde ya por un compromiso efectivo y concreto para introducir un control humano cada vez mayor y significativo. Ninguna máquina debería elegir jamás poner fin a la vida de un ser humano.
Poner de nuevo al centro la dignidad de la persona en vista de una propuesta ética compartida
A lo que ya hemos dicho se añade una observación más general. La época de innovación tecnológica que estamos atravesando, en efecto, se acompaña de una particular e inédita coyuntura social.
Se registra una pérdida o al menos un oscurecimiento del sentido de lo humano y una aparente insignificancia del concepto de dignidad humana. Y es así que en esta época en la que los programas de inteligencia artificial cuestionan al ser humano y su actuar, precisamente la debilidad del ethos vinculada a la percepción del valor y de la dignidad de la persona humana corre el riesgo de ser el mayor daño (vulnus) en la implementación y el desarrollo de estos sistemas.
No debemos olvidar que ninguna innovación es neutral. La tecnología nace con un propósito y, en su impacto en la sociedad humana, representa siempre una forma de orden en las relaciones sociales y una disposición de poder, que habilita a alguien a realizar determinadas acciones impidiéndoselo a otros. Esta dimensión de poder que es constitutiva de la tecnología incluye siempre, de una manera más o menos explícita, la visión del mundo de quien la ha realizado o desarrollado.
Esto vale también para los programas de inteligencia artificial. Con el fin de que estos instrumentos sean para la construcción del bien y de un futuro mejor, deben estar siempre ordenados al bien de todo ser humano. Deben contener una inspiración ética.
La decisión ética, de hecho, es aquella que tiene en cuenta no sólo los resultados de una acción, sino también los valores en juego y los deberes que se derivan de esos valores. Por esto he acogido con satisfacción la firma en Roma, en 2020, de la Rome Call for AI Ethics y su apoyo a esa forma de moderación ética de los algoritmos y de los programas de inteligencia artificial que he llamado “algorética”.
En un contexto plural y global, en el que también se muestran las distintas sensibilidades y plurales jerarquías en las escalas de valores, parecería difícil encontrar una única jerarquía de valores. Pero en el análisis ético podemos recurrir además a otros tipos de instrumentos. Si nos cuesta definir un solo conjunto de valores globales, podemos encontrar principios compartidos con los cuales afrontar y disminuir eventuales dilemas y conflictos de la vida.
La política que se necesita
No podemos ocultar el riesgo concreto, porque es inherente a su mecanismo fundamental, de que la inteligencia artificial limite la visión del mundo a realidades que pueden expresarse en números y encerradas en categorías preestablecidas, eliminando la aportación de otras formas.
El paradigma tecnológico encarnado por la inteligencia artificial corre el riesgo de dar paso a un paradigma mucho más peligroso, que ya he identificado con el nombre de “paradigma tecnocrático”.
Y es precisamente aquí donde urge la acción política, como recuerda la encíclica Fratelli tutti. Ciertamente “para muchos la política hoy es una mala palabra, y no se puede ignorar que detrás de este hecho están a menudo los errores, la corrupción, la ineficiencia de algunos políticos, no de todos, de algunos.
A esto se añaden las estrategias que buscan debilitarla, reemplazarla por la economía o dominarla con alguna ideología. Pero, ¿puede funcionar el mundo sin política? No. ¿Puede haber un camino eficaz hacia la fraternidad universal y la paz social sin una buena política?”.
Nuestra respuesta a estas últimas preguntas es: ¡no! ¡La política sirve! Me viene a la mente lo que un Papa dijo sobre la política: “Es la forma más elevada de la caridad, es la forma más elevada del amor”. La política sirve.
Quiero reiterar en esta ocasión que “ante tantas formas mezquinas e inmediatistas de política […], la grandeza política se muestra cuando, en momentos difíciles, se obra por grandes principios y pensando en el bien común a largo plazo. Al poder político le cuesta mucho asumir este deber en un proyecto de nación y más aún en un proyecto común para la humanidad presente y futura”.
Siempre hay tentación de uniformar todo. Me viene a la mente un romance famoso del inicio de 1900, “The Lord of the World”, un romance inglés, futurista, que hace ver el futuro sin política, el futuro solamente uniforme. Es bonito leerlo, es interesante.
Estimadas señoras, distinguidos señores, mi reflexión sobre los efectos de la inteligencia artificial en el futuro de la humanidad nos lleva así a la consideración de la importancia de la “sana política” para mirar con esperanza y confianza nuestro futuro. Como he dicho en otra ocasión, “la sociedad mundial tiene serias fallas estructurales que no se resuelven con parches o soluciones rápidas meramente ocasionales. Debemos de ir a las raíces. Hay cosas que deben ser cambiadas con replanteos de fondo y transformaciones importantes. Sólo una sana política podría liderarlo, convocando a los más diversos sectores y a los saberes más variados.
De esa manera, una economía integrada en un proyecto político, social, cultural y popular que busque el bien común puede “abrir camino a oportunidades diferentes, que no implican detener la creatividad humana y su sueño de progreso, sino orientar esa energía con cauces nuevos” (Laudato si’, 191)”.
Este es precisamente el caso de la inteligencia artificial. Corresponde a cada uno hacer un buen uso, y corresponde a la política crear las condiciones para que ese buen uso sea posible y fructífero. Gracias.