Corolario.

Raúl Contreras Bustamante

Bajo el auspicio de las Universidades Aldo Moro y de Buenos Aires, en días pasados se celebró el Cuarto Curso de Alta Especialización —en la ciudad de Bari, Italia— para desarrollar el tema de El Derecho y la Inteligencia Artificial, en el que participaron destacados juristas de varios países de Latinoamérica y Europa.

En representación de la UNAM nos correspondió presentar la ponencia —que llevó el título de este artículo— para desarrollar de manera especial el análisis de la encíclica Magnífica Humanitas del papa León XIV, que constituye una reflexión importante sobre la salvaguardia de la persona humana en el tiempo de la inteligencia artificial.

La encíclica elaborada por Robert Francis Prevost es un documento de gran trascendencia: transforma de manera radical la forma tradicional en que la Iglesia católica responde a los cambios de su tiempo y contribuye, de manera crítica y oportuna, al debate sobre las implicaciones de la IA.

La encíclica no plantea una posición de rechazo a la tecnología. Reconoce que puede curar, conectar, educar y cuidar. Pero también puede dividir, excluir y generar nuevas formas de injusticia.

La tecnología no es, en abstracto, la solución de todos los problemas humanos ni un mal en sí misma. Sin embargo, tampoco puede considerarse como algo neutral: está marcada por las decisiones de quienes la conciben, financian, regulan, entrenan y utilizan.

No se trata de saber si estamos a favor o en contra de la IA. El dilema es cómo queremos utilizarla; con qué criterios y hasta dónde queremos establecer sus límites.

Nos hemos acostumbrado tanto al término inteligencia artificial que corremos el riesgo de equipararla en la mente con la inteligencia humana. Magnifica Humanitas advierte contra ese equívoco.

La IA puede procesar enormes volúmenes de datos y generar información de gran utilidad. Sin embargo, la cantidad de información no equivale de forma automática a conocimiento y no equivale de manera necesaria a juicio moral o sabiduría.

Los sistemas de IA no viven una experiencia, no poseen un cuerpo, no atraviesan alegría y tristeza, no maduran a través de relaciones y no conocen desde dentro la simpatía, el trabajo, la amistad o la responsabilidad. Tampoco poseen conciencia moral.

La IA puede escribir sobre el dolor sin haberlo sentido nunca. Puede describir el amor sin haber amado. Puede construir un argumento sobre justicia sin poseer una conciencia moral de lo que es justo. Puede producir una respuesta en apariencia empática sin haberla experimentado. Y algo muy importante: puede recomendar una decisión sin asumir sus consecuencias.

Esto es en especial muy importante en el derecho, la educación, la administración pública y cualquier ámbito donde una decisión afecte derechos, oportunidades o dignidad. Una máquina puede participar en el proceso de decisión, pero nunca va a asumir la responsabilidad moral de esa decisión. Por ello, la responsabilidad humana no puede desaparecer detrás del algoritmo.

Además, la encíclica advierte que la IA tiende a aumentar el poder de quien ya dispone de incalculables recursos económicos. Cuanto mejor comprendamos cómo funciona la IA, mejores decisiones podremos tomar sobre cómo utilizarla y sobre dónde establecer límites. Por eso la conversación no puede centrarse sólo en el futuro de las máquinas. Tiene que centrarse también en el futuro de las personas.

Magnifica Humanitas utiliza una expresión que sintetiza el desafío: En la era de la inteligencia artificial tenemos el deber de permanecer profundamente humanos.

Como Corolario, la frase del papa León XIV: “Nunca la humanidad tuvo tanto poder sobre sí misma”.