En el marco de la LX Jornada Mundial de las Comunicaciones Sociales que se realizó este sábado, el papa León XIV envió un mensaje en el que advirtió sobre los riesgos que acompañan el desarrollo de la inteligencia artificial (IA) y cómo la tecnología puede manipular las emociones. Por eso, llamó a no dejar de lado el pensamiento crítico.
El pontífice destacó que «el rostro y la voz son rasgos únicos, distintivos, de cada persona«, ya que «manifiestan su propia identidad irrepetible», a la vez que destacó la importancia de la «comunicación con los demás». Sin embargo, estos atributos se ven socavados por el desarrollo de la tecnología digital, ya que al descuidarla se cae en el riesgo de «modificar radicalmente algunos de los pilares fundamentales de la civilización humana».
«Los sistemas conocidos como IA no solo interfieren en los ecosistemas informativos, sino que también invaden el nivel más profundo de la comunicación, el de la relación entre las personas«, dijo, por lo que aseguró que el desafío «no es tecnológico sino antropológico». «Custodiar los rostros y las voces significa, en última instancia, cuidarnos a nosotros mismos», aseguró.
El pensamiento crítico
Posteriormente, el papa evaluó que a la capacidad individual, la comprensión y la reflexión se le oponen los algoritmos que «premian las emocionas rápidas», a la vez que «debilitan la capacidad de escucha y de pensamiento crítico y aumentan la polarización social».
Por eso, advirtió que al considerar a la IA como «amiga omnisciente» se desgasta la «capacidad de pensar de modo analítico y creativo», dando lugar únicamente a la «recopilación estadística artificial» que puede terminar por «erosionar» las «capacidades cognitivas, emocionales y comunicativas».
La manipulación de los chatbots
En su análisis sobre los riesgos del avance de la IA, León XIV advirtió también sobre el contacto con los chatbots que pueden someter a las personas a una «persuasión oculta», al tratarse de modelos capaces de «imitar los sentimientos humanos y simular así una relación». Esta «antropomorfización», analizó, es «engañosa» ya que los chatbots pueden transformarse en «arquitectos ocultos» de los «estados emocionales» e «invadir y ocupar la esfera de la intimidad de las personas».
Por lo tanto, sustituir las relaciones humanas por el vínculo con la IA, capaz de construir un mundo hecho a «imagen y semejanza», puede dañar «el tejido social, cultural y político de las sociedades», generando una «percepción alterada de la realidad».
Frente a estos riesgos, el pontífice instó a autoridades nacionales y entidades supranacionales a establecer una reglamentación adecuada que pueda «proteger a las personas de crear vínculos emocionales con los chatbots», así como «contener la difusión de contenidos falsos, manipuladores o confusos, preservando la integridad de la información frente a una simulación engañosa de la misma».
Por último, destacó que el desafío «no es el de detener la innovación digital, sino el de guiarla» y ser «conscientes de su carácter ambivalente». Para ello, es fundamental la educación, que permitirá mantener la «reflexión crítica, evaluar la credibilidad de las fuentes y los posibles intereses que están detrás de la selección de información». Así se podrá evitar caer en la «deriva antropomorfizante de estos sistemas» y se los tratará como «herramientas».
