{"id":35943,"date":"2023-12-14T13:03:20","date_gmt":"2023-12-14T11:03:20","guid":{"rendered":"https:\/\/omnesmag.com\/?p=35943"},"modified":"2023-12-14T13:03:27","modified_gmt":"2023-12-14T11:03:27","slug":"papa-inteligencia-artificial","status":"publish","type":"post","link":"https:\/\/staging.omnesmag.com\/it\/papa-inteligencia-artificial\/","title":{"rendered":"El Papa reflexiona sobre la inteligencia artificial"},"content":{"rendered":"

En el mensaje para la 57\u00aa Jornada Mundial de la Paz<\/a> el Papa reflexiona sobre lo positivo de los avances cient\u00edficos, pero tambi\u00e9n sobre los retos \u00e9ticos que algunos avances, como la inteligencia artificial, plantean.<\/p>\n\n\n\n

En primer lugar, Francisco recuerda que la Sagrada Escritura afirma que \u201cDios ha dado a los hombres su Esp\u00edritu para que tengan \u2018habilidad, talento y experiencia en la ejecuci\u00f3n de toda clase de trabajos\u2019 (Ex35,31).<\/p>\n\n\n\n

Tambi\u00e9n en la constituci\u00f3n pastoral \u201cGaudium et spes\u201d, del Concilio Vaticano II, se dec\u00eda que el hombre siempre \u201cse ha esforzado con su trabajo y con su ingenio en perfeccionar su vida\u201d. Por tanto, el Papa se\u00f1ala que el progreso de la ciencia y de la t\u00e9cnica \u201cen la medida en que contribuye a un mejor orden de la sociedad humana y a acrecentar la libertad y la comuni\u00f3n fraterna, lleva al perfeccionamiento del hombre y a la transformaci\u00f3n del mundo\u201d, y ha manifestado su alegr\u00eda por los avances de la ciencia, gracias a los que \u201cse ha podido poner remedio a innumerables males que afectaban a la vida humana y causaban grandes sufrimientos\u201d.<\/p>\n\n\n\n

Riesgos y algoritmos<\/strong><\/h2>\n\n\n\n

Pero, por otra parte, Francisco se\u00f1ala que estos avances pueden conllevar un riesgo<\/a> en algunos \u00e1mbitos: \u201cLos progresos t\u00e9cnico-cient\u00edficos, haciendo posible el ejercicio de un control sobre la realidad, nunca visto hasta ahora, est\u00e1n poniendo en las manos del hombre una vasta gama de posibilidades, algunas de las cuales representan un riesgo para la supervivencia humana y un peligro para la casa com\u00fan\u201d.<\/p>\n\n\n\n

Francisco tambi\u00e9n hace menci\u00f3n a las tecnolog\u00edas que usan algoritmos, que extraen los \u201crastros digitales dejados en internet, datos que permiten controlar los h\u00e1bitos mentales y relacionales de las personas con fines comerciales o pol\u00edticos, frecuentemente sin que ellos lo sepan, limit\u00e1ndoles el ejercicio consciente de la libertad de elecci\u00f3n. De hecho, en un espacio como la web, caracterizado por una sobrecarga de informaci\u00f3n, se puede estructurar el flujo de datos seg\u00fan criterios de selecci\u00f3n no siempre percibidos por el usuario\u201d.<\/p>\n\n\n\n

El Papa recuerda que las innovaciones no son \u201cneutrales, sino que est\u00e1n sujetas a las influencias culturales. En cuanto actividades plenamente humanas, las direcciones que toman reflejan decisiones condicionadas por los valores personales, sociales y culturales de cada \u00e9poca\u201d.<\/p>\n\n\n\n

Inteligencia artificial<\/strong><\/h2>\n\n\n\n

A continuaci\u00f3n, el Papa se detiene a reflexionar sobre la inteligencia artificial, debido a que \u201cel t\u00e9rmino mismo, que ha entrado ya en el lenguaje com\u00fan, abraza una variedad de ciencias, teor\u00edas y t\u00e9cnicas dirigidas a hacer que las m\u00e1quinas reproduzcan o imiten, en su funcionamiento, las capacidades cognitivas de los seres humanos\u201d.<\/p>\n\n\n\n

\u201cSu impacto\u201d, recuerda el Papa, \u201cindependientemente de la tecnolog\u00eda de base, no solo depende del proyecto, sino tambi\u00e9n de los objetivos y de los intereses del que los posee y del que los desarrolla, as\u00ed como de las situaciones en las que se usan\u201d.<\/p>\n\n\n\n

Por todo ello, Francisco se\u00f1ala que no hay que dar por hecho que el desarrollo de esta llamada inteligencia artificial aporte necesariamente algo positivo a la humanidad: \u201cTal resultado positivo s\u00f3lo ser\u00e1 posible si somos capaces de actuar de forma responsable y de respetar los valores humanos fundamentales (…). No basta ni siquiera suponer, de parte de quien proyecta algoritmos y tecnolog\u00edas digitales, un compromiso de actuar de forma \u00e9tica y responsable. Es preciso reforzar o, si es necesario, instituir organismos encargados de examinar las cuestiones \u00e9ticas emergentes y de tutelar los derechos de los que utilizan formas de inteligencia artificial o reciben su influencia\u201d.<\/p>\n\n\n\n

Por otra parte, el Papa reflexiona sobre las m\u00e1quinas que aprenden solas, el \u201cmachine learning\u201d y \u201cdeep learning\u201d, una tecnolog\u00eda que, aunque se encuentra \u201cen una fase pionera, ya est\u00e1 introduciendo cambios notables en el tejido de las sociedades, ejercitando una profunda influencia en las culturas, en los comportamientos sociales y en la construcci\u00f3n de la paz\u201d.<\/p>\n\n\n\n

Desinformaci\u00f3n y parcialidad<\/h2>\n\n\n\n

Adem\u00e1s, \u201cla habilidad de algunos dispositivos para producir textos sint\u00e1ctica y sem\u00e1nticamente coherentes, por ejemplo, no es garant\u00eda de confiabilidad. (\u2026) Pueden (\u2026) generar afirmaciones que a primera vista parecen plausibles, pero que en realidad son infundadas o delatan prejuicios. Esto crea un serio problema cuando la inteligencia artificial se emplea en campa\u00f1as de desinformaci\u00f3n que difunden noticias falsas y llevan a una creciente desconfianza hacia los medios de comunicaci\u00f3n. La confidencialidad, la posesi\u00f3n de datos y la propiedad intelectual son otros \u00e1mbitos en los que las tecnolog\u00edas en cuesti\u00f3n plantean graves riesgos, a los que se a\u00f1aden ulteriores consecuencias negativas unidas a su uso impropio, como la discriminaci\u00f3n, la interferencia en los procesos electorales, la implantaci\u00f3n de una sociedad que vigila y controla a las personas, la exclusi\u00f3n digital y la intensificaci\u00f3n de un individualismo cada vez m\u00e1s desvinculado de la colectividad\u201d.<\/p>\n\n\n\n

Adem\u00e1s, el Papa subraya que los algoritmos no pueden proporcionar \u201cprevisiones garantizadas del futuro, sino solo aproximaciones estad\u00edsticas. No todo puede ser pronosticado, no todo puede ser calculado (\u2026). Adem\u00e1s, la gran cantidad de datos analizados por las inteligencias artificiales no es de por s\u00ed garant\u00eda de imparcialidad. Cuando los algoritmos extrapolan informaciones, siempre corren el riesgo de distorsionarlas, reproduciendo las injusticias y los prejuicios de los ambientes en los que se originan. Cuanto m\u00e1s veloces y complejos se vuelven, m\u00e1s dif\u00edcil es comprender por qu\u00e9 han generado un determinado resultado\u201d.<\/p>\n\n\n\n

Por otra parte, las inteligencias artificiales no son imparciales, \u201cel fin y el significado de sus operaciones continuar\u00e1n siendo determinadas o habilitadas por seres humanos que tienen un propio universo de valores\u201d. \u201cEl riesgo\u201d, se\u00f1ala el Papa, \u201ces que los criterios que est\u00e1n en la base de ciertas decisiones se vuelvan menos transparentes, que la responsabilidad decisional se oculte y que los productores puedan eludir la obligaci\u00f3n de actuar por el bien de la comunidad\u201d.<\/p>\n\n\n\n

Por ello, es importante el \u201csentido del l\u00edmite\u201d, que, seg\u00fan indica Francisco, es \u201cun aspecto a menudo descuidado en la mentalidad actual, tecnocr\u00e1tica y eficientista, y sin embargo decisivo para el desarrollo personal y social. El ser humano, en efecto, mortal por definici\u00f3n, pensando en sobrepasar todo l\u00edmite gracias a la t\u00e9cnica, corre el riesgo, en la obsesi\u00f3n de querer controlarlo todo, de perder el control de s\u00ed mismo, y en la b\u00fasqueda de una libertad absoluta, de caer en la espiral de una dictadura tecnol\u00f3gica\u201d.<\/p>\n\n\n\n

Discriminaci\u00f3n e injusticias<\/strong><\/h2>\n\n\n\n

El Papa subraya que todas estas cuestiones suponen grandes desaf\u00edos \u00e9ticos: \u201cEn el futuro, la fiabilidad de quien pide un pr\u00e9stamo, la idoneidad de un individuo para un trabajo, la posibilidad de reincidencia de un condenado o el derecho a recibir asilo pol\u00edtico o asistencia social podr\u00edan ser determinados por sistemas de inteligencia artificial. (\u2026) Los errores sist\u00e9micos pueden multiplicarse f\u00e1cilmente, produciendo no s\u00f3lo injusticias en casos concretos sino tambi\u00e9n, por efecto domin\u00f3, aut\u00e9nticas formas de desigualdad social\u201d.<\/p>\n\n\n\n

Por otra parte, existe el riesgo de una influencia y limitaci\u00f3n en la libertad humana, ya que \u201ccon frecuencia las formas de inteligencia artificial parecen capaces de influenciar las decisiones de los individuos por medio de opciones predeterminadas asociadas a est\u00edmulos y persuasiones, o mediante sistemas de regulaci\u00f3n de las elecciones personales basados en la organizaci\u00f3n de la informaci\u00f3n. Estas formas de manipulaci\u00f3n o de control social requieren una atenci\u00f3n y una supervisi\u00f3n precisas, e implican una clara responsabilidad legal por parte de los productores, de quienes las usan y de las autoridades gubernamentales\u201d.<\/p>\n\n\n\n

El Papa recuerda que los derechos humanos siempre deben estar por delante: \u201cNo debemos permitir que los algoritmos determinen el modo en el que entendemos los derechos humanos, que dejen a un lado los valores esenciales de la compasi\u00f3n, la misericordia y el perd\u00f3n o que eliminen la posibilidad de que un individuo cambie y deje atr\u00e1s el pasado\u201d.<\/p>\n\n\n\n

Adem\u00e1s, otro importante tema a tener en cuenta es el impacto \u201cde las nuevas tecnolog\u00edas en el \u00e1mbito laboral. Trabajos que en un tiempo eran competencia exclusiva de la mano de obra humana son r\u00e1pidamente absorbidos por las aplicaciones industriales de la inteligencia artificial\u201d.<\/p>\n\n\n\n

Armas<\/strong><\/h2>\n\n\n\n

Otra de las grandes preocupaciones del Papa en este \u00e1mbito es la carrera armament\u00edsica: \u201cLa posibilidad de conducir operaciones militares por medio de sistemas de control remoto ha llevado a una percepci\u00f3n menor de la devastaci\u00f3n que estos han causado y de la responsabilidad en su uso, contribuyendo a un acercamiento a\u00fan m\u00e1s fr\u00edo y distante a la inmensa tragedia de la guerra. La b\u00fasqueda de las tecnolog\u00edas emergentes en el sector de los denominados \u2018sistemas de armas aut\u00f3nomos letales\u2019, incluido el uso b\u00e9lico de la inteligencia artificial, es un gran motivo de preocupaci\u00f3n \u00e9tica. <\/p>\n\n\n\n

Los sistemas de armas aut\u00f3nomos no podr\u00e1n ser nunca sujetos moralmente responsables. La exclusiva capacidad humana de juicio moral y de decisi\u00f3n \u00e9tica es m\u00e1s que un complejo conjunto de algoritmos, y dicha capacidad no puede reducirse a la programaci\u00f3n de una m\u00e1quina que, aun siendo \u2018inteligente\u2019, no deja de ser siempre una m\u00e1quina. Por este motivo, es imperioso garantizar una supervisi\u00f3n humana adecuada, significativa y coherente de los sistemas de armas\u201d.<\/p>\n\n\n\n

Adem\u00e1s, otro aspecto a tener en cuenta es \u201cla posibilidad de que armas sofisticadas terminen en las manos equivocadas facilitando, por ejemplo, ataques terroristas o acciones dirigidas a desestabilizar instituciones de gobierno leg\u00edtimas\u201d.<\/p>\n\n\n\n

Educaci\u00f3n<\/strong><\/h2>\n\n\n\n

El Papa tambi\u00e9n se\u00f1ala que estas tecnolog\u00edas pueden tener un impacto en la educaci\u00f3n, y subraya la necesidad de \u201cpromover el pensamiento cr\u00edtico. Es necesario que los usuarios de todas las edades, pero sobre todo los j\u00f3venes, desarrollen una capacidad de discernimiento en el uso de datos y de contenidos obtenidos en la web o producidos por sistemas de inteligencia artificial. Las escuelas, las universidades y las sociedades cient\u00edficas est\u00e1n llamadas a ayudar a los estudiantes y a los profesionales a hacer propios los aspectos sociales y \u00e9ticos del desarrollo y el uso de la tecnolog\u00eda\u201d.<\/p>\n\n\n\n

Llamamiento a la comunidad internacional<\/strong><\/h2>\n\n\n\n

En el mensaje, el Papa indica que estas preocupaciones no son responsabilidad de unos pocos, sino de todo ser humano, y que el uso de este tipo de tecnolog\u00eda debe estar regulado: \u201cExhorto a la comunidad de las naciones a trabajar unida para adoptar un tratado internacional vinculante, que regule el desarrollo y el uso de la inteligencia artificial en sus m\u00faltiples formas\u201d.<\/p>\n\n\n\n

\u201cMi oraci\u00f3n al comienzo del nuevo a\u00f1o es que el r\u00e1pido desarrollo de formas de inteligencia artificial no aumente las ya numerosas desigualdades e injusticias presentes en el mundo, sino que ayude a poner fin a las guerras y los conflictos, y a aliviar tantas formas de sufrimiento que afectan a la familia humana\u201d, concluye el Papa.<\/p>","protected":false},"excerpt":{"rendered":"

En el mensaje para la 57\u00aa Jornada Mundial de la Paz el Papa reflexiona sobre lo positivo de los avances cient\u00edficos, pero tambi\u00e9n sobre los retos \u00e9ticos que algunos avances, como la inteligencia artificial, plantean. En primer lugar, Francisco recuerda que la Sagrada Escritura afirma que \u201cDios ha dado a los hombres su Esp\u00edritu para […]<\/p>\n","protected":false},"author":1814,"featured_media":35947,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"pmpro_default_level":"","footnotes":""},"categories":[36,51],"tags":[1118,396],"class_list":["post-35943","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-actualidad","category-vaticano","tag-inteligencia-artificial","tag-papa-francisco","pmpro-has-access"],"_links":{"self":[{"href":"https:\/\/staging.omnesmag.com\/it\/wp-json\/wp\/v2\/posts\/35943","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/staging.omnesmag.com\/it\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/staging.omnesmag.com\/it\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/staging.omnesmag.com\/it\/wp-json\/wp\/v2\/users\/1814"}],"replies":[{"embeddable":true,"href":"https:\/\/staging.omnesmag.com\/it\/wp-json\/wp\/v2\/comments?post=35943"}],"version-history":[{"count":0,"href":"https:\/\/staging.omnesmag.com\/it\/wp-json\/wp\/v2\/posts\/35943\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/staging.omnesmag.com\/it\/wp-json\/wp\/v2\/media\/35947"}],"wp:attachment":[{"href":"https:\/\/staging.omnesmag.com\/it\/wp-json\/wp\/v2\/media?parent=35943"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/staging.omnesmag.com\/it\/wp-json\/wp\/v2\/categories?post=35943"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/staging.omnesmag.com\/it\/wp-json\/wp\/v2\/tags?post=35943"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}