{"id":57253,"date":"2026-01-19T06:00:00","date_gmt":"2026-01-19T05:00:00","guid":{"rendered":"https:\/\/staging.omnesmag.com\/?p=57253"},"modified":"2026-01-15T10:51:19","modified_gmt":"2026-01-15T09:51:19","slug":"paolo-benanti-problema-ia-complejidad","status":"publish","type":"post","link":"https:\/\/staging.omnesmag.com\/en\/paolo-benanti-problema-ia-complejidad\/","title":{"rendered":"Paolo Benanti: \u00abel problema de la IA es la complejidad\u00bb"},"content":{"rendered":"

La tecnolog\u00eda digital ha contribuido a la polarizaci\u00f3n. Al reforzar las ideas propias y desechar las ajenas, el algoritmo contribuye a que disminuya el dialogo y, as\u00ed, se conozca menos lo que piensa el otro. Esta es una de las tesis que sostiene el franciscano Paolo Benanti en su \u00faltimo libro, El colapso de Babel<\/em>, publicado por Encuentro. Pero la polarizaci\u00f3n no es ni mucho menos el \u00fanico riesgo. <\/p>\n\n\n\n

A principios de enero se sab\u00eda la pol\u00e9mica que ha surgido a ra\u00edz de que Grok, el modelo de IA de Elon Musk facilitaba la creaci\u00f3n de im\u00e1genes de \u00edndole sexual a partir de im\u00e1genes que algunas mujeres hab\u00f1ian subido a la red social \u201cX\u201d.<\/p>\n\n\n\n

Fray Paolo Benanti (Roma, 1973), te\u00f3logo moral, es uno de los m\u00e1ximos expertos mundiales en la \u00e9tica de la Inteligencia Artificial (IA). Preside el grupo de trabajo de IA del gobierno italiano y de la comisi\u00f3n de expertos de la ONU sobre esta cuesti\u00f3n. Su punto de vista es especialmente autorizado para hablar sobre un tema de actualidad, que preocupa a gobiernos y a la sociedad.<\/p>\n\n\n\n

La \u00faltima vez que se le ha podido escuchar en Espa\u00f1a fue hace dos meses, en la Fundaci\u00f3n Telef\u00f3nica y en EncuentroMadrid, el evento anual que organiza Comuni\u00f3n y Liberaci\u00f3n, en Cuatro Vientos (Madrid). En esta edici\u00f3n, Benanti habl\u00f3 precisamente sobre \u201cLa inteligencia artificial y la fabricaci\u00f3n de lo eterno\u201d. <\/p>\n\n\n\n

\u00bfQui\u00e9n vigila la IA?<\/h2>\n\n\n\n

\u2013\u00a0Cuando hablamos de inteligencia artificial, no hablamos de una sola tecnolog\u00eda, sino de una familia de algoritmos, muy diferentes entre ellos. Alguno es muy explicable. Recuerda un poco a los primeros GPS. \u00bfCu\u00e1ntas veces el GPS te dice que salgas por la derecha para volver a entrar inmediatamente despu\u00e9s hacia la izquierda? Era inteligente, pero entend\u00edamos que era inteligente porque era m\u00e1s corto. Esa inteligencia artificial hace un trabajo, que es lo mismo que una inteligencia natural har\u00eda.<\/p>\n\n\n\n

Pero son una caja negra. Algunos de estos algoritmos pueden tener resultados mucho m\u00e1s inteligentes, pero son una caja negra.<\/p>\n\n\n\n

La cuesti\u00f3n es: \u00bfPodemos usar todo tipo de algoritmos para todo tipo de funciones? <\/p>\n\n\n\n

Este es uno de los problemas \u00e9ticos de la IA. Imagina que quieres usar la IA para seleccionar los granos de caf\u00e9 en una f\u00e1brica que produce caf\u00e9. Es algo que antes se hac\u00eda a mano, se seleccionaba grano a grano porque si un solo grano de caf\u00e9 tiene moho, da mal sabor a todos los dem\u00e1s.<\/p>\n\n\n\n

Este proceso se hace con un algoritmo que se llama Deep Learning. Pero no es explicable.<\/p>\n\n\n\n

Lo peor que puede suceder es que nosotros tiremos granos de caf\u00e9 que valen. Pero quiz\u00e1 eso sea m\u00e1s econ\u00f3mico que contratar a una persona que elige grano a grano. <\/p>\n\n\n\n

Pero ese mismo algoritmo se puede usar en urgencias de un hospital para elegir qu\u00e9 paciente entra primero.<\/p>\n\n\n\n

Se puede entender que no es un problema del algoritmo, sino de d\u00f3nde lo ponemos funcionando dentro de la estructura social. <\/p>\n\n\n\n

El problema de la IA hoy ya no es una cuesti\u00f3n t\u00e9cnica, sino un problema de justicia social que nos dice qu\u00e9 funci\u00f3n tiene que desarrollar un hombre o un algoritmo. Esto requiere multidisciplinariedad. <\/p>\n\n\n\n

Ahora, lo interesante de esto es que es la matriz de la doctrina social de la Iglesia. Y es el motivo por el que el Papa Le\u00f3n XIV, en su primer discurso p\u00fablico, afirm\u00f3 que los cat\u00f3licos, como tales, lo \u00fanico que podemos ofrecer es la doctrina social de la Iglesia, que no son respuestas, sino preguntas. Las preguntas que intentan tutelar la dignidad del hombre y del trabajo del hombre.<\/p>\n\n\n\n

No tenemos miedo de los cambios, pero queremos ponernos de parte del hombre. <\/p>\n\n\n\n

El segundo elemento es que Papa Francisco, cuando escribi\u00f3 las l\u00edneas para la formaci\u00f3n cat\u00f3lica, sobre todo para los futuros presb\u00edteros, habla de interdisciplinariedad y transdisciplinariedad. Por tanto, otra vez, el desaf\u00edo es m\u00e1s que t\u00e9cnico, cultural. Esta es la frontera en la que hoy se suceden los debates. <\/p>\n\n\n\n

Detr\u00e1s de la IA<\/p>\n\n\n\n

Pero, detr\u00e1s de esta tecnolog\u00eda, \u00bfqui\u00e9n est\u00e1?<\/h2>\n\n\n\n

\u2013\u00a0Lo primero que hay que comprender es que esta tecnolog\u00eda cambia la forma en la que nos acercamos al problema. Todo el siglo XIX ha visto una fractura en la racionalidad cient\u00edfica. Antes est\u00e1bamos convencidos de un modelo determin\u00edstico.<\/p>\n\n\n\n

Pero si uno piensa en lo que ha sucedido con la f\u00edsica subat\u00f3mica, donde gracias al principio de indeterminaci\u00f3n de Heisenberg no sabemos d\u00f3nde est\u00e1 un electr\u00f3n, o a qu\u00e9 velocidad va, hemos tenido que mutar a un modelo probabil\u00edstico. Lo mismo sucede con la astrof\u00edsica, donde lo que dijo Einstein habla de una relatividad. Desde un modelo de la certeza hemos pasado a un modelo de la probabilidad.<\/p>\n\n\n\n

Si el modelo es estad\u00edstico, no hay una mente que determine los pasos, sino que hay una m\u00e1quina que extrae modelos de los datos que tiene delante.<\/p>\n\n\n\n

Este modelo hace muy complejo responder si hay alguien detr\u00e1s o no. A menudo se habla de \u201cprejuicios\u201d, que en ingl\u00e9s se expresa con la palabra \u201cbias<\/em>\u201d. Pero bias<\/em> tambi\u00e9n se puede traducir como \u201cpreferencia sistem\u00e1tica\u201d.<\/p>\n\n\n\n

Supongamos que yo quiero crear un autom\u00f3vil aut\u00f3nomo. Tomo todos los datos de c\u00f3mo se conduce en Madrid. Y la m\u00e1quina ve que hay una preferencia sistem\u00e1tica en pararse con el sem\u00e1foro en rojo (hablo de Madrid, no de Roma\u2026). Yo quiero que exista esa preferencia sistem\u00e1tica.<\/p>\n\n\n\n

Pero, por ejemplo, la m\u00e1quina podr\u00eda ver que el coche no se detiene de la misma manera cuando cruza un ni\u00f1o o un adulto. Y podr\u00eda decidir no frenar cuando hay ni\u00f1os. \u00bfPor qu\u00e9? Porque el ni\u00f1o es menos visible y el conductor lo ve despu\u00e9s. Por tanto, aqu\u00ed la m\u00e1quina tiene un bias,<\/em> un prejuicio, con los ni\u00f1os. Podr\u00eda ocurrir lo mismo por la noche con, por ejemplo, las personas de piel oscura. \u00bfAlguien ser\u00eda malo por aplicar ese \u201cprejuicio\u201d?<\/p>\n\n\n\n

Hay tantos datos que no hay una mente humana que pueda controlar a todos. \u00bfCu\u00e1l es el problema? Silicon Valley nos dice que estamos cambiando el mundo. Pero no sabemos, nadie sabe hasta el fondo, cu\u00e1les son los esquemas que la m\u00e1quina (el ordenador) ha encontrado.<\/p>\n\n\n\n

Es un problema epistemol\u00f3gico. Y \u00e9tico. Y legal. \u00bfQui\u00e9n es el responsable si el coche golpea al ni\u00f1o? \u00bfEl propietario? No est\u00e1 conduciendo. \u00bfEl productor? \u00bfEl ingeniero del software? Es muy complejo. <\/p>\n\n\n\n

El verdadero problema de la inteligencia artificial es la complejidad. <\/p>\n\n\n\n

Por otra parte, nos puede hacer ahorrar mucho dinero. Por tanto, se produce una tensi\u00f3n y de alguna manera debemos regular esta tensi\u00f3n para evitar que los que decidan lo hagan solo por intereses econ\u00f3micos o por miedo. <\/p>\n\n\n\n

La IA y el trabajo<\/h2>\n\n\n\n

La inteligencia artificial, \u00bfpuede acabar convirtiendo en superfluo el trabajo humano?<\/h2>\n\n\n\n

\u2013\u00a0Una inteligencia artificial no es capaz de hacer todas las tareas de la misma manera. Hay una paradoja, que fue desarrollada por un inform\u00e1tico llamado Moravec, que dice que es mucho m\u00e1s sencillo para una m\u00e1quina realizar una tarea intelectual alta que una baja. O sea, una calculadora solar que hace una ra\u00edz cuadrada la compras en internet a un euro. Pero una mano rob\u00f3tica que toma una cucharilla y gira el caf\u00e9, cuesta de 150.000 a 200.000 euros. Apl\u00edcalo al trabajo.\u00a0<\/p>\n\n\n\n

Un banquero trabaja con muchos n\u00fameros. Un trabajador manual, del metal, trabaja con mucho martillo. Esto significa que los primeros trabajos que van a saltar son los mejor pagados. Ello podr\u00eda generar una tensi\u00f3n social que si no se gestiona pol\u00edticamente podr\u00eda da\u00f1ar el sistema democr\u00e1tico. <\/p>\n\n\n\n

\u00bfY, en concreto, en el campo, por ejemplo, del periodismo?\u00a0<\/h2>\n\n\n\n

\u2013\u00a0\u00bfEl periodista es simplemente alguien que transforma algo en texto? Lo podemos reemplazar con replicar con una m\u00e1quina de texto. \u00bfO es una funci\u00f3n social que garantiza un espacio democr\u00e1tico?\u00a0<\/p>\n\n\n\n

Yo soy presidente de la Comisi\u00f3n del gobierno italiano para el estudio del impacto de la IA sobre el periodismo y el mundo editorial. Y hemos concluido que el periodista tiene una funci\u00f3n fundamental para la democracia. Pero lo que permite tener periodistas es que haya una industria editorial que les pueda pagar.<\/p>\n\n\n\n

Pero entonces hay que reconocer un problema, que no nace con la IA, sino con las redes sociales. \u00bfPor qu\u00e9 si ustedes los periodistas escriben algo pueden ser llevados frente a un juez, pero si es una red social nadie le dice nada?<\/p>\n\n\n\n

\u00bfPor qu\u00e9 un director puede ser llevado a juicio? Y un algoritmo de una red social que elige lo que yo leo, es libre de todo. Hoy a esto se a\u00f1ade la capacidad de escribir del ordenador. Pero aqu\u00ed el problema de nuevo no es la capacidad de la m\u00e1quina. Es la conveniencia econ\u00f3mica. <\/p>\n\n\n\n

En la naturaleza de la profesi\u00f3n est\u00e1 que sea esencial para la supervivencia del espacio democr\u00e1tico. <\/p>\n\n\n\n

Hace a\u00f1os unos cient\u00edficos ped\u00edan una moratoria sobre la IA para ver qu\u00e9 hacer con ella.<\/h2>\n\n\n\n

\u2013\u00a0Hay demasiado, demasiado dinero en juego. Hay demasiados intereses geopol\u00edticos. La competici\u00f3n entre China y Estados Unidos es demasiado alta para que ninguno se f\u00ede del otro en esa supuesta moratoria.\u00a0<\/p>\n\n\n\n

El a\u00f1o pasado hizo cambiar mucho la narrativa sobre esto. Antes habl\u00e1bamos de ciencia y tecnolog\u00eda, actividades en las que, si yo descubro algo (pienso por ejemplo en los premios Nobel), es para todos. Todos se benefician.<\/p>\n\n\n\n

Pero hoy se habla de carrera. Si yo gano, vosotros perd\u00e9is. Esto hace que el planteamiento sea imposible.<\/p>","protected":false},"excerpt":{"rendered":"

La tecnolog\u00eda digital ha contribuido a la polarizaci\u00f3n. Al reforzar las ideas propias y desechar las ajenas, el algoritmo contribuye a que disminuya el dialogo y, as\u00ed, se conozca menos lo que piensa el otro. Esta es una de las tesis que sostiene el franciscano Paolo Benanti en su \u00faltimo libro, El colapso de Babel, […]<\/p>\n","protected":false},"author":3218,"featured_media":57254,"comment_status":"closed","ping_status":"closed","sticky":false,"template":"","format":"standard","meta":{"pmpro_default_level":"","footnotes":""},"categories":[57,537],"tags":[1118],"class_list":["post-57253","post","type-post","status-publish","format-standard","has-post-thumbnail","hentry","category-argumentos","category-recursos","tag-inteligencia-artificial","pmpro-has-access"],"_links":{"self":[{"href":"https:\/\/staging.omnesmag.com\/en\/wp-json\/wp\/v2\/posts\/57253","targetHints":{"allow":["GET"]}}],"collection":[{"href":"https:\/\/staging.omnesmag.com\/en\/wp-json\/wp\/v2\/posts"}],"about":[{"href":"https:\/\/staging.omnesmag.com\/en\/wp-json\/wp\/v2\/types\/post"}],"author":[{"embeddable":true,"href":"https:\/\/staging.omnesmag.com\/en\/wp-json\/wp\/v2\/users\/3218"}],"replies":[{"embeddable":true,"href":"https:\/\/staging.omnesmag.com\/en\/wp-json\/wp\/v2\/comments?post=57253"}],"version-history":[{"count":0,"href":"https:\/\/staging.omnesmag.com\/en\/wp-json\/wp\/v2\/posts\/57253\/revisions"}],"wp:featuredmedia":[{"embeddable":true,"href":"https:\/\/staging.omnesmag.com\/en\/wp-json\/wp\/v2\/media\/57254"}],"wp:attachment":[{"href":"https:\/\/staging.omnesmag.com\/en\/wp-json\/wp\/v2\/media?parent=57253"}],"wp:term":[{"taxonomy":"category","embeddable":true,"href":"https:\/\/staging.omnesmag.com\/en\/wp-json\/wp\/v2\/categories?post=57253"},{"taxonomy":"post_tag","embeddable":true,"href":"https:\/\/staging.omnesmag.com\/en\/wp-json\/wp\/v2\/tags?post=57253"}],"curies":[{"name":"wp","href":"https:\/\/api.w.org\/{rel}","templated":true}]}}