Esta es la historia de cómo y por qué la Santa Sede se ha involucrado en el tema de la Inteligencia Artificial…
Agencias
“Ética en la era de las tecnologías disruptivas: una hoja de ruta operativa” es el título del nuevo recurso para orientar a las personas y proyectar regulaciones en el uso de tecnologías como la inteligencia artificial (IA).
Se trata de una publicación que es resultado de una colaboración entre el Vaticano y el Centro Markkula de Ética Aplicada de la Universidad de Santa Clara (California, Estados Unidos). Juntos han formado una nueva organización denominada Institute for Technology, Ethics and Culture (ITEC) y su primer proyecto es la nueva publicación, destinada a guiar a la industria tecnológica a través de las turbias aguas de la ética en la IA, el aprendizaje automático, el cifrado, el rastreo, etcétera.
Interés del Vaticano
Son varias las actividades e iniciativas impulsadas desde el Vaticano, demostrando su interés en tener un rol importante en el debate, más aún desde que emergió la plataforma ChatGPT*, que ha significado un paso importante en la exposición de la IA.
Según el padre Brendan McGuire, párroco en Los Altos (CA) y asesor de ITEC, la iniciativa es la culminación de esfuerzos de larga data para la Iglesia.
“El Papa siempre ha tenido una visión amplia del mundo y de la humanidad, y cree que la tecnología es algo bueno. Pero a medida que la desarrollamos, llega el momento de plantearse cuestiones más profundas”, declaró el padre Brendan en una entrevista.
El sacerdote trabajó en la industria tecnológica, como director ejecutivo de la Personal Computer Memory Card International Association a principios de la década de 1990, antes de entrar en el sacerdocio hace unos 23 años. Cuenta que, a lo largo de los años, ha seguido reuniéndose con amigos del mundo de la tecnología, muchos de los cuales son ahora líderes del sector. Pero, hace unos 10 años, sus conversaciones empezaron a ser más serias, dijo.
“Ejecutivos de tecnología de todo Silicon Valley llevan años acudiendo a mí y diciéndome: Tienes que ayudarnos, hay muchas cosas en el horizonte y no estamos preparados”. Así, se puso en contacto con Kirk Hanson, que entonces dirigía el Centro Markkula, así como con un obispo local.
“Los tres nos reunimos y tuvimos una lluvia de ideas: ‘¿Qué podríamos hacer?. Me dije que si conseguíamos que alguien del Vaticano nos prestara atención, podríamos conseguir algo. La idea era utilizar el poder de convocatoria del Vaticano para reunir a ejecutivos de todo el mundo”, dijo.
Para el sacerdote católico, obtener orientación del papa Francisco y del Vaticano -con su influencia diplomática, cultural y espiritual- era un paso natural. Dijo que se puso en contacto con el obispo Paul Tighe, secretario del Dicasterio para la Cultura y la Educación en el Vaticano, que trabaja para el desarrollo de los valores humanos de las personas. Y el Papa le pidió a Tighe que estudiara más a fondo las cuestiones éticas digitales y tecnológicas.
Lo que contiene el documento
En el capítulo introductorio escrito por el obispo Paul Tighe, reflexiona sobre sus conversaciones con directivos de Silicon Valley, en particular los que se dedican a la IA y el aprendizaje automático. Destaca la aspiración de estos a mantener un alto nivel ético en su sector. Sin embargo surge la pregunta:
¿Cómo cumplen las empresas sus promesas de centrarse en el ser humano y evitar prácticas poco éticas?
El obispo reconoce la improbable colaboración entre la Iglesia católica, una institución milenaria, y Silicon Valley, un centro de innovación tecnológica. Sin embargo, la existencia del ITEC podría considerarse un indicio del impacto real y potencialmente transformador de la IA.
El Vaticano celebró una conferencia en 2019 en Roma llamada “El bien común en la era digital”. McGuire dijo que asistieron unas 270 personas, incluidos directores ejecutivos de Silicon Valley y expertos en robótica, guerra cibernética y seguridad. Al año siguiente, la Santa Sede propuso la iniciativa “Rome Call for AI Ethics”, que implicó un acuerdo de compromisos y en esa primera convocatoria fue firmado por empresas como IBM y Microsoft. En febrero de este año, representantes de las tres religiones abrahámicas, se unieron a la firma de ese acuerdo en el mismo Vaticano.
Siete directrices/ 46 pasos
Mientras que muchos activistas, académicos y observadores centran sus esfuerzos en apelar a los reguladores, el manual del ITEC adopta un enfoque diferente. En lugar de esperar a que los gobiernos establezcan normas para la industria, el ITEC espera proporcionar orientación a las personas de las empresas tecnológicas que ya están luchando con las cuestiones más difíciles de la IA.
El manual detalla un principio ancla para las empresas: garantizar que “nuestras acciones sean para el Bien Común de la Humanidad y el Medio Ambiente”. El manual del ITEC está organizado para desglosar las grandes ideas en las que todos pueden estar de acuerdo, en una serie de consejos específicos y medidas prácticas.
Ejemplos
El gran principio básico se divide en siete directrices, como “Respetar la dignidad y los derechos humanos” y “Promover la transparencia y la explicabilidad”. Esas directrices se desglosan a su vez en 46 pasos concretos, con definiciones, ejemplos y medidas prácticas.
Por ejemplo, el principio “Respeto de la dignidad y los derechos humanos” incluye un enfoque sobre “Privacidad y confidencialidad”.
Para poner en práctica esta idea, el libro pide el compromiso de “no recopilar más datos de los necesarios” y afirma que “los datos recopilados deben almacenarse de forma que se optimice la protección de la privacidad y la confidencialidad”. Detalla que las empresas deben considerar protecciones específicas para los datos médicos y financieros, y centrarse en las responsabilidades para con los usuarios, no sólo en los requisitos legales.
“El objetivo es capacitar a la gente de la empresa en su trabajo diario, ya sea escribiendo un código o un manual técnico, o pensando en cuestiones relacionadas con la cultura del lugar de trabajo”.
Presente y futuro
El Vaticano no es la única organización que se hace grandes preguntas sobre el futuro de la IA y la tecnología.
Cientos de ejecutivos tecnológicos firmaron recientemente una declaración de una sola frase sobre lo que deberíamos hacer con la IA: “Mitigar el riesgo de extinción a causa de la IA debería ser una prioridad global junto con otros riesgos a escala social como las pandemias y la guerra nuclear”.
Afortunadamente para el negocio de la tecnología, el Vaticano tiene mucha experiencia en responder a preguntas sobre cómo debemos considerar el apocalipsis. El padre Brendan dijo que las posibles amenazas existenciales de la IA son graves, pero que los problemas de la IA a corto plazo merecen la misma atención.
“Son absolutamente necesarias grandes barreras de seguridad, y los países y los gobiernos las pondrán en práctica a su debido tiempo”, dijo el padre Brendan.
“Esta publicación desempeña un papel importante a la hora de abordar con rapidez el diseño y la aplicación por parte de los consumidores. Ahí es donde intentamos que las empresas cumplan las normas que necesitamos con mucha antelación”. (Publicado en Buena voz)
Para saber…
*ChatGPT es una aplicación de chatbot de inteligencia artificial desarrollado en 2022 por OpenAI que se especializa en el diálogo. Se trata de una de las IA más capaces de los últimos tiempos, capaz de responder a cualquier cosa que le pidas, y de hacer muchas cosas que le solicites. Se ha hecho tan popular que hay muchos proyectos alternativos basados en esta IA, incluyendo hablar con ChatGPT en WhatsApp.
En frase…
“El desarrollo de la inteligencia artificial y del aprendizaje automático puede ofrecer una contribución beneficiosa para el futuro de la humanidad –que no debe descartarse– siempre que se actúe de manera ética y responsable. No podemos permitir que los algoritmos limiten o condicionen el respeto de la dignidad humana, ni excluyan la compasión, la misericordia, el perdón y, sobre todo, la apertura a la esperanza del cambio de la persona.
Papa Francisco
