La Pontificia Academia de la Vida dedicó su Asamblea de 2020 (26 al 28 de febrero) a reflexión sobre la Inteligencia Artificial en tres ámbitos: ética, derecho y salud. Se clausuró el encuentro con la firma del “Llamamiento de Roma por la Ética de la Inteligencia Artificial” (Rome Call for AI Ethics). Participaron de la firma de este documento, aprobado por el Papa Francisco, la Academia Pontificia para la Vida, Microsoft, IBM, la Organización de las Naciones Unidas para la Alimentación y la Agricultura (FAO) y el Gobierno Italiano.
Si están interesados por su contenido lo pueden leer en inglés en este enlace. Para facilitarles la lectura, luego de la foto de los firmantes, se los dejo traducido al castellano de manera completa. Las negrillas son mías.
Introducción
La “inteligencia artificial” (IA) está provocando cambios profundos en la vida de los seres humanos, y lo seguirá haciendo. La IA ofrece un enorme potencial a la hora de mejorar la convivencia social y el bienestar personal, aumentar las capacidades humanas y habilitar o facilitar muchas tareas que pueden llevarse a cabo de manera más eficiente y eficaz. Sin embargo, estos resultados no están garantizados.
Las transformaciones en curso en la actualidad no son solo cuantitativas. Sobre todo, son cualitativos, porque afectan la forma en que se realizan estas tareas y la forma en que percibimos la realidad y la propia naturaleza humana, tanto que pueden influir en nuestros hábitos mentales e interpersonales. La nueva tecnología debe ser investigada y producida de acuerdo con criterios que aseguren que realmente sirva a toda la “familia humana” (Preámbulo, Dec. Univ. Derechos Humanos), respetando la dignidad inherente a cada uno de sus miembros y todos los entornos naturales, y teniendo en cuenta en cuenta las necesidades de los más vulnerables. El objetivo no es solo asegurar que nadie quede excluido, sino también ampliar aquellas áreas de libertad que podrían verse amenazadas por el condicionamiento algorítmico.
Dado el carácter innovador y complejo de las cuestiones que plantea la transformación digital, es fundamental que todos los agentes implicados trabajen juntos y que todas las necesidades afectadas por la IA estén representadas. Esta Convocatoria es un paso adelante con miras a crecer con un entendimiento común y buscando un lenguaje y soluciones que podamos compartir.
En base a esto, podemos reconocer y aceptar responsabilidades que tengan en cuenta todo el proceso de innovación tecnológica, desde el diseño hasta la distribución y el uso, fomentando el compromiso real en una variedad de escenarios prácticos. A largo plazo, los valores y principios que seamos capaces de inculcar en la IA ayudarán a establecer un marco que regule y actúe como referente de la ética digital, orientando nuestras acciones y fomentando el uso de la tecnología en beneficio de la humanidad y el medio ambiente.
Ahora más que nunca, debemos garantizar un panorama en el que la IA se desarrolle con un enfoque no tecnológico, sino por el bien de la humanidad y del medio ambiente, de nuestro hogar común y compartido y de sus habitantes humanos, quienes están indisolublemente conectados.
En otras palabras, una visión en la que el ser humano y la naturaleza están en el centro de cómo se desarrolla la innovación digital, apoyados en lugar de ser reemplazados gradualmente por tecnologías que se comportan como actores racionales pero de ninguna manera son humanos.
Es hora de empezar a prepararse para un futuro más tecnológico en el que las máquinas tendrán un papel más importante en la vida de los seres humanos, pero también un futuro en el que quede claro que el progreso tecnológico afirma la brillantez de la raza humana y sigue dependiendo de su integridad ética.
Ética
Todos los seres humanos nacen libres e iguales en dignidad y derechos. Están dotados de razón y de conciencia y deben comportarse unos con otros con espíritu de fraternidad (cf. art. 1, Dec. Univ. Derechos Humanos). Esta condición fundamental de libertad y dignidad también debe protegerse y garantizarse al producir y utilizar sistemas de IA.
Esto debe hacerse salvaguardando los derechos y la libertad de las personas para que no sean discriminadas por los algoritmos debido a su “raza, color, sexo, idioma, religión, opinión política o de otra índole, origen nacional o social, propiedad, nacimiento u otro estatus” (Art. 2, Dec. Univ. Derechos Humanos).
Los sistemas de IA deben concebirse, diseñarse e implementarse para servir y proteger a los seres humanos y el entorno en el que viven. Esta perspectiva fundamental debe traducirse en un compromiso para crear condiciones de vida (tanto sociales como personales) que permitan tanto a los grupos como a los miembros individuales esforzarse por expresarse plenamente cuando sea posible.
Para que el avance tecnológico se alinee con el verdadero progreso de la raza humana y el respeto por el planeta, debe cumplir con tres requisitos. Debe incluir a todo ser humano, sin discriminar a nadie; debe tener en su corazón el bien de la humanidad y el bien de todo ser humano; finalmente, debe ser consciente de la compleja realidad de nuestro ecosistema y caracterizarse por la forma en que cuida y protege el planeta (nuestra “casa común y compartida”) con un enfoque altamente sostenible, que también incluye el uso de inteligencia artificial para garantizar sistemas alimentarios sostenibles en el futuro. Además, cada persona debe ser consciente cuando él o ella están interactuando con una máquina.
La tecnología basada en IA nunca debe usarse para explotar a las personas de ninguna manera, especialmente a las más vulnerables. En cambio, debe usarse para ayudar a las personas a desarrollar sus habilidades (empoderamiento/habilitación) y para apoyar al planeta.
Educación
Transformar el mundo a través de la innovación de la IA significa comprometerse a construir un futuro para y con las generaciones más jóvenes. Este compromiso debe reflejarse en un compromiso con la educación, desarrollando planes de estudio específicos que abarquen diferentes disciplinas en humanidades, ciencia y tecnología, y asumiendo la responsabilidad de educar a las generaciones más jóvenes.
Este compromiso significa trabajar para mejorar la calidad de la educación que reciben los jóvenes; esto debe entregarse a través de métodos que sean accesibles para todos, que no discriminen y que puedan ofrecer igualdad de oportunidades y trato. El acceso universal a la educación debe lograrse a través de principios de solidaridad y equidad.
El acceso al aprendizaje permanente debe garantizarse también para las personas mayores, a quienes se les debe ofrecer la oportunidad de acceder a servicios fuera de línea durante la transición digital y tecnológica.
Además, estas tecnologías pueden resultar enormemente útiles para ayudar a las personas con discapacidad a aprender y ser más independientes: por lo tanto, la educación inclusiva también significa utilizar la IA para apoyar e integrar a todas y cada una de las personas, ofreciendo ayuda y oportunidades para la participación social (p.ej. teletrabajo para personas con movilidad reducida, apoyo tecnológico para personas con discapacidad cognitiva, etc.).
El impacto de las transformaciones provocadas por la IA en la sociedad, el trabajo y la educación ha hecho imprescindible la revisión de los currículos escolares para hacer realidad el lema educativo “nadie se queda atrás”. En el sector educativo, se necesitan reformas para establecer estándares altos y objetivos que puedan mejorar los resultados individuales. Estos estándares no deben limitarse al desarrollo de habilidades digitales, sino que deben centrarse en garantizar que cada persona pueda expresar plenamente sus capacidades y trabajar por el bien de la comunidad, incluso cuando no se obtenga un beneficio personal de ello.
A medida que diseñamos y planificamos para la sociedad del mañana, el uso de la IA debe seguir formas de acciones socialmente orientadas, creativas, conectivas, productivas, responsables y capaces de tener un impacto positivo en la vida personal y social de las generaciones más jóvenes. El impacto social y ético de la IA debe estar también en el centro de las actividades educativas de la IA.
El principal objetivo de esta educación debe ser concienciar sobre las oportunidades y también sobre los posibles problemas críticos que plantea la IA desde la perspectiva de la inclusión social y el respeto individual.
Derechos
El desarrollo de la IA al servicio de la humanidad y el planeta debe reflejarse en normas y principios que protejan a las personas, en particular a los débiles y desfavorecidos, y al medio ambiente natural. El compromiso ético de todos los actores involucrados es un punto de partida crucial; para hacer de este futuro una realidad, los valores, los principios y, en algunos casos, las normas legales, son absolutamente indispensables para sustentar, estructurar y orientar este proceso.
Para desarrollar e implementar sistemas de IA que beneficien a la humanidad y al planeta mientras actúan como herramientas para construir y mantener la paz internacional, el desarrollo de la IA debe ir de la mano con medidas sólidas de seguridad digital.
Para que la IA actúe como una herramienta por el bien de la humanidad y del planeta, debemos colocar el tema de la protección de los derechos humanos en la era digital en el centro del debate público. Ha llegado el momento de cuestionar si las nuevas formas de automatización y actividad algorítmica requieren el desarrollo de responsabilidades más fuertes.
En particular, será fundamental considerar alguna forma de "deber de explicación": debemos pensar en hacer comprensibles no solo los criterios de toma de decisiones de los agentes algorítmicos basados en IA, sino también su propósito y objetivos. Estos dispositivos deben ser capaces de ofrecer a las personas información sobre la lógica detrás de los algoritmos utilizados para tomar decisiones. Esto aumentará la transparencia, la trazabilidad y la responsabilidad, haciendo más válido el proceso de toma de decisiones asistido por ordenador.
Se deben fomentar nuevas formas de regulación para promover la transparencia y el cumplimiento de los principios éticos, especialmente para las tecnologías avanzadas que tienen un mayor riesgo de afectar los derechos humanos, como el reconocimiento facial.
Para lograr estos objetivos, debemos partir desde el inicio del desarrollo de cada algoritmo con una visión “algor-ética”, es decir, un enfoque de ética en el diseño. Diseñar y planificar sistemas de IA en los que podamos confiar implica buscar un consenso entre los responsables de la toma de decisiones políticas, los organismos del sistema de las Naciones Unidas y otras organizaciones intergubernamentales, los investigadores, el mundo académico y los representantes de las organizaciones no gubernamentales con respecto a los principios éticos que deben integrarse en estas tecnologías. Por este motivo, los patrocinadores de la convocatoria expresan su deseo de trabajar juntos, en este contexto y a nivel nacional e internacional, para promover la “algor-ética”, es decir, el uso ético de la IA tal como se define en los siguientes principios:
1. Transparencia:
en principio, los sistemas de IA deben ser explicables;
2. Inclusión:
las necesidades de todos los seres humanos deben ser tomadas en consideración para que todos puedan beneficiarse y todas las personas puedan tener las mejores condiciones posibles para expresarse y desarrollarse;
3. Responsabilidad:
quienes diseñan e implementan el uso de la IA deben proceder con responsabilidad y transparencia;
4. Imparcialidad:
no crear ni actuar de acuerdo con prejuicios, salvaguardando así la equidad y la dignidad humana;
5. Confiabilidad:
los sistemas de IA deben poder funcionar de manera confiable;
6. Seguridad y privacidad:
los sistemas de IA deben funcionar de forma segura y respetar la privacidad de los usuarios.
Estos principios son elementos fundamentales de una buena innovación.
Roma, 28 de febrero de 2020
