En 2020, la Unesco comenzó a desarrollar la declaración universal de la Inteligencia Artificial, a la cual se le sumaron grupos de expertos de las más avanzadas empresas en tecnología y desarrollo, como Google o Facebook. Esta ya se ha publicado (Informe de la Comisión de Ciencias Sociales y Humanas (SHS) – UNESCO Biblioteca Digital), junto a todas las normas que esto conlleva. La Unesco cuenta con una guía para afrontar los efectos que pueda tener la Inteligencia Artificial sobre los humanos y ecosistemas.
La conferencia de la Unesco fue celebrada este mismo miércoles y aceptada por 193 países poniendo sobre la mesa problemas y soluciones de tecnologías como la visión artificial o los ya conocidos sistemas de recomendación, que prácticamente todas las redes sociales utilizan.
El documento aprobado el día 24/11/2021 recoge normas que giran alrededor de tres pilares fundamentales para nuestra sociedad:
- Los derechos humanos
- El Estado de Derecho
- Lucha contra la discriminación
En términos legales, no se considera obligatorio seguirlo, pero su declaración conlleva que los proyectos y labores de investigación se desarrollen de la manera más ética posible. La Unesco pedirá un informe anual de cómo se ha tenido en cuenta esta nueva declaración en los respectivos trabajos y proyectos. Dicho informe será sujeto de pruebas y sometido al público transparentemente, promoviendo la divulgación y el debate sobre estos.
Estos sistemas autómatas, además de resolver grandes problemas de la ciencia y ayudar al desarrollo mundial, también pueden ser empleados para usos bélicos o poco éticos. Aunque el informe no tenga ningún apartado al respecto, la subdirectora general de la Unesco se ha pronunciado para decir que la decisión entre la vida y la muerte no debe ser tomada por un sistema de Inteligencia Artificial, sino por un humano. Esta recomendación no solo afecta a este ejemplo, sino también los sistemas de recomendación de redes sociales como Instagram o Facebook.
La decisión de empezar a controlar esta zona de investigación, a la que todavía le queda mucho de lo que hablar, ha sido tomada en vista a futuro para proteger a los ciudadanos en sus derechos digitales, los cuales, podrían verse comprometidos. Por ello, Gabriela Ramos, subdirectora general de Ciencias Sociales de la Unesco, afirma: “Si educamos a una nueva generación de consumidores digitales conscientes de sus derechos y con las habilidades de pensamiento crítico necesarias para navegar la esfera digital, estaremos empoderándoles para que exijan a las grandes tecnológicas a rendir cuentas y estaremos exigiendo que la IA sea desarrollada de forma humana y ética”.
In 2020, Unesco began to develop the universal declaration of Artificial Intelligence, which was joined by groups of experts from the most advanced companies in technology and development, such as Google or Facebook. This has already been published (Report of the Social and Human Sciences Commission (SHS) – UNESCO Digital Library), along with all the standards that this entails. Unesco has a guide to deal with the effects that Artificial Intelligence may have on humans and ecosystems.
The Unesco conference was held this Wednesday and accepted by 193 countries, putting on the table problems and solutions of technologies such as artificial vision or the already known recommendation systems, which practically all social networks use.
The document approved on 24/11/2021 includes standards that revolve around three fundamental pillars for our society:
- Human rights
- The rule of law
- Anti-discrimination
In legal terms, it is not considered mandatory to follow it, but its declaration entails that projects and research work be developed in the most ethical way possible. Unesco will ask for an annual report on how this new declaration has been taken into account in the respective work and projects. This report will be subject to testing and transparently submitted to the public, promoting the dissemination and debate on these.
These automated systems, in addition to solving major scientific problems and aiding global development, can also be used for warlike or unethical purposes. Although the report has no section on the subject, the Deputy Director General of Unesco has spoken out to say that the decision between life and death should not be made by an Artificial Intelligence system, but by a human. This recommendation does not only affect this example, but also the recommendation systems of social networks such as Instagram or Facebook.
The decision to start controlling this area of research, which still has a lot to talk about, has been taken in view of the future to protect citizens in their digital rights, which could be compromised. Therefore, Gabriela Ramos, Assistant Director General for Social Sciences at Unesco, says: «If we educate a new generation of digital consumers aware of their rights and with the critical thinking skills needed to navigate the digital sphere, we will be empowering them to hold the big tech companies accountable and we will be demanding that AI is developed in a humane and ethical way.»