Las directrices piden, asimismo, “más transparencia sobre el control de los datos personales”.
Las primeras directrices éticas internacionales del mundo para regular la inteligencia artificial, que prohíben el uso de la tecnología con fines de “control social o vigilancia masiva”, han sido finalmente presentadas por la UNESCO.
Si bien los principales países defensores de la inteligencia artificial, como China, ven a la tecnología como una herramienta para ayudar a transformar una amplia franja de industrias, sus diversas aplicaciones (que van desde aplicaciones y redes sociales hasta sistemas de vigilancia) han planteado lo que la UNESCO describe como “preocupaciones éticas fundamentales” que pueden conducir a la “discriminación, desigualdad y brechas digitales”.
El documento de 28 páginas elaborado por la agencia, titulado “Recomendación sobre la ética de la inteligencia artificial”, prohíbe el uso de la inteligencia artificial con fines de “control social o vigilancia masiva”. De acuerdo con Gabriela Ramos, quien participó en el proyecto, el uso de la IA para los fines mencionados está prohibido porque “este tipo de tecnologías son invasivas y violan los derechos humanos y libertades fundamentales”.
Las directrices piden, asimismo, “más transparencia sobre el control de los datos personales” y “mayores límites y conciencia de la capacidad de la IA para imitar los rasgos y comportamientos humanos”.
Igualmente, la regulación pretende asegurar que “el dominio del idioma inglés en la IA no se produzca a expensas de las lenguas minoritarias, la diversidad cultural y la amplitud de opiniones”.
También advierte que “la interacción constante con la inteligencia artificial, incluso a través de algoritmos de redes sociales, puede afectar negativamente la salud mental de niños y adultos”.
Las recomendaciones de la UNESCO se producen más de un mes después de que China anunciara su propio conjunto de pautas éticas para regir la IA, que se centra en proteger los derechos de los usuarios y las formas de alinear la tecnología con el objetivo del país de convertirse en un líder mundial en IA para 2030.
No obstante, las pautas promulgadas por la agencia de la ONU fomentan todo lo contrario de lo que China ha estado haciendo con la tecnología. China tiene actualmente el sistema de vigilancia más grande del mundo, con 16 de las 20 ciudades más vigiladas ubicadas en el país, según un informe publicado en mayo por la firma británica de investigación tecnológica Comparitech.
Empero, expertos como Paul Bischoff, de Comparitech, aseguran que no se espera que las recomendaciones de la UNESCO “retrasen la adopción de herramientas de vigilancia masiva en China”.
“China siempre puede argumentar que, por motivos de seguridad nacional, necesita fortalecer sus sistemas de vigilancia”, agregó Bischoff.
