Hay una doble ironía brutal en juego cuando más de 350 profesionales de la inteligencia artificial proclaman que «Mitigar el riesgo de extinción de la IA debería ser una prioridad mundial junto con otros riesgos a escala social, como las pandemias y la guerra nuclear».
Primero, los 30el Los signatarios de mayo, incluidos los directores ejecutivos de Google DeepMind y OpenAI, que advierten sobre el fin de la civilización son las mismas personas y empresas responsables de crear esta tecnología en primer lugar. En segundo lugar, son exactamente estas mismas empresas las que tienen el poder de garantizar que la inteligencia artificial realmente beneficie a la humanidad, o al menos no perjudique.
La comunidad de derechos humanos ha desarrollado un marco efectivo de debida diligencia en derechos humanos para ayudar a las empresas a identificar, prevenir y mitigar los posibles impactos negativos de sus productos. Es esencial que las empresas que desarrollan nuevos productos de IA generativa implementen dichos marcos de diligencia debida en materia de derechos humanos ahora, antes de que sea demasiado tarde.
IA generativa es un término amplio que describe algoritmos «creativos» que pueden generar contenido nuevo, incluidas imágenes, texto, audio, video e incluso código de computadora. Estos algoritmos se entrenan en conjuntos de datos masivos del mundo real y luego usan ese entrenamiento para crear resultados que a menudo son indistinguibles de los datos «reales», lo que a menudo hace que sea difícil, si no imposible, saber si el contenido fue generado por una persona, o por un algoritmo. Hasta la fecha, los productos de IA generativa han adoptado tres formas principales: herramientas como ChatGPT que generan texto, herramientas como Dall-E, Midjourney y Stable Diffusion que generan imágenes, y herramientas como Codex y Copilot que generan código informático.
El aumento repentino de nuevas herramientas de IA generativa no tiene precedentes. El chatbot ChatGPT desarrollado por OpenAI tardó menos de dos meses en llegar a 100 millones de usuarios. Esto supera con creces el crecimiento inicial de plataformas populares como TikTok, que tardó nueve meses en llegar a tantas personas.
A lo largo de la historia, la tecnología ha ayudado a promover los derechos humanos, pero también ha creado daños, a menudo de manera impredecible. Cuando se lanzaron por primera vez las herramientas de búsqueda en Internet, las redes sociales y la tecnología móvil, y a medida que crecían en adopción y accesibilidad generalizadas, era casi imposible predecir muchas de las formas angustiosas en que estas tecnologías transformadoras se convirtieron en impulsoras y multiplicadoras de abusos contra los derechos humanos en todo el mundo. el mundo. El papel de Meta en la limpieza étnica de los rohingya en Myanmar en 2017, por ejemplo, o el uso de spyware casi indetectable desplegado para hacer que los teléfonos móviles sean máquinas de vigilancia las 24 horas utilizadas contra periodistas y defensores de los derechos humanos, son consecuencias de la introducción de tecnologías disruptivas. cuyas implicaciones sociales y políticas no han sido consideradas seriamente.
Entonces, ¿cómo podría ser un enfoque basado en los derechos humanos para la IA generativa y cómo podríamos llegar allí? Tres pasos iniciales orientadores, basados en evidencia y ejemplos del pasado reciente, brindan un marco de orientación inicial de lo que esto podría ser.
En primer lugar, para cumplir con su responsabilidad de respetar los derechos humanos, las empresas que desarrollan herramientas de IA generativa deben implementar de inmediato un marco riguroso de diligencia debida en materia de derechos humanos, tal como se establece en los Principios Rectores sobre las Empresas y los Derechos Humanos de la ONU. Esto incluye la debida diligencia proactiva y continua para identificar los daños reales y potenciales, la transparencia con respecto a estos daños y la mitigación y reparación cuando corresponda.
En segundo lugar, las empresas que desarrollan estas tecnologías deben tomar medidas inmediatas para comprometerse de manera proactiva con académicos, actores de la sociedad civil y organizaciones comunitarias, especialmente aquellas que representan a comunidades tradicionalmente marginadas. Aunque no podemos predecir todas las formas en que esta nueva tecnología puede y puede causar o contribuir al daño, tenemos amplia evidencia de que las comunidades marginadas tienen más probabilidades de sufrir las consecuencias. Las versiones iniciales de ChatGPT involucraron prejuicios raciales y de género, sugiriendo, por ejemplo, que las mujeres indígenas «valen» menos que otras razas y géneros. El compromiso activo con las comunidades marginadas debe ser parte de los procesos de diseño de productos y desarrollo de políticas, para comprender mejor el impacto potencial de estas nuevas herramientas. Esto no puede ser una ocurrencia tardía una vez que las empresas ya han causado o contribuido al daño.
En tercer lugar, la propia comunidad de derechos humanos debe dar un paso al frente. En ausencia de regulación para prevenir y mitigar los efectos potencialmente peligrosos de la IA generativa, las organizaciones de derechos humanos deben tomar la iniciativa en la identificación de daños reales y potenciales. Esto significa que las organizaciones de derechos humanos deberían ayudar a construir un cuerpo de comprensión profunda en torno a estas herramientas y tomar la iniciativa en el desarrollo de investigaciones, actividades de promoción y participación que anticipen el poder transformador de la IA generativa.
La complacencia frente a este momento revolucionario no es una opción, pero tampoco lo es el cinismo. Todos tenemos interés en garantizar que esta nueva y poderosa tecnología se utilice en beneficio de la humanidad. La implementación de un enfoque basado en los derechos humanos para identificar y responder a los daños es un primer paso crítico en este proceso.
Artículo de opinión publicado en Al Jazeera escrito por: Eliza Campbell, Investigación, Tecnología y Desigualdad, Amnistía Internacional EE. UU. y Michael Kleinman, Director, Silicon Valley Initiative, Amnistía Internacional
