En el último año, la inteligencia artificial ha llegado con fuerza. Debido a la aparición de herramientas generativas como ChatGPT, las empresas de todas las industrias se están dando cuenta de su inmenso potencial y están comenzando a utilizarlo.
Por qué las empresas están muy poco preparadas para los riesgos que plantea la IA
Sabemos que existen desafíos: una amenaza para los trabajos humanos, las implicaciones potenciales para la seguridad cibernética y el robo de datos, o tal vez incluso una amenaza existencial para la humanidad en su conjunto. Pero ciertamente aún no tenemos una comprensión completa de todas las implicaciones. De hecho, un informe del Foro Económico Mundial indicó recientemente que las organizaciones «actualmente pueden subestimar los riesgos relacionados con la IA», y solo el cuatro por ciento de los líderes consideran que el nivel de riesgo es «significativo».
En mayo, Samsung se convirtió en una de las últimas empresas en prohibir el uso de ChatGPT después de descubrir que el personal le había estado proporcionando datos de documentos confidenciales. Los operadores de ChatGPT, la organización de investigación de IA OpenAI, afirman abiertamente que no hay garantía de privacidad cuando esto sucede, ya que implica cargar datos en la nube donde sus empleados y potencialmente otros pueden acceder a ellos.
Este es solo uno de los muchos ejemplos que probablemente veremos en los próximos meses de empresas que cierran la puerta del establo después de que el caballo se ha escapado. La velocidad con la que esta tecnología ha llegado a la escena, combinada con el gran entusiasmo en torno a su potencial transformador y el poder bien documentado del efecto del miedo a perderse algo (FOMO), ha dejado a muchas organizaciones sin preparación para lo que está por venir. comer
¿Cuáles son los riesgos?
El primer paso para gestionar los riesgos que plantea la IA generativa es comprender cuáles son. Para las empresas, se pueden segmentar en gran medida en cuatro categorías:
Exactitud
Un problema común con la IA generativa en esta etapa es que no siempre podemos confiar en que sus resultados sean precisos. Cualquiera que haya usado ChatGPT o herramientas similares para investigar o responder preguntas complejas sabrá que a veces puede dar información incorrecta. A esto no ayuda el hecho de que la IA a menudo es opaca sobre sus fuentes, lo que dificulta la verificación de los hechos. Cometer errores o tomar medidas basadas en información inexacta podría fácilmente provocar daños operativos o de reputación a las empresas.
Amenazas de seguridad
Esto puede venir en forma de amenazas tanto internas como externas. Internamente, los usuarios inconscientes o mal capacitados podrían exponer información corporativa confidencial o información protegida del cliente al introducirla en plataformas generativas basadas en la nube como ChatGPT. Externamente, la IA generativa permite a los ciberdelincuentes participar en formas nuevas y sofisticadas de ingeniería social y ataques de phishing. Esto ha incluido el uso de IA generativa para crear mensajes de voz falsos de líderes empresariales, pidiendo a los empleados que compartan o expongan información confidencial.
Inclinación
Los sistemas de IA son tan buenos como los datos con los que se entrenan, y existe una gran preocupación sobre las implicaciones que esto tiene para crear resultados sesgados. Si los datos se recopilan de manera sesgada (por ejemplo, sobre o subrepresentando las estadísticas de secciones particulares de la población), esto puede conducir a resultados sesgados que pueden afectar la toma de decisiones. Un ejemplo es una herramienta diseñada para escanear automáticamente los currículos de los solicitantes de empleo y filtrar a los que no son aptos. Si la herramienta no tiene suficientes datos sobre los solicitantes de un segmento en particular, esto podría significar que no puede evaluar con precisión las solicitudes de ese segmento. Esto también puede conducir a resultados desfavorables y daños a la reputación si se utiliza la IA para responder a las consultas de los clientes y al soporte postventa.
cultura y confianza
La introducción de nuevas herramientas, tecnologías y procesos a menudo puede causar ansiedad entre los trabajadores. Con la IA y toda la discusión sobre reemplazar a los humanos, es comprensible que esto sea más intenso de lo habitual. Los empleados pueden temer que los sistemas de IA se hayan incorporado a sus trabajos para potencialmente hacerlos redundantes. Esto puede conducir al desarrollo de aprensión, desconfianza y trabajadores descontentos. Podría hacerles sentir que sus propias habilidades humanas son menos valiosas, creando toxicidad en el lugar de trabajo y aumentando la rotación de empleados. También podría haber preocupaciones de que ciertos sistemas de inteligencia artificial, como los que se usan para monitorear el lugar de trabajo, se hayan incorporado para vigilar a los trabajadores humanos o monitorear su actividad de manera intrusiva.
¿Qué tan preparadas están las organizaciones?
Una encuesta realizada por los analistas Baker McKenzie concluyó que muchos líderes de nivel C confían demasiado en sus evaluaciones de preparación organizacional en relación con la IA. En particular, expuso preocupaciones sobre las posibles implicaciones de los datos sesgados cuando se utilizan para tomar decisiones de recursos humanos.
También propuso que sería muy sensato que las empresas pensaran en nombrar un director de inteligencia artificial (CIAO) con la responsabilidad general de evaluar el impacto y las oportunidades en el horizonte. Hasta ahora, las empresas han tardado en hacer esto, con solo el 41% de las empresas informando que tienen experiencia en IA a nivel de directorio. En mi experiencia, es poco común encontrar que las empresas tienen políticas específicas en torno al uso de herramientas de IA generativa. A menudo carecen de un marco para garantizar que la información generada por la IA sea precisa y confiable y que la toma de decisiones de la IA no se vea afectada por el sesgo y la falta de transparencia en torno a los sistemas de IA. Otra brecha significativa en la preparación de IA en muchas organizaciones es que el impacto de la disrupción en la cultura, la satisfacción laboral y la confianza también se subestima a menudo.
Mejorar la preparación corporativa
No existe una solución rápida para abordar un cambio social sísmico tan disruptivo como la IA, pero cualquier estrategia debe incluir el desarrollo de un marco destinado a identificar y abordar las amenazas cubiertas aquí. También debe cubrir la vigilancia en el horizonte de nuevas amenazas que surgirán a medida que la tecnología madure.
Ciertamente, un buen comienzo es garantizar que la experiencia en IA esté presente a nivel de la junta, por ejemplo, mediante el nombramiento de un CAIO o similar. Además de mitigar las amenazas, esta es una persona que puede garantizar que se identifiquen y aprovechen las oportunidades. Entonces, su trabajo debe incluir garantizar que la conciencia se impregne en toda la organización en todos los niveles. Todos los empleados deben ser conscientes de los riesgos relacionados con la precisión, el sesgo y la seguridad. Además de eso, también deben comprender cómo es probable que la IA afecte su propio rol y cómo puede aumentar sus habilidades para hacerlos más eficientes y efectivos. Las empresas deben hacer esfuerzos para garantizar que haya un diálogo abierto y continuo, incluida la tranquilidad sobre su impacto en los trabajos humanos y la educación sobre las nuevas oportunidades que se abren para los humanos capacitados en IA.
Si la IA se utiliza para la recopilación de información o la toma de decisiones, se deben implementar políticas para evaluar la precisión e identificar las áreas de operación que podrían verse afectadas por el sesgo de la IA. Particularmente para aquellos que usan IA a escala, esto podría significar invertir en pruebas rigurosas y sistemas de control de calidad.
La identificación y mitigación de las amenazas cibernéticas de la IA también se convertirá cada vez más en una parte de las estrategias de seguridad cibernética de las organizaciones. Esto puede ser tan simple como asegurarse de que los empleados estén al tanto de las amenazas de los ataques de ingeniería social y phishing mejorados con IA, hasta implementar sistemas de ciberdefensa basados en IA para protegerse contra los intentos de piratería aumentada por IA.
Por último, pero no menos importante, las empresas deben hacer esfuerzos para involucrarse con los reguladores y los organismos gubernamentales en las discusiones sobre la regulación y la legislación de la IA. A medida que la tecnología madure, los organismos y organizaciones de la industria, como los sindicatos, participarán en la redacción e implementación de códigos de práctica, reglamentos y normas. Es esencial que las organizaciones que están a la vanguardia en el uso de esta tecnología brinden sus aportes y experiencia.
Al no comprender y reaccionar ante estas amenazas, cualquier individuo u organización corre el riesgo de caer en una de las mayores amenazas que plantea la IA: no aprovechar sus oportunidades y, al hacerlo, quedar rezagado por una visión más progresista. competidores
Para estar al tanto de lo último en tendencias tecnológicas y de negocios nuevas y emergentes, asegúrese de suscribirse a mi boletín informativo, sígame en GorjeoLinkedIn y YouTube, y echa un vistazo a mis libros Habilidades futuras: las 20 habilidades y competencias que todos necesitan para tener éxito en un mundo digital y La Internet del futuro: cómo el metaverso, la Web 3.0 y la cadena de bloques transformarán los negocios y la sociedad.
.
