Riesgos de la IA y cómo mitigarlos.

¿Le preocupa el impacto potencial de la inteligencia artificial (IA) en su trabajo y vida? Si es así, ahora es el mejor momento para aprender sobre sus peligros. Comprender las posibles desventajas de esta tecnología transformadora puede equiparle con herramientas valiosas.

Explore los peligros más significativos de la IA y cómo los expertos en IA los mitigan en el trabajo.

¿Cuáles son los riesgos de la IA?

Los riesgos y peligros de la IA incluyen sesgo inherente, preocupaciones de ciberseguridad, riesgos de privacidad de datos y falta de responsabilidad, entre otros inconvenientes.

Sesgo

Tecnologías de IA, como los modelos de lenguaje grande (LLMs), requieren grandes cantidades de contenido creado por humanos para fines de entrenamiento. Las decisiones de un programador sobre conjuntos de datos y algoritmos de entrenamiento o los parámetros que supervisan los modelos de IA generativa pueden crear sesgo dentro de la tecnología.

El sesgo puede aparecer en la salida de IA de diferentes maneras, como preferir algunas respuestas sobre otras, proporcionar respuestas incorrectas o mostrar prejuicios raciales. La evidencia de sesgo presenta muchos desafíos para la adopción de IA, ya que los usuarios pueden no confiar en la salida de IA como autoritativa.

Ciberseguridad

Los defensores de la IA a menudo señalan la capacidad de la tecnología para escribir código. Sin embargo, los resultados iniciales sugieren que la IA no puede escribir código teniendo en cuenta la ciberseguridad. Las fallas incluyen código defectuoso o incompleto que es susceptible a hackeos.

Abordar los peligros de ciberseguridad de la IA presenta desafíos significativos. A un nivel fundamental, los programadores no desarrollaron scripts de programación de IA optimizados para la ciberseguridad. Con los modelos actuales, corregir estas deficiencias en el código desarrollado por IA puede llevar a los programadores el mismo tiempo que si hubieran escrito el código desde cero.

Privacidad de datos

Las fallas de ciberseguridad en el código desarrollado por IA pueden poner en riesgo los datos de los usuarios ante los hackers.

Los conjuntos de datos en los que se entrena la IA ofrecen otra preocupación de privacidad. A menudo, se utilizan conjuntos de datos para entrenar la tecnología de IA sin el consentimiento del creador de los datos.

Interactuar con chatbots de IA revela otras preocupaciones de privacidad de datos. Algunos chatbots almacenan conversaciones sin el conocimiento de los usuarios. Esto deja a los usuarios sin saber que su información privada es vulnerable.

Infracción de propiedad intelectual

Los LLM y otras IA deben entrenarse en grandes conjuntos de datos para funcionar correctamente. Los programadores proporcionan estos datos extrayendo texto e imágenes de millones de sitios web. Sin embargo, esto a menudo se hace sin la compensación o el consentimiento de los creadores de contenido.

Los creadores han respondido de diferentes maneras, como licenciando datos o presentando demandas contra empresas de IA. Aun así, los datos frescos y creados por humanos son esenciales para que las tecnologías de IA funcionen. Usar datos antiguos para el entrenamiento de IA puede llevar al colapso del modelo, un fenómeno en el que una IA se vuelve menos confiable si se basa únicamente en contenido generado por IA para fines de entrenamiento.

Pérdida de empleo

Muchos empleadores ven la IA como una forma de optimizar las plantillas, aumentando las posibilidades de que muchas profesiones que antes eran estables puedan desaparecer pronto. La IA puede reducir o eliminar la necesidad de recepcionistas, representantes de servicio al cliente y cajeros.

Según la Oficina de Estadísticas Laborales, se proyecta que el crecimiento de estos roles disminuirá entre 2023-33 debido a la automatización, los chatbots de servicio al cliente y el avance tecnológico. Se proyecta que los recepcionistas disminuirán en un 1%, los representantes de servicio al cliente en un 5%, y los cajeros en un 15%.

Los trabajadores en un campo impactado por la IA pueden querer explorar cursos y programas de IA. Estas oportunidades educativas pueden enseñarle a usar la IA de manera efectiva en su trabajo, mejorando su empleabilidad durante la incertidumbre económica.

Falta de responsabilidad

Si bien los primeros adoptantes de la tecnología de IA pueden haberla utilizado para reemplazar trabajadores, a menudo no asumen la responsabilidad cuando los errores tecnológicos causan fallos.

Un ejemplo conocido involucra al chatbot de servicio al cliente de Air Canada, que proporcionó información incorrecta y rechazó las solicitudes de los clientes. Air Canada eludió la responsabilidad al afirmar que su chatbot de IA es una entidad legal separada que no habla como representante oficial de la empresa.

Las empresas que no implementen directrices de responsabilidad para la IA pueden enfrentar un rechazo significativo por parte de los consumidores a medida que aumentan las quejas.

Falta de transparencia

Las controversias en torno a la extracción de datos y las infracciones de derechos de autor han puesto el foco de atención en la falta de transparencia en la IA. Los críticos señalan las negativas de las empresas de IA a revelar cómo obtienen los datos de entrenamiento de IA. Las empresas han respondido a este secreto afirmando que la apertura revelaría métodos patentados que podrían perjudicar su negocio.

Una continua falta de transparencia puede llevar a menos contratos y un aumento en las demandas por infracción de derechos de autor.

Desinformación y manipulación

Los avances en la generación de imágenes por IA desde 2022 muestran el potencial de la tecnología para crear imágenes y videos cortos realistas. Actores malintencionados pueden usar esta tecnología para crear desinformación convincente, como propaganda política. Las personas, especialmente aquellas que no están familiarizadas con la IA, pueden ser víctimas de manipulación.

Puede protegerse de la desinformación y manipulación de la IA verificando las afirmaciones con múltiples fuentes creíbles, como sitios de noticias de renombre.