AI washing, ¿Otro riesgo relacionado con la Inteligencia Artificial?

Por: Nicolás Arrioja, LinkedIn

La inteligencia artificial es una tecnología muy poderosa que actualmente está cambiando la forma de trabajo de muchas industrias, ayudándolas a mejorar sus procesos, ser eficientes y reducir costos. Sin embargo algunas empresas toman ventaja del revuelo que está ocasionando para engañar a sus clientes e inversionistas. Esto es lo que conocemos como AI washing.

Cuando hablamos de AI wahsing nos referimos a que una empresa puede usar un mercadeo engañoso de sus productos o servicios donde exagera o miente acerca del uso de la inteligencia artificial. Un caso de esto es cuando exageran las capacidades de su producto o en los casos que es un software sin IA pero que lo venden como si la tuviera.

Las razones de esto pueden ser variaras, quizá sólo tratan de mejorar su reputación, es probable que desean aprovechar al ola de la IA para atraer inversores. En algunos casos solamente desean justificar por precios altos en sus productos o servicios. Un ejemplo muy sonado es el de las tiendas Amazon GO en 2022, donde la gran mayoría del publico entendía que la IA era la solución para una tienda totalmente libre de cajeros, pero en realidad alrededor de 1000 personas revisaban manualmente el 70% de las transacciones. En el sitio web se indicaba que que usaban visión por computadora, fusión de sensores y deep learning, pero nunca se mencionó de las personas trabajando atrás.

Una firma canadiense de inversiones llamada Delphia decía que había desarrollado una IA que podía hacer predicciones sobre las tendencias de la industria. Posteriormente se encontró que era un fraude y que su IA no tenía las capacidades que anunciaban.

Las empresas que hacen uso de AI washing crean un impacto negativo en los consumidores, inversores y el desarrollo legítimo de la inteligencia artificial. Los consumidores víctimas del washing se sentirán decepcionados o frustrados, los inversionistas serán desconfiados de invertir nuevamente en IA. Todo esto afecta a las aplicaciones legitimas y a próximos desarrollos de inteligencias artificiales que realmente den valor.

Por esta razón tanto los consumidores como los inversionistas deben de estar atentos a está práctica y de esta manera protegerse. Los gobiernos y agencias reguladoras deben de formar una parte activa para evitar que las empresas hagan uso de estas prácticas.

Además de lo que hemos comentado anteriormente, existen otras variantes de washing que debemos de considerar:

Greenwashing: mostrar a la IA cómo amigable con el medio ambiente cuando no lo es

Woke-washing: indicar que esa IA esta alineada a las causas de justicia social, equidad, etc.

Cloudwahsing: hacer cree que la IA es basada en la nube, cuando en realidad no lo es

¿Cómo podemos protegernos?

En primer lugar estar atentos de las promesas que nos hacen. Si son vagas o utilizan términos técnicos complicados sin explicar lo que realmente significan o como funcional, puede ser una primera señal de alerta. También debemos de estar atentos a evidencia de aplicaciones en el mundo real donde nos puedan proveer ejemplos concretos de cómo esa IA está siendo usada. También es importante que nos tomemos el tiempo para investigar a esa empresa y sus productos, consultar con expertos independientes es siempre buena idea.

AI Washing es un fenómeno del que raramente se habla, es desconocido, pero que es real. Es importante saber de él para protegernos y un punto que las autoridades no deben de olvidar tomar en cuenta. Cómo siempre, estar informados es la mejor opción posible.

Nicolás Arrioja-Landa Cosio

Director Nacional de la Comisión de Inteligencia Artificial

mxTI

CTO, Brainc México