top of page

Shadow AI, ¿Un riesgo para las empresas?

Por Nicolás Arrioja, LinkedIn


La Inteligencia Artificial ha crecido exponencialmente los últimos años y muchas empresas muestran interés en adoptarla para mejorar sus procesos, ser más eficientes y reducir costos. También las personas están haciendo uso de la misma para mejorar su trabajo y su vida personal. Todo esto es positivo. Sin embargo como empresarios debemos de estar atentos a un riesgo del cual se habla poco y muchos desconocen. Esto es: Shadow AI.

 

Hablamos de Shadow AI cuando los empleados usan la inteligencia artificial para ayudarse con sus tareas sin que la empresa tenga conocimiento o aprobación de la misma. Entonces, el departamento de Ti no conoce sobre esto y no tiene forma de verificar o controlar el uso de esa IA. Esto ocasiona que la empresa tenga riesgos potenciales de seguridad y de otras naturalezas. Shadow AI es un problema creciente en las empresas y muchas desconocen que ocurre en su interior.

 

Si bien la IA puede ayudar al empleado a ser más productivo, realizar el trabajo mejor y ser más rápido; sin visibilidad y guías de uso es imposible controlar los resultados y donde no tenemos control podemos tener problemas en el negocio.

 

Un riesgo es que la persona usando una IA generativa para mejorar su trabajo, realmente no conozca como usarla correctamente. Esto puede llevar a que la IA dé información errónea, desactualizada o en el peor de los casos una alucinación que el empleado consideré como información real. El usar una aplicación de IA desconocida también lleva a problemas de seguridad que pueden incluir malware, backdoors, etc. En las empresas de desarrollo de software, el uso de IA generativa para crear código puede crear bugs que pasen desapercibidos o incluso código que facilite a los hackers su trabajo. Un empleado sin conocimiento del funcionamiento de las IAs incluso puede estar exponiendo datos privados de la empresa al crear su prompt. Sin importar la buena intención del empleado, el riesgo existe.

 

La solución no es prohibir el uso de la IA. La empresa debe de actuar de forma inteligente y crear una guía que especifique como usar la IA adentro de la empresa. Cualquier IA debe de ser conocida por el departamento de TI para ser investigada en términos de seguridad. Es muy importante indicar en la guía cuando y como los empleados pueden hacer uso de las herramientas de inteligencia artificial. El departamento de IT debe de colocar los elementos de seguridad necesarios como firewalls y VPNs. Se calcula que en Estados Unidos, solamente el 31% de las empresas han creado guías para el uso de inteligencias artificiales.

 

Una vez que las guías han sido establecidas, deben de ser dadas a conocer a los empleados de forma clara. Indicar las herramientas que pueden usar, para qué las pueden usar y que datos son los que pueden manejar.

 

El personal tiene que estar capacitado para conocer los alcances, limitaciones y riesgos de usar las IAs generativas. El uso responsable de estas tecnologías es muy importante y no todo el mundo conoce los riesgos que conllevan su uso.

 

El uso de la IA en la industria y la empresa es algo positivo, su uso sin conocimiento o control trae riesgos. La prohibición no es la solución. Lo que debe de hacer la empresa es crear una guía de uso para poder monitorear y controlar el uso de la IA. Determinar las medidas apropiadas de seguridad y privacidad, sin olvidar el entrenar a su personal en el uso responsable y correcto de estas tecnologías.

60 visualizaciones

Commentaires


bottom of page