top of page

Inteligencia Artificial: desafíos y riesgos para la democracia en el contexto del super año electoral 2024

Por: Ernesto Ibarra, X: @Eibarra_S, LinkedIn


El 2024 se ha denominado como el año de las super elecciones debido al gran número de países, alrededor de 65, a nivel mundial que tendrán elecciones generales, del ejecutivo o parlamentarias. De acuerdo con el Anchor Change Election Cycle Tracker en 2024, se espera una cifra cercana a 2000 millones de potenciales votantes, lo que equivale aproximadamente a una cuarta parte de la población del mundo. Lo anterior obedece a que entre los múltiples países que llevarán a cabo elecciones se encuentran 10 de las naciones con mayor población, tales como: India, Estados Unidos, Indonesia, Pakistán, Brasil, Rusia, México, Etiopía y Egipto, entre otras. 





En otro orden de ideas, el Reporte Global de Riesgos (WEF, 2024) identifica como principales riesgos, para el periodo corto de 2 años, 2024-2025; la desinformación, la polarización social y la inseguridad cibernética. Lo anterior especialmente por el contexto electoral que vivirá el mundo en este 2024 y la gran presencia de las plataformas digitales, y ahora la IA generativa, que son pieza clave en la comunicación electoral de este año.


De acuerdo con la encuesta publicada por UNESCO, en 16 países de aquellos en los que se celebrarán elecciones generales este 2024, más de 8000 encuestados, el 85% de los ciudadanos que participaron, “están preocupados por los efectos de la desinformación a través de medios digitales”, esto en el contexto actual donde las redes sociales y plataformas digitales son ya la principal fuente de información para la gran mayoría de la población, como se observa en la siguiente imagen:





De dicha encuesta los principales hallazgos fueron:

  • El 56% de los internautas de los 16 países encuestados utiliza con frecuencia las redes sociales como principal fuente de noticias, superando a la televisión con un 44%.

  • Los usuarios de Internet experimentan una alta prevalencia de la desinformación en las redes sociales, con un 68% que indica que la desinformación está más extendida allí.

  • El 87% de los encuestados expresó su preocupación por el impacto de la desinformación en las próximas elecciones de su país, y el 47% se mostró "muy preocupado".

  • El 67% de los internautas se ha topado con discursos de odio en Internet, y la mayoría cree que son más frecuentes en Facebook (58%).

  • El 88% cree que tanto los gobiernos y los organismos reguladores como las plataformas de medios sociales (90%) deberían abordar los problemas de la desinformación y la incitación al odio.

  • La mayoría de los internautas (89%) apoya la idea de que los gobiernos y los organismos reguladores apliquen medidas de confianza y seguridad en las plataformas de medios sociales durante las campañas electorales.

  • Solo el 48 % de los ciudadanos encuestados ha denunciado contenidos en línea relacionados con la desinformación en el contexto de una campaña electoral.”

Como puede observarse, el rol de las plataformas, principalmente las redes sociales (TikTok©️, Facebook©️, instagram©️, Youtube©️, X©️ (antes Twitter©️)) y mensajería instantánea como WhatsApp©️, Telegram©️, entre otras; será sumamente valioso para los procesos electorales, principalmente para el ejercicio de libertad de expresión, para la comunicación política, para la comunicación de las campañas electorales, la difusión de las ideas y propuestas de las candidatas/os y para coordinar acciones de posicionamiento o tendencias de las opciones políticas. 


A partir de la llegada de ChatGPT, la IA generativa se volvió más presente en discusiones muy diversas en las sociedades. El uso de IA no sería una excepción en los procesos electorales de 2023 y 2024. Al respecto, en diciembre de 2023, observamos como Shamaine Daniels, candidata demócrata al Congreso por Pensilvania, utilizó una nueva modalidad de interacción de una candidata con su electorado, a través de su asistente Ashley, una voluntaria con inteligencia artificial, para llegar a más votantes mediante llamadas programadas automáticamente.





Los medios digitales están tomando un papel protagónico en las contiendas electorales este 2024 y, desafortunadamente, también serán usadas con la intención de afectar derechos, libertades y valores democráticos. 


Entre algunas de las acciones de uso mal intencionado podemos señalar, en lo general, conductas para: a) favorecer o afectar la campaña de algún actor político; b) tratar de desacreditar la legitimidad y el trabajo de la(s) autoridad(es) electoral(es); c) tratar de influir o manipular la decisión del electorado respecto de su voto y; d) provocar desequilibrio o inestabilidad social, mediante diversos actos que promuevan desorden, caos social, violencia o infunden miedo.


Algunas de las conductas podrían constituir delito o delito electoral y se sirvan de las tecnologías digitales, las redes socio digitales, y que pueden ser potenciadas por la IA generativa, tales como:

  • La desinformación, 

  • La guerra sucia, 

  • El discurso de odio, 

  • La violencia digital, incluida la violencia política por cuestiones de género, conocida en México como VPG,

  • La usurpación de identidad de personas de perfil político, autoridades o personajes públicos,

  • La violación a la intimidad y tratamiento indebido de datos personales de actores políticos,

  • El Deepfake respecto de personajes públicos y/o perfiles políticos,

  • Ciberdelitos contra la infraestructura electoral, de autoridades, partidos políticos, candidatas/o, o cualquier afectación a la confidencialidad, integridad y autenticidad de sistemas de información relacionados al proceso electoral,

  • Ciberterrorismo, 

  • Entre otros.


A continuación hacemos una breve referencia a ciertas conductas potenciados por la Inteligencia Artificial generativa y cómo pueden constituir una amenaza a la democracia: 


  1. Desinformación con IA y Deepfake. La IA generativa permite crear contenido con alto grado de precisión y calidad que parece convincente, sea en formato de voz o audio, imagen, video o multimedio; lo cual hace complicado identificar contenido auténtico, verídico u oficial, y al ser tan parecido pueda ser utilizado de manera maliciosa para: i) difamar a las personas actores políticos, ii) usurpar la identidad de representante de autoridades, o bien para hacerse pasar por líderes de opinión, influencers u otro personaje público para manipular la opinión pública e influir en la votación; iii) generar desconfianza en las instituciones democráticas, entre otros.

  2. Perfilamiento hiper focalizado (microtargeting con IA) y manipulación. El uso grandes volúmenes de datos y metadatos, aunado al uso de IA -algoritmos de recomendación, por ejemplo- aunado a la facilidad que ofrecen las plataformas y redes sociales y la publicación de datos e información por los propios usuarios, actualmente las campañas son hiper focalizadas, la propaganda electoral es ultra personalizada a los gustos, sentimientos y emociones de los usuarios respecto de cada contenido o mensaje, con lo cual se puede o podría predecir la reacción y con ello anticipar futuras reacciones a diferentes mensajes, lo cual puede influir en el electorado, trastocando la libertad del sufragio y con ello uno de los valores democráticos más importante, la libertad, la deliberación pública y el libre albedrío.

  3. Inhibición del voto e impacto de la IA en la participación ciudadana. Como parte de la desinformación, aprovechando el perfilamiento hiper focalizado, los actores maliciosos pueden construir narrativas que exploten sentimientos para suprimir el deseo de participación ciudadana, principalmente buscando consolidar el abstencionismo, sea con mensajes dirigidos que apelen a los sentimientos de cada usuario o mediante acciones de propagación de actos intimidatorios o terroristas, o bien mediante llamadas automatizadas o mensajes falsos vía plataformas o redes socio digitales.

  4. Violación a la intimidad, la imagen y el derecho a la protección de datos personales. A partir del potencial de la IA generativa para crear imágenes hiperrealistas, con ayuda del Deepfake, se han identificado afectaciones a la intimidad de las personas, actores políticos, creando videos que les difaman, o afectan la intimidad (por ejemplo creando vídeos con connotación sexual o realizando algún delito) y son parte de la guerra sucia en proceso electoral. La finalidad de estas acciones, potenciadas con IA, es afectar la opinión pública sobre la persona afectada.

  5. Ciberataques contra la infraestructura electoral y activos relacionados con los actores políticos. En este caso se advierten como amenaza el uso de IA para potenciar acciones como ataques informáticos contra los sistemas de información (PREP, padrón electoral, etc.) y contra cualquier activo de las autoridades electorales (las páginas web o perfiles de redes sociales oficiales de las autoridades, e incluso las instalaciones de las Juntas distritales locales o municipales, los OPLES o al propio Consejo General del INE o Tribunal Electoral). Dichas conductas buscan afectar el funcionamiento óptimo de los activos de las instituciones electorales, y con ello afectar la legitimidad y confianza de las instituciones.

Ante este escenario, resulta importante expresar algunas ideas de cómo abordar y prevenir las consecuencias indeseadas por el uso malicioso de la IA generativa.


Consideraciones generales para proteger la democracia, ante el uso malicioso de la IAg:


  1. Tener presente que la IA, como tecnología, no es una amenaza por sí misma, sino el uso indebido, abusivo y sin valores democráticos y éticos de las personas: actores políticos, individuos y organizaciones.

  2. Fortalecer a las instituciones electorales y contribuir al reforzamiento de su legitimidad y confianza. 

  3. Las autoridades deben abordar el fenómeno de la IA de manera preventiva, mediante capacitación, investigación, etc., y aprender cómo funciona, cómo se usa en procesos electorales, detectar usos positivos y negativos; y con ello ajustar la regulación e interpretación jurídica y protocolos necesarios para sancionar las conductas que afecten los valores democráticos y derechos político-electorales.

  4. Promover esquemas de diálogo y colaboración entre autoridades y plataformas digitales y empresas administradoras de redes socio digitales, como las mencionadas, para prevenir acciones no deseadas y establecer rutas de aprendizaje y acuerdos para una regulación efectiva, preferentemente preventiva.

  5. Fomentar entre actores políticos, partidos y candidatos, afiliados y simpatizantes; el uso ético de la información, los datos y las tecnologías, como la IA, para no afectar el desarrollo de los procesos electorales.

  6. Impulsar la cultura de protección de datos personales en los usuarios para minimizar el posible impacto negativo del uso de plataformas y redes sociales,

  7. Crear laboratorios o esquemas de colaboración de las autoridades electorales con terceros de confianza de la academia, la sociedad civil, y personas expertas, para identificar desinformación, alertar sobre el uso de Deepfakes con IA en contextos electorales, ejemplo: Political fact-checking Labs, 

  8. Fortalecer la ciberseguridad en instituciones electorales, partidos políticos, candidaturas, y población en general, y

  9. Desarrollar campañas de concientización y ciudadanía digital, que permita a la población reforzar su sentido común y habilidades digitales para detectar la desinformación, las deepfakes, y cómo prevenir la propagación y ejercer la denuncia.


En suma, la IA generativa es una herramienta poderosa para fortalecer o socavar la democracia, depende de las personas y sus valores éticos y democráticos que le demos las personas. 


Te invito a usar la IA para incrementar la participación ciudadana, para maximizar derechos como el derecho de acceso a la información, facilitar el acceso para personas con discapacidad, para fortalecer la fiscalización de recursos en las elecciones, para la exigencia de apego a la ley de los actores políticos, entre otras. 


Que la IA sea para defender la integridad de las elecciones, mediante un uso ético, responsable y confiable; en favor de la democracia, los derechos y libertades.


270 views

Comments


bottom of page