top of page
  • Writer's pictureANIA

Conclusiones de las sesiones 1 y 2 de las Mesas de Trabajo

Mesa 1: Políticas Públicas y Derechos Humanos


Derechos y libertades:


  • Falta de una política pública clara sobre IA en México.

  • Existe un marco incompatible en México para incorporar tecnologías de IA, y la información sobre su uso se mantiene en la opacidad.

  • Impacto en los "neuro derechos", como la libertad cognitiva y el derecho a pensar, y los sesgos culturales.

  • Necesidad de definir públicos objetivos para que el marco de regulación sea más compatible con la realidad.

  • La sostenibilidad energética de la IA y su impacto en la investigación.

  • Privacidad y la variación en el contexto de diferentes países.


Transparencia y responsabilidad:


  • Estandarización para facilitar el intercambio de datos.

  • Actualizar la plataforma de datos abiertos del gobierno.

  • Auditoría algorítmica como medio para garantizar la protección de datos personales.

  • Crear un ente regulador que establezca estándares de calidad para la IA.


Legislación y consentimiento:


  • Falta de cumplimiento de las obligaciones legales en cuanto al manejo de datos personales.

  • Necesidad de reforzar y actualizar el marco normativo en cuanto a la protección de datos personales.

  • Se cuestionó si la ley de protección de datos permite a los usuarios controlar sus datos y eliminarlos.



Política pública y cooperación internacional:


  • Necesidad de contar con expertos técnicos y presupuesto para la regulación efectiva de la IA.

  • Diálogo internacional en la regulación de la IA y la importancia de que las regulaciones sean efectivas.


Otros puntos:


  • Evitar la sobrerregulación y abogar por una regulación basada en el riesgo.

  • Claridad conceptual y la necesidad de definir y distinguir los términos relacionados con la IA.

  • Minimización de datos y la necesidad de una evaluación del impacto de privacidad o protección de datos.

  • Se mencionaron dos visiones en el entorno digital: la IA como un catalizador importante y la relevancia de los datos personales y derechos digitales en políticas públicas.



Mesa 2: Educación y Mercados Laborales



Educación y Mercados Laborales:


  • Necesidad de alfabetización digital y pensamiento crítico.

  • Crear leyes para educar sobre IA y la necesidad de enfoque en trabajadores y sindicatos.

  • Falta de coordinación entre los niveles de educación básica, media y superior.

  • Que la IA se utilice para preservar las lenguas y culturas indígenas.

  • Incorporar la ética en la educación sobre IA.



Desarrollo de la IA en México:


  • Destacar el papel de la sociedad civil y la academia en la promoción de la IA en México.

  • Cambiar las dinámicas laborales y de valor con la IA.

  • La ausencia de respuestas sobre estrategias o programas gubernamentales para mejorar las habilidades digitales en el sector público y la capacitación obligatoria en habilidades digitales para los empleados públicos.

  • Importancia de que la legislación resultante sea vinculante y con seguimiento.



Política Educativa y Brechas Digitales:


  • Garantizar el acceso inclusivo a la tecnología.

  • La capacitación de los profesores en asuntos digitales se consideró crucial.

  • La política educativa debe garantizar equidad y acceso a toda la población.



Enfoque en Necesidades Específicas:


  • Desarrollar capacidades y adaptar el modelo educativo a las necesidades específicas de diferentes regiones de México.



Responsabilidad Compartida entre Actores:


  • Colaboración entre la academia, la industria y el gobierno en el desarrollo de estrategias educativas.



Mesa 3: Ciberseguridad y Gestión de Riesgos


Gestión de riesgos en general:


  • Se enfatizó la necesidad de comprender la IA y sus riesgos, promover la transparencia algorítmica y corresponsabilizar a todos los actores en la cadena devalor de la IA.


Usos de IA inaceptables:


  • Se discutió la importancia de centrar la tecnología en las personas y respetar los derechos humanos.

  • Se mencionó la discriminación y el perfilamiento automatizado como riesgos significativos.


Categorías de riesgos en el uso de la IA:


  • Se exploraron distintas categorías de riesgos, incluyendo la vigilancia masiva, campañas de desprestigio, discurso de odio, discriminación y la posibilidad de crear armas autónomas.


Responsabilidad y regulación:


  • La cuestión de la responsabilidad y la regulación de la IA se consideró un desafío importante debido a la complejidad técnica y la naturaleza de "caja negra" de algunos modelos de IA.

  • Se destacó la importancia de no sobrerregular y de establecer regulaciones adecuadas que eviten prohibir la creatividad.

  • Contar con un marco regulatorio que proteja los derechos humanos y la privacidad en el contexto de la IA.

  • Cómo diseñar una IA que garantice la privacidad


Visión prospectiva y acción proactiva:


  • Se hizo hincapié en la importancia de adoptar una visión prospectiva en la regulación de la IA en lugar de una perspectiva reactiva.


Terminología común:


  • Es esencial establecer un lenguaje común y términos definidos al discutir la IA y laciberseguridad.


Ciberseguridad:


  • Importancia de la ciberseguridad, la prevención del acceso no autorizado a datos,y la revisión de la configuración de seguridad en operaciones, software y hardware.

  • Urge un programa nacional de ciberseguridad.

  • Se discuten medidas preventivas, correctivas y transparencia en relación con los ciberataques.


Protección de Datos


  • Se menciona la importancia de la legitimación para obtener información y se destaca el consentimiento como vía de legitimación.

  • Aplicación de estándares de protección de datos en relación con la inteligencia artificial.


Otros


  • Se aboga por la inclusión de las universidades en la regulación de la IA y la ciberseguridad.

  • Se destaca la necesidad de transparencia en los sistemas de proveedores del gobierno.


Mesa 4: Género, Inclusión Y Responsabilidad Social


Perspectiva de Género:


  • Necesidad de una base más amplia y diversa de programadores para evitar sesgos en algoritmos y bases de datos.

  • Importancia de cerrar la brecha de género en carreras STEM.

  • Reconocimiento de la hipersexualización y la violencia digital hacia las mujeres.

  • La vigilancia estatal masiva tiene un impacto en los derechos de las mujeres.



Inclusión y Diversidad:


  • Falta de políticas y estrategias nacionales para reducir la brecha digital socioeconómica y rural/urbana.

  • Discusión sobre la diversidad en la fuerza laboral de la IA y la necesidad de políticas y estadísticas de diversidad.

  • Programas de divulgación para mejorar la diversidad en STEM.



Grupos Vulnerables:


  • La falta de un marco de "notice and take down" para contenido con discurso de odio y trato discriminador.

  • Necesidad de definir la responsabilidad de los intermediarios en línea.

  • Necesidad de considerar las implicaciones de las tecnologías en los Derechos Humanos.

  • Crítica al enfoque tecnocentrista, abogando por centrar la atención en los grupos sociales.



Obligaciones legales y políticas para reducir la brecha digital.


  • Ausencia de normas o políticas para mejorar la diversidad en la fuerza laboral de IA.

  • Necesidad de reportes y transparencia en empresas para cerrar brechas.

  • Falta de políticas específicas para la preservación de lenguas indígenas mediante IA.

  • Iniciativas independientes sin respaldo gubernamental claro.

  • Brecha de participación de mujeres en IA, tanto en educación como en el mercado laboral.

  • Necesidad de abordar el impacto ambiental de la IA, especialmente en consumo energético.

  • Falta de políticas específicas y llamado a evaluar impacto ambiental y social.

  • Urgencia de regular la transparencia en desarrollo, funcionamiento y uso de IA.


Temas a considerar:


  • Falta de normas para mejorar la diversidad en la fuerza laboral de IA.

  • Importancia de reportes y transparencia en empresas para fomentar la diversidad.

  • Uso de IA en la preservación de lenguas indígenas y falta de respaldo gubernamental.

  • Desafíos de liderazgo y participación de mujeres en el campo de la IA.

  • Necesidad de registros nacionales para comprender la participación laboral de mujeres en la IA.

  • Consideración de políticas para abordar el impacto ambiental de la IA.

  • Evaluación de la eficacia de las políticas y su relación con objetivos de desarrollo sostenible.

  • Urgencia de regulaciones que aborden la transparencia en el desarrollo y uso de IA.



Mesa 5: Infraestructura y Datos


Digitalización del Estado Mexicano


  • Nivel medio de confianza en servicios digitales gubernamentales.

  • La dinámica del gobierno abierto desde el CIDE y la UDG sugiere falta de confianza debido a la variabilidad en el rendimiento de los servicios digitales.


Confianza y Legislación en IA


  • Falta de una estrategia clara de IA en México.

  • Legislación existente en casos específicos como "deep fakes".

  • Propuestas para actualizar la legislación vigente en lugar de crear nuevas leyes específicas para la IA.

  • Deterioro en la confianza en sitios web gubernamentales.


Desafíos Éticos y de Conocimiento en IA


  • Falta de investigación y desarrollo de tecnologías emergentes en México.

  • Necesidad de comprender los conceptos de IA antes de considerar la regulación.

  • Enfatiza la importancia de introducir la ética en el desarrollo de la IA.


Desarrollo y Regulación de IA


  • Debate sobre regulación centrado en la IA generativa.

  • Dificultad para evaluar algoritmos de gran escala antes de la implementación.

  • Necesidad de monitorear procesos y entender el impacto de la IA en la sociedad.

  • Aunque existen esfuerzos aislados, no hay una estrategia nacional integral para el desarrollo y aplicación de la Inteligencia Artificial en México.

  • Aunque hay regulaciones, se destaca la importancia de contar con un marco regulatorio integral que abarque aspectos como el impacto ambiental del desarrollo digital.


Involucramiento en Estándares Internacionales


  • Falta de participación activa en estándares técnicos y éticos de IA.

  • Advierte sobre la precaución al adoptar estándares internacionales para no limitar el desarrollo nacional.


Acceso a la Información:


  • Se observa una disminución en la accesibilidad y facilidad de uso de las páginas web del gobierno, lo cual puede impactar negativamente en el acceso a la información.


Políticas y Proyectos de IA


  • Falta de una estrategia nacional clara para el desarrollo de IA.

  • Consideraciones sobre la legislación y su impacto en el desarrollo tecnológico.


Salud Digital y Datos Abiertos


  • Falta de una política clara de salud digital, tanto en aspectos físicos como mentales.

  • Desafíos en la implementación de políticas de datos abiertos.

  • Ausencia de datos abiertos y su impacto en el desarrollo de IA.

  • Mecanismos internacionales para el intercambio de datos transfronterizos, pero se destaca la importancia de salvaguardas para proteger la privacidad y la seguridad nacional.


Colaboración Público, Privada y Social


  • Importancia de la colaboración entre sectores para compartir datos.

  • Participación de México en acuerdos internacionales sobre datos transfronterizos.

  • Se subraya la importancia de fomentar la colaboración entre el sector público y privado, reconociendo la necesidad de compartir datos de manera responsable y segura.


Brechas en el ámbito digital


  • Se reconoce la existencia de una brecha en habilidades digitales que puede limitar el aprovechamiento de servicios digitales y datos.

  • Aunque ha habido un aumento en la presencia de mujeres en el ámbito tecnológico, persiste una desigualdad de género en estas áreas.

Otros


  • Se señala el incremento en el consumo de energía, especialmente en data centers, como un aspecto a considerar en el desarrollo tecnológico.

  • Esfuerzos aislados en conectividad, legislación y políticas de IA.



Mesa 6: Innovación e Industria

  • Se debe detonar la cultura de innovación y nuevos emprendimientos basados en IA, así como, la digitalización y capacidades de nuestras PYMES que son la base dela economía:

  • Necesidad de cumplir con los derechos fundamentales (libertad de expresión y protección de datos).

  • Respeto al derecho de competencia.

  • Respetar los derechos de autor y contribuir al desarrollo

  • Responsabilidad enfocada en la transparencia.

  • Obligación de la Industria de informar a los usuarios cuando se está usando IA ensus procesos.

  • Denunciar usos inadecuados violatorios a los derechos humanos.

  • Informar a los usuarios sobre el uso de sus datos.

  • Fomento de la educación STEM, innovación, colaboración y becas desde la educación básica: Impulsar programas educativos que promuevan las disciplinas STEM y que integren tecnologías como IA en los programas de estudio desde los primeros niveles de educación para cultivar una cultura de conocimiento en la sociedad, a través de programas de colaboración entre la industria, académicos y estudiantes, respaldados por becas para fomentar la participación y el trabajo conjunto.

  • Inversión en investigación y desarrollo (de capital público y privado): Crear incubadoras especializadas en inteligencia artificial como entornos multidisciplinarios para el desarrollo de proyectos innovadores y garantizar la existencia de un capital tanto gubernamental como de iniciativa privada para respaldar proyectos de investigación y desarrollo en el campo de la IA.

  • Regulación adecuada: Establecer regulaciones que guíen el desarrollo ético y responsable de la IA, abordando cuestiones como la transparencia, la explicabilidad y la responsabilidad en el uso de datos.

  • Desarrollo de estándares éticos y regulatorios: Adoptar estándares éticos y regulatorios internacionales para guiar el desarrollo y la implementación de soluciones de IA, evitando la creación de regulaciones innecesarias.

  • Incentivos fiscales y apoyo a startups: Proporcionar incentivos fiscales y apoyo financiero a startups que se centren en la innovación en IA, fomentando así la participación del sector privado en el desarrollo tecnológico.

  • Transparencia en la autorregulación:Promover la autorregulación en la industria de la IA, asegurando que los códigos de conducta sean transparentes y beneficiena la sociedad, al tiempo que se consideran los derechos individuales.

  • Colaboración entre sectores: Fortalecer la colaboración entre el sector público, privado y académico a través de eventos, foros de colaboración, intercambio entre universidades y empresas, y programas conjuntos para impulsar la investigación y el desarrollo en inteligencia artificial.

33 views
bottom of page