top of page

¿Por qué es importante mantener el Ecosistema de la IA Abierto?

Por: Manuel O'Brien, LinkedIn


Frente a la pregunta de cómo abordar las problemáticas que nos trae la IA, hay una convicción que no debemos perder de vista. Las decisiones que tomemos el día de hoy, van a permitir – o bien coartar – la posibilidad de que los beneficios de la IA sean ampliamente compartidos, o bien, sólo acotados a unos pocos interesados.


En esto, existe historia en la comunidad tecnológica. El movimiento de “open source” o código abierto, es un termino técnico que se refiere a establecer un código de software que sea accesible a todo público, es decir, distintos actores pueden ver, modificar, distribuir y testear el código de la manera que estimen necesario.


De esta manera, se descentraliza y colabora en hacer más robusto (en el sentido de la seguridad) un código, debido a la revisión conjunta no de unos pocos, si no de una comunidad técnica extendida.


Comunmente se piensa por error que el open source significa un servicio gratuito, pero no es así. Si bien es gratuito el acceso al código (de ahí que se denomine abierto), esto admite que distintos actores puedan ver o modificar el código fuente. Un repositorio de estos códigos es GitHub, y ahí mismo se puede participar de proyectos junto a otros participantes para realizar desarrollos sobre estos códigos.


Posteriormente para el soporte, reforzar la seguridad, y gestionar por ejemplo la interoperabilidad entran los privados y hacen sobre ellos el desarrollo de un servicio. Una empresa reconocida que tiene ese modelo – entre otras - es RedHat.


Lo fundamental y relevante del código abierto es que ha demostrado poner las bases para que la revisión de un software en particular sea explorado por distintas partes. Y esto, es algo que no tenemos que perder de vista: una gobernanza distribuida.


Si estamos buscando una forma de estimular el crecimiento y conocimiento en torno a las herramientas de IA, la base del código abierto asoma como una experiencia que ayuda a fomentar el que distintos actores – académicos, comunidad, sociedad civil, etc – puedan testear una solución para reconocer sus desafíos y oportunidades.


En materia de IA, en particular los modelos básicos habilitados por la IA Generativa, se tiende mucho a la centralización. Muchos de estos modelos requieren mucha data, mucho poder de cómputo, y equipos capaces de diseñar, probar, implementar y monitorear las soluciones. Esto hace que los modelos sean de alto valor y que las grandes empresas tengan incentivos de mercado para mantener altas las barreras de entrada, buscando un dominio del mercado, y limitando la innovación.


Es por esto que los sistemas abiertos, donde distintas partes interesadas reconocen el valor de la tecnología construida por la comunidad, con el proceso abierto de colaboración, intercambio de ideas y habilidades, entregan una mejor respuesta al dilema de cómo abordar los desafíos de la IA.


Pero la innovación abierta no sólo se alimenta del software de código abierto. Los modelos de IA de código abierto y de licencias abiertas, son una parte clave de la innovación para la IA, al igual que los conjuntos de datos abiertos, estándares abiertos y la apertura de las ciencias y sus procesos para una co-creación y evaluación en 360 grados que involucre distintos miembros de la comunidad científica, académica, política y civil.


Si bien la historia de la inteligencia artificial (IA) abarca más de 70 años, sin duda el impacto de las tecnologías de código abierto en la trayectoria de la IA es indiscutible.

Como ejemplo, la plataforma de IA de IBM, watsonx, aprovecha varias herramientas y tecnologías claves de código abierto de IA y las combina con innovaciones de investigación para permitir flujos de trabajo listos para determinar la responsabilidad, transparencia y explicabilidad. La tecnología open source en la plataforma watsonx se puede encontrar en múltiples capas. Entre varias podemos señalar para entrenamiento y validación: CodeFlare, Ray/KubeRay, PyTorch. Para el tuning e inferencia: Kserve/ModelMesh, Caikit, o Hugging Face Model. IBM tiene un ecosistema gobernado donde se puede gestionar cualquier IA sea de código abierto o cerrado.


Ahora, un sistema de código cerrado, requiere la generación de un sistema de licenciamiento, el cual sin duda alguna lleva a la práctica del vendor lock-in.


Es una interesante discusión, ya que los formuladores de políticas públicas de todo el mundo están centrados en abordar los posibles riesgos de seguridad de la

IA y algunos han abogado por una regulación que tome medidas drásticas contra la innovación abierta, por ejemplo impulsando un sistema de licenciamiento.


Algunos han propuesto la idea de que un sistema de licencias para la IA permitiría “hacerla más segura”, pero esto sería un grave error para todo el ecosistema tecnológico. Sacrificar un ecosistema abierto para la IA en nombre de la seguridad daría solo a unas pocas empresas seleccionadas la oportunidad de acaparar los beneficios de la innovación y no lograría desarrollar soluciones significativas y sostenibles para los posibles riesgos de seguridad que puedan surgir.


El ecosistema abierto puede ofrecer enormes beneficios a la competencia y la innovación, por mencionar la democratización y desarrollo de habilidades; y la seguridad y protección. Y hay varias medidas que los formuladores de políticas pueden tomar para proteger un ecosistema de innovación abierto para la IA.

Reconocer cuán beneficioso es un ecosistema abierto para la IA será fundamental para cualquier formulación de políticas futuras.


La apertura y la innovación van de la mano, y los ecosistemas abiertos pueden impulsar los avances de la IA de dos maneras clave. En primer lugar, una mayor competencia significa que todos deben elevar el estándar. Las empresas deberían competir en función de qué tan bien pueden adaptar e implementar la IA de manera valiosa, en lugar de cuán efectivamente pueden acaparar los recursos y establecer barreras de entrada para desarrollar la IA.


En segundo lugar, un mayor acceso a la IA significa que más partes interesadas pueden identificar oportunidades para mejorar las tecnologías de IA y buscar más fácilmente aplicaciones novedosas y valiosas para la IA.


Combinando lo anterior, un ecosistema abierto de IA es dramáticamente más innovador, inclusivo y competitivo que uno cerrado.


México se encuentra en este momento ante una serie de decisiones fundamentales que van a fortalecer o bien debilitar su ecosistema de innovación en torno a la IA. En este sentido, existen dos recomendaciones básicas para asegurar el camino de una política pública que estimule el desarrollo de distintos actores en el ecosistema de la IA:


1. Apoyar una regulación precisa que se enfoque en el riesgo de IA y rechazar políticas que sacrifiquen la apertura de la innovación. Los formuladores de políticas públicas, tienen razón al tomar medidas para mitigar los riesgos de las nuevas tecnologías, e IBM ha abogado durante mucho tiempo por una “regulación de precisión” para abordar estos riesgos. Pero ciertas propuestas para abordar los riesgos de seguridad de la IA (como regular la tecnología en lugar de su aplicación o crear un régimen de licencias de IA) no son útiles. Estas propuestas impondrían restricciones significativas a la innovación abierta en IA, limitarían la competencia y la innovación, la democratización, e incluso la seguridad. En cambio, las autoridades deberían centrarse en regular la aplicación de la IA, independientemente de si es abierta o cerrada.


2. Aprovechar la innovación abierta para el beneficio público. Un camino que ya han tomado otros gobiernos reconociendo los beneficios de los ecosistemas abiertos para la IA, como USA y UK ha llevado a las agencias gubernamentales ha identificar de manera proactiva oportunidades para desarrollar valiosos recursos abiertos de IA que avancen en la ejecución de objetivos relevantes para el país. México podría tomar este mismo camino, de manera de asegurar que las herramientas de IA Generativa sean orientadas hacia desafíos que los ciudadanos, los académicos y la sociedad civil puedan utilizar e identificar.


En este momento estamos ante discusiones y una conversación abierta y atractiva que requiere lo mejor de nuestros esfuerzos, tanto públicos como privados para alcanzar un objetivo común: que México aproveche con la mayor audacia los beneficios y sepa abordar los desafíos de las nuevas tecnologías.


Para lo anterior, es fundamental equilibrar una mirada que admita la innovación abierta y la competitividad económica, con un foco indiscutido en las soluciones de impacto positivo para toda la sociedad en su conjunto.

173 views

Comments


bottom of page