Algoritmos soberanos: tensiones entre empresas y países revelan impactos de la IA sobre la soberanía digital

La creciente influencia de la inteligencia artificial (IA) en la vida diaria y en las decisiones gubernamentales genera tensiones globales relacionadas a la soberanía digital. Dos casos recientes que visibilizan esta problemática son la disputa entre Elon Musk y Brasil y la decisión de OpenAI de bloquear el acceso de desarrolladores de China continental y Hong Kong, lo que supone un golpe para las empresas en esos territorios que desarrollan servicios basados en los grandes modelos de lenguaje de la compañía.

Estos episodios no solo demuestran el impacto de las redes sociales y los sistemas de IA extranjeros en las naciones, sino que también abren el debate sobre la necesidad de desarrollar algoritmos soberanos basados en estándares locales. “Cuando hablamos de algoritmos soberanos hacemos referencia a operar o tomar decisiones en base a principios de soberanía digital. Es decir, que un gobierno, una comunidad o incluso una empresa es la generadora de su tecnología, de plataformas o de sus propios datos. Puntualmente en el caso de un algoritmo soberano es un procedimiento operado bajo las leyes de la nación o los principios éticos de la organización, lejos de lo que se pueda desarrollar o definir a partir de un proveedor extranjero”, explica Gastón Gugliotta, gerente general de Streambe, empresa con más de catorce años de experiencia en transformación digital de negocios.

En esa línea, la principal diferencia con un algoritmo tradicional radica en el control. Al desarrollar un algoritmo soberano o propio, son las propias entidades locales y no las extranjeras las que resguardan la seguridad de los datos utilizados. Por lo tanto, quienes apliquen este tipo de algoritmos se protegerán de cualquier control y sesgo que puedan surgir del desarrollo realizado por instituciones globales que operan en otras regiones.

Cómo la IA soberana está transformando industrias

Los analistas esperan que la IA revolucione la economía global de la misma manera que lo hizo Internet hace algunas décadas. La firma internacional Statista prevé que el tamaño de este mercado alcanzará los 184.000 millones de dólares en 2024. Además, esperan una tasa de crecimiento anual del 28,46 %, lo que dará como resultado un volumen de mercado de 826.700 millones de dólares para 2030.

El impacto será tan grande que ningún país quedará afuera y por ese motivo los especialistas empiezan a preguntarse cómo harán los países para garantizar su soberanía digital. “Si con el avance de la IA las empresas incrementan la compra de modelos ya entrenados, deberán están atentas a conocer el origen, transparencia, calidad, y sesgo subyacente de la información con el que se los entreno”, reflexiona Gugliotta. Y agrega: ”El desafío está en desarrollar y mantener modelos entrenados bajo normas locales evitando principios, valores y otras cuestiones culturales que no pertenecen al propio país”.

Las ventajas de operar con algoritmos soberanos

Trabajar con IA sin pensar en los algoritmos que impulsan esa tecnología no es bueno ni malo en sí mismo sino que todo dependerá del trabajo que se haga y cómo puede afectar o no a la solución que se busca brindar. En el campo de la salud, por ejemplo, los datos son sensibles y hay protocolos de seguridad donde la soberanía digital toma aún más relevancia. “Al ser una industria en la que se suele comprar mucha información local del mercado para tomar decisiones, qué mejor que pensar en ser propios generadores de la misma”, señala el Gerente General de Streambe. En ese contexto, existen tres ventajas de operar con algoritmos soberanos que deben ser tenidas en cuenta:

• Al estar en un entorno controlado, no se corre el riesgo de que los datos sean transferidos a otras ubicaciones fuera del país y terminen en lugares con menos restricciones y cuidados distintos a los que esperamos.
• Al tener control sobre la infraestructura hay mayor acceso a la información.
• No en todos los países los criterios legales sobre los datos son similares. Estando en un marco local se va a operar de la manera esperada.

El futuro de la IA y los algoritmos soberanos

Las disputas entre Elon Musk y Brasil y OpenAI y China serán solo las primeras de varias que ocurrirán en los próximos años. Los algoritmos y la IA transformarán tan rápido las sociedades que los debates sobre cómo regular e implementar esta tecnología y los datos que utiliza se darán en todas las regiones del planeta.

“Considero que en los próximos cinco años, va a haber más exigencias de controles de los algoritmos y los datos, hustamente para dar garantía a ciertas industrias donde hay mayor sensibilidad de la información”, indica Gugliotta. “Habrá dos maneras distintas de garantizar estas regulaciones. Por un lado, construir infraestructura propia y ser el creador de la información. Y, por el otro, con el apoyo y el surgimiento de empresas y organizaciones que darán fe de la transparencia algorítmica y de la información”, comenta el experto de Streambe. Y advierte para concluir: “A los algoritmos se les va a exigir un nivel de transparencia que hoy no existe”.