Inteligencia artificial y capitalismo de vigilancia
Se debate mucho sobre cómo prevenir desastres futuros provocados por la inteligencia artificial, pero muy poco sobre cómo ésta puede aumentar el control que unas pocas empresas tecnológicas ejercen sobre los usuarios.
Como demuestran las numerosas acciones antimonopolio emprendidas en Estados Unidos y Europa, todavía nadie aborda el problema del dominio de las grandes empresas tecnológicas sobre las búsquedas en Internet, la publicidad digital, las redes sociales, y mucho menos sobre la inteligencia artificial.
Gran parte de la razón es que "no se puede regular lo que no se entiende", dice Tim O'Reilly, director general de O'Reilly Media y profesor visitante de prácticas en el Instituto de Innovación y Fines Públicos de la UCL.
En un artículo sobre las rentas en la "economía de la atención" publicado recientemente con Mariana Mazzucato e Ilan Strauss, O'Reilly sostiene que "el problema más fundamental que deben abordar los reguladores es que no se conocen bien los mecanismos por los que las plataformas miden y gestionan la atención de los usuarios".
Para O'Reilly y sus coautores, "una regulación eficaz depende de una mayor divulgación". Si dejamos a un lado por un momento la IA, podemos pensar en las métricas que utilizan los grandes motores de búsqueda, las plataformas de comercio electrónico y las empresas de redes sociales para monetizar la atención.
Por ejemplo, el número de usuarios y el tiempo que pasan en un sitio, cuánto compran y en respuesta a qué anuncios, la proporción de clics orgánicos frente a clics en anuncios, cuánto tráfico se envía a sitios externos, el volumen de comercio en un sector determinado y qué porcentaje de las tarifas se destina a terceros vendedores.
Cualquier modelo empresarial de vigilancia hará uso de estas métricas fundamentales. Y, sin embargo, como señalan los autores, solo se informa de las métricas financieras más tradicionales de forma regular y coherente en los documentos públicos. Esto da lugar a una especie de confusión, ya que dichos informes financieros están "casi completamente desconectados de las métricas operativas que se utilizan para gestionar realmente gran parte del negocio".