Las tecnológicas piden que se regule IA … y de paso participar en su redacción

Durante los últimos siete días fue evidente que la población de Estados Unidos se dedicó a pensar en el uso que hace la policía del software de reconocimiento facial. El lunes IBM renegó de la tecnología totalmente y su Ceo,  Arvind Krishna condenó su uso “por parte de otros vendedores para vigilancia masiva, perfilamiento racial, violaciones de libertades y derechos humanos básicos”. Amazon respondió el miércoles poniendo una moratoria de un año al uso policial de su software Rekognition, seguida por la promesa de Microsoft de no vender la tecnología a la policía norteamericana.Los anuncios se produjeron luego de semanas de intensas protestas contra el racismo y la brutalidad de la policía en reacción da la muerte de George Floyd. Pero también son consecuencia de años de investigación académica sobre los   gravísimos usos posibles.

IBM, Amazon y Microsoft componen una pequeña porción  del mercado para software de reconocimiento facial de la policía. Mientras Amazon vendió Rekognition a una serie de organismos del orden público, la mayoría de los departamentos de policía tienen contratos con firmas pequeñas y menos conocidas como Clearview AI. Ninguna de esas compañías dejaron de firmar acuerdos con las fuerzas del orden. Pero la resonante salida de las grandes compañías tecnológicas igualmente puede tener un gran impacto sobre el reconocimiento facial en Estados Unidos. Esas tres firmas mencionadas solicitaron a los miembros del congreso que aprueben una ley que regule la industria y presionan para crear una política nacional que gobierne el uso de la tecnología. Al pedir regulación, esas firmas están aceptando su inevitabilidad y abriendo la posibilidad de participar en la redacción de las reglas. Por ejemplo, en Washington — el primer estado en regular el reconocimiento facial – las leyes fueron redactadas literalmente por un empleado de Microsoft.

Los anuncios también podrían tener un peligroso efecto en la investigación fundamental en IA. IBM, Microsoft y Amazon tienen una participación desproporcionada en la generación de investigación básica en IA y en la conducción del interés académico en ese campo. Sus condenas, junto con la opinión pública podría deja una mancha en el reconocimiento facial que desaliente a los investigadores de seguir adelante con las herramientas. .

Entre los académicos, hay un intenso debate sobre si la investigación en reconocimiento facial podría alguna vez ser una herramienta ética e imparcial. Muchos señalan el potencial que tiene la tecnología para introducir el prejuicio racial. Consideran que puede ser altamente peligrosa para la vigilancia porque puede ser fácilmente cooptada y usada por la policía de manera que ponga en peligro a las comunidades de color.