Norman Bates, el algoritmo psicópata
El MIT creó un programa con el nombre del famoso protagonista de Psicosis.
Norman es un algoritmo entrenado interpretar, pero, como su tocayo creado por Hitchcock, no tiene una idea muy positiva del mundo. Se lo entrenó a interpretar imágenes imágenes estudiando miles de posteos en foros de Reddit donde la gente comparte imágenes de muertes truculentas. Un segundo algoritmo fue entrenado con datos comunes.
A Norman le mostraron figuras del test de Roschard, que requiere interpretar manchas, y lo que vio fue siempre algo lúgubre, como un hombre electrocutado, por ejemplo. El segundo bot, entrenado con datos normales, interpretó la misma mancha como un jarrón con flores.
El año pasado circuló en la red un informe que decía que el programa computarizado usado por los tribunales de Estados Unidos para tomar decisiones sobre custodia mostraban un prejuicio contra los negros debido a defectos en los datos de entrenamiento del programa.
El equipo del MIT dijo en un informe que “Norman sufrió una exposición prolongada a los rincones más oscuros de Reddit”, uno de los foros de la web oscura donde se encuentran todo tipo de imágenes e informaciones poco agradables, morbosas y hasta fetichistas.
Lo que se desprende del experimento es que según la forma en que se entrena al bot de inteligencia artificial, variará su manera de interpretar la realidad. En un momento en que poco a poco va creciendo la cantidad de objetos inteligentes que nos rodean en la vida cotidiana, es conveniente tener presente la importancia del entretenimiento de los algoritmos. Si nacen con prejuicios, actuarán con prejuicios.
