Instagram usa IA para eliminar los comentarios ofensivos

A principios de mes, Facebook anunció que había comenzado a usar un lenguaje de inteligencia artificial (IA) llamado Deep Text en su plataforma. A medida que se crea más y más contenido en Facebook, la plataforma debe afinar su puntería para filtrar el spam o recomendar el contenido correcto.  Pero para eso necesita entender cómo usan los seres humanos el lenguaje. Por eso creó DeepText, que es un "motor de comprensión de textos".  La idea es poder entender mejor la intención de quien escribe. Ahora, Instagram, que pertenece a Facebook, anunció que ha comenzado a usar Deep Text para eliminar comentarios que violan los Lineamientos de la Comunidad de Instagram.

Actualmente Facebook está usando DeepText en forma muy limitada, pero los directivos de Instagram, en cuanto se enteraron del lenguaje con IA, quisieron probarlo en su propia plataforma.  Primero lo usaron para detectar spam y no comentarios insultantes. Lo que antes hacía un grupo de personas, que revisaban todos los textos para marcar el spam a mano, se lo confiaron al programa, que creó algoritmos sobre la base de lo que encontraba en los comentarios de spam. Luego, con algunas modificaciones, lo comenzaron a usar para detectar lo que se llama "lenguaje del odio".

Si bien no se sabe con cuánta precisión DeepTExt funcionó en la prueba, los directivos de Instagram dicen estar encantados. Por ahora funciona solo en inglés, pero el servicio proyecta ampliarle los idiomas a la brevedad posible. El tiempo dirá si el programa es bueno para filtrar o si bloquea comentarios que nada tienen de agresividad.