Instagram introduce filtros de aprendizaje automático para moderar los comentarios

Digital Trends

Instagram se preocupa en mantener los comentarios limpios en su plataforma y, aunque no lo sabes, está confiando en la inteligencia artificial para que haga el trabajo.  El jueves anunció en su blog que se han introducido dos nuevos filtros de aprendizaje automático para gestionar mejor el contenido de los comentarios.  El primero está diseñado para buscar y eliminar comentarios ofensivos antes de que sean públicos, mientras que el segundo tiene como objetivo el spam.

Los filtros de comentarios de Instagram antes sólo podían reconocer el lenguaje ofensivo que estaba en una lista predeterminada y, aunque los usuarios podían añadir sus propias palabras y frases a la lista (sólo es aplicable a los comentarios en sus publicaciones), era un sistema bastante básico.  Con esta actualización los filtros seguirán aprendiendo nuevas palabras y frases ofensivas, además de identificar lo que es ofensivo del contexto y del lenguaje.

Además, la moderación actúa como una especie de circuito cerrado para los responsables, si el comentario de alguien es eliminado, sólo ellos podrán verlo todavía.  En este sentido, los comentaristas no tendrán idea de que su comentario ha sido eliminado y simplemente creen que nadie lo está viendo.  Desde hace un tiempo Twitter ya ha estado jugando con un método similar.

Por otro lado, el filtro está cambiado de una función opt-in a una predeterminada, algo que puede causar cierta polémica.  Todavía se puede desactivar desde la configuración y el servicio de bloqueo personalizado todavía está disponible, pero por razones obvias no puede funcionar con el sistema nuevo y más sofisticado.  Actualmente, el sistema sólo funciona en inglés, pero Instagram está en proceso de traducirlo a otros idiomas.

En realidad, el filtro de spam ha estado funcionando de una manera más sencilla desde hace unos ocho meses, pero sin mucho ruido.  Para mejorarlo, Instagram encargó a un equipo humano que cambiara a través de un abanico de comentarios de spam para crear una base de datos completa de key words, frases y más.  Instagram todavía tiene que encontrar una forma eficaz de hacer frente a las cuentas de spam, pero esto es, sin duda, un paso en la dirección correcta.

Con comentarios ofensivos, uno de los objetivos principales es reducir los falsos positivos.  En el pasado, tanto a Instagram como a Facebook se les ha señalado por marcar contenido adecuado como inapropiado y en muchos casos se debe a que los algoritmos no han sido lo suficientemente inteligentes para diferenciar entre algo ofensivo y algo que simplemente contiene un término que sería ofensivo en otros contextos.  Esta misma regla aplica a las imágenes.  Por esta razón, este nuevo controlador de inteligencia artificial se ha construido para tener un margen de error del 1%, pero no sabremos exactamente qué tan agresivo o laxo es el sistema hasta que se lance apropiadamente.

Callum Davies

Callum se ha graduado en la Escuela de Cine y ahora se está haciendo un nombre por sí mismo como periodista y escritor de contenido.  Sus vicios incluyen los flat whites y hip-hop de los años 90.  Síguelo @Songbird_Callum

Traducido desde:  Instagram Have Introduced Machine Learning Filters to Moderate Comments

Traducido por: Julia de los Ríos

Comunicadora natural, escritora por vocación y amante de las redes sociales.  Julia es un mundo en una persona. Es peruano-italiana y vive en España. Ella asegura que compartiendo experiencias nos desarrollamos como personas.  Estudió negocios internacionales, disfruta de su blog personal, de viajar y de la playa.  Síguela @JuliaAtSMF

Contacta con nosotros en Twitter y Facebook o deja tu comentario abajo. Si buscas cursos de formación o gestión de medios de comunicación social – social media, visita nuestra página web para más información  www.thesmfgroup.com/es/

Te invitamos a revisar nuestro blog en inglés Social Songbird y también lo puedes seguir en Twitter  y Facebook.