El monitoreo de la #IA de #Facebook aumenta la prevención del #suicidio

Unsplash

Ya hemos informado sobre cómo Facebook está usando reconocimiento de patrones alimentado por la IA para detectar los signos de terrorismo y en la declaración hecha por Zuckerberg en ese momento, la prevención del suicidio y del acoso también se han mencionado.  En cuanto a la prevención del suicidio, parece que las incursiones ya se están haciendo, a medida que se han dado más detalles sobre cómo funcionará el sistema propuesto.

En este caso, los algoritmos están siendo diseñados alojar en opciones particulares de palabras y frases, así como los tipos de comentarios que las publicaciones están recibiendo.  Una vez que una publicación en particular ha sido marcada como un riesgo de suicidio, se coloca en las manos de un equipo humano por una evaluación adicional y acción.  Con esto en mente, casi esperarías que los algoritmos serán muy exagerados, mejor marcar de manera falsa un montón de publicaciones que obviar una real.

Sin embargo, esto va más allá.  Facebook también está desarrollando maneras de identificar cuando los streamers en Facebook Live podrían estar expresando pensamientos suicidas.  El objetivo es poder llegar a las personas como estas, ya que la transmisión continúa.  Esto no significa interrumpir la transmisión, sino, en lugar, intentar interactuar con el streamer, ya que todavía están transmitiendo, con la esperanza de hablar de vuelta.

Los algoritmos de Facebook han sufrido muchas críticas en el pasado, principalmente por incluir de manera errónea contenido en las listas negras que debería haberse quedado, pero también, ocasionalmente, por dejar el contenido que, sin duda, debería haber sido eliminado.  En ambos casos, el contenido nunca se acercó a un moderador humano, pero en este caso lo hará.  Bloquear una fotografía de una estatua desnuda es muy diferente a la posibilidad de impedir que a alguien que se suicide; simplemente no podría hacerse sin la participación de personas reales.

En cierta medida, Facebook ya estableció las bases para esto en Instagram, ya que el año pasado introdujo un sistema en el que los usuarios pueden informar de publicaciones que creen que implican una auto lesión o pensamientos suicidas.  A continuación, el usuario recibe un mensaje genérico preguntándole si le gustaría recibir ayuda.  En ese caso, el equipo de Facebook pone la pelota a rodar; no hay intervención humana directa, que podría ser la diferencia clave entre una oferta de ayuda que es ignorada o aceptada.

La evidencia de un suicidio inminente en Facebook está, tristemente, lejos de ser desconocida.  En los últimos meses, se han producido dos casos de chicas que se cuelan durante una transmisión en vivo: Katelyn Nicole Davis, de 12 años de edad, el 30 de diciembre y Naka Venant, de 14 años, el 23 de enero.  En ambos casos, las víctimas habían discutido sobre dificultades de su vida e incluso sobre el suicidio online antes de la transmisión en vivo.

Callum Davies

Callum se ha graduado en la Escuela de Cine y ahora se está haciendo un nombre por sí mismo como periodista y escritor de contenido.  Sus vicios incluyen los flat whites y hip-hop de los años 90.  Síguelo @Songbird_Callum

Traducido desde:  Facebook's AI Monitoring Expands to Suicide Prevention

Traducido por: Julia de los Ríos

Comunicadora natural, escritora por vocación y amante de las redes sociales.  Julia es un mundo en una persona. Es peruano-italiana y vive en España. Ella asegura que compartiendo experiencias nos desarrollamos como personas.  Estudió negocios internacionales, disfruta de su blog personal, de viajar y de la playa.  Síguela @JuliaAtSMF

Contacta con nosotros en Twitter y Facebook o deja tu comentario abajo. Si buscas cursos de formación o gestión de medios de comunicación social – social media, visita nuestra página web para más información www.thesmfgroup.com

Te invitamos a revisar nuestro blog en inglés Social Songbird y también lo puedes seguir en Twitter  y Facebook.