Perspective, la tecnología de Google para limpiar secciones de comentarios
Perspective revisa los comentarios en Internet y les asigna una clasificación de toxicidad que refleja la probabilidad de que estén destinados a hacer daño.
Como bien sabemos, Internet es, entre otras muchas cosas, un vertedero de comentarios racistas, teorías conspiranoicas y ataques ad hominem. Basta con echar un vistazo a las secciones de comentarios de cualquier diario nacional o a un perfil medianamente relevante en Facebook.
Una ingente cantidad de basura escrita que a veces hace perder la fe en la humanidad o, siendo menos dramáticos, las ganas de leer comentarios. Algo con lo que Google quiere acabar. Su incubadora de seguridad de Internet, Jigsaw, ha lanzado una nueva tecnología llamada Perspective, destinada a limpiar las secciones de comentarios.
Según informa TechCrunch, Perspective revisa los comentarios y les asigna una clasificación de toxicidad que refleja la probabilidad de que el comentario esté destinado a ser dañino. El objetivo de Jigsaw es mantener a la gente involucrada en la conversación, por lo que evalúa el “daño” como algo que podría alejar a otros comentaristas.
Perspective va más allá de las palabras, como insultos raciales, y también considera el contexto en el que se utilizan, para determinar si son parte de un ataque directo a otro comentarista o aluden al tema de la historia. La tecnología estará disponible para los editores a través de una API.
La forma de interpretar y reaccionar a una clasificación de toxicidad depende de los editores. Jigsaw no hará nada más que proporcionar la puntuación, por lo que los comentarios podrán ser marcados para la revisión por parte de un moderador humano, o bien ser ocultados tras una advertencia de modo que los lectores tengan que hacer clic para verlos. Los comentaristas también pueden ver su propia clasificación de toxicidad para replantearse si los mensajes que publican expresan realmente lo que quieren decir.
El presidente de Jigsaw, Jared Cohen, explica así los motivos para desarrollar la nueva tecnología: “Imagínate tratar de tener una conversación con tus amigos sobre las noticias que leíste esta mañana, pero cada vez que dices algo, alguien te grita en la cara, te llamó algo desagradable o te acusa de algún crimen horrible. Probablemente dejarías la conversación. Desafortunadamente, esto ocurre con demasiada frecuencia en línea, ya que la gente que trata de discutir ideas en sus sitios de noticias favoritos es bombardeada con comentarios tóxicos”.
