Google Perspective API foi criado em conjunto com o alfabeto a Jigsaw, foi feito supostamente para fornecer uma maneira automatizada para detectar linguagem nocivas nas mídias sociais. O programa tem o intuito de minimizar a atuação de trolls e comentários abusivos na internet usando Machine Learning.
Mas de acordo com a BBC o sistema, Google spin-off, não consegue detectar palavras como “idiota” e “estúpido” como linguagem abusiva quando está escrito abreviadamente ou com alterações em sílabas, como por exemplo acrescentando letras à palavra ou retirando letras, como por exemplo: “idiiot” ou “st.upid”.
A empresa de Jigsaw diz que a ferramenta Perspective ainda estava em desenvolvimento. Um cientista de computação disse que tais sistemas sempre terão de se adaptar às táticas dos usuais trolls que são encontrados on-line.
O Perspective foi desenvolvido para ajudar a automatizar a detecção de abusos e assédios on-line, mas ainda não foi revisado completamente e por isso foi descoberto suas falhas.
Como deveria funcionar o Perspective?
Seu funcionamento é similar ao do algoritmo utilizado no YouTube para embarreiras os comentários abusivos, é utilizada aprendizagem através da máquina a rede neural atribuindo pontuações para cada comentário baseado em vocabulário, através de histórico de discussões passadas que alimentam a análise de contexto, entende-se o sentido com que a frase está sendo dita. Dessa forma um palavrão utilizado de maneira positiva (por exemplo, elogiando) teria uma pontuação mais baixa do que a mesma palavra utilizada como um insulto.
Inicialmente o Perspective será oferecido pela Google pretende como API a sites e serviços externo, como por exemplo para o The New York Times, que já está testando a novidade a algum tempo. Sendo a página do NY Times uma das que recebe cerca de 11 mil comentários por dia, a ferramena ajudará a identificar comentários desagradáveis, isso reduz o trabalho manual e auxilia no na exclusão dos comentários que seriam excluídos de forma manual um a uma;
Para a “infelicidade” do publico brasileiro o Perspective só funciona em inglês, mas está sendo preparado para identificar outras linguas, mas sem previsão de implantação para o nosso português. Mas acredito que essa ferramenta seria ainda mais burlada caso estivesse em português, afinal os brasileiros são os maiores criadores de memes da internet e demostram comportamento abusivo/nocivo quando bem querem a pouco custo e até a ferramenta estar pronta para entender as possíveis artimanhas que os trolls brasileiros poderiam empregar seria necessário devevolvimento e trabalho arduo para driblar todas as restrições.
