Insólito – Site itch.io encerrado pela Funko por causa da IA

A Inteligência Artificial é uma ferramenta fantástica mas, a dado momento, tem os seus “senãos”. Que o diga o site itch.io que foi encerrado por causa de uma ferramenta de IA da gigante de entretenimento Funko.

Tudo aconteceu quando, de repente, o site itch.io ficou offline. Esta é uma das mais populares plataformas de publicação e venda de jogos Indie, pelo que a surpresa foi geral. Minutos depois do site ser colocado offline, a própria itch.io explicou nas redes sociais que o seu site tinha sido bloqueado por causa de uma denúncia de phishing que o provedor do seu domínio decidiu honrar imediatamente e sem consultar o próprio site.

Isto não acontece facilmente, notem. Qualquer site pode ser denunciado pelos mais diversos motivos mas isso não significa que o site seja sumariamente fechado. É um processo que envolve, obviamente, uma aviso à administração do site visado e uma consequente investigação. Houve aqui uma investigação posterior, realmente, tanto que o site itch.io já esta novamente no ar. Contudo, a empresa iwantmyname simplesmente acreditou na denúncia sem consultar os visados. Isto porque não veio de um qualquer denunciante.

Ao que parece, essa denúncia veio da gigante de entretenimento Funko que estará a usar uma ferramenta de IA chamada “BrandShield”, cujo objectivo é proteger os direitos da sua marca, um software dedicado ao que se chama de Brand Protection. A sua função básica é detectar e denunciar automaticamente quaisquer quebras de direitos da sua marca baseando-se em palavras, imagens e outros gatilhos que vai “lendo” nos vários sites online. Sem usar a IA, isto envolve muito trabalho manual moroso e pesquisas manuais.

Neste caso, a ferramenta terá detectado uma acção de “phishing” relacionado com a Funko no site da itch.io e activou automaticamente a denúncia. Apesar da itch.io alegar que não houve, de facto, nenhum acto de “phishing” como foi denunciado, a página disputada foi “removida” do site porque, segundo a própria, “não vale a pena lutar por coisas destas”. Assim que finalmente a investigação confirmou que a página foi removida, o site voltou ao activo, bem mais rápido que uma disputa entre as partes.

É preciso entender que muitos produtores independentes vivem desta plataforma para produzir os seus jogos. Ver o site completamente removido do ar cria imensos problemas, especialmente se essa remoção demorar vários dias. Isto, já para não falar dos possíveis patrocínios e publicidade paga, que inclui inúmeros links externos e páginas associadas, que ficaram completamente indisponíveis por algumas horas. Tudo, por causa de uma IA hipersensível.

O que está aqui em causa nem é bem o teor da página em causa, que até poderia conter algum formato de código “duvidoso”. Convenhamos que não poderia ser propriamente uma página “normal”, caso contrário a detentora do site não a teria removido tão prontamente para desbloquear a situação. Contudo, saber que uma mera ferramenta de IA pode simplesmente mandar abaixo qualquer site, com justificação ou não, assusta. Imaginem isto acontecer, por exemplo, com o Steam?

Isto só pode ter acontecido se no lado do provedor de domínio também existir um automatismo ou um protocolo específico para atender a este tipo de pedidos automáticos. Isto significa que qualquer site pode ser vítima de um caso destes, uma pretensa “false flag”. A IA não tem capacidade de discernir coisas “vagas” e, dependendo da sua sensibilidade, pode até cometer enganos graves ou “inventar” problemas. Sem tempo para uma defesa, disputa ou contraponto, qualquer site será encerrado desta forma até que uma investivação seja concluída. E quem paga o tempo que um site fica offline?