A Anthropic anunciou na quinta-feira, 10 de Setembro, que encerrou várias operações de vigilância patrocinadas por Estados que utilizavam os seus modelos de inteligência artificial (IA). A empresa, com sede na Califórnia, diz ainda que governos e órgãos governamentais recorrem cada vez mais à Inteligência Artificial para espiar minorias e dissidentes.
Os incidentes tiveram origem em países asiáticos e africanos – a China, o Irão e em nações da África Ocidental – e foram detectados e interrompidos entre Janeiro e Julho, informou a empresa, num relatório sobre o uso indevido dos seus modelos de aprendizagem.
As campanhas de vigilância “visavam as mesmas comunidades da diáspora e dissidentes que esses regimes perseguem historicamente”, apontou o relatório.
Segundo a Anthropic, entre esses grupos estavam, por exemplo, activistas pró-democracia e opositores do regime iraniano que vivem no exterior. Num dos casos citados, programadores ligados ao regime iraniano terão desenvolvido um método para identificar pessoas através das suas contas nas redes sociais.
Noutro caso, um contratado que trabalhava para as autoridades de segurança nacional do Mali utilizou o Claude “para projectar o software subjacente que permitiu a recolha de informações”.
A Anthropic também bloqueou tentativas de utilizadores de desenvolver armas, realizar pesquisas biológicas consideradas problemáticas e criar frudes românticos online.
A empresa, sediada em São Francisco, acusou ainda programadores chineses de utilizarem o Claude de forma enganosa para gerar respostas a consultas de utilizadores enquanto, simultaneamente, “destilavam” esses dados para aprimorar os seus próprios modelos.
Destilação é um termo do sector que se refere a um processo no qual um modelo de IA é utilizado para treinar outro. As empresas chinesas já foram acusadas anteriormente de empregar esta técnica sem para isso estarem autorizadas.
Em relação às pesquisas ligadas a armas biológicas que a Anthropic detectou e bloqueou, a intenção dos envolvidos era menos clara, e a empresa não os identificou: “As pessoas envolvidas nesses estudos de caso são cientistas. Não afirmamos que tivessem a intenção de causar danos. Identificá-las ou identificar os seus laboratórios poderia expô-las a riscos acrescidos”, afirmou o relatório.
Os estudos nesses casos estavam concentrados em trabalhos relacionados com vírus chikungunya, transmitido por mosquitos, a uma cepa “altamente patogénica” da gripe aviária, a uma família de vírus que inclui a varíola e a varíola dos macacos. Frequentes são também os pedidos de informação sobre venenos e outras toxinas.
Leave a Reply