Esta notícia talvez tenha passado batido por você. Afinal, tem ao menos quatro guerras em curso no mundo, assassinato do empresário em Interlagos e muitas outras coisas acontecendo que é bem fácil não ter percebido que a “Inteligência Artificial” do WhatsApp compartilhou o número de telefone de um usuário com outra pessoa que estava quilômetros de distância.
A notícia saiu no The Guardian e conta a história de um camarada que estava numa estação de trem na Inglaterra esperando o trem chegar para embarcar só que o trem não aparecia. Então ele teve a brilhante ideia de pedir para a IA do WhatsApp se ela sabia do contato da empresa responsável e, pimba. A “inteligência artificial” cuspiu para ele um número. Só que não era um número da empresa, mas sim o número de outro usuário do WhatsApp.
Quando o cara recebeu o número achou estranho e a IA tentou desviar do assunto. Ou seja: a IA sabe que fez besteira. Pelo menos isso.
Quando o usuário perguntou sobre o erro, a IA respondeu que forneceu a resposta com base em padrões. Perguntada novamente, admitiu que pegou o número do usuário em um banco de dados.
Acho que pode ser bem legal ler a matéria que saiu sobre o assunto ontem no The Guardian. Lá tem uma série de depoimentos de desenvolvedores que falam não ser a primeira vez que um tipo de erro desses acontece e que este tipo de erro é interessante (do ponto de vista da teoria por trás da coisa).
Só que eu gostaria de ir um pouco além, aqui. Acho que o ocorrido é uma manifestação que ainda veremos muito. Dados que estas ferramentas coletam sendo divulgados equivocadamente para pessoas que não tenham qualquer relação com o que foi coletado.
Uma coisa é importante e precisamos ter sempre em mente: tudo o que se compartilha com uma ferramenta deste tipo (seja a do WhatsApp ou qualquer outra) será usado para que ela aprenda mais um pouco. Então a gente tem que ter muito cuidado com as coisas que coloca em caixas de texto e com os arquivos que fornecemos a elas para que elas “nos ajudem”.
Se de caso de pessoas usando estas ferramentas para fazer atas de reuniões sigilosas de empresas. Isso é perigosíssimo porque deixa-se a ferramenta “ouvir” uma reunião em que várias pessoas participam, não necessariamente dando autorização. A IA, além de aprender com as vozes, pode aprender detalhes sobre a empresa que nenhum dos participantes gostaria que fossem divulgados a terceiros.
O caso que aconteceu na Inglaterra nos evidencia que não existe qualquer garantia de que isso não vá acontecer.