Presidente do Signal diz que o maior risco da IA está no uso irresponsável

A presidente da Signal Foundation, Meredith Whittaker, contesta as previsões de um apocalipse de inteligência artificial. Para ela, o risco real está no uso descuidado da tecnologia por instituições poderosas, e não em cenários futuristas de ficção científica. Em declaração à BBC Global Women, Whittaker afirmou que o risco é muito real, mas não tem relação com as histórias fantasiosas contadas por garotos alarmistas da tecnologia.

O RISCO REAL DA TECNOLOGIA

Whittaker cita como exemplo de risco concreto um caso noticiado pela CNN americana, no qual um chatbot utilizado pelos serviços de inteligência dos Estados Unidos inventou informações falsas sobre um navio chinês que supostamente transportava material nuclear. De acordo com a reportagem, o episódio alarmou as autoridades e levou o governo americano a preparar uma resposta militar.

A executiva ressalta que o mundo quase entrou em uma guerra com a China devido a um erro automatizado. Para ela, um sistema que fornece dados falsos de inteligência e quase provoca um conflito de escala global não pode ser considerado superinteligente sob nenhum critério adotado pelo mercado.

PRIVACIDADE E O APLICATIVO SIGNAL

Meredith Whittaker comanda a fundação por trás do Signal, aplicativo de mensagens que conta com uma base estimada entre 40 milhões e 70 milhões de usuários. Embora tenha um alcance menor do que o concorrente WhatsApp, que possui cerca de 3 bilhões de usuários, o Signal ganhou notoriedade global pela sua proteção rigorosa à privacidade, operando com criptografia de ponta a ponta que impede os próprios servidores da empresa de acessar a identidade dos remetentes ou o conteúdo das mensagens.

HISTÓRICO CONTRA O USO MILITAR DA IA

A postura crítica de Whittaker em relação ao uso militar da inteligência artificial começou anos atrás. Em 2017, quando ainda era funcionária do Google, ela descobriu a existência do Projeto Maven, um contrato secreto entre a gigante de tecnologia e o Departamento de Defesa dos Estados Unidos focado no desenvolvimento de sistemas de IA para identificar alvos em ataques de drones.

Ela foi uma das líderes de uma petição interna assinada por mais de 3 mil funcionários do Google contra a iniciativa. A pressão interna fez com que a empresa abandonasse o contrato. O episódio convenceu a executiva de que não era mais possível realizar um trabalho independente sobre ética em tecnologia dentro da companhia. Whittaker deixou o Google em 2019 e, atualmente, é considerada pela revista Time uma das pessoas mais influentes do setor, participando de fóruns globais no Vale do Silício, em Downing Street e no Fórum Econômico Mundial em Davos.

CENÁRIO ATUAL E O DEBATE GLOBAL

O debate sobre o uso de IA nas forças armadas continua avançando ao redor do mundo. O Pentágono estruturou um comando militar dedicado exclusivamente a drones e inteligência artificial, e testes recentes demonstraram o uso de sistemas automatizados controlando caças de combate Gripen em simulações de ataques operacionais.

No cenário brasileiro, a discussão sobre a governança de tecnologia também ganha espaço no campo político. No Congresso Nacional, parlamentares como a deputada Erika Hilton articulam a coleta de assinaturas necessárias para a abertura de uma Comissão Parlamentar de Inquérito (CPI) voltada a investigar as práticas e operações das grandes empresas de tecnologia (big techs) no país.