Dá para garantir a segurança da IA?

O caso aconteceu nos EUA e foi publicado por um amigo no LinkedIn. Um integrador profissional se regozijava por ter acabado de entregar o que seria o primeiro sistema de segurança eletrônico baseado em Inteligência Artificial – primeiro na cidade onde o cidadão opera. Meu amigo teve a ousadia de questionar: “Não acho correto. Todo mundo sabe que a segurança ainda é um tema controvertido quando se fala de IA, então é muito arriscado montar o sistema de uma empresa com base nessa tecnologia”.

Foi o que bastou para o autor da proeza rechaçar: “Cai fora, estraga prazeres”. Bem típico dos tempos atuais, em que muitos – talvez a maioria – evitam a discussão elevada e os argumentos sensatos para cair na chamada lacração. Na verdade, o sujeito não queria admitir que havia enganado seu cliente vendendo um terreno na lua, algo impossível de garantir: se até governos e corporações estão cheios de cuidados para implantar IA em suas redes, é evidente que um sistema de segurança não pode ser colocado sob tal risco.

Proibido fazer críticas

O episódio me fez refletir sobre a relação tênue entre cliente e prestador de serviço. Novas tecnologias são um campo fértil para essa atitude de prometer o que não se pode cumprir, ainda mais quando o cliente é leigo. Na ânsia de não perder uma venda, muitos acabam caindo nesse erro grosseiro. Não faltam exemplos de como isso é desastroso para a reputação de um profissional ou de uma empresa.

No caso da IA, os riscos são incalculáveis, e ainda assim é grande a tentação de alguns “experts” em posar de entendidos quando há tantas incertezas. E, pelo visto, nem mesmo as empresas mais avançadas nessa tecnologia escapam. Ainda ontem, funcionários americanos na linha de frente da IA divulgaram carta aberta denunciando que as companhias punem aqueles que criticam suas práticas na área de segurança (aqui, os detalhes).

Entre os denunciantes, havia ex-funcionários do Google e da OpenAI, incluídas na lista de empresas que não prezam pela transparência no assunto. E vejam só: duas semanas atrás, uma reunião de cúpula organizada pela ONU em Seul reuniu representantes de governos e de gigantes como Amazon, Meta, Google, Apple, OpenAI e Microsoft. Todas se comprometeram a “desligar seus sistemas de ponta se não conseguirem controlar os riscos mais extremos”, segundo relato do jornal inglês Financial Times (vejam a tradução).

A pergunta é se irão manter esse compromisso quando sua rentabilidade estiver ameaçada.