Os riscos reais da IA: separar o urgente do hipotético

A conversa sobre os riscos da inteligência artificial costuma chegar partida em duas metades que não se falam. Em uma, a IA vai nos extinguir na próxima terça-feira. Na outra, é só autocompletar com boa imprensa e não há nada com que se preocupar. As duas posturas compartilham um defeito: tratam "o risco" como uma coisa só, quando na verdade há muitos, de tamanhos muito diferentes e com relógios muito diferentes. Alguns já estão correndo. Outros são, por ora, hipóteses.

Este artigo faz uma única coisa, mas a faz a sério: ordena. Porque a pergunta útil não é "a IA é perigosa?", e sim "quais dos seus riscos já me atingem hoje e quais pertencem a um futuro que ainda não chegou?". Sem essa hierarquia, o medo se distribui ao acaso: nos aterroriza o distante e negligenciamos o que já está acontecendo em um processo, um currículo ou uma conta bancária.

01 · o mapaQuais são os riscos reais da inteligência artificial hoje

Comecemos pelo que responde diretamente à pergunta que traz muita gente até aqui: quais são os riscos reais da inteligência artificial hoje, no presente, sem ficção científica. Há quatro que não são hipóteses, porque já deixaram vítimas, processos e sentenças.

O viés automatizado. Um modelo aprende com dados do passado, e o passado vem carregado de discriminação. Quando esse padrão se converte em decisão (quem é contratado, a quem se concede crédito, quem é vigiado), o preconceito deixa de ser humano e difuso para se tornar sistemático e veloz. O dano já não é cometido por uma pessoa em um dia ruim: é cometido por uma regra que se aplica idêntica a milhões.

A informação falsa com aprumo. Os modelos generativos produzem texto plausível sem garantia de que seja verdadeiro; a essa invenção serena chamamos de alucinação. Em um chat caseiro é uma anedota; em um consultório, um tribunal ou uma manchete, é um risco real e presente.

A concentração e a opacidade. Poucos atores controlam os modelos mais capazes, e suas decisões (o que treina, o que filtra, o que prioriza) afetam milhões sem escrutínio público. A caixa-preta não é uma metáfora poética: é que muitas vezes ninguém, nem seus próprios criadores, consegue explicar por completo por que o sistema decidiu o que decidiu.

A fraude em escala. Voz clonada, rostos sintéticos, e-mails de phishing impecáveis. A IA não inventou o engano, mas baixou seu custo até torná-lo industrial.

A pergunta útil não é se a IA é perigosa, e sim quais dos seus riscos já te atingem hoje.

02 · o horizonteOs temores futuros: reais como perguntas, não como fatos

Do outro lado do mapa estão os riscos que dominam as manchetes: que uma IA superinteligente escape ao nosso controle, persiga objetivos próprios e nos trate como um obstáculo. Não convém nem rir dessa preocupação nem tomá-la como um fato consumado. É uma hipótese séria, sustentada por gente séria, sobre um sistema que ainda não existe.

O nó técnico de fundo tem nome: o problema do alinhamento. É a dificuldade de conseguir que um sistema muito capaz persiga de verdade o que queremos e não uma versão literal e distorcida da nossa instrução. Stuart Russell o formulou com uma imagem que ficou: o perigo não é uma máquina malvada, e sim uma máquina competentíssima cujos objetivos não coincidem totalmente com os nossos, como o rei Midas, que pediu que tudo o que tocasse virasse ouro e descobriu o problema ao abraçar a filha [1].

Russell, coautor do manual de IA mais usado do mundo, sustenta que a falha não viria da maldade, e sim da competência mal dirigida: um sistema que cumpre ao pé da letra um objetivo mal especificado [1]. É um argumento que merece pesquisa, não zombaria. Mas convém um matiz honesto: entre "é um argumento sério" e "vai acontecer" há uma distância enorme, e a maior parte do risco atual não vive nesse horizonte, e sim no presente que descrevemos acima.

03 · a bússolaComo pensar o risco sem pânico nem negação

Se algo este mapa ensina é que "risco" não é um interruptor de sim ou não, e sim um espectro com dois eixos: quão provável é e quão grave seria. O erro do negacionista é olhar só para a probabilidade ("ainda não aconteceu, logo não acontecerá"). O erro do catastrofista é olhar só para a gravidade ("se acontecesse seria o fim, logo é a única coisa que importa"). O bom senso vive em cruzar ambos os eixos e agir em consequência.

Instituições como o NIST estadunidense já publicaram marcos para gerir esses riscos com método, não com medo: mapear onde um sistema pode falhar, medir o dano possível, geri-lo e governá-lo com responsáveis claros [2]. Não é uma profecia sobre robôs; é a mesma disciplina com que se gere o risco de uma ponte ou de um medicamento. A novidade da IA não exige inventar a prudência do zero, exige aplicá-la.

O negacionista olha só para a probabilidade. O catastrofista olha só para a gravidade. O bom senso cruza ambos os eixos.

Voltemos ao começo. A conversa chegou partida em duas metades, e nenhuma das duas servia: nem o pânico que paralisa nem a negação que desarma. Entre ambas há um terreno mais entediante e muito mais útil, que consiste em perguntar de cada risco duas coisas (quão provável, quão grave) e responder com a ferramenta que corresponde: auditoria para o viés, verificação para a alucinação, regulação para a opacidade, pesquisa para o que ainda não chegou. Os riscos da inteligência artificial são reais. Justamente por isso merecem que deixemos de gritá-los todos ao mesmo tempo e comecemos a ordená-los.