Título do artigo
Sim, houve um incidente sério. Não foi a inteligência artificial tomando decisões sozinha para atacar, mas um erro grave (uma "alucinação" de IA) que quase levou as Forças Armadas dos EUA a interceptarem um navio chinês.
O caso envolveu os seguintes pontos:
O que aconteceu
- O relatório falso: Um analista militar dos EUA usou um chatbot de inteligência artificial para processar dados de inteligência. O sistema misturou informações e gerou um relatório falso afirmando que um navio comercial chinês transportava componentes de armas nucleares no Oriente Médio.
- Quase uma intervenção militar: O relatório avançou na cadeia de comando e aeronaves americanas chegaram a decolar para interceptar e abordar a embarcação chinesa.
- Cancelamento no último segundo: Pouco antes de executarem a ação, analistas checaram a origem do relatório, perceberam o erro da IA e interromperam a operação militar.
Por que isso é preocupante?
- Alucinação do modelo: As IAs atuais geram respostas baseadas em probabilidade e, quando faltam dados, inventam informações plausíveis.
- Confiança excessiva: O incidente mostrou o risco de militares aceitarem relatórios gerados por computador sem verificação imediata, com especialistas alertando que a IA "permite chegar a uma ideia ruim muito mais rápido".
