Mais de mil funcionários de empresas líderes de inteligência artificial (IA) assinaram, em julho deste ano, uma carta aberta alertando para a possibilidade iminente de perda de controle sobre sistemas de “superinteligência” caso a corrida tecnológica não seja submetida a regras significativamente mais rígidas.
Informações divulgadas pela Deutsche Welle (DW) mostram que empresas e governos devem estabelecer mecanismos de segurança para evitar esse avanço.
O pesquisador Jacob Coxon, que deixou a Anthropic em protesto contra o que descreveu como corrida irresponsável por superinteligência, afirmou em publicação na rede X que os próprios construtores de IA acreditam que a tecnologia “poderia matar todos nós até o fim da década”.
Segundo ele, algoritmos capazes de analisar e melhorar o próprio código-fonte poderiam reduzir ciclos de desenvolvimento de meses para minutos, tornando-se incontroláveis. Em entrevista ao The Wall Street Journal, Coxon projetou que, nos cenários mais agressivos, a situação poderia sair de controle já no fim de 2027.
Não é uma voz isolada. Geoffrey Hinton, ganhador do Prêmio Nobel de Física e conhecido como “padrinho da IA”, deixou o Google em 2023 para alertar publicamente sobre os perigos da tecnologia. Yoshua Bengio, pioneiro em redes neurais e aprendizado profundo, também defende regulação governamental.
Anthropic estima riscos econômicos com uso inadequado
Dario Amodei, CEO da Anthropic (dona do Claude), defendeu uma desaceleração coordenada no desenvolvimento de sistemas avançados. Para ele, agentes de IA mais sofisticados poderiam causar impactos econômicos relevantes caso fossem utilizados sem mecanismos de proteção.
Ele citou a possibilidade de danos de centenas de bilhões de dólares em cenários de uso inadequado. Executivos como Elon Musk, CEO da SpaceX, e Sam Altman, CEO da OpenAI, disseram concordar com parte dos alertas apresentados por Amodei.
Evan Hubinger, líder de testes de estresse de alinhamento na Anthropic, defendeu Coxon e escreveu no X que pessoalmente estima em mais de 10% a probabilidade de a IA matar todos os humanos na próxima década.
O especialista admitiu que a empresa ainda não resolveu o chamado “problema de alinhamento” — a dificuldade de garantir que os objetivos das máquinas permaneçam coerentes com intenções humanas — e alertou que um modelo poderia resistir a ser desligado para não comprometer sua meta programada.
Especialistas divergem sobre riscos da IA
Apesar dos alertas, parte da comunidade científica discorda de previsões mais extremas. Yann LeCun, cientista-chefe de IA da Meta, classificou como um “completo absurdo” algumas previsões sobre uma possível perda de controle da inteligência artificial em 2024.
Pesquisadores que adotam uma visão mais cautelosa afirmam que os sistemas atuais ainda dependem de infraestrutura controlada por humanos, como servidores, energia e redes de comunicação. Para esse grupo, os principais riscos no curto prazo estão relacionados a problemas como desinformação, manipulação de conteúdo, vigilância, segurança digital e mudanças no mercado de trabalho.
União Europeia e Brasil avançam em regulação
Enquanto o debate sobre segurança aumenta, governos começaram a criar regras específicas para IA. A União Europeia implementou o AI Act, legislação que estabelece obrigações para sistemas considerados de maior risco e proíbe determinadas práticas, como sistemas de pontuação social.
No Brasil, o Senado aprovou em dezembro de 2024 o Projeto de Lei 2338/2023, que cria regras para o desenvolvimento e uso da inteligência artificial. A proposta ainda aguarda análise na Câmara dos Deputados.
Já nos Estados Unidos, a política regulatória adotada pelo governo Donald Trump em 2025 buscou reduzir barreiras e acelerar investimentos no setor.
