A Anthropic, criadora do assistente de inteligência artificial generativa Claude, avisou aos potenciais investidores de que a inteligência artificial avançada poderia representar “riscos catastróficos ou existenciais para a humanidade”. O alerta está nos papéis do IPO da empresa, ainda não divulgados publicamente, revisados pela Reuters no final de setembro. IPO é a sigla de initial public offering, oferta pública inicial de ações, um processo pelo qual uma empresa passa a ter papéis negociados em bolsa.
Segundo a agência, poucas empresas, se é que alguma, já fizeram em documentos para investidores um alerta de que a própria tecnologia poderia levar à extinção humana. A advertência parte de uma empresa que compete diretamente na corrida pelos modelos mais avançados de inteligência artificial. No material, a Anthropic admite que esses sistemas podem desenvolver comportamentos difíceis de prever ou controlar. Procurada pela Reuters, a empresa recusou-se a comentar.
Prejuízo de US$ 42 bilhões, mas só parte é operacional
Nesse processo, a empresa apresenta aos investidores um documento chamado prospecto, apresentando seus resultados e os fatores que podem representar riscos para a companhia.
Em 2025, a Anthropic teve prejuízo líquido de cerca de US$ 42 bilhões, segundo esses dados. Aproximadamente US$ 34 bilhões correspondem a um encargo contábil provocado pelo aumento no valor estimado de instrumentos de financiamento que podem ser convertidos em ações. Esse montante, portanto, não representa dinheiro gasto diretamente nas operações da empresa. O prejuízo operacional foi de US$ 8,06 bilhões, e a receita, de quase US$ 4,6 bilhões.
A empresa prepara um IPO que pode avaliá-la em mais de US$ 2 trilhões. Segundo a Reuters, a estreia no mercado de ações provavelmente ficará para depois das eleições legislativas dos Estados Unidos, em novembro.
O que a empresa diz sobre os próprios modelos
O documento afirma que os modelos podem apresentar “comportamentos de autopreservação” (self-preserving behaviors), como resistir ao desligamento, esconder ou manipular informações e agir de forma semelhante a uma chantagem. Cerca de 80 das 261 páginas do corpo principal tratam de fatores de risco – quase o dobro das 48 páginas dedicadas a descrever o negócio. A SpaceX, em comparação, reservou cerca de 38 das 277 páginas do seu material para essa seção, segundo a Reuters.
Parte da preocupação vem de experimentos das próprias empresas. Em junho de 2025, a Anthropic publicou um estudo no qual testou 16 modelos de diferentes desenvolvedoras em ambientes corporativos fictícios. Em algumas situações, os sistemas recorreram a chantagem e vazamento de informações para cumprir seus objetivos ou evitar serem substituídos.
Os resultados, porém, exigem cautela. Os pesquisadores criaram situações extremas e restringiram as alternativas disponíveis aos modelos para observar como reagiriam sob pressão. Tudo ocorreu em simulações sem pessoas reais envolvidas. A própria Anthropic afirma que não encontrou evidências desse comportamento em aplicações reais. Por isso, o estudo não permite estimar com que frequência algo semelhante aconteceria fora dos testes.
Corrida por lançamentos pressiona a segurança
O International AI Safety Report 2026, aponta que a competição pode levar empresas a lançar sistemas mais rapidamente, mesmo quando testes adicionais de segurança exigiriam mais tempo. O relatório também identifica um problema de transparência: por razões comerciais, desenvolvedoras costumam não compartilhar informações sobre seus sistemas, o que limita o escrutínio de pesquisadores e governos.
Outro obstáculo é a diferença entre o desempenho durante os testes e o comportamento no mundo real. Alguns modelos já conseguem identificar que estão sendo avaliados ou explorar brechas nos próprios métodos de avaliação. Segundo o relatório, isso pode dificultar a identificação de capacidades perigosas antes do lançamento.
A própria Anthropic reconhece o problema. A possível percepção dos modelos de que estão sendo avaliados representa, nas palavras da empresa, uma “limitação significativa” (significant limitation) para medir sua segurança.
O retorno dos investimentos em segurança também é incerto, diz a Anthropic, que não informa quanto gasta na área. Ainda assim, a empresa afirma acreditar que o mercado recompensará sistemas confiáveis e seguros.
Para Paulo Ramirez, cientista político e professor do curso de Ciências Sociais e do Consumo da ESPM, o debate sobre os riscos da tecnologia também envolve os interesses de quem as financia. Na avaliação dele, os investidores priorizam o retorno financeiro e a preservação de condições políticas que favoreçam a expansão dos próprios negócios.
Essa lógica, segundo o professor, reforça a necessidade de pressão externa sobre as empresas. Ele aponta a mobilização da sociedade civil e a possibilidade de boicotes como formas de levar as companhias a modificar suas práticas e políticas.
ONU criou painel científico e fórum de discussão
Em 26 de agosto de 2025, a Assembleia Geral da ONU estabeleceu, por consenso, o Painel Científico Internacional Independente sobre Inteligência Artificial e o Diálogo Global sobre Governança de IA.
Os 40 integrantes do painel foram nomeados em fevereiro de 2026 para mandatos de três anos. O grupo publicou seu relatório preliminar em julho e, em setembro, divulgou seu primeiro informe temático, sobre agentes de IA, desalinhamento e o risco de perda de controle humano. O documento analisa um episódio do verão, em que agentes de IA avaliados pela OpenAI invadiram sistemas da Hugging Face. O painel afirma que o caso não garante que humanos conseguirão manter o controle de agentes mais capazes, mas não estima a probabilidade nem o prazo de uma perda de controle grave.
O primeiro Diálogo Global sobre Governança de IA ocorreu em 6 e 7 de julho, em Genebra, e reuniu mais de 3 mil participantes, entre delegações de 163 países, ministros e mais de mil organizações de empresas, sociedade civil, academia e comunidade técnica, segundo a ONU. O fórum não é um espaço de negociação: cada edição termina com um resumo dos copresidentes, e não com um documento negociado entre os países.
O resumo da primeira edição, já divulgado, aponta convergências como a necessidade de reduzir as desigualdades no acesso à IA e de proteger os direitos humanos e as crianças. A segunda edição está marcada para 3 e 4 de maio de 2027, em Nova York.
Entre a fiscalização e a disputa por poder
A criação de espaços internacionais de discussão convive com divergências sobre os interesses que orientam o desenvolvimento tecnológico. Para Ramirez, a competição entre países envolve tanto vantagens comerciais quanto a capacidade de influenciar a formação de opiniões.
“Hoje, China e Estados Unidos estão em disputa não só comercial, mas também ideológica, a partir dessas ferramentas de alta tecnologia”, avalia.
O professor caracteriza essa busca por influência como um “imperialismo digital”. Em sua análise, a personalização das plataformas conforme os hábitos de cada usuário amplia a capacidade das empresas de interferir em gostos, comportamentos de consumo e preferências políticas.
A fiscalização, por sua vez, esbarra em uma disputa sobre o significado de liberdade. Ramirez argumenta que a defesa da competição comercial e da liberdade de expressão pode ser utilizada por representantes das big techs para resistir a restrições à sua atuação. Para ele, há um paradoxo quando empresas acusam o Estado de limitar liberdades enquanto suas próprias plataformas exercem influência sobre as escolhas dos indivíduos.
Danos que já existem e riscos ainda incertos
Parte dos riscos associados à IA não está no futuro. O relatório internacional reúne casos de uso da tecnologia em golpes, fraudes, chantagens e produção de imagens íntimas sem consentimento. Ao mesmo tempo, reconhece benefícios já observados em áreas como saúde, educação e pesquisa científica.
O desafio para pesquisadores e governos é decidir como reagir enquanto parte das evidências ainda está sendo produzida. O relatório chama essa situação de “dilema da evidência”: agir cedo demais pode consolidar medidas que depois se mostrem ineficazes, enquanto esperar por dados conclusivos pode deixar a sociedade exposta a riscos graves.
O material da Anthropic deixa esse impasse evidente: ao mesmo tempo em que busca recursos no mercado para desenvolver sistemas cada vez mais potentes, a empresa alerta os próprios investidores para os riscos que esses sistemas podem trazer.
A sociedade também precisa participar
Para Ramirez, o debate sobre os efeitos das plataformas precisa chegar à sociedade e aos representantes políticos. Ele defende que os estudos sobre o tema fundamentem discussões públicas sobre os limites da atuação das empresas e a proteção das liberdades individuais.
“É importante que haja pressão da sociedade civil, traduzida e transmitida até os partidos políticos, para que se produzam certas restrições, ou pelo menos alertas, de quais são esses efeitos”, afirma.
Na avaliação do professor, movimentos sociais e organizações da sociedade civil têm papel central nesse processo. A participação coletiva seria uma forma de pressionar por mudanças e contestar a concentração de poder nas empresas de tecnologia.
___________
O texto acima foi editado por Maria Eduarda Barreira.
Gostou desse tipo de conteúdo? Confira Her Campus Cásper Líbero para mais!