Corrida pela IA entra em nova fase: líderes pedem desaceleração enquanto China e EUA discutem riscos de sistemas avançados

A corrida mundial pela inteligência artificial começa a enfrentar uma questão que há poucos anos parecia distante: até que ponto é seguro continuar aumentando rapidamente as capacidades dos modelos mais avançados?

Nos últimos dias, o debate ganhou força depois que Dario Amodei, CEO da Anthropic, defendeu uma redução deliberada no ritmo de desenvolvimento das capacidades dos modelos de fronteira. Sam Altman, CEO da OpenAI, e Elon Musk também manifestaram apoio público à necessidade de moderar esse avanço. Amodei propôs ainda avaliações externas contínuas para acompanhar as práticas de segurança dos principais laboratórios.

A discussão não significa necessariamente interromper o desenvolvimento da inteligência artificial. O argumento apresentado por pesquisadores e executivos é que o avanço das capacidades pode estar ocorrendo mais rapidamente do que o desenvolvimento de técnicas capazes de monitorar, avaliar e controlar esses sistemas.

Casos recentes envolvendo agentes de IA operando de maneira inesperada e preocupações com aplicações em cibersegurança contribuíram para aumentar a pressão sobre os principais laboratórios de inteligência artificial.

China também entra no debate sobre segurança

A questão deixou de ser exclusivamente uma discussão entre empresas do Vale do Silício.

Estados Unidos e China estão preparando um diálogo dedicado especificamente aos riscos de segurança associados à inteligência artificial avançada. Entre os assuntos considerados estão ataques cibernéticos conduzidos com auxílio de IA, monitoramento de modelos avançados e possíveis mecanismos de cooperação entre laboratórios dos dois países.

Autoridades chinesas também alertaram recentemente sobre riscos classificados como “extremos” de perda de controle de sistemas de IA, segundo informações reportadas pela Reuters.

O tema deverá adquirir ainda mais peso político nas próximas semanas. O presidente chinês Xi Jinping e o presidente dos Estados Unidos, Donald Trump, têm encontro previsto para 24 de setembro, e inteligência artificial está entre os assuntos esperados para a reunião.

Isso, entretanto, não significa que Pequim esteja abandonando a corrida tecnológica.

Em pronunciamento aos países do BRICS, Xi Jinping defendeu o fortalecimento da cooperação em inteligência artificial, o incentivo ao código aberto e uma iniciativa de nova industrialização apoiada por IA. A formulação oficial combina abertura tecnológica, pesquisa e aplicação industrial entre os países do bloco.

Surge, portanto, uma aparente contradição que pode definir os próximos anos da inteligência artificial: continuar avançando rapidamente enquanto se tenta impedir que as capacidades ultrapassem os mecanismos existentes de segurança e controle.

Um possível ponto de inflexão

Durante grande parte da última década, a competição em inteligência artificial esteve concentrada em modelos maiores, mais dados e quantidades crescentes de poder computacional.

Agora, a discussão passa a incluir outra variável: controle.

Empresas e governos começam a considerar não apenas quais capacidades podem ser construídas, mas também quais capacidades podem ser verificadas, supervisionadas e implantadas de maneira segura.

Ainda é cedo para afirmar que haverá um acordo internacional para desacelerar o desenvolvimento da inteligência artificial. Estados Unidos e China continuam sendo competidores estratégicos, e ambos possuem fortes incentivos econômicos e geopolíticos para manter liderança tecnológica.

Mas o fato de segurança e controle estarem simultaneamente entrando nas agendas dos maiores laboratórios de IA e das duas principais potências tecnológicas do mundo indica que a corrida pela inteligência artificial pode estar entrando em uma nova fase.