A rápida evolução dos sistemas de inteligência artificial está aumentando a pressão por regras internacionais capazes de acompanhar uma tecnologia que ganha novas capacidades em intervalos cada vez menores. O assunto voltou ao centro das discussões após a saída de Jacob Coxon da Anthropic, empresa responsável pelo assistente Claude.
Aos 27 anos, Coxon decidiu abandonar o trabalho diretamente ligado ao desenvolvimento de modelos avançados depois de passar cerca de três anos no setor, com experiências na OpenAI e, posteriormente, na Anthropic. Ao explicar publicamente sua decisão, ele apresentou uma avaliação preocupante sobre os rumos da atual disputa entre as grandes empresas de tecnologia.
Em entrevista à BBC, Coxon relatou que o temor sobre possíveis consequências da IA não está limitado a pessoas de fora da indústria. Segundo ele, profissionais envolvidos diretamente na criação desses sistemas também demonstram preocupação com o que poderá acontecer caso a evolução continue sem controles suficientes.
Sua avaliação sobre os possíveis riscos é especialmente severa. Coxon considera que cenários capazes de ameaçar a própria humanidade precisam ser tratados como uma possibilidade e defende uma redução coordenada na velocidade de desenvolvimento das tecnologias mais avançadas.
Para o pesquisador, porém, uma empresa isoladamente teria dificuldades para tomar essa decisão. O setor vive uma intensa competição por modelos mais poderosos, o que pode levar cada companhia a continuar investindo rapidamente por receio de ficar atrás das concorrentes.
Essa preocupação também alcança a disputa entre países. Coxon argumenta que qualquer acordo para desacelerar determinados avanços precisaria envolver grandes potências tecnológicas, incluindo a China. Sem uma iniciativa conjunta, o esforço poderia simplesmente transferir a corrida para o cenário internacional.
O CEO da Anthropic, Dario Amodei, também vem defendendo maior atenção aos riscos. Em texto publicado no sábado (12), ele afirmou que o avanço da inteligência artificial deve ser acompanhado de mecanismos que permitam a empresas e governos reagir adequadamente aos desafios criados por sistemas mais sofisticados.
A discussão ganhou ainda a participação de outros nomes importantes da indústria. Sam Altman, da OpenAI, e Elon Musk, da xAI, já manifestaram apoio à adoção de regulamentação e de formas independentes de acompanhamento do desenvolvimento da tecnologia.
Um dos cenários considerados por especialistas envolve grandes quantidades de agentes digitais operando de maneira coordenada e realizando atividades em enorme escala pela internet. Coxon acredita que capacidades desse tipo podem evoluir de maneira significativa em um período relativamente curto.
A Anthropic declarou à BBC que trabalha justamente para reduzir esses riscos. A companhia afirma submeter seus modelos a testes rigorosos, desenvolver mecanismos de proteção e divulgar pesquisas que ajudem especialistas a identificar comportamentos indesejados antes que sistemas mais avançados sejam disponibilizados.
O debate também recebeu manifestações de pesquisadores reconhecidos internacionalmente. Geoffrey Hinton, um dos pioneiros da inteligência artificial moderna e vencedor do Prêmio Nobel, afirmou à BBC que não considera absurda a discussão sobre uma possibilidade de 10% de sistemas avançados provocarem uma catástrofe capaz de atingir toda a humanidade.
Marc Warner, CEO da Faculty AI, adotou uma posição mais cautelosa sobre números específicos. Para ele, não existem elementos suficientes para determinar com precisão qual seria a probabilidade de um cenário extremo. Warner ressaltou, entretanto, que os alertas feitos por pessoas que trabalham diretamente com a tecnologia são sinceros e merecem atenção.
A controvérsia evidencia um desafio que deverá acompanhar a próxima fase da inteligência artificial: encontrar um equilíbrio entre inovação e segurança. Com empresas investindo bilhões de dólares e países disputando liderança tecnológica, cresce a discussão sobre até que ponto o mercado conseguirá estabelecer limites por conta própria e qual deverá ser o papel dos governos na definição das regras.
