Os sinais de que os modelos mais recentes de Inteligência Artificial poderiam escapar do controle humano fez com que a empresa de IA Anthropic propusesse, na quinta-feira (04), uma pausa global no desenvolvimento desses sistemas.
De acordo com a empresa, criadora do modelo Claude, um relatório mostra que a desaceleração mundial no desenvolvimento de modelos de IA podem ser uma “boa ideia”. Porém, a mesma entende que se parar sozinha pode ser ultrapassada pela concorrência cada vez mais acirrada.
"Acreditamos que seria bom para o mundo ter a opção de reduzir ou parar temporariamente o desenvolvimento da IA, para permitir que as estruturas sociais e a pesquisa de alinhamento sigam o ritmo do avanço da tecnologia", relata a Anthropic.
Na prática, a pausa significaria que empresas de todo o mundo, incluindo as superpotências China e Estados Unidos, teriam que parar ao mesmo tempo, mediante regras diversas pré-estabelecidas. Segundo a Anthropic, sem um mecanismo de coordenação global, as decisões mais difíceis do setor ficariam a cargo de empresas e governos.
Apesar da proposta, o cenário é difícil. A Anthropic, sediada no polo tecnológico de São Francisco, vê que a batalha da região com Washington para uma decisão nesse sentido é difícil. Na visão de líderes na capital estadunidense, uma decisão desse tipo é dar uma brecha significativa para a China ficar à frente no desenvolvimento dessa tecnologia.
Ainda assim, a empresa não largou a pauta e espera se reunir com cientistas, empresas concorrentes e funcionários do governo para discutir soluções.
O posicionamento ocorreu na semana em que o presidente Donald Trump decretou que permitirá fazer avaliações preliminares dos modelos de IA mais poderosos de empresas estadunidenses antes do lançamento.
A Anthropic ainda alertou que a aceleração criaria um ciclo de retroalimentação que poderia levar ao que pesquisadores chamam de “melhora recursiva de si mesma”, ou seja, o sistema de IA poderia ser capaz de ensinar a si próprio para se tornar cada vez mais inteligente. Embora a empresa negue que esse ponto seja inevitável, acredita que o papel do ser humano diminuí a cada evolução.