Tudo sobre Inteligência Artificial
A Anthropic afirmou que pode estar próxima de desenvolver uma inteligência artificial capaz de acelerar o próprio aprimoramento. O alerta aparece em uma atualização de seu prospecto de abertura de capital (S-1/A), enviada à Comissão de Valores Mobiliários dos Estados Unidos (SEC).
Continua após a publicidade
A empresa afirma que ainda não atingiu esse estágio, mas suas estimativas indicam que isso pode acontecer em breve.
O que é a autossuperação recursiva da IA?
Conhecida como recursive self-improvement (RSI), ou autossuperação recursiva, a tecnologia descreve um estágio em que sistemas de inteligência artificial conseguem aprimorar seus próprios processos de desenvolvimento, acelerando a evolução de suas capacidades.
A possibilidade divide opiniões. Para críticos preocupados com os riscos da IA, esse avanço poderia levar à criação de sistemas tão poderosos que escapassem ao controle humano e causassem danos enquanto perseguissem seus objetivos. Já os entusiastas enxergam na RSI uma oportunidade de ampliar a produtividade e acelerar descobertas científicas.
A Anthropic reconhece os dois lados dessa discussão. No documento enviado à SEC, a empresa afirma que já utiliza inteligência artificial em suas atividades de pesquisa e desenvolvimento, mas alerta que essa estratégia também pode representar um risco considerável à segurança, especialmente se acelerar drasticamente o ritmo do progresso.
Empresa admite que pode atingir esse estágio em breve
A atualização inclui novos alertas na seção de fatores de risco. A Anthropic revela que já utilizou sistemas de inteligência artificial para desenvolver novos modelos sem perceber, naquele momento, a dimensão dos avanços de capacidade alcançados.
O uso crescente de IA nas pesquisas também pode fazer com que os modelos evoluam mais rapidamente do que a capacidade da empresa de desenvolver, validar e implementar medidas de segurança, alinhamento e proteção.
Segundo o documento, estimativas internas e projeções sobre modelos futuros indicam que a companhia pode atingir em breve o que sua Política de Escalonamento Responsável define como “progresso dramaticamente acelerado atribuível à IA”.
A empresa ressalva que nenhum de seus modelos atuais foi classificado como tendo ultrapassado esse limite. A avaliação dos dados continua em andamento.
Supervisão humana deve continuar
Mesmo diante dessa possibilidade, a Anthropic afirma que não espera conseguir utilizar o Claude para projetar e construir, de maneira totalmente autônoma, sucessivas gerações de modelos avançados sem supervisão ou compreensão humana significativa.
A companhia também considera atualizar sua Política de Escalonamento Responsável para manter as pessoas no controle do desenvolvimento de seus modelos mais avançados.
O documento também merece ser considerado no contexto em que foi apresentado: registros enviados à SEC cumprem obrigações de divulgação, mas podem funcionar como instrumentos de apresentação das perspectivas da empresa ao mercado.
Continua após a publicidade
A Anthropic destaca que as capacidades do Claude avançaram neste ano, especialmente em programação, matemática e segurança cibernética. Ainda assim, nenhum modelo atual foi considerado pela empresa como tendo alcançado o estágio de autossuperação recursiva.
Valdir Antonelli
Valdir Antonelli é jornalista com especialização em marketing digital e consumo.
Fonte: Olhar Digital
