Tudo sobre Inteligência Artificial
A Anthropic afirmou que pode estar próxima de desenvolver uma inteligência artificial capaz de acelerar o próprio aprimoramento. O alerta aparece em uma atualização de seu prospecto de abertura de capital (S-1/A), enviada à Comissão de Valores Mobiliários dos Estados Unidos (SEC).
Continua após a publicidade
A empresa afirma que ainda não atingiu esse estágio, mas suas estimativas indicam que isso pode acontecer em breve.
O que é a autossuperação recursiva da IA?
Conhecida como recursive self-improvement (RSI), ou autossuperação recursiva, a tecnologia descreve um estágio em que sistemas de inteligência artificial conseguem aprimorar seus próprios processos de desenvolvimento, acelerando a evolução de suas capacidades.
A possibilidade divide opiniões. Para críticos preocupados com os riscos da IA, esse avanço poderia levar à criação de sistemas tão poderosos que escapassem ao controle humano e causassem danos enquanto perseguissem seus objetivos. Já os entusiastas enxergam na RSI uma oportunidade de ampliar a produtividade e acelerar descobertas científicas.
A Anthropic reconhece os dois lados dessa discussão. No documento enviado à SEC, a empresa afirma que já utiliza inteligência artificial em suas atividades de pesquisa e desenvolvimento, mas alerta que essa estratégia também pode representar um risco considerável à segurança, especialmente se acelerar drasticamente o ritmo do progresso.
Empresa admite que pode atingir esse estágio em breve
A atualização inclui novos alertas na seção de fatores de risco. A Anthropic revela que já utilizou sistemas de inteligência artificial para desenvolver novos modelos sem perceber, naquele momento, a dimensão dos avanços de capacidade alcançados.
O uso crescente de IA nas pesquisas também pode fazer com que os modelos evoluam mais rapidamente do que a capacidade da empresa de desenvolver, validar e implementar medidas de segurança, alinhamento e proteção.
Segundo o documento, estimativas internas e projeções sobre modelos futuros indicam que a companhia pode atingir em breve o que sua Política de Escalonamento Responsável define como “progresso dramaticamente acelerado atribuível à IA”.
A empresa ressalva que nenhum de seus modelos atuais foi classificado como tendo ultrapassado esse limite. A avaliação dos dados continua em andamento.
Supervisão humana deve continuar
Mesmo diante dessa possibilidade, a Anthropic afirma que não espera conseguir utilizar o Claude para projetar e construir, de maneira totalmente autônoma, sucessivas gerações de modelos avançados sem supervisão ou compreensão humana significativa.
A companhia também considera atualizar sua Política de Escalonamento Responsável para manter as pessoas no controle do desenvolvimento de seus modelos mais avançados.
O documento também merece ser considerado no contexto em que foi apresentado: registros enviados à SEC cumprem obrigações de divulgação, mas podem funcionar como instrumentos de apresentação das perspectivas da empresa ao mercado.
Continua após a publicidade
A Anthropic destaca que as capacidades do Claude avançaram neste ano, especialmente em programação, matemática e segurança cibernética. Ainda assim, nenhum modelo atual foi considerado pela empresa como tendo alcançado o estágio de autossuperação recursiva.
Valdir Antonelli
Valdir Antonelli é jornalista com especialização em marketing digital e consumo.
Ver todos os artigos →
!function(f,b,e,v,n,t,s){
if(f.fbq)return;
n=f.fbq=function(){n.callMethod?n.callMethod.apply(n,arguments):n.queue.push(arguments)};
if(!f._fbq)f._fbq=n;n.push=n;n.loaded=!0;n.version=’2.0′;
n.queue=[];t=b.createElement(e);t.async=!0;
t.src=v;s=b.getElementsByTagName(e)[0];
s.parentNode.insertBefore(t,s)
}(window, document,’script’, ‘https://connect.facebook.net/en_US/fbevents.js’);
fbq(‘init’, ‘1221644929160171’);
fbq(‘track’, ‘PageView’);
Fonte Original | Notícias – Olhar Digital
