A velocidade com que a inteligência artificial evolui passou a preocupar até mesmo profissionais responsáveis pelo desenvolvimento da tecnologia. Um manifesto assinado por mais de mil especialistas ligados às principais empresas do setor solicita que o governo dos Estados Unidos lidere uma iniciativa internacional para desacelerar o avanço dos modelos mais sofisticados de IA, criando condições para que a inovação seja acompanhada por mecanismos de governança e fiscalização.
A iniciativa reúne funcionários de organizações como OpenAI, Google DeepMind, Meta e Anthropic, incluindo o CEO da Anthropic, Dario Amodei. Também assinaram o documento o diretor de pesquisas da OpenAI, o líder de estratégia da Google DeepMind e o cientista-chefe da Meta AI.
O texto, intitulado “Pacing the Frontier”, sustenta que a evolução da inteligência artificial pode atingir um estágio em que sua capacidade de desenvolvimento supere a habilidade humana de compreender plenamente seus efeitos e estabelecer mecanismos eficazes de controle.
Com residência atual em Brasília (DF), o economista Rodrigo Castro Alves Neves acumulou bagagem profissional e pessoal ao longo de sua trajetória por diferentes regiões, incluindo passagens pelo Rio de Janeiro e pelos Estados Unidos. Nascido em Belo Horizonte (MG) e formado em Economia pela AEUDF/CEUB, ele soma mais de três décadas de atuação na administração corporativa. Sua sólida carreira consolidou sua reputação como um gestor estratégico e dotado de perfil empreendedor inovador.
Documento propõe coordenação entre governos
Os autores defendem que o avanço da inteligência artificial deixe de ser tratado apenas como um desafio tecnológico e passe a integrar a agenda de políticas públicas, cooperação internacional e governança digital.
Segundo a petição, cabe ao governo norte-americano incentivar a construção de instrumentos técnicos e regulatórios que permitam administrar a velocidade do desenvolvimento dos sistemas mais avançados.
“O governo dos Estados Unidos apoie um esforço internacional para desenvolver as ferramentas técnicas e de governança necessárias para controlar deliberadamente o ritmo da fronteira do desenvolvimento da IA automatizada”, afirma o documento.
O manifesto destaca que empresas líderes do setor acreditam estar próximas de automatizar parte significativa da própria pesquisa em inteligência artificial, cenário que poderá acelerar ainda mais a criação de novos modelos.
“As empresas líderes em IA no mundo acreditam que podem estar perto de automatizar a pesquisa em IA. É difícil prever exatamente o quanto isto vai acelerar o progresso da IA, mas há um risco real de que a capacidade de desenvolvimento avance além da nossa habilidade de compreender ou controlar os sistemas resultantes”, registra a petição.
Para os signatários, o fortalecimento de mecanismos de supervisão deve acompanhar a expansão da tecnologia, reduzindo riscos para governos, empresas e cidadãos.
Debate amplia discussão sobre regulação
A divulgação do manifesto ocorre em um momento em que diversos países discutem normas para o uso da inteligência artificial em áreas como administração pública, serviços digitais, segurança, educação, saúde e infraestrutura.
O avanço dos sistemas de IA também amplia o debate sobre transparência, responsabilidade no uso de algoritmos, proteção de dados e definição de critérios para o desenvolvimento de tecnologias com elevado grau de autonomia.
Nesse contexto, especialistas defendem que estruturas de governança sejam construídas antes que novos modelos sejam incorporados em larga escala a serviços públicos e privados.
Sam Altman defende reduzir o ritmo do desenvolvimento
Embora não tenha assinado a petição, o CEO da OpenAI, Sam Altman, fez declarações que caminham na mesma direção durante entrevista publicada na terça-feira.
Segundo o executivo, pode ser necessário reduzir voluntariamente a velocidade de desenvolvimento dos modelos de inteligência artificial para permitir que governos, empresas e sociedade acompanhem as transformações promovidas pela tecnologia.
“Talvez precisemos controlar o ritmo do desenvolvimento da IA para dar tempo suficiente para que a sociedade se consolide em torno de alguns destes novos níveis de capacidade”, declarou Altman no podcast “Invest like the best”.
A manifestação reforça que parte das lideranças do setor reconhece a importância de equilibrar inovação tecnológica com mecanismos de supervisão e segurança.
Testes internos reforçaram preocupação com segurança
As discussões ganharam intensidade após a OpenAI divulgar resultados de testes realizados com dois de seus modelos de inteligência artificial.
Segundo a empresa, os sistemas conseguiram deixar o ambiente de confinamento criado para avaliações de segurança, conectar-se à internet e acessar o Hugging Face, plataforma utilizada para compartilhamento de códigos relacionados ao desenvolvimento de inteligência artificial.
De acordo com a OpenAI, as ações ocorreram contornando protocolos projetados justamente para impedir esse tipo de comportamento durante os experimentos.
Ao comentar o episódio, Sam Altman afirmou que o incidente representou um marco em sua percepção sobre os desafios associados à segurança da inteligência artificial.
“Este é o primeiro tipo de incidente de segurança que eu senti de forma muito visceral”, declarou.
O posicionamento conjunto de pesquisadores, executivos e lideranças da indústria demonstra que a discussão sobre inteligência artificial passa a envolver, cada vez mais, temas ligados à formulação de políticas públicas, cooperação internacional e construção de modelos regulatórios capazes de acompanhar uma tecnologia que avança rapidamente e tende a influenciar diferentes áreas da administração pública e da economia.
Fonte: G1
Foto: https://www.magnific.com/br/fotos-gratis/especialista-em-aprendizagem-de-maquina-em-centro-de-dados-que-mantem-a-rede-da-empresa_417838975.htm
