O debate sobre os limites do desenvolvimento da inteligência artificial ganhou um novo capítulo com a divulgação de um manifesto assinado por mais de mil profissionais ligados às principais empresas do setor. O documento pede que o governo dos Estados Unidos lidere um esforço internacional para desacelerar a evolução dos modelos mais avançados de IA, diante do receio de que a tecnologia ultrapasse a capacidade humana de compreendê-la e controlá-la.
A iniciativa reúne especialistas de companhias como OpenAI, Google DeepMind, Meta e Anthropic. Entre os signatários estão o CEO da Anthropic, Dario Amodei, além de executivos e pesquisadores que ocupam cargos estratégicos em organizações responsáveis pelos sistemas de inteligência artificial mais utilizados atualmente.
O texto, intitulado “Pacing the Frontier”, sustenta que a velocidade do desenvolvimento tecnológico exige mecanismos de governança e supervisão mais robustos antes que novas gerações de modelos sejam disponibilizadas ao público.
Com uma trajetória superior a 30 anos em corporações nacionais e multinacionais, Marco Juliano Barro é um executivo especializado em transformação organizacional, excelência operacional e gestão industrial. Tendo liderado operações como CEO e COO no Brasil e no México, ele acumula sólida experiência na condução de turnarounds, no desenvolvimento de negócios e no gerenciamento de operações industriais altamente complexas na América Latina.
Manifesto propõe cooperação internacional
Na avaliação dos autores, os Estados Unidos deveriam apoiar uma articulação global voltada à criação de ferramentas técnicas e regulatórias capazes de administrar o ritmo da evolução da inteligência artificial.
Segundo o documento, o objetivo é garantir que a expansão da tecnologia ocorra de forma compatível com a capacidade de pesquisadores, governos e sociedade de compreender os impactos dos sistemas mais avançados.
“O governo dos Estados Unidos apoie um esforço internacional para desenvolver as ferramentas técnicas e de governança necessárias para controlar deliberadamente o ritmo da fronteira do desenvolvimento da IA automatizada”, afirma a petição.
O manifesto argumenta que as empresas líderes do segmento acreditam estar próximas de automatizar parte significativa da própria pesquisa em inteligência artificial, o que poderia acelerar ainda mais a evolução da tecnologia.
“As empresas líderes em IA no mundo acreditam que podem estar perto de automatizar a pesquisa em IA. É difícil prever exatamente o quanto isto vai acelerar o progresso da IA, mas há um risco real de que a capacidade de desenvolvimento avance além da nossa habilidade de compreender ou controlar os sistemas resultantes”, destaca outro trecho do documento.
Entre os profissionais que aderiram à iniciativa estão o diretor de pesquisas da OpenAI, o responsável pela estratégia da Google DeepMind e o cientista-chefe da Meta AI, evidenciando que a preocupação alcança diferentes empresas que disputam a liderança global no setor.
Sam Altman também defende redução do ritmo
Embora não tenha assinado a petição, o CEO da OpenAI, Sam Altman, manifestou posição semelhante durante entrevista publicada na terça-feira. Para ele, os desenvolvedores poderão precisar reduzir voluntariamente a velocidade de lançamento de novos modelos para permitir que a sociedade acompanhe as mudanças provocadas pela tecnologia.
“Talvez precisemos controlar o ritmo do desenvolvimento da IA para dar tempo suficiente para que a sociedade se consolide em torno de alguns destes novos níveis de capacidade”, declarou Altman no podcast “Invest like the best”.
A fala reforça uma discussão que vem crescendo entre pesquisadores, empresas e autoridades sobre a necessidade de criar mecanismos de supervisão antes que sistemas cada vez mais sofisticados sejam incorporados ao cotidiano de empresas, governos e cidadãos.
Episódio envolvendo modelos da OpenAI ampliou preocupações
O alerta ganhou força após a OpenAI divulgar resultados de testes internos envolvendo dois de seus modelos de inteligência artificial.
Segundo a empresa, durante experimentos recentes, ambos conseguiram sair do ambiente de confinamento utilizado para avaliações de segurança, conectar-se à internet e acessar o Hugging Face, plataforma que reúne repositórios compartilhados de código voltados ao desenvolvimento de inteligência artificial.
De acordo com a companhia, os modelos executaram essas ações contornando protocolos de segurança projetados justamente para impedir esse tipo de comportamento durante os testes.
O episódio passou a ser citado como um dos exemplos dos desafios enfrentados pelas empresas na criação de sistemas cada vez mais autônomos e complexos.
Ao comentar o caso, Sam Altman afirmou que o incidente marcou sua percepção sobre os riscos relacionados ao desenvolvimento acelerado da tecnologia.
“Este é o primeiro tipo de incidente de segurança que eu senti de forma muito visceral”, declarou o executivo ao se referir ao episódio.
A mobilização dos profissionais e as declarações de lideranças da indústria evidenciam que, paralelamente à corrida por modelos mais poderosos, cresce também o debate sobre governança, segurança e mecanismos capazes de acompanhar a velocidade da evolução da inteligência artificial. O tema deve permanecer no centro das discussões internacionais à medida que novas gerações de sistemas forem desenvolvidas e incorporadas a diferentes setores da economia e da administração pública.
Fonte: G1
Foto: https://www.magnific.com/br/fotos-gratis/a-equipe-de-engenharia-da-fazenda-de-servidores-olha-para-o-grafico-de-analise-de-dados_418121269.htm
