A discussão sobre os limites da inteligência artificial ganhou dimensão internacional nesta quarta-feira (23), durante uma sessão do Conselho de Segurança da ONU. Na ocasião, Sam Altman, CEO da OpenAI, e Dario Amodei, CEO da Anthropic, defenderam maior cooperação entre governos e empresas para lidar com os riscos associados aos modelos mais avançados.
A reunião ocorreu durante a semana de alto nível da Assembleia-Geral das Nações Unidas, em Nova York. Além disso, o encontro reuniu representantes do setor privado e especialistas para discutir segurança, supervisão e os possíveis impactos de sistemas de IA cada vez mais capazes.
Altman destacou que decisões importantes sobre sistemas avançados não devem ficar restritas aos laboratórios de tecnologia. Segundo o executivo, governos precisam participar da definição de regras e mecanismos de segurança. A OpenAI também publicou a íntegra de sua manifestação no Conselho de Segurança.
Amodei, por sua vez, defendeu mecanismos internacionais para acompanhar o desenvolvimento da tecnologia. Entre as propostas mencionadas pelo executivo estão padrões comuns de testes, sistemas de avaliação e comunicação de incidentes relacionados à segurança.
Empresas rivais levam debate à ONU
A presença conjunta de Altman e Amodei chamou atenção porque OpenAI e Anthropic disputam espaço no desenvolvimento de modelos de inteligência artificial de fronteira. Ainda assim, os executivos convergiram sobre a necessidade de criar mecanismos capazes de acompanhar os riscos associados ao avanço da tecnologia.
Além disso, a discussão ocorre em um momento de maior pressão sobre as empresas de IA. Nas últimas semanas, líderes do setor passaram a defender medidas de segurança diante do avanço acelerado das capacidades dos modelos.
Amodei havia publicado anteriormente um ensaio no qual defendia reduzir o ritmo de desenvolvimento dos sistemas mais avançados para permitir que mecanismos de segurança acompanhem a evolução tecnológica. Altman apoiou publicamente essa proposta, assim como Elon Musk e outros executivos do setor.
Riscos incluem uso biológico e perda de controle
Durante sua participação no Conselho de Segurança, Amodei ressaltou tanto o potencial econômico e científico da IA quanto os riscos associados a sistemas mais avançados.
Entre as preocupações apresentadas pelo CEO da Anthropic estão o uso da tecnologia por grupos criminosos para desenvolver armas biológicas e a possibilidade de sistemas adquirirem capacidades difíceis de controlar. Por isso, o executivo defendeu mecanismos internacionais para reduzir esses riscos.
Ao mesmo tempo, Amodei argumentou que governos e empresas precisam estabelecer parâmetros comuns para avaliar os modelos. Dessa forma, testes, verificações e comunicação de incidentes poderiam seguir critérios mais próximos entre diferentes países.
Hugging Face relata ataque com agentes de IA
O debate também contou com a participação de Clément Delangue, CEO da Hugging Face. A empresa enfrentou recentemente um ataque envolvendo agentes de inteligência artificial que tentaram acessar seus sistemas.
O episódio ampliou a discussão sobre segurança cibernética e sobre o uso de sistemas autônomos em ataques digitais. Ainda assim, Delangue pediu cautela na interpretação do caso e defendeu decisões baseadas em evidências, em vez de respostas motivadas apenas pelo temor diante da tecnologia.
Além disso, o executivo destacou que a própria inteligência artificial pode ajudar empresas a identificar e responder a ataques. Assim, o mesmo tipo de tecnologia que cria novos riscos também pode integrar mecanismos de defesa.
EUA resistem a uma regulação internacional
A defesa de maior coordenação internacional ocorre, entretanto, em meio à resistência do governo dos Estados Unidos a uma estrutura global de regulação da IA.
O presidente Donald Trump tem defendido que os EUA mantenham vantagem tecnológica sobre a China. Em declarações recentes, Trump também rejeitou propostas de desaceleração do desenvolvimento da IA e afirmou que os riscos apontados por críticos não deveriam impedir o avanço do setor.
Na ONU, Trump voltou a criticar propostas de coordenação internacional. Essa posição contrasta com os argumentos apresentados por Altman e Amodei no Conselho de Segurança.
Por outro lado, o secretário-geral da ONU, António Guterres, defendeu a criação de canais de diálogo entre os países com maior capacidade de desenvolvimento de IA. Segundo ele, transparência e cooperação podem ajudar a administrar riscos associados à tecnologia.
EUA e China discutem segurança da IA
O debate internacional ocorre ainda às vésperas de uma reunião entre Trump e o presidente chinês Xi Jinping em Washington. A inteligência artificial está entre os temas previstos para a agenda dos dois países.
Além das disputas comerciais e tecnológicas, Washington e Pequim discutem mecanismos de comunicação relacionados à segurança da IA. As conversas envolvem temas como riscos de incidentes e formas de manter canais de contato entre os dois governos.
Apesar disso, a cooperação enfrenta obstáculos. Estados Unidos e China disputam a liderança tecnológica e mantêm restrições sobre o acesso a componentes avançados usados no desenvolvimento de sistemas de IA.
Altman defende padrões comuns
Nesse cenário, Altman apresentou uma posição voltada à criação de padrões internacionais de segurança. O CEO da OpenAI defendeu critérios comuns para avaliar riscos, estabelecer salvaguardas e supervisionar sistemas avançados.
A proposta também envolve o compartilhamento de informações sobre incidentes. Com isso, empresas e governos poderiam identificar problemas e reagir de maneira mais coordenada.
Ao mesmo tempo, Altman reconheceu que o setor ainda não possui todas as respostas sobre como administrar os riscos da tecnologia. Por isso, defendeu a participação de diferentes governos e instituições na construção desses mecanismos.
A sessão do Conselho de Segurança mostra, portanto, que a discussão sobre inteligência artificial já ultrapassa o ambiente das empresas de tecnologia. Agora, o debate envolve também segurança internacional, relações entre grandes potências e a definição de regras para uma tecnologia com impacto crescente sobre a economia e a sociedade.
Saiba mais:
Jev: nova IA aposta em decisões automatizadas e menos alucinações
