Leticia Amaral
Organização defende que países adotem medidas de segurança antes mesmo de existir consenso científico sobre todos os perigos ligados aos sistemas avançados de IA
A rápida evolução da inteligência artificial voltou ao centro das discussões internacionais. A Organização das Nações Unidas defende que governos não esperem conhecer completamente todos os riscos da tecnologia antes de implementar mecanismos capazes de reduzir possíveis danos.
A orientação aparece no primeiro relatório temático produzido pelo painel científico internacional criado pela ONU para acompanhar os impactos, oportunidades e ameaças relacionados ao avanço da inteligência artificial.
A principal preocupação está nos sistemas mais avançados. Embora ainda existam dúvidas sobre a dimensão de determinados riscos, o painel considera que alguns cenários podem produzir consequências graves e até irreversíveis.
Segurança deve avançar junto com a tecnologia
Uma das ideias defendidas pelo painel é relativamente simples: a ausência de certeza científica não deve ser utilizada como motivo para adiar medidas de proteção.
Essa abordagem segue o chamado princípio da precaução, utilizado em outras áreas nas quais determinadas ameaças podem provocar consequências difíceis de reverter.
Aplicado à inteligência artificial, isso significa que governos e instituições podem criar mecanismos de segurança mesmo quando pesquisadores ainda não conseguem explicar completamente como determinados incidentes envolvendo sistemas avançados acontecem.
A preocupação aumenta diante da possibilidade de sistemas se tornarem mais autônomos e difíceis de controlar.
Entre as medidas discutidas estão o fortalecimento das pesquisas sobre segurança em IA, uma cooperação maior entre diferentes países, mecanismos de responsabilização e a criação de salvaguardas para tecnologias consideradas de maior risco.
Cooperação internacional ganha importância
A ONU também procura ampliar a coordenação internacional em torno da inteligência artificial.
O painel científico faz parte de uma estrutura criada para fornecer aos governos avaliações independentes sobre o desenvolvimento da tecnologia. A intenção é reunir evidências sobre aquilo que os especialistas já conseguem compreender e, ao mesmo tempo, identificar questões que continuam sem respostas claras.
Paralelamente, existe o Diálogo Global sobre Governança de IA, iniciativa destinada a aproximar governos e outros setores envolvidos no desenvolvimento e na utilização dessas tecnologias.
Enquanto o painel concentra esforços na análise científica, o diálogo internacional busca encontrar pontos de cooperação entre países que podem adotar modelos diferentes de regulamentação.
Essa coordenação se torna especialmente relevante porque sistemas de inteligência artificial desenvolvidos em uma região podem produzir impactos em diversas partes do planeta.
Estados Unidos e China entram no debate
O assunto também ganha importância diante do protagonismo de Estados Unidos e China no desenvolvimento de tecnologias avançadas.
A ONU considera importante que países com grande capacidade tecnológica mantenham canais de comunicação e discutam mecanismos comuns de segurança.
O secretário-geral António Guterres já comparou a atual disputa tecnológica com momentos históricos de intensa competição entre grandes potências. A preocupação é impedir que a busca por liderança no setor provoque uma redução dos padrões de segurança.
Nesse cenário, acordos mínimos poderiam ajudar a estabelecer limites e práticas compartilhadas para sistemas considerados mais poderosos.
IA também traz oportunidades
Apesar dos alertas, a discussão promovida pela ONU não trata a inteligência artificial apenas como uma ameaça.
A tecnologia pode gerar avanços em diferentes áreas, aumentar a produtividade e criar novas ferramentas para governos, empresas e cidadãos.
O desafio está justamente em aproveitar essas possibilidades sem ignorar riscos que podem surgir conforme os modelos se tornam mais sofisticados.
Além das discussões sobre sistemas avançados, a organização trabalha em propostas relacionadas à proteção de crianças no uso da inteligência artificial e em iniciativas destinadas a ampliar a capacidade tecnológica de países em desenvolvimento.
Debate sobre regras para IA deve crescer
A tendência é que segurança e governança se tornem temas cada vez mais presentes à medida que novas gerações de inteligência artificial forem lançadas.
Governos terão de encontrar um equilíbrio entre inovação, competitividade e proteção da sociedade.
Para a ONU, esperar que todas as dúvidas sejam solucionadas para somente depois agir pode não ser a melhor estratégia. A proposta é desenvolver mecanismos de prevenção paralelamente ao avanço da própria tecnologia.
Com empresas e países investindo cada vez mais em modelos avançados, a discussão deixa de envolver apenas especialistas em tecnologia e passa a ocupar também a agenda diplomática internacional.
Nos próximos anos, uma das grandes questões será justamente até onde a inteligência artificial poderá avançar e quais salvaguardas serão necessárias para que esse desenvolvimento aconteça de maneira mais segura.
