OpenAI pede aos EUA que liderem normas globais para a IA de fronteira, incluindo a auto-melhoria
A proposta chega na semana em que a IA entra no debate da Assembleia Geral da ONU e antes da cimeira Trump-Xi.
A OpenAI publicou a 21 de setembro uma proposta para que os EUA liderem a criação de normas técnicas internacionais para a IA de fronteira. As normas cobririam três pilares: medir as capacidades dos modelos, avaliar os riscos e verificar se as salvaguardas são suficientes. A empresa sublinha que não propõe licenças obrigatórias nem autorizações antes do lançamento.
Um dos temas centrais é a auto-melhoria recursiva, quando sistemas de IA fazem cada vez mais do trabalho de desenvolver a geração seguinte. A OpenAI escreve que a auto-melhoria totalmente autónoma não está a acontecer hoje e que não deve ser perseguida enquanto não puder ser feita com segurança. Ao mesmo tempo, construir um investigador de IA automatizado é um dos três objetivos estratégicos da empresa.
O plano passa por ligar os institutos nacionais de segurança da IA de cerca de dez governos, através do centro americano CAISI, com medições comuns e canais para comunicar incidentes. Sam Altman deverá falar ao Conselho de Segurança da ONU a 24 de setembro. No mesmo dia da proposta, cerca de 20 países, liderados pela Finlândia e pela Noruega, adotaram uma declaração sobre o controlo humano da IA, que os EUA e a China não assinaram.
Fontes
- Gizmodo gizmodo.com
- Implicator.ai www.implicator.ai
- CNBC www.cnbc.com
Resumo editorial em português feito com apoio de inteligência artificial a partir das fontes indicadas. Como fazemos o Boletim IA.