Hinton e Bengio juntam-se a 400 cientistas a pedir supervisão internacional da IA avançada
Num total de 400 cientistas de 34 países, incluindo os pioneiros da IA Geoffrey Hinton e Yoshua Bengio, assinaram a 13 de outubro uma carta aberta a exigir um organismo internacional com poder para impor normas de contenção e manter um registo de incidentes de segurança em sistemas de IA avançados.
A carta, divulgada pela Reuters a partir de Gdansk, argumenta que "os compromissos voluntários da indústria não são suficientes" e pede que modelos de fronteira sejam inicialmente isolados de redes externas ("air-gapped") e sujeitos a supervisão independente. O organismo proposto definiria normas de contenção à escala da indústria e manteria um registo de incidentes de segurança significativos, que deveria eventualmente tornar-se público.
Yann LeCun (Meta), que partilhou o Prémio Turing de 2018 com Hinton e Bengio, não assinou a carta — argumenta que os incidentes recentes de segurança refletem falhas de engenharia, não risco existencial da IA. A carta surge cerca de um mês depois de Anthropic, OpenAI, Google, Meta, xAI e Nvidia terem assinado, na Casa Branca, um acordo voluntário de segurança sem mecanismo de aplicação formal.
Perguntas frequentes
O que pedem os 400 cientistas assinantes da carta?
Um organismo internacional com poder para impor normas de contenção a modelos de IA de fronteira e manter um registo público de incidentes de segurança graves.
Fontes
- Idaho Business Review (Reuters) idahobusinessreview.com
- The News International www.thenews.com.pk
Resumo editorial em português feito com apoio de inteligência artificial a partir das fontes indicadas. Como fazemos o Boletim IA.