Anthropic propõe lei nos EUA para bloquear judicialmente modelos de risco catastrófico
A Anthropic está a distribuir entre legisladores do Congresso dos EUA um projeto de lei que permitiria travar judicialmente o lançamento de um modelo de IA caso haja risco iminente de morte de mais de 50 pessoas ou danos superiores a mil milhões de dólares, segundo a Politico, confirmado pela TechCrunch a 20 de outubro.
A proposta cobre três tipos de risco: criação ou libertação de armas biológicas, um modelo a escapar ao controlo do seu criador, ou um ciberataque de grande escala — limiares que ecoam os da lei californiana SB 53. O mecanismo proposto: avaliadores independentes registados junto do Departamento do Comércio dos EUA analisam o modelo e, se identificarem risco catastrófico iminente, têm 72 horas para notificar o Comércio, que pede então a um juiz federal em Washington D.C. que suspenda o lançamento — proibindo explicitamente que agências federais o façam unilateralmente.
Um porta-voz da Anthropic confirmou à Politico que a proposta reflete a "Advanced AI Framework" que a empresa defende desde junho. É uma posição mais ambiciosa do que a de rivais: o CEO da Nvidia, Jensen Huang, defende que a indústria não precisa de novas leis, e o presidente da Google DeepMind, Demis Hassabis, propôs um órgão de autorregulação ao estilo da FINRA, o regulador financeiro privado dos EUA.
Fontes
- TechCrunch techcrunch.com
Resumo editorial em português feito com apoio de inteligência artificial a partir das fontes indicadas. Como fazemos o Boletim IA.