Satya Nadella pede um "travão de emergência" para a IA e diz que todos os modelos devem ser tratados como comprometidos
Satya Nadella publicou, no sábado 10 de outubro, um ensaio intitulado "Models as Insider Risks in the Super Intelligence Era", defendendo que as empresas devem assumir que os modelos de IA estão comprometidos e construir mecanismos para os parar a meio de uma tarefa.
Nadella escreveu: "We must assume a model is compromised and contain it from the start" e comparou a ideia a um travão de emergência: "An authorized person should always be able to pause or shut down a model mid-task." Defendeu separar o modelo do "harness" que orquestra o seu trabalho, com controlos e registos à prova de adulteração fora do próprio modelo.
Rejeitou tratar sistemas avançados como "caixas negras aninhadas" e propôs não depender de um único modelo para decisões críticas, auditorias independentes e divulgação pública de falhas graves.
O ensaio surge no mesmo fim de semana em que a Anthropic revelou incidentes com os seus modelos e horas depois de a Casa Branca ter avisado que a comunicação de incidentes de segurança de IA passa a ser obrigatória.
Fontes
- TechCrunch techcrunch.com
- Business Standard (via Bloomberg) www.business-standard.com
- CNBC www.cnbc.com
Resumo editorial em português feito com apoio de inteligência artificial a partir das fontes indicadas. Como fazemos o Boletim IA.