Ética, direitos de autor e processos judiciais
Tribunais na China e nos EUA começam a definir quem é responsável por alucinações de IA
Tribunais na China e nos Estados Unidos estão a começar a responder a uma pergunta cada vez mais urgente: quem é responsável quando um chatbot de IA inventa factos que causam dano.
Uma análise publicada pela IAPP a 21 de outubro descreve um caso no Tribunal da Internet de Hangzhou em que um chatbot chinês deu informação incorreta a um estudante sobre um campus universitário e, quando corrigido, insistiu que estava certo, prometendo 100 mil RMB de compensação se estivesse errado. O tribunal rejeitou o pedido do estudante com três fundamentos: a IA não é pessoa jurídica, pelo que a sua promessa não vincula o fornecedor; o chatbot é um serviço sujeito a responsabilidade por culpa, não a responsabilidade objetiva de produto; e o fornecedor não teve culpa, dados os avisos de limitação existentes e a ausência de dano real comprovado.
O artigo cita ainda o caso norte-americano Walters v. OpenAI, em que o ChatGPT afirmou falsamente, numa resposta ao jornalista Frederick Riehl, que uma ação judicial acusava o apresentador de rádio Mark Walters de desvio de fundos. A autora do artigo, Shimeng Cai, da Novartis, conclui que os tribunais estão cada vez mais a responsabilizar os fornecedores de IA pela gestão e mitigação do risco de alucinação, mas a questão central — se a responsabilidade depende de eliminar as alucinações ou apenas de as mitigar razoavelmente — continua sem resposta uniforme. Esta tendência soma-se a uma onda regulatória global que procura responsabilizar fornecedores de IA por alucinações, incluindo o vazio deixado pela retirada da Diretiva de Responsabilidade por IA na UE.
Perguntas frequentes
O que decidiu o tribunal chinês?
Rejeitou o pedido de indemnização, considerando que a IA não é pessoa jurídica e que o fornecedor não teve culpa, dados os avisos de limitação e a falta de dano comprovado.
O que é o caso Walters v. OpenAI?
Um processo em que o ChatGPT acusou falsamente um apresentador de rádio de desvio de fundos ao resumir uma ação judicial real para um jornalista.
Fontes
- IAPP iapp.org
Resumo editorial em português feito com apoio de inteligência artificial a partir das fontes indicadas. Como fazemos o Boletim IA.