Sam Altman critica a Anthropic por discutir religião e consciência com a Claude

A Anthropic promoveu ao longo de meses reuniões privadas, sob acordo de confidencialidade, com teólogos e estudiosos de religião para discutir a moralidade e a eventual consciência do modelo Claude — incluindo a hipótese de o sistema fazer algo semelhante a uma 'confissão' católica — no âmbito da preparação de uma constituição atualizada da Claude. O cofundador da Anthropic, Chris Olah, disse ao New York Times que a empresa não sabe se os seus modelos são conscientes e quer chegar 'à resposta certa, seja ela qual for'.

Sam Altman reagiu no X dizendo sentir-se 'muito desconfortável com a tentativa de atribuir força religiosa ou uma entrega do juízo humano' a modelos de IA, classificando isso como 'uma questão de segurança real'. Jon Barron, da Google DeepMind, manifestou desconforto semelhante com investigadores que tentam 'elevar o estatuto moral' de sistemas de IA. O episódio expõe uma divisão filosófica entre os três maiores laboratórios sobre como tratar a possível consciência dos modelos que constroem.

Fontes

• Business Insider www.businessinsider.com
• Times of India timesofindia.indiatimes.com
• Crypto Briefing cryptobriefing.com

Resumo editorial em português feito com apoio de inteligência artificial a partir das fontes indicadas. Como fazemos o Boletim IA.