O advogado do Anthrópico foi forçado a se desculpar depois de Claude alucinar uma citação legal

Um advogado representando antropia admitido por usar uma citação errônea criada pelo Claude AI Chatbot da empresa em sua batalha legal em andamento com os editores de música, de acordo com um arquivamento Feito em um tribunal do norte da Califórnia na quinta -feira.

Claude alucinou a citação com “um título impreciso e autores imprecisos”, diz Anthropic no arquivamento, relatado pela primeira vez por Bloomberg. Os advogados da Anthrópica explicam que sua “verificação de citação manual” não o pegou, nem vários outros erros causados ​​pelas alucinações de Claude.

Anthrópica pediu desculpas pelo erro e chamou de “um erro de citação honesto e não uma fabricação de autoridade”.

No início desta semana, advogados que representam o Universal Music Group e outros editores de música acusaram a testemunha especializada da Anthrópica – uma das funcionárias da empresa, Olivia Chen – de Usando Claude para citar artigos falsos em seu testemunho. A juíza federal, Susan Van Keulen, ordenou que Anthrópica respondesse a essas alegações.

O processo de Music Publishers é uma das várias disputas entre proprietários de direitos autorais e empresas de tecnologia sobre o suposto uso indevido de seu trabalho para criar ferramentas generativas de IA.

Esta é a última instância de advogados que usam a IA no tribunal e depois lamentando a decisão. No início desta semana, um juiz da Califórnia criticou um par de escritórios de advocacia por enviar “Pesquisa falsa gerada pela IA”Em seu tribunal. Em janeiro, um advogado australiano era pego usando o chatgpt na preparação de documentos judiciais e o chatbot produziu citações defeituosas.

No entanto, esses erros não impedem as startups de levantar enormes rodadas para automatizar o trabalho legal. Harvey, que usa modelos generativos de IA para ajudar os advogados, é Alegadamente, em negociações para arrecadar mais de US $ 250 milhões em uma avaliação de US $ 5 bilhões.