Hogar
Abogado de Anthropic se disculpa tras la alucinación de Claude citando jurisprudencia

Recientemente, un abogado que representa a Anthropic ha reconocido el uso de una cita incorrecta generada por el chatbot Claude AI de la empresa durante su actual disputa legal con los editores de música. La admisión se produjo a través de una presentación judicial en un tribunal del norte de California el jueves.
Anthropic declaró en la presentación, de la que informó Bloomberg en primer lugar, que Claude había fabricado la cita con un título y unos datos de autor incorrectos. Los abogados de la empresa admitieron que sus comprobaciones rutinarias de citas no detectaron el error, junto con varias otras inexactitudes causadas por las "alucinaciones" de Claude.
Al disculparse por el descuido, Anthropic describió el incidente como "un error honesto de citación y no una invención de la autoridad".
A principios de esta semana, los abogados de Universal Music Group y otros editores de música acusaron a la testigo experta de Anthropic, la empleada Olivia Chen, de hacer referencia a artículos inventados en su testimonio, supuestamente utilizando a Claude. A raíz de ello, la juez federal Susan van Keulen solicitó a Anthropic una respuesta sobre estas afirmaciones.
La demanda presentada por los editores de música forma parte de múltiples conflictos entre titulares de derechos de autor y empresas tecnológicas por el supuesto uso indebido de sus contenidos para desarrollar herramientas de IA generativa.
Se trata de otro caso en el que el uso de la IA en procedimientos judiciales ha tenido consecuencias imprevistas. A principios de esta semana, un juez de California criticó a dos bufetes de abogados por presentar ante su tribunal "investigaciones falsas generadas por IA". En enero, un abogado australiano fue denunciado por utilizar ChatGPT en la redacción de documentos judiciales, lo que dio lugar a citas erróneas.
A pesar de estos incidentes, las startups siguen atrayendo importantes fondos para automatizar los procesos judiciales. Harvey, que emplea modelos generativos de inteligencia artificial para ayudar a los abogados, está en conversaciones para conseguir más de 250 millones de dólares con una valoración superior a 5.000 millones.
Evento Techcrunch ### Únase a nosotros en TechCrunch Sessions: AI
Reserva tu plaza en nuestro principal evento del sector de la IA, con ponentes de OpenAI, Anthropic y Cohere. Durante un periodo limitado, las entradas tienen un precio de sólo 292 $ para un día completo de presentaciones de expertos, talleres y valiosas oportunidades para establecer contactos.
Exponga en TechCrunch Sessions: AI
Reserve su exposici展 en TC Sessions: AI y muestre sus innovaciones a más de 1.200 responsables de la toma de decisiones sin arruinarse. Disponible hasta el 9 de mayo o hasta agotar plazas.
Berkeley, CA | 5 de junio REGÍSTRESE AHORA
Artículo relacionado
Anthropic amplía sus colaboraciones en materia de recursos informáticos con Google y Broadrom
El laboratorio de investigación en IA Anthropic anunció el lunes un nuevo acuerdo con Google y Broadcom para potenciar significativamente la capacidad de procesamiento y computacional de sus modelos d
Claude gana terreno a ChatGPT a medida que los usuarios se pasan a esta plataforma
Tras una serie de polémicas relacionadas con ChatGPT y su empresa matriz, OpenAI, un número cada vez mayor de usuarios está migrando a Claude.El punto de inflexión se produjo después de que Anthropic,
Qué significa para la seguridad nacional el enfrentamiento de Anthropic con el Pentágono
Las últimas dos semanas han estado marcadas por un enfrentamiento público entre el director ejecutivo de Anthropic, Dario Amodei, y el secretario de Defensa, Pete Hegseth, centrado en la aplicación de
Recomendaciones de temas especiales relacionados
comentario (2)
0/500
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.

Recientemente, un abogado que representa a Anthropic ha reconocido el uso de una cita incorrecta generada por el chatbot Claude AI de la empresa durante su actual disputa legal con los editores de música. La admisión se produjo a través de una presentación judicial en un tribunal del norte de California el jueves.
Anthropic declaró en la presentación, de la que informó Bloomberg en primer lugar, que Claude había fabricado la cita con un título y unos datos de autor incorrectos. Los abogados de la empresa admitieron que sus comprobaciones rutinarias de citas no detectaron el error, junto con varias otras inexactitudes causadas por las "alucinaciones" de Claude.
Al disculparse por el descuido, Anthropic describió el incidente como "un error honesto de citación y no una invención de la autoridad".
A principios de esta semana, los abogados de Universal Music Group y otros editores de música acusaron a la testigo experta de Anthropic, la empleada Olivia Chen, de hacer referencia a artículos inventados en su testimonio, supuestamente utilizando a Claude. A raíz de ello, la juez federal Susan van Keulen solicitó a Anthropic una respuesta sobre estas afirmaciones.
La demanda presentada por los editores de música forma parte de múltiples conflictos entre titulares de derechos de autor y empresas tecnológicas por el supuesto uso indebido de sus contenidos para desarrollar herramientas de IA generativa.
Se trata de otro caso en el que el uso de la IA en procedimientos judiciales ha tenido consecuencias imprevistas. A principios de esta semana, un juez de California criticó a dos bufetes de abogados por presentar ante su tribunal "investigaciones falsas generadas por IA". En enero, un abogado australiano fue denunciado por utilizar ChatGPT en la redacción de documentos judiciales, lo que dio lugar a citas erróneas.
A pesar de estos incidentes, las startups siguen atrayendo importantes fondos para automatizar los procesos judiciales. Harvey, que emplea modelos generativos de inteligencia artificial para ayudar a los abogados, está en conversaciones para conseguir más de 250 millones de dólares con una valoración superior a 5.000 millones.
Evento Techcrunch ### Únase a nosotros en TechCrunch Sessions: AI
Reserva tu plaza en nuestro principal evento del sector de la IA, con ponentes de OpenAI, Anthropic y Cohere. Durante un periodo limitado, las entradas tienen un precio de sólo 292 $ para un día completo de presentaciones de expertos, talleres y valiosas oportunidades para establecer contactos.
Exponga en TechCrunch Sessions: AI
Reserve su exposici展 en TC Sessions: AI y muestre sus innovaciones a más de 1.200 responsables de la toma de decisiones sin arruinarse. Disponible hasta el 9 de mayo o hasta agotar plazas.
Berkeley, CA | 5 de junio REGÍSTRESE AHORA
Anthropic amplía sus colaboraciones en materia de recursos informáticos con Google y Broadrom
El laboratorio de investigación en IA Anthropic anunció el lunes un nuevo acuerdo con Google y Broadcom para potenciar significativamente la capacidad de procesamiento y computacional de sus modelos d
Claude gana terreno a ChatGPT a medida que los usuarios se pasan a esta plataforma
Tras una serie de polémicas relacionadas con ChatGPT y su empresa matriz, OpenAI, un número cada vez mayor de usuarios está migrando a Claude.El punto de inflexión se produjo después de que Anthropic,
Qué significa para la seguridad nacional el enfrentamiento de Anthropic con el Pentágono
Las últimas dos semanas han estado marcadas por un enfrentamiento público entre el director ejecutivo de Anthropic, Dario Amodei, y el secretario de Defensa, Pete Hegseth, centrado en la aplicación de
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.











