Юрист Anthropic извинился после того, как Клод вообразил юридическую цитату

Недавно юрист, представляющий интересы Anthropic, признал, что в ходе судебного спора с музыкальными издательствами использовал неверную цитату, сгенерированную чатботом Claude AI компании. Признание было сделано в четверг в одном из судов Северной Калифорнии.
Anthropic заявила в заявлении, о котором впервые сообщило агентство Bloomberg, что Claude сфабриковал цитату, указав неверное название и данные об авторе. Юристы компании признали, что их обычная проверка цитирования не выявила эту ошибку, а также несколько других неточностей, вызванных "галлюцинациями" Клода.
Извиняясь за оплошность, Anthropic назвала произошедшее "честной ошибкой в цитировании, а не подделкой авторитета".
Ранее на этой неделе адвокаты Universal Music Group и других музыкальных издателей обвинили эксперта Anthropic, сотрудницу Оливию Чен, в том, что она ссылалась в своих показаниях на сфабрикованные статьи, якобы использующие Клода. После этого федеральный судья Сьюзан ван Кеулен потребовала от Anthropic ответа на эти претензии.
Иск, поданный музыкальными издателями, является частью многочисленных конфликтов между владельцами авторских прав и технологическими компаниями по поводу предполагаемого неправомерного использования их контента для разработки генеративных инструментов ИИ.
Это еще один случай, когда использование ИИ в судебных разбирательствах привело к непредвиденным последствиям. Ранее на этой неделе судья из Калифорнии раскритиковал две юридические фирмы за то, что они представили в его суд "фальшивые исследования, созданные ИИ". В январе австралийский адвокат был разоблачен за использование ChatGPT при составлении судебных документов, что привело к неточному цитированию.
Несмотря на подобные инциденты, стартапы продолжают привлекать значительное финансирование для автоматизации юридических процессов. Компания Harvey, использующая генеративные модели искусственного интеллекта для помощи юристам, по сообщениям, ведет переговоры о привлечении более 250 миллионов долларов при оценке свыше 5 миллиардов долларов.
Мероприятие Techcrunch ### Присоединяйтесь к нам на TechCrunch Sessions: AI
Забронируйте свое место на нашем главном мероприятии по ИИ с участием докладчиков из OpenAI, Anthropic и Cohere. В течение ограниченного периода времени билеты стоят всего 292 доллара США за целый день экспертных презентаций, семинаров и ценных возможностей для общения.
Участвуйте в выставке TechCrunch Sessions: AI
Забронируйте свою выставку展位 на TC Sessions: AI и продемонстрируйте свои инновации 1 200 с лишним лицам, принимающим решения, не разоряясь. Доступно до 9 мая или пока есть свободные места.
Беркли, Калифорния | 5 июня ЗАРЕГИСТРИРОВАТЬСЯ СЕЙЧАС
Связанная статья
Anthropic Unveils Opus 4.6, a Controversial Content Generator
Универсальные стандарты использования Anthropic для Claude запрещают модели генерировать откровенно сексуальный контент, включая изображение или запрос на сексуальные контакты или сексуальные акты, создание контента, связанного с сексуальными фетишам
Функция Claude’s Cowork теперь запоминает ваши предыдущие инструкции для чата
Обновление системы памяти Claude от Anthropic устраняет одно из главных препятствий при использовании ИИ-агентов: необходимость постоянно заново объяснять контекст, который ИИ уже помнит. Объединив архитектуры памяти стандартного чата и Claude Cowork
Индия переходит от скачивания приложений к монетизации, поскольку местные жители начинают платить за цифровые услуги
Когда-то Индия была ведущим в мире центром загрузки приложений, но испытывала трудности с монетизацией. Эта динамика меняется по мере того, как пользователи всё чаще инвестируют в искусственный интеллект, развлечения и премиальные цифровые услуги.Рас
Рекомендации по связанным специальным темам
Комментарии (3)
Claudeが法廷で出典を間違えたって、さすがにまずいよね😅 AIの過信は危険だわ。弁護士が謝罪したってことは、実害があったってことだよね。技術の進歩は速いけど、信頼性が追いついてないのが現実。もっと慎重に検証する仕組みが必要だと思う。 #Anthropic #AI
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.

Недавно юрист, представляющий интересы Anthropic, признал, что в ходе судебного спора с музыкальными издательствами использовал неверную цитату, сгенерированную чатботом Claude AI компании. Признание было сделано в четверг в одном из судов Северной Калифорнии.
Anthropic заявила в заявлении, о котором впервые сообщило агентство Bloomberg, что Claude сфабриковал цитату, указав неверное название и данные об авторе. Юристы компании признали, что их обычная проверка цитирования не выявила эту ошибку, а также несколько других неточностей, вызванных "галлюцинациями" Клода.
Извиняясь за оплошность, Anthropic назвала произошедшее "честной ошибкой в цитировании, а не подделкой авторитета".
Ранее на этой неделе адвокаты Universal Music Group и других музыкальных издателей обвинили эксперта Anthropic, сотрудницу Оливию Чен, в том, что она ссылалась в своих показаниях на сфабрикованные статьи, якобы использующие Клода. После этого федеральный судья Сьюзан ван Кеулен потребовала от Anthropic ответа на эти претензии.
Иск, поданный музыкальными издателями, является частью многочисленных конфликтов между владельцами авторских прав и технологическими компаниями по поводу предполагаемого неправомерного использования их контента для разработки генеративных инструментов ИИ.
Это еще один случай, когда использование ИИ в судебных разбирательствах привело к непредвиденным последствиям. Ранее на этой неделе судья из Калифорнии раскритиковал две юридические фирмы за то, что они представили в его суд "фальшивые исследования, созданные ИИ". В январе австралийский адвокат был разоблачен за использование ChatGPT при составлении судебных документов, что привело к неточному цитированию.
Несмотря на подобные инциденты, стартапы продолжают привлекать значительное финансирование для автоматизации юридических процессов. Компания Harvey, использующая генеративные модели искусственного интеллекта для помощи юристам, по сообщениям, ведет переговоры о привлечении более 250 миллионов долларов при оценке свыше 5 миллиардов долларов.
Мероприятие Techcrunch ### Присоединяйтесь к нам на TechCrunch Sessions: AI
Забронируйте свое место на нашем главном мероприятии по ИИ с участием докладчиков из OpenAI, Anthropic и Cohere. В течение ограниченного периода времени билеты стоят всего 292 доллара США за целый день экспертных презентаций, семинаров и ценных возможностей для общения.
Участвуйте в выставке TechCrunch Sessions: AI
Забронируйте свою выставку展位 на TC Sessions: AI и продемонстрируйте свои инновации 1 200 с лишним лицам, принимающим решения, не разоряясь. Доступно до 9 мая или пока есть свободные места.
Беркли, Калифорния | 5 июня ЗАРЕГИСТРИРОВАТЬСЯ СЕЙЧАС
Anthropic Unveils Opus 4.6, a Controversial Content Generator
Универсальные стандарты использования Anthropic для Claude запрещают модели генерировать откровенно сексуальный контент, включая изображение или запрос на сексуальные контакты или сексуальные акты, создание контента, связанного с сексуальными фетишам
Функция Claude’s Cowork теперь запоминает ваши предыдущие инструкции для чата
Обновление системы памяти Claude от Anthropic устраняет одно из главных препятствий при использовании ИИ-агентов: необходимость постоянно заново объяснять контекст, который ИИ уже помнит. Объединив архитектуры памяти стандартного чата и Claude Cowork
Индия переходит от скачивания приложений к монетизации, поскольку местные жители начинают платить за цифровые услуги
Когда-то Индия была ведущим в мире центром загрузки приложений, но испытывала трудности с монетизацией. Эта динамика меняется по мере того, как пользователи всё чаще инвестируют в искусственный интеллект, развлечения и премиальные цифровые услуги.Рас
Claudeが法廷で出典を間違えたって、さすがにまずいよね😅 AIの過信は危険だわ。弁護士が謝罪したってことは、実害があったってことだよね。技術の進歩は速いけど、信頼性が追いついてないのが現実。もっと慎重に検証する仕組みが必要だと思う。 #Anthropic #AI
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.





Дом






