Юрист Anthropic извинился после того, как Клод вообразил юридическую цитату

Недавно юрист, представляющий интересы Anthropic, признал, что в ходе судебного спора с музыкальными издательствами использовал неверную цитату, сгенерированную чатботом Claude AI компании. Признание было сделано в четверг в одном из судов Северной Калифорнии.
Anthropic заявила в заявлении, о котором впервые сообщило агентство Bloomberg, что Claude сфабриковал цитату, указав неверное название и данные об авторе. Юристы компании признали, что их обычная проверка цитирования не выявила эту ошибку, а также несколько других неточностей, вызванных "галлюцинациями" Клода.
Извиняясь за оплошность, Anthropic назвала произошедшее "честной ошибкой в цитировании, а не подделкой авторитета".
Ранее на этой неделе адвокаты Universal Music Group и других музыкальных издателей обвинили эксперта Anthropic, сотрудницу Оливию Чен, в том, что она ссылалась в своих показаниях на сфабрикованные статьи, якобы использующие Клода. После этого федеральный судья Сьюзан ван Кеулен потребовала от Anthropic ответа на эти претензии.
Иск, поданный музыкальными издателями, является частью многочисленных конфликтов между владельцами авторских прав и технологическими компаниями по поводу предполагаемого неправомерного использования их контента для разработки генеративных инструментов ИИ.
Это еще один случай, когда использование ИИ в судебных разбирательствах привело к непредвиденным последствиям. Ранее на этой неделе судья из Калифорнии раскритиковал две юридические фирмы за то, что они представили в его суд "фальшивые исследования, созданные ИИ". В январе австралийский адвокат был разоблачен за использование ChatGPT при составлении судебных документов, что привело к неточному цитированию.
Несмотря на подобные инциденты, стартапы продолжают привлекать значительное финансирование для автоматизации юридических процессов. Компания Harvey, использующая генеративные модели искусственного интеллекта для помощи юристам, по сообщениям, ведет переговоры о привлечении более 250 миллионов долларов при оценке свыше 5 миллиардов долларов.
Мероприятие Techcrunch ### Присоединяйтесь к нам на TechCrunch Sessions: AI
Забронируйте свое место на нашем главном мероприятии по ИИ с участием докладчиков из OpenAI, Anthropic и Cohere. В течение ограниченного периода времени билеты стоят всего 292 доллара США за целый день экспертных презентаций, семинаров и ценных возможностей для общения.
Участвуйте в выставке TechCrunch Sessions: AI
Забронируйте свою выставку展位 на TC Sessions: AI и продемонстрируйте свои инновации 1 200 с лишним лицам, принимающим решения, не разоряясь. Доступно до 9 мая или пока есть свободные места.
Беркли, Калифорния | 5 июня ЗАРЕГИСТРИРОВАТЬСЯ СЕЙЧАС
Связанная статья
Anthropic расширяет партнерские отношения в области вычислительных ресурсов с Google и Broadrom
В понедельник исследовательская лаборатория Anthropic, специализирующаяся на искусственном интеллекте, объявила о заключении нового соглашения с Google и Broadcom, направленного на значительное увелич
Клод укрепляет свои позиции по отношению к ChatGPT на фоне перехода пользователей
После ряда скандалов, связанных с ChatGPT и его материнской компанией OpenAI, всё больше пользователей переходят на Claude.Переломный момент наступил после того, как компания Anthropic, создатель Clau
Что противостояние Anthropic с Пентагоном означает для национальной безопасности
Последние две недели прошли под знаком публичного противостояния между генеральным директором Anthropic Дарио Амодеи и министром обороны Питом Хегсетом, в центре которого стоял вопрос об использовании
Рекомендации по связанным специальным темам
Комментарии (2)
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.

Недавно юрист, представляющий интересы Anthropic, признал, что в ходе судебного спора с музыкальными издательствами использовал неверную цитату, сгенерированную чатботом Claude AI компании. Признание было сделано в четверг в одном из судов Северной Калифорнии.
Anthropic заявила в заявлении, о котором впервые сообщило агентство Bloomberg, что Claude сфабриковал цитату, указав неверное название и данные об авторе. Юристы компании признали, что их обычная проверка цитирования не выявила эту ошибку, а также несколько других неточностей, вызванных "галлюцинациями" Клода.
Извиняясь за оплошность, Anthropic назвала произошедшее "честной ошибкой в цитировании, а не подделкой авторитета".
Ранее на этой неделе адвокаты Universal Music Group и других музыкальных издателей обвинили эксперта Anthropic, сотрудницу Оливию Чен, в том, что она ссылалась в своих показаниях на сфабрикованные статьи, якобы использующие Клода. После этого федеральный судья Сьюзан ван Кеулен потребовала от Anthropic ответа на эти претензии.
Иск, поданный музыкальными издателями, является частью многочисленных конфликтов между владельцами авторских прав и технологическими компаниями по поводу предполагаемого неправомерного использования их контента для разработки генеративных инструментов ИИ.
Это еще один случай, когда использование ИИ в судебных разбирательствах привело к непредвиденным последствиям. Ранее на этой неделе судья из Калифорнии раскритиковал две юридические фирмы за то, что они представили в его суд "фальшивые исследования, созданные ИИ". В январе австралийский адвокат был разоблачен за использование ChatGPT при составлении судебных документов, что привело к неточному цитированию.
Несмотря на подобные инциденты, стартапы продолжают привлекать значительное финансирование для автоматизации юридических процессов. Компания Harvey, использующая генеративные модели искусственного интеллекта для помощи юристам, по сообщениям, ведет переговоры о привлечении более 250 миллионов долларов при оценке свыше 5 миллиардов долларов.
Мероприятие Techcrunch ### Присоединяйтесь к нам на TechCrunch Sessions: AI
Забронируйте свое место на нашем главном мероприятии по ИИ с участием докладчиков из OpenAI, Anthropic и Cohere. В течение ограниченного периода времени билеты стоят всего 292 доллара США за целый день экспертных презентаций, семинаров и ценных возможностей для общения.
Участвуйте в выставке TechCrunch Sessions: AI
Забронируйте свою выставку展位 на TC Sessions: AI и продемонстрируйте свои инновации 1 200 с лишним лицам, принимающим решения, не разоряясь. Доступно до 9 мая или пока есть свободные места.
Беркли, Калифорния | 5 июня ЗАРЕГИСТРИРОВАТЬСЯ СЕЙЧАС
Anthropic расширяет партнерские отношения в области вычислительных ресурсов с Google и Broadrom
В понедельник исследовательская лаборатория Anthropic, специализирующаяся на искусственном интеллекте, объявила о заключении нового соглашения с Google и Broadcom, направленного на значительное увелич
Клод укрепляет свои позиции по отношению к ChatGPT на фоне перехода пользователей
После ряда скандалов, связанных с ChatGPT и его материнской компанией OpenAI, всё больше пользователей переходят на Claude.Переломный момент наступил после того, как компания Anthropic, создатель Clau
Что противостояние Anthropic с Пентагоном означает для национальной безопасности
Последние две недели прошли под знаком публичного противостояния между генеральным директором Anthropic Дарио Амодеи и министром обороны Питом Хегсетом, в центре которого стоял вопрос об использовании
Kann jemand erklären, warum selbst Top-LLMs noch Halluzinationen produzieren? Besonders bei Rechtsthemen ist das echt kritisch. Die Entschuldigung ist ein Schritt, aber wie werden solche Fehler in Zukunft verhindert? 🤔 Bin gespannt, ob sich da bald branchenweite Standards durchsetzen.





Дом






