Юрист Anthropic извинился после того, как Клод вообразил юридическую цитату

Недавно юрист, представляющий интересы Anthropic, признал, что в ходе судебного спора с музыкальными издательствами использовал неверную цитату, сгенерированную чатботом Claude AI компании. Признание было сделано в четверг в одном из судов Северной Калифорнии.

Anthropic заявила в заявлении, о котором впервые сообщило агентство Bloomberg, что Claude сфабриковал цитату, указав неверное название и данные об авторе. Юристы компании признали, что их обычная проверка цитирования не выявила эту ошибку, а также несколько других неточностей, вызванных "галлюцинациями" Клода.

Извиняясь за оплошность, Anthropic назвала произошедшее "честной ошибкой в цитировании, а не подделкой авторитета".

Ранее на этой неделе адвокаты Universal Music Group и других музыкальных издателей обвинили эксперта Anthropic, сотрудницу Оливию Чен, в том, что она ссылалась в своих показаниях на сфабрикованные статьи, якобы использующие Клода. После этого федеральный судья Сьюзан ван Кеулен потребовала от Anthropic ответа на эти претензии.

Иск, поданный музыкальными издателями, является частью многочисленных конфликтов между владельцами авторских прав и технологическими компаниями по поводу предполагаемого неправомерного использования их контента для разработки генеративных инструментов ИИ.

Это еще один случай, когда использование ИИ в судебных разбирательствах привело к непредвиденным последствиям. Ранее на этой неделе судья из Калифорнии раскритиковал две юридические фирмы за то, что они представили в его суд "фальшивые исследования, созданные ИИ". В январе австралийский адвокат был разоблачен за использование ChatGPT при составлении судебных документов, что привело к неточному цитированию.

Несмотря на подобные инциденты, стартапы продолжают привлекать значительное финансирование для автоматизации юридических процессов. Компания Harvey, использующая генеративные модели искусственного интеллекта для помощи юристам, по сообщениям, ведет переговоры о привлечении более 250 миллионов долларов при оценке свыше 5 миллиардов долларов.

Мероприятие Techcrunch ### Присоединяйтесь к нам на TechCrunch Sessions: AI

Забронируйте свое место на нашем главном мероприятии по ИИ с участием докладчиков из OpenAI, Anthropic и Cohere. В течение ограниченного периода времени билеты стоят всего 292 доллара США за целый день экспертных презентаций, семинаров и ценных возможностей для общения.

Участвуйте в выставке TechCrunch Sessions: AI

Забронируйте свою выставку展位 на TC Sessions: AI и продемонстрируйте свои инновации 1 200 с лишним лицам, принимающим решения, не разоряясь. Доступно до 9 мая или пока есть свободные места.

Беркли, Калифорния | 5 июня ЗАРЕГИСТРИРОВАТЬСЯ СЕЙЧАС