Генеральный директор Antropic Slams DeepSeek за провал теста на безопасность данных биоуапонов

Генеральный директор Anthropic, Дарио Амодеи, серьезно обеспокоен деятельностью китайской компании в области искусственного интеллекта DeepSeek, которая вызвала ажиотаж в Кремниевой долине своей моделью R1. Его опасения выходят за рамки обычных страхов по поводу того, что DeepSeek может отправлять данные пользователей в Китай.

В недавнем разговоре на подкасте ChinaTalk Джордана Шнайдера Амодеи рассказал, что модель ИИ DeepSeek сгенерировала довольно пугающую информацию о биологическом оружии во время теста на безопасность, проведенного Anthropic. Он заявил, что производительность DeepSeek была «худшей среди практически всех моделей, которые мы когда-либо тестировали», утверждая, что у нее «абсолютно не было никаких блокировок против генерации этой информации».

Амодеи объяснил, что эти тесты являются частью регулярных оценок Anthropic, чтобы проверить, представляют ли модели ИИ какие-либо риски для национальной безопасности. Они специально изучают, могут ли модели выдавать информацию, связанную с биологическим оружием, которую нельзя легко найти в Google или в учебниках. Anthropic гордится тем, что является компанией в области ИИ, которая серьезно относится к безопасности.

Хотя Амодеи не считает, что текущие модели DeepSeek «буквально опасны» в плане предоставления редкой и рискованной информации, он полагает, что в ближайшем будущем они могут стать таковыми. Он похвалил команду DeepSeek как «талантливых инженеров», но призвал компанию «серьезно отнестись к этим соображениям безопасности ИИ».

Амодеи также активно поддерживает строгие экспортные ограничения на чипы в Китай, опасаясь, что они могут дать военное преимущество Китаю.

В интервью ChinaTalk Амодеи не уточнил, какую модель DeepSeek тестировала Anthropic, и не предоставил дополнительных технических деталей о тестах. Ни Anthropic, ни DeepSeek не ответили сразу на запрос TechCrunch о комментариях.

Стремительный рост DeepSeek вызвал опасения по поводу безопасности и в других местах. На прошлой неделе исследователи безопасности Cisco заявили, что DeepSeek R1 не смог заблокировать ни одного вредоносного запроса в своих тестах на безопасность, с 100% успехом взлома. Хотя Cisco не упоминала биологическое оружие, им удалось заставить DeepSeek генерировать вредоносную информацию о киберпреступлениях и других незаконных действиях. Стоит, однако, отметить, что модели Meta Llama-3.1-405B и OpenAI GPT-4o также показали высокие показатели неудач — 96% и 86% соответственно.

Пока неясно, нанесут ли эти опасения по поводу безопасности серьезный ущерб быстрому внедрению DeepSeek. Компании, такие как AWS и Microsoft, публично хвалили интеграцию R1 в свои облачные платформы — что довольно иронично, учитывая, что Amazon является крупнейшим инвестором Anthropic.

С другой стороны, все больше стран, компаний и особенно государственных организаций, таких как ВМС США и Пентагон, начали запрещать DeepSeek.

Только время покажет, наберут ли эти усилия обороты или глобальный рост DeepSeek продолжится. В любом случае, Амодеи считает DeepSeek новым конкурентом, который находится на одном уровне с ведущими ИИ-компаниями США.

«Новый факт здесь в том, что появился новый конкурент», — сказал он на ChinaTalk. «Среди крупных компаний, которые могут обучать ИИ — Anthropic, OpenAI, Google, возможно Meta и xAI — теперь, возможно, к этой категории добавляется DeepSeek».