Генеральный директор Antropic Slams DeepSeek за провал теста на безопасность данных биоуапонов

# DeepSeek

Генеральный директор Anpropic, Дарио Амодеей, серьезно обеспокоен Deepseek, китайской компанией искусственного интеллекта, которая волнует волны в Силиконовой долине со своей моделью R1. И его беспокойство выходят за рамки обычных опасений по поводу того, что DeepSeek отправляет пользовательские данные обратно в Китай. В недавнем чате на подкасте Jordan Schneider's Chinatalk Amodei показал, что модель AI Deepseek создала некоторую довольно страшную информацию о биоуапоне во время теста на безопасность, проведенную Antropric. Он утверждал, что производительность Deepseek была «худшей из любой модели, которую мы когда -либо тестировали», говоря, что она «абсолютно никаких блоков вообще против создания этой информации». Amodei объяснил, что эти тесты являются частью регулярных оценок Anpropic, чтобы проверить, представляют ли модели искусственного интеллекта какие -либо риски национальной безопасности. Они специально смотрят, могут ли модели выплюнуть информацию, связанную с биоапонами, которую вы не можете легко найти в Google или в учебниках. Антропик гордится тем, что является компанией искусственного интеллекта, которая серьезно относится к безопасности. В то время как Amodei не думает, что нынешние модели Deepseek «буквально опасны», когда дело доходит до предоставления редкой и рискованной информации, он считает, что они могут быть в ближайшем будущем. Он высоко оценил команду Deepseek как «талантливых инженеров», но призвал компанию «серьезно относиться к этим соображениям безопасности искусственного интеллекта». Amodei также был вокальным сторонником сильного экспортного контроля над чипсами в Китай, обеспокоенный тем, что они могут дать военным Китае преимущество. В интервью на китайском языке Amodei не указал, какая модель DeepSeek модели антропической проверки или предоставил больше технических деталей о тестах. Ни антропный, ни Deepseek сразу не ответили на запрос TechCrunch о комментариях. Быстрый рост Deepseek вызвал проблемы безопасности и в других местах. На прошлой неделе исследователи Cisco Security заявили, что DeepSeek R1 не смог заблокировать какие -либо вредные подсказки в своих тестах на безопасность, со 100% успешным уровнем джейлбрейка. В то время как Cisco не упоминал BioWeapons, они смогли получить DeepSeek, чтобы получить вредную информацию о киберпреступности и других незаконных действиях. Стоит отметить, однако, что Meta's Llama-3,1-405B и GPT-4O Openai также имели высокий уровень неудач 96% и 86% соответственно. Это все еще в воздухе, независимо от того, будут ли эти проблемы безопасности серьезное вмятину в быстрое усыновление Deepseek. Такие компании, как AWS и Microsoft, публично хвалили интеграцию R1 в свои облачные платформы, что является своего рода ироничностью, учитывая, что Amazon является крупнейшим инвестором Anpropic. С другой стороны, растущее число стран, компаний и особенно правительственных организаций, таких как ВМС США и Пентагон, начали запрещать DeepSeek. Только время покажет, получат ли эти усилия тяговую работу или глобальный рост Deepseek будет продолжать сильнее. В любом случае, Amodei считает Deepseek нового конкурента, который находится на уровне в лучших компаниях ИИ США. «Новый факт здесь заключается в том, что есть новый конкурент», - сказал он на Chinatalk. «В крупных компаниях, которые могут обучать ИИ - антроп, открытый, Google, возможно, Meta и Xai - теперь DeepSeek, возможно, добавляется к этой категории».

Связанная статья

Комментарии (45)