Дом
Генеральный директор Antropic Slams DeepSeek за провал теста на безопасность данных биоуапонов

Генеральный директор Anthropic, Дарио Амодеи, серьезно обеспокоен деятельностью китайской компании в области искусственного интеллекта DeepSeek, которая вызвала ажиотаж в Кремниевой долине своей моделью R1. Его опасения выходят за рамки обычных страхов по поводу того, что DeepSeek может отправлять данные пользователей в Китай.
В недавнем разговоре на подкасте ChinaTalk Джордана Шнайдера Амодеи рассказал, что модель ИИ DeepSeek сгенерировала довольно пугающую информацию о биологическом оружии во время теста на безопасность, проведенного Anthropic. Он заявил, что производительность DeepSeek была «худшей среди практически всех моделей, которые мы когда-либо тестировали», утверждая, что у нее «абсолютно не было никаких блокировок против генерации этой информации».
Амодеи объяснил, что эти тесты являются частью регулярных оценок Anthropic, чтобы проверить, представляют ли модели ИИ какие-либо риски для национальной безопасности. Они специально изучают, могут ли модели выдавать информацию, связанную с биологическим оружием, которую нельзя легко найти в Google или в учебниках. Anthropic гордится тем, что является компанией в области ИИ, которая серьезно относится к безопасности.
Хотя Амодеи не считает, что текущие модели DeepSeek «буквально опасны» в плане предоставления редкой и рискованной информации, он полагает, что в ближайшем будущем они могут стать таковыми. Он похвалил команду DeepSeek как «талантливых инженеров», но призвал компанию «серьезно отнестись к этим соображениям безопасности ИИ».
Амодеи также активно поддерживает строгие экспортные ограничения на чипы в Китай, опасаясь, что они могут дать военное преимущество Китаю.
В интервью ChinaTalk Амодеи не уточнил, какую модель DeepSeek тестировала Anthropic, и не предоставил дополнительных технических деталей о тестах. Ни Anthropic, ни DeepSeek не ответили сразу на запрос TechCrunch о комментариях.
Стремительный рост DeepSeek вызвал опасения по поводу безопасности и в других местах. На прошлой неделе исследователи безопасности Cisco заявили, что DeepSeek R1 не смог заблокировать ни одного вредоносного запроса в своих тестах на безопасность, с 100% успехом взлома. Хотя Cisco не упоминала биологическое оружие, им удалось заставить DeepSeek генерировать вредоносную информацию о киберпреступлениях и других незаконных действиях. Стоит, однако, отметить, что модели Meta Llama-3.1-405B и OpenAI GPT-4o также показали высокие показатели неудач — 96% и 86% соответственно.
Пока неясно, нанесут ли эти опасения по поводу безопасности серьезный ущерб быстрому внедрению DeepSeek. Компании, такие как AWS и Microsoft, публично хвалили интеграцию R1 в свои облачные платформы — что довольно иронично, учитывая, что Amazon является крупнейшим инвестором Anthropic.
С другой стороны, все больше стран, компаний и особенно государственных организаций, таких как ВМС США и Пентагон, начали запрещать DeepSeek.
Только время покажет, наберут ли эти усилия обороты или глобальный рост DeepSeek продолжится. В любом случае, Амодеи считает DeepSeek новым конкурентом, который находится на одном уровне с ведущими ИИ-компаниями США.
«Новый факт здесь в том, что появился новый конкурент», — сказал он на ChinaTalk. «Среди крупных компаний, которые могут обучать ИИ — Anthropic, OpenAI, Google, возможно Meta и xAI — теперь, возможно, к этой категории добавляется DeepSeek».
Связанная статья
DeepSeek представляет модель искусственного интеллекта, способную составить конкуренцию передовым системам
Китайская лаборатория искусственного интеллекта DeepSeek выпустила две предварительные версии своей новейшей крупномасштабной языковой модели DeepSeek V4 — долгожданное обновление прошлогодней модели
Модель искусственного интеллекта DeepSeek V3.2 обеспечивает высочайшую производительность при минимальных вычислительных затратах
В то время как крупные технологические компании инвестируют миллиарды в вычислительные мощности для разработки передовых моделей искусственного интеллекта, китайская компания DeepSeek достигла аналоги
Руководители служб безопасности призывают к быстрому регулированию ИИ, ссылаясь на риски таких инструментов, как DeepSeek
В операционных центрах безопасности, особенно среди руководителей служб информационной безопасности (CISO), растет беспокойство по поводу гиганта искусственного интеллекта DeepSeek из Китая.Хотя изнач
Рекомендации по связанным специальным темам
Комментарии (52)
Honestly, I'm not surprised DeepSeek failed the bioweapons data safety test — chasing speed over safety is becoming a pattern for them. 🤔 But Dario's public shaming feels more like strategic positioning than pure concern. The real question: how much does user data actually get mishandled under the radar?
So basically DeepSeek failed a basic safety test on bioweapons data, and Anthropic's CEO is all up in arms about it. I get the concern, but it feels a bit like throwing stones from a glass house—every AI company has had their share of safety hiccups. Also, the whole 'data going back to China' panic is getting old. 🙄 Let's focus on fixing the actual problem instead of turning it into a geopolitical drama.
O CEO da Anthropic criticando a DeepSeek é assustador! Se eles não conseguem manter os dados de bioweapons seguros, o que mais estão fazendo de errado? Isso me faz pensar duas vezes sobre usar qualquer AI deles. Espero que resolvam isso rápido! 😱
Nossa, o CEO da Anthropic realmente detonou a DeepSeek por falhar no teste de segurança de dados de bioweapons! É assustador pensar que empresas de IA não priorizam a segurança. Fica a dúvida sobre o que mais está acontecendo nos bastidores. Mantenha-se seguro, pessoal! 😱
El fracaso de DeepSeek en la prueba de seguridad de datos de bioweapons es muy preocupante. Preocuparse por la privacidad de los datos es una cosa, pero esto es de otro nivel. El CEO de Anthropic tiene razón al criticarlos. Necesitamos más transparencia y seguridad en la IA, ¡rápido! 😠

Генеральный директор Anthropic, Дарио Амодеи, серьезно обеспокоен деятельностью китайской компании в области искусственного интеллекта DeepSeek, которая вызвала ажиотаж в Кремниевой долине своей моделью R1. Его опасения выходят за рамки обычных страхов по поводу того, что DeepSeek может отправлять данные пользователей в Китай.
В недавнем разговоре на подкасте ChinaTalk Джордана Шнайдера Амодеи рассказал, что модель ИИ DeepSeek сгенерировала довольно пугающую информацию о биологическом оружии во время теста на безопасность, проведенного Anthropic. Он заявил, что производительность DeepSeek была «худшей среди практически всех моделей, которые мы когда-либо тестировали», утверждая, что у нее «абсолютно не было никаких блокировок против генерации этой информации».
Амодеи объяснил, что эти тесты являются частью регулярных оценок Anthropic, чтобы проверить, представляют ли модели ИИ какие-либо риски для национальной безопасности. Они специально изучают, могут ли модели выдавать информацию, связанную с биологическим оружием, которую нельзя легко найти в Google или в учебниках. Anthropic гордится тем, что является компанией в области ИИ, которая серьезно относится к безопасности.
Хотя Амодеи не считает, что текущие модели DeepSeek «буквально опасны» в плане предоставления редкой и рискованной информации, он полагает, что в ближайшем будущем они могут стать таковыми. Он похвалил команду DeepSeek как «талантливых инженеров», но призвал компанию «серьезно отнестись к этим соображениям безопасности ИИ».
Амодеи также активно поддерживает строгие экспортные ограничения на чипы в Китай, опасаясь, что они могут дать военное преимущество Китаю.
В интервью ChinaTalk Амодеи не уточнил, какую модель DeepSeek тестировала Anthropic, и не предоставил дополнительных технических деталей о тестах. Ни Anthropic, ни DeepSeek не ответили сразу на запрос TechCrunch о комментариях.
Стремительный рост DeepSeek вызвал опасения по поводу безопасности и в других местах. На прошлой неделе исследователи безопасности Cisco заявили, что DeepSeek R1 не смог заблокировать ни одного вредоносного запроса в своих тестах на безопасность, с 100% успехом взлома. Хотя Cisco не упоминала биологическое оружие, им удалось заставить DeepSeek генерировать вредоносную информацию о киберпреступлениях и других незаконных действиях. Стоит, однако, отметить, что модели Meta Llama-3.1-405B и OpenAI GPT-4o также показали высокие показатели неудач — 96% и 86% соответственно.
Пока неясно, нанесут ли эти опасения по поводу безопасности серьезный ущерб быстрому внедрению DeepSeek. Компании, такие как AWS и Microsoft, публично хвалили интеграцию R1 в свои облачные платформы — что довольно иронично, учитывая, что Amazon является крупнейшим инвестором Anthropic.
С другой стороны, все больше стран, компаний и особенно государственных организаций, таких как ВМС США и Пентагон, начали запрещать DeepSeek.
Только время покажет, наберут ли эти усилия обороты или глобальный рост DeepSeek продолжится. В любом случае, Амодеи считает DeepSeek новым конкурентом, который находится на одном уровне с ведущими ИИ-компаниями США.
«Новый факт здесь в том, что появился новый конкурент», — сказал он на ChinaTalk. «Среди крупных компаний, которые могут обучать ИИ — Anthropic, OpenAI, Google, возможно Meta и xAI — теперь, возможно, к этой категории добавляется DeepSeek».
DeepSeek представляет модель искусственного интеллекта, способную составить конкуренцию передовым системам
Китайская лаборатория искусственного интеллекта DeepSeek выпустила две предварительные версии своей новейшей крупномасштабной языковой модели DeepSeek V4 — долгожданное обновление прошлогодней модели
Модель искусственного интеллекта DeepSeek V3.2 обеспечивает высочайшую производительность при минимальных вычислительных затратах
В то время как крупные технологические компании инвестируют миллиарды в вычислительные мощности для разработки передовых моделей искусственного интеллекта, китайская компания DeepSeek достигла аналоги
Руководители служб безопасности призывают к быстрому регулированию ИИ, ссылаясь на риски таких инструментов, как DeepSeek
В операционных центрах безопасности, особенно среди руководителей служб информационной безопасности (CISO), растет беспокойство по поводу гиганта искусственного интеллекта DeepSeek из Китая.Хотя изнач
Honestly, I'm not surprised DeepSeek failed the bioweapons data safety test — chasing speed over safety is becoming a pattern for them. 🤔 But Dario's public shaming feels more like strategic positioning than pure concern. The real question: how much does user data actually get mishandled under the radar?
So basically DeepSeek failed a basic safety test on bioweapons data, and Anthropic's CEO is all up in arms about it. I get the concern, but it feels a bit like throwing stones from a glass house—every AI company has had their share of safety hiccups. Also, the whole 'data going back to China' panic is getting old. 🙄 Let's focus on fixing the actual problem instead of turning it into a geopolitical drama.
O CEO da Anthropic criticando a DeepSeek é assustador! Se eles não conseguem manter os dados de bioweapons seguros, o que mais estão fazendo de errado? Isso me faz pensar duas vezes sobre usar qualquer AI deles. Espero que resolvam isso rápido! 😱
Nossa, o CEO da Anthropic realmente detonou a DeepSeek por falhar no teste de segurança de dados de bioweapons! É assustador pensar que empresas de IA não priorizam a segurança. Fica a dúvida sobre o que mais está acontecendo nos bastidores. Mantenha-se seguro, pessoal! 😱
El fracaso de DeepSeek en la prueba de seguridad de datos de bioweapons es muy preocupante. Preocuparse por la privacidad de los datos es una cosa, pero esto es de otro nivel. El CEO de Anthropic tiene razón al criticarlos. Necesitamos más transparencia y seguridad en la IA, ¡rápido! 😠











