Эндрю Нг отвергает предупреждения об экзистенциальной угрозе

Дом

Срочные новости

Содержание

PatrickTaylor

18 сентября 2026 г.

Эндрю Нг отвергает предупреждения об экзистенциальной угрозе со стороны ИИ, считая их научной фантастикой, препятствующей прогрессу. Он утверждает, что преувеличенные опасения по поводу безопасности со стороны таких разработчиков, как Anthropic и OpenAI, направлены скорее на оказание влияния на нормативно-правовое регулирование, чем на обеспечение безопасности. Нг выступает за дальнейшее развитие ИИ с применением практических инженерных мер безопасности вместо замедления разработок, отдавая предпочтение более широким социальным выгодам перед неподтверждёнными опасениями о вымирании человечества.

Поделиться Нажмите, чтобы скопировать ссылку

Комментарии (0)

0/300

Представлять на рассмотрение

JoseMartin 18 сентября 2026 г.

Tesla выпускает обновление 2026.26.200.11, интегрирующее голосовой помощник Doubao AI для подписчиков премиум-услуг. Ключевые функции включают улучшенный режим «Домашние животные», предупреждения о «слепых зонах» и оценку запаса хода с учетом заряда аккумулятора. Обновления в сфере развлечений включают сохранение видео с видеорегистратора, синхронизацию текстов песен с задним экраном и оптимизацию работы Apple Music. Дополнительные улучшения включают функции родительского контроля, настройку режима тяги и исправления, связанные с безопасностью.

IsabellaDavis 18 сентября 2026 г.

Исследователи из Hacktron AI воспользовались уязвимостью в Discourse через систему Claude от Anthropic, чтобы получить доступ к учетным записям сотрудников OpenAI в ChatGPT и токенам GitHub, что позволило им проникнуть в репозиторий кода Monorepo. OpenAI устранила эту уязвимость и выплатила вознаграждение в размере 6 500 долларов. Команда продемонстрировала, что даже небольшие группы, имеющие подписку на ИИ, могут совершить взлом крупных технологических компаний: им удалось получить доступ к конфиденциальным данным алгоритмов, не похитив при этом веса основных моделей. Этот инцидент подчеркивает растущий риск атак с использованием ИИ на инфраструктуру проприетарного программного обеспечения.

KennethMartin 18 сентября 2026 г.

Zhipu AI запустила GLM-5.3-FlashX на своей платформе BigModel, обеспечивая скорость вывода 200 токенов в секунду. Эта улучшенная версия построена на основе популярной GLM-5.3-Flash и использует 100 000 отечественных чипов для оптимизации эффективности вывода. В приоритете — интеллектуальность, экономическая эффективность и скорость, предоставляя предприятиям услуги с высокой пропускной способностью и низкой задержкой. Доступна через API и центр опыта, обновление направлено на повышение коммерческой жизнеспособности в сценариях высокой конкурентной нагрузки, что знаменует значительный прогресс в области вывода отечественных больших моделей и их доступности.

JohnRoberts 18 сентября 2026 г.

Исследователь в области искусственного интеллекта Эндрю Нг отверг недавние предупреждения руководителей компаний Anthropic и OpenAI о том, что ИИ может привести к вымиранию человечества, назвав их научной фантастикой и заявив, что они могут отвлечь внимание от реальных рисков, таких как кибербезопасность. Нг, соучредитель Google Brain и Coursera, выступает за продолжение разработки ИИ в сочетании с проверенными мерами безопасности, контролируемыми испытаниями и инженерными защитными механизмами, а не за замедление прогресса. Он предлагает сосредоточиться на реальных приложениях и конкретных вопросах регулирования, а не на катастрофических сценариях.

GeorgeMartinez 18 сентября 2026 г.

Компания Anthropic сообщила, что на долю Claude теперь приходится 26 % внутренних научно-исследовательских и опытно-конструкторских работ в области ИИ, тогда как в феврале этот показатель составлял менее 1 %, что свидетельствует о быстром прогрессе в области рекурсивного самосовершенствования. На платформе компании работает около 30 000 ИИ-агентов, которые в августе приняли более 1 миллиарда решений. Большая часть научно-исследовательских работ достигла уровня AL4, на котором люди задают цели, а Claude выполняет работу от начала до конца под надзором. Хотя ни одна из задач не является полностью автономной (уровень AL5), Anthropic осуществляет строгий мониторинг безопасности, блокируя 0,002% решений в режиме онлайн. Такая прозрачность устанавливает отраслевой стандарт, поскольку такие конкуренты, как OpenAI и Google DeepMind, развивают возможности автоматизированных исследований, что подчеркивает значение RSI в качестве основной инвестиционной логики при капитальных затратах на ИИ.