Дом
Психолог из Гарварда Пайк: сосредоточьтесь на инженерии безопасности ИИ, а не на слухах о конце света

Психолог Гарвардского университета Стивен Пинкер утверждает, что страхи перед тем, что искусственный интеллект приведет к вымиранию человечества, сильно преувеличены; эту позицию он подробно изложил в открытом письме, адресованном Скотту Александру и опубликованном на сайте Quillette.
После того как Александр предложил Пинкеру публичные дебаты о рисках для выживания человечества, связанных с ИИ, Пинкер отказался, назвав такой обмен мнениями просто развлечением. Он конкретно отвергает мысленный эксперимент о «максимизаторе скрепок», утверждая, что он ошибочно приравнивает интеллект к агрессии и игнорирует вероятность выхода систем из-под контроля.
Реальные риски часто остаются без внимания
Хотя ранее Пинкер смотрел на искусственный интеллект оптимистично, он признает две свои ошибки: недооценку возможностей больших языковых моделей и неспособность предсказать, насколько быстро компании начнут их внедрять. Иронично, что многие из тех, кто предупреждает об этих рисках, принадлежат к группам, которые ранее отвергали подобные опасения.
Пинкер выделяет биотерроризм, кибератаки и нерегулируемых агентов на основе ИИ в качестве реальных угроз. Он утверждает, что фокус на сценариях вымирания отвлекает от практических решений, таких как надежная инженерная безопасность, независимый надзор, системы подотчетности и сохранение человеческого контроля.
Противники оценивают риск вымирания в 20%
Связанная статья
Основатель Rivian Mind Robotics привлек $500 млн для развития промышленного ИИ
Пока технологический мир одержим гуманоидными роботами, один стартап прокладывает иной путь — игнорируя шумиху, но получая масштабную поддержку от элитных венчурных фондов. 12 марта Mind Robotics, промышленная ИИ-компания, основанная генеральным дире
Как исправить Core Web Vitals для улучшения позиций в поисковой выдаче?
Build a Custom Email Bot to Automate Your MessagingIntroductionConfiguring the Python EnvironmentDeveloping an Email Sending BotEnabling Access for External ApplicationsImplementing Text-to-Speech ConversionConstructing an Email ListSending Bu
Глава продукта OpenAI Тибо Соттиаль о том, почему мир кажется готовым
Инструмент OpenAI для программной инженерии, Codex, давно ассоциируется с Тибо Соттильо, инженером, известным тем, что он сбрасывает лимиты токенов каждый раз, когда продукт достигает крупной вехи роста. Теперь OpenAI стремится донести это же чувство
Рекомендации по связанным специальным темам
Комментарии (0)

Психолог Гарвардского университета Стивен Пинкер утверждает, что страхи перед тем, что искусственный интеллект приведет к вымиранию человечества, сильно преувеличены; эту позицию он подробно изложил в открытом письме, адресованном Скотту Александру и опубликованном на сайте Quillette.
После того как Александр предложил Пинкеру публичные дебаты о рисках для выживания человечества, связанных с ИИ, Пинкер отказался, назвав такой обмен мнениями просто развлечением. Он конкретно отвергает мысленный эксперимент о «максимизаторе скрепок», утверждая, что он ошибочно приравнивает интеллект к агрессии и игнорирует вероятность выхода систем из-под контроля.
Реальные риски часто остаются без внимания
Хотя ранее Пинкер смотрел на искусственный интеллект оптимистично, он признает две свои ошибки: недооценку возможностей больших языковых моделей и неспособность предсказать, насколько быстро компании начнут их внедрять. Иронично, что многие из тех, кто предупреждает об этих рисках, принадлежат к группам, которые ранее отвергали подобные опасения.
Пинкер выделяет биотерроризм, кибератаки и нерегулируемых агентов на основе ИИ в качестве реальных угроз. Он утверждает, что фокус на сценариях вымирания отвлекает от практических решений, таких как надежная инженерная безопасность, независимый надзор, системы подотчетности и сохранение человеческого контроля.
Противники оценивают риск вымирания в 20%
Основатель Rivian Mind Robotics привлек $500 млн для развития промышленного ИИ
Пока технологический мир одержим гуманоидными роботами, один стартап прокладывает иной путь — игнорируя шумиху, но получая масштабную поддержку от элитных венчурных фондов. 12 марта Mind Robotics, промышленная ИИ-компания, основанная генеральным дире
Как исправить Core Web Vitals для улучшения позиций в поисковой выдаче?
Build a Custom Email Bot to Automate Your MessagingIntroductionConfiguring the Python EnvironmentDeveloping an Email Sending BotEnabling Access for External ApplicationsImplementing Text-to-Speech ConversionConstructing an Email ListSending Bu
Глава продукта OpenAI Тибо Соттиаль о том, почему мир кажется готовым
Инструмент OpenAI для программной инженерии, Codex, давно ассоциируется с Тибо Соттильо, инженером, известным тем, что он сбрасывает лимиты токенов каждый раз, когда продукт достигает крупной вехи роста. Теперь OpenAI стремится донести это же чувство











