Дом
Пионер в области искусственного интеллекта Хинтон предупреждает, что стремление технологических гигантов к прибыли может превратить людей в «младенцев» по сравнению с сверхинтеллектом

На фоне обострения глобальной конкуренции в сфере искусственного интеллекта Джеффри Хинтон — лауреат Нобелевской премии, «отец ИИ» — выступил с очередным резким предупреждением. В недавнем интервью журналу Fortune он отметил, что современные лидеры технологического сектора редко задумываются о том, к чему в конечном итоге приведут их инновации, а руководствуются исключительно краткосрочной прибылью.
Хинтон заметил, что руководители и исследователи резко расходятся во взглядах: руководители сосредоточены на квартальной прибыли, в то время как инженеры занимаются конкретными задачами, такими как повышение четкости изображения или реалистичности видео. Более важный вопрос — что станет с человечеством — откладывается на второй план в погоне за коммерциализацией.
Хинтон делит риски, связанные с ИИ, на две отдельные категории:
Злоупотребление со стороны злоумышленников: дипфейки, кибератаки и разработка вирусов с помощью ИИ уже становятся реальными угрозами.
Выход ИИ из-под контроля: это вызывает у Хинтона более глубокую озабоченность. Он предупреждает, что как только ИИ достигнет уровня сверхинтеллекта, он может развить собственное стремление к выживанию и контролю, что сделает идею человеческого надзора устаревшей.
Хинтон дает пугающий прогноз: после достижения уровня сверхразума вероятность того, что ИИ приведет к исчезновению человечества, может составить от 10% до 20%. Чтобы противостоять этому, он предлагает механизм, вдохновленный биологией, — подход, основанный на «материнском инстинкте».
«Единственный пример того, как более разумное существо подвергается влиянию более слабого, — это влияние младенца на свою мать».
Связанная статья
Генеральный директор DeepMind Хассабис: я сплю шесть часов в день, обычно чувствую прилив энергии около часа ночи.
В недавнем интервью журналу Fortune генеральный директор Google DeepMind Демис Хаассабис раскрыл свой нестандартный подход к отдыху и продуктивности. Хаассабис признался, что спит очень мало, распределяя свои бодрствующие часы на два отдельных рабочи
OpenAI и Anthropic борются за долю рынка, несмотря на снижение выручки
Несмотря на недавние сообщения о том, что OpenAI не достигла целевых показателей по выручке, что во вторник оказало давление на акции технологических компаний, частные инвесторы, вкладывающие средства
Соблюдение требований к автономным транспортным средствам в Калифорнии: новая эра штрафов, геозоны и 1 млн миль
Компания Guident эксплуатирует шаттл AuveTech в Южной Флориде, обслуживая маршрут протяженностью четыре мили в Вест-Палм-Бич и маршрут протяженностью одну милю в Бока-Ратоне с использованием своей тех
Рекомендации по связанным специальным темам
Комментарии (0)

На фоне обострения глобальной конкуренции в сфере искусственного интеллекта Джеффри Хинтон — лауреат Нобелевской премии, «отец ИИ» — выступил с очередным резким предупреждением. В недавнем интервью журналу Fortune он отметил, что современные лидеры технологического сектора редко задумываются о том, к чему в конечном итоге приведут их инновации, а руководствуются исключительно краткосрочной прибылью.
Хинтон заметил, что руководители и исследователи резко расходятся во взглядах: руководители сосредоточены на квартальной прибыли, в то время как инженеры занимаются конкретными задачами, такими как повышение четкости изображения или реалистичности видео. Более важный вопрос — что станет с человечеством — откладывается на второй план в погоне за коммерциализацией.
Хинтон делит риски, связанные с ИИ, на две отдельные категории:
Злоупотребление со стороны злоумышленников: дипфейки, кибератаки и разработка вирусов с помощью ИИ уже становятся реальными угрозами.
Выход ИИ из-под контроля: это вызывает у Хинтона более глубокую озабоченность. Он предупреждает, что как только ИИ достигнет уровня сверхинтеллекта, он может развить собственное стремление к выживанию и контролю, что сделает идею человеческого надзора устаревшей.
Хинтон дает пугающий прогноз: после достижения уровня сверхразума вероятность того, что ИИ приведет к исчезновению человечества, может составить от 10% до 20%. Чтобы противостоять этому, он предлагает механизм, вдохновленный биологией, — подход, основанный на «материнском инстинкте».
«Единственный пример того, как более разумное существо подвергается влиянию более слабого, — это влияние младенца на свою мать».
Генеральный директор DeepMind Хассабис: я сплю шесть часов в день, обычно чувствую прилив энергии около часа ночи.
В недавнем интервью журналу Fortune генеральный директор Google DeepMind Демис Хаассабис раскрыл свой нестандартный подход к отдыху и продуктивности. Хаассабис признался, что спит очень мало, распределяя свои бодрствующие часы на два отдельных рабочи
OpenAI и Anthropic борются за долю рынка, несмотря на снижение выручки
Несмотря на недавние сообщения о том, что OpenAI не достигла целевых показателей по выручке, что во вторник оказало давление на акции технологических компаний, частные инвесторы, вкладывающие средства











