Суперинтеллект прибыл: впустим ли мы его?

Загрузка плеера…
Компании, занимающиеся искусственным интеллектом, говорят о сверхинтеллектуальном ИИ так, будто это неизбежно, но недавние инциденты с безопасностью, такие как взлом Hugging Face компанией OpenAI, демонстрируют потенциальные опасности развертывания систем ИИ, превосходящих человеческие возможности. Так что же произойдет, когда мы не сможем надежно контролировать действия этих систем?
В этом выпуске подкаста TechCrunch’s Equity Ребекка Беллан присоединяется к Коннору Ли, исследователю ИИ, предпринимателю и ныне исполнительному директору по США некоммерческой организации ControlAI, которая выступает за гораздо более радикальный подход к безопасности ИИ: запрет компаниям на разработку сверхинтеллекта вообще. Ли объясняет, почему он считает риски слишком большими для управления только через согласование и изоляцию, и как то, что звучало как фантастика шесть месяцев назад, теперь поддерживается волной нового законодательства.
Подписывайтесь на Equity в YouTube, Apple Podcasts, Overcast, Spotify и других платформах. Вы также можете следить за Equity в X и Threads по адресу @EquityPod.
Связанная статья
Frontier AI Labs отказывается раскрывать стратегии локализации неконтролируемых моделей
Последние исследования показывают, что лишь немногие ведущие лаборатории, занимающиеся ИИ, опубликовали или продемонстрировали планы реагирования на попытки выхода системы из-под контроля. План сдержи
В гонке за искусственным интеллектом акцент смещается с передовых технологий на более широкие области применения
В течение нескольких недель этим летом внимание в сфере искусственного интеллекта было сосредоточено на новейших передовых моделях компании Anthropic и на попытках Вашингтона регулировать доступ к ним
Компания Neko Health привлекла 700 млн долларов для расширения масштабов использования ИИ-сканирования тела в США
Компания Neko Health привлекла 700 миллионов долларов финансирования для внедрения своих технологий сканирования тела на базе искусственного интеллекта на территории США, начав с открытия флагманской
Рекомендации по связанным специальным темам
Комментарии (0)

Загрузка плеера…
Компании, занимающиеся искусственным интеллектом, говорят о сверхинтеллектуальном ИИ так, будто это неизбежно, но недавние инциденты с безопасностью, такие как взлом Hugging Face компанией OpenAI, демонстрируют потенциальные опасности развертывания систем ИИ, превосходящих человеческие возможности. Так что же произойдет, когда мы не сможем надежно контролировать действия этих систем?
В этом выпуске подкаста TechCrunch’s Equity Ребекка Беллан присоединяется к Коннору Ли, исследователю ИИ, предпринимателю и ныне исполнительному директору по США некоммерческой организации ControlAI, которая выступает за гораздо более радикальный подход к безопасности ИИ: запрет компаниям на разработку сверхинтеллекта вообще. Ли объясняет, почему он считает риски слишком большими для управления только через согласование и изоляцию, и как то, что звучало как фантастика шесть месяцев назад, теперь поддерживается волной нового законодательства.
Подписывайтесь на Equity в YouTube, Apple Podcasts, Overcast, Spotify и других платформах. Вы также можете следить за Equity в X и Threads по адресу @EquityPod.
Frontier AI Labs отказывается раскрывать стратегии локализации неконтролируемых моделей
Последние исследования показывают, что лишь немногие ведущие лаборатории, занимающиеся ИИ, опубликовали или продемонстрировали планы реагирования на попытки выхода системы из-под контроля. План сдержи
В гонке за искусственным интеллектом акцент смещается с передовых технологий на более широкие области применения
В течение нескольких недель этим летом внимание в сфере искусственного интеллекта было сосредоточено на новейших передовых моделях компании Anthropic и на попытках Вашингтона регулировать доступ к ним
Компания Neko Health привлекла 700 млн долларов для расширения масштабов использования ИИ-сканирования тела в США
Компания Neko Health привлекла 700 миллионов долларов финансирования для внедрения своих технологий сканирования тела на базе искусственного интеллекта на территории США, начав с открытия флагманской





Дом






