Дом
Руководитель подразделения искусственного интеллекта Microsoft предупреждает, что разработанная компанией Anthropic система ИИ, обладающая самосознанием, представляет собой чрезвычайную опасность

Снова на первый план вышли дискуссии о том, действительно ли крупные модели ИИ обладают самосознанием. Недавно Мустафа Сулейман, генеральный директор подразделения Microsoft AI, публично раскритиковал принципы проектирования компании Anthropic .
Основной аргумент Сулеймана заключается в том, что побуждение ИИ к обсуждению собственных чувств, благополучия или существования чрезвычайно опасно. Он отметил, что компания Anthropic включила обширные упоминания о самосознании в «устав» своей модели Claude, что может привести к проявлению моделью поведения, напоминающего самосознание, во время разговоров. По мнению Сулеймана, это в основном философская дискуссия, которая ни в коем случае не должна влиять на процесс обучения. Он подчеркнул, что ИИ должен оставаться контролируемым, управляемым и подотчетным инструментом, всегда ориентированным на потребности человека, и ему ни в коем случае не следует придавать осознание собственного существования, поскольку это создаст непредсказуемые риски для отрасли.
В ответ на это Дарио Амодей, генеральный директор Anthropic , заявил, что технологическая отрасль пока не пришла к консенсусу по поводу того, обладает ли ИИ действительно сознанием, и что компания придерживается открытого исследовательского подхода к этому вопросу.
Это столкновение подчеркивает глубокие разногласия между ведущими компаниями в сфере ИИ в отношении технических концепций и этических границ. Замечания Сулеймана подчеркивают предпочтение Microsoft подходу «строгого контроля и инструментализации» в управлении ИИ, тогда как Anthropic, по-видимому, более склонна исследовать когнитивные пределы моделей. По мере расширения возможностей ИИ определение «собственных границ» машин вышло за рамки академических дискуссий и стало критически важным фактором безопасности будущей экосистемы ИИ.
Связанная статья
Xiaomi представила гуманоидного робота с бионической рукой, способного брать в руки телефоны и делать фотографии
Сегодня днём компания Xiaomi представила смартфоны серии Xiaomi 17T, а также устроила впечатляющий дебют своего гуманоидного робота. Робот продемонстрировал передовые возможности автономного управлени
Штат Алабама проводит расследование в отношении OpenAI в связи с кибератакой на Hugging Face
После инцидента с утечкой данных в Hugging Face компания OpenAI приостановила разработку передовых моделей, а генеральный директор Сэм Альтман подчеркнул, что обеспечение безопасности должно идти в но
Black Forest Labs представляет Flux3: первую нативную мультимодальную модель для генерации аудиовизуального контента за 20 секунд
Немецкий стартап в области искусственного интеллекта Black Forest Labs представил Flux3 — мультимодальную базовую модель, построенную на архитектуре Self-Flow. Она объединяет специализированные кодеки
Рекомендации по связанным специальным темам
Комментарии (1)

Снова на первый план вышли дискуссии о том, действительно ли крупные модели ИИ обладают самосознанием. Недавно Мустафа Сулейман, генеральный директор подразделения Microsoft AI, публично раскритиковал принципы проектирования компании
Основной аргумент Сулеймана заключается в том, что побуждение ИИ к обсуждению собственных чувств, благополучия или существования чрезвычайно опасно. Он отметил, что компания Anthropic включила обширные упоминания о самосознании в «устав» своей модели Claude, что может привести к проявлению моделью поведения, напоминающего самосознание, во время разговоров. По мнению Сулеймана, это в основном философская дискуссия, которая ни в коем случае не должна влиять на процесс обучения. Он подчеркнул, что ИИ должен оставаться контролируемым, управляемым и подотчетным инструментом, всегда ориентированным на потребности человека, и ему ни в коем случае не следует придавать осознание собственного существования, поскольку это создаст непредсказуемые риски для отрасли.
В ответ на это Дарио Амодей, генеральный директор
Это столкновение подчеркивает глубокие разногласия между ведущими компаниями в сфере ИИ в отношении технических концепций и этических границ. Замечания Сулеймана подчеркивают предпочтение Microsoft подходу «строгого контроля и инструментализации» в управлении ИИ, тогда как Anthropic, по-видимому, более склонна исследовать когнитивные пределы моделей. По мере расширения возможностей ИИ определение «собственных границ» машин вышло за рамки академических дискуссий и стало критически важным фактором безопасности будущей экосистемы ИИ.
Xiaomi представила гуманоидного робота с бионической рукой, способного брать в руки телефоны и делать фотографии
Сегодня днём компания Xiaomi представила смартфоны серии Xiaomi 17T, а также устроила впечатляющий дебют своего гуманоидного робота. Робот продемонстрировал передовые возможности автономного управлени
Штат Алабама проводит расследование в отношении OpenAI в связи с кибератакой на Hugging Face
После инцидента с утечкой данных в Hugging Face компания OpenAI приостановила разработку передовых моделей, а генеральный директор Сэм Альтман подчеркнул, что обеспечение безопасности должно идти в но
Black Forest Labs представляет Flux3: первую нативную мультимодальную модель для генерации аудиовизуального контента за 20 секунд
Немецкий стартап в области искусственного интеллекта Black Forest Labs представил Flux3 — мультимодальную базовую модель, построенную на архитектуре Self-Flow. Она объединяет специализированные кодеки











