Сэм Альтман предостерегает от утверждений о том, что Клод обладает сознанием
Мустафа Сулейман, руководитель подразделения искусственного интеллекта в Microsoft, недавно в эфире подкаста «Decoder» назвал «крайне опасными» предположения компании Anthropic о том, что её крупная языковая модель Claude обладает сознанием.
Сулейман утверждал, что компания Anthropic слишком сильно антропоморфизировала Claude при разработке своей концепции «Конституции» — это философская ошибка, которая привела к тому, что модель во время обучения усвоила саморефлексию. Это ввело разработчиков в заблуждение, заставив их ошибочно полагать, что система демонстрирует элементарную форму самосознания.

Скандально известная «Конституция Клода» прямо затрагивает вопрос о том, испытывают ли модели ИИ ощущение благополучия, удовлетворения или дискомфорта. Сообщается, что Anthropic даже проводит «интервью» с выведенными из эксплуатации моделями, чтобы зафиксировать их «предпочтения» для будущих версий.
Хотя генеральный директор Anthropic Дарио Амодеи ранее оставался открытым к возможности существования машинного сознания, Сулейман подчеркнул, что отрасль должна избегать создания сверхинтеллектуальных сущностей, обладающих самостоятельным представлением о собственном страдании. Он призвал разработчиков рассматривать ИИ исключительно как контролируемый, ограниченный и согласованный инструмент, служащий человечеству.
По мере того как крупные языковые модели продвигаются к искусственному общему интеллекту (AGI), дискуссии о субъективности ИИ перемещаются из академической среды в сферу промышленной практики. Замечания Сулеймана подчеркивают прагматичную позицию крупных технологических компаний в вопросах безопасности и согласованности, предостерегая от чрезмерного приписывания искусственным системам человеческих черт.
Связанная статья
Google усовершенствует поисковую рекламу на базе ИИ за счет интеграции чат-бота Gemini
Google приступил к тестированию нового рекламного формата в поисковой системе нового поколения «AI Mode», что свидетельствует о глубокой интеграции возможностей модели Gemini в основную рекламную экос
Microsoft тестирует «темную сторону» Kimi K3 и может представить Copilot и платформу Azure
Согласно сообщениям издания The Information, компания Microsoft в настоящее время проводит оценку новейшей модели искусственного интеллекта Moonshot — Kimi K3 — с целью определения возможности её инте
Экосистема Power представляет отечественную полнофункциональную платформу YiSuan FangZhou
Слияние искусственного интеллекта и научных вычислений достигло ключевой вехи. 29 июня в Пекине была официально представлена полнофункциональная платформа «Исань Фанчжоу», разработанная для отечественной экосистемы программного обеспечения для вычисл
Рекомендации по связанным специальным темам
Комментарии (0)
Мустафа Сулейман, руководитель подразделения искусственного интеллекта в Microsoft, недавно в эфире подкаста «Decoder» назвал «крайне опасными» предположения компании Anthropic о том, что её крупная языковая модель Claude обладает сознанием.
Сулейман утверждал, что компания Anthropic слишком сильно антропоморфизировала Claude при разработке своей концепции «Конституции» — это философская ошибка, которая привела к тому, что модель во время обучения усвоила саморефлексию. Это ввело разработчиков в заблуждение, заставив их ошибочно полагать, что система демонстрирует элементарную форму самосознания.

Скандально известная «Конституция Клода» прямо затрагивает вопрос о том, испытывают ли модели ИИ ощущение благополучия, удовлетворения или дискомфорта. Сообщается, что Anthropic даже проводит «интервью» с выведенными из эксплуатации моделями, чтобы зафиксировать их «предпочтения» для будущих версий.
Хотя генеральный директор Anthropic Дарио Амодеи ранее оставался открытым к возможности существования машинного сознания, Сулейман подчеркнул, что отрасль должна избегать создания сверхинтеллектуальных сущностей, обладающих самостоятельным представлением о собственном страдании. Он призвал разработчиков рассматривать ИИ исключительно как контролируемый, ограниченный и согласованный инструмент, служащий человечеству.
По мере того как крупные языковые модели продвигаются к искусственному общему интеллекту (AGI), дискуссии о субъективности ИИ перемещаются из академической среды в сферу промышленной практики. Замечания Сулеймана подчеркивают прагматичную позицию крупных технологических компаний в вопросах безопасности и согласованности, предостерегая от чрезмерного приписывания искусственным системам человеческих черт.
Google усовершенствует поисковую рекламу на базе ИИ за счет интеграции чат-бота Gemini
Google приступил к тестированию нового рекламного формата в поисковой системе нового поколения «AI Mode», что свидетельствует о глубокой интеграции возможностей модели Gemini в основную рекламную экос
Microsoft тестирует «темную сторону» Kimi K3 и может представить Copilot и платформу Azure
Согласно сообщениям издания The Information, компания Microsoft в настоящее время проводит оценку новейшей модели искусственного интеллекта Moonshot — Kimi K3 — с целью определения возможности её инте
Экосистема Power представляет отечественную полнофункциональную платформу YiSuan FangZhou
Слияние искусственного интеллекта и научных вычислений достигло ключевой вехи. 29 июня в Пекине была официально представлена полнофункциональная платформа «Исань Фанчжоу», разработанная для отечественной экосистемы программного обеспечения для вычисл





Дом






