Дом
OpenAI и Пентагон заключили соглашение с Альтманом, предусматривающее меры по обеспечению безопасности ИИ

После того как компания Anthropic зашла в тупик и была заблокирована Министерством обороны США (DoD, ранее называвшимся «Военным министерством» при администрации Трампа) из-за серьезных опасений по поводу безопасности, OpenAI действовала оперативно. Ее генеральный директор Сэм Альтман объявил в пятницу вечером, что OpenAI заключила соглашение с Пентагоном. Это соглашение разрешает использование моделей искусственного интеллекта компании в секретных сетях Министерства обороны.
Это партнерство возникает в особенно деликатный период. Ранее компания Anthropic была осуждена Трампом как «левые сумасброды» за отказ снять ограничения на «массовую внутреннюю слежку» и «полностью автономные системы вооружения», что привело к ее исключению из национальной цепочки поставок.
Принципы сотрудничества, выделенные Альтманом:
Приверженность основным ценностям: на социальной платформе X Альтман заявил, что соглашение OpenAI прямо поддерживает два важнейших принципа безопасности: запрет на использование для массовой внутренней слежки и требование, чтобы любое применение силы — включая автономное оружие — оставалось под значимым человеческим контролем и подотчетностью.
Интегрированные технические меры безопасности: OpenAI разработает специальные технические меры безопасности, чтобы гарантировать, что модель работает так, как задумано. Компания также намерена направить инженеров в Пентагон для поддержки внедрения модели и постоянного мониторинга безопасности.
Сохранение права на отказ: на внутреннем совещании Альтман сообщил, что правительство предоставило OpenAI полномочия внедрять собственный «стек безопасности». Если модель откажется выполнять запрошенную задачу, правительство не будет принуждать компанию изменять ее основную логику.
Альтман призвал Министерство обороны распространить эти же условия на все компании, занимающиеся искусственным интеллектом, выразив надежду, что рациональные соглашения смогут ослабить напряженность между правительством и технологическим сектором. Однако соглашение вызвало внутреннюю дискуссию: более 60 сотрудников OpenAI подписали на этой неделе совместное письмо, в котором поддержали более жесткую позицию Anthropic в отношении военных приложений.
Связанная статья
Эксперты по ИИ приступают к работе: крупные модели захватывают фабрики, промышленное производство вступает в новую эпоху
На передовых рубежах биологической ферментации, архитектурного проектирования и даже очистки сточных вод новый вид «сотрудников» незаметно меняет облик традиционного производства. Это не покрытые пото
Google Photos с помощью искусственного интеллекта воскрешает культовый гардероб из фильма «Бестолковые»
В среду сервис Google Фото анонсировал новую функцию на базе искусственного интеллекта, которая в скором времени превратит фотографии вашей одежды в цифровой гардероб, позволяя создавать новые комбина
Короткометражный фильм «Красные фрукты» обвиняют в использовании ИИ для кражи лиц обычных людей; официального комментария пока нет
В настоящее время индустрия короткометражных видеороликов сталкивается со скандалом, связанным с нарушением авторских прав при использовании искусственного интеллекта. Производство Red Fruit Short Dra
Рекомендации по связанным специальным темам
Комментарии (1)

После того как компания Anthropic зашла в тупик и была заблокирована Министерством обороны США (DoD, ранее называвшимся «Военным министерством» при администрации Трампа) из-за серьезных опасений по поводу безопасности, OpenAI действовала оперативно. Ее генеральный директор Сэм Альтман объявил в пятницу вечером, что OpenAI заключила соглашение с Пентагоном. Это соглашение разрешает использование моделей искусственного интеллекта компании в секретных сетях Министерства обороны.
Это партнерство возникает в особенно деликатный период. Ранее компания Anthropic была осуждена Трампом как «левые сумасброды» за отказ снять ограничения на «массовую внутреннюю слежку» и «полностью автономные системы вооружения», что привело к ее исключению из национальной цепочки поставок.
Принципы сотрудничества, выделенные Альтманом:
Приверженность основным ценностям: на социальной платформе X Альтман заявил, что соглашение OpenAI прямо поддерживает два важнейших принципа безопасности: запрет на использование для массовой внутренней слежки и требование, чтобы любое применение силы — включая автономное оружие — оставалось под значимым человеческим контролем и подотчетностью.
Интегрированные технические меры безопасности: OpenAI разработает специальные технические меры безопасности, чтобы гарантировать, что модель работает так, как задумано. Компания также намерена направить инженеров в Пентагон для поддержки внедрения модели и постоянного мониторинга безопасности.
Сохранение права на отказ: на внутреннем совещании Альтман сообщил, что правительство предоставило OpenAI полномочия внедрять собственный «стек безопасности». Если модель откажется выполнять запрошенную задачу, правительство не будет принуждать компанию изменять ее основную логику.
Альтман призвал Министерство обороны распространить эти же условия на все компании, занимающиеся искусственным интеллектом, выразив надежду, что рациональные соглашения смогут ослабить напряженность между правительством и технологическим сектором. Однако соглашение вызвало внутреннюю дискуссию: более 60 сотрудников OpenAI подписали на этой неделе совместное письмо, в котором поддержали более жесткую позицию Anthropic в отношении военных приложений.
Эксперты по ИИ приступают к работе: крупные модели захватывают фабрики, промышленное производство вступает в новую эпоху
На передовых рубежах биологической ферментации, архитектурного проектирования и даже очистки сточных вод новый вид «сотрудников» незаметно меняет облик традиционного производства. Это не покрытые пото
Google Photos с помощью искусственного интеллекта воскрешает культовый гардероб из фильма «Бестолковые»
В среду сервис Google Фото анонсировал новую функцию на базе искусственного интеллекта, которая в скором времени превратит фотографии вашей одежды в цифровой гардероб, позволяя создавать новые комбина
Короткометражный фильм «Красные фрукты» обвиняют в использовании ИИ для кражи лиц обычных людей; официального комментария пока нет
В настоящее время индустрия короткометражных видеороликов сталкивается со скандалом, связанным с нарушением авторских прав при использовании искусственного интеллекта. Производство Red Fruit Short Dra











