Дом
Глава робототехники OpenAI Кейтлин Калиновски уходит в отставку из-за партнерства с Пентагоном

Руководитель направления робототехники OpenAI Кейтлин Калиновски ушла в отставку после скандального партнерства компании с Министерством обороны США.
«Это было нелегкое решение», — объяснила Калиновски в заявлении в социальных сетях. «Хотя ИИ играет жизненно важную роль в национальной безопасности, проведение слежки за американцами без судебного надзора и развертывание летальных автономных систем без человеческого одобрения — это границы, требующие гораздо более тщательного рассмотрения».
Калиновски, ранее известная как руководитель подразделения дополненной реальности компании Meta, присоединилась к OpenAI в ноябре 2024 года. В своем заявлении об отставке она подчеркнула, что ее уход продиктован «принципами, а не людьми», выразив «глубокое уважение» к генеральному директору Сэму Альтману и всей команде OpenAI.
В последующем посте в X Калиновски уточнила: «Моя главная проблема заключается в том, что объявление было поспешным и не содержало четко определенных гарантий. Это фундаментальный вопрос управления. Эти вопросы слишком важны, чтобы решать их через поспешные сделки или объявления».
Представитель OpenAI подтвердил уход Калиновски изданию TechCrunch.
«Мы считаем, что наше соглашение с Пентагоном создает жизнеспособную рамку для ответственного применения ИИ в целях национальной безопасности, при этом четко устанавливая наши красные линии: никакой внутренней слежки и никаких автономного оружия», — stated компания. «Мы признаем наличие сильных мнений по этим вопросам и остаемся привержены постоянному диалогу с сотрудниками, государственными чиновниками, гражданским обществом и сообществами по всему миру».
Сделка с Пентагоном, объявленная чуть более недели назад, стала результатом переговоров между Пентагоном и Anthropic, которые провалились. Anthropic стремилась к внедрению гарантий, предотвращающих использование ее технологий для массовой внутренней слежки или полностью автономного оружия, что привело к тому, что Пентаго классифицировал Anthropic как риск в цепочке поставок. (Anthropic планирует оспорить это решение в суде; тем временем Microsoft, Google и Amazon согласились продолжать предоставлять Claude от Anthropic клиентам, не связанным с оборонным сектором.)
Впоследствии OpenAI быстро объявила о собственном соглашении, разрешающем использование ее технологий в секретных средах. Попытки руководителей прояснить условия сделки в интернете привели к тому, что компания описала ее как принятие «более расширенного, многоуровневого подхода», сочетающего договорные формулировки с техническими гарантиями для защиты красных линий, аналогичных тем, которые предлагала Anthropic.
Несмотря на эти усилия, скандал, по-видимому, повлиял на репутацию OpenAI среди некоторых пользователей: количество удалений приложения ChatGPT выросло на 295%, а Claude поднялся на вершину рейтингов App Store. По состоянию на субботу днем Claude и ChatGPT оставались первыми и вторыми бесплатными приложениями в американском App Store соответственно.
Связанная статья
OpenAI сокращает разрыв с Anthropic среди бизнес-пользователей, показывают новые данные
Поскольку IPO компаний OpenAI и Anthropic всё ещё отдалены, а детализированные финансовые отчёты не опубликованы, нам приходится обращаться к альтернативным индикаторам для оценки их бизнес-показателей. Платформа корпоративных кредитных карт и управл
OpenAI запускает более безопасную версию ChatGPT для подростков спустя несколько лет после того, как они начали ею пользоваться
После серии судебных исков, связанных с отсутствием протоколов безопасности в чат-ботах на базе ИИ — что стало одной из причин самоубийств подростков и других кризисов, связанных с психическим здоровь
Frontier AI Labs отказывается раскрывать стратегии локализации неконтролируемых моделей
Последние исследования показывают, что лишь немногие ведущие лаборатории, занимающиеся ИИ, опубликовали или продемонстрировали планы реагирования на попытки выхода системы из-под контроля. План сдержи
Рекомендации по связанным специальным темам
Комментарии (0)

Руководитель направления робототехники OpenAI Кейтлин Калиновски ушла в отставку после скандального партнерства компании с Министерством обороны США.
«Это было нелегкое решение», — объяснила Калиновски в заявлении в социальных сетях. «Хотя ИИ играет жизненно важную роль в национальной безопасности, проведение слежки за американцами без судебного надзора и развертывание летальных автономных систем без человеческого одобрения — это границы, требующие гораздо более тщательного рассмотрения».
Калиновски, ранее известная как руководитель подразделения дополненной реальности компании Meta, присоединилась к OpenAI в ноябре 2024 года. В своем заявлении об отставке она подчеркнула, что ее уход продиктован «принципами, а не людьми», выразив «глубокое уважение» к генеральному директору Сэму Альтману и всей команде OpenAI.
В последующем посте в X Калиновски уточнила: «Моя главная проблема заключается в том, что объявление было поспешным и не содержало четко определенных гарантий. Это фундаментальный вопрос управления. Эти вопросы слишком важны, чтобы решать их через поспешные сделки или объявления».
Представитель OpenAI подтвердил уход Калиновски изданию TechCrunch.
«Мы считаем, что наше соглашение с Пентагоном создает жизнеспособную рамку для ответственного применения ИИ в целях национальной безопасности, при этом четко устанавливая наши красные линии: никакой внутренней слежки и никаких автономного оружия», — stated компания. «Мы признаем наличие сильных мнений по этим вопросам и остаемся привержены постоянному диалогу с сотрудниками, государственными чиновниками, гражданским обществом и сообществами по всему миру».
Сделка с Пентагоном, объявленная чуть более недели назад, стала результатом переговоров между Пентагоном и Anthropic, которые провалились. Anthropic стремилась к внедрению гарантий, предотвращающих использование ее технологий для массовой внутренней слежки или полностью автономного оружия, что привело к тому, что Пентаго классифицировал Anthropic как риск в цепочке поставок. (Anthropic планирует оспорить это решение в суде; тем временем Microsoft, Google и Amazon согласились продолжать предоставлять Claude от Anthropic клиентам, не связанным с оборонным сектором.)
Впоследствии OpenAI быстро объявила о собственном соглашении, разрешающем использование ее технологий в секретных средах. Попытки руководителей прояснить условия сделки в интернете привели к тому, что компания описала ее как принятие «более расширенного, многоуровневого подхода», сочетающего договорные формулировки с техническими гарантиями для защиты красных линий, аналогичных тем, которые предлагала Anthropic.
Несмотря на эти усилия, скандал, по-видимому, повлиял на репутацию OpenAI среди некоторых пользователей: количество удалений приложения ChatGPT выросло на 295%, а Claude поднялся на вершину рейтингов App Store. По состоянию на субботу днем Claude и ChatGPT оставались первыми и вторыми бесплатными приложениями в американском App Store соответственно.
OpenAI сокращает разрыв с Anthropic среди бизнес-пользователей, показывают новые данные
Поскольку IPO компаний OpenAI и Anthropic всё ещё отдалены, а детализированные финансовые отчёты не опубликованы, нам приходится обращаться к альтернативным индикаторам для оценки их бизнес-показателей. Платформа корпоративных кредитных карт и управл
OpenAI запускает более безопасную версию ChatGPT для подростков спустя несколько лет после того, как они начали ею пользоваться
После серии судебных исков, связанных с отсутствием протоколов безопасности в чат-ботах на базе ИИ — что стало одной из причин самоубийств подростков и других кризисов, связанных с психическим здоровь
Frontier AI Labs отказывается раскрывать стратегии локализации неконтролируемых моделей
Последние исследования показывают, что лишь немногие ведущие лаборатории, занимающиеся ИИ, опубликовали или продемонстрировали планы реагирования на попытки выхода системы из-под контроля. План сдержи











