Дом
OpenAI усиливает безопасность Codex с помощью блокировки опасных операций и контроля разрешений

OpenAI усилила систему безопасности своего ИИ-агента для написания кода Codex, внедрив ряд мер защиты, направленных на снижение рисков, связанных с деструктивными действиями, такими как случайное удаление файлов или перезапись данных во время выполнения кода.
Согласно недавней публикации участника команды OpenAI Тибо, компания расследовала сообщения о вредоносных операциях, инициируемых Codex, и выявила, что основные уязвимости возникали при очистке временных рабочих директорий. Ключевые проблемы включали неправильное использование системных переменных, таких как $HOME, что могло непреднамеренно направлять процессы очистки на реальные пользовательские директории. Кроме того, некоторые операции не обеспечивали достаточной проверки путей перед удалением или перезаписью, тем самым увеличивая потенциальный риск повреждения данных.
Для устранения этих уязвимостей OpenAI внедрила многоуровневую систему защиты. Обновленная версия Codex теперь требует от агентов проверки целевых путей перед выполнением чувствительных операций и использует изолированные временные директории, исключая зависимость от потенциально вводящих в заблуждение системных переменных. Кроме того, OpenAI улучшила механизмы выявления и блокировки опасных команд, а также ввела дополнительные процедуры проверки для этих операций.
Кроме того, OpenAI повысила требования к предоставлению Codex прав полного доступа. Внедряя более заметные предупреждения о рисках, компания стремится снизить вероятность того, что пользователи случайно предоставят широкие права доступа. Эти улучшения правил автоматической проверки дополнительно ограничивают риски безопасности, не снижая эффективности программирования с помощью ИИ.
По мере того как ИИ-агенты для написания кода все больше интегрируются в разработку кода, управление файлами и выполнение автоматизированных задач, обеспечение безопасности поведения агентов стало критически важным приоритетом отрасли. Это улучшение со стороны OpenAI подчеркивает необходимость постоянного совершенствования ИИ-агентами управления разрешениями, аудита операций и контроля рисков по мере расширения сферы их применения.
Связанная статья
WeChat Pay запускает SDK для «умных очков»; Rokid становится первым брендом, поддерживающим эту технологию
WeChat официально запустил SDK для умных очков WeChat Pay, сделав его полностью доступным. Это решение интегрирует основную функцию WeChat «отсканировать и оплатить» в стандартный SDK, доступный произ
Инженер Uber создал ИИ-клона генерального директора, чтобы уклоняться от прямых вопросов
В то время как большинство сотрудников с тревогой ждут отчета перед генеральным директором, инженеры глобального лидера в сфере путешествий — компании Uber — обнаружили стратегическое преимущество: во
Как компания Unitree формирует будущее гуманоидной робототехники
Новое устройство Unitree с встроенным ИИ и технологией сверхширокоугольного 4D-ЛиДАР для усовершенствованной навигации в реальных условиях. Источник: UnitreeВан Синсин, генеральный директор Unitree, с
Рекомендации по связанным специальным темам
Комментарии (0)

OpenAI усилила систему безопасности своего ИИ-агента для написания кода Codex, внедрив ряд мер защиты, направленных на снижение рисков, связанных с деструктивными действиями, такими как случайное удаление файлов или перезапись данных во время выполнения кода.
Согласно недавней публикации участника команды OpenAI Тибо, компания расследовала сообщения о вредоносных операциях, инициируемых Codex, и выявила, что основные уязвимости возникали при очистке временных рабочих директорий. Ключевые проблемы включали неправильное использование системных переменных, таких как $HOME, что могло непреднамеренно направлять процессы очистки на реальные пользовательские директории. Кроме того, некоторые операции не обеспечивали достаточной проверки путей перед удалением или перезаписью, тем самым увеличивая потенциальный риск повреждения данных.
Для устранения этих уязвимостей OpenAI внедрила многоуровневую систему защиты. Обновленная версия Codex теперь требует от агентов проверки целевых путей перед выполнением чувствительных операций и использует изолированные временные директории, исключая зависимость от потенциально вводящих в заблуждение системных переменных. Кроме того, OpenAI улучшила механизмы выявления и блокировки опасных команд, а также ввела дополнительные процедуры проверки для этих операций.
Кроме того, OpenAI повысила требования к предоставлению Codex прав полного доступа. Внедряя более заметные предупреждения о рисках, компания стремится снизить вероятность того, что пользователи случайно предоставят широкие права доступа. Эти улучшения правил автоматической проверки дополнительно ограничивают риски безопасности, не снижая эффективности программирования с помощью ИИ.
По мере того как ИИ-агенты для написания кода все больше интегрируются в разработку кода, управление файлами и выполнение автоматизированных задач, обеспечение безопасности поведения агентов стало критически важным приоритетом отрасли. Это улучшение со стороны OpenAI подчеркивает необходимость постоянного совершенствования ИИ-агентами управления разрешениями, аудита операций и контроля рисков по мере расширения сферы их применения.
WeChat Pay запускает SDK для «умных очков»; Rokid становится первым брендом, поддерживающим эту технологию
WeChat официально запустил SDK для умных очков WeChat Pay, сделав его полностью доступным. Это решение интегрирует основную функцию WeChat «отсканировать и оплатить» в стандартный SDK, доступный произ
Инженер Uber создал ИИ-клона генерального директора, чтобы уклоняться от прямых вопросов
В то время как большинство сотрудников с тревогой ждут отчета перед генеральным директором, инженеры глобального лидера в сфере путешествий — компании Uber — обнаружили стратегическое преимущество: во
Как компания Unitree формирует будущее гуманоидной робототехники
Новое устройство Unitree с встроенным ИИ и технологией сверхширокоугольного 4D-ЛиДАР для усовершенствованной навигации в реальных условиях. Источник: UnitreeВан Синсин, генеральный директор Unitree, с











