Скептицизм экспертов по поводу механизмов безопасности ChatGPT для подростков от OpenAI

Недавний запуск OpenAI сервиса ChatGPT для детей, включающий возрастные ограничения, вызвал резкую критику со стороны защитников безопасности детей, которые ставят под сомнение прозрачность и эффективность его мер защиты.
Эксперты по безопасности подчеркивают, что независимое тестирование необходимо до того, как платформа будет рекомендована семьям. Робби Тынъяла из Common Sense Media подчеркнул, что OpenAI должен предоставить конкретные доказательства того, что его функции безопасности действительно работают, а не полагаться на непроверенные заявления.
Джос Голин, руководитель инициативы Fairplay, выразил серьезные опасения по поводу отсутствия подотчетности. Он отметил, что прошлые ограничения OpenAI на чувствительные темы, такие как самоубийство и насилие, часто оказывались неэффективными, утверждая, что саморегуляция недостаточна без надежного надзора.
Эксперты также сомневаются в надежности системы автоматической проверки возраста. Тынъяла указал, что OpenAI не опубликовал данные о частоте ложноположительных или ложноотрицательных результатов, что ясно показывает: автоматические системы не могут идеально идентифицировать молодых пользователей. Кроме того, подростки, вероятно, найдут способы обойти эти проверки.
Скептицизм остается высоким относительно обещания OpenAI, что отмеченный контент будет проверен сотрудниками, а родители будут уведомлены в течение часа. Тынъяла поставил под сомнение надежность автоматических фильтров, а Голин потребовал точные данные о ежедневном объеме отметок, количестве сотрудников и времени проверки, отметив, что нереалистично ожидать достаточного штата для тщательной ручной проверки каждого опасного взаимодействия.
Наконец, эксперты утверждают, что требование от родителей вручную связывать учетные записи подрывает защиту. Голин предложил, что функции безопасности должны быть встроены в продукт по умолчанию, такие как автоматические ограничения времени, а не возлагать бремя сложной настройки исключительно на родителей.
Связанная статья
Сделка Fortinet с Virtue AI укрепляет позиции Agentic в сфере ИИ-безопасности
Кен Се, основатель и генеральный директор Fortinet | Источник: FortinetFortinet приобретает Virtue AI для усиления защиты во время выполнения и автоматической валидации систем искусственного интеллект
xAI представляет раннюю бета-версию Grok для сложных задач программирования
14 мая компания xAI, основанная Илоном Маском для разработки искусственного интеллекта, представила раннюю бета-версию ассистента для программирования под названием Grok Build. В настоящее время платформа доступна только подписчикам SuperGrok; она пр
Генеральный директор Anthropic изложил план по освоению новых горизонтов
Исследователи в области искусственного интеллекта все чаще высказывают тревожные предупреждения о рисках, связанных с ИИ, а генеральный директор OpenAI Сэм Альтман высказал мнение, что, возможно, приш
Рекомендации по связанным специальным темам
Комментарии (0)

Недавний запуск OpenAI сервиса ChatGPT для детей, включающий возрастные ограничения, вызвал резкую критику со стороны защитников безопасности детей, которые ставят под сомнение прозрачность и эффективность его мер защиты.
Эксперты по безопасности подчеркивают, что независимое тестирование необходимо до того, как платформа будет рекомендована семьям. Робби Тынъяла из Common Sense Media подчеркнул, что OpenAI должен предоставить конкретные доказательства того, что его функции безопасности действительно работают, а не полагаться на непроверенные заявления.
Джос Голин, руководитель инициативы Fairplay, выразил серьезные опасения по поводу отсутствия подотчетности. Он отметил, что прошлые ограничения OpenAI на чувствительные темы, такие как самоубийство и насилие, часто оказывались неэффективными, утверждая, что саморегуляция недостаточна без надежного надзора.
Эксперты также сомневаются в надежности системы автоматической проверки возраста. Тынъяла указал, что OpenAI не опубликовал данные о частоте ложноположительных или ложноотрицательных результатов, что ясно показывает: автоматические системы не могут идеально идентифицировать молодых пользователей. Кроме того, подростки, вероятно, найдут способы обойти эти проверки.
Скептицизм остается высоким относительно обещания OpenAI, что отмеченный контент будет проверен сотрудниками, а родители будут уведомлены в течение часа. Тынъяла поставил под сомнение надежность автоматических фильтров, а Голин потребовал точные данные о ежедневном объеме отметок, количестве сотрудников и времени проверки, отметив, что нереалистично ожидать достаточного штата для тщательной ручной проверки каждого опасного взаимодействия.
Наконец, эксперты утверждают, что требование от родителей вручную связывать учетные записи подрывает защиту. Голин предложил, что функции безопасности должны быть встроены в продукт по умолчанию, такие как автоматические ограничения времени, а не возлагать бремя сложной настройки исключительно на родителей.
Сделка Fortinet с Virtue AI укрепляет позиции Agentic в сфере ИИ-безопасности
Кен Се, основатель и генеральный директор Fortinet | Источник: FortinetFortinet приобретает Virtue AI для усиления защиты во время выполнения и автоматической валидации систем искусственного интеллект
xAI представляет раннюю бета-версию Grok для сложных задач программирования
14 мая компания xAI, основанная Илоном Маском для разработки искусственного интеллекта, представила раннюю бета-версию ассистента для программирования под названием Grok Build. В настоящее время платформа доступна только подписчикам SuperGrok; она пр
Генеральный директор Anthropic изложил план по освоению новых горизонтов
Исследователи в области искусственного интеллекта все чаще высказывают тревожные предупреждения о рисках, связанных с ИИ, а генеральный директор OpenAI Сэм Альтман высказал мнение, что, возможно, приш





Дом






