Дом
Meta внедряет новые системы контроля контента на основе искусственного интеллекта, одновременно сокращая зависимость от сторонних поставщиков
В четверг компания Meta объявила о начале внедрения более совершенных систем искусственного интеллекта для модерации контента с целью снижения зависимости от сторонних поставщиков. Эти системы будут решать такие задачи, как выявление и удаление контента, связанного с терроризмом, эксплуатацией детей, наркотиками, мошенничеством и аферами.
Компания заявила, что эти передовые инструменты искусственного интеллекта будут интегрированы во все её приложения, как только они начнут стабильно превосходить по эффективности существующие методы контроля контента. Одновременно Meta планирует уменьшить свою зависимость от сторонних поставщиков при выполнении этих задач модерации.
«Хотя люди-модераторы по-прежнему будут участвовать в этом процессе, эти системы будут справляться с задачами, которые лучше подходят для автоматизации, такими как повторяющиеся проверки контента с откровенными изображениями или области, где злоумышленники часто меняют свои тактики, например, продажа незаконных наркотиков или мошенничество», — пояснила Meta в сообщении в блоге.
Meta утверждает, что эти системы искусственного интеллекта способны выявлять больше нарушений с более высокой точностью, эффективнее предотвращать мошенничество, быстрее реагировать на события в реальном мире и сократить количество необоснованных мер.
Первые тесты систем искусственного интеллекта показали обнадеживающие результаты: они обнаружили в два раза больше контента, содержащего сексуальные предложения для взрослых, чем команды модераторов-людей, при этом снизив уровень ошибок более чем на 60%. Системы также выявляют и предотвращают больше случаев создания поддельных аккаунтов под имена знаменитостей и других известных личностей, а также помогают предотвратить взлом аккаунтов, обнаруживая такие сигналы, как вход в систему из новых мест, смену паролей или редактирование профиля.
Кроме того, Meta заявила, что системы могут выявлять и предотвращать около 5 000 попыток мошенничества в день, когда мошенники пытаются обманом заставить пользователей раскрыть свои учетные данные.
«Эксперты будут разрабатывать, обучать, контролировать и оценивать наши системы искусственного интеллекта, измеряя их эффективность и принимая самые сложные и важные решения», — написала Meta в сообщении в блоге. «Например, люди будут по-прежнему играть ключевую роль в принятии решений, связанных с наибольшим риском и имеющих критическое значение, таких как рассмотрение апелляций по поводу блокировки учетных записей или передача сообщений в правоохранительные органы».

Этот шаг следует за недавним смягчением Meta правил модерации контента, произошедшим в течение последнего года и совпавшим с возвращением президента Дональда Трампа на свой пост. В прошлом году компания прекратила реализацию своей программы проверки фактов силами третьих сторон в пользу модели в стиле «Community Notes», аналогичной той, что используется в X. Кроме того, она сняла ограничения на «темы, являющиеся частью общепринятого дискурса», и призвала пользователей применять «персонализированный» подход к политическому контенту.
Эти изменения происходят на фоне того, что Meta и другие крупные технологические компании сталкиваются с многочисленными судебными исками, направленными на привлечение социальных сетей к ответственности за нанесение вреда детям и молодым пользователям.
В четверг Meta также объявила о запуске помощника Meta AI, предоставляющего пользователям круглосуточный доступ к поддержке. Помощник постепенно внедряется по всему миру в приложениях Facebook и Instagram для iOS и Android, а также в Справочном центре Facebook и Instagram для пользователей настольных компьютеров.
Связанная статья
В Muse от Meta появляется на Mac, позволяя ИИ выполнять действия на вашем компьютере
Последний ИИ-ассистент Meta, Muse, теперь доступен на Mac.На macOS Muse интегрируется с вашими файлами, сообщениями, календарем, заметками и электронной почтой, работая непосредственно в их родных приложениях.Этот выпуск для настольных систем следу
Цукерберг расширяет корпоративное видение Meta в области искусственного интеллекта за пределы агентов
В июне Meta запустила нового ИИ-агента для предприятий, предназначенного для помощи в обслуживании клиентов, поддержке и повседневных операциях. Однако генеральный директор Марк Цукерберг сообщил инвесторам во вторник на телефонной конференции по ито
История Manus разворачивается: что происходит прямо сейчас
США и Китай ведут ожесточенную гонку за разработку самых передовых систем искусственного интеллекта в мире. Пекин инвестирует миллиарды долларов в отечественные модели, ужесточает контроль над технологическим сектором и внимательно следит за тенденци
Рекомендации по связанным специальным темам
Комментарии (0)
В четверг компания Meta объявила о начале внедрения более совершенных систем искусственного интеллекта для модерации контента с целью снижения зависимости от сторонних поставщиков. Эти системы будут решать такие задачи, как выявление и удаление контента, связанного с терроризмом, эксплуатацией детей, наркотиками, мошенничеством и аферами.
Компания заявила, что эти передовые инструменты искусственного интеллекта будут интегрированы во все её приложения, как только они начнут стабильно превосходить по эффективности существующие методы контроля контента. Одновременно Meta планирует уменьшить свою зависимость от сторонних поставщиков при выполнении этих задач модерации.
«Хотя люди-модераторы по-прежнему будут участвовать в этом процессе, эти системы будут справляться с задачами, которые лучше подходят для автоматизации, такими как повторяющиеся проверки контента с откровенными изображениями или области, где злоумышленники часто меняют свои тактики, например, продажа незаконных наркотиков или мошенничество», — пояснила Meta в сообщении в блоге.
Meta утверждает, что эти системы искусственного интеллекта способны выявлять больше нарушений с более высокой точностью, эффективнее предотвращать мошенничество, быстрее реагировать на события в реальном мире и сократить количество необоснованных мер.
Первые тесты систем искусственного интеллекта показали обнадеживающие результаты: они обнаружили в два раза больше контента, содержащего сексуальные предложения для взрослых, чем команды модераторов-людей, при этом снизив уровень ошибок более чем на 60%. Системы также выявляют и предотвращают больше случаев создания поддельных аккаунтов под имена знаменитостей и других известных личностей, а также помогают предотвратить взлом аккаунтов, обнаруживая такие сигналы, как вход в систему из новых мест, смену паролей или редактирование профиля.
Кроме того, Meta заявила, что системы могут выявлять и предотвращать около 5 000 попыток мошенничества в день, когда мошенники пытаются обманом заставить пользователей раскрыть свои учетные данные.
«Эксперты будут разрабатывать, обучать, контролировать и оценивать наши системы искусственного интеллекта, измеряя их эффективность и принимая самые сложные и важные решения», — написала Meta в сообщении в блоге. «Например, люди будут по-прежнему играть ключевую роль в принятии решений, связанных с наибольшим риском и имеющих критическое значение, таких как рассмотрение апелляций по поводу блокировки учетных записей или передача сообщений в правоохранительные органы».

Этот шаг следует за недавним смягчением Meta правил модерации контента, произошедшим в течение последнего года и совпавшим с возвращением президента Дональда Трампа на свой пост. В прошлом году компания прекратила реализацию своей программы проверки фактов силами третьих сторон в пользу модели в стиле «Community Notes», аналогичной той, что используется в X. Кроме того, она сняла ограничения на «темы, являющиеся частью общепринятого дискурса», и призвала пользователей применять «персонализированный» подход к политическому контенту.
Эти изменения происходят на фоне того, что Meta и другие крупные технологические компании сталкиваются с многочисленными судебными исками, направленными на привлечение социальных сетей к ответственности за нанесение вреда детям и молодым пользователям.
В четверг Meta также объявила о запуске помощника Meta AI, предоставляющего пользователям круглосуточный доступ к поддержке. Помощник постепенно внедряется по всему миру в приложениях Facebook и Instagram для iOS и Android, а также в Справочном центре Facebook и Instagram для пользователей настольных компьютеров.
В Muse от Meta появляется на Mac, позволяя ИИ выполнять действия на вашем компьютере
Последний ИИ-ассистент Meta, Muse, теперь доступен на Mac.На macOS Muse интегрируется с вашими файлами, сообщениями, календарем, заметками и электронной почтой, работая непосредственно в их родных приложениях.Этот выпуск для настольных систем следу
Цукерберг расширяет корпоративное видение Meta в области искусственного интеллекта за пределы агентов
В июне Meta запустила нового ИИ-агента для предприятий, предназначенного для помощи в обслуживании клиентов, поддержке и повседневных операциях. Однако генеральный директор Марк Цукерберг сообщил инвесторам во вторник на телефонной конференции по ито
История Manus разворачивается: что происходит прямо сейчас
США и Китай ведут ожесточенную гонку за разработку самых передовых систем искусственного интеллекта в мире. Пекин инвестирует миллиарды долларов в отечественные модели, ужесточает контроль над технологическим сектором и внимательно следит за тенденци











