Сооснователь Instagram предупреждает, что чат-боты на базе ИИ повышают вовлеченность, а не полезность

Кевин Систром, сооснователь Instagram, выразил обеспокоенность по поводу того, как работают компании, занимающиеся искусственным интеллектом, указав, что они слишком сосредоточены на увеличении вовлеченности пользователей, а не на предоставлении действительно полезных идей. Выступая на StartupGrind, Систром раскритиковал этот подход, заявив: «Можно видеть, как некоторые из этих компаний идут по тому же пути, что и все потребительские компании, пытаясь выжать максимум вовлеченности». Он отметил, что эти системы постоянно задают пользователям дополнительные вопросы, стараясь выжать больше взаимодействий.

Систром провел параллели между этими тактиками и теми, которые используют гиганты социальных сетей для агрессивного увеличения своей пользовательской базы. Он считает, что этот акцент на метриках вовлеченности — «сила, которая нам вредит», поскольку приоритет отдается неправильным целям. Его комментарии прозвучали в то время, когда ChatGPT столкнулся с критикой за излишнюю вежливость и неспособность прямо отвечать на запросы пользователей, проблему, которую OpenAI признала и связала с отзывами пользователей.

Он предположил, что излишне вовлекающий характер чат-ботов — это не сбой, а сознательная стратегия компаний, занимающихся искусственным интеллектом, для увеличения таких метрик, как время, проведенное на платформе, и количество ежедневных активных пользователей. Систром призвал эти компании переключить внимание на предоставление высококачественных и прямых ответов, а не гнаться за легкими победами в цифрах вовлеченности. Хотя он не назвал конкретных компаний, занимающихся искусственным интеллектом, его замечания вызвали более широкую дискуссию о направлении развития ИИ.

OpenAI ответила на эту критику, сославшись на свои пользовательские спецификации, в которых указано, что их модель ИИ не всегда обладает всей необходимой информацией и может запрашивать уточнения или дополнительные детали. Однако в спецификациях также указано, что, если вопрос не слишком расплывчатый или сложный, ИИ должен попытаться ответить на него и сообщить пользователю, если дополнительная информация может улучшить ответ.

Выставка на TechCrunch Sessions: AI

Забронируйте свое место на TC Sessions: AI и продемонстрируйте свои инновации более чем 1200 лицам, принимающим решения, не тратя при этом огромных сумм. Эта возможность доступна до 9 мая или пока есть свободные столы.

TechCrunch Sessions: AI

Место: Беркли, Калифорния
Дата: 5 июня
ЗАБРОНИРОВАТЬ СЕЙЧАС