5 быстрых советов по улучшению использования ИИ для лучших результатов и безопасности

В современном мире уклоняться от искусственного интеллекта (AI) становится всё сложнее с каждым днём. Возьмём, к примеру, поиск Google — теперь в нём появляются ответы, сгенерированные AI. Поскольку AI становится неотъемлемой частью нашей жизни, обеспечение его безопасного использования важнее, чем когда-либо. Итак, как вы, как пользователь AI, можете безопасно ориентироваться в мире генеративного AI (Gen AI)?

Также: Вот почему вам следует игнорировать 99% инструментов AI — и какие четыре я использую каждый день

На SXSW Маартен Сап и Шерри Тонгшуан Ву, доценты Школы компьютерных наук Университета Карнеги-Меллон, пролили свет на ограничения больших языковых моделей (LLMs), технологии, лежащей в основе популярных инструментов Gen AI, таких как ChatGPT. Они также поделились советами о том, как использовать эти технологии более эффективно.

«Они великолепны и повсюду, но на самом деле далеки от совершенства», — отметил Сап.

Изменения, которые вы можете внести в свои ежедневные взаимодействия с AI, просты. Они защитят вас от недостатков AI и помогут получать более точные ответы от чат-ботов AI. Вот пять стратегий, рекомендованных экспертами, для оптимизации использования AI.

1. Дайте AI более чёткие инструкции

Разговорные способности AI часто побуждают пользователей давать расплывчатые, краткие запросы, похожие на общение с другом. Проблема в том, что при таком минимальном руководстве AI может неправильно интерпретировать ваш текст, не обладая человеческой способностью читать между строк.

Во время своей сессии Сап и Ву продемонстрировали это, сообщив чат-боту, что они читают миллион книг, что AI воспринял буквально, а не понял преувеличение. Исследования Сапа показывают, что современные LLM ошибаются с нелитеральными ссылками более чем в 50% случаев.

Также: Может ли AI усилить креативность, не воруя у художников?

Чтобы избежать этого, будьте более явными в своих запросах, оставляя меньше места для неправильной интерпретации. Ву предлагает относиться к чат-ботам как к ассистентам, давая им чёткие, подробные инструкции. Составление запросов может потребовать немного больше усилий, но результаты будут лучше соответствовать вашим потребностям.

2. Дважды проверяйте ответы

Если вы использовали чат-бот AI, вы знакомы с «галлюцинациями» — когда AI выдаёт неверную информацию. Это могут быть фактические ошибки, искажение предоставленной информации или согласие с ложными утверждениями пользователей.

Сап отметил, что галлюцинации происходят в 1–25% случаев в повседневных сценариях, а в специализированных областях, таких как юриспруденция и медицина, их частота превышает 50%. Эти ошибки трудно заметить, потому что они звучат правдоподобно, даже если не соответствуют действительности.

Также: Агенты AI — это не просто помощники: как они меняют будущее работы уже сегодня

Модели AI часто подкрепляют свои ответы фразами вроде «Я уверен», даже когда ошибаются. Цитируемая научная статья показала, что модели AI были уверенно неверны в 47% случаев.

Чтобы защититься от галлюцинаций, всегда дважды проверяйте ответы AI. Сверяйтесь с надёжными внешними источниками или переформулируйте запрос, чтобы проверить, остаётся ли ответ AI неизменным. Ошибки легче обнаружить, если вы придерживаетесь тем, в которых вы разбираетесь.

3. Держите важные данные в секрете

Инструменты Gen AI обучаются на огромных наборах данных и продолжают учиться на новых данных для улучшения. Проблема в том, что эти модели могут воспроизводить обучающие данные в своих ответах, потенциально раскрывая вашу личную информацию другим. Также существует риск безопасности при использовании веб-приложений, поскольку ваши данные отправляются в облако для обработки.

Также: Этот новый эталон AI измеряет, насколько модели лгут

Для соблюдения хорошей гигиены AI избегайте передачи конфиденциальных или личных данных в LLM. Если вам нужно использовать личные данные, подумайте о их редактировании. Многие инструменты AI, включая ChatGPT, предлагают возможность отказаться от сбора данных, что является разумным выбором, даже если вы не используете конфиденциальную информацию.

4. Следите за тем, как вы говорите о LLM

Разговорная природа AI может привести к тому, что пользователи переоценивают его возможности, иногда приписывая этим системам человеческие черты. Эта антропоморфизация может быть опасной, поскольку может побудить людей доверять AI больше ответственности и данных, чем следует.

Также: Почему новые инструменты агентов AI от OpenAI могут изменить ваш подход к программированию

Чтобы противодействовать этому, Сап советует избегать описания моделей AI в человеческих терминах. Вместо того чтобы говорить: «Модель думает, что вы хотите сбалансированный ответ», он предлагает: «Модель разработана для генерации сбалансированных ответов на основе своих обучающих данных».

5. Тщательно обдумывайте, когда использовать LLM

Хотя LLM кажутся универсальными, они не всегда являются лучшим решением для каждой задачи. Доступные эталоны охватывают лишь часть взаимодействий пользователей с LLM.

Также: Даже премиум-инструменты AI искажают новости и фабрикуют ссылки — вот худшие из них

Кроме того, LLM могут проявлять предвзятость, такую как расизм или западноцентричные взгляды, что делает их неподходящими для определённых приложений.

Чтобы эффективно использовать LLM, обдуманно подходите к их применению. Оцените, является ли LLM подходящим инструментом для ваших потребностей, и выберите модель, наиболее подходящую для вашей конкретной задачи.

• Хотите больше историй об AI? Подпишитесь на Innovation, наш еженедельный бюллетень.