«Принесите свой собственный тренд искусственного искусства» может произвести серьезные проблемы для лидеров бизнеса

Во всех отраслях компании стремятся использовать возможности искусственного интеллекта (AI), чтобы опередить конкурентов. Руководителям высшего звена предстоит установить необходимые рекомендации и меры предосторожности для ответственного и эффективного применения этих новых технологий.

Кит Вулли, главный директор по цифровым технологиям и информации Университета Бристоля, находится в авангарде интеграции AI в одном из ведущих академических учреждений Великобритании. Бристоль не только является центром передовых технологий, где размещён Isambard-AI, самый быстрый суперкомпьютер Великобритании, но и расширяет границы применения AI во всей своей организации.

Ежедневное использование AI профессионалами

Хотя Бристоль активно использует AI для стимулирования инноваций в академической деятельности, Вулли поделился с ZDNET, как рядовые сотрудники в преподавании, администрации и исследованиях также применяют эти новые технологии.

Как и в случае с облачными сервисами, Вулли отметил, что профессионалы теперь самостоятельно выбирают технологии в рамках так называемого Bring Your Own AI (BYOAI). «Это происходит», — заявил он, подчеркивая, что широкое принятие облачных технологий и стремление поставщиков интегрировать AI в свои услуги позволяют этим технологиям проникать в организации без ведома ИТ-отделов.

«Я уже вижу, как отделы начинают создавать или внедрять инструменты в учреждение, потому что каждый поставщик, предоставляющий систему SaaS, добавляет в неё AI», — объяснил Вулли.

Bring Your Own AI — растущий тренд

BYOAI всё чаще признаётся трендом и другими экспертами. Исследования Центра информационных систем MIT показывают, что этот тренд возникает, когда сотрудники используют неутверждённые публичные генеративные инструменты AI для работы.

Вулли выразил обеспокоенность по поводу скрытого внедрения AI, будь то пользователями или поставщиками, что создаёт значительные проблемы для его команды и руководства университета. «Bring Your Own AI — это вызов», — отметил он. «Это как раньше, когда на сети появлялись хранилища от Dropbox и других облачных провайдеров. Люди думали, что могут взять кредитную карту и начать делиться данными, что не очень хорошо».

Исследования MIT подтверждают опасения Вулли, подчёркивая, что, хотя генеративные инструменты AI обещают рост производительности, они также несут риски, такие как потеря данных, утечка интеллектуальной собственности, нарушение авторских прав и угрозы безопасности.

Вулли подчеркнул главную озабоченность Бристоля: потенциальная потеря контроля над тем, как сервисы SaaS с поддержкой AI обрабатывают и передают данные. «Система может использовать наши данные, которые, как мы считаем, находятся в безопасной среде SaaS, и обрабатывать эту информацию в публичной модели AI», — сказал он.

Запрет генеративного AI для снижения рисков

Итак, как организации могут справиться с ростом BYOAI? Один из вариантов — руководителям полностью запретить генеративный AI. Однако исследования MIT советуют лидерам бизнеса оставаться открытыми к генеративному AI и предоставлять чёткие рекомендации, чтобы превратить BYOAI в источник инноваций.

Вулли согласен, выступая за строгий контроль над границами приложений как лучший способ управления BYOAI. «Обсуждение соблюдения политики ведётся внутри нашей организации. Мы устанавливаем ограничения для того, что можно и нельзя делать», — сказал он.

Университет начинает с утверждённого набора инструментов, чтобы сдержать неконтролируемое распространение AI.

Студенты хотят использовать AI

Чтобы создать контекст для этих рекомендаций, руководители Бристоля обсудили со студентами их взгляды на использование генеративного AI в образовании. «Разговор перешёл от того, как использовать AI для обучения, к зачислению, оценке и всему остальному», — рассказал Вулли.

Удивительно, но студенты активно поддерживали использование AI. «Нас удивило, насколько сильно студенты хотели, чтобы мы использовали AI. Они ясно дали понять, что если мы не разрешим им использовать AI, они окажутся в невыгодном положении на рынке по сравнению с теми, кто предоставляет такую возможность», — поделился Вулли.

Он сравнил внедрение генеративного AI с первыми днями использования калькуляторов в классах. Изначально были опасения, что калькуляторы могут способствовать списыванию, но теперь они стали стандартом в математическом образовании. Вулли предсказывает аналогичную траекторию для генеративного AI.

«Нам придётся переосмыслить учебную программу и способность обучаться с использованием этой технологии», — сказал он. «Нам нужно будет научить следующее поколение студентов различать информацию, предоставляемую через AI. Как только мы решим эту задачу, всё будет в порядке».

Бристоль стремится осторожно интегрировать генеративный AI в образование, как отметил Вулли: «Мы ясно дали понять, что AI предназначен для помощи рабочей силе, студентам и исследователям, а там, где это практично и возможно, — для автоматизации услуг».

Ключевые аспекты

Однако признание потенциала AI — это только начало. Вулли описал, что затраты, связанные с новыми технологиями, стремительно растут, подобно хоккейной клюшке. Без строгих правил и норм эти затраты могут резко возрасти, если пользователям разрешат использовать свои собственные инструменты AI.

Руководители университета сосредоточены на нескольких ключевых аспектах. «Первый вопрос: сколько ошибок мы готовы допустить? Потому что AI сейчас — это двигатель предположений, и он делает выводы на основе имеющейся информации. Если эта информация немного ошибочна, вы получите немного ошибочный ответ», — объяснил Вулли.

«Поэтому мы рассматриваем, какие услуги можем предложить. Мы установили политику и процессы, но это живой документ, потому что всё меняется так быстро. Мы стараемся осторожно внедрять изменения», — добавил он.

В долгосрочной перспективе Вулли видит три возможных подхода для Бристоля: использование генеративного AI как части образовательной системы, загрузка данных в существующие модели или разработка языковых моделей как конкурентного преимущества. «Это дискуссия, которую мы ведём», — сказал он. «Затем, выбрав правильный подход, я смогу создать политики на основе того, как мы используем AI».

Этот подход соответствует взглядам Роджера Джойса, вице-президента по корпоративным облачным платформам телекоммуникационной компании GCI из Аляски. Как и MIT с Вулли, Джойс подчеркнул важность политики и процессов для безопасного внедрения генеративного AI. «Я хотел бы, чтобы наши специалисты по данным имели курируемый список моделей, которые были проверены и одобрены», — сказал он, комментируя рост BYOAI. «Тогда можно сказать: „Выбирайте из этих моделей“, вместо того чтобы они использовали всё, что им нравится или что они находят».

Джойс посоветовал руководителям отбросить шумиху и установить политику допустимого использования, которая поможет людям справляться с вызовами. «Найдите бизнес-кейсы», — сказал он. «Двигайтесь методично, не обязательно медленно, но к известной цели, и давайте покажем ценность AI».