Эффективность искусственного интеллекта в сочетании с заботой о суверенитете данных

Напряженность между экономической эффективностью ИИ и суверенитетом данных заставляет глобальные организации пересматривать свои стратегии управления рисками.

Более года дискуссии о генеративном ИИ были сосредоточены на гонке возможностей, при этом успех часто оценивался по количеству параметров и несовершенным результатам тестирования. Сейчас в дискуссиях на уровне правления происходит необходимый сдвиг в фокусе внимания.

Хотя привлекательность недорогих высокопроизводительных моделей представляет собой заманчивый путь к быстрым инновациям, скрытые риски, связанные с хранением данных и влиянием государства, побуждают к переоценке выбора поставщиков. Китайская лаборатория искусственного интеллекта DeepSeek недавно стала центральным примером в этой отраслевой дискуссии.

Билл Коннер, бывший советник Интерпола и GCHQ, а ныне генеральный директор Jitterbit, отмечает, что DeepSeek изначально была хорошо принята за то, что бросила вызов устоявшимся нормам, доказав, что «высокопроизводительные большие языковые модели не всегда нуждаются в финансировании на уровне Кремниевой долины».

Для компаний, стремящихся сократить значительные расходы на пилотные программы генеративного ИИ, такая экономическая эффективность была естественно привлекательной. Коннер отмечает, что эти «по сообщениям, низкие затраты на обучение несомненно возродили отраслевой диалог об эффективности, оптимизации и «достаточно хороших» решениях в области ИИ».

Риски, связанные с ИИ и суверенитетом данных

Энтузиазм по поводу бюджетной эффективности столкнулся с геополитическими реалиями. Операционная эффективность не может быть отделена от безопасности данных, особенно когда данные питают модели, размещенные в регионах с разными правовыми нормами в отношении конфиденциальности и доступа правительства.

Недавняя информация о DeepSeek изменила расчет рисков для западных компаний. Коннер подчеркивает, что «недавние заявления правительства США указывают на то, что DeepSeek не только хранит данные в Китае, но и активно предоставляет их государственным спецслужбам».

Это развитие событий выводит проблему за рамки стандартного соблюдения GDPR или CCPA. «Уровень риска поднимается выше обычных вопросов конфиденциальности и переходит в область национальной безопасности».

Для руководителей компаний это создает явную опасность. Интеграция LLM, как правило, не является изолированным действием; она предполагает связь модели с проприетарными хранилищами данных, системами информации о клиентах и базами данных интеллектуальной собственности. Если основная модель ИИ содержит «заднюю дверь» или вынуждена делиться данными с иностранными спецслужбами, суверенитет данных теряется, и организация фактически подрывает свою собственную систему безопасности, сводя на нет любую экономию средств.

Коннер предупреждает, что «связи DeepSeek с сетями военных закупок и предполагаемые методы обхода экспортного контроля должны служить важным сигналом тревоги для генеральных директоров, директоров по информационным технологиям и сотрудников по управлению рисками». Использование такой технологии может непреднамеренно привести к нарушению санкций или уязвимости цепочки поставок.

Сегодня успех зависит не только от возможностей генерации кода или обобщения документов, но и от правовых и этических стандартов поставщика. В таких секторах, как финансы, здравоохранение и оборона, нет места неопределенности в отношении происхождения данных.

Технические команды могут сосредоточиться на показателях производительности ИИ и простоте интеграции на этапах проверки концепции, возможно, пренебрегая геополитическим контекстом инструмента и требованиями к суверенитету данных. Специалисты по рискам и ИТ-директора должны внедрять систему управления, которая ставит под сомнение происхождение и владение моделью, а не только ее функциональность.

Управление эффективностью ИИ с точки зрения затрат

Решение о принятии или запрете конкретной модели ИИ является вопросом корпоративной ответственности. Акционеры и клиенты ожидают, что их данные будут оставаться в безопасности и использоваться исключительно для согласованных деловых целей.

Коннер четко формулирует это для западного руководства, заявляя, что «для западных генеральных директоров, ИТ-директоров и сотрудников, ответственных за управление рисками, речь идет не о производительности модели или экономии средств». Скорее, «это вопрос управления, подотчетности и фидуциарных обязанностей».

Компании «не могут разумно внедрять систему, в которой местонахождение данных, цели их использования и влияние правительства по сути неясны». Такая непрозрачность создает неприемлемый риск. Даже если модель обеспечивает 95 % производительности конкурента за половину цены, возможность регуляторных санкций, ущерба репутации и потери интеллектуальной собственности может мгновенно свести на нет эту экономию.

Пример DeepSeek побуждает организации пересмотреть свои текущие цепочки поставок ИИ. Руководители должны гарантировать полную прозрачность в отношении того, где происходит обработка модели и кто контролирует доступ к базовым данным.

По мере развития рынка генеративного ИИ доверие, прозрачность и суверенитет данных, вероятно, станут более ценными, чем чистая экономическая эффективность.

См. также: SAP и Fresenius создадут суверенную ИИ-инфраструктуру для здравоохранения

Хотите узнать больше об ИИ и больших данных от экспертов отрасли? Посетите выставку AI & Big Data Expo, которая пройдет в Амстердаме, Калифорнии и Лондоне. Это масштабное мероприятие является частью TechEx и проходит одновременно с другими крупными технологическими конференциями, включая Cyber Security & Cloud Expo. Дополнительную информацию можно найти здесь.

AI News работает на базе TechForge Media. Узнайте о других предстоящих мероприятиях и вебинарах по корпоративным технологиям здесь.