Будущее ИИ зависит от суверенитета данных на фоне проблем с синтетическими данными

Представлено компанией EDB

По мере того как синтетические данные трансформируют процесс принятия решений, руководители компаний должны вернуть себе право определять, что является реальным, что сгенерировано и чему можно доверять.

В фильме 1983 года "Военные игры" герой, сыгранный Мэттью Бродериком, чуть не спровоцировал ядерную войну - но не с помощью оружия, а с помощью синтетических данных. Вымышленная система WOPR принимает симулированные данные о военных играх за реальные угрозы. Только когда люди звонят на базу и подтверждают, что нападения не было, они обнаруживают, что система дала сбой.

Сорок лет спустя риски остались такими же серьезными - только теперь синтетические данные составляют основу большинства наших решений. Модели, прогнозы и симуляции, создаваемые искусственным интеллектом, интегрированы в здравоохранение, финансы, маркетинг, кибербезопасность и все чаще в основные операции современного бизнеса. Но кто проверяет шашку? И как сохранить контроль над решениями, на которые влияют - или которые принимаются - синтетические данные?

Возникновение синтетических данных

Синтетические данные - информация, полученная с помощью искусственного интеллекта и похожая на реальные наборы данных, - сегодня используются во всем: от протоколов разработки новых лекарств до моделей прогнозирования клиентов. Их ценность очевидна: ускорение циклов разработки, уменьшение проблем с конфиденциальностью и возможность моделирования редких сценариев. Во многих областях это единственный практический способ обучения больших сложных систем.

Но синтетические данные не являются нейтральными. Они строятся на предположениях, обучаются на предвзятых источниках и призваны отражать мир, который может быть нереальным. Поскольку генеративный ИИ все чаще создает и вопросы, и ответы, мы рискуем создать петлю обратной связи, в которой ИИ станет единственным интерпретатором данных, которые он производит.

Это не просто техническое препятствие - это проблема лидерства.

Проблема принятия решений

В настоящее время дилемма данных для современного руководителя определяется тремя вопросами:

1. Когда синтетические данные должны превалировать над человеческими суждениями?
2. Как сбалансировать сигналы реального мира и синтетические симуляции?
3. Где человеческий инстинкт все еще играет роль - и как понять, когда ему стоит доверять?

Это не просто теория. Это уже происходит в инструментах управления взаимоотношениями с клиентами (CRM), основанных на искусственном интеллекте, которые рекомендуют дальнейшие действия, в прогностических моделях, определяющих цены или оценивающих риски, и в алгоритмах, используемых для принятия решений о найме или выдаче кредитов. Хотя синтетические данные могут повысить эффективность, без тщательного контроля они также могут усилить предвзятость, создать ложное чувство уверенности и скрыть важные сигналы.

Это становится особенно опасным в быстро меняющихся автоматизированных средах. Если системы искусственного интеллекта постоянно генерируют и изменяют данные, сама идея истины начинает ослабевать. Без четкого контроля и прозрачности мы можем потерять способность проверять что-либо вообще".

Томас Кулопулос, председатель совета директоров Delphi Group, автор и признанный "цифровой футурист", предупреждает, что распространение данных, генерируемых ИИ, ставит под сомнение доверие и точность принимаемых решений:

"Если ИИ будет постоянно создавать и изменять данные, будет ли его версия истины оставаться действительной? Это философский, но актуальный вопрос. Мы движемся к своего рода инфляции данных, когда одного человеческого суждения уже недостаточно для получения значимых выводов. ИИ становится единственным существом, способным интерпретировать данные, которые он создает. Это поднимает важнейшие философские и этические вопросы".

Его мысль подчеркивает необходимость для руководителей устанавливать четкие границы - не только между реальными и синтетическими данными, но и между делегированием задач и отказом от суждений.

Суверенитет - новое преимущество

Ответ заключается не в том, чтобы отказаться от синтетических данных, а в том, чтобы эффективно управлять ими.

Суверенитет над вашими данными и системами искусственного интеллекта означает наличие инфраструктуры, видимости и человеческих навыков для того, чтобы изучать, подвергать сомнению и рассматривать в контексте генерируемые машиной выводы. Это включает в себя:

• Проверку достоверности данных: Знать происхождение данных и способ их создания.
• Прозрачность модели: Понимание того, как системы искусственного интеллекта приходят к своим выводам.
• Права на принятие решений: Определение того, кому принадлежит окончательная власть - машине, человеку или обоим.

Компании, которые разрабатывают суверенные платформы для работы с данными и ИИ - те, которые они контролируют, отслеживают и адаптируют в соответствии со своей политикой, - будут лучше всего оснащены для использования преимуществ синтетических данных и избегания их ограничений.

Человеческая интуиция - ключевое отличие

Даже в высокоавтоматизированных системах искусственного интеллекта человеческая проницательность по-прежнему важна. Опыт реального мира, интуиция и понимание контекста служат связующим звеном между синтетическими данными и обоснованными решениями.

Как и в WarGames, самое важное вмешательство - не техническое, а человеческое: телефонный звонок, вопрос, момент размышления, который прерывает запрограммированную логику машины.

По мере того как ИИ становится все более совершенным, люди должны воспитывать в себе любопытство, мыслить категориями вероятности и спокойно относиться к неопределенности. Будущее будет благосклонно к тем, кто умеет ориентироваться в двусмысленной зоне между синтетическим и реальным - между симуляцией и реальностью.

Синтетические данные открывают невероятные перспективы, но нерегулируемая автоматизация не предотвратит неверный выбор. Суверенитет, управление и человеческая проницательность должны оставаться центральными элементами любой стратегии ИИ. В противном случае мы можем даже не заметить, когда позволим машинам принять симуляцию за реальность.

Роберт Фельдман - главный специалист по правовым вопросам в EDB.