Пренебрежение этикой ИИ представляет огромные риски: как реализовать ИИ ответственно

В июле 1945 года МХ Хашам Премджи заложил основу для будущего технологического гиганта, основав Western India Vegetable Products Limited в небольшом городке Амалнер, штат Махараштра, Индия. Расположенная у реки Бори, компания изначально занималась производством растительных масел. К 1970-м годам бизнес радикально трансформировался, переключив внимание на IT и ребрендинг в Wipro. Сегодня Wipro — одна из ведущих технологических компаний Индии, работающая в 167 странах, с почти четвертью миллиона сотрудников и доходом, превышающим 10 миллиардов долларов. Во главе стоит Ришад Премджи, внук основателя-визионера.

Сегодня Wipro позиционирует себя как глобальный лидер в области IT-трансформации, консалтинга и услуг по бизнес-процессам. В эксклюзивном интервью ZDNET мы встретились с Кираном Миннасандрамом, вице-президентом и техническим директором Wipro FullStride Cloud, чтобы обсудить последние инициативы компании и будущее IT.

Киран находится на передовой технологических инноваций Wipro, возглавляя инициативы по разработке передовых решений. Его основное внимание сосредоточено на стимулировании инноваций и предоставлении бизнесу современных технологий, особенно в области облачных вычислений. Он разрабатывает и внедряет передовые облачные архитектуры, которые революционизируют бизнес-процессы, повышая эффективность, масштабируемость и гибкость, чтобы помочь клиентам продвигаться в их цифровом пути.

Ценности компании

ZDNET: Как вы определяете этичный AI, и почему это критично для бизнеса сегодня?

Киран Миннасандрам: Этичный AI — это не просто соблюдение юридических норм; он глубоко связан с основными ценностями Wipro. Мы опираемся на четыре ключевых принципа: уважение к личности, справедливость и прозрачность для общества, экологическая ответственность и техническая надежность. Это гарантирует, что наш AI соответствует нашим ценностям в области конфиденциальности, достоинства, социальной справедливости и экологической ответственности, оставаясь безопасным и соответствующим нормам.

ZDNET: Почему многие компании сталкиваются с трудностями в вопросах этики AI, и какие ключевые риски им следует учитывать?

КМ: Проблема часто связана с отсутствием единого языка в отношении AI. Для решения этой проблемы компаниям необходимо разработать межорганизационную стратегию, объединяющую технические, юридические и HR-команды. AI — это не только техническая, но и корпоративная задача. Бизнес должен определить этику AI за пределами юридического соответствия, сосредоточившись на ценностях, которые он хочет поддерживать. Также следует разработать таксономию рисков для учета потенциальных юридических, безопасностных и трудовых последствий.

ZDNET: Как внедрение AI влияет на цели корпоративной устойчивости, как положительно, так и отрицательно?

КМ: AI оказывает двойное воздействие на устойчивость. С положительной стороны, он может повысить операционную эффективность, оптимизировать цепочки поставок и улучшить управление ресурсами, что может привести к снижению выбросов углерода. Например, в логистике AI может оптимизировать маршруты для минимизации расхода топлива. Однако стремительное внедрение AI также увеличивает энергопотребление и выбросы углерода, особенно из-за интенсивной вычислительной мощности, необходимой для обучения больших моделей AI.

Экологическое воздействие

ZDNET: Как предприятиям сбалансировать стремление к инновациям в AI с экологической ответственностью?

КМ: Предприятиям необходимо установить четкие политики и рекомендации для устойчивого использования AI. Эта структура помогает командам принимать обоснованные решения по инфраструктуре и алгоритмам. Компании также должны отслеживать и контролировать экологическое воздействие AI, побуждая поставщиков услуг делать то же самое. Мы помогли клиентам пересмотреть их AI-политики, вовлечь заинтересованные стороны и обучить сотрудников внедрять устойчивость в повседневные процессы. Сотрудничество между отраслями крайне важно для решения этих проблем, и Wipro активно участвует в глобальных усилиях, чтобы помочь клиентам ориентироваться в этой сложной области.

ZDNET: Как развиваются глобальные регулирования для решения вопросов этичного AI и устойчивости?

КМ: AI не существует в вакууме. Действующие законы о конфиденциальности, защите потребителей, безопасности и правах человека применимы. Регуляторы по защите данных играют ключевую роль в предотвращении вреда от AI, а законы о защите потребителей решают такие вопросы, как алгоритмическое ценообразование. Некоторые регионы также вводят специальные законы об AI, такие как EU AI Act, который устанавливает более строгие меры контроля в зависимости от уровня риска продукта. В США отдельные штаты сосредотачиваются на AI в управлении трудом, одной из самых сложных областей внедрения AI.

Самое большое заблуждение

ZDNET: Какие самые большие заблуждения об этике и устойчивости AI, и как бизнес может их преодолеть?

КМ: Распространенное заблуждение — что инновации и ответственность не могут сосуществовать. На самом деле ответственный AI критичен для устойчивых инноваций. Доверие — это основа внедрения AI, и компании, которые балансируют инновации с доверием, получают конкурентное преимущество. Потребители и бизнес будут тяготеть к продуктам, которым они доверяют.

ZDNET: Как Wipro FullStride Cloud помогает компаниям согласовывать AI с целями ESG (экологическими, социальными и управленческими)?

КМ: Мы помогаем, разрабатывая ответственные рамки AI, которые приоритизируют справедливость, прозрачность и подотчетность. Мы используем AI для мониторинга и отчетности по метрикам ESG и поддерживаем инициативы Green AI для сокращения углеродного следа. На стороне инфраструктуры мы оптимизируем рабочие нагрузки для энергоэффективности и разрабатываем отраслевые решения для достижения целей ESG.

ZDNET: Какие наиболее эффективные способы, с помощью которых облачные решения могут сократить экологический след AI?

КМ: Облачные решения повышают энергоэффективность за счет использования возобновляемой энергии, оптимизированного охлаждения и углеродно-осознанных вычислений. Такие методы, как федеративное обучение и обрезка моделей, снижают энергозатраты на обучение моделей AI. Серверлесс-решения и автоскейлинг помогают согласовать ресурсы с потребностями, предотвращая избыточное выделение. Облачные провайдеры предлагают инструменты для отслеживания и отчетности по углероду, а мультиоблачные и периферийные вычисления минимизируют перемещение данных, обрабатывая AI ближе к источнику.

Использование облака

ZDNET: Как облачная инфраструктура может быть использована для внедрения этических соображений в разработку AI?

КМ: Облачная инфраструктура предоставляет инструменты для внедрения этических соображений в AI. Наборы инструментов для этики AI могут выявлять предвзятость и тестировать на справедливость, а инструменты, учитывающие разнообразие, обеспечивают репрезентативность наборов данных. Облачные AI-фреймворки предлагают объяснимость и прозрачность, а безопасная разработка AI с сохранением конфиденциальности поддерживается через такие возможности, как дифференциальная конфиденциальность и зашифрованная обработка. Автоматизированный мониторинг соответствия обеспечивает соблюдение регулирований, а инструменты для тестирования дрейфа моделей и обнаружения галлюцинаций помогают поддерживать надежность моделей со временем.

ZDNET: Почему некоторые организации сталкиваются с трудностями в измерении устойчивого воздействия AI, и как облачные инструменты могут помочь?

КМ: Отсутствие стандартных метрик затрудняет измерение устойчивого воздействия AI. Облачные инструменты могут заполнить этот пробел с помощью настраиваемых панелей, отслеживающих углеродный выброс на протяжении всего жизненного цикла AI. Мониторинг в реальном времени важен, поскольку энергопотребление может значительно варьироваться, и облачные платформы предлагают динамические инструменты отслеживания для улавливания этих колебаний. Облачные решения также агрегируют данные из различных сред, улучшая видимость и принятие решений. Кроме того, облачные инструменты могут выявлять скрытые экологические издержки в процессе AI и помогать ориентироваться в различных региональных требованиях соответствия ESG.

ZDNET: Какие конкретные шаги могут предпринять организации для повышения прозрачности и подотчетности AI?

КМ: Во-первых, обучите сотрудников ответственному использованию AI, поощряя их задавать вопросы и тестировать AI в безопасных рамках. Во-вторых, создайте комплексную структуру управления, охватывающую все аспекты бизнеса, от закупок до управления рисками.

ZDNET: Как возникает предвзятость AI, и какую роль играют облачные фреймворки в ее смягчении?

КМ: Предвзятость AI может возникать из нерепрезентативных или предвзятых данных обучения, ошибок в данных, помеченных человеком, и устаревших моделей, продолжающих исторические предубеждения. Облачные фреймворки помогают, обеспечивая соответствие различным регулированиям и валидируя модели AI по различным демографическим группам. Адаптивные процессы обучения также могут перебалансировать наборы данных для смягчения предвзятости.

ZDNET: Какие стратегии управления должны внедрить предприятия для обеспечения ответственного использования AI?

КМ: Необходима надежная структура управления. Некоторые организации могут иметь специальную структуру управления AI, в то время как другие, как наша, интегрируют ее в существующие системы управления. Крайне важно вовлечь все части организации и проводить оценки воздействия AI с самого начала, чтобы внедрить юридическую защиту, конфиденциальность и надежность в развертывание AI.

Проблемы AI

Что вы думаете о нарастающем акценте на этичном и устойчивом AI? Внедрили ли вы какие-либо рамки или политики для обеспечения ответственной разработки AI в вашей организации?

Как вы решаете проблему экологического воздействия рабочих нагрузок AI? Используете ли вы облачные инструменты для измерения или сокращения этого воздействия?

Считаете ли вы, что глобальные регулирования успевают за инновациями в AI, или компаниям приходится самостоятельно разбираться в серых зонах? Поделитесь своими мыслями в комментариях ниже.

Оставайтесь в курсе последних технических новостей, подписавшись на нашу рассылку Tech Today, доставляемую в ваш почтовый ящик каждое утро.

Следите за моими ежедневными обновлениями проектов в социальных сетях. Подпишитесь на мою еженедельную рассылку обновлений и свяжитесь со мной на Twitter/X по адресу @DavidGewirtz, на Facebook по адресу Facebook.com/DavidGewirtz, на Instagram по адресу Instagram.com/DavidGewirtz, на Bluesky по адресу @DavidGewirtz.com и на YouTube по адресу YouTube.com/DavidGewirtzTV.