La descuido de la ética de la inteligencia artificial plantea grandes riesgos: cómo implementar la IA de manera responsable

En julio de 1945, MH Hasham Premji sentó las bases de lo que se convertiría en un gigante tecnológico al fundar Western India Vegetable Products Limited en la pequeña ciudad de Amalner, Maharashtra, India. Ubicada junto al río Bori, la empresa inicialmente se dedicó a producir aceites de cocina. Avanzando hasta la década de 1970, el negocio se transformó drásticamente, enfocándose en TI y renombrándose como Wipro. Hoy, Wipro es una de las principales empresas tecnológicas de India, operando en 167 países, empleando a casi un cuarto de millón de personas y generando ingresos superiores a los 10 mil millones de dólares. Al mando está Rishad Premji, nieto del fundador visionario.

En la actualidad, Wipro se posiciona como líder global en transformación de TI, consultoría y servicios de procesos empresariales. En una entrevista exclusiva con ZDNET, tuvimos la oportunidad de conversar con Kiran Minnasandram, VP y CTO de Wipro FullStride Cloud, para explorar los últimos proyectos de la empresa y el futuro de la TI.

Kiran está a la vanguardia de la innovación tecnológica de Wipro, liderando iniciativas que desarrollan soluciones de vanguardia. Su enfoque principal es impulsar la innovación y empoderar a las empresas con tecnología de punta, particularmente en computación en la nube. Diseña e implementa arquitecturas de nube avanzadas que revolucionan las operaciones empresariales, mejorando la eficiencia, escalabilidad y flexibilidad para ayudar a los clientes a avanzar en sus viajes digitales.

Valores de la Empresa

ZDNET: ¿Cómo defines la IA ética y por qué es crítica para las empresas hoy?

Kiran Minnasandram: La IA ética no se trata solo de cumplir con requisitos legales; está profundamente conectada con los valores fundamentales de Wipro. Basamos nuestro enfoque en cuatro pilares clave: respeto por el individuo, equidad y transparencia para la sociedad, responsabilidad ambiental y robustez técnica. Esto asegura que nuestra IA se alinee con nuestros valores de privacidad, dignidad, equidad social y responsabilidad ambiental, siendo también segura y cumpliendo con las normativas.

ZDNET: ¿Por qué muchas empresas luchan con la ética de la IA y cuáles son los riesgos clave que deben abordar?

KM: El desafío a menudo surge por la falta de un lenguaje común sobre la IA. Para enfrentarlo, las empresas necesitan establecer una estrategia organizacional integral que integre equipos técnicos, legales y de recursos humanos. La IA no es solo un problema técnico; es corporativo. Las empresas deben definir su ética de IA más allá del cumplimiento legal, enfocándose en los valores que desean mantener. También deben desarrollar una taxonomía de riesgos para abordar posibles impactos legales, de seguridad y en la fuerza laboral.

ZDNET: ¿Cómo afecta la adopción de la IA a los objetivos de sostenibilidad corporativa, tanto positiva como negativamente?

KM: La IA tiene un impacto dual en la sostenibilidad. Positivamente, puede mejorar la eficiencia operativa, optimizar cadenas de suministro y gestionar recursos, lo que reduce las emisiones de carbono. Por ejemplo, en logística, la IA puede optimizar rutas para minimizar el uso de combustible. Sin embargo, el despliegue rápido de la IA también aumenta el consumo de energía y las emisiones de carbono, especialmente por la potencia computacional intensiva necesaria para entrenar grandes modelos de IA.

Impacto Ambiental

ZDNET: ¿Cómo deberían las empresas equilibrar el impulso por la innovación en IA con la responsabilidad ambiental?

KM: Las empresas necesitan establecer políticas y directrices claras para el uso sostenible de la IA. Este marco ayuda a los equipos a tomar decisiones informadas sobre infraestructura y algoritmos. Las empresas también deben rastrear y monitorear el impacto ambiental de la IA, presionando a los proveedores de servicios para que hagan lo mismo. Hemos ayudado a clientes a revisar sus políticas de IA, involucrar a las partes interesadas y capacitar a los empleados para integrar la sostenibilidad en los procesos diarios. La colaboración entre industrias es crucial para abordar estos desafíos, y Wipro participa activamente en esfuerzos globales para ayudar a los clientes a navegar este panorama complejo.

ZDNET: ¿Cómo están evolucionando las regulaciones globales para abordar las preocupaciones éticas y de sostenibilidad de la IA?

KM: La IA no opera en el vacío. Las leyes existentes sobre privacidad, protección al consumidor, seguridad y derechos humanos se aplican. Los reguladores de protección de datos son clave para proteger contra los daños de la IA, mientras que las leyes de protección al consumidor abordan problemas como la fijación de precios algorítmica. Algunas regiones también están promulgando leyes específicas para la IA, como la Ley de IA de la UE, que impone controles más estrictos según el nivel de riesgo del producto. En EE. UU., los estados individuales están enfocándose en la IA en la gestión laboral, una de las áreas más complejas del despliegue de la IA.

Mayor Misconcepción

ZDNET: ¿Cuáles son las mayores ideas erróneas sobre la ética y la sostenibilidad de la IA, y cómo pueden las empresas superarlas?

KM: Una idea errónea común es que la innovación y la responsabilidad no pueden coexistir. En realidad, la IA responsable es crucial para la innovación sostenible. La confianza es la base del despliegue de la IA, y las empresas que equilibran innovación con confianza obtienen una ventaja competitiva. Consumidores y empresas gravitarán hacia productos en los que confíen.

ZDNET: ¿Cómo apoya Wipro FullStride Cloud a las empresas para alinear la IA con los objetivos ESG (ambientales, sociales y de gobernanza)?

KM: Ayudamos desarrollando marcos de IA responsable que priorizan la equidad, la transparencia y la rendición de cuentas. Usamos IA para monitorear e informar métricas ESG y apoyamos iniciativas de IA Verde para reducir la huella de carbono. En el lado de la infraestructura, optimizamos cargas de trabajo para la eficiencia energética y desarrollamos soluciones específicas de la industria para cumplir con los objetivos ESG.

ZDNET: ¿Cuáles son las formas más efectivas en que las soluciones en la nube pueden reducir la huella ambiental de la IA?

KM: Las soluciones en la nube pueden mejorar la eficiencia energética mediante el uso de energía renovable, enfriamiento optimizado y computación consciente del carbono. Técnicas como el aprendizaje federado y la poda de modelos pueden reducir la energía requerida para entrenar modelos de IA. Las soluciones sin servidor y de escalado automático alinean los recursos con la demanda, evitando el sobreaprovisionamiento. Los proveedores de nube ofrecen herramientas de seguimiento y reporte de carbono, y la computación en la nube múltiple y en el borde puede minimizar el movimiento de datos, procesando la IA más cerca de su fuente.

Aprovechando la Nube

ZDNET: ¿Cómo se puede aprovechar la infraestructura en la nube para integrar consideraciones éticas en el desarrollo de la IA?

KM: La infraestructura en la nube proporciona herramientas para integrar consideraciones éticas en la IA. Los kits de herramientas de ética de IA pueden detectar sesgos y probar la equidad, mientras que las herramientas de entrenamiento conscientes de la diversidad aseguran que los conjuntos de datos sean representativos. Los marcos de IA basados en la nube ofrecen explicabilidad y transparencia, y el desarrollo de IA seguro y que preserva la privacidad se apoya mediante capacidades como la privacidad diferencial y el procesamiento encriptado. El monitoreo automatizado de cumplimiento asegura la adherencia a las regulaciones, y las herramientas para pruebas de deriva de modelos y detección de alucinaciones ayudan a mantener la confiabilidad del modelo con el tiempo.

ZDNET: ¿Por qué algunas organizaciones luchan para medir el impacto de sostenibilidad de la IA, y cómo pueden las herramientas basadas en la nube ayudar?

KM: La falta de métricas estándar dificulta medir el impacto de sostenibilidad de la IA. Las herramientas basadas en la nube pueden llenar este vacío con tableros personalizables que rastrean la emisión de carbono a lo largo del ciclo de vida de la IA. El monitoreo en tiempo real es crucial, ya que el consumo de energía puede variar significativamente, y las plataformas en la nube ofrecen herramientas de seguimiento dinámico para capturar estas fluctuaciones. Las soluciones nativas de la nube también agregan datos de diversos entornos, mejorando la visibilidad y la toma de decisiones. Además, las herramientas en la nube pueden destacar costos ambientales ocultos en el proceso de IA y ayudar a navegar los requisitos de cumplimiento ESG regionales variables.

ZDNET: ¿Qué pasos concretos pueden tomar las organizaciones para mejorar la transparencia y la rendición de cuentas de la IA?

KM: Primero, capacitar a la fuerza laboral para usar la IA de manera responsable, alentándolos a cuestionar y probar la IA dentro de límites seguros. Segundo, establecer una estructura de gobernanza integral que abarque todos los aspectos del negocio, desde la adquisición hasta la gestión de riesgos.

ZDNET: ¿Cómo surge el sesgo en la IA, y qué papel juegan los marcos basados en la nube para mitigarlo?

KM: El sesgo en la IA puede surgir de datos de entrenamiento no representativos o prejuiciados, errores en conjuntos de datos etiquetados por humanos y modelos obsoletos que perpetúan sesgos históricos. Los marcos basados en la nube ayudan asegurando el cumplimiento con regulaciones diversas y validando modelos de IA en diferentes demografías. Los procesos de entrenamiento adaptativo también pueden reequilibrar conjuntos de datos para mitigar sesgos.

ZDNET: ¿Qué estrategias de gobernanza deberían implementar las empresas para garantizar un uso responsable de la IA?

KM: Es esencial un marco de gobernanza robusto. Algunas organizaciones pueden tener una estructura de gobernanza de IA dedicada, mientras que otras, como la nuestra, la integran dentro de los sistemas de gobernanza existentes. Es crucial involucrar a todas las partes de la organización y realizar evaluaciones de impacto de la IA desde el inicio para integrar protección legal, privacidad y robustez en el despliegue de la IA.

Problemas de la IA

¿Qué opinas sobre el creciente énfasis en la IA ética y sostenible? ¿Has implementado algún marco o política para asegurar un desarrollo responsable de la IA en tu organización?

¿Cómo estás abordando el impacto ambiental de las cargas de trabajo de IA? ¿Estás usando herramientas basadas en la nube para medir o reducir esa huella?

¿Crees que las regulaciones globales están siguiendo el ritmo de la innovación en IA, o las empresas deben navegar las áreas grises por su cuenta? Comparte tus ideas en los comentarios a continuación.

Mantente actualizado con las últimas noticias tecnológicas suscribiéndote a nuestro boletín Tech Today, entregado en tu bandeja de entrada cada mañana.

Sigue mis actualizaciones de proyectos diarias en redes sociales. Suscríbete a mi boletín de actualizaciones semanales y conéctate conmigo en Twitter/X en @DavidGewirtz, en Facebook en Facebook.com/DavidGewirtz, en Instagram en Instagram.com/DavidGewirtz, en Bluesky en @DavidGewirtz.com, y en YouTube en YouTube.com/DavidGewirtzTV.