5 consejos rápidos para mejorar el uso de la IA para obtener mejores resultados y seguridad

En el mundo de hoy, esquivar la inteligencia artificial (IA) se está volviendo más dura a día. Tome las búsquedas en Google, por ejemplo, ahora presentan respuestas generadas por IA. Con la IA convirtiéndose en un elemento básico en nuestras vidas, asegurar que su uso seguro sea más crucial que nunca. Entonces, ¿cómo puede usted, como usuario de IA, navegar por el mundo de la IA generativa (Gen AI) de manera segura?

Además: aquí está por qué debería ignorar el 99% de las herramientas de IA, y cuáles uso todos los días

En SXSW, Maarten Sap y Sherry Tongshuang Wu, profesores asistentes de la Escuela de Informática de Carnegie Mellon, arrojan luz sobre las limitaciones de los modelos de idiomas grandes (LLM), la tecnología detrás de las herramientas populares de Gen AI como ChatGPT. También compartieron consejos sobre cómo usar estas tecnologías de manera más efectiva.

"Son geniales, y están en todas partes, pero en realidad están lejos de ser perfectos", señaló Sap.

Los ajustes que puede hacer a sus interacciones diarias de IA son sencillos. Te protegerán de los defectos de la IA y te ayudarán a extraer respuestas más precisas de los chatbots de IA. Aquí hay cinco estrategias recomendadas por expertos para optimizar su uso de IA.

1. Darle a IA mejores instrucciones

La destreza conversacional de la IA a menudo lleva a los usuarios a dar unas indicaciones vaga y breves, similares a chatear con un amigo. El problema aquí es que con una guía tan mínima, la IA podría malinterpretar su texto, sin la capacidad humana de leer entre líneas.

Durante su sesión, SAP y Wu demostraron esto diciéndole a un chatbot que estaban leyendo un millón de libros, que la IA tomó literalmente en lugar de comprender la exageración. La investigación de SAP muestra que los LLM modernos luchan con referencias no literales más del 50% del tiempo.

También: ¿Puede la IA sobrealimentar la creatividad sin robar a los artistas?

Para dejar esto, sea más explícito en sus indicaciones, dejando menos espacio para la mala interpretación. Wu sugiere tratar chatbots como asistentes, darles instrucciones claras y detalladas. Puede tomar un poco más de esfuerzo para elaborar sus indicaciones, pero los resultados coincidirán mejor con sus necesidades.

2. Verifique sus respuestas

Si ha usado un chatbot de IA, está familiarizado con las "alucinaciones", cuando la IA escupe información incorrecta. Estos pueden variar desde respuestas fácticamente incorrectas hasta tergiversar información dada o de acuerdo con declaraciones falsas de los usuarios.

SAP señaló que las alucinaciones ocurren entre el 1% y el 25% del tiempo en escenarios cotidianos, con tasas que se elevan por encima del 50% en campos especializados como la ley y la medicina. Estos errores son difíciles de detectar porque suenan plausibles, incluso cuando están fuera de lugar.

También: los agentes de IA no son solo asistentes: cómo están cambiando el futuro del trabajo hoy

Los modelos de IA a menudo refuerzan sus respuestas con frases como "Tengo confianza", incluso cuando está mal. Un trabajo de investigación citado reveló que los modelos de IA eran confidentemente incorrectos el 47% del tiempo.

Para protegerse contra las alucinaciones, siempre verifique las respuestas de la IA. Referencia cruzada con fuentes externas de confianza o reformular su consulta para ver si la respuesta de la IA sigue siendo consistente. Es más fácil capturar errores si se mantiene en temas dentro de su experiencia.

3. Mantenga los datos que le importan privados

Las herramientas Gen AI están capacitadas en vastas conjuntos de datos y continúan aprendiendo de nuevos datos para mejorar. El problema es que estos modelos podrían regurgitar los datos de capacitación en sus respuestas, lo que puede exponer su información privada a otros. También existe un riesgo de seguridad al usar aplicaciones basadas en la web, ya que sus datos se envían a la nube para su procesamiento.

También: este nuevo punto de referencia de IA mide la cantidad de modelos que se encuentran

Para mantener una buena higiene de IA, evite compartir datos confidenciales o personales con LLM. Si debe usar datos personales, considere redactarlos. Muchas herramientas de IA, incluido el chatGPT, ofrecen opciones para optar por no participar en la recopilación de datos, lo cual es una opción acertada incluso si no está utilizando información confidencial.

4. Mira cómo hablas de LLMS

La naturaleza conversacional de la IA puede llevar a los usuarios a sobreestimar sus capacidades, a veces atribuyendo rasgos humanos a estos sistemas. Este antropomorfismo puede ser peligroso, ya que podría llevar a las personas a confiar en la IA con más responsabilidad y datos de lo que deberían.

También: ¿Por qué las nuevas herramientas de agente de IA de OpenAI podrían cambiar la forma en que codifica?

Para contrarrestar esto, SAP aconseja contra la describir modelos de IA en términos humanos. En lugar de decir: "El modelo cree que desea una respuesta equilibrada", sugiere, "el modelo está diseñado para generar respuestas equilibradas basadas en sus datos de entrenamiento".

5. Piense detenidamente sobre cuándo usar LLMS

Si bien los LLM parecen versátiles, no siempre son la mejor solución para cada tarea. Los puntos de referencia disponibles solo cubren una fracción de las interacciones de usuario con LLM.

También: incluso las herramientas de IA premium distorsionan las noticias y los enlaces de fabricación: estos son los peores

Además, los LLM pueden exhibir sesgos, como el racismo o las opiniones centradas en el oeste, haciéndolos inadecuados para ciertas aplicaciones.

Para usar LLM de manera efectiva, sea reflexivo sobre su aplicación. Evalúe si un LLM es la herramienta adecuada para sus necesidades y elija el modelo más adecuado para su tarea específica.

• ¿Quieres más historias sobre AI? Regístrese para la innovación, nuestro boletín semanal.