Human-in-the-Loop en IA: Mayor Precisión, Menos Riesgo

Si estás pensando en mejorar tu negocio con IA, no eres el único. Con los chatbots de IA como el canal de comunicación de mayor crecimiento, ya no son un lujo, sino una expectativa.

Pero ceder ese control puede dar algo de miedo. Delegar operaciones cruciales a un ‘algoritmo caja negra’ puede parecer un gran acto de fe.

Y lo es, por eso las empresas confían en la intervención humana para guiar la IA. Casi todos los agentes de IA incluyen human-in-the-loop: supervisión humana sobre las operaciones de la IA.

En este artículo, explicaré qué es, cómo funciona y daré ejemplos de cómo la intervención humana se usa a diario para dar más control a los usuarios sobre chatbots de IA y agentes.

¿Qué es human-in-the-loop?

Human-in-the-loop (HITL) es un enfoque colaborativo en IA donde la intervención humana se utiliza para mejorar o ampliar las capacidades de la IA. Esto puede ser mediante datos anotados por personas, corrección de resultados del modelo o incluso realizando tareas completas cuando la IA no está segura o no es efectiva.

El término puede ser algo ambiguo. Técnicamente se refiere a cualquier participación humana en el ciclo de vida de aplicaciones de IA: desde etiquetado de datos y evaluación de modelos hasta aprendizaje activo y escalamientos.

En la práctica, cuando los proveedores de IA ofrecen funciones HITL, generalmente se refieren a la supervisión de los resultados de la IA: la posibilidad de revisar respuestas y escalar interacciones de chatbots a agentes humanos.

¿Cómo están las personas “en el circuito” de la IA?

Un flujo de IA bien diseñado tendrá varios puntos de entrada para la intervención humana.

La IA se entrena para detectar patrones en sus datos de entrenamiento y luego generalizarlos a datos nuevos. Nosotros decidimos qué datos ve el modelo, pero no qué patrones extrae de ellos.

En cada paso del proceso—recolección de datos, entrenamiento y despliegue—depende de las personas asegurarse de que el modelo funcione como se espera.

Según dónde y cómo ocurra esta intervención humana, puede clasificarse en alguna de las siguientes categorías:

Dar retroalimentación para el aprendizaje continuo

¿Has notado cuando ChatGPT te pregunta cuál de dos respuestas es mejor? Esa retroalimentación puede usarse como nuevos datos para entrenar el modelo.

Sin embargo, la retroalimentación no siempre tiene que ser explícita.

Piensa en las recomendaciones de redes sociales. Un modelo predictivo sugiere contenido según tu historial. A medida que usas la plataforma, tus elecciones se usan como datos para entrenar continuamente el modelo de recomendaciones.

En este caso, tú eres la persona. Y al usar la app, sirves de guía para futuras recomendaciones.

Aquí es donde se cierra el ciclo: el modelo se entrena con datos, los usuarios interactúan con el modelo y esas interacciones generan nuevos datos para volver a entrenar el modelo.

Gestión de situaciones escaladas

HITL no siempre busca mejorar el sistema. A veces se trata de derivar casos complejos a personas.

Piensa en un chatbot de soporte al cliente. Resuelve gran parte del trabajo de tu equipo respondiendo el 95% de las preguntas de forma clara, concisa y precisa.

Pero queda ese 5%.

Algunos casos serán tan específicos o poco comunes que quedan fuera del alcance de la IA. Aunque la intervención humana no mejora el modelo en estos casos, es un gran ejemplo de cómo personas y aprendizaje automático pueden trabajar juntos.

Anotación de datos para entrenamiento

Técnicamente, casi todo el aprendizaje automático se basa en mecanismos HITL. Por eso, cuando hablamos de HITL, normalmente nos referimos a las categorías anteriores.

Dicho esto, sería un error no destacar el trabajo y la experiencia humana en el ciclo del aprendizaje automático.

Los datos son la base de la IA y dependen de las personas. Los modelos de IA se entrenan para predecir etiquetas a partir de datos de entrada. Las etiquetas son el resultado esperado de la IA, y nos corresponde a nosotros crearlas.

Algunos ejemplos de etiquetado humano incluyen:

• Escribir manualmente respuestas a prompts para entrenar modelos de lenguaje grandes (LLMs)
• Transcribir archivos de audio para modelos de reconocimiento de voz.
• Anotar objetos en imágenes para modelos de detección de objetos
• Marcar correos electrónicos como spam o no spam para el detector de spam de un cliente de correo

Evaluación del rendimiento del modelo

La mayor parte del tiempo al construir modelos de IA se dedica a mejorarlos. Aunque existen muchas métricas como precisión y recall, se necesita experiencia para entender cómo funciona realmente el modelo y, sobre todo, qué hacer al respecto.

Por ejemplo, un investigador puede notar que el modelo identifica bien imágenes de perros, pero no de hot dogs. Esto suele solucionarse añadiendo o diversificando las imágenes de hot dogs.

A veces, un modelo conversacional tiene problemas para recordar información de mensajes anteriores. Un investigador suele abordar esto ajustando la arquitectura o el método de generación del modelo.

Ventajas de Human-in-the-Loop en IA

La IA puede ser muy eficiente y buena detectando patrones sutiles, pero las personas son inteligentes.

HITL consiste en combinar el nivel de matiz humano con la eficiencia de la automatización de flujos de IA para que las respuestas se adapten a la experiencia que buscan usuarios y proveedores.

1. Precisión y fiabilidad

Esta es obvia. ¿Qué es mejor que solo IA? IA corregida.

No solo está optimizada para casos límite, sino que es fiable porque los usuarios saben que los resultados serán revisados y mejorados continuamente.

2. Reducción de sesgos

Los datos no son perfectos y los resultados del modelo reflejan eso. El sesgo—favorecer ciertos resultados sobre otros—es un problema común en el aprendizaje automático y la IA.

Cosas como la generación de imágenes con sesgo racial o determinar la idoneidad laboral por género son ejemplos de cómo la IA refleja los sesgos presentes en los datos de entrenamiento.

HITL permite que las personas señalen estos problemas y guíen el modelo hacia resultados más justos.

3. Mejora continua y adaptabilidad

El entrenamiento no termina cuando el modelo entra en producción. HITL permite que el modelo siga entrenándose con nuevos datos para generalizar mejor en casos desconocidos.

Por ejemplo, editar textos generados o seguir las selecciones de contenido de los usuarios aporta más datos para que el modelo mejore.

Pero no basta con que el modelo mejore; también debe adaptarse.

Es fácil olvidar cómo nos adaptamos a un mundo en constante cambio. Con la IA, esto no es automático. HITL combina experiencia y juicio para mantener los resultados del modelo alineados con la actualidad.

4. Transparencia y confianza

Involucrar a personas hace que las decisiones de la IA sean más transparentes. Al corregir resultados o resolver casos de baja certeza, los usuarios pueden confiar en que interactúan con un algoritmo sensato.

Así mantenemos el control sobre la IA, y no al revés.

Casos de uso de Human-in-the-Loop

1. Conducción autónoma

Con un valor de mercado que podría alcanzar los 3,9 billones de dólares en la próxima década, la conducción autónoma podría ser la próxima gran frontera de la IA. Utiliza modelos de detección de objetos y toma de decisiones en tiempo real para simular la conducción humana.

Pero, a pesar de ser tan automatizado, depende bastante de las personas. Los modelos observan constantemente los patrones de conducción humana y comparan sus decisiones con sus propias predicciones.

2. Retail

Un chatbot para retail es una excelente forma de automatizar la atención al cliente sin perder el toque personalizado. HITL te permite mantener esa experiencia fluida y alineada con tu negocio. Por ejemplo, podrías:

• Revisar y corregir las recomendaciones de productos del bot
• Permitir que el cliente explique sus necesidades básicas antes de transferirlo a un agente humano

3. Finanzas

Los chatbots financieros son una gran manera de combinar la automatización de la IA con la experiencia humana.

Los sistemas de detección de fraude son muy buenos identificando actividades sospechosas en las transacciones. Pero no toda actividad sospechosa es malintencionada, y no quieres que te bloqueen la tarjeta cada vez que cambias tu pedido de café.

HITL puede derivar a humanos los casos de baja certeza y bajo riesgo.

La evaluación de riesgo de préstamos es otra área donde la IA destaca: es excelente calculando probabilidades a partir de datos aparentemente no relacionados. Sin embargo, esos datos casi siempre incluyen algún sesgo.

Mantener la equidad y reducir el sesgo suele requerir la intervención de una persona real.

4. Salud

El usuario de Reddit cuya vida fue salvada por Claude será el primero en defender el potencial de la IA en la salud.

Los chatbots médicos de IA ya han mostrado parte de ese potencial, pero va más allá: la IA puede ayudar a determinar un diagnóstico a partir de una resonancia o sugerir seguimientos según los resultados de pruebas. Pero aún no estoy listo para prescindir de los médicos.

HITL ofrece lo mejor de ambos mundos: detectar casos que los médicos podrían pasar por alto, pero permitiendo que ellos tomen la decisión final.

Usa IA aumentada por humanos hoy mismo

Botpress tiene miles de bots desplegados con supervisión humana integrada, y es la plataforma de agentes de IA más flexible del mercado.

Botpress incluye integración HITL, un constructor visual de arrastrar y soltar, y despliegue en todos los canales de comunicación populares (incluyendo Slack, Telegram, WhatsApp y web), así que usar IA no significa perder el trato personal.

Empieza a construir hoy. Es gratis.

Preguntas frecuentes

¿Cómo sé si mi sistema de IA necesita la participación de humanos en el proceso?

Probablemente tu sistema de IA necesita intervención humana si gestiona decisiones críticas, se enfrenta a situaciones ambiguas o poco frecuentes, corre el riesgo de generar resultados sesgados o dañinos, o funciona en áreas donde la precisión absoluta y el juicio humano son esenciales para el cumplimiento o la confianza del cliente.

¿La participación humana puede usarse en procesos empresariales no técnicos, o solo en modelos de IA?

La intervención humana puede aplicarse en procesos empresariales no técnicos, como revisar quejas de clientes o moderar contenido, ya que consiste en incorporar el juicio humano en cualquier flujo automatizado donde las decisiones de la máquina no sean suficientes.

¿Usar intervención humana significa que mi sistema de IA es menos avanzado?

Utilizar intervención humana no significa que tu sistema de IA sea menos avanzado. Demuestra que priorizas la seguridad y la equidad al combinar la rapidez y el reconocimiento de patrones de la IA con el juicio humano para decisiones complejas, lo cual suele ser fundamental.

¿La IA con intervención humana es rentable para pequeñas empresas o solo para grandes compañías?

La IA con intervención humana es cada vez más rentable para pequeñas empresas porque las herramientas modernas permiten involucrar personas solo en los casos complejos, minimizando los costos laborales y mejorando la precisión y la confianza sin necesidad de una gran plantilla.

¿Cuánto cuesta añadir procesos de intervención humana a un sistema de IA?

Agregar procesos de intervención humana puede costar desde muy poco —si usas personal interno ocasionalmente— hasta cifras significativas, llegando a cientos o miles de dólares al mes si necesitas revisores dedicados o contratistas especializados, dependiendo principalmente del volumen y la complejidad de las tareas que deban manejar las personas.