¿Qué es el Human-in-the-Loop en la IA?

Si está pensando en mejorar su negocio con IA, no está solo. Con los chatbots de IA como el canal de comunicación de más rápido crecimiento, ya no son un lujo, son una expectativa.

Pero renunciar a ese control puede dar un poco de miedo. Transferir operaciones cruciales a lo que se conoce como "algoritmo de caja negra" puede parecer un gran acto de fe.

Y lo es, por eso las empresas confían en la intervención humana para dirigir la IA. Casi todos los marcos de agentes de IA incluyen la supervisión humana de las operaciones de IA.

En este artículo, explicaré qué es, cómo funciona y daré algunos ejemplos de cómo se utiliza a diario la intervención humana para dar a los usuarios más control sobre los chatbots y agentes de IA.

¿Qué es el human-in-the-loop?

Human-in-the-loop (HITL) es un enfoque colaborativo de la IA en el que la aportación humana se utiliza para mejorar o ampliar las capacidades de la IA. Puede ser en forma de datos anotados por humanos, resultados de modelos corregidos o haciendo que los humanos realicen tareas completas en casos en los que la IA es incierta o se considera ineficaz.

El término puede ser un poco ambiguo. Técnicamente, se refiere a cualquier intervención humana en el ciclo de vida de las aplicaciones de IA, desde el etiquetado de datos y la evaluación de modelos hasta el aprendizaje activo y las escaladas.

En la práctica, cuando los proveedores de IA ofrecen la funcionalidad HITL, generalmente significa supervisión sobre los resultados de la IA: la oportunidad de revisar las respuestas y escalar las interacciones del chatbot a agentes humanos.

¿Cómo están los humanos "en el bucle" de la IA?

Un proceso de IA bien engrasado tendrá varios puntos de entrada para los humanos.

La IA se entrena para descubrir patrones en sus datos de entrenamiento y, a continuación, generalizar estos patrones a nuevos datos no vistos. Nosotros decidimos qué datos ve el modelo, pero no qué patrones extrae de ellos.

En cada paso del proceso -recopilación de datos, formación e implantación- depende de las personas asegurarse de que el modelo funciona como se espera.

Dependiendo de dónde y cómo se produzca esta intervención humana, puede entrar en alguna de las siguientes categorías:

Retroalimentación para un aprendizaje continuo

¿Sabes cuando ChatGPT te pregunta cuál de dos respuestas es mejor? Los comentarios pueden tratarse como nuevos datos con los que entrenar el modelo.

Pero los comentarios no tienen por qué ser explícitos.

Piensa en las recomendaciones de las redes sociales. Un modelo predictivo sugiere constantemente contenidos basados en tu historial. A medida que utilizas la plataforma, tu elección de contenidos se utiliza como dato para entrenar continuamente el modelo de recomendación.

En este caso, tú eres el humano. Y al utilizar la aplicación, sirves de guía para futuras recomendaciones. 

Aquí es donde se cierra el círculo: el modelo se entrena con datos, los usuarios interactúan con el modelo, y estas interacciones a su vez crean datos con los que el modelo se entrena de nuevo.

Manejo de situaciones escaladas

HITL no consiste necesariamente en mejorar el sistema. A veces se trata de remitir los casos difíciles a los humanos.

Piense en un chatbot de atención al cliente. Descarga una buena parte del trabajo de tu equipo respondiendo al 95% de las preguntas de forma clara, concisa y precisa.

Pero luego está ese 5%.

Algunos casos son tan específicos u oscuros que quedan fuera del alcance de la IA. Aunque la intervención humana no mejora el modelo en este caso, se trata de un gran ejemplo de cómo los humanos y el aprendizaje automático pueden trabajar en simbiosis.

Anotación de datos para la formación

Técnicamente hablando, casi todo el aprendizaje automático se construye con un mecanismo HITL. Por eso, cuando hablamos de HITL, nos referimos sobre todo a las categorías anteriores.

Dicho esto, sería negligente por mi parte no llamar la atención sobre el trabajo humano y la experiencia en el bucle del aprendizaje automático.

Los datos son la espina dorsal de la IA, y depende de los humanos. Los modelos de IA se entrenan para predecir etiquetas a partir de los datos de entrada. Las etiquetas son el resultado esperado de la IA, y somos los humanos quienes debemos crearlas.

Algunos ejemplos de etiquetado humano son:

• Respuestas escritas a mano para entrenar grandes modelos lingüísticosLLMs)
• Transcripción de archivos de audio para modelos de reconocimiento del habla.
• Anotación de objetos en imágenes para modelos de detección de objetos
• Marcar correos electrónicos de muestra como spam o no spam para el detector de spam de un cliente de correo electrónico

Evaluación del rendimiento del modelo

La mayor parte del tiempo dedicado a crear modelos de IA consiste en averiguar cómo mejorarlos. Aunque hay un sinfín de métricas que se pueden calcular, como la precisión y la recuperación, se necesita una visión experta para averiguar cómo está funcionando el modelo y, lo que es más importante, qué hacer al respecto.

Por ejemplo, un investigador puede darse cuenta de que el modelo identifica muy bien las imágenes de perros, pero no las de perritos calientes. Esto puede solucionarse añadiendo o diversificando las imágenes de perritos calientes.

A veces, a un modelo de chat le cuesta recordar información de mensajes anteriores. Los investigadores suelen solucionar este problema introduciendo ajustes de bajo nivel en la arquitectura o el método de generación del modelo.

Las ventajas de la IA humana en bucle

La IA puede ser increíblemente eficiente y eficaz a la hora de reconocer patrones sutiles, pero las personas son inteligentes. 

HITL consiste en combinar un nivel humano de matices con la eficiencia de la automatización del flujo de trabajo mediante IA, de modo que las respuestas se adapten a la experiencia que buscan los usuarios y los proveedores.

1. Precisión y fiabilidad

Esto es pan comido. ¿Qué es mejor que la IA simple? La IA corregida. 

No sólo está optimizado para abordar casos extremos, sino que es fiable en el sentido de que los usuarios saben que los resultados se revisarán y mejorarán continuamente.

2. Mitigación de sesgos

Los datos son imperfectos y los resultados de los modelos lo reflejan. El sesgo (inclinarse por unos resultados en detrimento de otros) es un problema en el aprendizaje automático y la IA.

Cosas como la generación de imágenes con carga racial o la determinación de la cualificación laboral en función del sexo son ejemplos de la forma en que la IA refleja los sesgos presentes en los datos de entrenamiento.

HITL permite a los ciudadanos señalar estos problemas y orientar el modelo hacia resultados más justos.

3. Mejora continua y adaptabilidad

El entrenamiento no termina sólo porque un modelo esté en producción. HITL permite que el modelo continúe entrenándose con nuevos datos para generalizar mejor en casos desconocidos. 

Por ejemplo, editar el texto generado o seguir las selecciones de contenido de los usuarios ofrece más datos que el modelo puede utilizar para mejorar.

Pero no basta con que un modelo mejore; también debe cambiar.

Es fácil dar por sentadas las formas en que nos adaptamos a un mundo en constante cambio. En el caso de la IA, esto no es un hecho. HITL combina experiencia y juicio matizado para mantener el resultado de un modelo alineado con los tiempos.

4. Transparencia y confianza

La participación humana hace que las decisiones de la IA sean más transparentes. Al corregir los resultados o resolver los casos de baja certeza, los usuarios pueden estar seguros de que están interactuando con un algoritmo sensato.

Nos mantiene en control de la IA, y no al revés.

Casos prácticos de Human-in-the-Loop

1. Conducción autónoma

Con un valor de mercado previsto de 3,9 billones deUSD en la próxima década, la conducción autónoma podría ser la próxima gran frontera de la IA. Aprovecha los modelos de detección de objetos y la toma de decisiones en cada momento para simular la conducción de una persona.

Pero para ser algo tan autónomo, depende en gran medida de los humanos. Los modelos observan constantemente los patrones de conducción humana y comparan sus decisiones con sus propias predicciones.

2. Venta al por menor

Un chatbot para minoristas es una excelente forma de automatizar las interacciones con los clientes sin dejar de ofrecer una experiencia personalizada. HITL le permite mantener esa experiencia fluida y alineada con su negocio. Por ejemplo:

• Revisar y corregir las recomendaciones de productos del bot
• Hacer que el cliente hable de sus necesidades básicas antes de enviar a un agente humano

3. Finanzas

Los chatbots financieros son una excelente forma de combinar la automatización de la IA con la experiencia humana.

Los sistemas de detección de fraudes son excelentes para detectar actividades sospechosas en las transacciones. Pero no todas las actividades sospechosas son nefastas, y no querrás que cancelen tu tarjeta cada vez que cambies de pedido de café.

El HITL puede diferir los casos de baja certeza y bajo riesgo a humanos.

La evaluación del riesgo de los préstamos es otro ámbito en el que la IA destaca: es excelente para calcular probabilidades a partir de todo tipo de datos aparentemente inconexos. Sin embargo, es casi seguro que esos datos incluirán algún sesgo. 

Mantener la imparcialidad y mitigar los prejuicios suele requerir la ayuda de una persona real.

4. Sanidad

El usuario de reddit al que Claude salvó la vida será el primero en defender el potencial de la IA en la atención sanitaria.

Los chatbots de IA médica han mostrado parte de su potencial, pero va más allá: La IA puede ayudar a determinar un diagnóstico basándose en la lectura de una resonancia magnética, o sugerir seguimientos en función de los resultados de las pruebas. Pero no estoy dispuesto a renunciar a los médicos.

La HITL ofrece lo mejor de ambos mundos: detectar los casos que los médicos podrían haber pasado por alto, al tiempo que les permite tomar la decisión final.

Utilice hoy la IA mejorada por el ser humano

Botpress tiene miles de bots desplegados con supervisión humana sin fisuras, y es la plataforma de agentes de IA más flexible del mercado.

Botpress viene con una integración HITL, constructor visual de arrastrar y soltar, y despliegue a través de todos los canales de comunicación populares (incluyendo Slack, Telegram, WhatsApp, web), por lo que el uso de AI no significa renunciar a su toque personal.

Empieza a construir hoy mismo. Es gratis.

Preguntas frecuentes

¿Cómo sé si mi sistema de inteligencia artificial necesita la participación humana?

Es probable que su sistema de IA necesite la participación humana en el bucle si toma decisiones de alto riesgo, se enfrenta con frecuencia a situaciones ambiguas o poco frecuentes, corre el riesgo de producir resultados sesgados o perjudiciales, o trabaja en áreas en las que la precisión absoluta y el juicio humano son esenciales para el cumplimiento o la confianza del cliente.

¿Puede utilizarse el human-in-the-loop en procesos empresariales no técnicos, o sólo en modelos de IA?

Human-in-the-loop puede utilizarse en procesos empresariales no técnicos, como la revisión de reclamaciones de clientes o la moderación de contenidos, porque significa insertar el juicio humano en cualquier flujo de trabajo automatizado en el que las decisiones de la máquina por sí solas podrían ser insuficientes.

¿Utilizar humanos en el bucle significa que mi sistema de IA es menos avanzado?

Utilizar un sistema humano no significa que el sistema de IA sea menos avanzado. Demuestra que está dando prioridad a la seguridad y la equidad combinando la velocidad y el reconocimiento de patrones de la IA con el juicio humano para tomar decisiones matizadas, lo que a menudo es esencial.

¿Es la IA humana rentable para las pequeñas empresas o sólo para las grandes?

La IA humana en el bucle es cada vez más rentable para las pequeñas empresas porque las herramientas modernas permiten implicar selectivamente a los humanos sólo en los casos delicados, minimizando los costes de mano de obra al tiempo que se mejora la precisión y la confianza sin necesidad de una gran plantilla.

¿Cuánto cuesta añadir procesos humanos a un sistema de IA?

Añadir procesos humanos al bucle puede costar desde un mínimo -si se recurre ocasionalmente a personal interno- hasta un importe considerable, de cientos o miles de dollars al mes, si se necesitan revisores dedicados o contratistas especializados, y los costes dependen en gran medida del volumen y la complejidad de las tareas que deben realizar los humanos.