O que é o Human-in-the-Loop na IA?

Fornecer feedback para uma aprendizagem contínua

Sabe quando ChatGPT pergunta qual das duas respostas é a melhor? O feedback pode ser tratado como novos dados para o modelo treinar.

No entanto, o feedback não tem de ser explícito.

Pense nas recomendações das redes sociais. Um modelo preditivo está constantemente a sugerir conteúdos com base no seu histórico. À medida que o utilizador utiliza a plataforma, a sua escolha de conteúdos é utilizada como dados para treinar continuamente o modelo de recomendação.

Neste caso, o utilizador é o ser humano. E ao utilizar a aplicação, está a servir de guia para futuras recomendações. 

É aqui que se fecha o círculo: o modelo é treinado com dados, os utilizadores interagem com o modelo e estas interações, por sua vez, criam dados com os quais o modelo é novamente treinado.

Lidar com situações escalonadas

O HITL não tem necessariamente a ver com a melhoria do sistema. Por vezes, trata-se de transferir os casos difíceis para os seres humanos.

Considere um chatbot de apoio ao cliente. Ele alivia uma boa parte do trabalho da sua equipa, respondendo a 95% das perguntas de forma clara, concisa e precisa.

Mas depois há aqueles 5%.

Alguns casos serão hiper-específicos ou suficientemente obscuros para não serem abrangidos pela IA. Embora a intervenção humana não melhore o modelo neste caso, este é um ótimo exemplo da forma como os humanos e a aprendizagem automática podem trabalhar em simbiose.

Anotação de dados para formação

Em termos técnicos, praticamente toda a aprendizagem automática é construída com um mecanismo HITL. Por esse motivo, quando falamos de HITL, estamos a referir-nos sobretudo às categorias acima referidas.

Dito isto, seria negligente se não chamasse a atenção para o trabalho humano e os conhecimentos especializados no circuito da aprendizagem automática.

Os dados são a espinha dorsal da IA e dependem dos seres humanos. Os modelos de IA são treinados para prever etiquetas com base nos dados de entrada. As etiquetas são o resultado esperado da IA e cabe-nos a nós, humanos, criá-las.

Alguns exemplos de rotulagem humana incluem:

• Respostas escritas à mão a pedidos para treinar modelos de linguagem de grande dimensãoLLMs)
• Transcrição de ficheiros áudio para modelos de reconhecimento de voz.
• Anotação de objectos em imagens para modelos de deteção de objectos
• Marcação de amostras de correio eletrónico como spam ou não-spam para o detetor de spam de um cliente de correio eletrónico

Avaliação do desempenho do modelo

A maior parte do tempo gasto a construir modelos de IA é a descobrir como melhorá-los. Apesar de existirem inúmeras métricas que podem ser calculadas, como a precisão e a recuperação, é necessária uma visão especializada para descobrir como o modelo está a funcionar e, mais importante ainda, o que fazer em relação a isso.

Por exemplo, um investigador pode reparar que o modelo é ótimo a identificar imagens de cães, mas não de cachorros-quentes. Geralmente, isso pode ser resolvido adicionando ou diversificando as imagens de cachorros-quentes.

Por vezes, um modelo de conversação tem dificuldade em memorizar informações de mensagens anteriores. Geralmente, um investigador resolve este problema fazendo ajustes de baixo nível na arquitetura do modelo ou no método de geração.

1. Exatidão e fiabilidade

Esta é fácil de entender. O que é melhor do que uma simples IA? A IA que foi corrigida. 

Não só está optimizado para lidar com casos extremos, como é fiável no sentido em que os utilizadores sabem que os resultados serão continuamente revistos e melhorados.

2. Atenuação de preconceitos

Os dados são imperfeitos e os resultados do modelo reflectirão esse facto. O enviesamento - inclinação para determinados resultados em detrimento de outros - é um problema transversal à aprendizagem automática e à IA.

Coisas como a geração de imagens com conotação racial ou a determinação da qualificação profissional em função do género são exemplos da forma como a IA reflecte os preconceitos presentes nos dados de formação.

O HITL permite que as pessoas assinalem estes problemas e orientem o modelo para resultados mais justos.

3. Melhoria contínua e adaptabilidade

O treinamento não termina só porque um modelo está em produção. O HITL permite que o modelo continue a ser treinado em novos dados para melhor generalizar em casos não vistos. 

Por exemplo, editar o texto gerado ou seguir as selecções de conteúdo dos utilizadores oferece mais dados que o modelo pode utilizar para melhorar.

Mas não basta que um modelo melhore; deve também mudar.

É fácil dar por garantidas as formas como nos estamos a adaptar a um mundo em constante mudança. Com a IA, isto não é um dado adquirido. O HITL combina experiência e julgamento diferenciado para manter o resultado de um modelo alinhado com os tempos.

4. Transparência e confiança

O envolvimento de humanos torna as decisões da IA mais transparentes. Com pessoas a corrigir os resultados ou a resolver casos de baixa certeza, os utilizadores podem ter a certeza de que estão a interagir com um algoritmo sensato.

Mantém-nos no controlo da IA, e não o contrário.

1. Condução autónoma

Com um valor de mercado que deverá atingir 3,9 biliões deUSD na próxima década, a condução autónoma poderá ser a próxima grande fronteira da IA. Utiliza modelos de deteção de objectos e a tomada de decisões momento a momento para simular a condução de uma pessoa.

Mas para algo tão prático, depende muito dos humanos. Os modelos estão constantemente a observar os padrões de condução dos humanos e a comparar as suas decisões com as suas próprias previsões.

2. Retalho

Um chatbot de varejo é uma ótima maneira de automatizar as interações com o cliente e, ao mesmo tempo, oferecer uma experiência personalizada. O HITL permite-lhe manter essa experiência suave e alinhada com o seu negócio. Por exemplo, pode:

• Rever e corrigir as recomendações de produtos do bot
• Fazer com que o cliente exponha as suas necessidades básicas antes de o enviar para um agente humano

3. Finanças

Os chatbots financeiros são uma óptima forma de combinar a automatização da IA com a experiência humana.

Os sistemas de deteção de fraude são excelentes para detetar actividades suspeitas nas transacções. Mas nem todas as actividades suspeitas são nefastas, e não quer que o seu cartão seja cancelado sempre que mudar a sua encomenda de café.

O HITL pode adiar casos de baixa certeza e de baixo risco para os seres humanos.

A avaliação do risco de crédito é outra área em que a IA se destaca - é óptima a calcular probabilidades em todo o tipo de dados aparentemente não relacionados. No entanto, esses dados incluem quase de certeza alguma parcialidade. 

Para manter a equidade e atenuar os preconceitos, é frequentemente necessária a ajuda de uma pessoa real.

4. Cuidados de saúde

O utilizador do reddit cuja vida foi salva por Claude será o primeiro a defender o potencial da IA nos cuidados de saúde.

Os chatbots de IA médica demonstraram algum do seu potencial, mas vão para além disso: A IA pode ajudar a determinar um diagnóstico com base numa leitura de ressonância magnética ou sugerir acompanhamentos com base nos resultados dos testes. Mas não estou preparado para prescindir dos médicos.

O HITL oferece o melhor dos dois mundos: detecta casos que os médicos poderiam não ter visto, mas permite-lhes tomar a decisão final.

Como é que sei se o meu sistema de IA precisa do envolvimento humano no circuito?

É provável que o seu sistema de IA necessite do envolvimento humano no circuito se lidar com decisões de alto risco, se encontrar frequentemente situações ambíguas ou raras, se correr o risco de produzir resultados tendenciosos ou prejudiciais ou se operar em áreas em que a precisão absoluta e o julgamento humano são essenciais para a conformidade ou a confiança do cliente.

O human-in-the-loop pode ser utilizado em processos empresariais não técnicos ou apenas em modelos de IA?

O Human-in-the-loop pode ser utilizado em processos empresariais não técnicos, como a análise de queixas de clientes ou a moderação de conteúdos, porque significa inserir o julgamento humano em qualquer fluxo de trabalho automatizado em que as decisões das máquinas possam ser insuficientes.

A utilização de humanos no circuito significa que o meu sistema de IA é menos avançado?

Utilizar humanos no circuito não significa que o seu sistema de IA seja menos avançado. Mostra que está a dar prioridade à segurança e à equidade, combinando a velocidade e o reconhecimento de padrões da IA com a capacidade humana de tomar decisões com nuances, o que é muitas vezes essencial.

A IA com recurso a humanos no circuito é rentável para as pequenas empresas ou apenas para as grandes empresas?

A IA human-in-the-loop é cada vez mais rentável para as pequenas empresas, uma vez que as ferramentas modernas permitem envolver seletivamente os humanos apenas em casos complicados, minimizando os custos de mão de obra e melhorando a precisão e a confiança sem necessitar de uma grande força de trabalho.

Quanto custa acrescentar processos humanos a um sistema de IA?

A adição de processos com intervenção humana pode ter um custo que varia entre o mínimo - se utilizar ocasionalmente pessoal interno - e o significativo, atingindo as centenas ou milhares de dollars mensais se necessitar de revisores dedicados ou de contratantes especializados, sendo os custos determinados em grande medida pelo volume e complexidade das tarefas que os humanos têm de realizar.