Ao criar seu recurso ou produto com Inteligência Artificial (IA), o feedback e o controle do usuário são críticos para o desenvolvimento da comunicação e da confiança entre ele e o sistema. E também para o desenvolvimento de um produto que atenda às necessidades de maneira consistente ao longo do tempo. Os mecanismos de feedback fazem parceria com modelos mentais, “explicabilidade” + confiança e como você ajustará sua IA.
Ao trabalhar com IA, há três novas considerações para mecanismos de feedback e controle:
-
Alinhar o feedback com a melhoria do modelo:
Esclarecendo as diferenças entre feedback implícito e explícito e fazendo as perguntas certas no nível certo de detalhes ao usuário
-
Comunicar valor e tempo para impactar:
Compreender por que as pessoas dão feedback e desenvolver modelos mentais existentes para explicar benefícios e comunicar como o feedback do usuário mudará sua experiência e quando.
-
Controle de balanceamento e automação:
Ajudar os usuários a controlar os aspectos da experiência que eles desejam, além de facilmente deixar de dar feedback.
Novidades ao trabalhar com IA
O feedback do usuário é o canal de comunicação entre seus consumidores, seu produto e sua equipe. Aproveitar o feedback é uma maneira poderosa e escalável de aprimorar sua tecnologia, fornecer conteúdo personalizado e melhorar a experiência da sua marca, além de maximizar os benefícios que seu produto traz. Quando os usuários têm o nível certo de controle sobre o sistema, é mais provável que confiem nele e tornem-se cada vez mais leais e confortáveis com sua marca.
Considerações importantes para mecanismos de feedback e controle
-
Alinhe o feedback com a melhoria do modelo
Em geral, existem mecanismos implícitos e explícitos para obter feedback. Para qualquer tipo de feedback, é importante que os usuários saibam quais informações estão sendo coletadas, para que servem e como o uso delas os beneficia (sempre em conformidade com a nova LGPD – Lei Geral de Proteção de Dados). Sempre que possível, encontre maneiras de usar o feedback para melhorar sua Inteligência Artificial.
-
Projeto para ajuste de modelo
Descubra o que as pessoas esperam poder influenciar realizando pesquisas com usuários. Por exemplo: ao usar um sistema de recomendação de vídeo, as pessoas podem querer dar feedback em um nível conceitual diferente do que o modelo de IA entende. Eles podem pensar em “me mostrar mais vídeos sobre paternidade”, enquanto o modelo interpreta “me mostrar mais vídeos desse criador”.
Discuta com seus stakeholders multifuncionais todas as vantagens de coletar ou não diferentes tipos de feedback. Às vezes, observar as interações por um longo período de tempo pode ajudá-lo a destilar padrões mais precisos de comportamento e intenção.
-
Comunicar valor e tempo para impactar
Para que as pessoas aproveitem o tempo para dar feedback, ele precisa ser valioso e impactante. Como você se comunica – isso é fundamental para o envolvimento ou não dos usuários. Lembre-se de que “valor” geralmente está atrelado à motivação. Portanto, enquadre seus pedidos de feedback em termos de benefícios específicos para o usuário.
-
Alinhar o valor percebido e real do usuário
Se o benefício não for claro e específico, os usuários podem não entender por que devem dar feedback. Eles podem evitar dar feedback ou, se não puderem, evitar respostas sem sentido ou feedback que acaba prejudicando seu produto ou comunidade.
Se o usuário achar que o feedback é valioso apenas para os desenvolvedores do produto, alguns podem decidir propositadamente dar um feedback ruim. Por exemplo: se os usuários assumirem que a intenção por trás do seu aplicativo “gratuito” é realmente coletar dados para vender aos anunciantes sem avisar, isso pode influenciar o feedback que eles dão nas pesquisas.
Idealmente, os usuários entenderão o valor de seus comentários e o verão se manifestar no produto de uma maneira reconhecível. Cabe a você conectar o valor que os usuários acham que estão obtendo com o que sua IA pode realmente oferecer.
Conecte o feedback às alterações da experiência do usuário
Simplesmente reconhecer que você recebeu o feedback de um usuário pode criar confiança, mas, idealmente, o produto também permitirá que eles saibam o que o sistema fará a seguir ou como suas informações influenciarão a IA.
-
Definir expectativas para melhorias de IA
Para muitos sistemas, mesmo com o feedback do usuário, grande parte da produção de IA provavelmente será a mesma de antes. Um mesmo usuário fornecendo feedback constante (ou usuários similares produzindo feedbacks similares) não trará tanto impacto no modelo de IA – para que ele possa se aprimorar, é preciso não só volume de dados, mas também variabilidade de dados. Também é possível que as melhorias feitas no seu modelo sejam sutis demais para que seus usuários as percebam.
Mesmo com os melhores dados e feedback, as melhorias no modelo de IA quase nunca são possíveis de serem implementadas imediatamente. Sua equipe de Engenharia pode precisar esperar para implementar as atualizações do modelo até receber sinais adicionais de um indivíduo, mais dados de um grupo ou um release de versão. A realidade desses atrasos significa que você precisa definir expectativas claras sobre quando as pessoas devem esperar melhorias no desempenho do modelo ou maior relevância de saída do seu produto alimentado por IA. Você pode fazer isso com design e mensagens claras.
-
Controle e automação de equilíbrio
Para produtos orientados à IA, há um equilíbrio essencial entre automação e controle do usuário. Seu produto não será perfeito para todos os usuários sempre, portanto, permita que eles adaptem a saída às suas necessidades, editem ou desativem. O contexto deles no mundo real e o relacionamento com a tarefa em questão determinam como eles usam o seu produto.
Inteligência Artificial e Machine Learning
O benefício do usuário em produtos como esses pode parecer óbvio, mas as equipes que os produzem, geralmente, aprendem lições valiosas sobre como os usuários se sentem sobre automação e controle. Existem algumas situações previsíveis em que as pessoas preferem permanecer no controle de tarefas ou processos – independentemente de terem AI ou não.
Sistemas de IA já existem há décadas, mas foi nos últimos 10 anos que eles começaram a trazer mudanças mais profundas para a gestão de negócios.
Neste cenário, é mandatório que as empresas – em especial, seus líderes – iniciem imediatamente uma reflexão interna e façam uma varredura em quais metodologias, ferramentas e processos de tomadas de decisão existentes hoje na companhia podem ser impactados por recursos envolvendo Inteligência Artificial, Machine Learning, computação cognitiva, Big Data, entre outras.
Tais tecnologias de Machine Learning e IA permitem que as empresas processem grandes volumes de informações para tomar decisões mais rápidas e mais assertivas. E plataformas com foco em IA e aprendizado de máquinas 100% dedicadas às áreas de operações, recursos financeiros e humanos são que há de mais moderno para trazer produtividade em escala às empresas e garantir competitividade.
No caso da LEVEE, os algoritmos utilizados combinam centenas de fatores com a relevância para aquela vaga específica, podendo ser por experiências prévias, escolaridade e idade, localização geográfica, etc. Tudo isso de maneira automatizada, ajudando a identificar os talentos com probabilidade de no longo prazo serem mais produtivos e ficarem mais tempo na empresa. À medida que os sistemas operam, incorporam o aprendizado realizado nas buscas anteriores e trazem perfis ainda mais assertivos e aderentes às vagas, gradualmente.
Referências:
https://pair.withgoogle.com/chapter/feedback-controls/
