Por Cristina Fonseca*
Sabemos que os clientes estão curiosos e encantados com a novidade trazida pela Inteligência Artificial generativa. De acordo com dados recentes da Zendesk, 67% dos consumidores esperam que essa tecnologia desempenhe um papel crucial no atendimento ao cliente. O número sobe para 78% entre aqueles que já a usaram e estão cada vez mais impressionados com os resultados ao explorarem seu potencial. No entanto, esses mesmos consumidores ainda questionam as consequências do seu uso – mais de um terço das preocupações estão relacionadas a indivíduos e empresas que usam IA de maneira maliciosa ou negativa, e quase metade diz estar preocupada com o fato de que em algumas situações os bots e sistemas automatizados demonstraram preconceito contra certos grupos de pessoas.
Acredito que um dos maiores desafios na adoção de soluções de IA é criar confiança na tecnologia, começando com o compromisso em fornecer às empresas os produtos e soluções mais seguros e confiáveis possíveis. É essencial seguir um conjunto de princípios que não apenas definem o padrão de como as soluções e tecnologias devem ser projetadas, desenvolvidas e construídas, mas também estabelecem uma base clara de como a IA generativa deve ser para as experiências do cliente.
O primeiro princípio é privacidade, segurança e conformidade. Para garantir isso, é imperativo manter os dados de nossos clientes seguros, descartando tecnologias que não atendem aos padrões de segurança e conformidade. Também estabelecer controles e métricas que ajudem a avaliar o uso dos dados coletados para garantir que sejam usados de maneira responsável e estejam protegidos em todos os momentos.
A IA deve ser utilizada quando for apropriado e necessário. Falando especificamente de IA generativa, os exemplos incluem garantir que os dados de treinamento usados sejam anonimizados e restritos durante o chat ao vivo, a localização das informações seja respeitada e o risco de viés seja reduzido. Isso só é possível integrando diversas equipes de desenvolvedores e envolvendo usuários e outros especialistas na conversa para identificar possíveis distorções.
O segundo princípio é: transparência gera confiança. Ou seja, ser honesto sobre como a tecnologia funciona, que tipo de dados ela coleta e como é usada. Exemplo disso são os processos de exclusão voluntária, tanto de consumidores finais quanto de clientes diretos. Isso torna a qualidade visível para os clientes, nunca escondida ou disfarçada em qualquer lugar.
O terceiro é que os padrões de qualidade definem o tom. Antes de liberar cada programa de acesso antecipado e disponibilidade geral de cada produto para os clientes as equipes devem atender a certos padrões de qualidade. Quando se trata de IA, a precisão necessária depende muito da tarefa ou modelo que está sendo testado. No entanto, só devemos disponibilizar IA aos clientes se o modelo ultrapassar o padrão de qualidade estabelecido.
Cada previsão de IA tem uma pontuação de confiança associada que é compartilhada com o administrador ou agente. Portanto, qualquer fluxo de trabalho criado na IA pode ser levado em consideração. Por exemplo, previsões de alta confiança podem levar a tarefas totalmente automatizadas, enquanto para aquelas com pontuações menos confiáveis, um humano deve estar presente para garantir a melhor experiência tanto para o agente quanto para o cliente. Em essência, nossa tecnologia é projetada para fornecer respostas precisas e confiáveis às necessidades do consumidor e garantimos que esse seja sempre o foco principal.
O penúltimo princípio diz respeito ao fato de que é essencial trabalhar com os parceiros certos. A seleção de parceiros é um aspecto crucial no desenvolvimento do produto. É preciso trabalhar com diferentes parceiros tecnológicos de forma a utilizar as melhores ferramentas para criar valor continuamente. A IA generativa é uma ferramenta que não possui uma solução única para todos, portanto, um ecossistema de parceiros que nos ajuda a criar os melhores produtos e soluções é o melhor para os consumidores.
Por fim, os seres humanos são sempre essenciais. A tecnologia é projetada para aprimorar a experiência, não para substituir totalmente a interação humana. Quando se trata de aplicar IA generativa à experiência do cliente, a supervisão humana é fundamental. Embora a tecnologia possa ajudar a automatizar determinadas tarefas, sabemos que a interação humana ainda é crucial para oferecer um atendimento excepcional.
A IA generativa pode estar dominando as manchetes e a atenção agora, mas é importante planejar os próximos passos. Claro, um chatbot indistinguível de um humano abre uma infinidade de possibilidades, mas a IA é tão inteligente quanto o caso de uso para o qual foi treinada. Se a IA fosse um novo funcionário, você não o colocaria imediatamente na frente de um cliente no primeiro dia, não é?
Uma abordagem inteligente e responsável para IA criará oportunidades imediatas de melhoria – eliminando cargas de trabalho manuais e liberando agentes para tarefas de maior valor – enquanto identifica, testa e ajusta camadas inteligentes adicionais. Esses são os pilares fundamentais para uma estratégia de IA que considera com cuidado e responsabilidade onde estamos hoje, de olho em onde iremos no futuro.
* líder global de IA da Zendesk