IA, Confiança e os Subservidos - Entrevista com Paula Grieco, SVP na Commonwealth

Paula Grieco é Vice-Presidente Sénior na Commonwealth.

Descubra as melhores notícias e eventos fintech!

Subscreva a newsletter do FinTech Weekly

Lido por executivos da JP Morgan, Coinbase, Blackrock, Klarna e mais

A IA financeira tem um longo caminho a percorrer — não apenas em termos de velocidade, precisão ou até regulamentação, mas na forma como conquista a confiança. Especialmente daqueles que tradicionalmente não são os primeiros na fila quando surge uma nova tecnologia.

Na FinTech Weekly, temos acompanhado o trabalho da Commonwealth, uma organização sem fins lucrativos focada em construir segurança financeira para famílias de baixos e médios rendimentos (LMI). O seu trabalho de campo, explorado no nosso editorial recente, revelou uma tensão clara: enquanto os utilizadores LMI estão abertos a ferramentas como chatbots, ainda esperam por experiências que realmente os sirvam — não apenas funcionalidades reembaladas construídas para outra pessoa.

Esta semana, fomos mais fundo.

Conversámos com Paula Grieco, Vice-Presidente Sénior na Commonwealth, para perceber o que é realmente necessário para tornar a IA eficaz — e segura — para comunidades desfavorecidas. Desde princípios de design até à confiança conquistada, de co-pilotos à fadiga de chatbots, ela partilha porque é que a intenção importa mais do que a inovação isolada.

É uma visão fundamentada e ponderada do que a tecnologia financeira inclusiva poderia — e deveria — ser.

Leia a entrevista completa abaixo.

2.  A recente colaboração da Commonwealth com a JPMorganChase forneceu informações importantes sobre o papel da IA na melhoria da segurança financeira para famílias LMI. Quais foram as descobertas mais surpreendentes ou impactantes desta investigação?

A nossa investigação ilumina o imenso potencial da IA, especificamente dos chatbots, para fornecer orientação e apoio personalizados a comunidades que vivem com rendimentos mais baixos — se os chatbots forem concebidos cuidadosamente tendo em conta as necessidades e perspetivas deste grupo.

Duas conclusões importantes:

*   Os clientes veem amplamente os chatbots como ferramentas positivas para melhorar o seu bem-estar financeiro. Os nossos dados mostraram que 57% dos inquiridos afirmaram que usar chatbots melhorou a sua situação financeira. A investigação mostrou também que pessoas com rendimentos baixos a médios (LMI) desejam funcionalidades de construção de crédito, orçamentação e gestão de dívidas.

*   Os inquiridos valorizaram o espaço sem julgamento de um chatbot para fazer perguntas financeiras sensíveis sem se preocuparem com a vergonha ou autoconsciência que poderiam acompanhar essa mesma conversa a acontecer cara a cara com um representante humano.

3.  Como vê a evolução da IA conversacional no setor dos serviços financeiros, particularmente para comunidades desfavorecidas?

Idealmente, a próxima geração de chatbots alimentados por IA generativa serão assistentes financeiros de IA que melhor apoiam as atividades financeiras destas famílias e conquistam a confiança de populações que muitas vezes são cautelosas quanto ao envolvimento com o sistema financeiro e à partilha de dados online. Existe uma grande oportunidade para os prestadores de serviços financeiros fornecerem capacidades mais complexas, matizadas e orientadas para a ação nos seus chatbots.

Quando os clientes usam chatbots financeiros atualmente, procuram principalmente informações sobre contas ou tentam resolver um problema. Menos de 20% dos inquiridos no nosso inquérito nacional usaram chatbots para aconselhamento e educação financeira, recomendações de produtos, pedidos de crédito ou empréstimos, e abertura ou encerramento de contas. No entanto, a nossa investigação conclui que existe uma procura por chatbots que possam ajudar nestes tipos de ações bancárias. Focar-se nestes tipos de funcionalidades ao desenvolver chatbots pode aumentar a sua utilização e utilidade entre estes clientes.

Para bancos e instituições financeiras que não estão prontos para lançar co-pilotos financeiros de IA generativa diretamente aos consumidores, esta tecnologia pode apoiar funcionários bancários, como representantes de atendimento ao cliente, a fornecer respostas melhores, mais precisas e mais rápidas aos clientes durante as interações.

4.  Quais são alguns dos maiores desafios para garantir que as ferramentas financeiras baseadas em IA sejam equitativas e eficazes para famílias negras, latinas e lideradas por mulheres?

Com todas as tecnologias emergentes, é necessário um esforço intencional para garantir que as necessidades daqueles que ganham rendimentos baixos a médios sejam incluídas no processo de desenvolvimento e nas decisões de design. Descobrimos que uma parceria privada/filantrópica com instituições financeiras desde o início ajuda a criar impulso para estes esforços. Ao aumentar a base de evidências, também ajudamos a construir o caso de negócio.

Vimos um potencial significativo para orientações de design em torno de aspetos como aumentar a confiança conquistada, que pode permitir que a IA conversacional apoie a saúde financeira sem grandes aumentos de custos.

5.  Com base na sua investigação, quais são os princípios-chave de design que os prestadores de serviços financeiros devem considerar ao integrar IA para apoiar utilizadores LMI?

A Commonwealth criou um recurso, o Guia de IA Financeira para o Bem (Financial AI for Good Guide), para fornecer orientações de design acionáveis aos prestadores de serviços financeiros que servem populações LMI. Desenvolvemos estas recomendações com base em investigação abrangente com instituições financeiras, fornecedores de chatbots e pessoas que vivem com LMI.

O guia está organizado em torno de quatro objetivos de design principais. Vou dar um ou dois exemplos para cada:

2.  Conquistar confiança: A principal preocupação da maioria dos inquiridos na nossa investigação ao usar um chatbot foi a segurança. É aqui que as instituições financeiras podem enfatizar a segurança dos dados através de mensagens iniciais sobre as medidas que o banco está a tomar, bem como dar aos utilizadores controlo sobre quais dados são armazenados.
4.  Impulsionar o envolvimento: Tornar a experiência numa em que os utilizadores saibam o que estas ferramentas podem fazer por eles e quando, criando clareza em torno das suas funções. Além disso, procurar "pró-atividade inteligente". Por exemplo, integrar chatbots que apareçam quando podem ser mais úteis, sem serem demasiado insistentes ou agressivos, o que pode parecer spam.
6.  Aumentar o valor: Antecipar as necessidades do seu cliente. O acesso limitado a agências físicas cria uma oportunidade para os chatbots realizarem pequenas ações que os clientes poderiam ter de ir ao banco fazer. Equilibrar automação e controlo, permitindo que os utilizadores liguem e desliguem as funcionalidades automáticas de finanças, e incluir funcionalidades de "rede de segurança" que parem o movimento automático de dinheiro se o saldo cair abaixo de um determinado limite.
8.  Melhorar a acessibilidade: Oferecer suporte multilingue e orientação adequada à sua base de clientes e focar-se em funcionalidades compatíveis com dispositivos móveis. A nossa investigação mostrou que mais de metade de todos os inquiridos preferia aceder à sua banca através dos seus telemóveis.

6.  Pode partilhar alguma história de sucesso ou caso de estudo onde a IA conversacional tenha melhorado significativamente o bem-estar financeiro de indivíduos LMI?

O que sabemos é que 57% dos utilizadores no nosso estudo de teste de campo indicaram que usar um chatbot financeiro teve um impacto positivo na sua situação financeira. Embora estes primeiros resultados sejam promissores, as ferramentas de IA generativa ainda estão na sua infância, e a nossa investigação em curso continuará a construir uma base de evidências sobre a sua eficácia na melhoria do bem-estar financeiro para indivíduos LMI.

7.  Que riscos ou consequências não intencionais devem as instituições financeiras ter em conta ao implementar ferramentas financeiras baseadas em IA?

O importante é que as pessoas que ganham LMI não sejam excluídas da equação. Quando as instituições financeiras desenvolvem ferramentas, é importante que compreendam as oportunidades inerentes e as formas de servir a base de clientes LMI.

Existem muitos organismos focados especificamente nos riscos e consequências inerentes das ferramentas baseadas em IA, e no enviesamento e precisão dos modelos de linguagem de grande escala. Para além disso, queremos garantir que uma preocupação primária seja abordada: a relevância das recomendações financeiras para as situações financeiras individuais dos utilizadores. As instituições financeiras podem aumentar o envolvimento dos clientes e conquistar a sua confiança, garantindo que a informação que fornecem é precisa e que existe transparência real.

A IA apresenta uma oportunidade sem precedentes para pessoas que ganham LMI acederem a conselhos e ferramentas que tradicionalmente não lhes estavam disponíveis, sejam ferramentas de investimento ou de gestão de finanças pessoais. Estas ferramentas podem ser personalizadas e adaptadas para pessoas que ganham LMI e para as suas situações únicas. Esta é uma oportunidade tremenda para os fornecedores financeiros aumentarem a sua base de clientes.

8.  Como podem as instituições financeiras medir o impacto real das ferramentas baseadas em IA na segurança financeira e no bem-estar dos utilizadores?

Os fundamentos do bem-estar financeiro: Há um aumento nas poupanças, uma redução da dívida, uma melhoria nas pontuações de crédito ao usar estas ferramentas?

Podemos também inquirir a experiência em torno da interação com o chatbot — a confiança aumentou? Há um interesse acrescido em produtos que seriam úteis para melhorar o bem-estar financeiro? No que diz respeito ao aconselhamento, foram tomadas ações após receber o conselho?

Os bancos também podem fazer testes A/B entre diferentes grupos de consumidores que interagem com chatbots versus aqueles que não interagem, para ver se existe uma diferença mensurável entre eles.

9.  Qual é o papel da supervisão humana na implementação de ferramentas de IA para serviços financeiros, e como podem os fornecedores encontrar o equilíbrio certo entre automação e apoio humano?

Uma das formas de aumentar a confiança conquistada em torno da IA é garantir que exista um humano acessível nos momentos certos durante a interação. É aqui que a utilização de co-pilotos por parte de funcionários bancários que lidam com clientes pode ser benéfica. O acesso a um humano em tempo real quando necessário aumenta a confiança e a experiência com a ferramenta de IA.

Utilizar IA conversacional permitirá que os representantes de atendimento ao cliente sirvam melhor e mais rapidamente as necessidades complexas dos seus clientes e membros, fornecendo ao mesmo tempo o toque humano em pontos-chave da interação quando um agente humano é desejável.

A transparência também é fundamental para construir confiança em qualquer interação. Deve saber, por exemplo, se está a falar com um chatbot ou com uma pessoa real.

10.  Olhando para o futuro, quais são as oportunidades mais empolgantes para a IA na inclusão financeira nos próximos cinco anos?

A IA generativa representa a próxima evolução no apoio de IA conversacional, oferecendo um envolvimento personalizado e sensível ao contexto a um nível que se aproxima muito mais do apoio humano do que a estrutura de árvore de decisão da maioria dos chatbots financeiros atuais. As aplicações iniciais da IA generativa nas finanças focaram-se principalmente em aplicações de back-office, onde há oportunidade de apoiar agentes de atendimento ao cliente. Identificar como a IA generativa pode fornecer apoio personalizado à escala num contexto financeiro é uma oportunidade chave para impulsionar o desenvolvimento neste setor.

A construção de confiança conquistada será particularmente crítica para a adoção mais ampla da IA generativa, em relação à qual os participantes nos nossos testes de campo e grupos focais permanecem mais céticos do que em relação aos chatbots tradicionais. Ainda assim, os benefícios potenciais de fornecer um nível mais avançado de apoio em várias aplicações de serviços financeiros fazem da IA generativa a tecnologia mais empolgante a observar no setor financeiro. Aqueles que conseguirem desenvolver apoio de IA generativa confiável e fiável estarão na fronteira desta nova era de construção de relações com clientes à escala.

Algumas outras oportunidades específicas que vemos são co-pilotos e assistentes pessoais que podem fornecer orientação financeira abrangente adaptada às necessidades individuais, um coach financeiro pessoal, por assim dizer. Também esperamos que os avanços na IA conversacional desempenhem um papel valioso na promoção da saúde financeira dos trabalhadores, fornecendo informações e orientação para navegar em sistemas complexos de benefícios para empregados.

11.  Como vê o papel de organizações sem fins lucrativos como a Commonwealth a evoluir na definição da utilização responsável da IA nos serviços financeiros?

Historicamente, o design de novas tecnologias tem-se focado na adoção por consumidores de rendimentos elevados, ignorando as necessidades das famílias LMI. Através da nossa iniciativa Tecnologias Emergentes para Todos (Emerging Tech for All, ETA), estamos focados em garantir que as necessidades das pessoas financeiramente vulneráveis sejam compreendidas, visíveis, introduzidas em conversas relevantes e integradas em soluções. Estamos num ponto de inflexão crítico na expansão da IA, e acreditamos que é urgente continuar a investigar e identificar as formas como a IA pode impactar positivamente esta população.

Existe relativamente pouca investigação e adoção no terreno sobre este tema hoje, e alguns fornecedores que entrevistámos citaram a necessidade de estudos de maior escala para construir o tipo de evidências que pudessem usar para defender este tipo de design internamente. Estamos a responder a este desafio produzindo investigação impactante e testes de campo no terreno que demonstram como a IA generativa pode apoiar o bem-estar financeiro de famílias que vivem com LMI e fazem o caso de negócio para um design mais ativo para este segmento de consumidores mal servido.

Olhando para o futuro, o impacto sistémico do design tecnológico inclusivo dependerá de aplicações à escala destas perceções por parte dos grandes atores dos serviços financeiros. Para nós, levar o design inclusivo à escala dependerá de alavancar a nossa investigação para fazer parcerias com organizações maiores que procuram capitalizar os avanços na IA para apoiar a saúde financeira dos seus clientes e trabalhadores.

12.  Que conselho daria a instituições financeiras que procuram alavancar a IA mantendo a confiança e a transparência com os seus clientes?

As famílias LMI estão mais interessadas em fazer banca diretamente com uma pessoa, mas têm o menor acesso a agências presenciais. Esta lacuna destaca uma oportunidade chave para a IA fornecer o tipo de apoio personalizado que as famílias que vivem com LMI procuram sem precisar de aumentar o número de agências ou pessoal de apoio ao cliente.

No entanto, para impulsionar uma adoção mais ampla, as instituições financeiras devem conquistar e construir mais confiança nos chatbots por parte de pessoas que ganham LMI — parte disto é específico da experiência do chatbot, enquanto outra parte é geral da indústria à medida que a tecnologia de IA ganha mais aceitação e melhora em segurança e qualidade global.

As principais preocupações das pessoas ao interagir com chatbots são a segurança e a privacidade. Em geral, as pessoas expressaram falta de confiança na IA conversacional para ser útil, para proteger os seus dados ou para agir no seu melhor interesse. Enquanto muitos no mundo empresarial estão entusiasmados com o potencial da IA, as pessoas que vivem com LMI provavelmente veem-na com mais ceticismo como uma nova tecnologia que ainda não demonstrou o seu valor direto para elas.

Políticas de dados transparentes, branding e mensagens tranquilizadoras, e manter a ligação a um agente humano como opção de backup ajudarão a construir e conquistar confiança. Desenvolver interações úteis e personalizadas através de IA generativa que vão além de fornecer as informações básicas oferecidas pelos chatbots hoje, como saldos de contas e transações recentes, também ajudará a demonstrar o valor da tecnologia.

É também importante enfatizar o conceito de confiança conquistada. O objetivo não é meramente convencer as pessoas a confiar em chatbots, mas sim conceber chatbots de tal forma que essa confiança seja merecida.