IA, Confianza y los Desatendidos - Entrevista con Paula Grieco, vicepresidenta sénior en Commonwealth

Paula Grieco es Vicepresidenta Senior en Commonwealth.

¡Descubre las principales noticias y eventos del sector fintech!

Suscríbete al boletín de FinTech Weekly

Leído por ejecutivos de JP Morgan, Coinbase, Blackrock, Klarna y más

La inteligencia artificial financiera tiene un largo camino por recorrer, no solo en términos de velocidad, precisión o regulación, sino en la forma en que genera confianza. Especialmente entre quienes no han sido tradicionalmente los primeros en adoptar nuevas tecnologías.

En FinTech Weekly, hemos seguido el trabajo de Commonwealth, una organización sin fines de lucro centrada en construir seguridad financiera para hogares de ingresos bajos y moderados (LMI). Su trabajo de campo, explorado en nuestro editorial reciente, reveló una tensión clara: mientras los usuarios de LMI están abiertos a herramientas como chatbots, todavía esperan experiencias que realmente los sirvan — no solo funciones reempaquetadas diseñadas para otros.

Esta semana, profundizamos más.

Hablamos con Paula Grieco, Vicepresidenta Senior en Commonwealth, para entender qué se necesita realmente para que la IA sea efectiva — y segura — para las comunidades desatendidas. Desde principios de diseño hasta la confianza ganada, pasando por copilotos y fatiga por chatbots, ella comparte por qué la intención importa más que la innovación por sí sola.

Es una visión fundamentada y reflexiva de cómo podría — y debería — ser la tecnología financiera inclusiva.

Lee la entrevista completa a continuación.

2.  La colaboración reciente de Commonwealth con JPMorgan Chase proporcionó ideas clave sobre el papel de la IA en la mejora de la seguridad financiera para hogares LMI. ¿Cuáles fueron los hallazgos más sorprendentes o impactantes de esta investigación?

Nuestra investigación ilumina el inmenso potencial de la IA, específicamente los chatbots, para ofrecer orientación y apoyo personalizados a comunidades con ingresos bajos — si los chatbots son diseñados cuidadosamente considerando las necesidades y perspectivas de este grupo.

Dos hallazgos clave:

*   Los clientes ven los chatbots como herramientas positivas para mejorar su bienestar financiero. Nuestros datos mostraron que el 57% de los encuestados afirmó que usar chatbots mejoró su situación financiera. La investigación también reveló que las personas con ingresos bajos a moderados (LMI) desean funciones de construcción de crédito, presupuestos y gestión de deudas.

*   Los encuestados valoraron un espacio sin juicios con un chatbot para hacer preguntas financieras sensibles, sin preocuparse por la vergüenza o la inseguridad que podría acompañar esa misma conversación con un representante humano cara a cara.

3.  ¿Cómo ves la evolución de la IA conversacional en el sector de servicios financieros, especialmente para comunidades desatendidas?

Idealmente, la próxima generación de chatbots impulsados por IA generativa serán asistentes financieros que apoyen mejor las actividades financieras de estos hogares y ganen confianza en poblaciones que a menudo desconfían del sistema financiero y de compartir datos en línea. Existe una gran oportunidad para que los proveedores de servicios financieros ofrezcan capacidades más complejas, matizadas y orientadas a la acción en sus chatbots.

Cuando los clientes usan chatbots financieros ahora, principalmente buscan información de cuenta o resolver un problema. Menos del 20% de los encuestados en nuestra encuesta nacional han utilizado chatbots para asesoramiento financiero, educación, recomendaciones de productos, solicitar créditos o préstamos, y abrir o cerrar cuentas. Sin embargo, nuestra investigación muestra que hay demanda de chatbots que puedan asistir en estas acciones bancarias. Enfocarse en estas funciones al desarrollar chatbots puede aumentar su uso y utilidad entre estos clientes.

Para bancos e instituciones financieras que no están listos para lanzar copilotos financieros de IA generativa directamente a los consumidores, esta tecnología puede apoyar a los empleados del banco, como representantes de atención al cliente, para ofrecer respuestas mejores, más precisas y oportunas durante las interacciones.

4.  ¿Cuáles son algunos de los mayores desafíos para garantizar que las herramientas financieras impulsadas por IA sean equitativas y efectivas para hogares liderados por personas negras, latinas y mujeres?

Con todas las tecnologías emergentes, es necesario un esfuerzo intencional para asegurar que las necesidades de quienes tienen ingresos bajos a moderados se incluyan en el proceso de desarrollo y en las decisiones de diseño. Hemos descubierto que una asociación privada/filantrópica con instituciones financieras desde etapas tempranas ayuda a impulsar estos esfuerzos. Al construir una base de evidencia, también ayudamos a fortalecer el argumento comercial.

Hemos visto un potencial significativo en guías de diseño relacionadas con aumentar la confianza ganada, que pueden permitir que la IA conversacional apoye la salud financiera sin costos mayores.

5.  Según tu investigación, ¿cuáles son los principios clave de diseño que los proveedores de servicios financieros deben considerar al integrar IA para apoyar a usuarios LMI?

Commonwealth ha creado un recurso, la Guía de IA Financiera para el Bien, para ofrecer orientaciones prácticas de diseño a los proveedores de servicios financieros que atienden a poblaciones LMI. Desarrollamos estas recomendaciones basándonos en investigaciones exhaustivas con instituciones financieras, proveedores de chatbots y personas con ingresos bajos a moderados.

La guía está organizada en torno a cuatro objetivos principales de diseño. Aquí algunos ejemplos:

*   Ganar confianza: La principal preocupación de la mayoría de los encuestados en nuestra investigación al usar un chatbot fue la seguridad. Aquí, las instituciones financieras pueden enfatizar la seguridad de los datos mediante mensajes claros sobre las medidas que toman, además de dar a los usuarios control sobre qué datos se almacenan.
*   Fomentar la participación: Crear una experiencia en la que los usuarios sepan qué pueden hacer estas herramientas y cuándo, mediante la claridad en sus funciones. También, perseguir la “proactividad inteligente”. Por ejemplo, integrar chatbots que aparezcan en los momentos más útiles, sin ser demasiado insistentes o agresivos, para evitar parecer spam.
*   Aumentar valor: Anticipar las necesidades del cliente. La limitada accesibilidad a sucursales físicas crea una oportunidad para que los chatbots realicen acciones pequeñas que normalmente requerirían visitar el banco. Equilibrar automatización y control permitiendo a los usuarios activar o desactivar funciones financieras automatizadas, e incluir “redes de seguridad” que pausen la transferencia automática de dinero si el saldo cae por debajo de un umbral.
*   Mejorar accesibilidad: Ofrecer soporte multilingüe y orientación adaptada a tu base de clientes, enfocándose en funciones móviles. Nuestra investigación mostró que más de la mitad de los encuestados prefiere acceder a su banca a través del móvil.

6.  ¿Puedes compartir historias de éxito o estudios de caso donde la IA conversacional haya mejorado significativamente el bienestar financiero de personas LMI?

Lo que sabemos es que el 57% de los usuarios en nuestro estudio de campo indicaron que usar un chatbot financiero tuvo un impacto positivo en su situación económica. Aunque estos resultados iniciales son prometedores, las herramientas de IA generativa aún están en sus primeras etapas, y nuestra investigación continua ayudará a construir una base de evidencia sobre su efectividad para mejorar el bienestar financiero de las personas LMI.

7.  ¿Qué riesgos o consecuencias no deseadas deben tener en cuenta las instituciones financieras al implementar herramientas financieras impulsadas por IA?

Lo importante es que las personas con ingresos bajos a moderados no queden excluidas. Al desarrollar estas herramientas, las instituciones deben entender las oportunidades inherentes y las formas de atender a esta base de clientes.

Existen muchos organismos enfocados específicamente en los riesgos y consecuencias de las herramientas impulsadas por IA, así como en los sesgos y la precisión de los grandes modelos de lenguaje. Además, queremos asegurarnos de que se aborde una preocupación principal: la relevancia de las recomendaciones financieras para la situación individual de cada usuario. Las instituciones pueden aumentar la participación del cliente y ganar su confianza asegurando que la información proporcionada sea precisa y transparente.

La IA presenta una oportunidad sin precedentes para que las personas con ingresos bajos accedan a asesoramiento y herramientas que tradicionalmente no estaban disponibles para ellas, ya sea en inversión o gestión financiera personal. Estas herramientas pueden ser personalizadas y adaptadas a las situaciones únicas de cada persona con ingresos bajos, representando una gran oportunidad para que los proveedores financieros amplíen su base de clientes.

8.  ¿Cómo pueden las instituciones financieras medir el impacto real de las herramientas impulsadas por IA en la seguridad y bienestar financiero de los usuarios?

Los fundamentos del bienestar financiero: ¿Hay un aumento en los ahorros, una reducción en la deuda, una mejora en las puntuaciones de crédito al usar estas herramientas?

También podemos encuestar la experiencia de interacción con el chatbot — ¿ha aumentado la confianza? ¿Hay mayor interés en productos que puedan mejorar el bienestar financiero? ¿Se tomaron acciones tras recibir asesoramiento?

Los bancos también pueden realizar pruebas A/B con diferentes grupos de consumidores que interactúan con chatbots frente a aquellos que no, para ver si hay una diferencia medible.

9.  ¿Qué papel juega la supervisión humana en la implementación de herramientas de IA para servicios financieros, y cómo pueden los proveedores equilibrar la automatización y el apoyo humano?

Una forma de aumentar la confianza ganada en la IA es asegurarse de que haya un humano accesible en los momentos clave de la interacción. Aquí, el uso de copilotos por parte de empleados del banco puede ser beneficioso. Tener acceso a un humano en vivo cuando sea necesario aumenta la confianza y la experiencia con la herramienta de IA.

El uso de IA conversacional permitirá a los representantes de atención al cliente atender mejor y más rápidamente las necesidades complejas de sus clientes, manteniendo el toque humano en puntos clave de la interacción cuando un agente en vivo sea deseable.

La transparencia también es fundamental para construir confianza en cualquier interacción. Por ejemplo, debes saber si estás hablando con un chatbot o con una persona real.

10.  Mirando hacia el futuro, ¿cuáles son las oportunidades más emocionantes para la IA en la inclusión financiera en los próximos cinco años?

La IA generativa representa la próxima evolución en el soporte de IA conversacional, ofreciendo un compromiso personalizado y sensible al contexto que se asemeja mucho más al apoyo humano que la estructura de árbol de decisiones de la mayoría de los chatbots financieros actuales. Las primeras aplicaciones de IA generativa en finanzas se han centrado principalmente en tareas administrativas, donde hay oportunidad de apoyar a los agentes de atención al cliente. Identificar cómo la IA generativa puede ofrecer soporte personalizado a gran escala en un contexto financiero es una oportunidad clave para impulsar el desarrollo en este sector.

La construcción de confianza ganada será especialmente crucial para una adopción más amplia de la IA generativa, que en nuestras pruebas y grupos focales sigue siendo vista con mayor escepticismo que los chatbots tradicionales. Sin embargo, los beneficios potenciales de ofrecer un nivel más avanzado de soporte en servicios financieros hacen de la IA generativa la tecnología más emocionante a seguir en el sector financiero. Quienes puedan desarrollar soporte confiable y de confianza en IA generativa estarán en la vanguardia de esta nueva era en la construcción de relaciones con clientes a gran escala.

Otras oportunidades específicas que vemos son copilotos y asistentes personales que puedan ofrecer orientación financiera integral adaptada a las necesidades individuales, como un coach financiero personal. También esperamos que los avances en IA conversacional jueguen un papel valioso en promover la salud financiera de los trabajadores, proporcionando información y orientación para navegar sistemas complejos de beneficios laborales.

11.  ¿Cómo ves la evolución del papel de organizaciones sin fines de lucro como Commonwealth en la promoción del uso responsable de la IA en los servicios financieros?

Históricamente, el diseño de nuevas tecnologías se ha centrado en la adopción por parte de consumidores de altos ingresos, dejando de lado las necesidades de los hogares con ingresos bajos a moderados. A través de nuestra iniciativa Emerging Tech for All (ETA), nos enfocamos en asegurar que las necesidades de las personas financieramente vulnerables sean entendidas, visibles, introducidas en conversaciones relevantes e integradas en soluciones. Estamos en un punto de inflexión crítico en la expansión de la IA, y creemos que es urgente seguir investigando e identificando formas en que la IA puede impactar positivamente a esta población.

Actualmente, existe poca investigación y adopción en el campo sobre este tema, y algunos proveedores que entrevistamos mencionaron la necesidad de estudios a mayor escala para construir la evidencia que puedan usar para justificar internamente este tipo de diseño. Nosotros estamos abordando este desafío produciendo investigaciones impactantes y pruebas de campo que demuestren cómo la IA generativa puede apoyar el bienestar financiero de los hogares LMI y fortalecer el argumento para diseñar más activamente para este segmento desatendido.

De cara al futuro, el impacto sistémico del diseño inclusivo dependerá de la escala en que estas ideas sean aplicadas por los principales actores del sector financiero. Para nosotros, escalar el diseño inclusivo dependerá de aprovechar nuestra investigación para colaborar con organizaciones mayores que busquen capitalizar los avances en IA para apoyar la salud financiera de sus clientes y trabajadores.

12.  ¿Qué consejo darías a las instituciones financieras que quieren aprovechar la IA manteniendo la confianza y transparencia con sus clientes?

Las familias con ingresos bajos a moderados prefieren interactuar directamente con una persona, pero tienen menos acceso a sucursales físicas. Esta brecha presenta una oportunidad clave para que la IA brinde el apoyo personalizado que buscan estas familias sin necesidad de aumentar el número de sucursales o personal de atención.

Sin embargo, para lograr una adopción más amplia, las instituciones financieras deben ganar y fortalecer la confianza en los chatbots entre las personas con ingresos bajos a moderados — esto puede deberse a la experiencia con el chatbot en sí, o a que la industria en general gane aceptación a medida que la tecnología avanza en seguridad y calidad.

Las principales preocupaciones de quienes interactúan con chatbots son la seguridad y la privacidad. En general, las personas expresan desconfianza en que la IA conversacional sea útil, proteja sus datos o actúe en su mejor interés. Aunque muchos en el sector están entusiasmados con el potencial de la IA, las personas con ingresos bajos a moderados probablemente la ven con mayor escepticismo, como una tecnología nueva que aún no ha demostrado su valor directo para ellas.

Políticas de datos transparentes, mensajes y branding tranquilizadores, y mantener la opción de contactar a un agente humano como respaldo, ayudarán a construir y ganar confianza. Desarrollar interacciones útiles y personalizadas mediante IA generativa que vayan más allá de la información básica que ofrecen hoy los chatbots, como saldos y transacciones recientes, también demostrará el valor de la tecnología.

Es importante también enfatizar el concepto de confianza ganada. El objetivo no es solo convencer a las personas de confiar en los chatbots, sino diseñarlos de manera que esa confianza esté justificada.