ASIC pone bajo la lupa el uso de IA en los bancos australianos

La Comisión Australiana de Valores e Inversiones (ASIC, por sus siglas en inglés), el organismo que supervisa las empresas y los mercados financieros del país, revisará cómo los bancos utilizan —y planean utilizar— la inteligencia artificial. El foco estará en las aplicaciones nuevas o previstas y en sus consecuencias para los clientes, incluidas las interacciones de atención, la toma de decisiones y las prácticas de préstamo. 234

La pregunta de fondo no es solo qué puede hacer la tecnología, sino cómo se gobierna su uso cuando influye en servicios financieros. La IA y la automatización pueden agilizar la atención, las evaluaciones crediticias y otras operaciones, pero ASIC también busca que los beneficios no se traduzcan en perjuicios para los clientes. 34

De la advertencia cibernética a la revisión bancaria

La iniciativa llega después de que ASIC advirtiera en mayo sobre la necesidad de actuar con urgencia ante los riesgos cibernéticos asociados con la IA de frontera: sistemas avanzados cuyas capacidades pueden acelerar y ampliar las amenazas. 47

Junto con la Autoridad Australiana de Regulación Prudencial (APRA), que supervisa la solidez de las entidades financieras, ASIC organizó nueve mesas redondas en junio y julio. Participaron más de 600 personas de más de 380 entidades del sistema financiero. El mensaje de los reguladores fue que las empresas deben pasar de reconocer los riesgos a demostrar que cuentan con medidas de protección y resiliencia. 17

Entre las preocupaciones figuran ciberataques que pueden aumentar en velocidad, escala y sofisticación, además de acciones o resultados no previstos cuando los sistemas autónomos reciben capacidad para actuar por cuenta propia. 79

Compras con agentes de IA: comodidad y nuevos riesgos

El debate también alcanza al llamado comercio agéntico: el uso de agentes de IA para buscar productos o hacer compras en nombre de una persona. Commonwealth Bank of Australia y otros cinco bancos —ASB Bank, Bank of America, Capital One, ING y NatWest— publicaron principios para orientar el desarrollo de estas herramientas.

Los bancos señalaron que los consumidores ven posibilidades en esta tecnología, pero advirtieron que las compras asistidas por agentes pueden abrir la puerta a estafas, fraude y vulneraciones de la privacidad. También alertaron que la tecnología avanza más rápido que los estándares del sector y las protecciones al consumidor.

Ese contraste ayuda a entender el reto para ASIC: permitir que los bancos aprovechen herramientas útiles sin perder de vista quién responde por sus decisiones y cómo se protege a las personas. La revisión examinará los usos de IA y su impacto en los clientes; las advertencias de los reguladores y las propuestas de los bancos reflejan la urgencia de que la supervisión, los controles y las protecciones evolucionen al ritmo de la tecnología. 247