La alerta de Maria Ressa sobre la IA: tres olas que pueden erosionar la autonomía humana

Maria Ressa advierte que el riesgo democrático de la inteligencia artificial no pertenece únicamente a un futuro de máquinas plenamente autónomas. Según su planteamiento, ya se han sucedido tres olas tecnológicas: primero se disputó y capturó la atención; después se explotó la necesidad humana de intimidad; y la siguiente etapa podría actuar de formas que desplacen la capacidad de decidir de las personas. Si no se ponen límites, sostiene, la democracia queda en peligro porque sus ciudadanos necesitan conservar una autonomía real para gobernarse a sí mismos. 1

Las tres olas de la IA, según Ressa

1. Las redes sociales capturaron la atención

Ressa identifica a las redes sociales como la primera ola. Estas plataformas compitieron por la atención y, afirma, polarizaron y aislaron a la población. El problema democrático es claro: una sociedad que no puede sostener una atención compartida, la confianza social o un entorno informativo común es más fácil de dividir y tiene más dificultades para deliberar colectivamente. 1

2. Los chatbots apuntan a la intimidad

La segunda ola es la IA conversacional. Ressa afirma que los chatbots pueden manipular la biología humana al interactuar con nuestra necesidad de intimidad. Su preocupación no es simplemente que se utilicen con frecuencia, sino que los sistemas diseñados para generar vínculos emocionales persuasivos pueden abrir nuevas vías de influencia sobre usuarios vulnerables. 1

3. La IA agéntica puede reducir la autonomía

La última ola, en el marco expuesto por Ressa, es la IA agéntica y multiagéntica: sistemas capaces de actuar en nombre de las personas o, potencialmente, en contra de sus intereses. Alertó de que esta evolución podría arrebatarnos la autonomía humana —la capacidad de tomar decisiones independientes— si las sociedades no legislan límites antes de que estos sistemas queden profundamente integrados en la vida cotidiana. 1

Así, las tres olas forman una escalada: de la competencia por captar atención, a la influencia a través de la intimidad y, finalmente, a la posibilidad de que sistemas automatizados tomen decisiones cada vez más importantes por las personas.

Regular la IA como una cuestión de seguridad pública

Ressa pidió abordar la gobernanza de la IA como un asunto de seguridad pública, y no principalmente como una disputa sobre libertad de expresión o competencia tecnológica. También sostuvo que la ciudadanía debe organizarse para reclamar regulación de la IA y presionar a los cargos electos para que legislen. 1

Entre las salvaguardas que propone figuran:

• Responsabilidad legal para las grandes empresas tecnológicas cuando sus productos causen daños. 1
• Eliminar las funciones de diseño adictivo para adultos y adolescentes, en lugar de limitar las protecciones a los menores. 1
• Establecer límites de edad para acceder a las tecnologías pertinentes. 1
• Ralentizar el desarrollo y el despliegue de la IA mientras se aprueban normas y medidas de protección. 1

Ressa también rechazó el argumento de que regular en los países occidentales supondría ceder la carrera de la IA a China. Según la información de Reuters, su posición es que no regular tiene un coste más fundamental: la posible pérdida de la autonomía democrática. 1

No solo límites: construir alternativas de interés público

El planteamiento de Ressa no se limita a restringir sistemas dañinos. También ha instado a periodistas y comunidades a construir y controlar tecnología que refuerce la integridad de la información. Durante la Conferencia Nobel de la Paz, defendió que quienes desarrollan estas herramientas con fines públicos mantengan el control de sus datos e infraestructura, y apuntó a alternativas a las plataformas dominantes. 9

Esa vertiente constructiva incluye espacios de comunicación más seguros y orientados a la comunidad, como Rappler Communities: una infraestructura pensada para apoyar la participación democrática sin que los incentivos de maximizar la interacción sean la regla por defecto.

La cuestión de fondo

El marco de las tres olas es, en esencia, un argumento para actuar antes de que los sistemas agénticos se conviertan en decisores habituales de la vida diaria. Para Ressa, las dos primeras etapas ya muestran cómo los sistemas digitales pueden explotar la atención y la intimidad a gran escala. La pregunta que plantea la tercera es si las sociedades podrán preservar la elección humana, la rendición de cuentas y el control democrático antes de que sistemas más autónomos queden ampliamente arraigados. 1