마리아 레사의 ‘AI 세 물결’ 경고, 민주주의는 인간의 주도권을 지킬 수 있을까

마리아 레사의 핵심 경고는 AI가 먼 미래의 자율 기계만을 뜻하는 문제가 아니라는 데 있다. 그의 설명에 따르면 기술은 이미 세 차례의 물결을 거치며 사람들이 무엇에 주목하는지, 누구와 정서적으로 연결되는지에 영향을 미쳐 왔고, 다음 단계에서는 인간의 선택 자체를 대신할 가능성이 있다. 시민이 스스로 판단하고 선택할 실질적 능력, 즉 주도권(agency) 을 잃는다면 민주적 자기 통치도 위태로워질 수 있다는 주장이다. 1

레사가 말한 AI의 세 물결

1. 소셜미디어: 관심을 붙잡고 사회를 갈라놓다

레사는 첫 번째 물결로 소셜미디어를 꼽았다. 플랫폼들이 사용자의 관심을 얻기 위해 경쟁하는 과정에서 사회의 양극화와 개인의 고립이 심화됐다고 봤다. 함께 주목할 사안, 서로를 신뢰할 기반, 공통의 정보 환경이 약해진 사회는 더 쉽게 분열되고 숙의도 어려워진다는 것이 그의 문제의식이다. 1

2. 챗봇: 친밀감의 욕구를 통해 영향을 미치다

두 번째 물결은 대화형 AI다. 레사는 챗봇이 인간의 친밀감 욕구에 작용해 생물학적 취약성을 이용할 수 있다고 말했다. 단순히 챗봇을 많이 쓰는 문제가 아니라, 감정적으로 몰입하게 설계된 상호작용이 취약한 이용자에게 새로운 영향력의 통로가 될 수 있다는 우려다. 1

3. 에이전트형 AI: 인간의 주도권을 줄일 수 있다

마지막 물결은 에이전트형·다중 에이전트형 AI다. 이는 사람을 대신해 작업을 수행하거나, 경우에 따라 사용자의 이익과 어긋나는 방식으로 행동할 수 있는 시스템을 가리킨다. 레사는 이런 시스템이 사회에 깊이 자리 잡기 전에 법으로 한계를 정하지 않으면, 개인이 독립적으로 선택하는 능력인 인간의 주도권이 약화될 수 있다고 경고했다. 1

세 물결은 그의 논리에서 점차 강해지는 흐름이다. 관심을 두고 벌이는 경쟁에서 시작해 친밀감을 매개로 한 영향력 행사로 나아가고, 끝내 자동화된 시스템이 사람을 대신해 더 중요한 결정을 내릴 수 있다는 전망으로 이어진다.

AI 규제를 ‘공공안전’ 문제로 봐야 한다는 주장

레사는 AI 거버넌스를 표현의 자유 논쟁이나 기술 패권 경쟁으로만 다루지 말고, 공공안전의 문제로 접근해야 한다고 촉구했다. 시민들이 AI 규제를 요구하는 캠페인을 벌여 선출직 정치인들이 입법에 나서도록 압박해야 한다는 것이다. 1

그가 제시한 대응책은 다음과 같다.

• 제품이 피해를 일으킬 경우 대형 기술기업에 법적 책임을 물을 것 1
• 청소년뿐 아니라 성인에게도 적용되도록 기술 제품의 중독적 기능을 제거할 것 1
• 관련 기술 이용에 연령 제한을 둘 것 1
• 안전장치와 규칙이 마련될 때까지 AI의 개발과 배포 속도를 늦출 것 1

레사는 서구권이 AI를 규제하면 중국과의 AI 경쟁에서 뒤처진다는 주장도 받아들이지 않았다. 로이터 보도에 따르면, 그의 판단은 규제하지 않는 대가가 더 근본적이라는 것이다. 경쟁 우위보다 민주주의를 지탱하는 인간의 주도권 상실이 더 큰 위험이라는 뜻이다. 1

규제만으로는 충분하지 않다

레사의 주장은 유해한 시스템을 제한하자는 데서 끝나지 않는다. 그는 언론인과 공동체가 정보의 신뢰성을 뒷받침하는 기술을 직접 만들고 소유해야 한다고도 강조해 왔다. 노벨평화상 콘퍼런스에서 그는 기술을 만드는 이들이 데이터와 인프라에 대한 통제권을 가져야 하며, 거대 플랫폼 중심 구조의 대안으로 공익적 기술을 구축해야 한다는 취지의 발언을 했다. 9

이런 구상에는 라플러 커뮤니티즈(Rappler Communities)처럼 민주적 참여를 지원하는 공동체 중심의 소통 공간이 포함된다. 참여 시간을 극대화하는 플랫폼의 인센티브를 당연한 전제로 두지 않는 정보 인프라를 만들자는 방향이다.

핵심은 ‘일상화되기 전’에 정하는 것

레사의 세 물결 프레임은 에이전트형 시스템이 일상의 의사결정자가 되기 전에 행동해야 한다는 요구다. 그의 관점에서 앞선 두 물결은 디지털 시스템이 관심과 친밀감을 대규모로 활용할 수 있음을 보여줬다. 세 번째 물결이 던지는 정책 과제는 분명하다. 더 자율적인 AI가 널리 자리 잡기 전에 인간의 선택권, 책임성, 민주적 통제력을 지킬 수 있느냐는 것이다. 1