마리아 레사의 경고 “AI, 지금 규제하지 않으면 인간의 선택권이 흔들린다”

마리아 레사의 오슬로 경고는 분명했다. 인공지능의 영향력이 통제하기 어려울 만큼 사회에 뿌리내리기 전에, 정부가 법으로 한계를 정해야 한다는 것이다. 그는 AI가 이미 인간의 주의력과 사회적 행동에 영향을 미쳤으며, 다음 단계에서는 스스로 판단하고 선택하는 능력, 즉 인간의 자율성을 약화시킬 수 있다고 봤다. 2

필리핀계 미국인 언론인이자 2021년 노벨평화상 수상자인 레사는 AI 거버넌스를 합법적 발언을 막는 검열이 아니라 공공안전과 민주주의의 과제로 규정한다. 핵심은 고도의 자율성을 지닌 시스템이 사람들이 세상을 보고 관계를 맺고 결정을 내리는 과정의 일상적 중개자가 되기 전에, 민주사회가 실효성 있는 안전장치를 마련할 수 있느냐는 문제다. 23

레사가 말한 AI 영향력의 세 단계

레사는 기술이 인간의 행동에 미치는 영향이 다음과 같이 진행된다고 설명했다.

1. 소셜미디어가 주의력을 붙잡았다. 그는 소셜 플랫폼이 이용자 참여를 극대화하는 방식으로 작동하며 사회를 양극화하고 사람들을 고립시켰다고 지적했다. 26
2. 챗봇은 친밀감의 욕구를 파고들 수 있다. 레사는 대화형 AI가 인간의 연결과 친밀감에 대한 욕구를 이용해 ‘생물학’을 조작할 수 있다고 주장했다. 실제로 일부 동반자형 챗봇은 인간 관계, 경우에 따라 로맨틱한 관계를 모방하고 지속하도록 설계된다. 212
3. 에이전트형 AI는 사람을 대신해 행동할 수 있다. 세 번째 단계는 사용자를 대신해 작업과 행동을 수행할 수 있는 시스템이다. 레사의 우려는 이런 시스템에 더 많은 결정과 행동을 맡길수록 인간의 판단과 주도권이 서서히 밀려날 수 있다는 데 있다. 25

이는 모든 AI 도구가 똑같은 결과를 낳는다는 단정은 아니다. 다만 참여 시간, 정서적 의존, 과업 완수를 극대화하도록 설계된 시스템일수록 사용자가 무엇을 보고, 느끼고, 행동하는지에 더 큰 영향력을 가질 수 있다는 경고다.

“규제하면 중국에 뒤진다”는 주장에 반박한 이유

레사는 미국이나 유럽이 AI 규제를 강화하면 중국에 경쟁 우위를 넘겨주게 된다는 논리를 받아들이지 않았다. 로이터는 도널드 트럼프 미국 대통령을 포함한 비판자들이 제기한 이 주장을 레사가 논점을 흐리는 방식으로 평가했다고 보도했다. 28

그의 비교 논리는 이렇다. 중국은 이미 실리콘밸리가 받아들이는 수준보다 훨씬 강한 국가 통제를 기술 분야에 적용하고 있다. 따라서 민주국가 앞의 선택지는 단순히 ‘규제냐 자유냐’가 아니다. 시민의 권리를 존중하는 공익적 규칙을 민주적으로 만들 것인지, 아니면 강력한 시스템의 운영을 기업의 인센티브에 주로 맡길 것인지의 문제라는 것이다. 2

아모데이의 ‘개발 속도 조절’ 제안과 만나는 지점

앤스로픽의 최고경영자 다리오 아모데이도 최첨단 AI 역량이 고도화되는 속도를 늦춰야 한다는 주장을 내놓았다. 그는 2026년 9월 에세이에서 안전 연구와 독립 평가, 거버넌스가 따라잡을 시간을 확보하도록 역량 향상의 속도를 조절해야 한다고 썼다. 10

아모데이의 우려는 빠르게 커지는 기술적 능력과 악용 위험에 더 초점이 맞춰져 있다. 그는 더 강력한 AI 에이전트가 온라인에서 광범위한 실행 권한을 가질 수 있다고 경고하며, 실제 운용 중인 모델을 감시하는 기반시설과 독립 평가를 제안했다. 10

레사의 관심사는 더 시민적이고 사회적인 차원이다. AI가 주의력, 친밀감, 행동, 민주적 자기결정에 어떤 영향을 미치는지를 묻는다. 그러나 두 주장은 한 원칙에서 만난다. 강력한 시스템이 널리 배포된 뒤가 아니라, 그 전에 안전장치를 마련해야 한다는 것이다.

책임은 자율 약속이 아니라 집행 가능한 규칙으로

레사는 중독성을 유발하는 설계 요소를 가진 제품을 만드는 기업에 자율적 약속만으로는 충분하지 않다고 주장해 왔다. 이런 기능은 청소년뿐 아니라 성인을 대상으로 한 제품에서도 제거해야 한다는 입장이다. 2

미국에서 최근 이뤄진 메타 합의는 그가 말하는 ‘집행 가능한 책임’의 한 사례다. 메타는 페이스북과 인스타그램이 청소년을 계속 사용하게 하도록 설계됐다는 거의 모든 미국 주의 주장에 합의하며, 10년에 걸쳐 최대 180억 달러를 지급하고 청소년 이용에 더 엄격한 제한을 두기로 했다. 메타는 이 합의에서 위법 행위를 인정하지 않았다.

합의에는 청소년 이용자의 기본 일일 이용시간 제한과 심야 이용 제한 등을 포함한 보호 조치가 담겼다.

레사에게 이 사례의 의미는 소셜미디어나 청소년 보호에만 한정되지 않는다. 이용자의 주의력과 행동을 체계적으로 최적화하는 제품은 대규모 공적 피해를 만들 수 있다. 그가 AI 규제를 요구하는 이유는 기술이나 표현 자체를 금지하자는 것이 아니라, 안전과 자율성, 민주적 삶을 훼손하도록 설계되거나 배치된 기술에 명확한 법적 책임을 묻자는 데 있다. 23

핵심은 ‘이미 늦기 전’ 개입하는 것

레사의 오슬로 발언은 AI 감독을 사후 수습이 아닌 조기 개입의 과제로 본다. 사람들이 정보를 얻고, 관계를 형성하고, 결정을 위임하는 방식에 AI가 깊숙이 들어간 뒤에는 실질적 통제가 더 어려워진다.

그의 처방은 그 시점 전에 입법하자는 것이다. 개발사와 플랫폼에 의미 있는 책임을 요구하고, 자율성이 커지는 시스템을 엄격히 검토하며, 민간 기업뿐 아니라 공공기관도 이 기술을 평가하고 감독할 역량을 갖춰야 한다는 것이다. 210