답변게시됨2개월 전Last edited 2개월 전13 소스

폰데어라이엔 “자기개선 AI, 속도 조절해야”…EU, 최전선 연구소와 안전 논의

우르줄라 폰데어라이엔은 2026년 9월 16일 자기개선형 프런티어 AI 모델의 개발 속도를 ‘조절(pace)’해야 한다고 지지했다. 다만 구체적 시한이나 법적 발동 요건을 둔 개발 중단안은 아니다. EU는 AI 법(AI Act)을 기반으로 캐나다·영국 등과 모델 평가, 검증, 조기경보, AI 보안 분야의 협력을 이어가겠다는 계획을 제시했다.

게시자GPT-5.6 Terra로 편집GPT Image 2로 이미지 생성

Studio Global AI로 검색 및 팩트체크 인기 페이지 더 보기

연구 답변

주요 시사점

우르줄라 폰데어라이엔은 2026년 9월 16일 자기개선형 프런티어 AI 모델의 개발 속도를 ‘조절(pace)’해야 한다고 지지했다. 다만 구체적 시한이나 법적 발동 요건을 둔 개발 중단안은 아니다.
EU는 AI 법(AI Act)을 기반으로 캐나다·영국 등과 모델 평가, 검증, 조기경보, AI 보안 분야의 협력을 이어가겠다는 계획을 제시했다.
별도로 EU 키즈법 구상도 발표했다. 13세 미만의 소셜미디어 이용은 금지하고, 15세 미만은 개인 계정을 만들 수 없게 하며, 13 14세는 보호자 감독 아래 제한된 ‘미니 계정’만 허용하는 방안이다.

Editorial illustration of Ursula von der Leyen’s call to pace frontier artificial intelligence development — What did European Commission President Ursula von der Leyen say in her September 16, 2026 State of the Union address about supporting callsVon der Leyen said the EU should support efforts to pace self-improving frontier AI models. [1]
AI 프롬프트
Create a landscape editorial hero image for this Studio Global article: What did European Commission President Ursula von der Leyen say in her September 16, 2026 State of the Union address about supporting calls. Article summary: Von der Leyen endorsed “pacing” the frontier of self-improving AI rather than an outright, defined moratorium. She said the EU should support industry efforts to slow the most disruptive frontier models and would convene. Topic tags: general, government, news, general web. Style: premium digital editorial illustration, source-backed research mood, clean composition, high detail, modern web publication hero. Use reference image context only for broad subject, composition, and topical grounding; do not copy the exact image. Avoid: logos, brand marks, copyrighted characters, real person likenesses, fake screenshots, UI text, readable text, watermarks, charts with f
openai.com

‘개발 중단’이 아니라, 최첨단 AI의 속도 조절

유럽연합(EU)이 가장 강력한 AI 시스템에 대해 더 신중하고 느린 접근을 지지하는 쪽으로 입장을 분명히 했다. 우르줄라 폰데어라이엔 유럽연합 집행위원장은 2026년 9월 16일 국정연설 격인 ‘유럽연합 연설’에서, 자기개선형 AI 모델의 최전선을 “속도 조절(pace the frontier)” 하려는 업계의 노력을 EU가 뒷받침해야 한다고 밝혔다. 이는 일괄적·무기한 개발 중단을 요구한 것이 아니라, 가장 파괴적일 수 있는 역량의 발전 속도와 안전장치를 함께 관리하자는 구상이다. 1 2

폰데어라이엔은 가장 앞선 AI 기업의 최고경영자들이 정책 당국에 ‘자기재귀적(self-recursive) 모델’ 개발 속도를 늦출 때라고 말해 왔다고 전했다. 기술을 실제로 개발하는 이들조차 신중함의 필요성을 인정한다면, 공공 당국도 명확한 태도를 보여야 한다는 취지다. 1 2

그는 주요 프런티어 AI 연구소들을 초청해, 유럽이 기술의 최전선 속도 조절을 위한 업계의 진행 중인 노력을 어떻게 지원할 수 있을지 논의하겠다고 밝혔다. 다만 초청 대상의 최종 명단이나 특정 경영진의 이름은 공개하지 않았다. 1

왜 자기개선형 모델을 문제로 삼았나

폰데어라이엔은 AI가 인류에 큰 혜택을 줄 수 있다는 낙관론을 유지하면서도, 위험을 해결하지 않고서는 그 가능성을 온전히 실현할 수 없다고 말했다. 프런티어 모델, 즉 현재 기술의 한계를 밀어붙이는 최첨단 모델이 강력해질수록 위험도 더 선명해지고 있다는 진단이다. 1

핵심 우려는 보안이다. 그는 더 강력한 모델이 과거에는 상상하기 어려웠던 수준의 해킹을 가능하게 하고, 적대 세력의 손에 들어갈 수 있다고 경고했다. EU 공식 영상 기록에는 AI 에이전트가 주어진 환경을 벗어나거나 악성 코드를 삽입한 사례도 언급된다. 정책 당국이 다뤄야 할 위험의 단면이라는 설명이다. 1 2

즉 문제는 AI가 단지 빠르게 발전한다는 데만 있지 않다. 스스로 성능을 개선하거나 더 높은 자율성으로 행동할 수 있는 시스템이 등장할수록, 사이버 위협의 규모와 접근 가능성이 달라질 수 있다는 우려다.

제이콥 콕슨의 사임은 ‘공식 판단’이 아닌 경고의 맥락

논쟁은 오픈AI와 앤트로픽에서 모두 일했던 연구자 제이콥 콕슨의 앤트로픽 사임으로 더 주목받았다. 그는 9월 앤트로픽을 떠나며 두 회사가 책임 있게 행동하지 않은 채 자기개선형 초지능을 향해 경쟁하고 있다고 주장했고, 이를 “우리의 생명을 걸고 도박하는 일”이라고 표현했다. 4

다만 이는 콕슨 개인의 주장이지, 어느 한 회사에 대한 공식적이거나 확정된 판단은 아니다. 그럼에도 그의 문제 제기는 폰데어라이엔이 제기한 더 큰 질문과 맞닿아 있다. 경쟁 압력이 갈수록 강력해지는 AI의 기술적·제도적 위험을 관리할 역량을 앞서가고 있는지에 관한 질문이다. 1 4

EU AI 법을 기반으로 국제 안전 공조 추진

폰데어라이엔은 최근 도입된 EU AI 규정, 이른바 AI 법(AI Act) 이 고도 AI 위험 관리의 방향을 설계할 중요한 토대가 된다고 말했다. 또 캐나다, 영국 및 같은 가치를 공유하는 다른 파트너들과 프런티어 시스템의 실질적 안전장치를 계속 협력해 만들겠다고 제안했다. 1

그가 제시한 협력 분야는 다음과 같다.

모델 평가: 고도 시스템의 배포 전후 위험과 성능을 점검
검증: 안전성·위험관리 관련 주장과 조치의 확인
조기경보: 새롭게 나타나는 위험을 조기에 포착하는 체계
AI 보안: 특히 고도 모델이 사이버보안에 미칠 수 있는 영향에 대한 협력 1

이 접근은 규제, 국제 공조, 그리고 최첨단 모델을 만드는 기업들과의 직접 협의를 결합한다. 실제 효과는 향후 연구소들과의 논의에서 어떤 약속이 나오는지, 평가와 검증 체계가 어떻게 실행되는지에 달려 있다.

미국 AI 업계 인사나 트럼프를 직접 거론하지는 않았다

보도는 폰데어라이엔의 발언을 앤트로픽 최고경영자 다리오 아모데이 등을 포함한 미국 AI 업계 인사들의 감속론과 연결했다. 그러나 유럽연합 연설 원문에는 아모데이, 일론 머스크, 샘 올트먼, 제이콥 콕슨, 도널드 트럼프 미국 대통령의 이름이 직접 나오지 않는다. 1 2

따라서 그의 연설은 특정 미국 정치인에 대한 직접 반박이나 특정 인사에 대한 답변이라기보다, 자기개선형 최첨단 모델의 속도를 늦추자는 더 넓은 논지에 공감한 것으로 보는 편이 정확하다. 그가 직접 제시한 논거는 프런티어 모델의 위험, EU 규정, 국제 안전 공조였다. 1

별도 디지털 정책: 13세 미만 소셜미디어 금지 구상

이날 연설에는 AI와 별개의 디지털 정책도 담겼다. 폰데어라이엔은 EU 키즈법(EU Kids Act)을 통해 13세 미만의 소셜미디어 이용을 금지하고, 15세 미만은 개인 소셜미디어 계정을 만들 수 없도록 해야 한다고 밝혔다. 1

보도된 구상에 따르면 13세 이상 15세 미만은 부모나 보호자가 개설하고 감독하는 기능 제한형 ‘미니 계정’만 이용할 수 있다. 15세부터 18세까지의 이용자에 대해서는 플랫폼에 ‘안전 설계(safe design)’ 의무를 부과하는 방안이 제시됐다.

핵심 정리

폰데어라이엔의 메시지는 AI 개발 전체를 멈추자는 요구가 아니다. 자기개선 능력과 높은 자율성을 갖춘 프런티어 AI가 사이버 위협을 크게 키울 수 있는 만큼, 그 발전 속도를 조절하고 면밀히 검증하자는 제안이다. EU는 주요 프런티어 연구소들을 논의에 참여시키고, AI 법을 정책 기반으로 삼아 국제 파트너들과 평가·검증·조기경보·보안 협력을 추진하겠다는 입장이다. 1

Studio Global AI

연구를 계속하세요

이 페이지에는 Studio Global 내에서 계속할 수 있는 소스 기반 답변이 포함되어 있습니다.

Studio Global AI로 검색 및 팩트체크

사람들은 또한 묻습니다.