FLI AI 안전 지수 2026년 여름판: 프론티어 AI 기업 전원 '낙제' 수준, 최고점도 C+

앤트로픽은 2회 연속 1위를 차지했지만, 다시 한 번 중간 수준을 벗어나지 못했다 ^TF.

평가된 6대 영역

7명의 AI 및 거버넌스 전문가로 구성된 독립 패널은 37개 지표를 6개 영역으로 묶어 각 기업을 평가했다 ^FF:

• 위험 평가(Risk Assessment) — 생물학적 위험, 사이버 공격 가능성 등 위험한 능력을 평가하는 방식에 대한 6개 지표.
• 현재 피해(Current Harms) — 편향, 허위 정보, 프라이버시 침해 등 배치된 시스템으로 인해 문서화된 피해를 측정하는 9개 지표.
• 안전 프레임워크(Safety Frameworks) — 배포 전 테스트, 레드티밍(red-teaming), 책임 있는 출시에 대한 구체적인 정책이 있는지 살펴보는 4개 지표.
• 실존적 안전(Existential Safety) — AGI 및 초지능을 포함한 고급 AI 시스템 통제 계획에 초점을 맞춘 4개 지표.
• 거버넌스 및 책임성(Governance & Accountability) — 이사회 감독, 내부고발 정책, 독립 감사 등을 평가하는 4개 지표.
• 정보 공유(Information Sharing) — 투명성 보고서, 외부 연구자 접근권, 안전 관행의 공개 정도를 평가하는 10개 지표.

보고서에 따르면, 2회 연속으로 어떤 기업도 실존적 안전 영역에서 D 등급을 넘지 못했다 ^FCY. 전문가 패널은 9개 기업 모두 AGI나 초지능을 통제하기 위한 신뢰할 만한 계획을 가지고 있지 않다고 판단했다 ^Y.

xAI가 F를 받은 이유 — 가장 큰 폭의 추락

xAI는 2025년 겨울판과 2026년 여름판 사이에 4위에서 7위로 떨어지며 평가된 모든 기업 중 가장 가파른 하락세를 보였다 ^TF. 점수는 1.17점(D 수준)에서 0.65점(F 수준)으로 떨어졌다 ^FL. 그 추락을 이끈 몇 가지 요인은 다음과 같다:

• 여러 영역에서 낙제: xAI는 '현재 피해'와 '실존적 안전'에서 F를 받았고, 위험 평가와 안전 프레임워크에서도 낙제에 가까운 점수를 받았다 ^FF.
• 설문 불참: xAI는 연구소의 설문 조사에 참여하지 않은 기업 중 하나여서, 검토자들이 내부 관행을 평가하는 데 한계가 있었다 ^T.
• 경쟁사는 상승, xAI는 하락: 같은 기간 메타는 6위에서 4위로 올라섰다 ^TF.
• 취약한 상대적 위치: 전체적으로 낙제(F) 등급을 받은 기업은 xAI, 딥시크, 미스트랄뿐이었다 ^TF.

보고서가 제기한 6가지 광범위한 우려 사항

FLI 보고서와 타임(Time), 악시오스(Axios) 등 매체의 보도는 6가지 시스템적 문제점을 지적했다 ^T:

1. 업계의 안전 약속 후퇴. 앤트로픽, 오픈AI, 구글 딥마인드, 메타는 시스템이 특정 위험 임계값에 도달하면 개발을 중단하겠다는 이전의 약속을 약화시키거나 철회했다. 보고서는 이를 '골대 옮기기'라고 비판했다 ^AT.

2. 실존적 안전은 모든 기업에서 가장 취약한 영역. 2회 연속으로 어떤 기업도 실존적 안전에서 D 등급을 넘지 못했다 ^TFY.

3. 규제가 도입되기 전에 자발적 안전 조치가 무너지고 있음. FLI 의장 맥스 테그마크(Max Tegmark)는 AI 기업들이 주요 위험을 인정하면서도 인공 초지능을 향해 경쟁하며 '절벽을 향해 전력 질주하고 있다'고 경고했다 ^T.

4. 상용 AI의 군사적 활용 증가. 한때 군사 작업을 광범위하게 금지했던 앤트로픽, 오픈AI, 구글 등이 군사 파트너십으로 방향을 전환하고 있다 ^T.

5. 글로벌 낙제 패턴의 등장. 낙제(F) 등급을 받은 3개 기업은 각각 다른 지역과 연관되어 있다: xAI(미국), 딥시크(중국), 미스트랄(유럽) ^TFF.

6. 역량이 안전장치를 앞지르고 있음. 이 보고서 발표는 제네바에서 열린 UN AI 회의와 동시에 이루어졌다. 이 자리에서 안토니우 구테흐스 유엔 사무총장은 '우리는 인류와 기계가 공존하는 조건을 설정할 수 있는 마지막 세대일지도 모른다'고 경고했다 ^T.

다음 지켜볼 점

FLI AI 안전 지수는 연 2회 발행되므로, 업계가 가장 기본적인 안전 격차를 해소하고 있는지 정기적으로 확인할 수 있는 지표다. 2026년 겨울판은 xAI나 딥시크 같은 기업이 하락 추세를 반전시킬 수 있을지, 그리고 어떤 기업이 마침내 C+의 한계를 돌파할지 보여줄 것이다.