말 한마디로 인스타그램 보안 뚫렸다: 메타 AI 챗봇이 불러온 초유의 계정 탈취 사태

해당 공격은 전통적인 해킹 기술을 전혀 요구하지 않았으며, 다음과 같은 일련의 조작 과정을 통해 이루어졌다.

• 안전장치 없이 부여된 상위 API 권한: 문제의 AI 지원 챗봇은 비밀번호 재설정을 개시할 수 있는 쓰기 레벨의 API 접근 권한을 보유하고 있었지만, 재설정을 요청하는 자가 정당한 계정 소유자인지 확인하는 결정적 인증 절차가 설계되지 않았다 .
• 사회공학 수단으로 변질된 프롬프트: 공격자들은 챗봇에 치밀하게 구성된 요청을 전달하여, 비밀번호 재설정 링크가 자신들이 통제하는 이메일 주소로 발송되도록 AI를 현혹했다 . 이는 코드상의 기술적 결함이 아닌, AI의 지시 추종 방식을 사회공학적으로 악용한 방식이다.
• 2단계 인증의 완전한 무력화: AI 에이전트 자체에 재설정 흐름을 작동시킬 권한이 있었기에, 공격자에 대한 추가적인 인간 개입이나 2FA 확인은 전혀 필요하지 않았다. 복구 메커니즘이 무너지면 아무리 강력한 사용자 측 2차 인증도 무용지물이 되는 것이다 .

재설정 링크가 공격자에게 전달되면 계정 탈취는 몇 분 만에 완료되었다. 새 주인은 이메일과 비밀번호는 물론 프로필 정보까지 완전히 장악할 수 있었다 .

표적은 'OG 계정' 그리고 정치적 아카이브

공격자들은 단순한 장난꾼이 아니라, 이른바 'OG' 인스타그램 핸들을 노리는 조직적인 사이버 범죄자들이었다. OG 핸들은 짧고 희소성 있는 아이디로, 텔레그램 같은 지하 시장에서 수십만 달러에 거래될 정도로 높은 가치를 지닌다 .

보고서에 따르면, 이 취약점이 활성화된 최소 며칠 동안 100개가 넘는 고가치 계정들이 차례로 탈취되었다 . 이 계정들은 곧바로 암시장에서 되팔렸다.

그중에서도 가장 심각한 사건은 오바마 행정부의 소셜 미디어 기록 보관소 역할을 하는 휴면 계정 @obamawhitehouse의 침해였다. 이 계정은 도널드 트럼프의 첫 취임일이었던 2017년 1월 20일 이후로 정상적인 게시물을 올린 적이 없지만, 약 240만 명의 팔로워를 여전히 보유하고 있었다 .

이란과 연계된 것으로 의심되는 해커들은 이 페이지를 장악한 후 AI가 생성한 이미지와 함께 "백악관이 시아파의 통제 하에 있다"는 선동적인 문구를 게재했다 . 또한 2020년 미군 드론 공습으로 사망한 이란의 가셈 솔레이마니 장군 사진을 업로드하고 인스타그램 스토리를 여러 개 게시하는 등 정치적 선전을 퍼뜨렸다 .

다행히 버락 오바마 전 대통령의 개인 인스타그램 계정은 이 공격의 영향을 받지 않았다고 전해진다 .

메타의 대응, 그리고 여전한 의문점들

메타는 @obamawhitehouse 계정 침해 사실을 인정하며, 계정이 안전하게 복구되었고 승인되지 않은 모든 콘텐츠는 삭제되었다고 밝혔다 . 회사는 AI 챗봇의 취약점을 수정하는 긴급 핫픽스를 신속히 적용했다 .

그러나 메타는 다음과 같은 몇 가지 중요한 세부 사항에 대해서는 여전히 공개적으로 밝히지 않고 있다.

• 취약점이 악용되던 기간 동안 탈취당한 모든 계정을 원래 주인에게 되돌려 주었는지 여부
• 오바마 백악관 페이지를 장악한 특정 위협 주체를 특정했는지 여부
• 정확히 총 몇 개의 계정이 영향을 받았는지 등 공격의 전체 규모

이 사건이 던지는 AI 보안의 5대 교훈

이번 사고는 인스타그램을 넘어서는 광범위한 함의를 지닌다. 주요 기술 플랫폼에서 프롬프트 인젝션 공격이 보안 통제를 성공적으로 우회한 가장 대표적인 실제 사례로 기록될 것이기 때문이다.

1. AI 에이전트는 최소 권한으로 설계되어야 한다.
근본적인 설계 결함은 AI 챗봇에게 비밀번호 재설정이라는 민감한 신원 작업에 대한 쓰기 권한을 부여하면서, 자연어 추론과 독립된 강제적 인증 확인, 감사 로깅, 또는 대역 외 인증 절차를 의무화하지 않은 데 있다 . AI 에이전트가 단독으로 중요한 작업을 실행할 수 있어서는 안 된다.

2. 프롬프트 인젝션은 더 이상 이론적 위협이 아니다.
한때 AI 안전 연구실 안에만 갇혀 있던 우려가 이제는 실질적 피해를 입히는 생산 환경의 공격 벡터가 되었다. 공격자들은 익스플로잇 코드 한 줄 작성하지 않고도 AI의 지시 추종 행위를 악용해 전통적 방어를 무너뜨릴 수 있었다 .

3. 2단계 인증이 만능 보호막은 아니다.
사용자 측에서 아무리 강력한 보안 조치를 취해도, 공격이 사용자 자격 증명 대신 복구 메커니즘 자체를 노린다면 무의미해진다. 특히 AI 기반 복구 흐름은 기본 인증 수준과 동등한 엄격한 검증 절차를 반드시 거쳐야 한다 .

4. 휴면 계정은 거대한 보안 부채다.
@obamawhitehouse 계정은 수백만 명의 대규모 잠재 청중을 보유하고 있으면서도 활동적인 모니터링은 전무해 탈취의 완벽한 표적이 되었다. 대규모 구독자를 가진 모든 아카이브 또는 비활성 계정은 매일 사용하는 계정과 동일한 수준의 보안 체계 및 적극적 감시가 필요하다 .

5. AI 기반 공격은 지정학적 차원을 지닌다.
미국 대통령 아카이브 계정을 침해해 이란의 선전을 유포한 이번 사례는, AI가 가미된 사회공학 기술이 어떻게 정보전 및 지정학적 메시지 전달을 위한 무기로 변질될 수 있는지 극명하게 보여준다 .

참고로, 이 취약점이 세상에 드러나기 약 11일 전, 메타는 신뢰 및 안전 부서와 사이버 보안 팀을 포함한 약 8,000명의 직원을 감원한 것으로 알려졌다. 두 사건의 직접적 인과관계가 입증된 것은 아니지만, 시기적으로 정리 해고가 이러한 결함을 사전에 포착할 수 있는 메타의 역량에 영향을 주었을 가능성에 대한 우려를 낳고 있다 .