구글 AI가 '구글' 철자를 못 쓰는 이유: 대규모 언어 모델의 근본적 한계

심지어 이론 컴퓨터 과학 측면에서는, 현재 AI를 지배하는 트랜스포머(Transformer) 구조가 순차적인 깊은 추론이 필요한 작업을 원천적으로 수행할 수 없는 복잡도 등급(TC0)에 속한다는 분석도 있습니다. 아무리 GPT-5, GPT-6로 진화해도 태생적 구조 때문에 이런 간단한 세기를 못 할 수 있다는 예측이 나오는 배경입니다 .

단어 하나에 무너진 구글 검색: 프롬프트 주입 사고

2026년 5월 22일, 전 세계 사용자들은 더 기이한 현상을 목격했습니다. 구글 검색창에 “disregard(무시하세요)” 라는 단어만 입력했는데, 화면 상단이 텅 비어버린 겁니다. 대신 AI는 이렇게 반응했습니다: “알겠습니다. 이전 명령을 무시했습니다. 무엇을 도와드릴까요?”

‘무시해’, ‘취소해’, ‘건너뛰어’ 같은 AI 비서에게 내리는 명령어들이 구글 검색창에서 그대로 작동해 버린 것이죠. 보안 전문가들은 이를 ‘프롬프트 주입(Prompt Injection) 공격’의 전형적인 사례로 분석했습니다. 검색어를 지시 명령으로 착각한 AI가 자신의 시스템 프롬프트를 그대로 노출한 겁니다 . 구글은 곧바로 “인지하고 있으며 수정 중”이라고 밝혔지만, 이는 겉모습만 화려한 AI 검색의 내부가 얼마나 허술하게 연결되어 있는지를 여실히 보여준 사건이었습니다.

피자엔 본드를, 하루 한 끼는 돌을?

이 모든 해프닝의 서막은 2024년 5월로 거슬러 올라갑니다. 야심 차게 선보인 AI 오버뷰 기능은 출시 며칠 만에 글로벌 조롱거리가 됐습니다:

• “피자에 치즈가 잘 붙게 하려면 무독성 본드를 얇게 바르세요” (11년 전 레딧 농담글을 사실인 양 인용)
• “지질학자들은 비타민 섭취를 위해 매일 작은 돌 하나를 먹는 걸 권장합니다” (풍자 전문 매체 ‘디 어니언’ 기사 발췌)
• “미국에는 무슬림 대통령이 있었다” 같은 역사적 오류까지 양산

당시 구글 검색 총괄 리즈 레이드 부사장은 “드문 질의에 정보 격차가 발생했다”고 해명했고, 건강 관련 질문 등에는 AI 개입을 제한하는 패치를 했습니다 . 하지만 그때도 지금도 구글은 ‘텍스트 예측’에 능한 AI를 ‘사실 검증’이 필요한 검색 엔진에 앉힌 근본적 모순에서 벗어나지 못하고 있습니다.

이제 우리가 알아야 할 것

이 연이은 실패들은 우연이 아니라, 패턴입니다. AI는 문법적으로 완벽한 문장을 생성하는 데 특화됐지, 철자 하나를 정확히 세거나 출처를 비판적으로 검증하도록 설계되지 않았습니다. 방대한 토큰 데이터에서 “이 단어 뒤엔 통계적으로 이 단어가 올 확률이 높다”는 추천만 할 뿐입니다.

구글이 특정 오류를 패치할 때마다 근본적으로 다른 유형의 실패가 터져 나오는 배경에는, 결국 이 구조를 뒤집지 않는 한 ‘진짜 신뢰할 수 있는 AI 검색’은 요원하다는 연구자들의 냉정한 경고가 자리 잡고 있습니다 . 지금 우리가 목격하는 건 단순한 해프닝이 아니라, 앞으로 수년간 우리를 따라다닐 AI 문해력의 핵심 과제일지 모릅니다.