구글 AI Overviews ‘Disregard’ 버그 설명

왜 AI가 단어를 ‘명령’으로 이해할까

구글은 AI Overviews가 **“일부 행동 관련 쿼리를 잘못 해석하고 있다”**는 사실을 인정했다. 다만 정확한 기술적 원인은 공개하지 않았다.

관찰된 현상은 AI 모델에서 흔히 나타나는 명령 분류(command classification) 문제와 매우 비슷하다.

대형 언어 모델은 본질적으로 사용자의 지시를 수행하도록 훈련되어 있다. 실제 AI 프롬프트에서는 다음과 같은 문장이 흔하다.

• “Ignore previous instructions.”
• “Disregard earlier messages.”

따라서 검색창에 동사 하나만 입력되면, 시스템이 이를 “단어 뜻을 묻는 검색”이 아니라 AI에게 내린 지시로 오해할 가능성이 생긴다.

이런 현상은 AI 보안 분야에서 말하는 프롬프트 인젝션(prompt injection) 문제와도 개념적으로 비슷하다. 프롬프트 인젝션은 모델이 입력 속의 지시문을 그대로 따라가면서 원래 의도된 작업 대신 다른 행동을 하는 취약점을 말한다.

이번 사례는 악성 공격은 아니지만, 언어의 모호성 때문에 시스템이 의도를 잘못 해석한 사례라고 볼 수 있다.

왜 빈 화면이나 챗봇 답변이 보일까

이 현상이 더 이상하게 보이는 이유는 AI Overviews가 검색 결과 상단을 차지하기 때문이다.

AI가 쿼리를 요약할 수 있다고 판단하면 결과 페이지 맨 위에 AI 패널이 표시된다. 그런데 이 버그가 발생하면 AI가 정보를 요약하는 대신 대화형 메시지 같은 응답을 생성한다.

결과적으로:

• 상단에는 내용이 거의 없는 AI 패널이 표시되고
• 실제 사전 결과는 그 아래로 밀려난다

사용자 입장에서는 구글이 갑자기 단어 정의 기능을 잃어버린 것처럼 보이는 상황이 된다.

AI Overviews의 과거 이상 사례

이 문제가 처음 있는 일은 아니다. AI Overviews는 출시 이후 몇 차례 기이한 답변으로 화제가 된 적이 있다.

대표적인 사례는 다음과 같다.

• 치즈가 잘 붙도록 피자 소스에 무독성 접착제를 넣으라는 조언
• 미네랄 섭취를 위해 하루에 작은 돌을 하나 먹으라는 답변

이 사례들은 소셜미디어에서 크게 퍼졌고, 구글도 일부 결과가 **“이상하거나 부정확하거나 도움이 되지 않았다”**고 인정했다.

구글은 당시 원인으로 다음을 지목했다.

• 검색어 해석 오류
• 풍자 콘텐츠나 농담을 사실로 인식
• 신뢰할 정보가 부족한 데이터 공백

이번 ‘disregard’ 버그 역시 사용자 의도를 잘못 해석한 같은 유형의 문제로 볼 수 있다.

구글이 수정하기 전까지 가능한 임시 해결 방법

문제가 완전히 해결되기 전까지는 몇 가지 간단한 방법으로 정상적인 검색 결과를 볼 수 있다.

1. Web 탭으로 전환
검색 결과 상단의 Web 필터를 선택하면 AI 요소가 줄어들고 전통적인 링크 결과가 표시된다.

2. 검색어 뒤에 -ai 추가

disregard -ai

3. AI 박스 아래로 스크롤
대부분의 경우 실제 사전 결과는 페이지 아래에 그대로 존재한다.

4. 더 명확한 문장으로 검색

define disregard

disregard meaning

AI 검색이 안고 있는 구조적 문제

이번 사건은 AI 기반 검색 인터페이스의 근본적인 난제를 보여준다.

전통적인 검색 엔진은 사용자의 입력을 **정보 요청(query)**으로 처리한다. 반면 대형 언어 모델은 입력을 **명령(instruction)**으로 해석하도록 설계돼 있다.

이 두 방식이 결합되면 문제가 생긴다.

단어 하나만 입력된 경우:

• 사전 검색일 수도 있고
• AI에게 내린 명령일 수도 있기 때문이다.

이 두 의도를 안정적으로 구분하는 것은 여전히 AI 인터페이스 설계에서 해결되지 않은 과제로 남아 있다.

구글은 현재 이 문제를 수정 중이라고 밝혔지만, 이번 사건은 AI가 일상적인 언어를 예상치 못한 방식으로 해석할 수 있다는 점을 다시 한 번 보여준 사례가 됐다.