개발팀 97%가 AI 코딩 도우미를 쓰지만, 고작 30%만 관리한다

• 수동 코드 리뷰 (52%) — 리뷰어는 이제 사람이 쓴 코드보다 방대한 양의 AI 생성 코드를 처리해야 하며, 그 양은 계속 증가하고 있다 .
• 보안 테스트 (51%) — AI 생성 코드는 특히 의존성 주입, 하드코딩된 비밀값, 오래된 라이브러리 추천 등 사람이 직접 작성할 때는 없었던 새로운 취약점 유형을 만들어낸다 .
• 생성 코드 재작업 (48%) — 절반 가까운 팀이 AI가 생성한 코드를 배포 전에 수정, 리팩토링, 혹은 재작성하는 데 상당한 시간을 소비한다 .

이런 현상에는 이제 새로운 이름이 붙었다. 바로 ‘수고의 이동(toil shift)’ 이다. AI가 작업을 없애는 대신, 창작 단계에서 검증, 테스트, 해결 단계로 옮겨버린다는 의미다 . 블랙덕은 냉정하게 진단한다. “대다수 조직이 검토, 보안, 거버넌스를 적용할 수 있는 속도보다 더 빨리 AI 생성 코드를 만들어내고 있다” .

거버넌스: 진짜 ROI를 결정하는 승수

보고서에서 엔지니어링 리더들이 가장 주목해야 할 발견은 바로 이것이다. 거버넌스는 ROI 승수(multiplier)라는 점이다 . AI 사용을 관리하는 팀과 그렇지 않은 팀의 차이는 단순한 격차가 아니다. 효율성 향상분을 온전히 가져가느냐, 조금씩 새어 나가게 두느냐의 차이다.

블랙덕의 조사 결과, 완전한 거버넌스 프레임워크를 갖춘 조직은 90%가 AI 코딩 도구로 인한 큰 효율성 향상을 보고했다. 하지만 구조화된 감독이 없는 팀의 경우 이 수치는 44% 로 떨어진다 .

여기서 말하는 거버넌스는 관료제를 의미하지 않는다. 어떤 도구를 사용할지, AI 생성 코드를 어떻게 리뷰할지, 어떤 보안 검증 단계를 통과해야 하는지, 그 결과물에 대한 책임은 누구에게 있는지에 대한 정의된 정책을 뜻한다. 단순히 ‘개발자가 원하는 건 다 쓰게 두는’ 것과 ‘승인된 도구를 구조화되고 감사 가능한 파이프라인 안에서 사용하는’ 것의 차이다.

그림자 AI(Shadow AI)의 문제

거버넌스를 더 어렵게 만드는 것은 ‘그림자 AI(Shadow AI)’ 의 확산이다. 이는 개발자가 회사 정책에 반하거나 정책 밖에서 AI 도구를 사용하는 것을 말한다. 블랙덕의 조사에 따르면, 조직의 18%가 그림자 AI를 심각한 미관리 위험으로 보고하고 있다 . 커서(Cursor), 윈드서프(Windsurf), 클로드 코드(Claude Code) 같은 도구가 조달이나 보안 검토 없이 개별 개발자 수준에서 도입될 때, 조직은 자사의 공격 표면(attack surface)을 파악할 수 없게 된다 .

공급망 리스크: AI 생성 코드가 안고 오는 위험 요소들

거버넌스 부재는 공급망 위험이라는 구체적인 취약점으로 이어진다. 블랙덕의 연구 및 관련 보고서인 ‘2026 오픈소스 보안 및 위험 분석(OSSRA)’ 보고서는 특히 AI 코딩 어시스턴트와 관련된 세 가지 연쇄적인 위험을 강조한다.

• 라이선스 세탁(license laundering). 오픈소스 리포지토리로 학습된 AI는 바이러스성(copyleft) 라이선스가 붙은 소스의 코드 조각을, 원래 라이선스 정보 없이 생성할 수 있다 . 2026 OSSRA 보고서에 따르면 감사된 코드베이스의 2/3에서 라이선스 충돌이 발견되었으며, 이는 보고서 역사상 최고 수치다 . 조직은 자신이 사용할 권리가 없는 코드를 인지하지 못한 채 배포하고 있을 수 있다는 뜻이다.
• 의존성 폭증(dependency explosion). 코드베이스당 오픈소스 요소가 전년 대비 30% 증가했으며, 코드베이스당 평균 취약점 수는 107% 급증했다 . AI가 더 방대한 학습 데이터로부터 더 빠르게 솔루션을 조합하면서, AI가 생성한 함수 하나가 개발자가 명시적으로 선택하지 않은 의존성을 끌어올 가능성이 커지고 있다.
• 컴플라이언스 격차. AI 생성 코드에 대해 지식재산권, 라이선스, 보안, 품질 전반을 종합 평가하는 IT 조직은 24%에 불과하다 . 이는 4분의 3에 달하는 조직이 “우리가 방금 어떤 법적, 보안적 의무를 지게 되었나요?” 라는 질문에 제대로 답할 수 없다는 의미다.

개발자 신뢰: 사용량은 늘지만, 믿음은 사라진다

블랙덕의 발견은 독립적으로 이루어진 여러 설문조사와도 일치하며, 더 세분화된 데이터를 통해 신뢰도 하락의 실상을 보여준다.

• 소나(Sonar)의 2026 코드 현황 개발자 설문조사(1,100명 이상 대상)에 따르면, 개발자의 96%는 AI 생성 코드의 기능적 정확성을 완전히 신뢰하지 않는다 . 그럼에도 불구하고 커밋 전에 항상 검증하는 이는 48%에 불과하다. 즉, 개발자 스스로도 믿지 못하는 코드가 정기적으로 프로덕션 환경에 배포되고 있다는 말이다 .
• 스택 오버플로의 2025 개발자 설문조사(49,009명 응답)에서는 AI 정확도에 대한 신뢰가 1년 만에 40%에서 29%로 급락했다. 적극적인 불신은 46%까지 상승했고, 긍정적 호감도는 72%에서 60%로 떨어졌다 .
• 하네스(Harness)의 2026 AI 기반 소프트웨어 릴리즈 현황(500명의 엔지니어링 리더 대상) 조사에선 57%가 AI 생성 코드 한 줄 한 줄에 대해 여전히 '인간 검토자(human-in-the-loop)' 확인을 요구하며, 29%는 AI 도입 전보다 코드 리뷰에 더 많은 시간을 쓴다고 답했다 .

이 모든 설문조사에서 공통된 결론은 놀라울 정도로 일관된다. 개발자는 AI 도구 없이 일할 수 없지만, 동시에 그 결과물을 완전히 신뢰할 수도 없다는 것이다. 코드 생성과 검증 사이에 벌어진 이 틈이 새로운 병목 구간이 되었다.

노마 시큐리티(Noma Security)의 CISO 다이애나 켈리(Diana Kelley)는 이 딜레마의 핵심을 이렇게 짚었다. “더 빨리 만들어지는 코드가 더 안전한 코드를 의미하지는 않는다” .

진짜 거버넌스는 이렇게 구축된다

블랙덕의 해결책은 추상적이지 않다. 보고서는 상위 30%의 완전한 거버넌스를 가진 조직을 나머지와 구분 짓는 구체적인 조치들을 제시한다.

1. 구조화된 AI 거버넌스 프레임워크 — 비공식 가이드라인이 아니라, 도구 승인, 산출물 검토, 책임 소재까지 포함하는 문서화되고 강제된 정책
2. 파이프라인 통합형 리뷰 게이트 — 여전히 수많은 기업이 사용하는 수동 보안 테스트 대기열 핸드오프 방식에서 벗어나, AI가 지원한 모든 커밋(commit)에 대해 자동화된 품질 및 보안 검사를 실행하는 방식으로의 전환
3. 배포 후 지속적인 모니터링 — 블랙덕은 위험 요소가 소프트웨어 개발 라이프사이클 전체에 걸쳐 유입, 발견, 관리되므로, “시프트-레프트(사전 예방) 전략만으로는 더 이상 충분하지 않다”고 지적한다
4. 보안 도구 체계의 합리화 및 단순화 — 응답자의 71% 이상이 도구 난립(tool sprawl)이 마찰의 주요 원인이라고 지적했으며, 더 적고 통합된 도구로 통합하는 것이 안전한 AI 확장을 위한 필수 조건이다

결국 거버넌스가 답이다

블랙덕 보고서는 AI 코딩 어시스턴트 사용 자체를 반대하지 않는다. 이에 걸맞은 거버넌스 없이 도구를 사용하는 것은 결국 자기 발등을 찍는 일이라고 주장할 뿐이다. 97%의 팀이 전례 없는 속도로 코드를 쏟아내지만, 단 30%만이 이를 관리할 감독 인프라를 갖춘 상황은, 업계 전체가 감당할 수 없는 어음을 남발하고 있는 모양새다.

거버넌스와 효율성 향상 사이의 상관관계(90% vs 44%)는 사업적 근거를 명확히 보여준다. 가드레일을 먼저 구축하는 조직이 AI가 약속하는 생산성을 실제로 확보할 것이다. 그렇지 못한 조직은, 키보드 앞에서 절약한 시간이 고스란히 리뷰 대기열에서 소모된다는 사실을 반복해서 발견하게 될 것이다.