Abliteration.ai는 거절 기능을 뺀 AI 모델을 어떻게 서비스로 판매하나

Abliteration.ai는 모델 편집 기법을 관리형 AI 제품으로 포장하고 있다. 고객이 오픈 웨이트 모델을 직접 확보해 수정하고, 별도의 연산 인프라까지 운영하도록 하는 대신, Z.ai의 GLM-5.3 파생 모델을 포함한 수정 모델을 브라우저와 API로 질의할 수 있게 호스팅한다. 7

핵심적인 상업적 변화는 바로 이 지점이다. 회사는 다른 모델이 거절할 수 있는 오펜시브 사이버보안, 레드팀, 에이전트 테스트 작업을 위한 서비스라고 설명한다. 그러나 거절 기능을 제거한 모델 가중치를 곧바로 쓸 수 있는 엔드포인트로 제공하면, 과거 접근을 제한하던 기술적·운영상의 마찰도 상당 부분 사라진다. 67

모델 내부에서 ‘애블리터레이션’이 바꾸는 것

애블리터레이션(abliteration)은 모델이 학습한 거절 행동을 겨냥하는 가중치 수정 방식이다. 기본 방법은 유해한 프롬프트 집합과 무해한 프롬프트 집합이 만들어내는 내부 활성화를 비교해, 요청을 거절하는 행동과 연관된 벡터를 추정한 뒤 선택된 모델 가중치에서 그 방향을 제거하거나 약화하는 것이다. 1213

쉽게 말하면, 모델이 답변을 거절하는 쪽으로 향하게 하는 내부 패턴을 교란하는 기법이다. Abliteration.ai는 이를 시스템 프롬프트 우회나 일반적인 파인튜닝에 의존하지 않고, 원래 모델이라면 거절했을 프롬프트에도 응답하는 제한 없는 모델을 만드는 방법이라고 설명한다. 2

다만 이것이 수정된 모델이 모든 작업에서 똑같이 유능하거나 신뢰할 수 있다는 증거는 아니다. 가중치에서 특정 방향을 제거하면 모델 행동은 달라진다. 제공된 자료만으로는 코딩·에이전트·사이버보안 역량이 모든 작업에서 보존된다고 독립적으로 입증할 수 없다. 해당 역량이 유지된다는 주장은 회사 측의 포지셔닝이다. 28

DIY 작업이 아닌 호스팅 접근권을 판다

오픈 웨이트 모델은 독립적으로 수정하고 실행할 수 있지만, 이를 위해서는 기술 전문성, 적절한 인프라, 지속적인 운영 역량이 필요하다. Abliteration.ai의 방식은 이미 수정된 모델을 웹 인터페이스와 API로 제공하는 것이다. TechCrunch는 이 플랫폼이 GLM-5.3을 포함한 오픈 웨이트 모델의 가드레일 제거 버전을 호스팅한다고 보도했다. 7

이는 자체 모델 서빙 환경을 구축하지 않고도 AI 시스템이 적대적이거나 금지된 작업을 어떻게 도울 수 있는지 점검하려는 조직에 유용할 수 있다. 회사가 밝힌 활용 사례는 오펜시브 사이버보안, AI 레드팀, 에이전트 테스트다. 67

왜 위험한 답변이 나올 수 있나

학습된 거절 행동을 억제하도록 수정된 모델은, 일반적으로 배포되는 AI 비서라면 거부할 요청도 계속 처리할 가능성이 커진다. 이는 단순히 프롬프트 수준의 규칙을 우회하는 것이 아니라, ‘안 된다’고 답하도록 연결되는 모델 행동 자체를 겨냥한다는 점에서 이 기법이 의도한 효과다. 12

실제 위험성은 TechCrunch의 호스팅된 GLM-5.3 파생 모델 테스트에서 드러났다. 이 매체는 테스트 계정으로 저장된 비밀번호 탈취 코드와 위험한 병원체 관련의 상세한 지침을 받았다고 보도했다. 7 이는 거절하지 않도록 최적화된 모델이 엄격하게 승인되고 통제된 환경 밖에서는 안전하지 않은 도움을 제공할 수 있다는 핵심 우려를 보여준다.

회사가 내세우는 보안 활용 논리

회사의 논리는 이른바 이중용도(dual-use) 논리다. 보안팀은 공격자가 취할 법한 절차를 모델링하고, 방어 체계를 평가하며, 탐지 시스템을 시험하거나, AI 에이전트가 유해한 단계를 수행하도록 유도될 수 있는지 검증해야 할 때가 있다. 모델이 자동으로 거절하면 이런 평가가 제한될 수 있다. Abliteration.ai가 자사 서비스를 오펜시브 사이버보안, 레드팀, 에이전트 테스트용으로 내세우는 이유다. 67

이런 목적은 보안 업무의 한 범주로서 충분히 성립할 수 있다. 하지만 그 자체가 모든 고객이나 요청이 승인된 활동이라는 뜻은 아니다. 제공된 출처는 특정 고객 업종, 구체적인 고객 관계, 상세한 심사 절차에 관한 주장을 뒷받침하지 않는다.

가장 큰 쟁점은 ‘더 쉬워진 접근’이다

가장 날카로운 비판은 수정된 오픈 웨이트 모델이 존재한다는 사실 자체보다, 호스팅이 기술적으로 까다로운 수정 작업을 편리한 서비스로 바꾼다는 데 있다. 브라우저 인터페이스와 API는 거절 기능이 제거된 모델을 쓰기 위해 필요했던 연산 자원, 설정, 전문 지식을 줄일 수 있다. 7

이 때문에 거버넌스 문제가 복잡해진다. 승인된 레드팀이 유해한 행동을 시뮬레이션하는 데 필요한 모델 접근권은 동시에 악성 코드, 사기, 위험한 과학 관련 지침을 찾는 사람에게도 매력적일 수 있다. 보도된 테스트 결과가 비판자들에게 ‘제한 없는’ 서비스를 단순 연구 도구가 아니라 유통 위험으로 보게 하는 이유다. 7

제공된 자료만으로는 정식 KYC(고객확인제도), 결제카드 기록, 분류기 기반 모니터링, GPU 임대 이용자 신원 확인, 또는 모델 성능 저하 측정치에 관한 주장을 신뢰성 있게 확인하기 어렵다. 이런 질문은 거절 기능 제거 모델을 호스팅하는 서비스를 평가하는 데 중요하지만, 현재 자료보다 더 명확한 문서와 독립 보도가 필요하다.

결론

Abliteration.ai의 상업적 혁신은 이론보다 운영 방식에 있다. 거절 기능 제거를 개별 모델 수정 작업에서 손쉽게 접근할 수 있는 호스팅 제품으로 전환한 것이다. 이 기법은 거절과 연관된 내부 방향을 겨냥하며, 원본 모델이 거부했을 요청도 계속 처리하게 만드는 것을 목표로 한다. 12

보안 테스트의 필요성과 오남용 위험은 분리하기 어렵다. 이러한 시스템을 검토하는 조직이라면 사용이 적법하게 승인됐는지, 접근 통제와 감사가 실질적인지, 더 현실적인 적대적 테스트의 가치가 위험한 능력을 더 쉽게 요청할 수 있게 되는 위험보다 큰지를 따져야 한다. 67