과학용 AI는 생물학 연구, 진단, 신약 개발을 빠르게 할 잠재력이 있다. 반면 모델 성능이 높아질수록 화학·생물학적 악용에 필요한 지식, 시행착오, 협업 부담의 일부를 낮출 가능성도 있다. 이에 대한 대응은 ‘생물학 AI를 전면 금지하자’는 단일 해법이 아니다. 현재 형성되는 접근은 모델 평가, 접근 통제, 사용 감시, 그리고 현실 세계의 물리적 병목에서 작동하는 안전장치를 함께 두는 방식이다.

쟁점은 ‘완성된 무기 제조법’이 아니라 역량 증폭이다

핵심 질문은 일반 공개 챗봇이 생물무기 제작법을 처음부터 끝까지 내놓느냐가 아니다. 더 중요한 것은 더 강력해진 모델이 위험한 프로젝트를 수행하는 데 드는 시간, 전문지식, 문제 해결 과정, 여러 단계의 조정 비용을 의미 있게 낮추는지다.

생물학적 위해는 텍스트 생성만으로 현실화되지 않는다. 물질, 장비, 실험 역량, 실행이 모두 필요하다. 현 세대 파운데이션 모델을 다룬 한 워킹페이퍼도 우려의 초점을 단일 프롬프트가 아니라, 모델이 기술적으로 까다로운 개발 과정을 사용자가 따라가도록 도울 수 있는지에 둔다.

프런티어 연구소들이 채택하는 공통된 틀

프런티어 모델의 안전 전략은 대체로 다음 요소들을 결합하는 방향으로 수렴하고 있다.

• 능력 평가: 분야 전문가와 적대적 시나리오를 활용해, 모델의 생물학·화학 지원이 일반적인 정보 검색 수준을 넘어 실제로 중요한 위험을 높이는지 시험한다.
• 정밀한 안전장치: 고위험 이중용도 요청은 거절·전환·제한하되, 저위험 교육·건강·연구 관련 질문은 가능한 한 지원한다.
• 차등 배포: 가장 민감한 기능을 누구에게나 공개하지 않고, 검증된 사용자나 조직에 정해진 조건 아래 제공한다.
• 지속적 보정: 정당한 사용까지 과도하게 막는 사례와 모델 성능 향상을 반영해 분류기와 접근 규칙을 계속 조정한다.
• 외부 안전망: 악용이 실제 행동으로 전환되는 지점, 특히 생물학적 물질의 획득 단계를 보호한다.

이 방식은 모델의 답변 거절만을 유일한 방어선으로 보는 것보다 현실적이다.

Fable 5 사례: 과잉 차단을 줄이되 이중용도 영역은 제한

앤트로픽의 Fable 5 생물학 안전장치 업데이트는 이 균형을 보여준다. 회사는 제품 전반에서 생물학 관련 ‘폴백’(요청을 성능이 낮은 다른 모델로 전환하는 조치)을 약 85% 줄였다고 밝혔다. 그 결과 모델은 더 넓은 범위의 생물학 과제를 지원할 수 있게 됐다.

동시에 앤트로픽은 바이러스학, 독성학, 분자 설계 등 이중용도로 분류하는 요청은 여전히 Opus 5로 전환한다고 설명한다. 이들 민감 분야에서는 Fable 5를 전문 생물학 연구나 신약 개발에 아직 사용할 수 없다는 의미다.

여기서 중요한 것은 특정 전환 방식 자체보다 원칙이다. 모든 생물학 질문을 막으면 정당한 학습, 임상 정보 해석, 일상적 과학 업무까지 제한될 수 있다. 반대로 모든 생물학 요청을 무해하다고 보면 민감한 지원을 놓칠 수 있다. 오탐을 줄여 판별 정확도를 높이는 일도 안전의 일부다.

더 높은 성능에는 제한된 접근을 적용한다

앤트로픽은 Mythos 계열 모델에 제한 접근도 적용하고 있다. 회사의 Mythos 페이지에 따르면 Mythos 5.1은 생물학과 사이버보안 성능이 향상됐으며, 접근은 여전히 소수의 검증된 조직으로 제한된다.1

Mythos 5를 발표할 때 앤트로픽은 이 모델이 Fable 5와 같은 기반 모델을 공유하지만 일부 영역의 안전장치가 해제된 버전이라고 설명했다. 초기 배포는 미국 정부와 협력하는 Project Glasswing을 통해 소수의 사이버 방어 조직과 인프라 제공업체에 한정됐다.7

이 방식이 위험을 없애는 것은 아니다. 검증된 접근, 사용 기록, 하위 단계의 사용 통제, 사고 대응은 여전히 중요하다. 다만 이는 ‘전면 공개’와 ‘전혀 사용하지 않음’ 사이에도 선택지가 있다는 점을 보여준다. 위험도가 높은 기능은 사용자, 목적, 감독 체계가 더 명확한 좁은 환경에서 먼저 운용할 수 있다.

모델 안전장치만으로는 부족한 이유

모델 차원의 제한은 다른 모델, 파인튜닝, 탈취된 계정, 도구 연동, 또는 여러 사람·시스템이 작업을 나눠 수행하는 분산형 흐름을 통해 우회되거나 약화될 수 있다. 따라서 접근 통제만으로 완결된 바이오보안 전략이 되지는 않는다.

RAND의 2026년 ‘심층 방어’ 보고서는 어떤 하나의 안전장치도 AI 보조 생물학적 악용을 막을 수 없다고 명시한다. 보고서는 공격 경로의 여러 지점과 다양한 행위자를 겨냥한 9개 개입책을 제시했다.

실무적으로는 다음이 함께 필요하다는 뜻이다.

1. 모델 능력 평가와 배포 기준 설정
2. 위험도에 비례한 제한 및 신뢰 기반 접근 프로그램
3. 필요한 경우 고객 확인, 감사 가능성, 보고 체계
4. 물질 조달 단계의 심사와 감독
5. 발병 탐지, 공중보건 감시, 대응 역량 강화

한 층의 방어가 약해져도 다른 층이 작동한다면 전체 위험은 낮아질 수 있다.

DNA·RNA 합성 주문 심사는 중요한 물리적 안전망

AI가 어떤 아이디어나 설계를 제시하더라도, 실제 위험으로 이어지려면 물질 확보와 실험 활동이 뒤따라야 한다. 이 때문에 핵산 합성은 중요한 개입 지점으로 꼽힌다.

미국 AI 안전 연구소(AISI)의 의견수렴 요청에 제출된 자료는 DNA·RNA·우려 단백질 서열 데이터베이스를 구축해 잠재적으로 유해한 주문을 도구가 표시하도록 하는 방안을 제안했다.17 RAND도 미국의 핵산 합성 심사 프레임워크와 상업적 생물학 물질 주문에 대한 업계 심사 방식을 언급했다.

효과적인 심사는 단순히 서열 목록과 대조하는 데 그치지 않는다. 고객 신원 확인, 의심 주문 검토, 상향 보고 절차, 적용 법규에 부합하는 정보 공유 등이 포함될 수 있다. 이런 통제가 모든 위험을 해소하지는 못하지만, 위험한 계산상 지원이 물리적 역량으로 바뀌는 일을 더 어렵게 만들 수 있다.

규제와 방어는 제한만이 아니라 유익한 활용도 함께 본다

정책 과제는 생물학 AI를 억누르는 데만 있지 않다. 이중용도 우려를 낳는 같은 역량이 질병 감시, 진단, 의료 대응수단 개발, 미생물 포렌식에도 도움이 될 수 있다.

2026년 애틀랜틱 카운슬의 초당적 바이오디펜스 위원회는 Apollo Program for Biodefense에서 AI를 16번째 기술 우선순위로 지정했다. 위원회는 AI 기반 감시와 진단, 의료 대응수단, 출처 규명, 모델 평가와 안전장치, 적응형 공중보건 대응에 대한 투자를 권고했다.

더 큰 논의의 기준점은 여기에 있다. 악용 기회는 줄이되, 의료 연구와 대비 태세를 높일 수 있는 AI의 가능성은 보존하는 것이다.

결론

공개된 근거만으로 일상적인 챗봇을 생물무기를 처음부터 끝까지 만들어내는 수단으로 볼 근거는 없다. 그러나 정책 당국과 연구소가 보는 기준도 거기에 있지 않다. 더 강력한 과학 모델이 일부 사용자에게 측정 가능한 생물학적 ‘역량 증폭’을 제공할 가능성에 대비하는 것이 핵심이다.

따라서 가장 강한 대응은 생물학 AI의 일괄 금지나 챗봇의 답변 거절만을 믿는 것이 아니다. 위험도에 비례한 접근 통제, 엄격한 시험, 이중용도 요청에 대한 정밀한 안전장치, 그리고 위해 계획이 실제로 실행되는 물리적·공중보건 단계의 방어를 결합하는 방식이다.

과학용 AI는 생물학 연구, 진단, 신약 개발을 빠르게 할 잠재력이 있다. 반면 모델 성능이 높아질수록 화학·생물학적 악용에 필요한 지식, 시행착오, 협업 부담의 일부를 낮출 가능성도 있다. 이에 대한 대응은 ‘생물학 AI를 전면 금지하자’는 단일 해법이 아니다. 현재 형성되는 접근은 모델 평가, 접근 통제, 사용 감시, 그리고 현실 세계의 물리적 병목에서 작동하는 안전장치를 함께 두는 방식이다.

쟁점은 ‘완성된 무기 제조법’이 아니라 역량 증폭이다

핵심 질문은 일반 공개 챗봇이 생물무기 제작법을 처음부터 끝까지 내놓느냐가 아니다. 더 중요한 것은 더 강력해진 모델이 위험한 프로젝트를 수행하는 데 드는 시간, 전문지식, 문제 해결 과정, 여러 단계의 조정 비용을 의미 있게 낮추는지다.

생물학적 위해는 텍스트 생성만으로 현실화되지 않는다. 물질, 장비, 실험 역량, 실행이 모두 필요하다. 현 세대 파운데이션 모델을 다룬 한 워킹페이퍼도 우려의 초점을 단일 프롬프트가 아니라, 모델이 기술적으로 까다로운 개발 과정을 사용자가 따라가도록 도울 수 있는지에 둔다.

프런티어 연구소들이 채택하는 공통된 틀

프런티어 모델의 안전 전략은 대체로 다음 요소들을 결합하는 방향으로 수렴하고 있다.

• 능력 평가: 분야 전문가와 적대적 시나리오를 활용해, 모델의 생물학·화학 지원이 일반적인 정보 검색 수준을 넘어 실제로 중요한 위험을 높이는지 시험한다.
• 정밀한 안전장치: 고위험 이중용도 요청은 거절·전환·제한하되, 저위험 교육·건강·연구 관련 질문은 가능한 한 지원한다.
• 차등 배포: 가장 민감한 기능을 누구에게나 공개하지 않고, 검증된 사용자나 조직에 정해진 조건 아래 제공한다.
• 지속적 보정: 정당한 사용까지 과도하게 막는 사례와 모델 성능 향상을 반영해 분류기와 접근 규칙을 계속 조정한다.
• 외부 안전망: 악용이 실제 행동으로 전환되는 지점, 특히 생물학적 물질의 획득 단계를 보호한다.

이 방식은 모델의 답변 거절만을 유일한 방어선으로 보는 것보다 현실적이다.

Fable 5 사례: 과잉 차단을 줄이되 이중용도 영역은 제한

앤트로픽의 Fable 5 생물학 안전장치 업데이트는 이 균형을 보여준다. 회사는 제품 전반에서 생물학 관련 ‘폴백’(요청을 성능이 낮은 다른 모델로 전환하는 조치)을 약 85% 줄였다고 밝혔다. 그 결과 모델은 더 넓은 범위의 생물학 과제를 지원할 수 있게 됐다.

동시에 앤트로픽은 바이러스학, 독성학, 분자 설계 등 이중용도로 분류하는 요청은 여전히 Opus 5로 전환한다고 설명한다. 이들 민감 분야에서는 Fable 5를 전문 생물학 연구나 신약 개발에 아직 사용할 수 없다는 의미다.

여기서 중요한 것은 특정 전환 방식 자체보다 원칙이다. 모든 생물학 질문을 막으면 정당한 학습, 임상 정보 해석, 일상적 과학 업무까지 제한될 수 있다. 반대로 모든 생물학 요청을 무해하다고 보면 민감한 지원을 놓칠 수 있다. 오탐을 줄여 판별 정확도를 높이는 일도 안전의 일부다.

더 높은 성능에는 제한된 접근을 적용한다

앤트로픽은 Mythos 계열 모델에 제한 접근도 적용하고 있다. 회사의 Mythos 페이지에 따르면 Mythos 5.1은 생물학과 사이버보안 성능이 향상됐으며, 접근은 여전히 소수의 검증된 조직으로 제한된다.1

Mythos 5를 발표할 때 앤트로픽은 이 모델이 Fable 5와 같은 기반 모델을 공유하지만 일부 영역의 안전장치가 해제된 버전이라고 설명했다. 초기 배포는 미국 정부와 협력하는 Project Glasswing을 통해 소수의 사이버 방어 조직과 인프라 제공업체에 한정됐다.7

이 방식이 위험을 없애는 것은 아니다. 검증된 접근, 사용 기록, 하위 단계의 사용 통제, 사고 대응은 여전히 중요하다. 다만 이는 ‘전면 공개’와 ‘전혀 사용하지 않음’ 사이에도 선택지가 있다는 점을 보여준다. 위험도가 높은 기능은 사용자, 목적, 감독 체계가 더 명확한 좁은 환경에서 먼저 운용할 수 있다.

모델 안전장치만으로는 부족한 이유

모델 차원의 제한은 다른 모델, 파인튜닝, 탈취된 계정, 도구 연동, 또는 여러 사람·시스템이 작업을 나눠 수행하는 분산형 흐름을 통해 우회되거나 약화될 수 있다. 따라서 접근 통제만으로 완결된 바이오보안 전략이 되지는 않는다.

RAND의 2026년 ‘심층 방어’ 보고서는 어떤 하나의 안전장치도 AI 보조 생물학적 악용을 막을 수 없다고 명시한다. 보고서는 공격 경로의 여러 지점과 다양한 행위자를 겨냥한 9개 개입책을 제시했다.

실무적으로는 다음이 함께 필요하다는 뜻이다.

1. 모델 능력 평가와 배포 기준 설정
2. 위험도에 비례한 제한 및 신뢰 기반 접근 프로그램
3. 필요한 경우 고객 확인, 감사 가능성, 보고 체계
4. 물질 조달 단계의 심사와 감독
5. 발병 탐지, 공중보건 감시, 대응 역량 강화

한 층의 방어가 약해져도 다른 층이 작동한다면 전체 위험은 낮아질 수 있다.

DNA·RNA 합성 주문 심사는 중요한 물리적 안전망

AI가 어떤 아이디어나 설계를 제시하더라도, 실제 위험으로 이어지려면 물질 확보와 실험 활동이 뒤따라야 한다. 이 때문에 핵산 합성은 중요한 개입 지점으로 꼽힌다.

미국 AI 안전 연구소(AISI)의 의견수렴 요청에 제출된 자료는 DNA·RNA·우려 단백질 서열 데이터베이스를 구축해 잠재적으로 유해한 주문을 도구가 표시하도록 하는 방안을 제안했다.17 RAND도 미국의 핵산 합성 심사 프레임워크와 상업적 생물학 물질 주문에 대한 업계 심사 방식을 언급했다.

효과적인 심사는 단순히 서열 목록과 대조하는 데 그치지 않는다. 고객 신원 확인, 의심 주문 검토, 상향 보고 절차, 적용 법규에 부합하는 정보 공유 등이 포함될 수 있다. 이런 통제가 모든 위험을 해소하지는 못하지만, 위험한 계산상 지원이 물리적 역량으로 바뀌는 일을 더 어렵게 만들 수 있다.

규제와 방어는 제한만이 아니라 유익한 활용도 함께 본다

정책 과제는 생물학 AI를 억누르는 데만 있지 않다. 이중용도 우려를 낳는 같은 역량이 질병 감시, 진단, 의료 대응수단 개발, 미생물 포렌식에도 도움이 될 수 있다.

2026년 애틀랜틱 카운슬의 초당적 바이오디펜스 위원회는 Apollo Program for Biodefense에서 AI를 16번째 기술 우선순위로 지정했다. 위원회는 AI 기반 감시와 진단, 의료 대응수단, 출처 규명, 모델 평가와 안전장치, 적응형 공중보건 대응에 대한 투자를 권고했다.

더 큰 논의의 기준점은 여기에 있다. 악용 기회는 줄이되, 의료 연구와 대비 태세를 높일 수 있는 AI의 가능성은 보존하는 것이다.

결론

공개된 근거만으로 일상적인 챗봇을 생물무기를 처음부터 끝까지 만들어내는 수단으로 볼 근거는 없다. 그러나 정책 당국과 연구소가 보는 기준도 거기에 있지 않다. 더 강력한 과학 모델이 일부 사용자에게 측정 가능한 생물학적 ‘역량 증폭’을 제공할 가능성에 대비하는 것이 핵심이다.

따라서 가장 강한 대응은 생물학 AI의 일괄 금지나 챗봇의 답변 거절만을 믿는 것이 아니다. 위험도에 비례한 접근 통제, 엄격한 시험, 이중용도 요청에 대한 정밀한 안전장치, 그리고 위해 계획이 실제로 실행되는 물리적·공중보건 단계의 방어를 결합하는 방식이다.