오픈AI가 고도화된 AI가 생물무기나 합성 바이러스 위협을 키울 가능성을 낮추기 위한 미국 의회의 초당파 입법안들을 지지했다. 핵심은 두 갈래다. 생물안보 방어에 필요한 데이터와 연구 기반을 강화하고, 가장 성능이 높은 AI 모델은 회사 밖의 독립 기관이 안전성을 검증하도록 하자는 것이다. 다만 이들 법안은 현재 의회에 계류 중인 제안으로, 아직 법률로 제정된 것은 아니다.
17
23
오픈AI가 지지한 법안은 무엇인가
오픈AI는 생물 데이터와 생물안보 역량에 초점을 맞춘 다음 3개 법안을 지지한다.
- Web of Biological Data Act
- AI-Ready Bio-Data Standards Act
- Scale Biology Act
보도에 따르면 이 법안 묶음은 합성 및 자연 발생 생물학적 위협에 대응하는 방어 도구를 개발할 수 있도록 필요한 생물 데이터의 접근성을 높이고, 그런 도구의 안전한 개발 기준을 마련하는 데 목적이 있다. 오픈AI는 이를 통해 AI 모델이 생물무기와 합성 바이러스 위협을 가속하는 일을 막는 데 기여할 수 있다고 본다.
17
23
오픈AI는 이와 함께 미 하원 초당파 법안인 FRONTIER Act 전체가 아니라, 주요 AI 기업에 독립 안전성 평가자 활용을 요구하는 특정 조항을 지지한다. 즉 기업이 자체 안전성 주장만 내놓는 방식에서 벗어나, 외부 기관이 모델의 위험성과 완화 조치를 점검하도록 하자는 취지다.
35
39
왜 생물 데이터와 AI 외부 평가를 함께 다루나
이 정책 접근은 AI와 생물안보의 위험을 두 층으로 본다.
먼저 방어 측면에서는 연구자와 관련 기관이 생물학적 위협을 식별하고 대응하려면 질 높은 데이터와 공통 기준이 필요하다. 3개 생물 데이터 법안은 이런 방어 인프라를 겨냥한다.
23
동시에 최첨단 모델 개발사의 안전성 주장은 외부 평가를 통해 검증돼야 한다는 논리다. 오픈AI는 신뢰할 수 있는 제3자 평가가 모델의 핵심 능력과 안전 완화책에 대한 추가 근거를 제공하고, 사각지대를 드러내며 투명성을 높일 수 있다고 설명해 왔다.
8
9
정리하면, 모델 출시 뒤 사용을 제한하는 데만 의존하지 않고, 위험한 능력이 대규모로 악용되기 전에 생물학적 방어 역량과 사전 검증을 함께 강화하자는 구상이다.
커지는 ‘AI 기반 생물학적 악용’ 우려
이번 지지는 강력한 AI가 유해한 생물학적 활동의 진입장벽을 낮출 수 있다는 경고가 이어지는 상황에서 나왔다. 앤스로픽은 자사 AI 모델을 생물무기 개발을 지원할 수 있는 악의적 활동에 이용하려는 시도를 파악해 차단했다고 밝힌 바 있다.
19
별도로 샘 올트먼 오픈AI CEO, 다리오 아모데이 앤스로픽 CEO, 데미스 허사비스 구글 딥마인드 CEO 등을 포함한 주요 AI 업계 인사들은 합성 DNA와 RNA 주문에 안전장치를 의무화해 달라고 미국 의회에 촉구하는 서한에 서명한 것으로 보도됐다. 이는 생명공학 공급망의 핵심 지점인 합성 유전물질 주문 과정에서 선별 검사와 추적성을 강화하자는 요구다.
20
이런 사례가 AI가 독자적으로 생물무기를 만들었다는 뜻은 아니다. 다만 정책 입안자와 기업들이 모델의 행동뿐 아니라 생물학적 작업을 가능하게 하는 주변 시스템까지 함께 관리하려는 이유를 보여준다.
오픈AI의 연방 안전 규제 요구와의 연결점
생물안보 법안 지지는 최첨단 AI에 대한 국가 차원의 역량 기반 규제를 요구해 온 오픈AI의 더 큰 정책 방향에 포함된다. 오픈AI는 9월 미국 의회와 협력해 의무적인 국가 AI 안전 규칙을 만들고 싶다고 밝혔으며, AI가 AI 개발 자체를 가속할 가능성은 자율적 약속만으로 대응하기 어렵다고 주장했다.
3
18
오픈AI가 제시한 책임 있는 안전 체계의 요소에는 위험 평가, 독립 평가, 사이버보안 보호, 중대한 안전 사고의 보고 등이 포함된다.
3
6
BBC 보도에 따르면 야쿠브 파호츠키 오픈AI 수석과학자는 충분한 안전장치가 마련될 때까지 AI 개발 속도를 자발적으로 늦추는 방안도 업계가 검토해야 한다고 촉구했다.
19
이번 지지가 뜻하는 것과 뜻하지 않는 것
이번 입장의 직접적인 의미는 오픈AI가 연방 차원의 다층 대응을 지지한다는 점이다.
- 생물안보 데이터와 표준 강화: Web of Biological Data Act, AI-Ready Bio-Data Standards Act, Scale Biology Act를 통해 방어 기반을 보강한다.
- 독립 안전성 검토 도입: 오픈AI가 지지하는 FRONTIER Act 조항을 통해 주요 AI 개발사의 모델을 외부 평가자가 검증하도록 한다.
- 자율 규범을 넘어 의무 규제로: 최첨단 AI에 대해 구속력 있는 국가 규칙을 마련해야 한다는 방향이다.
17
18
35
이는 어디까지나 정책적 지지이며, 법안의 통과나 제안된 장치가 생물학적 악용을 완전히 막는다는 보장은 아니다. 그러나 오픈AI가 AI 생물안보를 생물학적 방어 인프라의 문제이자 최첨단 AI 거버넌스의 문제로 동시에 보고 있다는 점은 분명하다.