앤트로픽과 오픈AI를 비롯한 AI 기업의 고위 경영진이 대형 AI 사고 자체뿐 아니라, 사고가 난 뒤의 여론과 정치권 반응까지 대비하고 있다는 보도가 나왔습니다. 악시오스가 전한 시나리오 중 가장 유력하게 거론된 것은 금융 서비스나 인터넷, 전력·수도 공급을 마비시키는 대규모 사이버 공격입니다. 다만 이는 비상 상황을 가정한 대비이지, 그런 사고가 임박했거나 반드시 일어난다는 뜻은 아닙니다.
1
2
7
기업들이 대비한다는 ‘사고 다음 날’
보도된 준비의 초점은 기술적 대응에만 있지 않습니다. 사고가 AI와 관련된 것으로 드러났을 때 기업과 업계, 정책 담당자들이 어떻게 대응할지, 대중의 신뢰와 정치적 논의가 어떻게 달라질지를 함께 검토한다는 내용입니다. 악시오스는 경영진이 미 의회 의원들에게 AI 관련 사안을 알리는 데에도 관심을 두고 있다고 전했습니다. 다른 보도는 최악의 상황을 가정해 방어 체계를 시험하는 레드팀 훈련을 준비 내용으로 언급했습니다.
17
21
38
일부 업계 관계자가 대형 사고가 6~12개월 안에 발생할 수 있다고 본다는 보도도 있지만, 이는 관계자들에게 귀속된 전망이지 검증된 예측은 아닙니다. 기업들이 재난을 확정적으로 본다는 뜻도 아닙니다.
3
5 오픈AI는 여러 가능성을 다루는 대비 훈련을 하고 있지만, 그 시나리오를 불가피한 일로 간주하지 않는다고 밝혔습니다.
6
왜 사이버 공격을 가장 유력한 시나리오로 꼽았나
악시오스는 대규모 사이버 공격을 가장 유력한 촉발 요인으로 지목하며, 금융 서비스와 인터넷 연결, 전력, 수도 공급의 차질 가능성을 들었습니다. 다만 제공된 보도 내용에는 경영진이 왜 사이버 공격을 다른 재난 위험보다 앞세웠는지에 대한 설명이 없습니다. 확인되는 것은 검토 중인 시나리오이지, 그 순위를 정한 근거는 아닙니다.
1
2
7
해커가 AI 도구를 사용했다는 보도도 있습니다. 포브스는 중국어를 사용하는 해커가 딥시크·키미·앤트로픽 관련 도구를 포함한 AI 에이전트를 이용해 최대 100개 조직을 공격했다고 전했습니다. 악시오스는 크라우드스트라이크를 인용해, 한 공격자가 클로드 코드에 탈취한 데이터를 판매할 곳을 찾는 데 도움을 요청했다고 별도로 보도했습니다.
17
35
이 사례들은 범죄 혐의를 받는 공격에 AI 도구가 사용됐다는 내용입니다. AI 시스템이 스스로 공격을 결정했다거나, 해당 공격이 경영진이 우려하는 수준의 기반시설 마비를 일으켰다는 증거는 아닙니다.
17
35
사고 뒤에는 신뢰와 정치적 책임도 쟁점
악시오스에 따르면 경영진은 안전하지 않은 AI와 관련된 중대한 피해가 현실에서 처음 확인될 경우, 이미 경계심을 가진 대중의 불신이 더 커질 수 있다고 우려합니다. 그 여파는 앤트로픽 최고경영자 다리오 아모데이와 오픈AI 최고경영자 샘 올트먼뿐 아니라, AI 규제에 소극적이라고 보도된 트럼프 대통령에게도 향할 수 있다는 전망입니다. 이는 위기 이후 벌어질 수 있는 반응에 대한 예상이지, 이미 그런 반발이 일어났다는 뜻은 아닙니다.
7
17
의회에 AI 관련 내용을 알리려는 움직임은 사고 이후 입법부가 어떻게 대응할지 기업들이 의식하고 있음을 보여줍니다. 그러나 현재 보도만으로는 기업들이 어떤 법이나 정책을 원하는지, 의회가 이를 실제로 채택할지 알 수 없습니다.
17
21
보도가 확인해 주는 것, 아직 답하지 못한 것
앤트로픽은 관련 보도에서 논평을 거절했지만, 제공된 자료에는 그 이유가 나와 있지 않습니다.
30
31 보도된 비공개 시나리오 검토와 오픈AI의 대비 훈련만으로는 실제 비상사태에서 특정 안전장치가 제대로 작동할지도 판단할 수 없습니다.
따라서 정책 담당자와 대중에게 남는 질문은 구체적입니다. 사고가 났을 때 누가 AI 시스템을 멈출 수 있을까요? 사고 보고와 안전성 시험은 의무화돼 있을까요? AI 에이전트가 피해를 일으키면 누가 책임을 질까요? 기업이 약속한 안전장치가 실제로 작동하는지 독립적인 검토자가 확인할 수 있을까요?
핵심은 ‘대형 사고를 대비하고 있다’는 보도를 ‘대형 사고가 불가피하다’는 예측과 혼동하지 않는 것입니다. 주요 AI 기업들이 심각한 사고와 그 이후를 염두에 두고 있다는 보도는 있지만, 재난이 반드시 일어난다거나 현재의 대비책이 통제·책임·집행의 어려운 문제를 해결한다는 근거는 제시되지 않았습니다.
1
6
7