AI 보안, 이제는 국가가 나서야 하는 이유 – 한국이 오픈AI GTAC에 합류했다
기술이 발전할수록 따라오는 건 언제나 ‘보안’이라는 숙제입니다. 특히 생성형 AI가 일상 깊숙이 들어오면서 AI를 악용한 사이버 공격도 함께 진화하고 있는데요. 과거에는 바이러스나 악성코드 수준이었다면, 이제는 AI가 생성한 정교한 피싱 메일이나 딥페이크를 활용한 사기, AI 모델 자체를 공격하는 적대적 공격(Adversarial Attack)까지 등장했습니다. 이런 흐름 속에서 한국 정부가 의미 있는 발걸음을 내디뎠습니다. 바로 오픈AI의 GTAC(Government Trusted Access Program)에 아시아에서는 일본과 함께 처음으로 합류한 것인데요, 미국과 캐나다에 이어 전 세계에서 세 번째로 GTAC에 참여하는 국가가 되었습니다.
GTAC가 뭐길래?
GTAC는 쉽게 말해 ‘정부 대상 프리미엄 AI 접근 프로그램’입니다. 오픈AI가 신뢰할 수 있는 정부 기관에 한해 최신 고성능 AI 모델을 제한적으로 개방하는 제도인데요, 기존의 TAC(Trusted Access Program)를 정부·기관용으로 확장한 버전이라고 보면 됩니다. TAC가 주로 민간 기업이나 연구기관을 대상으로 했다면, GTAC은 국가 차원의 사이버 보안 역량 강화에 초점이 맞춰져 있습니다.
이 프로그램에 참여하면 오픈AI의 가장 최신 AI 모델에 접근할 수 있는 권한을 얻게 됩니다. 단순히 최신 기술을 체험하는 차원이 아니라, 이 최신 모델을 활용해 신종 사이버 위협에 훨씬 빠르고 효과적으로 대응할 수 있다는 게 핵심입니다. AI 모델 자체가 사이버 공격에 악용될 가능성에 선제적으로 대비하고, 그에 맞는 방어 체계도 함께 마련할 수 있게 되는 거죠. 예를 들어 AI가 생성한 피싱 문자를 탐지하는 모델을 만들거나, 취약점이 발견된 코드를 실시간으로 분석해 패치 방안을 제안하는 식의 활용이 가능해집니다.
실제 운영은 한국인터넷진흥원(KISA)이 맡기로 결정되었습니다. KISA가 오픈AI 측과 협력해 국내 사이버 보안 역량을 한 단계 끌어올리는 가교 역할을 하게 될 텐데요, 평소 보안 취약점 점검이나 침해 사고 대응을 담당하는 KISA가 최신 AI 모델을 손에 쥐게 되면 분석 속도와 정확도에서 확실한 차이가 날 것으로 기대됩니다.
AI 보안의 패러다임이 바뀌고 있다
여기서 주목할 점은 이번 협력이 단순한 ‘기술 도입’ 수준에 그치지 않는다는 겁니다. 오픈AI는 ‘한국 사이버 액션 플랜’도 함께 가동하기로 했는데요, 이 플랜은 기존의 사이버 보안 대응 방식을 근본적으로 바꾸는 내용을 담고 있습니다.
기존 방식은 이미 발생한 취약점을 찾아서 사후에 패치하는 데 초점이 맞춰져 있었습니다. 하지만 오픈AI가 제안하는 방식은 소프트웨어를 설계하는 단계부터 사이버 방어를 내장하는 ‘시프트 레프트(Shift Left)’ 접근법에 가깝습니다. 즉, 처음부터 보안을 고려한 소프트웨어 개발 문화로 전환하자는 건데요, AI의 도움을 받으면 코드 작성 단계에서 잠재적 취약점을 미리 발견하고 수정할 수 있어 보안 사고를 사전에 차단할 수 있습니다.
게다가 과기정통부는 AI안전연구소와 오픈AI 간의 직접 협력 관계도 추진 중입니다. AI 안전성 평가나 공동 연구 같은 실질적인 협력이 이뤄질 가능성이 높아 보이는데요, AI의 성능이 점점 고도화될수록 안전성 확보가 함께 따라와야 한다는 점을 고려하면 아주 중요한 움직임입니다. 특히 AI가 자율적으로 판단하고 행동하는 영역이 늘어날수록, 그 판단이 안전한지 평가하고 검증할 수 있는 체계가 필수적이기 때문입니다.
AI 안전, 글로벌 협력은 필수
흥미로운 점은 정부가 오픈AI와의 협력뿐만 아니라 다른 글로벌 AI 기업과의 협력도 적극 타진하고 있다는 사실입니다. 대표적인 사례가 앤트로픽(Anthropic)이 주도하는 ‘프로젝트 글래스윙(Project Glasswing)’인데요. 구글, 아마존, 마이크로소프트 등 52개 글로벌 기업·기관이 참여하는 AI 보안 연합체로, 아직 국내 기업이나 기관이 포함되지는 않았지만 정부 차원에서 참여 방안을 다각도로 모색 중입니다. 앤트로픽의 최신 모델인 ‘미토스(Mythus)’에 대한 보안 위협 우려가 커지는 상황에서, 글로벌 AI 보안 연합체에 합류하는 건 선택이 아닌 필수가 되어가고 있습니다.
이런 흐름은 인공지능 기술의 특성 자체에서 비롯됩니다. AI는 국경이 없고, 그만큼 위협도 글로벌하게 확산됩니다. 따라서 한 국가가 단독으로 대응하기보다는 국제적인 공조 체계가 필수적인 영역인데요, GTAC 참여와 프로젝트 글래스윙 타진은 이러한 글로벌 공조에 한국이 적극적으로 참여하겠다는 의지로 읽힙니다.
우리에게 주는 의미는?
이번 결정이 우리 일상에 주는 의미를 더 직관적으로 이해하려면 AI 기술이 실제 서비스에 적용되는 사례를 떠올려보면 좋습니다. 예를 들어 AI가 정신과 초진 면담을 수행하는 기술이나, 최근 국내 클라우드 기업들의 AI 대전환 사례를 보면 알 수 있듯, AI는 이미 우리 생활과 산업 전반에 깊숙이 스며들고 있습니다. 그만큼 AI 보안의 중요성도 함께 커지고 있는데요, 정부 차원에서 최신 AI 모델에 접근해 보안 위협에 선제 대응할 수 있는 체계를 마련했다는 건 꽤 의미 있는 진전입니다.
앞으로 KISA가 실무를 어떻게 운영해 나갈지, AI안전연구소와 오픈AI의 협력이 어떤 결실을 맺을지, 그리고 프로젝트 글래스윙 참여는 성사될 수 있을지 지켜볼 필요가 있겠습니다.
AI 기술이 발전할수록 ‘안전하게 쓰는 법’도 함께 고민해야 한다는 점, 그리고 그 과정에서 국제 협력이 얼마나 중요한지를 이번 소식이 다시 한번 상기시켜 주네요. 앞으로도 AI 보안 분야의 변화를 예의주시하면서, 알찬 정보로 다시 찾아뵙겠습니다.