일부 사이버 전문가들은 사이버 공격 정책에 대해 우려를 나타내고 있다. 사이버전에 대한 교본이 따로 없고 제3국의 정보통신망을 사이버 공격에 사용하는 과정에서 예측하지 못한 결과를 초래할 수 있기 때문에, 과거에 비해 더 높은 수준의 위험을 수반한다는 것이다.
현재까지 사이버 무기는 국제인도법상 그 자체로 위법한 무기라고 볼 수는 없다. 다만 사이버 무기도 적법하기 위해서는 전투에 참여하지 않는 민간인과 민간시설을 반드시 보호해야 하고, 전투원에게 불필요한 고통을 주거나 군사적 이익만을 위한 과도한 공격은 위법하다고 할 수 있다. 특히 비례성의 원칙을 적용하기 위해서는 임의적 판단이 아니라 군사적 이익과 부수적 피해를 면밀히 비교해 작전 수행 여부를 판단해야 할 필요가 있을 것이다.
◆사이버전에 사용되는 인공지능(AI)
한편, 사이버보안과 관련된 분야는 가상의 디지털 환경을 바탕으로 하기 때문에 데이터 집약적인 인공지능(AI)를 적용하는 것이 매우 필요하다. 이미 민간에서는 사이버 보안 분야에 단순 자동화를 넘어 기계학습, 딥 러닝 등 다양한 AI를 적용하고 있다. 침입 탐지, 사고 대응, 취약점 분석과 같이 정보를 수집, 분석하는 활동은 대량의 데이터 분석과 새로운 위협 식별에 많은 시간을 소모하는데, 이러한 활동은 AI 활용에 유리하다.
상용화된 AI 솔루션으로 잘 알려진 IBM Watson도 사이버보안 관련 전문 문서를 학습하고, 이를 바탕으로 사이버위협을 판단하기 위한 정보 수집, 의심스러운 IP와 악성코드 위협 간의 관계 분석, 대응방안 식별, 추천 등의 업무를 자동화하여 제공하는 기능을 서비스로 제공하고 있다.
사이버공격이나 악성코드 등과 같은 사이버 위협도 AI를 이용하여 더욱 복잡하고 다양하게 진화하고 있다. 해커와 같은 공격자들은 기존 사이버 위협을 더 다양하고 신속하고 정확하게 보조하기 위해 AI를 활용하고 있다. 단순히 변종 악성코드를 신속하게 자동 생성하는 수준을 넘어 정보보호 시스템을 우회하거나 취약점을 분석하는 행위를 자동으로 수행하는 해킹 자동화 도구나, AI로 진위를 가릴 수 없는 이메일이나 사이트, 동영상을 생성하고 피싱(Phishing: ‘개인정보(Private data)를 낚는다(Fishing)’라는 의미의 합성어로, 전화·문자·메신저·가짜사이트 등 전기통신수단을 이용한 비대면거래를 통해 피해자를 기망·공갈함으로써 이용자의 개인정보나 금융정보를 빼앗아 악용하는 것)을 유도하는 정교한 사이버위협 등이 발생하고 있다. 2018년 세계적인 해킹보안 콘퍼런스인 『Black Hat』에서는 악성코드에 AI가 추가돼 특정 표적에 대한 조건을 AI가 판단 후 공격하는 새로운 AI 기반의 사이버위협이 실제로 가능함이 시연되기도 했다.
미 국방부는 이미 사이버 분야에 AI 도입, 활용을 지속 추진해왔고, 최근 합동AI센터(JAIC)와 방위고등연구계획국(DARPA)을 통해 사이버작전 분야의 AI 도입을 추진하면서 사이버작전을 위한 AI의 역할을 강조하고 있다. 미 국방부는 2018년 『DOD AI 전략』을 통해, 국익을 저해하는 사이버위협 대응을 위해 AI를 활용할 것을 지시한 바 있다.
이는 국가와 시민을 보호함에 있어, 금융, 전력, 선거체계, 의료시스템과 같은 기반시설에 대한 사이버위협의 예측·식별·대응 능력을 강화하여 주요 기반시설 방어에 AI를 활용할 것을 지시하고 있다. 여기서 AI는 사람을 대체하는 것이 아니라 학습 과정에 사람의 의사결정이 반영되고 AI와 협업하여 사람의 능력을 향상시키는 ‘사람 중심의 방식(human-centered manner)’으로 활용하는 것임을 명시하고 있다. 이러한 전략을 통해 미 국방부는 사이버 분야의 AI 활용은 사람을 지원하는 역할에 중점을 두어야 한다는 기준을 제시하고 있다.
◆미 국방부의 사이버 분야 AI 활용 전략
앞서 미 국방 분야의 사이버 작전 관련 AI 추진, 활용 사례의 특징과 시사점을 정리하면 다음과 같다.
첫째, 미 국방부는 사이버 분야에 대한 AI 활용을 전략 중점으로 추진하고 있다. 특히, 사이버 위협 대응에 있어, 사람과 협업하는 AI를 통한 능력 강화를 강조한 점은 눈여겨볼 부분이다. 또한 『DOD Al 전략』을 주도하는 합동공지능센터(JAIC)가 사이버 분야와 AI의 통합을 추진하는 ‘Joint Information Warfare’를 추진, AI와 사이버 분야를 전략적으로 연계하고 있는 것 역시 관심을 가지고 지켜볼 필요가 있다.
둘째, 장기적인 연구와 단기적인 기술 획득을 동시에 추진하고 있다. 미래를 대비한 R&D를 주관 하는 DAPRA는 사이버작전 관련 R&D를 장기적인 연구로 추진하면서 동시에 민간기술을 신속히 활용하기 위한 시도를 함께 진행하고 있다.
JAIC는 DARPA의 장기적 연구 대상이 아니거나 시급히 필요한 부분에 대해 민간의 기술성숙도가 높은 AI 기술을 도입, 활용하고 있다. 또한, 사이버작전과 관련된 AI 활용 추진에 있어，여러 기관 간 노력이 함께 진행되고 있다. DARPA의 Cyber Grand Challenge를 통해 개발된 Mayhem은 DIU(Defense Innovation Unit, 미군이 새로운 상용 기술을 더 빨리 사용할 수 있도록 돕기 위해 설립된 미국 국방부 조직)를 통해 CSO(Commercial Solutions Opening, 한국의 신속시범획득사업과 유사한 제도로 상용 솔루션을 신속하게 획득하는 사업)을 통해 미군에 획득, 활용되고 있고, JAIC 와 DARPA는 네트워크 공격에 대응하는 HACCS(Harnessing Autonomy for Countering Cyberadversary Systems, 적대적 사이버활동 자율형 대응 체계) 연구를 함께 수행하여 자동화된 사이버공격 대응기술을 개발했다.
셋째, 민간과의 협력이 중요한 비중을 차지한다. DARPA의 Cyber Grand Challenge는 민간 우수 기술의 국방 분야 도입이 목적이었고, 실제 그 결과물인 Mayhem은 미군에 도입, 활용되었다. JAIC에서 추진한 두 가지 사례, 신속한 사이버 상황인식을 위한 사이버국가임무구상(CNMI)과 사이버작전 AI 모델 훈련을 위한 공통데이터프레임워크 개발은 다수의 IT업체가 참여하기도 했다. 즉, 민간 협력이 사이버작전의 AI 활용에 상당 부분 기여했다.
넷째, 사이버작전 관련 데이터 표준화를 우선적으로 추진하였다. 사이버보안 분야는 근본적으로 디지털 환경이기에 데이터가 많이 존재했지만, 실제 사이버작전에 AI를 활용하기 위해 군사적인 목적으로 표준화된 데이터가 필요했던 것이다. 이러한 데이터 표준화 추진은 현재 미국이 사이버작전 분야에서 데이터가 필요한 AI 활용을 추진하고 있음을 간접적으로 의미한다. (계속)
<저작권자 ⓒ시사N라이프> 출처와 url을 동시 표기할 경우에만 재배포를 허용합니다.