이러한 사이버 공간은 상대의 인지 과정을 변화시키고 정신적 편견(mental biases)이나 반사적 사고(reflexive thinking)를 이용하며, 사고 왜곡(thought distortions)을 유발하기에 매우 유리하다. 특히 AI 알고리즘인 소셜봇은 온라인 공간에서 특정 정보를 집중적으로 확산시켜 특정 이슈만이 언급되게 하여 소위 ‘반향실 효과(echo chamber effect)’, ‘필터버블(filter bubble)’ 효과와 다양한 ‘봇 효과(bot effect)’를 극대화할 수 있다.
◆AI를 활용한 정보조작 기술과 시공을 초월한 사이버 공간
최근 AI의 정보조작 기술 중 가장 고도화된 ‘딥페이크(deep fake)’ 기술은 AI 알고리즘을 이용하여 동영상 원본에 등장하는 사람을 다른 사람의 모습으로 편집하여 마치 영상 속 인물이 특정한 인물인 것처럼 조작할 수 있다. 딥페이크를 이용해 진위여부를 식별하기 가장 어려운 종류의 허위조작정보를 제작하는 것은 별다른 전문장비와 지식 없이도 수행할 수 있어 10대들도 할 수 있을 만큼 매우 쉽다..
사이버 공간의 또다른 특성인 무경계성과 연결성은 목적을 가진 다양한 정보들을 특정한 목표 또는 불특정 다수에게 시간, 장소에 제약을 받지 않고 쉽게 전달할 수 있다. 사이버 공간의 이러한 특성은 다양한 정보들을 ‘내러티브(narrative)화’시키거나 ‘스토리웨폰(storyweapon)화’ 시키는 것을 유리하게 한다. 무경계성과 연결성은, 시간, 장소에 구애받지 않고 정보를 전달할 수 있게 만든다.
특히 시간, 장소의 제약이 거의 없다는 점은 자원이 적은 약소국이나 비국가행위자가 ‘내러티브’와 ‘스토리웨폰’을 상대적 강대국에게 비대칭적으로 사용할 수 있어 인지 공격은 매우 효과적인 수단이 된다. 이러한 장점 때문에 인지전은 권위주의 국가들이 활용하기에 더욱 유리한 작전환경인 셈이다.
◆인지적 왜곡과 오류를 조장한다
한편, 인지전은 이제까지 수행되어 왔던 정보전이나 사이버심리전과는 몇 가지 차이점이 있다. 우선 ‘비합리적인 행동을 하게 되는 원인’을 보는 관점이 다르다. 앞서도 언급한 소논문 『인지전 개념과 한국 국방에 대한 함의: 러시아-우크라이나 전쟁을 중심으로』에서는 Claverie와 Cluzel의 견해를 통해 비합리적 행동의 원인을 심리영역과 인지적 차원에서의 관점으로 어떻게 해석하는지 예시를 통해 그 차이를 설명했다. 심리영역에서는 합리적이지 않은 결정을 내리는 이유는 신념, 문화적 환상, 걱정과 두려움과 같은 어떤 동기화된 영향 때문이라는 것이다.
그러나 인지적 차원의 입장에서는 주의가 좁은 부분에 집중되거나 감각이 과잉되어 정보를 제대로 인지하지 못하기 때문에, 또는 판단의 과정에서의 오류, 인지적 편견 등과 같은 인지적 문제로 인해 왜곡된 결정을 한 것으로 간주한다. 즉 인지전에서는 정보를 해석하고 받아들이는 근본적 인 판단 과정에 왜곡과 오류를 야기하는 것을 목표로 한다.
일단 표적이 되는 대상과 목적이 다르다. 미군 교범 ‘정보작전’에서는 정보작전을 “아군의 체계는 보호하면서 적의 인적 및 자동화 결심체계에 영향을 주거나, 방해, 변절, 침해하기 위해서 핵심 및 관련 지원기능을 통합 운영하는 것”으로 정의하고 있다.
이를 인지전 개념과 비교하면 정보작전과 정보전은 적의 인적 및 자동화 결심체계, 즉 적의 의사결정자에 영향을 주기 위해 정보를 통제하는 것이다. 반면 인지전은 정보에 대한 개인과 대중의 반응을 통제하는 것을 목표로 한다. 즉 인지전은 그 목표를 의사결정자뿐만 아니라 대중 전체를 아우른다. 이는 단순히 정보작전이 군만을 목표로 하는 것이 아니라 국가, 국민 전체를 표적으로 함을 의미한다.
◆인지전 수행전술: 인지 왜곡과 인지 포화
마지막으로, 인지전은 심리전 등 다른 정보전의 요소보다 포괄적 개념의 전쟁이다. 이에 대해서는 소논문 『인지전 개념과 한국 국방에 대한 함의: 러시아-우크라이나 전쟁을 중심으로』에서 인용하고 있는 Claverie와 Cluzel의 지적을 참고하고자 한다.
인지전은 군사 행동을 위해 정보전의 모든 요소를 심리학과 신경과학의 운영적 측면들과 결합한 형태이다. 인지적 차원은 인간 차원과 기술적 차원에 영향을 주게 되는 근원적인 차원이다. 이를테면 인터넷, 방송 등 다양한 수단들로 영향을 주면 인지적 차원에서 인지 왜곡(cognitive distortion)이나 인지 포화(cognitive saturation) 등이 발생하게 된다. 이러한 인지적 차원에서의 오류 등은 인간이 의사를 결정할 때 합리적이지 못한 결정을 하도록 만들며 결국 의사결정권자의 행동 변화를 유도하는 것이다.
이처럼 인지적 차원에서 발생한 변화는 다른 영역에 다차원적으로 영향을 미치기 때문에 최종적인 행동의 원인이 다른 수단에 의해 발생한 것으로 오해할 수도 있다. 예를 들어 우리가 누군가의 두려움이라는 감정을 느끼게 하는 사고과정을 조작할 수 있으면, 기존에는 그가 두려워하지 않았던 행동을 두렵게 느끼게 만들 수 있으며, 이 두려움이라는 심리를 이용해 인간의 행동을 변화시킬 수 있는 것이다.
행동 영역 간 관계를 바탕으로 볼 때 인지전에서 인지 영역은 다양한 수단으로 인해 영향을 받을 수 있으며, 영향 받은 인지 영역은 다양한 의사결정 과정에 영향을 끼치게 되고, 결국 이는 인간의 행동과 인간의 오류로 인한 기술적 오류 등을 발생하게 해 공격자가 방어자로부터 끌어내고 싶은 목표 행동을 유발할 수 있는 것이다.
◆정보콘텐츠의 흐름을 공략하라
한편, 인지적 차원에서는 인지 왜곡(cognitive distortion)이나 인지 포화(cognitive saturation) 등이 발생하는 과정은 정보의 폭포(informational cascades)를 첫 번째 단계로 하여 루머가 확산되는 과정에 대한 캐스 R. 선스타인의 설명과 유사하다는 점도 주목할 필요가 있다.
루머의 확산 과정 (캐스 R. 선스타인)
① 정보의 폭포(informational cascades)
정보의 폭포는 유사하고 중첩되는 정보를 양적으로 쏟아 부어서 앞선 정보와 행동에 따라 행동하게 하는 것으로 종국적으로는 판단을 왜곡하거나 판단 자체를 포기하게 만드는 것을 의미한다.
② 동조화 폭포현상 (conformity cascades)
정보의 폭포를 통해 동조화 폭포현상 (conformity cascades)이 일어나게 되면 대부분의 사람들이 어떤 주장을 믿게 되면 그 주장을 믿게 되거나 스스로 좋은 사람이라는 평판을 훼손하지 않고 싶은 평판 압력 때문에 최소한 주장을 반박하는 것이 불가능한 "무의사 결정"의 영역으로 전환되게 된다.
③ 집단 극단화 (group polarization)
집단 극단화 (group polarization)가 필요하다. 위에 설명한 "두개의 폭포"를 통해 같은 생각을 가진 사람들끼리 정보를 교류하다보면 점점 극단적인 견해를 갖게 되고 동질성이 강화되며 동질감이 낮거나 심리적 지지를 받지 않거나 집단을 형성하지 않았을 때는 감행하기 어려운 행동을 쉽게 결행할 수 있도록 조종할 수 있게 된다.
이러한 집단 극단화 단계에 이르면 비슷한 생각을 가진 사람들이 모여 자기들끼리만 정보를 교류하고 자신들만의 네트워크에 둘러싸여 자신들만의 정보가 모든 것인 듯 편향적으로 정보를 습득하다보면 극단적인 생각과 행동을 실천하기 쉽다. 그리고 이런 집단을 형성하게 되면 그 내부에서는 점점 극단적인 주장을 하는 사람들이 동의를 얻기 쉽고 극단적인 주장을 하는 사람이 권위를 갖게 되면서 이들이 제공하는 정보나 지위와 관련된 신호가 매우 강력한 힘을 갖게 되기 때문에 극단적인 주장을 하는 자들이 다른 사람들에게 어떤 일을 하라고 시키는 경우에는 실현될 가능성이 매우 높아진다.
집단 극단화가 이루어진 집단에 남아 있기 싫은 사람들은 집단을 떠나게 되고, 결과적으로 그 집단은 더욱 극단적인 사람들로 구성되며, 내부 동질성은 강화되고 점점 더 극단화된다.
이처럼 정보콘텐츠의 흐름을 통제하기 위한 공격-방어술인 정보전 (information warfare)과 달리, 인지전은 정보콘텐츠를 인간의 뇌가 수용‧해석하는 행위와 밀접한 개념이다. 인지전이 부상한 배경에는 인간의 정보 습득-의사결정-행동 메커니즘에 대한 광범위한 데이터의 축적 뿐만 아니라 인공지능을 통한 분석 역량이 극대화됨으로써 이를 각 분야에 적용, 활용할 수 있게 되었기 때문이다.
인지전의 전략적 목표는 적의 담론을 압도할 수 있는 아측의 서사 (narrative) 역량 확보라 할 수 있다. 즉, 인지전 관점에서는 어느 편의 서사가 지적, 정서적, 윤리적 매력과 설득력의 우위를 갖는가에 따라 전쟁의 승패가 결정되는 것이다. 이에 서방 주요국들은 사람들의 인지적 반응 통제를 위한 정보기술, 뇌과학 등 사회공학 전반을 포괄하는 복합 전술로서 인지전 역량을 강화하는 중이다. 실제로 미국, 영국, NATO 등에서는 인간의 생각(human mind)을 구현하는 뇌 영역 또한 향후 육‧해‧공‧우주‧사이버를 잇는 6번째 전장이 될 것으로 전망한 바 있다.
<저작권자 ⓒ시사N라이프> 출처와 url을 동시 표기할 경우에만 재배포를 허용합니다.