초록
인공지능(AI)이 다른 기술과 구별되는 이유를 살펴보는 연재의 두 번째 글이다. 이번 글에서는 인공지능의 세 가지 특징인 전례 없는 조작 가능성, 인지능력 저하의 위험과 권력 집중, 그리고 지식의 사유화를 다룬다.
이 연구는 대중매체에서 개인화된 소셜미디어의 정보 편향 환경에 이르기까지 선전의 발전 과정을 살펴본다. 특히 인공지능이 빅데이터와 결합해 개인별로 매우 정교한 설득 메시지를 만들어낼 수 있다는 점을 강조하며, 이러한 기술이 개인정보 보호와 민주주의의 건전성에 제기하는 윤리적 문제를 검토한다.
또한 최근 학술 연구를 바탕으로 인공지능이 생성한 요약 정보에 지나치게 의존할 경우 비판적 사고 능력이 약화되고, 나아가 사회 전반의 인지능력 저하로 이어질 수 있다고 경고한다.
아울러 앤트로픽(Anthropic)과 같은 민간 인공지능 기업들이 군사 및 안보 분야에서 영향력 있는 비국가 행위자로 부상하는 현상을 살펴본다. 이러한 변화는 정보와 권력의 사유화를 촉진하고, 전통적으로 국가가 독점해 온 폭력의 행사와 책임성에 관한 기존 질서에 도전하고 있다. 인공지능이 사회에 깊숙이 통합되면서 나타나는 복잡한 영향은 윤리적·인지적·정치적 측면에서 신중하게 검토할 필요가 있다.
서론
이번 연재의 첫 번째 글인 「인공지능은 왜 단순한 기술이 아닌가?」(1부 보기)에서는 인공지능이 인류 역사상 다른 어떤 기술과도 구별된다고 볼 수 있는 두 가지 특징, 즉 블랙박스 현상과 창발적 행동을 살펴보았다. 이번 글에서는 인공지능의 또 다른 세 가지 특징인 조작 가능성, 인지능력 저하, 그리고 지식(권력)의 사유화를 다룬다.
3. 조작 – 우리는 이제 무엇이 진실인지 어떻게 알 수 있는가?
필자가 보기에 인공지능은 역사상 전례 없는 수준의 조작 가능성을 지닌 기술이다. 우선 학계와 사회 지도층은 대중매체가 여론을 조작하거나 특정 방향으로 형성할 수 있다는 사실을 오래전부터 인식해 왔다. 역사적으로 대중매체는 특히 전쟁 시기와 정치·경제 엘리트에 의해 조직적인 선전 활동의 수단으로 활용되어 왔다. 제1차 세계대전 당시 각국 정부는 신문과 포스터, 영화를 체계적으로 활용해 국민을 동원하고 적국에 대한 부정적 인식을 확산시켰다. 해럴드 라스웰(Harold Lasswell)은 이러한 현상에 대한 초기의 체계적인 분석을 제시하면서, 선전을 중요한 상징들을 조작해 집단의 태도를 관리하는 행위로 정의했다.[1]
제1차 세계대전과 제2차 세계대전 사이의 전간기에는 월터 리프먼(Walter Lippmann)이 시민들의 의견 형성 방식에 주목했다. 그는 사람들이 직접 경험한 현실보다는 언론이 제공하는 단순화된 이미지, 즉 머릿속에 형성된 세계의 모습을 바탕으로 의견을 갖게 된다고 주장했다. 이러한 과정은 엘리트들이 대중의 동의를 만들어낼 수 있는 여건을 제공한다.[2] 에드워드 버네이스(Edward Bernays)는 심리학의 원리를 홍보와 대중관계에 적용했다. 그는 대중매체를 통해 사람들의 동의를 의도적으로 이끌어내는 ‘동의의 설계(engineering of consent)’를 주장했으며, 이를 통해 지도층이 대중이 그 과정을 충분히 인식하지 못하는 상태에서 생활 습관과 정치적 태도에 영향을 미칠 수 있다고 보았다.[3]
제2차 세계대전은 이러한 선전 활동을 더욱 강화했다. 나치 정권은 1933년부터 1945년까지 선전장관을 지낸 요제프 괴벨스(Joseph Goebbels)의 지휘 아래 라디오와 영화, 인쇄매체를 중앙집중적으로 통제하면서 나치 이념을 확산시키고 반대 의견을 억압했다. 한편 연합국 정부들도 병력 모집과 국민의 사기 진작을 위해 조직적인 선전 활동을 전개했다.[4] 전쟁 이후에는 실증적인 연구를 통해 더욱 미묘한 여론 형성 메커니즘이 밝혀졌다. 연구자들은 언론이 특정 사안을 중요하게 다룰수록 대중도 그 사안을 중요한 문제로 인식하게 되는 ‘의제설정(agenda-setting)’ 효과를 확인했다.[5] 허먼(Herman)과 촘스키(Chomsky)는 구조적인 선전 모델을 제시했다. 이 모델에 따르면 언론 소유의 집중, 광고 의존도, 공식 정보원에 대한 의존, 조직적인 비판과 압박, 지배적인 이념 등이 일종의 여과 장치로 작용한다. 이러한 요인들은 주류 언론의 보도가 체계적으로 엘리트의 이해관계와 일치하도록 만들고, 노골적인 강압 없이도 대중의 동의를 형성하는 데 기여한다.[6] 이러한 연구들은 대중매체가 단순히 정보를 중립적으로 전달하는 통로가 아니라, 정치적 현실에 대한 인식을 형성하고 대중의 동의를 확보하는 수단으로 반복적으로 활용되어 왔음을 보여준다.
이후 소셜미디어가 등장했다. 소셜미디어의 가장 중요한 특징은 개인화이며, 바로 이 점이 근본적인 차이를 만들어낸다고 볼 수 있다. 소셜미디어 이용자는 정보와 오락이 결합된 인포테인먼트(infotainment)의 정보 환경 속에서 살아간다. 이러한 환경은 전통적인 대중매체가 만들어낸 정보의 틀과 근본적으로 다르다. 대중매체를 통한 선전은 기본적으로 국가와 같은 특정 집단이 동일한 종류의 정보, 잘못된 정보 또는 의도적으로 조작된 허위정보에 노출된다는 전제에 기반한다. 실제로는 이 세 가지가 혼합되어 전달되는 경우가 많다. 그 결과 집단 구성원들은 현실에 대해 공통된 인식이나 잘못된 인식을 공유하게 된다. 반면 소셜미디어는 개인별로 맞춤화되어 있다. 이는 각 이용자가 알고리즘에 의해 형성되고 자신의 인지적 편향이 반영된 서로 다른 버전의 현실 속에서 살아간다는 의미다.
연구자들은 소셜미디어 플랫폼이 이른바 ‘컴퓨테이셔널 프로파간다(computational propaganda)’, 즉 알고리즘과 자동화 기술, 조직적으로 동원된 인간 활동을 결합해 오해를 유발하는 정보를 대규모로 확산시키는 방식으로 여론 조작에 체계적으로 활용되어 왔음을 지적한다.[7] 정부와 정당들은 봇(bot), 트롤 조직, 실제 이용자인 것처럼 위장한 조직적 계정 등을 사용하는 온라인 여론 조작 조직을 운영한다. 이러한 조직들은 선거와 위기 상황에서 허위정보를 증폭하고, 실제로 존재하지 않는 사회적 합의가 형성된 것처럼 보이게 하며, 반대 의견을 묻어버리는 활동을 수행한다. 소셜봇은 신뢰도가 낮은 콘텐츠가 처음 확산되는 단계에서 이를 퍼뜨리고 확산 속도를 높이는 데 특히 큰 역할을 한다. 이후 일반 이용자들이 해당 콘텐츠를 추가로 공유하면서 확산이 더욱 확대된다.[8] 동시에 이용자의 참여를 극대화하도록 설계된 플랫폼 알고리즘은 강한 감정을 유발하거나 사회적 양극화를 심화하는 콘텐츠를 우선적으로 노출한다. 이는 이용자마다 서로 다른 정보 환경을 형성하고, 사람들의 극단화를 촉진하며, 사회 구성원들이 공통으로 받아들이는 사실적 기반을 약화시킬 수 있다.[9] 이러한 활동은 사회적으로 중요한 의제가 형성되는 과정을 왜곡하고, 대중의 양극화를 심화하며, 인위적으로 만들어진 주장이 자연스럽게 대중의 지지를 얻은 것처럼 보이게 함으로써 민주적 토론과 숙의 과정을 훼손한다.
인공지능 기술은 이러한 조작 가능성을 한층 더 높은 수준으로 끌어올릴 수 있다. 데이터나 시스템, 분석에서 세부 사항을 얼마나 정밀하게 구분하고 다룰 수 있는지를 뜻하는 세분화 수준(granularity)과 상황에 맞춰 반응하는 능력은 역사적으로 유례를 찾기 어려울 정도다. 인공지능과 빅데이터의 결합은 개인에 관한 매우 상세한 프로필을 구축할 수 있게 하며, 이러한 정보는 개인의 의견과 행동에 영향을 미치는 데 활용될 수 있다. 이러한 현상은 이미 정치 캠페인에서 확인할 수 있다. 개인별 특성에 따라 대상을 정밀하게 구분하는 마이크로타기팅(micro-targeting)과 맞춤형 메시지 전달은 일반적인 선거운동 방식으로 자리 잡았다.[10] 이러한 활동은 민주적 절차와 개인의 자율성을 훼손할 수 있다는 점에서 윤리적 우려를 불러일으킨다.
인공지능은 개인화와 대규모 확장성, 실시간 적응 능력을 통해 선전과 감시의 효과를 크게 강화한다. 예를 들어 인공지능을 활용한 선전은 개인의 선호와 신념에 맞춰 메시지를 조정할 수 있기 때문에 설득력을 높일 수 있다.[11] 마찬가지로 인공지능 감시 시스템은 방대한 인구 집단을 동시에 감시하고, 잠재적인 위협을 식별하며, 이에 전례 없이 효율적으로 대응할 수 있다.[12]
선전과 감시에 인공지능을 사용하는 것은 심각한 윤리적 문제를 제기한다. 개인정보 보호를 약화시키고, 사람들의 의견을 조작하며, 민주적 절차를 훼손할 수 있기 때문이다. 이러한 우려는 인공지능 알고리즘의 투명성이 부족하고 의사결정 과정에 편향이 개입할 가능성이 있다는 점에서 더욱 커진다.[13]
최근 영국 시사주간지 *이코노미스트(The Economist)*가 실시한 실험에서는 인공지능 모델들이 특히 정치적 견해나 보다 넓은 의미의 철학적 세계관과 관련해 특유의 편향을 보이는 것으로 나타났다. 이 실험에 따르면 서구권 인공지능 모델들은 평균적인 서구 시민보다 더 세속적이고 자유주의적인 성향을 보이는 경향이 있었다. 물론 이러한 편향은 ‘서구권 인공지능’을 기준으로 한 것으로, 사회주의 핵심 가치에 따른 편향이 내재된 중국의 인공지능 모델과는 구별된다.[14] 이는 인공지능의 도움을 받아 세계를 이해하는 사람들이 점점 늘어나는 상황에서 이미 중요한 문제로 떠오르고 있다. 특히 정치적 투표 선택이나 인생의 중요한 방향을 결정하는 문제처럼 중대한 개인적 판단에 대해 인공지능에 조언을 구하는 경우 더욱 그렇다. 이러한 현상은 사회 전반에 인공지능에 대한 의존을 심화시키며, 그 결과는 미래에 분명하게 나타날 수 있다. 어쩌면 이미 나타나고 있을지도 모른다. 그 결과는 인지적 혼란으로 나타날 수 있으며, 최악의 경우 인지능력 저하로 이어질 수도 있다. 인공지능에 대한 의존도가 지나치게 높은 사회는 의도적이든 비의도적이든 다양한 형태의 조작에 쉽게 노출되는 환경이 된다.
4. 인지능력 저하 – 사라져가는 독립적 사고의 기술
“인간은 기계에 사고를 맡기면 자유로워질 것이라고 믿었다. 그러나 그 결과는 기계를 소유한 다른 인간들이 그들을 노예로 만들 수 있게 된 것뿐이었다.” 이 유명한 구절은 프랭크 허버트(Frank Herbert)가 1965년에 발표한 공상과학 소설의 걸작 『듄(Dune)』에 등장한다. 이는 기술에 대한 지나친 의존을 경고하는 말로, 인간이 사고를 기계에 맡길수록 권력과 통제력이 소수에게 집중될 수 있다는 위험을 일깨워준다.
인류는 지금 중대한 전환점에 서 있다고 볼 수 있다. 인공지능은 인간이 지금까지 만들어낸 다른 어떤 기술과도 달리, 우리의 비판적 사고 능력을 약화시키거나 심지어 파괴할 가능성을 지니고 있다. 필자는 이러한 전례 없는 상황을 설명하는 요인이 여러 가지 있다고 생각한다. 그중에서도 두 가지가 특히 두드러진다.
첫째, 우리는 온갖 종류의 정보가 넘쳐나는 시대에 살고 있다. 그중 상당수는 부분적으로 사실이 아니거나 잘못된 인식을 유도하는 방식으로 제시된 정보, 즉 잘못된 정보(misinformation)다. 또한 적지 않은 정보는 사실 자체가 틀린 허위정보(disinformation)에 해당한다. 이는 정보와 지식을 새로운 권력의 원천으로 삼는 지식 기반 사회에서 특히 중요한 문제다.
앨빈 토플러(Alvin Toffler)는 무려 46년 전(!) 집필한 탁월한 저서 『제3의 물결(The Third Wave)』에서 산업사회가 대중매체와 우편, 전화로 긴밀하게 연결된 ‘정보권(info-sphere)’을 기반으로 작동했다고 주장했다. 이 체계는 표준화된 대중에게 표준화된 메시지를 전달하는 구조였다.[15] 그러나 오늘날 이 시스템은 과부하 상태에 놓여 있다. 에너지원과 생산 방식, 가족 형태, 가치관이 다양해지면서 사회가 하나로 유지되기 위해 유통되어야 하는 정보의 양도 급격히 증가하고 있다. 이에 따라 컴퓨터와 통신기술은 폭발적으로 확장되는 새로운 정보권을 만들어낸다. 여기에는 상호작용이 가능한 탈대중화 매체, 기계 간 정보 교환, ‘지능형 환경’ 등이 포함된다. 한때 인쇄물과 기록 보관소에 고정되어 있던 사회적 기억은 이제 방대하면서도 능동적인 형태로 바뀌고 있다. 데이터는 더 이상 단순히 저장되는 데 그치지 않고 처리되고 활용될 수 있게 되었다.
이러한 변화는 제2의 물결을 지탱했던 표준화, 중앙집중화, 동기화라는 원칙을 해체한다. 대량생산은 정보가 풍부하게 반영된 맞춤형 상품으로 대체되고, 대중매체는 특정 집단을 대상으로 하는 양방향 소통 채널로 세분화되면서 인간의 사고방식까지 ‘탈대중화’한다. 권력은 공장이나 자본을 통제하는 사람들로부터 지식을 통제하는 사람들에게 이동한다. 노동의 중심도 ‘전자 주택(electronic cottage)’으로 옮겨가며, 사람들은 정보와 상품을 동시에 생산하고 소비하는 ‘프로슈머(prosumer)’가 된다.
그 결과는 단순히 데이터의 양이 늘어나는 데 그치지 않는다. 분권화되고, 소수 집단의 영향력이 커지며, 변화의 속도가 빨라지고, 더욱 분절화된 새로운 사회 구조가 등장한다. 토플러는 단편적인 정보들이 끊임없이 쏟아지는 ‘블립 문화(blip culture)’와 정보 과부하의 위험을 경고했다. 동시에 그는 사회가 방대한 데이터의 홍수에 휩쓸리는 대신 이를 종합하고 이해하는 방법을 배운다면, 제3의 물결은 역사상 가장 창의적인 사회 재편 과정이 될 수 있다고 보았다.
정보 과잉의 직접적인 결과는 우리의 뇌가 자주 혼란을 느끼고, 심지어 방향을 잃는다는 것이다. 다시 말해 인간의 뇌는 그토록 짧은 시간에 엄청난 양의 정보를 처리하도록 설계되지 않았다. 그러나 뇌는 효율적으로 작동하도록 설계되어 있기 때문에 인공지능의 요약 기능이 제공되면 이를 주저 없이 받아들인다. 우리는 무의식적으로, 거의 자동적으로 인공지능이 생성한 요약에 의존하게 된다.
인공지능 기술이 일반적인 정보 소비자에게, 나아가 언제나 시간에 쫓기는 정책 결정자들에게까지 특히 매력적으로 다가오는 두 번째 이유는 바로 속도다. 우리는 전례 없이 모든 것이 빠르게 움직이고 즉각적인 반응을 요구하는 시대에 살고 있다. 하루 24시간, 매 순간 평가받는 환경 속에서 인류는 귀중한 시간을 낭비하지 않는 법을 배웠다. 신고전파 자유주의자들은 우리에게 “시간은 돈이다”라고 말한다. 매 순간이 중요하다. 그 결과 우리는 머릿속에서 제대로 정리하지도 못한 질문에 대한 답을 원하며, 그것도 당장 필요로 한다. 아니, 가능하다면 어제 이미 답을 얻었어야 한다고 생각할 정도다.
끊임없이 정보를 습득하고 모든 사안에 대해 의견을 가져야 한다는 압박은 상당 부분 우리 스스로 만들어낸 것이다. 그러나 우리는 이에 대해 깊이 생각하지 않은 채 순응하고 있다. 우리는 정보를 소비하는 동시에 생산하는, 이른바 ‘정보 프로슈밍(information-prosuming)’ 자동기계처럼 변해버렸다. 인공지능은 이러한 **정보 생산·소비 자동기계인 우리[16]**가 끊임없는 시간 압박과 상사의 충족하기 어려운 요구 속에서도 바쁜 일상을 헤쳐 나갈 수 있도록 돕는 전례 없는 도구를 제공한다. (이러한 경향은 본래 느리고 깊이 있는 탐구를 중시해야 할 학계에서조차 뚜렷하게 나타나고 있다.)
당연히 우리는 인공지능과 그 요약 기능에 의지하게 된다. 원자료를 몇 시간씩 읽고 비판적으로 평가한 뒤 스스로 이해하고 판단하는 대신, 인공지능이 생성한 요약만 읽는 것으로 만족한다. 이제는 인터넷 브라우저조차 이용자에게 원문 자료의 목록을 보여주기 전에 인공지능이 작성한 요약을 먼저 제공한다.
그 영향은 이미 나타나고 있으며, 안타깝게도 매우 부정적이다. 학계의 연구 결과 역시 이러한 우려를 강하게 뒷받침한다. 최근 국제 학술지 *Computers in Human Behavior Reports*에 발표된 대표적인 연구에서 누르베흐바하니(Noorbehbahani)와 오이보(Oyibo)는 다음과 같이 주장한다.
“이번 문헌 검토는 인공지능에 대한 과도한 의존이 고차원적 인지능력, 특히 비판적 사고, 복잡한 의사결정, 분석적 추론 능력에 중대한 위협을 가하며, 창의성과 기억력, 실행기능까지 약화시킨다는 사실을 보여준다. 이러한 영향은 인지적 부담을 외부 도구에 넘기는 현상(cognitive offloading), 자신의 사고 과정을 점검하고 조절하려는 노력이 줄어드는 메타인지적 태만(metacognitive laziness), 자동화된 시스템의 판단을 지나치게 신뢰하는 자동화 편향(automation bias) 등 이미 잘 알려진 메커니즘에서 비롯된다. 여기에 인공지능 시스템이 지닌 것으로 인식되는 권위와 편리함이 더해지면서 문제가 더욱 심화된다. 특히 어린 학습자와 교육 수준이 낮은 사람들, 그리고 의료처럼 중요한 판단이 요구되는 분야의 전문가들이 이러한 위험에 더욱 취약하다. 이 과정에서 발생하는 능력의 하향 평준화 효과는 초보자뿐 아니라 숙련된 전문가의 역량까지 약화시킬 수 있다. 나아가 수동적인 학습과 전문직의 숙련도 저하, 디지털 불평등, 학문적 진실성에 대한 위협 등 광범위한 사회적 영향은 종합적인 위험 완화 전략의 필요성을 보여준다. 이를 위해서는 교육적 대응, 인간 중심의 인공지능 설계, 강력한 정책적·제도적 틀을 결합해야 하며, 궁극적으로 인공지능이 인간의 인지능력을 대체하는 것이 아니라 강화하도록 해야 한다.”[17]
인공지능이 생성한 콘텐츠에 지나치게 의존하는 것은 잠재적으로 재앙적인 결과를 초래할 수 있다. 우리가 가장 큰 강점이자 무기인 비판적 사고 능력을 스스로 포기하게 된다는 점뿐만 아니라, 최근 다른 연구자들이 밝혀낸 것처럼 인공지능 자체도 점점 덜 ‘지능적’이 될 수 있기 때문이다. 이는 적어도 챗GPT(ChatGPT)와 같이 널리 사용되는 대규모 언어모델(LLM)에 해당하는 문제다. 세계적인 과학 학술지 *네이처(Nature)*에 발표된 최근 논문은 “다른 모델이 생성한 데이터를 무분별하게 학습하면 ‘모델 붕괴(model collapse)’가 발생한다. 이는 시간이 지나면서 데이터의 분포 자체에는 변화가 없더라도 모델이 원래 데이터의 실제 통계적 분포를 점차 잊어버리게 되는 퇴행적 과정”이라고 설명한다.[18] 다시 말해 온라인에서 이용할 수 있는 정보 중 상당 부분이 이미 인공지능, 특히 GPT-3와 같은 대규모 언어모델에 의해 생성되었기 때문에, 인공지능 모델들이 다른 인공지능이 만들어낸 정보를 다시 학습하는 일이 점점 늘어나고 있다는 것이다. 이러한 현상은 모델의 품질 저하를 초래하며, 미래에는 인공지능 모델 전반의 붕괴로까지 이어질 가능성이 있다.[19]
간단하지만 냉정하게 말하자면, 인공지능은 다른 어떤 기술과도 달리 앞으로 여러 세대에 걸쳐 인류의 지적 능력을 퇴보시킬 가능성을 지니고 있다.
5. 인공지능 기업: 정보와 권력을 사유화하는 비국가 행위자
인공지능 개발 기업들은 대부분 민간 기업이다. 아래에서는 주요 인공지능 기업들의 목록과 설립 국가, 그리고 대표적인 제품들을 살펴볼 수 있다.
2026년 9월 29일 Grok을 이용해 생성. 프롬프트: “Major companies are developing AI”(인공지능을 개발하는 주요 기업들).
긴 설명보다는 하나의 구체적인 사례가 더 이해하기 쉬울 것이다. 여기서는 이러한 기업 중 하나인 앤트로픽(Anthropic)을 살펴보자. 앤트로픽은 2021년 다리오 아모데이(Dario Amodei)와 다니엘라 아모데이(Daniela Amodei) 남매를 비롯한 전직 오픈AI 연구자들이 미국 샌프란시스코에 설립한 인공지능 기업이다. 이 회사는 클로드(Claude)라는 대규모 언어모델 제품군과 클로드 코드(Claude Code) 등의 관련 도구를 개발하고 있으며, 안전성과 해석 가능성, 그리고 인간이 보다 쉽게 통제하고 조정할 수 있는 시스템의 개발을 공개적으로 강조하고 있다. 기업들은 앤트로픽의 모델을 글쓰기와 분석, 프로그래밍, 인공지능 에이전트를 활용한 업무 등에 사용한다. 이러한 모델은 앤트로픽 자체 제품뿐 아니라 아마존과 구글을 비롯한 주요 클라우드 플랫폼을 통해서도 이용할 수 있다.
앤트로픽은 비상장 민간 기업으로, 아마존과 구글을 포함한 투자자들로부터 대규모 자금을 유치하면서 세계에서 기업가치가 가장 높은 인공지능 연구기업 중 하나로 성장했다. 이 회사는 첨단 인공지능 모델의 성능 개발 분야에서 오픈AI, 구글 딥마인드 등과 직접 경쟁하고 있으며, 동시에 첨단 인공지능은 업계의 일반적인 개발 속도에 맞춰 출시하기보다 더욱 강력한 안전장치를 갖춘 상태에서 개발되어야 한다고 주장한다. 앤트로픽의 자체 홍보 자료에 따르면, 2026년 현재 이 회사는 대형 기술 플랫폼의 사업부로 편입되지 않고 독립 기업으로 남아 있다. 다만 이러한 플랫폼 기업들은 앤트로픽에 투자하는 동시에 해당 기업의 인공지능 모델을 자사 서비스를 통해 제공하고 있다.[20]
앤트로픽은 록히드마틴(Lockheed Martin)이나 레이시온(Raytheon)과 같은 전통적인 대형 방산 주계약업체라기보다, 미국 국방부(Department of Defense·DoD)에 최첨단 인공지능 모델을 공급하는 기업으로 설명하는 것이 더 적절할 것이다. 2025년 7월 미국 국방부의 최고디지털인공지능실(Chief Digital and Artificial Intelligence Office)은 앤트로픽, 구글, 오픈AI, xAI에 각각 최대 2억 달러 규모의 시제품 개발 계약을 부여했다. 이 계약은 국가안보 임무에 활용할 수 있는 ‘에이전트형 인공지능 업무 처리체계(agentic AI workflows)’를 개발하기 위한 것이었다.[21] 앤트로픽은 또한 팔란티어(Palantir)와 기밀정보 처리가 가능한 클라우드 협력업체들을 통해 클로드를 공급했다. 이를 통해 기밀 네트워크에 진입한 최초의 최첨단 인공지능 모델 개발기업이 되었으며, 정보 분석과 작전 계획, 사이버 업무, 시뮬레이션 등을 위한 맞춤형 ‘클로드 거브(Claude Gov)’ 모델도 배치했다.[22]
이러한 도입은 미 국방부가 의사결정 지원을 위해 상용 대규모 언어모델을 적극적으로 활용하는 더 큰 흐름의 일부였다. 여기에는 메이븐(Maven) 관련 분석 업무와 아마존웹서비스(AWS), 팔란티어의 기술 인프라를 통한 클로드의 IL-6 보안 환경 내 운영이 포함되었다. IL-6는 미국 국방부가 수립한 특수 보안 기준으로, 국방정보체계국(Defense Information Systems Agency·DISA)의 클라우드 컴퓨팅 보안 요구사항 지침(Cloud Computing Security Requirements Guide·SRG)에 따라 관리된다. 이 기준은 ‘비밀(Secret)’ 등급까지의 국가안보 기밀정보를 클라우드 환경에서 저장하고 처리할 수 있도록 규정한다.[23] 이러한 인프라에서는 아마존웹서비스와 팔란티어의 기술이 활용되었다.[24] 법원에 제출된 진술서에 따르면, 미국 국방방첩보안국(Defense Counterintelligence and Security Agency)은 앤트로픽 시설에 최고기밀(Top Secret) 보안 인가를 부여했다. 또한 클로드는 미국 연방정부의 클라우드 보안 인증 프로그램인 페드램프(FedRAMP·Federal Risk and Authorization Management Program)에 따른 승인을 받았다. 페드램프는 연방정부가 사용하는 클라우드 제품과 서비스에 대해 보안 평가, 사용 승인, 지속적인 감시를 표준화한 프로그램이다.[25] 클로드는 미 국방부의 영향 수준(Impact Level) 4와 5에 대해서도 사용 승인을 받았다.[26] 방산 계약업체들은 클로드 거브를 더 큰 국방 시스템의 일부 구성요소로 활용했다. 이러한 점에서 앤트로픽은 무기체계 개발을 총괄하는 주계약업체보다는 하도급업체의 역할을 수행했다고 볼 수 있다.[27]
그러나 이러한 협력 관계는 2026년 초에 결렬되었다. 앤트로픽은 자사 인공지능 기술의 군사적 활용 자체에는 협력할 의사가 있었지만, ‘모든 합법적 용도(all lawful uses)’에 대한 사용을 허용하는 데는 동의하지 않았다. 특히 국내 대규모 감시와 인간의 직접적인 통제 없이 치명적인 무력을 사용하는 완전 자율 살상무기에는 기술의 신뢰성에 한계가 있다는 이유로 반대했다.[28]
최근 군사적 목적의 인공지능 개발이 갖는 중요성에 관한 연구와 보도가 활발하게 이루어지고 있다. 앤트로픽과 같은 기업들은 새로운 군산복합체의 주요 이해관계자로 자리 잡고 있다고 볼 수 있다. 이러한 현상은 전문가들이 오래전부터 주목해 온 안보와 국방, 전쟁의 사유화라는 더 큰 흐름과도 맞닿아 있다. 전쟁의 사유화[29]가 중요한 이유는 여러 가지다. 그중 가장 중요한 세 가지를 살펴보자. 첫째는 국가 독점권의 약화다. 민간 계약업체를 활용하면 무력 사용에 대해 정부가 갖는 배타적인 법적 권한이 약화될 수 있다. 둘째는 책임성의 공백이다. 민간 계약업체들은 규제가 명확하지 않은 회색지대에서 활동하는 경우가 많아, 위법행위가 발생했을 때 법적 책임을 묻거나 형사처벌을 추진하기 어려울 수 있다. 셋째는 법적 지위의 불명확성이다. 민간 계약업체의 활동은 국제인도법의 적용을 더욱 복잡하게 만든다. 이들의 행동에 따라 법적으로 보호받는 민간인으로 간주될 수도 있고, 전투원으로 분류될 수도 있기 때문이다.[30]
여기에 카를 폰 클라우제비츠(Carl von Clausewitz)가 그의 대표작 『전쟁론(On War, Vom Kriege)』에서 다룬 ‘전쟁의 안개(fog of war)’ 개념을 결합하면 또 다른 역설이 드러난다. 인공지능 기업들은 인공지능 기술 자체가 적극적으로 만들어내는 문제, 즉 정보의 과잉에 대한 해결책을 제공한다. 그러나 더 근본적인 문제는 조직적인 폭력의 행사와 안보정책을 결정할 정당성이 누구에게 있는가 하는 것이다. 전통적으로 이러한 권한은 사적 경제 이익이나 정치적 이익의 극대화가 아니라 공공의 이익을 대표하고 공적 목표를 실현해야 하는 국가에 부여되어 왔다.
결론
이번 글은 연재의 두 번째 글로서, 인공지능(AI)이 단순히 또 하나의 새로운 기술이 아니라 고유하고 심대한 영향을 미치는 변혁적 힘이라는 점을 주장한다. 특히 극도로 개인화된 선전과 감시를 통해 인공지능이 전례 없는 수준의 조작 가능성을 갖게 되었다는 점을 강조하며, 이로 인해 개인정보 보호와 민주적 절차의 건전성에 관한 중요한 윤리적 문제가 제기된다고 설명한다. 또한 인공지능에 대한 과도한 의존이 비판적 사고와 지적 자율성을 약화시키고, 나아가 사회 전반의 인지적 혼란과 지적 능력의 퇴보로 이어질 수 있다는 점을 경고한다. 아울러 앤트로픽과 같은 민간 인공지능 기업에 전례 없는 수준의 권력이 집중되는 현상을 살펴본다. 이러한 기업들은 특히 군사 분야에서 국가의 이익과 민간 기업의 이익 사이의 경계를 흐리게 만들고 있다. 지식과 권력의 사유화는 안보와 전쟁 수행에 있어 전통적인 국가 주권과 책임성의 개념에도 도전하고 있다. 궁극적으로 이 연구는 인공지능이 사회에 미치는 영향을 신중하게 검토하고, 그 이점을 활용하는 동시에 위험을 완화하기 위한 전략을 마련해야 한다고 강조한다. 비판적인 성찰과 적절한 규제가 없다면, 인공지능은 인류의 인지능력과 정치적 환경을 역사상 전례 없는 방식으로 변화시킬 위험이 있다.
참고문헌
