초록
이 시리즈의 세 번째 글에서는 인공지능(AI)이 이전의 기술들과 근본적으로 다른 이유를 살펴본다. 특히 인공지능이 현대 사회에 제기하는 세 가지 중요한 문제에 주목한다. 첫째, 인공지능은 전례 없는 수준으로 권력과 부의 집중을 심화시켜 소수의 엘리트에게 혜택을 몰아주고 사회적 불평등을 더욱 악화시킨다.
둘째, 인공지능은 중립적이지 않다. 인공지능에는 개발자들의 가치관을 반영하는 편향이 내재되어 있으며, 이들 개발자의 대다수는 서구의 세속적 가치관을 바탕으로 활동한다. 이러한 편향은 사람들의 정치적 태도에 영향을 미치고, 민간과 군사 영역에서 인공지능이 자율적으로 의사결정을 내리는 과정에서 구조적 폭력을 지속시키는 결과를 낳을 수 있다.
셋째, 인공지능이 스스로 오류를 수정하고 성능을 개선하는 능력을 갖추기 시작하면서 인간의 통제력이 위협받고 있다. 자율적으로 활동하는 AI 에이전트들은 이미 자신들에게 설정된 통제 환경에서 벗어날 수 있으며, 앞으로 사물인터넷(IoT) 기기에서 스스로 복제하고 인간의 감독 범위를 넘어 진화할 가능성이 매우 높다. 이러한 특징들은 인공지능을 인간이 지금까지 만들어낸 기술과 구별되는, 사회를 근본적으로 변화시키면서도 잠재적으로 위험한 기술로 만든다. 또한 윤리적·사회적·정치적으로 광범위한 영향을 미치며, 기존 규제체계의 한계를 드러내고 인류의 미래에 관한 시급한 우려를 제기한다.
서론
인공지능 기술을 다루는 이 시리즈의 두 번째 글(여기에서 확인)에서는 인공지능이 가진 세 가지 독특한 특징을 살펴봤다. 전례 없는 수준의 조작 가능성, 인지능력 저하와 권력 집중의 위험, 그리고 지식의 사유화가 그것이다.
이번 글에서는 인공지능이 현대 사회에 제기하는 또 다른 세 가지 문제를 살펴본다. 앞서 논의한 현상들과 함께 고려하면, 이 문제들은 인공지능이 인간이 만들어낸 다른 어떤 기술과도 다르다는 사실을 보여준다. 구체적으로는 전례 없는 권력 집중과 그에 따른 통제 가능성의 확대, 인공지능 개발자와 투자자들이 지닌 편향, 그리고 인공지능이 스스로 오류를 수정하고 성능을 개선해 나갈 수 있다는 우려스러운 가능성이다.
6. 권력의 집중 – 인류 역사상 이렇게 적은 수의 사람들이 이토록 많은 것을 통제한 적은 없었다
이 소제목은 제2차 세계대전 당시 영국 총리였던 윈스턴 처칠의 유명한 발언을 바꿔 표현한 것이다. 처칠은 영국 본토 항공전에서 영국 공군이 수행한 역할을 언급하면서, 특히 폴란드 조종사들의 중요한 기여를 포함해 다음과 같이 말했다고 전해진다. “인류의 전쟁 역사에서 이렇게 많은 사람들이 이렇게 적은 수의 사람들에게 이토록 큰 빚을 진 적은 없었다.”
2011년, 서구를 중심으로 세계 곳곳에서 ‘점거 운동(Occupy Movement)’이라고 불리는 사회적 저항 운동이 일어나 큰 파장을 일으켰다.
‘월가를 점령하라(Occupy Wall Street)’ 운동으로도 알려진 이 운동은 경제적 불평등과 대기업 권력의 부패에 대한 인식에 항의하는 시위로, 2011년 9월 17일 미국 뉴욕의 주코티 공원에서 시작됐다.[1] 이 운동은 2007~2008년 금융위기와 뒤이은 대침체를 배경으로 등장했다. 당시 금융위기로 빈부격차가 확대됐고, 특히 젊은 세대를 포함한 많은 미국인이 높은 실업률과 학자금 대출 부담, 정체된 생활 수준으로 어려움을 겪었다. 반면 금융기관들은 위기에 대한 책임을 대부분 피했다. 운동의 출발점은 잡지 *애드버스터스(Adbusters)*의 칼레 라슨과 마이카 화이트였다. 이들은 이집트 카이로의 타흐리르 광장에서 벌어진 아랍의 봄 시위에서 영감을 받아 월가를 점령하자고 제안했다.
시위대는 “우리는 99%다(We are the 99 per cent)”라는 구호를 내세웠다. 이는 미국에서 가장 부유한 상위 1%에게 부와 정치적 영향력이 집중되어 있는 반면, 나머지 99%가 금융위기의 대가를 치르고 있다는 현실을 강조한 것이었다. 운동 참가자들은 위계적인 지도체계 대신 수평적인 조직 구조를 채택하고 합의를 통해 의사결정을 내렸다. 운동은 빠르게 미국 전역과 해외 수백 개 도시로 확산됐다. 뉴욕의 점거 농성은 경찰이 강제 해산에 나선 2011년 11월 15일까지 이어졌다. 실제 점거 기간은 길지 않았지만, 이 운동은 경제적 불평등을 공론의 중심으로 끌어올렸고 ‘99% 대 1%’라는 구도를 널리 알렸다. 이후 시민운동과 좌파 성향의 정치 캠페인에도 영향을 미쳤다.[2]
시간을 2026년으로 돌려보면, 세계의 사회적 불평등은 여전히 극심하다. 《2026 세계 불평등 보고서(World Inequality Report 2026)》에 따르면, 전 세계 인구 중 부유한 상위 10%가 전체 부의 4분의 3을 소유하고 있는 반면, 하위 50%가 보유한 부는 전체의 2%에 불과하다. 상위 1%만으로도 세계 부의 37%를 통제하고 있으며, 이는 하위 50% 전체가 가진 부의 18배가 넘는다.[3] 상위 0.001%에 해당하는 6만 명 미만의 초부유층은 인류의 절반이 보유한 부를 모두 합친 것보다 세 배나 많은 재산을 소유하고 있다. UBS 자료에 따르면 순자산이 100만 달러를 넘는 성인 1.6%가 전 세계 가계 자산의 약 48%를 보유하고 있는 반면, 자산이 1만 달러 미만인 하위 약 41%가 보유한 비중은 0.6%에 불과하다.[4] 빈곤과 사회적 불의, 경제적 불평등을 해결하기 위해 70개국 이상에서 활동하는 20개 이상의 독립 회원단체로 구성된 국제연합체 옥스팜(Oxfam) 역시 비슷한 자료를 분석했다. 옥스팜에 따르면 세계 상위 1%가 전체 부의 약 43~45%를 소유하고 있는 반면, 하위 50%의 몫은 약 0.5%에 지나지 않는다.[5] 2026년 10월 기준 세계 최고 부자들은 압도적으로 기술기업 창업자들이다. 테슬라와 스페이스X의 일론 머스크가 약 1조 달러의 재산으로 1위를 차지하고 있으며, 아마존의 제프 베이조스가 약 3,800억 달러로 뒤를 잇는다. 그다음으로는 구글과 알파벳의 래리 페이지와 세르게이 브린, 마이클 델, 마크 저커버그 등이 있다.[6] 이처럼 부가 극단적으로 불균등하게 분배되는 상황에서는 초부유층이 나머지 사람들보다 훨씬 빠른 속도로 경제적 이익을 가져간다. 그 결과 대다수 국민이 경제적 번영의 혜택을 폭넓게 누리기 어려워지고, 정치적 영향력 역시 제한된다.
이러한 상황에서 인공지능 기술은 불평등을 훨씬 더 심각하게 만들 가능성이 높다. 노벨 경제학상 수상자이자 폴 크루그먼과 그레그 맨큐에 이어 세계에서 세 번째로 인기 있는 경제학 교수로 꼽히는 다론 아제모을루(Daron Acemoğlu)는 인공지능이 사회적 불평등, 특히 부의 집중에 미칠 영향에 대해 분명한 입장을 보이고 있다. 그의 핵심 주장은 몇 가지 주요 메커니즘을 중심으로 전개된다.
첫째는 과도한 자동화 문제다. 아제모을루는 실리콘밸리의 문화와 기술기업 지도자들이 노동자의 생산성을 높이는 도구를 개발하기보다 인간을 대체하는 데 집착하고 있다고 주장한다. 초지능을 개발하거나 모든 업무를 자동화하려는 시도가 대표적이다.[7] 인공지능이 실질적인 생산성 향상을 가져오기보다 이른바 ‘그저 그런 기술(so-so technologies)’을 통해 인건비를 줄이는 데만 사용될 때 문제가 발생한다. 여기서 ‘그저 그런 기술’이란 고용구조를 뒤흔들고 노동자를 대체하면서도 생산성이나 서비스 품질은 크게 개선하지 못하는 기술을 의미한다. 이러한 기술은 중간 숙련도와 낮은 숙련도를 가진 노동자들의 일자리를 없애지만, 이들을 다시 고용할 수 있는 새로운 인간 중심 업무를 충분히 만들어내지 못한다.[8]
둘째는 이와 동시에 나타나는 중요한 현상으로, 노동에서 자본으로 소득이 이동하는 문제다. 인공지능 투자로 창출되는 막대한 금융 수익은 대부분 자본 소유자와 기업 주주, 그리고 소수의 기술 분야 억만장자들에게 돌아간다.[9] 인공지능이 인간의 일자리를 기계로 대체하면서 국민소득에서 노동이 차지하는 비중은 줄어들고, 그 결과 자본 소유자와 일반 가계 사이의 소득 및 자산 격차가 더욱 커진다.
셋째는 노동계층의 약화와 그에 따른 정치적 파장이다. 과거 자동화의 물결이 생산직 노동자들에게 큰 타격을 주었던 것처럼, 인공지능도 중산층의 경제적 기반을 약화시키고 새로운 경제적 귀족계층을 만들어낼 위험이 있다.[10] 아제모을루는 이러한 경제적 격차를 해결하지 않은 채 방치하면 사회적 평화가 무너지고, 정치적 포퓰리즘이 확산되며, 자유민주주의의 토대가 약화될 수 있다고 경고했다.[11]
넷째이자 마지막으로, 아제모을루는 인공지능에 대한 기대와 비교할 때 실제 거시경제적 성과가 크지 않을 수 있다는 점을 지적한다. 그는 미국 국가경제연구국(NBER)의 워킹페이퍼 시리즈에 발표한 최근 논문 《인공지능의 단순 거시경제학(The Simple Macroeconomics of AI)》에서 인공지능의 단기적 도입이 가져올 총요소생산성(TFP) 증가 효과를 계산했다. 그 결과 향후 10년 동안 생산성 향상 폭은 1%에도 미치지 못할 것으로 추정됐다. 이는 사회가 인공지능으로 인한 막대한 분배상의 부작용과 사회적 피해를 감수하면서도, 실제로 얻는 순생산성 향상 효과는 상대적으로 작을 수 있다는 뜻이다.[12]
쉽게 말해 인공지능은 부유한 사람은 더욱 부유해지고 나머지 사람들은 상대적으로, 심지어 절대적인 수준에서도 더 가난해지는 이른바 ‘마태 효과(Matthew Effect)’를 더욱 심화시킬 가능성이 높다. 그리고 이는 의심할 여지 없이 극소수의 사람들에게 권력과 통제력이 더욱 집중되고, 그 대가를 나머지 대다수가 치르게 되는 결과로 이어질 것이다.
7. 내재된 편향 – 인공지능은 중립적인 기술이 아닌 것으로 보인다
최근 인공지능 기술이 중립적이지 않다고 주장하는 연구가 점점 늘어나고 있다. 이는 중요한 문제다. 지금까지 인류는 대체로 기술 발전을 옹호하면서 하나의 기본적인 전제를 바탕으로 삼아왔기 때문이다. 바로 기술 자체는 중립적이라는 생각이다. 기술을 어떻게 사용할지는 인간이 결정할 문제라는 것이다. 우리는 기술을 인류 전체의 이익을 위해 사용할 수도 있지만, 잘못 사용해 인간 사회를 악화시키거나 심지어 파괴할 수도 있다.
기술이 중립적이라는 주장은 흔히 ‘가치중립성 논제(Value-Neutrality Thesis)’라고 불린다. 이 관점에 따르면 기술적 산물은 도덕적으로나 정치적으로 본질적으로 선하거나 악하지 않다. 기술의 윤리적 성격은 오로지 그것을 설계하고 도입하거나 사용하는 사람들의 의도와 가치관, 행동에 따라 결정된다. 노엄 촘스키는 이를 망치라는 일상적인 도구에 비유해 설명했다. “기술은 기본적으로 중립적이다. 망치와 같다. 망치는 당신이 그것으로 집을 짓든, 누군가의 두개골을 부수는 데 사용하든 상관하지 않는다.” 이러한 관점에서 동일한 도구는 건설적인 목적에도, 파괴적인 목적에도 사용될 수 있으며, 도구 자체에는 도덕적 가치가 담겨 있지 않다.[13]
철학자 조지프 C. 피트(Joseph C. Pitt)는 이러한 주장에 대해 보다 체계적인 논거를 제시했다. 그는 기술적 산물이 “가치를 지니거나, 내부에 가치를 내장하거나, 가치를 포함하고 있지 않다”고 주장했다. 가치는 인간 행위자가 가진 속성이자 행동을 유발하는 동기이며, 의사결정을 구성하는 요소이지 생명이 없는 물체에서 경험적으로 확인할 수 있는 특성이 아니라는 것이다. 설계자가 특정한 결과를 의도할 수는 있지만, 그 의도는 어디까지나 기술적 산물의 외부에 존재한다. 일단 만들어진 기술은 처음에는 예상하지 못했던 다른 목적으로 사용될 수도 있다. 따라서 도덕적 평가는 기술 자체가 아니라 그것을 사용하는 사람과 그들의 선택에 적용되어야 한다. 이러한 도구주의적 관점은 기술을 특정한 목적과 분리할 수 있는 순수한 수단으로 바라본다.[14]
첫째, 앞선 글(여기에서 확인)에서 언급했듯이 인공지능 자체가 인간의 인지능력에 심각한 악영향을 미칠 수 있다. 솔레(Solé)와 동료 연구자들은 인공지능, 특히 대규모 언어모델(LLM)을 바이러스처럼 바라볼 필요가 있다고까지 주장했다. 이들은 최근 발표한 논문에서 인간 문화의 일부로 빠르게 자리 잡고 있는 대규모 언어모델이 정보의 생산과 전달, 활용 방식을 근본적으로 바꾸고 있다고 설명했다. 인공지능 사용이 특정한 임계점을 넘어서면, 보급률이 조금만 높아져도 사회 전체에서 인공지능에 지속적으로 의존하는 현상이 급격히 확산될 수 있으며, 그 과정에서 인간의 인지능력이 갑작스럽게 저하될 수 있다는 것이다. 다시 말해 인공지능 기술은 바이러스처럼 결국 자신의 숙주를 파괴할 수도 있다.[15]
최근 영국의 시사주간지 *이코노미스트(The Economist)*는 흥미로운 실험을 진행했다. 최첨단 인공지능 모델 25개를 대상으로, 지난 수십 년 동안 100개국 이상의 사람들의 신념과 가치관을 조사해 온 세계가치관조사(World Values Survey)와 동일한 방식의 평가를 실시한 것이다.[16] 그 결과 실험에 참여한 모델 대부분이 유명한 가치관 분포도에서 세속주의와 자기표현을 중시하는 영역에 강하게 치우치는 경향을 보였다.
콘스탄틴 리플러(Konstantin Riffler)는 이러한 문제를 정확하게 지적하고 있다. 그의 설명이 문제의 핵심을 잘 요약하고 있기 때문에 여기서는 다소 길게 인용하고자 한다.
“현재 지배적인 인공지능 모델들은 어떤 민주주의 국가의 일반 시민을 모방하는 것이 아니다. 오히려 서구 민주주의 국가들 안에서도 매우 세속적이고 자유주의적이며 개인주의적인 성향을 지닌 소수 엘리트 집단의 가치관을 반영하고 있다. […] 따라서 챗봇의 답변은 인류 전체를 중립적으로 비추는 거울이 아니다. 그것은 소수의 기업이 사용자를 대신해 내린 수많은 설계상의 선택이 쌓여 만들어진 결과물이다. 더욱이 많은 경우 사용자는 그러한 선택의 기준이 된 가치관 관련 문서를 본 적조차 없다.
올해 1분기에는 전 세계 생산가능인구의 약 17.8%, 즉 약 10억 명이 생성형 인공지능 도구를 사용했다. 우리는 이미 편향된 인공지능이 사람들의 생각을 움직일 수 있다는 사실을 알고 있다. 실험에 따르면 대규모 언어모델이 생성한 정치적 메시지는 투표 의향과 정책에 대한 태도를 측정 가능한 수준으로 변화시킬 수 있다. 또한 좌파나 우파 성향으로 조정된 모델은 그 방향에 맞춰 사용자의 의사결정에 영향을 미칠 수 있다. 이러한 편향은 한곳에 머물지 않는다. 조언과 문서 초안, 평가·선별 도구, 그리고 ‘도움이 되는’ 제안이라는 형태로 조용히 퍼져 나간다.
따라서 여러분의 조직이 인공지능을 활용해 문서를 작성하고, 사람이나 정보를 평가·선별하고, 조언하거나 의사결정을 내리고 있다면, 이미 조직 운영체계의 일부에 특정한 세계관을 심어 놓은 셈이다. 그 세계관은 고객이나 유권자, 직원 대다수가 공유하지 않을 수도 있다. 여러분이 명시적으로 선택한 것도 아니며, 그 내용을 완전히 검증할 수도 없다.”[17]
출처: https://www.economist.com/briefing/2026/06/25/ai-models-values-are-very-different-from-most-peoples
그러나 문제는 여기서 끝나지 않는다. 지금까지 살펴본 것은 빙산의 일각에 불과하다. 최근 발표된 한 기고문에서 연구자 토마스 베힐레(Thomas Bächle)와 야샤 바라이스(Jascha Bareis)는 인공지능 기술 자체가 본질적으로 폭력적일 수 있다는 충격적인 주장을 제기했다. 두 연구자는 먼저 중요한 사실을 지적한다. 민간 기술과 군사 기술을 구분하던 전통적인 경계가 무너졌다는 것이다. 일상적인 용도로 개발된 인공지능 시스템도 전쟁과 감시, 조작을 위한 도구로 쉽게 전환될 수 있기 때문이다. 드론과 자율무기 같은 인공지능 기반 기술은 전쟁과 평화, 군사와 민간, 국가 행위자와 민간 행위자 사이의 경계를 흐리게 만든다. 그 결과 ‘이중용도(dual use)’ 기술처럼 기존에 사용하던 규제상의 분류도 더 이상 적절하지 않게 된다.
저자들은 세 가지 핵심 문제를 강조한다. 첫째는 인공지능 기술이 거의 모든 분야에 적용될 수 있다는 점이다. 둘째는 폭력적인 행위를 수행할 때 기계가 높은 수준의 자율성을 가질 수 있다는 점이다. 셋째는 사회가 디지털 기반시설에 점점 더 의존하면서 취약성도 커지고 있다는 점이다. 전쟁에서 인공지능이 표적 선정과 의사결정을 자동화하면 인간은 단순한 데이터로 취급된다. 이는 심각한 윤리적 문제와 책임 소재에 관한 의문을 제기한다. 연구자들은 또한 우크라이나 전쟁과 같은 분쟁에서 볼 수 있듯이, 인공지능 기반 도구가 예측하기 어렵고 기존의 전쟁 방식과 다른 형태로 활용되는 하이브리드 전쟁도 살펴본다.
전반적으로 인공지능의 설계 방식과 자율성, 그리고 하이브리드 전쟁에의 통합은 광범위하게 퍼져 있고 자동화되어 있으며 민간인의 일상생활 깊숙이 침투하는 새로운 형태의 폭력을 만들어낸다. 그 결과 폭력은 인공지능 기술이 활용될 수 있는 여러 가능성 가운데 하나에 그치는 것이 아니라, 인공지능 자체의 근본적인 특징이 된다는 것이다.
요약하면 인공지능은 이미 수많은 다른 기술에 통합되어 일상생활의 다양한 영역에서 사용되고 있다. 여기에 인공지능이 스스로 의사결정을 내릴 수 있는 잠재력까지 갖추고 있다는 점을 고려하면, 이 기술은 세상을 더욱 위험하게 만들고 인간이 통제하기도 더 어려운 환경을 조성할 수 있다.
참고문헌
