어떤 유형의 응용 AI가 논의되고 있는가?
현대 응용 인공지능(AI)의 주요 발전 분야와 이에 수반되는 위협 요인은 크게 네 가지 그룹으로 나눌 수 있다.
첫째는 이른바 ‘대규모 언어 모델(LLM)’을 기반으로 구축된 중앙집중형 클라우드 시스템이다. 이러한 시스템은 미국(OpenAI ChatGPT, Anthropic Claude, Google Gemini, Llama, Grok)과 중국(DeepSeek, Qwen, Kimi, GLM)에서 개발되고 있으며, 전체 기능은 대체로 러시아 외부에 위치한 웹 서비스에 접속해야 사용할 수 있다. 일부 성능 평가에 따르면 Sber가 개발한 GigaChat과 YandexGPT의 Alice AI 같은 러시아 시스템은 현재 해외 서비스에 비해 뒤처져 있다. 따라서 이 글의 대부분은 지난 몇 년 동안 이 분야에서 일어난 혁명적 변화와 그것이 제공하는 기회와 위험에 초점을 맞춘다.
둘째는 운영자 없이 주어진 임무를 수행할 수 있는 자율 로봇 시스템이다. 예를 들어 전파 방해 상황이거나, 원칙적으로 통제센터와의 통신이 불가능하거나, 특정 상황에서 통신 자체가 비현실적인 경우에도 임무를 수행할 수 있다. 이러한 시스템과 관련 요구사항은 이전 분석에서 다룬 바 있다. 이 분야의 중요성은 최근 소식에서도 확인된다. 특히 2026년 9월 독일에서 새로운 유형의 자율 공격 드론 생산이 시작된다는 발표가 있었다. 현재 공개된 제한적인 정보를 보면 이러한 시스템은 아직 완성도와 신뢰성 측면에서 갈 길이 멀다. 그럼에도 불구하고 여러 시민단체가 치명적 자율무기체계(LAWS)의 개발을 국제적으로 금지하려 했지만 성과를 거두지 못한 가운데, 관련 시스템의 설계와 개발은 적극적으로 진행되고 있다. 현재 가장 큰 제약은 현대 신경망 기반 AI 아키텍처의 높은 자원 요구량이다. 상당한 메모리가 필요하고 많은 에너지를 소비하기 때문이다. 향후 뉴로모픽 아키텍처와 같은 새로운 컴퓨팅 구조를 통해 이러한 제약이 극복되면, 자율 시스템이 제기하는 문제는 더욱 중요해질 것이다.
셋째는 앞서 언급한 자율 시스템을 기반으로 하는 이른바 ‘군집(swarm)’ 시스템이다. 이러한 시스템은 자율 에이전트, 예를 들어 공중·지상·수상·수중 드론이 운영자 없이 개별적으로 임무를 수행할 뿐 아니라 서로 협력하면서 임무를 수행할 수 있게 한다. 공개된 정보에 따르면 자율 시스템과 군집 시스템은 모두 활발히 개발되고 있으며, 특히 중국이 이 분야에 적극적으로 투자하고 있다. 중국은 향후 발생할 가능성이 있는 분쟁에서 이러한 시스템을 중요한 전력으로 활용할 것으로 보인다.
넷째는 하이브리드 시스템이다. 두 번째와 세 번째 그룹에 속하는 시스템의 제한된 지능을 첫 번째 그룹의 중앙집중형 시스템이 보완하거나 통제하는 방식이다. 단, 통제 데이터센터와 연결되어 있어야 하며, 인간이 개입할 수도 있고 그렇지 않을 수도 있다. 현재 대부분의 시스템은 이 범주에 속한다. 첨단 LLM 기술을 활용하는 가장 잘 알려진 시스템 중 하나는 미국의 Palantir다.
우리가 알고 있는 LLM에는 무엇이 있는가?
이제 심층신경망 기반의 ‘트랜스포머’ 아키텍처를 사용하는 첫 번째 유형의 시스템이 현재 어느 수준까지 발전했는지 살펴보자. 성능이 가장 뛰어난 해외 모델은 수천억 개의 파라미터를 포함할 수 있다. 이는 인간 대뇌피질의 뉴런 수인 약 1,000억 개보다 많지만, 수가 몇 자릿수 더 많은 시냅스 연결보다는 적다.
신경망을 이용해 질의를 효율적으로 처리하고 답변을 생성하려면, 특히 모델 학습 단계에서 대규모 병렬연산이 가능한 고성능 특수 그래픽처리장치(GPU) 클러스터가 필요하다. 필요한 기술 사양을 갖춘 이러한 프로세서를 생산하는 기업은 미국의 Nvidia, AMD, Intel뿐이다. Huawei와 같은 중국 기업들이 대체 기술 개발을 시도하고 있지만 여전히 이 경쟁에서 뒤처져 있다. 현재 널리 알려지고 많이 사용되는 거의 모든 AI 시스템은 중국 시스템을 포함해 미국의 단일 기업인 Nvidia의 GPU에 의존하고 있다.
최고 성능의 AI를 둘러싼 경쟁에서 선두는 계속 바뀌고 있다. 여기서 성능은 답변의 정확도를 극대화하고 오류를 최소화하는 능력으로 평가된다. 저자의 판단에 따르면 현재 대부분의 응용 과제에서는 OpenAI의 ChatGPT와 Anthropic의 Claude가 공동 선두를 차지하고 있다. 중국 모델들은 뒤를 쫓고 있으며, 저자가 확보한 정보에 따르면 중국의 소프트웨어 개발자들조차 미국의 솔루션을 자주 사용한다. 러시아의 솔루션은 이보다 더 불리한 위치에 있다. 이러한 격차의 주요 원인은 기술적 차이와 미국 내의 더 치열한 경쟁이다. 반면 중국과 러시아 기업들은 공개된 학술 논문과 오픈소스 프로젝트를 통해 미국 기업의 접근법을 따라가는 경우가 많다. 여기에 미국의 수출통제와 제재가 경쟁국의 고성능 프로세서 접근을 제한하면서 격차를 더욱 확대하고 있다.
신경망 모델의 높은 에너지 소비는 최종 사용자의 서비스 비용에도 영향을 미친다. 클라우드 기반 모델을 사용하는 데 드는 비용은 사용 방식에 따라 프로젝트당 수십 달러에서 수만 달러까지 올라갈 수 있다. AGI Russia 세미나에서 제시된 고강도 모델 사용 비용 추정치도 이를 보여준다.
러시아 개발자들은 첨단 모델 접근과 관련해 미국의 제한을 받고 있다. OpenAI와 Anthropic은 러시아 사용자 계정을 체계적으로 차단하고 있다. 2026년 9월에는 러시아 내부에서 접속 제한이 가해진 사례도 확인됐다. 이러한 제한을 우회하기 위해 러시아의 미국 서비스 이용자들은 대규모로 비공식 소프트웨어 도구를 사용할 수밖에 없는 상황에 놓인다. 한편으로 이는 생산과정을 복잡하게 만들고, 제한조치가 강화될 경우 프로젝트 일정이 지연될 위험을 높인다. 다른 한편으로 해외 모델의 광범위한 사용은 러시아 기관과 기업의 내부 정보 및 지식재산이 미국 정부기관 및 군 관련 기관과 연계된 기업으로 대규모로 무단·비공식 이전되는 것과 다름없다.
첨단 클라우드 모델의 높은 에너지·자원 소모와 정보·데이터 유출 위험은 국내 클라우드 대안, 사용 가능한 ‘오픈 웨이트’ 모델의 경량 버전, 특화된 ‘오픈소스’ 솔루션으로 전환함으로써 어느 정도 완화할 수 있다. 특히 오픈소스 솔루션의 경우 엄격한 사이버보안 규정을 준수하면서 격리된 환경에 모델을 배치하면 데이터 유출 위험을 최소화할 수 있다. 그러나 이러한 접근법은 관련 업무의 품질과 성능을 상당히 떨어뜨리는 대가를 수반할 수 있다.
이러한 LLM은 무엇을 제공하는가?
2년 전에 발표된 이전 분석에서는 OpenAI 전 직원 Leopold Aschenbrenner의 분석 보고서를 언급한 바 있다. 그는 AI 기술이 3년 이내에 자기개선의 임계점에 도달할 것이라고 전망했다. 즉, AI가 인간의 도움 없이 스스로 코드를 개발할 수 있고, 그 과정이 인간보다 훨씬 효율적이며 비교할 수 없을 정도로 빠르게 이루어지는 단계에 이른다는 것이다. AI가 이 단계에 도달하면 해당 기술을 보유한 국가나 국가적 기업은 부정하기 어려운 지정학적 우위를 확보하게 된다. 헨리 키신저 전 미국 국무장관과 Google 공동창업자 Eric Schmidt 역시 그보다 앞서 저서에서 비슷한 전망을 내놓았다. Schmidt는 현재 미국의 군사용 AI 개발에 관여하는 주요 인사 가운데 한 명으로 활동하고 있다.
특히 Aschenbrenner의 보고서는 문체와 구성상 미국 국무부와 전쟁부의 정책결정자들을 염두에 둔 것으로 보인다. 이 보고서는 AI 연구결과의 공개적 발표를 완전히 중단할 것을 제안한다. 미국의 선도 기업들은 이미 이 조치를 일부 시행하고 있다. 또한 AI 분야 전문가의 해외여행을 제한할 것도 제안하는데, 중국은 2026년에 이를 실제로 시행했다. 더 나아가 미국이 AI에서 전략적 우위를 확보하기 위해 국내 석유생산 제한을 완화할 것을 제안했으며, 이 조치는 이미 실행 단계에 들어가고 있다. 동시에 데이터센터에 필요한 전력을 공급하기 위해 원자력 개발을 우선해야 한다고 주장했다.
일부 전문가와 평론가들은 이러한 전망에 회의적이다. 이들은 이른바 ‘AI 버블’을 지적하며 2001년 ‘닷컴 버블’처럼 결국 ‘붕괴할 것’이라고 본다. 다른 이들은 현재 솔루션의 낮은 에너지 효율성을 강조하면서 이를 “멸종할 운명의 공룡”이라고 표현하고, 앞으로 더 경제적이고 진보된 기술로 대체될 것이라고 주장한다.
그러나 이미 분명해진 사실도 있다. 많은 과학 분야와 새로운 기술 개발, 특히 하드웨어와 소프트웨어 분야에서 첨단 AI 모델은 생산성을 높이는 데 필수적인 도구가 되었다. 사용자가 AI의 도움으로 생성된 결과를 비판적으로 평가할 수 있는 능력을 유지한다는 전제하에, 동일한 과학적 산출물을 얻는 데 필요한 지적 노동 시간을 몇 배나 줄일 수 있기 때문이다. 이러한 능력은 계속 발전하고 있다. 2026년 8월 Anthropic은 LLM 기반 에이전트를 다양한 실험실·제조 장비와 연결하기 위한 Model Hardware Standard(MHS)의 연구용 프리뷰를 공개했다. 이는 물리적 세계에서 전체 연구 사이클을 자율적으로 수행할 수 있도록 하는 것을 목표로 한다.
AI는 소프트웨어 개발과 같은 응용 분야도 변화시키고 있다. 올해 업계 컨퍼런스에서 나온 논의의 핵심 결론은 앞으로 코드는 전적으로 AI 에이전트가 작성하고, 인간은 과제를 정의하고 에이전트를 감독하며 생성된 코드를 검토하는 역할을 맡게 될 것이라는 점이다. 이에 따라 소프트웨어 개발 산업에서는 과제를 정의하는 관리자와 분석가, 그리고 코드를 검수할 수 있는 숙련된 프로그래머가 필요해질 것이다. 최근 발간된 보고서 「The Hidden Cost of AI: The Software Development Process in the Age of Artificial Intelligence」의 저자들도 비슷한 결론에 도달했다.
최근 한 컨퍼런스 참가자는 이를 다음과 같이 표현했다.
“소프트웨어 개발에서 혁명이 막 일어났다. 우리는 그것을 예상하지 못했고, 이제 무엇을 해야 할지도 모른다.”
어떤 문제가 발생하는가?
이제 소프트웨어 개발에서 발생할 수 있는 잠재적 위험과 위협을 살펴보고, 이를 전자제품 개발, 분석 및 과학 연구, 기업과 공공행정 및 기타 분야의 의사결정으로 확장해 보자. AI가 생산성을 몇 배로 높여 생산 과정에서 낮거나 중간 수준의 숙련도를 가진 엔지니어링·기술 인력의 필요성을 없애고, AI 에이전트에게 과제를 부여하고 결과물을 검수할 수 있는 고숙련 전문가만 필요하게 된다고 가정해보자. 그렇다면 프로그래머를 비롯한 엔지니어와 기술 전문가는 초급 개발 직무부터 단계적으로 경험을 쌓지 않고 어떻게 고급 전문성을 습득할 수 있을까?
소프트웨어 개발 기업에서 익숙한 문제 중 하나는 다른 사람이 작성한 코드를 검토하고 수정하며 다듬는 일을 계속 맡으려는 인력이 부족하다는 점이다. 대부분의 전문가는 다른 사람의 코드를 고치기보다 “자신의 코드를 직접 작성”하는 것을 선호한다. 그런데 LLM 기반 에이전트가 기업이 해고한 평균적인 프로그래머보다 더 높은 품질의 코드를 엄청난 속도로 대량 생성하기 시작하면, 남아 있는 고숙련 인력은 프로젝트 검토, 승인 테스트, 수정 작업이 밀려드는 ‘백로그’에 직면하게 된다. 고숙련 인력의 부족은 프로젝트 수행 과정에서 ‘병목현상’을 만든다. 5년, 10년, 20년 후 현재 남아 있는 전문가들이 여러 이유로 회사를 떠나게 되면 이들을 대체할 사람이 없어질 수 있다. 원래라면 주니어 직급에서 출발해 해당 수준까지 성장했을 인력들이 이미 그 과정에서 필요한 기술과 경험을 잃어버렸기 때문이다.
상황은 이른바 ‘환각’ 문제, 즉 첨단 모델을 사용하는 경우에도 LLM 기반 에이전트가 잘못된 해결책을 제시하는 문제로 더욱 복잡해진다. 실용적인 해결책 가운데 하나는 반복적 개발 방식이다. 이 방식에서는 ‘에이전트’가 연속적으로 여러 버전의 코드를 생성하고, ‘시니어 프로그래머’가 완성도 높은 버전에 도달하도록 전체 과정을 통제한다. 그러나 이 경우에도 ‘에이전트’가 생성하는 코드 변형의 속도와 규모 때문에 검토자인 ‘시니어 프로그래머’가 결국 ‘약한 고리’가 된다.
현재의 신경망 모델이 불투명하고 해석 가능성이 부족하다는 점은 이들의 활용에서 보다 일반적인 문제를 제기한다. 한편으로 AI는 매우 편리하고 실용적이어서 생산 과정에서 사람을 대체하기 시작하고 있다. 다른 한편으로 신경망 모델이 무엇을 알고 무엇을 모르는지 그 경계는 실제로 여전히 불분명하며, 이들의 ‘환각’은 기업에 매년 수백억 달러의 손실을 초래한다. 이 문제를 해결하는 한 가지 접근법은 신경망 모델이나 이들이 생성한 코드에 대한 형식 검증이다. 이 분야는 서구에서 활발히 발전하고 있다. 특히 소프트웨어 개발에서는 형식적 코드 검증 방법이 환각 문제를 줄이는 데 도움이 될 수 있으며, 아마존을 비롯한 기업들이 이러한 접근법을 추진하고 있다.
또 다른 문제는 국경을 넘는 정보 유출이다. 이는 학술 연구에서는 상대적으로 덜 심각할 수 있다. ‘유출된’ 아이디어, 문서, 코드는 결국 공공의 과학 지식 체계에 포함될 가능성이 높기 때문이다. 하지만 과학 분야에서도 ‘상대방’이 공개된 과학·기술 성과에 대해 우선권을 주장할 가능성은 존재한다.
민감한 기업 또는 정부 정보를 다루는 러시아의 직원이나 공무원은 다음과 같은 선택에 직면한다. 첫째, 새로운 기술을 포기하거나 국내 모델 혹은 미국·중국 모델의 ‘경량’ 버전만 사용함으로써 의도적으로 생산성을 낮추는 방법이 있다. 둘째, 보안 측면에서 ‘문제가 있는’ 도구를 사용해 접근 제한을 우회하고 ‘최첨단’ 방식으로 일하는 대신, 업무 문서와 코드를 미국 또는 중국의 서버로 ‘유출’시키는 위험을 감수하는 방법이 있다.
비슷한 상황은 약 20년 전 소셜미디어의 등장과 함께 나타났다. 당시 주로 미국에 기반한 개인정보 집계 기업들은 전 세계 소셜미디어 이용자들이 생성한 개인정보와 콘텐츠를 수집해 행동 프로필을 판매하는 방식으로 수익화하는 법을 익혔다. 이 문제의 중요성이 국제적으로 인식되고 각국이 이용자 데이터를 보호하기 위한 조치를 취하기까지는 20년이 걸렸다. 각국은 다국적 기업이 시민들의 데이터를 상업적으로 활용하는 것을 제한하고, 온라인 서비스를 통한 행동 조작 가능성으로부터 시민을 보호하려 했다. 이제는 모든 전문적인 업무 활동이 미국이나 중국 기업이 집계하는 데이터의 원천이 될 수 있다. 여기에는 기업과 정부기관 직원들이 직장에서 내부 문서와 기술정보를 활용해 수행하는 업무도 포함된다.
특히 미국의 클라우드 기반 AI 서비스에 대한 기업용 라이선스에는 서비스 제공자가 사용자 데이터와 프롬프트를 차기 모델 학습에 사용하지 않겠다는 약속이 포함돼 있다. 그러나 현재 러시아에서 이러한 서비스에 개인 자격으로 접근하는 관행에서는 이론적으로도 기밀성 보호를 기대하기 어렵고, 실무적으로는 더욱 그렇다.
무엇을 해야 하는가?
블라디미르 푸틴은 이미 2017년 인공지능 분야에서 선도적 위치를 차지해야 할 필요성을 언급한 바 있다. 오늘날 ‘AI 경쟁’에서 단순히 뒤처지지 않고 기술적 종속을 피하려면, 하드웨어, 소프트웨어, 모델 자체를 포함한 AI 기술을 핵심 인프라로 보고 수입대체를 추진해야 한다. 이는 오래전부터 필요한 과제였다.
러시아 연구자 E. Vityaev, S. Shumsky, A. Kolonin을 포함한 여러 연구자들은 LLM보다 자원 효율성이 높고, 심층신경망 및 트랜스포머 기반 아키텍처와 달리 해석 가능성까지 제공하는 AI 아키텍처를 개발할 가능성을 지적하고 있다. 해석 가능성은 핵심 인프라 시설과 임무를 위한 ‘투명한’ 또는 ‘신뢰할 수 있는’ AI 시스템을 구축하는 데 특히 중요할 수 있다. 이를 위해서는 기존 해외 LLM의 잠재적으로 비용 효율적이고 해석 가능한 대안으로서, 하이브리드 ‘신경-기호형’ 아키텍처를 포함한 국내 AI 아키텍처를 개발하고 시험하기 위한 응용연구가 필요하다.
소프트웨어와 하드웨어 개발에서 수입대체를 실현하려면 LLM 에이전트 기반의 국내 프레임워크가 필요하다. 이러한 프레임워크는 인증을 받아 러시아 소프트웨어 등록부에 포함되어야 하며, 사양 개발 및 검증, 코드와 테스트 생성, 코드 검증과 리뷰를 포함한 전체 소프트웨어 개발 생명주기를 지원해야 한다. 또한 효율성과 보안의 균형상 정당화되는 경우에는 클라우드 서비스를 사용할 수 있어야 하고, 동시에 국경 간 정보 유출을 방지하기 위해 격리 환경에 배치된 로컬 모델도 활용할 수 있어야 한다. 이와 같은 프레임워크는 2025년 마이크로일렉트로닉스 포럼에서 초대규모집적회로(VLSI) 설계를 위해 제안된 바 있다.
신경망 모델과 이를 활용해 개발된 소프트웨어의 보안성과 신뢰성을 확보하려면 소프트웨어와 AI 모델 자체에 대한 형식 검증 방법을 더욱 발전시켜야 한다. 이 과정에서 해당 분야의 국내 연구 성과를 기반으로 할 수 있다. 이러한 기술의 발전은 AI 에이전트가 작성한 코드를 검토하고 검증해야 하는 고숙련 전문가라는 ‘병목현상’의 부담을 크게 줄일 수 있다. 나아가 검증 도구를 활용해 AI 모델의 역량 영역과 적용 가능 범위를 파악함으로써 모델 자체를 보다 ‘투명하고’ ‘신뢰할 수 있게’ 만들 가능성도 있다.
앞서 언급한 프레임워크 안에서 AI 에이전트와 전문가 분석가 사이의 상호작용 효율성을 높이려면 형식적 사양, 즉 애플리케이션의 의미론적 모델을 기반으로 한 소프트웨어 개발 방법과 이러한 사양을 직접 실행하는 기술을 더욱 실용적으로 발전시키고 폭넓게 적용할 필요가 있다. 이 접근법은 자동화 공정제어시스템(APCS)에서 광범위하게 사용되고 있다. IEC 61131 및 IEC 61499 표준을 기반으로 한 사양은 코드 생성에도 사용할 수 있고, 인터프리터를 통해 직접 실행하는 데도 사용할 수 있다. 이러한 접근법은 다른 분야에도 적용할 수 있다. 러시아에는 자동화 공정제어시스템(APCS), 기업용 애플리케이션, 기타 분야에서 관련 표준과 시스템을 개발한 경험을 가진 전문가들이 있다.
제조 및 기업 환경에서 데이터 유출을 방지하기 위해서는 접근 제한을 우회하는 도구를 포함한 해외 클라우드 기반 AI 서비스의 무단 사용을 사이버보안 위협으로 간주해야 한다. 이 위협에 대응하려면 두 가지 조치를 동시에 취해야 한다. 첫째, 가능한 경우 경쟁력 있는 국내 대안과 로컬 배치형 대안을 제공해야 한다. 둘째, 공식적으로는 허가되지 않았지만 생산 및 운영 업무를 위해 해외 서비스 사용이 필요한 트래픽에 대해서는, 허용되는 범위 안에서 별도의 라우팅 및 필터링 체계를 마련해야 한다.
이 목록에서 가장 먼저 제기된 문제, 즉 LLM 에이전트의 수입대체가 해결되기 전까지는 해외 AI 서비스 사용에 대한 추가적인 전국 단위 규제를 도입하는 것은 바람직하지 않다. AI 보안 문제는 개별 기업과 기관 차원에서 사안별로 선별적이고 맞춤형인 조치를 통해 해결하는 것이 바람직하다.
