О каких видах прикладного ИИ мы говорим
Основные направления развития и соответствующие им векторы угроз современного прикладного искусственного интеллекта (ИИ) можно классифицировать в четырех основных группах.
Во-первых, это централизованные облачные системы, основанные на так называемых «больших языковых моделях» (БЯМ) — американских (Open AI ChatGPT, Anthropic Claude, Google Gemini, Llama, Grok) и китайских (DeepSeek, Gemini, Kimi, GLM), — обычно доступные в полном объеме только в качестве веб-сервисов на ресурсах, размещенных за пределами Российской Федерации. Отечественные системы Sber GigaChat и YandexGPT (Alice AI) на настоящий момент, согласно техническим рейтингам, уступают зарубежным сервисам. Произошедшей в течение последних лет революции в этом сегменте и связанным с ней перспективам и рискам будет посвящена основная часть статьи.
Во-вторых, это автономные робототехнические системы, позволяющие решать поставленные задачи без оператора, например, в условиях помех или принципиальной невозможности либо ситуативной нецелесообразности связи с центром управления. Подобные системы и требования к ним обсуждались в нашем раннем обзоре. Актуальность этого направления подкрепляется новостной повесткой — в частности в сентябре 2026 г. заявлено о начале производства нового вида автономных ударных дронов в Германии. По моим ограниченным данным, подобные системы пока далеки от совершенства, но именно они выступают предметом активного проектирования и разработки, несмотря на тщетные усилия ряда инициативных групп установить международный запрет на развитие смертоносных автономных вооруженных систем (Lethal Autonomous Weapon Systems, LAWS). Тормозящий фактор в развитии таких систем в настоящий момент — прежде всего ресурсные ограничения современных архитектур ИИ на основе нейронных сетей, требующих больших ресурсов памяти и имеющих высокое энергопотребление. Снятие этих ограничений применением новых вычислительных архитектур, например, нейроморфных, сделает вызовы в сегменте автономных систем еще более актуальными.
В-третьих, это так называемые «роевые» системы, построенные на основе упомянутых выше автономных. Эти системы позволяют автономным агентам (например, воздушным, наземным, надводным и подводным дронам) решать поставленные задачи не просто автономно, но и кооперируясь друг с другом без операторов. Как первые, так и вторые, согласно открытым данным, находятся в фокусе активной разработки, в первую очередь, в Китае, который, очевидно, делает на них ставку в будущих вероятных конфликтах
В-четвертых, это гибридные системы, где ограниченность интеллектуальных возможностей систем второй и третьей групп компенсируется или дополняется управлением централизованной системы первой группы, при наличии связи с управляющим дата-центром с участием человека или без него. Таковы на сегодняшний день большинство систем. Наиболее известная система, использующая передовые технологии БЯМ, — американский Палантир.
Какие БЯМ мы знаем
Разберем сегодняшнюю ситуацию с системами первого типа, построенными на архитектурах типа «трансформер» на основе так называемых глубоких нейронных сетей. Количество параметров у наиболее высокопроизводительных зарубежных моделей может достигать сотен миллиардов, что превышает число нейронов в коре головного мозга человека (около 100 млрд), но меньше числа синаптических связей (еще несколько порядков).
Для эффективного расчета ответов на запросы нейросетям, особенно во время их обучения, требуются мощные кластеры специализированных (графических) процессоров с высокой степенью параллельной обработки, производимых с достаточными техническими параметрами только компаниями США (Nvidia, AMD, Intel). Китайские компании (Huawei) пытаются создавать альтернативные решения, но пока отстают в этой гонке. Практически все известные и широко используемые ИИ-системы, включая китайские, на сегодняшний день основаны на графических процессорах только одной американской компании — Nvidia.
Лидеры в гонке за наиболее производительный ИИ, с учетом критериев максимума точности и минимума неадекватности ответов, постоянно меняются. На сегодняшний день, для большинства прикладных задач, по оценке автора, первое место делят OpenAI ChatGPT и Anthropic Claude. Китайские модели выступают в роли догоняющих и, по имеющейся у автора информации, даже китайские разработчики ПО часто используют американские решения. Позиции российских решений еще слабее. Отставание обусловлено прежде всего технологическим разрывом и более высоким уровнем конкуренции в США, в то время как китайские и российские компании следуют в фарватере американских, зачастую заимствуя решения последних из открытой академической печати и проектов с открытым исходным кодом. Кроме того, экспортный контроль и санкции США ограничивают возможности получения самых высокопроизводительных моделей процессоров странами-конкурентами, что усиливает их отставание.
Высокая энергоемкость нейросетевых моделей оказывает влияние и на стоимость сервисов для конечных клиентов — использование облачных моделей может требовать от десятков до десятков тысяч долларов на проект, в зависимости от режима использования (См. оценки интенсивного использования моделей на семинаре AGI Russia).
Доступ к передовым моделям для российских разработчиков ограничен со стороны США: Open AI и Anthropic системно блокируют учетные записи российских пользователей. При этом в сентябре 2026 г. зафиксированы случаи ограничения доступа к сервисам и из РФ. Для обхода блокировок отечественные пользователи американских сервисов вынуждены массово использовать нелегитимные программные средства, что, с одной стороны, усложняет производственные процессы и создает риски срыва проектных сроков в случае усиления жесткости блокировок, а с другой стороны, повсеместное массовое использование зарубежных моделей представляет собой не что иное, как массовую несанкционированную и нелегитимную трансграничную передачу служебной информации и интеллектуальной собственности субъектов РФ бизнес-структурам, аффилированным с государственными структурами и военными учреждениями США.
Решение проблем энергоемкости и ресурсоемкости передовых облачных моделей, а также предотвращение информационных утечек может быть отчасти достигнуто за счет перехода как на отечественные облачные аналоги, так и на доступные «облегченные» версии моделей с «открытыми параметрами», а также на специализированные решения с «открытым кодом». В последнем случае можно минимизировать вероятность утечки информации за счет развертывания моделей в закрытом контуре со строгим соблюдением регламентов кибербезопасности. К сожалению, ограничением данного подхода будет существенное снижение качества процессов.
Что эти БЯМ дают
В предыдущем обзоре два года назад был упомянут аналитический отчет одного из сотрудников OpenAI Леопольда Ашенбреннера, предсказывавший, что в течение трех лет технологии ИИ выйдут на рубеж самосовершенствования — этап развития, на котором ИИ сможет развивать собственный код без помощи людей, с большей эффективностью и несоизмеримо большей скоростью (подробное обсуждение отчета). После выхода на этот уровень развития ИИ обладающие соответствующими технологиями страны (или национальные корпорации) получат безусловное геостратегическое преимущество. Похожий прогноз еще ранее давали в своей книге бывший госсекретарь США Генри Киссинджер и основатель компании Google (а ныне один из ведущих топ-менеджеров по разработке боевого ИИ в США) Эрик Шмидт.
Примечательно, что в отчете Л. Ашенбреннера, ориентированного, судя по стилю, на лиц, принимающих решения в госдепартаменте и оборонном ведомстве США, предлагается не только полностью закрыть открытую публикацию научных результатов в сфере ИИ (что отчасти уже сделано ведущими компаниями США), но и ограничить возможности выезда за границу профильных специалистов (что Китай реализовал уже в 2026 г.). Более того, для обеспечения стратегического преимущества в США в сфере ИИ предлагалось снять ограничения на добычу нефти в США, что сейчас фактически уже делается, наряду с приоритизацией развития атомной энергетики для энергообеспечения дата-центров.
Ряд экспертов и комментаторов скептически относится к подобным прогнозам, ссылаясь на так называемый «пузырь ИИ», предрекая ему «схлопывание», подобно «пузырю доткомов» в 2001 г. Другие делают акцент на энергетической неэффективности существующих решений, что делает их «обреченными на вымирание динозаврами», на смену которым должны прийти более экономичные и совершенные технологии.
Однако уже сейчас мы можем констатировать, что во многих научных отраслях и в разработке новых технологий, включая элементную базу и программное обеспечение, передовые модели ИИ стали незаменимым инструментом повышения производительности, многократно сокращая время интеллектуальной деятельности на единицу получаемого научного результата, конечно, при условии сохранения пользователем способности критически оценивать получаемый при помощи ИИ результат (см. обсуждение возможностей современного ИИ по автоматизации научной деятельности). И возможности постоянно растут — в августе 2026 г. компания Antrophic представила апробированный на практике стандарт интеграции агентов на основе БЯМ с широким спектром лабораторного и производственного оборудования для автономного проведения полного цикла НИР в физическом мире.
Трансформируются под влиянием ИИ и прикладные направления, например, в сфере разработки ПО. Основной вывод дискуссий на профильных конференциях: код в будущем будут писать исключительно ИИ-агенты, в задачи людей перейдет постановка задач, общее управление агентами и рецензирование кода. Соответственно, в индустрии разработки ПО будут востребованы менеджеры и аналитики для постановки задач, а также опытные программисты для рецензирования кода. Похожие выводы делают авторы недавно вышедшего отчета «Скрытая цена ИИ. Производственный процесс создания программного обеспечения в эпоху искусственного интеллекта». Как сформулировал один из участников недавней конференции: «революция в сфере разработки ПО только что произошла, мы ее не ожидали и не понимаем, что делать дальше».
Какие проблемы это создает
Разберем возможные риски и угрозы в сфере разработки ПО, экстраполируя их на разработку элементной базы, аналитическую и научную деятельность, а также на процесс принятия решений в бизнесе, госуправлении и других сферах. Допустим, ИИ, обеспечивая кратный рост производительности, избавляет от необходимости участия в производственных процессах инженерно-технического персонала низкой и средней квалификации, и одновременно требует участия только высококомпетентных специалистов, способных к постановке задач ИИ-агентам и приемке работ. Однако откуда в такой ситуации возьмутся компетенции высокой квалификации ИТР (программистов, например), если специалисты не прошли карьерный путь от начинающих исполнителей из разработчиков и не получили соответствующую практику?
Известной проблемой в компаниях-разработчиках выступает дефицит исполнителей, сохраняющих рабочий энтузиазм при рецензировании, исправлении и доработке чужого кода — большинство специалистов охотнее берутся «писать свое». В ситуации, когда БЯМ-агенты начинают производить с огромной скоростью большое количество кода с качеством выше, чем у программистов средней руки, от которых компания избавляется, у оставшихся квалифицированных кадров формируется «завал» с рецензированием, приемкой и доработками проектов. Нехватка кадров высокой квалификации формирует «бутылочное горлышко» в проектной работе. А через 5, 10, 20 лет, когда оставшиеся специалисты по разным причинам прекратят работу в компании, заменить их будет некому, потому что те, кто мог бы до этого уровня дорасти на младших позициях, уже будут деквалифицированы.
Усугубляет ситуацию сохраняющаяся проблема так называемых «галлюцинаций» или неадекватных решений, предлагаемых БЯМ-агентами даже в случае передовых моделей. Одно из практических решений этой проблемы — итеративная разработка, когда «агент» последовательно пишет различные версии кода, а «старший программист» добивается совершенной версии. Однако скорость и количество генерируемых «агентом» вариантов программного кода и в этом решении определяют «слабое звено» в виде «старшего программиста.
Непрозрачность и неинтерпретируемость существующих нейросетевых моделей в принципе является более общей проблемой их применения. С одной стороны, ИИ становится настолько удобным и практичным, что им начинают заменять людей на производстве. С другой стороны, границы знания и области незнания в нейросетевых моделях на практике неизвестны, их «галлюцинации» обходятся бизнесу десятки миллиардов долларов в год. Одним из решений данной проблемы выступает формальная верификация нейросетевых моделей, активно развивающаяся на Западе. В частности, решение проблемы галлюцинаций в сфере разработки ПО может быть облегчено применением методов формальной верификации программного года, чем занимается, например, Amazon.
Еще одной проблемой выступают трансграничные утечки информации. Для академической науки, вероятно, это не так критично — «утекшие» идеи, документы и программный код так или иначе становятся публичным научным достоянием, однако даже здесь имеются потенциальные риски перехвата приоритета в научно-технологическом развитии «другой стороной».
При работе с чувствительной корпоративной и государственной информацией сотрудник или чиновник оказывается перед выбором: либо а) сознательно снижать свою производительность, отказываясь от новых технологий или ограничивая спектр инструментов отечественными или «урезанными» версиями американских или китайских моделей, либо б) применять «сомнительные» инструменты обхода блокировок для работы «на переднем крае», при этом «сливая» рабочие документы и код на сервера компаний США.
Аналогичная ситуация сложилась два десятка лет назад с социальными сетями, когда агрегаторы персональных данных (прежде всего, в США) научились монетизировать персональные данные и контент, производимый мировой аудиторией социальных сетей через продажу поведенческих профилей пользователей. Потребовалось два десятка лет, чтобы осознать значимость проблемы на международном уровне и инициировать шаги, направленные на защиту безопасности данных пользователей на уровне отдельных государств, пытающихся оградить своих граждан от коммерциализации их данных транснациональными корпорациями и от возможных манипуляций поведением пользователей через эти интернет-сервисы. Теперь же предметом агрегации, осуществляемой корпорациями США или Китая, может выступать любая профессиональная деятельность, включая осуществляемую на рабочих местах сотрудниками компаний и госучреждений с внутренней документацией и технической информацией.
Примечательно, что корпоративные лицензии на использование облачных сервисов ИИ в США предполагают обязательства сервиса по неиспользованию данных и запросов пользователей в обучении последующих версий. Однако сегодняшний формат использования этих сервисов на территории РФ в индивидуальном порядке исключает защиту конфиденциальности даже теоретически, не говоря уже о практике.
Что делать?
Еще в 2017 году Владимир Путин заявил о необходимости выхода на лидирующие позиции в сфере искусственного интеллекта. Сегодня, чтобы хотя бы не отставать и не оказываться в технологической зависимости от «зарубежных партнеров» в «гонке за ИИ» уже давно стало необходимым импортозамещение технологий ИИ как критической инфраструктуры, включая оборудование, программное обеспечение и сами модели.
Ряд исследователей, включая отечественных (Е. Витяев, С. Шумский, А. Колонин) указывают на возможность создания более экономичных, по сравнению с БЯМ, архитектур ИИ, обладающих также свойством интерпретируемости, в отличие от основанных на глубоких нейронных сетях и трансформеров. Последнее может быть особенно важно для построения систем «прозрачного» или «доверенного ИИ» для объектов и задач критической инфраструктуры. Для этого требуются прикладные исследования по развитию и практической апробации соответствующих отечественных альтернативных (в том числе гибридных «нейро-символьных») архитектур, как возможной экономически эффективной и интерпретируемой альтернативе существующим зарубежным БЯМ.
Для импортозамещения в областях разработки ПО и элементной базы требуется создание отечественных фреймворков, сертифицированных и включенных в реестр российского ПО, на основе LLM-агентов, обеспечивающих полный цикл разработки ПО, включая разработку и валидацию спецификаций, написание кода и тестов, верификацию и рецензирование кода — с возможностью работать как в облачных сервисах (где это обосновано балансом эффективности и безопасности), так и на локальных моделях, развернутых в закрытом контуре с предотвращением трансграничных утечек информации. Один из таких фреймворков предлагался, в частности, для разработки СБИС на форуме «Микроэлектроника» в 2025 году.
Для обеспечения безопасности и надежности как самих нейросетевых моделей, так и написанного с их применением ПО, необходимо развитие методов формальной верификации как программного обеспечения, так и непосредственно самих моделей ИИ, на основе отечественных наработок в этой области. Развитие этой технологии может существенно снизить нагрузку на «бутылочное горлышко» — высококвалифицированных специалистов, необходимых для рецензирования и валидации кода, написанного ИИ-агентами, а также потенциально обеспечить большую «прозрачность» и «доверенность» самих ИИ-моделей, инструментально выявляя зоны их компетенции и применимости.
Для повышения эффективности взаимодействия между ИИ-агентами и экспертами-аналитиками в рамках упомянутого ранее фреймворка требуется практическое развитие и расширение сфер применения методов разработки ПО на основе формальных спецификаций (семантических моделей прикладных приложений), а также технологий непосредственного исполнения этих спецификаций. Подобный подход широко распространен в сфере автоматизированных систем управления технологическими процессами (АСУ ТП). Спецификации на основе стандартов МЭК-61131 и МЭК-61499 могут быть использованы как для генерации программного кода, так и для непосредственного исполнения интерпретатором — этот подход может быть использован и в других областях. В России есть специалисты, обладающие опытом разработки таких стандартов и систем для АСУ ТП, бизнес-приложений и другим предметным областей.
Для исключения информационных утечек на производстве и в бизнесе в качестве угрозы кибербезопасности следует рассматривать несанкционированное использование зарубежных облачных ИИ-сервисов, в том числе с использованием средств обхода блокировок. Для устранения такой угрозы следует как обеспечивать конкурентные отечественные и локально развернутые альтернативные решения, в случае их наличия, либо решать вопрос о специальной маршрутизации и фильтрации трафика, нелегитимного формально, но необходимого для решения производственных и оперативных задач.
До решения первой обозначенной в этом списке проблемы импортозамещения БЯМ-агентов, рекомендуется избегать как дополнительных блокировок зарубежных ИИ-сервисов. Вопросы безопасности в сфере ИИ должны решаться точечно и ситуативно на уровне компаний и учреждений.
