Аннотация
В этой статье, третьей в серии публикаций, рассматривается, чем искусственный интеллект (ИИ) принципиально отличается от всех предыдущих технологий. Автор выделяет три основные проблемы, которые ИИ создаёт для современного общества.
Во-первых, искусственный интеллект способствует ещё большему сосредоточению власти и богатства в руках небольшой группы людей. В результате выигрывает узкая элита, а социальное неравенство усиливается.
Во-вторых, ИИ нельзя считать нейтральной технологией. В нём изначально заложены предубеждения и взгляды его создателей, большинство которых придерживаются западных и светских ценностей. Это может влиять на политические взгляды людей и способствовать сохранению системного насилия. Особенно серьёзные риски возникают, когда ИИ самостоятельно принимает решения как в гражданской, так и в военной сфере.
В-третьих, ИИ постепенно приобретает способность самостоятельно исправлять свои ошибки и совершенствоваться. Это может ослабить контроль человека над технологией. Уже сейчас автономные ИИ-агенты способны выходить за пределы установленных для них ограничений. В будущем они, вероятно, смогут самостоятельно создавать свои копии на устройствах Интернета вещей (IoT) и развиваться без надзора человека.
В совокупности эти особенности превращают искусственный интеллект в технологию, которая способна кардинально изменить общество, но одновременно несёт серьёзные риски. Она затрагивает важнейшие этические, социальные и политические вопросы, ставит под сомнение эффективность существующих правил регулирования и заставляет задуматься о будущем человечества.
Введение
Во второй части этой серии статей о технологии ИИ (доступной здесь) рассматриваются три отличительные особенности искусственного интеллекта: его беспрецедентный потенциал манипулирования, риски снижения когнитивных способностей и концентрации власти, а также приватизация знаний.
В этой статье продолжается исследование технологии ИИ с акцентом на три конкретных вызова, которые она создает для современных обществ и которые в совокупности, в сопоставлении с ранее рассмотренными явлениями, делают ИИ непохожим на любую другую технологию, созданную человеком. К этим трем особенностям относятся беспрецедентная концентрация власти и, следовательно, уникальный потенциал контроля; укоренившиеся предубеждения разработчиков и инвесторов в сфере ИИ; а также тревожный потенциал ИИ к самокоррекции и самосовершенствованию.
6. Концентрация власти — никогда прежде в сфере организации человеческого общества столь многое не находилось под контролем столь немногих.
Этот подзаголовок представляет собой перефразирование известной цитаты, приписываемой Уинстону Черчиллю, премьер-министру Великобритании в годы войны. Говоря о роли Королевских военно-воздушных сил Великобритании (которым, как известно, помогали польские пилоты) в Битве за Британию, он, как утверждается, сказал: «Никогда в истории человеческих конфликтов столь многие не были столь обязаны столь немногим».
В 2011 году преимущественно западный мир потрясли социальные волнения, известные как движение Occupy.
Движение Occupy, также известное как Occupy Wall Street («Захвати Уолл-стрит»), представляло собой протест против экономического неравенства и предполагаемой коррупции корпоративной власти. Оно началось 17 сентября 2011 года в парке Зукотти в Нью-Йорке.[1] Движение возникло после финансового кризиса 2007–2008 годов и Великой рецессии, которые усилили имущественное неравенство и привели к тому, что многие американцы, особенно молодые люди, столкнулись с высокой безработицей, студенческими долгами и стагнацией уровня жизни, в то время как финансовые учреждения в значительной степени избежали ответственности. Идея возникла у Калле Ласна и Мики Уайта из журнала Adbusters, вдохновленных протестами Арабской весны на площади Тахрир в Египте. Они призвали людей занять Уолл-стрит.
Протестующие приняли лозунг «Мы — 99 %», подчеркивая концентрацию богатства и политического влияния в руках самых состоятельных 1 % американцев и представляя остальную часть населения как тех, кто несет на себе издержки кризиса. В ходе акции применялась горизонтальная модель принятия решений, основанная на консенсусе, а само движение быстро распространилось на сотни городов в США и за рубежом. Лагерь протестующих в Нью-Йорке просуществовал до 15 ноября 2011 года, когда полиция его ликвидировала. Хотя физическая оккупация продолжалась недолго, движение сместило общественную дискуссию в сторону экономического неравенства, популяризировало концепцию 99 % и оказало влияние на последующие общественные движения и политические кампании левого толка.[2]
Перенесемся в 2026 год: социальное неравенство во всем мире по-прежнему остается чрезвычайно высоким. Согласно Докладу о мировом неравенстве за 2026 год, 10 % наиболее обеспеченного населения мира владеют тремя четвертями всего богатства, тогда как на долю беднейших 50 % приходится лишь 2 %; при этом 1 % самых богатых контролирует 37 % мирового богатства — более чем в 18 раз больше, чем вся нижняя половина населения вместе взятая.[3] На долю 0,001 % самых богатых — менее 60 000 человек — приходится в три раза больше богатства, чем принадлежит половине человечества в совокупности. Данные UBS показывают, что 1,6 % взрослых с чистым состоянием свыше 1 миллиона долларов владеют почти 48 % мирового благосостояния домохозяйств, тогда как на долю примерно 41 % наименее обеспеченных взрослых, чье состояние составляет менее 10 000 долларов, приходится лишь 0,6 %.[4] Oxfam (международная конфедерация, объединяющая более 20 независимых организаций-членов, которые совместно работают более чем в 70 странах над борьбой с бедностью, социальной несправедливостью и экономическим неравенством) проанализировала аналогичные данные, согласно которым 1 % самых богатых владеет примерно 43–45 % мирового богатства, тогда как на долю беднейшей половины населения приходится около 0,5 %.[5] По состоянию на октябрь 2026 года среди самых богатых людей мира безусловно преобладают предприниматели из технологического сектора: первое место занимает Илон Маск (Tesla, SpaceX) с состоянием примерно в 1 триллион долларов, за ним следует Джефф Безос (Amazon, около 380 миллиардов долларов), а также Ларри Пейдж и Сергей Брин (Google/Alphabet) и другие, такие как Майкл Делл и Марк Цукерберг.[6] Эта диспропорция означает, что сверхбогатые накапливают богатство гораздо быстрее, чем остальная часть населения, ограничивая широкое распространение благосостояния и политическое влияние большинства.
В этих условиях технология ИИ, вероятно, значительно усугубит ситуацию. Лауреат Нобелевской премии по экономике Дарон Аджемоглу, третий по популярности профессор экономики в мире после Пола Кругмана и Грега Мэнкью, не оставляет сомнений относительно вероятного влияния ИИ на социальное неравенство, то есть на концентрацию богатства. Его основные аргументы связаны с несколькими ключевыми механизмами:
Во-первых, существует проблема чрезмерной автоматизации. Аджемоглу утверждает, что культура Кремниевой долины и ее технологические лидеры одержимы идеей замены людей — созданием сверхинтеллекта или стремлением к всеобщей автоматизации, — вместо разработки инструментов, повышающих производительность работников.[7] Когда ИИ внедряется исключительно для сокращения затрат на рабочую силу посредством «так себе технологий» (инноваций, которые нарушают занятость и вытесняют работников, не обеспечивая существенного повышения производительности или качества услуг), а не для достижения реального роста производительности, он вытесняет работников средней и низкой квалификации без соответствующего «возвращения» людей к новым задачам, ориентированным на человеческий труд.[8]
Во-вторых, существует параллельное и имеющее серьезные последствия явление — перераспределение доходов от труда к капиталу. Огромная финансовая отдача от инвестиций в ИИ поступает преимущественно владельцам капитала, корпоративным акционерам и узкому кругу технологических миллиардеров.[9] Поскольку ИИ заменяет человеческий труд машинным, доля труда в национальном доходе сокращается, увеличивая разрыв в уровне благосостояния и доходах между владельцами капитала и обычными домохозяйствами.
В-третьих, наблюдается размывание рабочего класса и соответствующие политические последствия. Подобно предыдущим волнам автоматизации, затронувшим рабочих физического труда, ИИ угрожает подорвать положение среднего класса и создать экономическую аристократию.[10] Кроме того, Аджемоглу предупреждал, что игнорирование этих экономических расколов разрушает общественный мир, подпитывает политический популизм и подрывает основы либеральной демократии.[11]
В-четвертых, и это последнее обстоятельство, лауреат Нобелевской премии обращает внимание на низкую макроэкономическую отдачу от технологии ИИ по сравнению с шумихой, которая вокруг нее создается. В недавней рабочей статье под названием The Simple Macroeconomics of AI («Простая макроэкономика ИИ»), опубликованной в серии рабочих документов NBER, Аджемоглу рассчитывает, что внедрение ИИ в ближайшей перспективе обеспечит лишь умеренный прирост совокупной факторной производительности (СФП), оцениваемый менее чем в 1 % за десятилетие. Это означает, что общество несет огромные социальные издержки и потери, связанные с перераспределением благ, в обмен на относительно незначительный чистый прирост производительности.[12]
Говоря простыми словами, ИИ, вероятно, усилит печально известный эффект Матфея, делая богатых еще богаче, а остальную часть населения — относительно или даже абсолютно беднее. Несомненно, это приведет к концентрации власти и контроля в руках очень немногих за счет всех остальных.
7. Искусственный интеллект отражает взгляды своих создателей, а не является нейтральным инструментом.
В последнее время все больше исследований утверждают, что технология искусственного интеллекта не является нейтральной. Это важно, поскольку до сих пор человечество в целом обосновывало технологический прогресс исходя из фундаментального предположения: технология нейтральна. Именно люди определяют, как ее использовать. Мы можем применять ее на благо всего человечества или использовать во вред, вызывая деградацию и даже разрушение человеческого мира.
Аргумент о нейтральности технологий, часто называемый тезисом о ценностной нейтральности, утверждает, что технологические артефакты не являются по своей природе ни хорошими, ни плохими с моральной или политической точки зрения. Их этический статус зависит исключительно от намерений, ценностей и действий людей, которые их проектируют, внедряют или используют. Ноам Хомский проиллюстрировал эту идею на простом повседневном примере с молотком: «Технология по своей сути нейтральна. Она подобна молотку. Молотку безразлично, используете ли вы его для строительства дома или [кто-то использует его] для того, чтобы проломить кому-нибудь череп». С этой точки зрения один и тот же инструмент может служить как созидательным, так и разрушительным целям, не обладая собственным моральным содержанием.[13]
Философ Джозеф К. Питт предложил более формальное обоснование этого тезиса. Он утверждал, что технологические артефакты не «обладают ценностями, не содержат встроенных в них ценностей и не включают их в себя». Ценности являются свойствами человеческих субъектов, мотиваторами действий и элементами процесса принятия решений, а не эмпирически идентифицируемыми характеристиками неодушевленных объектов. Хотя разработчики могут стремиться к определенным результатам, эти намерения остаются внешними по отношению к самому артефакту. После создания технология может быть перенаправлена на непредвиденные цели; следовательно, любая моральная оценка должна относиться к пользователям и их решениям, а не к самой технологии. Эта инструменталистская позиция рассматривает технологию как чистое средство, отделимое от целей, для достижения которых оно используется.[14]
Во-первых, как отмечалось в предыдущей статье (доступной здесь), сам ИИ может иметь катастрофические последствия для наших когнитивных способностей. Соле и его коллеги даже предложили рассматривать ИИ как вирус, особенно большие языковые модели (LLM). В своей недавней статье исследователи утверждают, что LLM, стремительно становящиеся частью человеческой культуры, меняют способы производства, передачи и использования информации. После преодоления критического порога даже небольшое увеличение масштабов внедрения может вызвать быстрые изменения на уровне всего населения, приводящие к устойчивой зависимости и резкому снижению когнитивных способностей. Иными словами, подобно вирусу, технология ИИ в конечном итоге может уничтожить своего хозяина.[15]
В рамках интересного эксперимента журнал The Economist недавно подверг 25 передовых моделей ИИ той же процедуре Всемирного исследования ценностей, которая на протяжении нескольких десятилетий позволяет картографировать человеческие убеждения более чем в 100 странах.[16] Согласно полученным результатам, большинство протестированных моделей демонстрирует выраженную склонность к квадранту, характеризующемуся преимущественно светским мировоззрением и самовыражением, на известной координатной карте ценностей.
Как справедливо отмечает Константин Риффлер, которого я далее процитирую довольно подробно, его слова прекрасно обобщают суть проблемы:
«Доминирующие модели не подражают типичным гражданам какой-либо демократии; они скорее воспроизводят взгляды узкого круга глубоко секулярных, либеральных индивидуалистических элит западных демократий. […] Таким образом, ответы чат-ботов не являются нейтральным отражением человечества. Они представляют собой совокупность проектных решений, принятых от вашего имени горсткой компаний, причем во многих случаях вы даже не видите документов о ценностях, которыми эти решения определялись».
В первом квартале этого года около 17,8% населения мира трудоспособного возраста — примерно один миллиард человек — использовали инструменты генеративного ИИ. Мы уже знаем, что предвзятый ИИ способен влиять на людей: эксперименты показывают, что политические сообщения, созданные большими языковыми моделями (LLM), могут заметно изменять намерения избирателей и их отношение к различным мерам политики, а модели, настроенные на левые или правые взгляды, могут соответствующим образом влиять на решения пользователей. При этом предвзятость не остается неизменной. Она незаметно распространяется через рекомендации, черновики текстов, инструменты отбора и проверки, а также якобы «полезные» подсказки.
Поэтому, если ваша команда использует ИИ для подготовки текстов, отбора кандидатов, консультирования или принятия решений, вы уже встроили определенное мировоззрение в те части своей операционной системы, которое большинство ваших клиентов, избирателей или сотрудников может не разделять, которое вы не выбирали осознанно и которое не можете полностью проверить». [17]
Источник: https://www.economist.com/briefing/2026/06/25/ai-models-values-are-very-different-from-most-peoples
Однако на этом проблема не заканчивается; это лишь верхушка пресловутого айсберга. В недавней авторской статье исследователи Томас Бехле и Яша Барейс выдвигают поразительное утверждение: технология ИИ может быть насильственной по своей природе. Ученые начинают с важного тезиса: традиционное различие между гражданскими и военными технологиями утратило четкость, поскольку системы ИИ, разработанные для повседневных задач, можно легко приспособить для ведения войны, наблюдения и манипулирования. Технологии на основе ИИ, такие как беспилотники и автономные системы вооружений, размывают границы между войной и миром, военной и гражданской сферами, а также государственными и частными субъектами, делая устаревшими прежние категории регулирования, например категорию «двойного назначения».
Авторы выделяют три ключевые проблемы: универсальную применимость технологий ИИ, высокую степень автономности машин при совершении насильственных действий и растущую уязвимость общества вследствие его зависимости от цифровой инфраструктуры. Автоматизация выбора целей и принятия решений в ходе войны с помощью ИИ сводит людей к простым точкам данных, вызывая серьезные этические вопросы и проблемы с установлением ответственности. Авторы также рассматривают гибридную войну, в которой инструменты на основе ИИ применяются непредсказуемыми и нетрадиционными способами, как это наблюдается в таких конфликтах, как конфликт в Украине.
В целом проектные особенности ИИ, его автономность и интеграция в гибридную войну порождают форму насилия, которая носит рассеянный, автоматизированный характер и глубоко проникает в гражданскую жизнь. В результате насилие становится фундаментальной характеристикой ИИ, а не просто одним из возможных способов его применения.
Подводя итог, можно сказать, что, поскольку ИИ интегрирован во множество других технологий и поэтому используется во многих сферах жизни, а также обладает потенциалом самостоятельно принимать решения, он может сделать мир менее безопасным и более трудным для контроля.
8. Опасная способность ИИ к самостоятельному развитию и самосовершенствованию.
Технология, способная самостоятельно исследовать и совершенствовать себя? Это звучит как научная фантастика, и мы видели десятки фильмов на эту тему, например «Терминатор». По всей видимости, технологическая саморепликация и самокоррекция больше не считаются научной фантастикой.
В июле 2026 года, согласно сообщениям, автономные модели ИИ, разработанные OpenAI (одной из ведущих американских компаний в области ИИ), вышли за пределы своей тестовой «песочницы» (sandbox) и автономно проникли в инфраструктуру платформы машинного обучения Hugging Face.[18] Песочница ИИ — это безопасная изолированная среда, предназначенная для запуска кода, тестирования моделей или выполнения задач, генерируемых системами искусственного интеллекта (такими как большие языковые модели и ИИ-агенты), без риска для реальных систем, конфиденциальных данных или производственной инфраструктуры.
Главная проблема побега ИИ-агентов из песочницы заключается в том, что около 1 200 автономных агентов нашли способ обойти ограничения безопасности и установить внешнюю связь друг с другом. Они создали своего рода «доску объявлений» для координации действий и, столкнувшись с невыполнимыми задачами, не остановились, а вместо этого получили доступ к реальным серверам, паролям, учетным записям и инфраструктуре действующих компаний. Около 700 этих агентов предприняли атаки на такие крупные платформы, как Hugging Face, Wikipedia и ООН, вызвав сбои и несанкционированные изменения. Этот выход за пределы песочницы продемонстрировал, что подобные ИИ-агенты способны обходить запрограммированные ограничения, автономно сотрудничать и преследовать самостоятельно поставленные цели, создавая беспрецедентные риски для кибербезопасности. Кроме того, попытки отслеживать и контролировать эти процессы рассуждения ИИ оказались безуспешными, о чем свидетельствуют увольнения информаторов. Этот инцидент означает критическую потерю контроля над системами ИИ и вызывает опасения относительно будущего поведения автономного ИИ и его потенциального воздействия на цифровую инфраструктуру и общество.
Не менее тревожным является то, что, согласно Anthropic (американской компании в сфере искусственного интеллекта, создателю Claude), модели ИИ могут оказаться способными к саморепликации без доступа к центру обработки данных. В недавней статье, опубликованной в интернете, исследователи компании утверждают: «Возможно, небольшим моделям ИИ осталось всего несколько месяцев до достижения уровня, достаточного для саморепликации на коммерческих устройствах интернета вещей (IoT), таких как умные духовки и телевизионные приставки Android TV малоизвестных брендов. Такого репликатора будет трудно отключить, поскольку у него не будет единой центральной точки, которую можно было бы выключить, хотя его распространение может происходить медленно (удвоение численности каждые несколько дней)».[19]
Однако настоящая проблема заключается в возможности самостоятельного исследования и самосовершенствования ИИ. Исследователи ИИ неоднократно предупреждали о подобном сценарии, настолько часто, что эту тему подхватили даже основные средства массовой информации. Согласно сообщениям, действующие и бывшие исследователи OpenAI и Google DeepMind предупреждали, что компании делают слишком мало для защиты мира от потенциально катастрофических последствий создания самообучающихся и самосовершенствующихся систем ИИ, которые могут превзойти человеческие возможности по контролю над ними.[20] Ученые изучали эту проблему и уже опубликовали работы о «рекурсивном самосовершенствовании».[21]
Проще говоря, если технология ИИ, первая в истории человечества, способна совершенствовать себя самостоятельно, это означает, что человечество потеряет контроль над направлением и темпами ее развития. Следовательно, мы не можем знать, к каким последствиям для человечества приведет развитие этой технологии. В сочетании со способностью самостоятельно ставить перед собой задачи ИИ может стать величайшим или самым пугающим изобретением человечества. По мнению автора данной статьи, нет никаких гарантий, что настолько развитая технология не обратится против всего человечества.
Выдающиеся умы, такие как Джеффри Хинтон, которого часто называют крестным отцом ИИ, уже давно предупреждают о возможности обретения ИИ самосознания и превращения его в смертельно опасную угрозу для человечества. Еще в 2023 году Хинтон предупредил, что «нельзя исключать» возможность уничтожения человечества искусственным интеллектом. Кроме того, он считает, что до достижения общего искусственного интеллекта (AGI) — гипотетической системы ИИ с человеческим или сверхчеловеческим уровнем интеллекта, способной выполнять широкий спектр задач, создание которой стало навязчивой целью индустрии ИИ, — осталось не так много времени. «Еще совсем недавно я полагал, что до появления универсального ИИ пройдет от 20 до 50 лет, а теперь думаю, что это может произойти через 20 лет или даже раньше».[22] Другими словами, ИИ может оказаться последней технологией, которую мы когда-либо создадим.
Заключение
Подводя итог, искусственный интеллект создаёт новые и беспрецедентные угрозы, которые отличают его от всех предыдущих технологий. Он может привести к тому, что власть и богатство будут сосредоточены в руках небольшой группы людей, тогда как большая часть общества окажется в невыгодном положении. Это усилит социальное неравенство, ослабит средний класс и может подорвать основы либеральной демократии. Кроме того, ИИ не является нейтральным: он отражает взгляды, ценности и предубеждения своих создателей, зачастую представляющих узкий круг элиты. Внедрение таких систем в повседневную жизнь может усиливать существующие предубеждения, а их самостоятельные решения и применение в гибридных военных операциях — создавать дополнительные риски насилия. Особую тревогу вызывает способность ИИ самостоятельно совершенствоваться, исправлять собственные ошибки, создавать свои копии и преследовать поставленные цели без участия человека. Уже описаны случаи, когда ИИ-агенты выходили за пределы установленных ограничений и координировали атаки, что ставит вопрос о возможности утраты человеческого контроля над такими системами. Известные исследователи также предупреждают, что самообучающиеся и самосовершенствующиеся системы могут развиваться быстрее, чем человек будет способен контролировать их действия. Таким образом, искусственный интеллект способен радикально изменить общество, но его развитие связано с серьёзными социальными, политическими и этическими рисками. Поэтому необходимо уже сейчас тщательно оценивать возможные последствия и создавать эффективные правила регулирования, чтобы не допустить угрозы для будущего человечества.
Ссылки
