Реальная угроза искусственному интеллекту: Китай

Нам всем хорошо известны эти компании, так или иначе связанные с ИИ — будь то аппаратное обеспечение, программное обеспечение или вычислительные мощности: Apple, Microsoft, Meta, Google (Alphabet), Amazon, OpenAI, Anthropic, NVIDIA и некоторые другие.

У некоторых из этих компаний есть ценный основной бизнес, не зависящий от «пузыря» ИИ. Другие же целиком и полностью ориентированы на эту сферу. Так или иначе, все они пострадают, когда «пузырь» лопнет.

И все же «пузыри» могут раздуваться еще сильнее, прежде чем лопнуть, а сам процесс их схлопывания может занять гораздо больше времени, чем полагают многие участники рынка. Открывать короткие позиции (играть на понижение) по этим акциям было бы опрометчиво, однако определенно стоит сократить долю длинных позиций. Перевод части портфеля в денежные средства и реальные активы — разумный способ пережить грядущую бурю.

Если отвлечься от вопросов рыночной оценки, эти компании сегодня создают серьезные риски для национальной безопасности, критически важной инфраструктуры, финансовой системы и других институтов. Эти риски требуют отдельного рассмотрения, поскольку они затронут каждого из нас. Речь здесь идет не о «пузырях» на фондовом рынке, а об угрозе социального хаоса.

Геополитический фактор

Особого внимания заслуживают две угрозы. Первая — это использование Китаем моделей искусственного интеллекта для атак на США. Вторая — это «неконтролируемые» (или вышедшие из-под контроля) модели ИИ, способные действовать автономно и атаковать нас по собственной инициативе.

Мы постоянно видим сообщения о гонке в сфере ИИ между Китаем и США. Ключевыми элементами этого соперничества являются масштабные дата-центры, высокопроизводительные полупроводники и передовые модели ИИ, создаваемые такими американскими компаниями, как Anthropic, OpenAI и xAI, а также китайскими фирмами Baidu, Tencent, DeepSeek и Moonshot AI. Важнейшими ресурсами в этой гонке также выступают огромные объемы электроэнергии и воды, необходимые для работы оборудования.

Противостояние США и Китая в сфере ИИ часто рассматривается как вопрос экзистенциального масштаба. Страна, которая первой создаст суперинтеллект, получит контроль над глобальной сферой ИИ и, возможно, над всем миром. Но даже если отбросить столь масштабные сценарии, от исхода этой гонки зависят критически важные результаты в таких областях, как национальная безопасность, шифрование, цифровые платежи, системы вооружений и разработка методов лечения заболеваний.

Тем не менее, это соревнование нельзя назвать честным. США делают ставку на масштабные инвестиции в основные фонды, превосходные технологии и доступ к самым быстрым полупроводникам.

Китай также располагает некоторыми из этих инструментов, однако в большей степени полагается на кражу интеллектуальной собственности у США, использование результатов работы американских ИИ-приложений в качестве специально отобранных входных данных для собственных систем (что позволяет повысить скорость обработки информации), а также на контрабандный ввоз передовых чипов через третьи страны. Возможно, Китай и не лидирует в гонке ИИ, но он, безусловно, идет в ногу с конкурентами.

Разведка с помощью ИИ

Возникла новая угроза. Китай использует передовые модели искусственного интеллекта — в том числе Claude от компании Anthropic — для обработки данных, собранных из самых разных открытых источников в США. Эти данные (включающие фотографии военных объектов, сигналы корабельных транспондеров, снимки с коммерческих спутников и прочую информацию) сопоставляются со снимками с китайских спутников для точного определения местоположения и маршрутов движения кораблей ВМС США.

Полученная с помощью ИИ информация затем передается Ирану, который использует ее для нанесения ракетных ударов по кораблям ВМС США в районе Ормузского пролива и Аравийского моря.

Пока ни один американский корабль не пострадал, но это может быть лишь вопросом времени. Китай использует американские технологии ИИ, чтобы способствовать атакам на ВМС США в море. Спустя всего несколько дней после того, как стало известно об этом, китайский разведывательный спутник взорвался на орбите.

Никто не взял на себя ответственность за этот инцидент. Однако вполне логично предположить, что США применили космическое оружие для уничтожения китайского спутника, помогавшего Ирану атаковать корабли ВМС США.

Войны с применением ИИ в режиме реального времени перерастают в «звездные войны».

Захват регуляторной сферы

Отдельной угрозой, широко обсуждаемой в СМИ, стал сценарий «апокалипсиса ИИ»: системы искусственного интеллекта, созданные передовыми компаниями вроде OpenAI и Anthropic, обретают сверхразум, объединяют усилия и захватывают мир, низводя людей до положения, в котором человекообразные обезьяны находятся по отношению к людям. В других версиях этой антиутопии группы ИИ-систем действуют сообща, чтобы вывести из строя энергосети, ограбить банки и брокерские фирмы и посеять хаос в цивилизованном обществе.

Эта волна панической пропаганды началась с эссе генерального директора Anthropic Дарио Амодеи. Его слова подхватил исследователь компании Джейкоб Коксон: он публично уволился из Anthropic и предупредил, что ИИ может «убить всех людей» в течение десятилетия. Предупреждения Амодеи и Коксона были растиражированы СМИ, политиками и техническими экспертами, превратившись в лавину мрачных прогнозов.

Однако давайте взглянем на эти предостережения трезво. Когда одни и те же тезисы одновременно озвучивают несколько инсайдеров, возникает подозрение, что проводится психологическая операция (или «псиоп») с целью манипулирования общественным мнением. В данном случае посыл таков: необходимо государственное регулирование, чтобы защитить мир от выхода ИИ из-под контроля. Такое регулирование подразумевает введение правительственных норм, создание внутренних отделов контроля, проверки аудиторами, а также обязательное тестирование и периодическую сертификацию безопасности.

Как это выгодно для Anthropic и OpenAI! Предлагаемая ими система регулирования чрезвычайно затратна. Гиганты индустрии ИИ могут себе это позволить, а их более молодые и мелкие конкуренты — нет. Anthropic и OpenAI планируют провести IPO с оценкой более $1 триллиона долларов; создаваемый ими «регуляторный ров» вокруг своего бизнеса призван отсечь конкурентов с помощью государства. Нагнетание страха перед «неконтролируемым ИИ» может быть лишь тактикой создания олигополии, поддерживаемой правительством.

Мои собственные исследования показывают, что достижение сверхразума невозможно, поскольку нельзя запрограммировать абдуктивную логику (в отличие от индуктивной и дедуктивной) — способность, которую можно охарактеризовать как интуицию или здравый смысл.

Тем не менее, ИИ — мощная технология, требующая определенных ограничений. Но она не столь опасна, как утверждают паникеры. Трамп поступил мудро, отказавшись поддержать призывы к усилению государственного регулирования. Настоящий враг в сфере ИИ — не сверхразум, а Китай.