Когда все роботы начнут продавать

Одна из угроз в финансовом секторе заключается в использовании ИИ для управления портфелями активов и даже для совершения конкретных сделок с акциями, облигациями и валютами. Поначалу это может приносить прибыль.

Проблема в том, что по мере того, как все больше управляющих портфелями начинают применять ИИ, алгоритмы, обученные на схожих данных и имеющие схожую архитектуру, могут спровоцировать «стадное поведение». Это, в свою очередь, способно вызвать панику, поскольку алгоритмам недостает человеческого здравого смысла и способности к независимому суждению.

В такой ситуации регуляторам, возможно, придется вмешаться и приостановить торги до тех пор, пока ситуация не стабилизируется.

Коротко говоря, ИИ выступает в роли мощнейшего резонатора. Анализируя причины потенциальной рыночной паники, вызванной ИИ, нельзя упускать из виду самый значимый фактор: сам искусственный интеллект способен многократно усилить негативный эффект.

Многие системы для торговли и управления рисками, которыми пользуются банкиры, брокеры и управляющие капиталом, уже содержат встроенные автоматизированные функции или элементы ИИ — зачастую даже без ведома самих пользователей.

Большинство таких инструментов довольно просты и относительно безобидны. Например, если торговая система настроена так, чтобы при падении цены акции на 2% подавать пользователю звуковой сигнал, — это лишь автоматизированная система оповещения, не представляющая особой опасности. Решение о том, как действовать после получения такого сигнала, остается за человеком.

Однако сделать следующий шаг совсем несложно: можно запрограммировать систему так, чтобы она автоматически продавала акции при достижении того же порога в 2%, не дожидаясь указаний от человека. Трейдеры ценят такие механизмы (известные как стоп-лосс) на волатильных рынках, ведь они избавляют от необходимости следить за каждой бумагой и принимать каждое решение самостоятельно. Со временем системы становятся все сложнее, обрастают новыми параметрами и обретают все большую автономность.

Некоторые хедж-фонды уже используют ИИ для принятия решений о покупке и продаже активов без участия человека. В основе таких систем лежат многослойные нейронные сети, технологии глубокого обучения и огромные массивы данных, на которых они проходили подготовку. Согласно недавним научным исследованиям, подобные системы способны превосходить по эффективности аналитиков и трейдеров-людей.

По мере распространения подобных систем возникает опасность того, что все большая доля совокупных активов, находящихся в управлении, будет передана роботам для осуществления запрограммированной торговли.

Если бы роботы обладали чем-то вроде человеческого когнитивного разнообразия — например, если бы одни из них были более склонны к осторожности, другие следовали за трендами, а третьи, напротив, играли против рынка, — можно было бы создать своего рода «экосистему» ​​торговли, подобную человеческой. В такой системе страх и жадность уравновешивали бы друг друга, позволяя поддерживать некое равновесие с ограниченной волатильностью. Однако в действительности все обстоит иначе.

Напротив, в основе алгоритмов лежат одни и те же факторы (усвоенные в бизнес-школах, на экономических факультетах и ​​в ходе обучающих программ на Уолл-стрит); весовые коэффициенты, определяемые с помощью регрессионного анализа, практически идентичны; лимиты стоп-лоссов — одинаковы (поскольку их устанавливают риск-менеджеры, использующие стандартные инструменты по указанию руководства); да и входящие данные у всех одни и те же, ведь новости поступают ко всем участникам рынка одновременно.

Схожие стратегии

Многие наборы данных для обучения пересекаются, поскольку они формируются на основе одних и тех же интернет-ресурсов. Поэтому неудивительно, что результаты работы моделей оказываются идентичными. При отсутствии централизованной координации — и даже без намерения добиться такого единообразия — все эти «роботы» действуют по одному и тому же сценарию. Последствия для рынка могут быть пугающими.

Эти и другие угрозы рано или поздно проявят себя. Эксперты уже могут подробно их описать. Существуют задокументированные случаи, когда передовые модели вели себя обманчиво или пытались обойти встроенные механизмы защиты. Однако это не стало препятствием для стремительной подготовки к масштабным IPO компаний OpenAI и Anthropic, которые могут состояться в ближайшем будущем.

Одна из серьезных ошибок, которую совершают люди, — это антропоморфизация GPT (и лежащего в его основе искусственного интеллекта). Мы начинаем воспринимать Alexa, Siri и других «роботов» как друзей или доверенных лиц. Мы доверяем им чрезмерно. Важно понимать, что за этим фасадом нет никакого подлинного интеллекта — только математические вычисления.

Помимо излишнего доверия, стоит учитывать, что такие системы крайне склонны к ошибкам. Они способны выполнять впечатляющие аналитические задачи, но в то же время могут выдумывать факты (так называемые «галлюцинации») или предоставлять совершенно неверную информацию. Если вы сами являетесь экспертом в данной области и способны заметить ошибку — это еще полбеды. Гораздо опаснее, когда пользователь, не обладая глубокими знаниями в предмете, полагается на ошибочные данные при принятии важных решений.

Пределы искусственного интеллекта

Наиболее пугающие прогнозы сводятся к тому, что искусственный интеллект (ИИ) захватит мир и уничтожит человечество. К счастью, это лишь преувеличение. Подобного не произойдет, поскольку создание сверхразума (или сильного искусственного интеллекта — AGI) — состояния, при котором люди относились бы к ИИ так же, как обезьяны к людям, — возможно, никогда не будет достигнуто. Гуру в области ИИ продолжают утверждать, что AGI будет создан, и тратят на доказательство этого более $1 триллиона долларов, однако эти средства будут потрачены впустую.

Компьютеры не способны функционировать на таком уровне. Они могут находить уже существующие знания и решать сложные задачи с невероятной скоростью, но вопрос о том, способны ли они, подобно людям, создавать новое знание, остается спорным.

Согласно «закону сохранения информации» в процессах поиска — концепции, разработанной моим коллегой Биллом Дембски и другими исследователями, — ИИ может лишь перераспределять уже имеющуюся информацию, но не способен находить новую. Все результаты работы ИИ берутся из существующих источников или же привносятся в модель через сам поисковый запрос. На мой взгляд, создавать по-настоящему новую информацию могут только люди.

Учитывая эти и другие проблемы, путь компаний Anthropic и OpenAI к выходу на биржу (IPO) отнюдь не будет легким. Если их IPO не удастся провести при запланированной оценке стоимости (или если они вовсе не состоятся), причины могут оказаться весьма прозаичными.

Среди них — огромные операционные убытки, отрицательный денежный поток и резкое падение цен на «токены» — единицы вычислительной мощности, которые продают компании в сфере ИИ.

Кроме того, растут юридические риски. Иски могут быть поданы в связи с ущербом, нанесенным другим программным компаниям, детям, а также людям, которые полагались на советы ИИ в медицинских вопросах — и столкнулись с серьезными последствиями, когда эти советы оказались опасными и ошибочными.

Еще одним препятствием для IPO компаний Anthropic, OpenAI и других претендентов в сфере ИИ является конкуренция со стороны Китая. Китайские разработчики внедряют модели с открытым исходным кодом — например, Kimi, созданную компанией Moonshot AI. Это контрастирует с закрытыми проприетарными моделями, на которые делают ставку ведущие американские ИИ-компании.

Ловушка «дешевого» искусственного интеллекта из Китая

Китайская сторона выбрала хитроумную стратегию: они делают свои передовые модели искусственного интеллекта общедоступными (с открытым исходным кодом) и практически бесплатными. Это означает, что любая компания может загрузить такую ​​модель и использовать ее по цене, которая зачастую оказывается значительно ниже предложений от OpenAI.

Многие руководители технологических направлений в корпорациях могут отдать предпочтение китайским разработкам исключительно из соображений экономии — тем более что по своей производительности они сопоставимы с лучшими моделями от американских технологических гигантов.

Однако здесь есть подвох. Тот факт, что веса модели с открытым исходным кодом можно скачать бесплатно, вовсе не означает, что ее эксплуатация ничего не будет стоить. По мере роста компании расходы на инфраструктуру, техническую поддержку и интеграцию могут увеличиваться — даже если в конечном итоге они останутся ниже затрат на американские аналоги.

И вот в чем заключается главная ловушка: любая модель требует настройки для взаимодействия с другими системами. Если китайские модели глубоко интегрируются в корпоративные ИТ-ландшафты, их разработчики могут получить рычаги влияния на программные экосистемы и операционные стандарты.

Ситуация напоминает то, что происходило с Microsoft, начиная с 1980-х годов. На мой взгляд, программное обеспечение Microsoft тогда уступало системам UNIX или Macintosh. Но компания росла настолько стремительно, что ее продукты оказались «намертво» внедрены практически в каждой организации. ИТ-руководителям приходилось переходить с одной версии Windows на другую — вплоть до Windows 11, — поскольку они не хотели полностью демонтировать существующие системы и начинать все с нуля.

Наконец, стоит задуматься и о том, кто именно возглавляет эту революцию в сфере искусственного интеллекта.

Империя обещаний Сэма Альтмана

Кто такой Сэм Альтман?

Мы знаем, что он — генеральный директор OpenAI, одного из гигантов в сфере искусственного интеллекта, занимающегося разработкой так называемых «передовых моделей», которые расширяют границы вычислительных мощностей и сложности алгоритмов. Это невероятно важный проект, способный повлиять на будущее человечества, и Альтман играет в нем ключевую роль. Но что мы на самом деле о нем знаем?

Прежде всего, он не ученый и не инженер. Он бросил колледж и не имеет диплома о высшем образовании. В этом нет ничего плохого: многие умные люди оставляют учебу и добиваются значительных успехов. Однако не стоит полагать, что он обладает такими же техническими знаниями, как ученые и инженеры, создающие модели, которые он продвигает.

Он также не является исследователем: на его счету нет научных работ, прошедших рецензирование. И это тоже нормально — у предпринимателей могут быть дела поважнее, чем проведение научных исследований.

Если заглянуть за кулисы, становится ясно, что Альтман — по сути, просто промоутер. В 2005 году он основал компанию Loopt, которая не смогла добиться успеха и была продана другой технологической фирме. В 2011 году он пришел в Y Combinator (YC) — крайне успешный фонд, инвестировавший в сотни технологических стартапов. Основатель YC Пол Грэм позже рассказал, что Альтмана отстранили от руководства фондом из-за «недоверия со стороны партнеров YC».

Впоследствии Альтман стал соучредителем OpenAI вместе с Илоном Маском и другими инвесторами; среди первых спонсоров был и Питер Тиль. Изначально OpenAI задумывалась как некоммерческая организация, призванная проводить исследования в области ИИ на благо человечества. Альтман же перевел ее на коммерческие рельсы, что вызвало недоверие со стороны Маска. Позже Маск подал иск против OpenAI и Альтмана, обвинив их в нарушении договорных обязательств.

Таким образом, Альтман — это промоутер, человек, умеющий привлекать средства и громко заявлять о себе, за плечами которого — череда конфликтов и обвинения в невыполненных обещаниях. Он, конечно, не худший человек на свете, но возникает вопрос: стоит ли доверять именно ему руководство революцией в сфере искусственного интеллекта?

8 октября появились сообщения о том, что годовой доход OpenAI приближается к $50 миллиардам долларов — это примерно на $20 миллиардов меньше той цифры, которая фигурировала в данных, обнародованных всего несколькими днями ранее. Такое расхождение возникло главным образом из-за различий в подходах ИИ-компаний к учету продаж, осуществляемых через облачных партнеров.

Anthropic и OpenAI соперничают друг с другом в стремлении первыми выйти на IPO. Однако им также приходится вести своего рода «гонку» с регуляторами, юристами и скептически настроенными клиентами — ведь еще большой вопрос, удастся ли им вообще провести первичное размещение акций.