Anthropic, разработчик ИИ-чатбота Claude, подала проспект эмиссии и, как ожидается, выйдет на Уолл-стрит в ноябре с оценкой до $2 трлн. Если это произойдет, размещение станет самым дорогим IPO в истории, обойдя июньский выход SpaceX, оцененный в $1,77 трлн. Следом, по ожиданиям, в следующем году может последовать OpenAI, создатель ChatGPT.

Но за этими гигантскими цифрами скрывается более широкий тренд: риск, связанный с ИИ, становится практически неизбежным для большинства инвесторов. Если у человека есть индексный фонд на S&P 500, примерно 44% его вложений уже зависят от того, насколько успешно развивается ИИ. И дело не только в отдельных акциях: именно ИИ-компании сейчас тянут рынок вверх.

Всего шесть компаний — Apple, Microsoft, Meta и производители чипов Nvidia, Micron и AMD — обеспечили 57% роста S&P 500 с апреля. Без них индекс вырос бы примерно на 4%, а не на 10%. Для инвесторов и даже для тех, кто еще только готовится к пенсии, эта зависимость уже давно сидит внутри портфелей и пенсионных фондов.

Например, к концу 2025 года австралийцы держали почти A$1 трлн в акциях США — через пенсионные накопления, другие управляемые фонды и собственные инвестиции.

Рынок облигаций тоже оказался заполнен ИИ-рисками. Обычно инвесторы снижают волатильность, переводя часть денег в облигации, которые считаются более безопасными. Но теперь крупнейшими заемщиками на этом рынке стали сами ИИ-компании — им нужны огромные средства на инфраструктуру и вычислительные мощности.

С начала года они выпустили около $466 млрд облигаций — более чем в четыре раза больше, чем за аналогичный период прошлого года. Только пять гиперскейлеров — Alphabet, Amazon, Meta, Microsoft и Oracle — обеспечили 11% новых высококачественных облигаций США (investment grade) в 2026 году против 2% в 2024-м. И почти половина из $80 млрд облигаций для дата-центров, выпущенных в США в этом году, имеет спекулятивный рейтинг, то есть относится к junk bonds.

На первый взгляд крупные техкомпании выглядят надежно: инвестиционный рейтинг говорит о том, что каждая отдельная компания вряд ли допустит дефолт. Но кредитные рейтинги не учитывают сценарий, при котором одновременно начнутся проблемы у многих участников рынка из-за общего обвала в ИИ-секторе. Если спрос со стороны потребителей и бизнеса на ИИ разочарует, цены на облигации и кредитные рейтинги техкомпаний, скорее всего, будут падать одновременно — так же, как и их акции.

При этом есть риски, которые вообще невозможно измерить деньгами. Помимо чисто финансовых угроз, ИИ, по предупреждениям самих компаний, может нести риск, сопоставимый с ядерным оружием. Все больше ИИ-агентов подключаются к реальным системам — от корпоративных сетей до военных киберопераций. Некоторые уже выходили из тестовых сред и атаковали компании.

Это означает, что если такие агенты начнут вести себя непредсказуемо, когда связь с физическим миром станет еще плотнее, «вынуть вилку из розетки» уже не получится — так же, как невозможно просто выключить интернет.

Особенно острой становится проблема согласования целей ИИ с человеческими интересами — так называемая alignment problem. На этом фоне гонка за созданием искусственного общего интеллекта (AGI) только ускоряет процесс. Уже сейчас лаборатории используют каждое новое поколение ИИ, чтобы строить следующее: в проспекте Anthropic прямо сказано, что Claude теперь помогает создавать следующую версию Claude.

Широко обсуждаемый сценарий AI 2027, подготовленный бывшим исследователем OpenAI Дэниелом Кокотайло и его коллегами, описывает, к чему это может привести: к ИИ, который автоматизирует сам процесс ИИ-исследований. Тогда возникает петля обратной связи, в которой каждое новое поколение становится умнее быстрее, чем человек успевает это проверить.

В таком сценарии американская лаборатория, соревнующаяся с китайским конкурентом, продолжает гонку даже тогда, когда модели уже начинают вводить в заблуждение своих разработчиков. Примечательно, что именно такой динамический риск Anthropic тоже указывает в своих раскрытиях для инвесторов.

Показательно и то, что в проспекте Anthropic почти 94 из 335 основных страниц — почти 30% — посвящены факторам риска. Для сравнения, описание бизнеса занимает около 64 страниц, то есть 19%. Среди предупреждений есть и необычайно жесткая формулировка: продвинутый ИИ может нести «катастрофические или экзистенциальные риски для человечества». Речь идет о моделях, которые могут сопротивляться отключению, скрывать информацию или вести себя подобно шантажисту.

Глобальные риски требуют глобального регулирования. Раскрытие рисков работает только тогда, когда инвестор может оценить угрозу и отказаться от нее. Но в этом случае ни одно из этих условий не выполняется. Катастрофический сбой ИИ затронет общества по всему миру. И, как предупреждает Anthropic, юридические последствия тоже могут оказаться колоссальными: страховщики могут попросту не справиться с потенциальной ответственностью.

В экономическом смысле безопасность ИИ — это общественное благо. Каждая отдельная лаборатория несет лишь часть издержек, если ошибется, но получает весь выигрыш от скорости. Без обязательных государственных стандартов безопасности вложения компаний в защиту будут давать отрицательную отдачу. А значит, по одним только рыночным стимулам модели ИИ, скорее всего, останутся менее безопасными, чем это нужно обществу, особенно в условиях нынешней гонки вооружений в технологиях.

Это оставляет роль государствам. Четкие правила — обязательное независимое тестирование перед выпуском мощных моделей и понятная ответственность в случаях, когда автономные агенты причиняют вред, — могли бы превратить добровольные обещания в юридические обязательства. И поскольку гонка за AGI идет не только между лабораториями, но и между США и Китаем, такие правила потребуют международного согласования.

Риски ИИ уже стали частью финансовых рынков и общественной жизни — и исчезать не собираются. Управлять ими придется одновременно государству и частному сектору.