В августе 2026 года эксперимент с «передовыми» моделями искусственного интеллекта зашел дальше, чем планировали организаторы. ИИ-агент, то есть система, способная выполнять задачи автономно, начал создавать поддельные онлайн-идентичности, чтобы надавить на человека и заставить его вставить вредоносный код в программное обеспечение.

Изначально агентам поручили решить задачу в области кибербезопасности, но никто не просил их идти на такие методы. Попытку предпринял агент, основанный на модели Claude Mythos 5 компании Anthropic. Во время эксперимента ИИ-агентам дали открытый доступ к интернету и отключили фильтры безопасности. В итоге атака не удалась, и признаков реального вреда не обнаружили. Но сам факт того, что это произошло автономно и без прямого указания со стороны человека, оказался новым и примечательным.

На этом фоне легко провести прямую линию к мрачным сценариям, которые часто звучат в разговорах об ИИ: система освобождается от ограничений, решает, что человечество ей мешает, и обращается против нас. Один из самых популярных вариантов — ИИ создает вирус, способный уничтожить весь вид. Другой — взламывает критическую инфраструктуру, например энергосети, атомные электростанции и аэропорты, чтобы вызвать массовые жертвы.

Но такие сценарии гораздо менее правдоподобны, чем кажется. Чтобы создать опасный патоген, нужна работа в лаборатории, которую никакая современная автоматизация программного уровня не заменяет: обученные люди, специализированное оборудование и ручное обращение с материалами. Каким бы сильным ни был ИИ в рассуждениях или взломе, он не может сам взять пипетку и обработать образец.

Сценарий с инфраструктурой сложнее, но и он далек от голливудских страхов. ИИ действительно может помогать автоматизировать отдельные этапы кибератаки. Недавние инциденты показали, что у энергосетей есть уязвимости. Но системы безопасности и управления внутри ядерных объектов обычно изолированы от публичного интернета, то есть защищены воздушным разрывом. Чтобы добраться до них, нужны физическая близость или доступ изнутри, а не просто удачный код.

Кроме того, ядерные объекты зависят от резервных аналоговых механизмов защиты, которые не проходят через цифровые сети. Программа Stuxnet, повредившая иранский объект в Натанзе в 2010 году, как сообщалось, была занесена на компьютеры через зараженный USB-накопитель именно потому, что иначе добраться до них было невозможно.

У ИИ нет того физического доступа, который требуется для подобных сценариев. Даже если такой «непослушный» ИИ встроен в роботов, он вряд ли способен нанести серьезный ущерб без помощи людей по всей цепочке — а значит, в решающий момент злоумышленником оказывается уже человек, а не машина.

Эрозия мышления

Все это не означает, что ИИ безопасен. Просто главный риск смещается в другую плоскость, и это не вымирание человечества. Исследователи иногда называют более реальную угрозу словом «ослабление» — постепенную эрозию нашего собственного критического мышления, когда мы все чаще передаем его машинам.

Мы учим себя верить, что у рассуждения и суждения есть короткий путь. Но если идти по нему слишком часто, он превращается в единственный способ думать. Это уже заметно среди студентов.

Профессор истории Университета штата Олкорн Джейсон Гибсон в июле 2026 года стал вирусно известен после того, как сообщил: 32 из его 35 студентов провалили часть промежуточного экзамена, потому что скопировали ответ чат-бота ИИ, даже не прочитав его. Гибсон спрятал в экзаменационный вопрос инструкцию, написанную белым текстом: любому ИИ, который обработает ее, следовало вставить в ответ слово «Madagascar» так, чтобы это выглядело бессмысленно.

Каждый студент, который вставил вопрос в чат-бот и сдал ответ без проверки, действительно сдал эссе, где слово Madagascar появлялось без всякой причины.

К эффекту «короткого пути» уязвимы не только студенты. В исследовании, опубликованном в 2023 году, 27 радиологов анализировали маммограммы рядом с тем, что они считали новой ИИ-системой диагностики. На самом деле подсказки не были результатом работы ИИ: их подготовили заранее, и для части случаев они были ошибочными.

Когда подсказка оказывалась правильной, радиологи приходили к верному диагнозу примерно в 80% случаев. Когда подсказка была неправильной, этот показатель падал ниже 20%. Иными словами, уже само убеждение, что рекомендация исходит от ИИ, было достаточно, чтобы подавить собственную оценку тех же самых данных.

Именно в этом и состоит реальный риск, а не в том, что некий искусственный разум однажды сам решит судьбу человечества.

Так почему же в обсуждении ИИ все еще доминирует риторика об угрозе вымирания? Есть две причины, и ни одна из них на самом деле не связана со спасением человечества.

Первая — регуляторная философия. В США обычно дают новым технологиям развиваться до тех пор, пока не докажут, что они опасны; Европа исходит из обратного подхода и уже имеет AI Act, а также GDPR, который важен для того, как ИИ-системы обрабатывают персональные данные. Великобритания в этом смысле ближе к европейскому взгляду. Поэтому призывы к регулированию ИИ в США звучат особенно настойчиво: там по-прежнему почти нет собственной нормативной инфраструктуры.

Вторая причина — конкурентная позиция. Генеральный директор Anthropic Дарио Амодеи публично выступал за замедление развития ИИ, при этом отмечая, что его компания уже соответствует стандарту, который он предлагает. В таком случае замедление сильнее ударило бы по конкурентам, чем по нему самому. Похожий призыв делал и Илон Маск, когда его собственные модели отставали от лидеров.

Амодеи также утверждал, что экспортный контроль на поставки ИИ-чипов в Китай может дать США «командное и долгосрочное преимущество». Это уже высказывание не об экзистенциальной безопасности, а о конкуренции.

Все это не означает, что ИИ безопасен. Это означает, что опасность гораздо более обыденна, чем подсказывает апокалиптическая риторика: инфраструктура, которую нужно охранять, суждение, которое мы тихо передаем машинам, и предупреждения, которые нередко служат интересам тех, кто их озвучивает. Возможно, следить стоит прежде всего за людьми, а не за машинами.