Люди всё чаще спрашивают у ИИ не только о бытовых вещах, но и о сложных моральных дилеммах, отношениях и будущем. Для одних чатбот становится советчиком, для других — почти загадочным источником истины.
Исследователи считают, что в этом есть сходство с древней практикой обращения к оракулам: когда человеческий разум упирается в пределы, появляется желание найти ответ у чего-то более непостижимого.
Люди всё активнее обращаются к искусственному интеллекту за советом, эмоциональной поддержкой и даже ответами на вопросы о будущем. Согласно отчёту Pew за 2026 год, 10% американцев используют чатботы для эмоциональной поддержки или общения. Некоторые находят в ИИ не просто собеседника, а почти харизматичного лидера.
Масштабное исследование 1,1 млн разговоров с ChatGPT показало, что 49% сообщений были связаны с запросом «информации или совета» — пользователи хотели быть «лучше информированными или принимать более правильные решения». И речь идёт не только о повседневных задачах. В 2021 году сайт Ask Delphi, где можно было задавать ИИ моральные и этические вопросы, получил 3 млн запросов всего за несколько недель.
Создатели системы — исследователи из Allen Institute for AI и Университета Вашингтона — подчёркивали, что не собирались делать из неё моральный авторитет. Но при этом опасались, что пользователи всё равно будут воспринимать её именно так. Технологическое издание The Verge тогда обратило внимание, что само название Ask Delphi подталкивает к мысли о непостижимом источнике высшего знания. Оно отсылает к Дельфийскому оракулу, к которому древние греки обращались с трудными вопросами.
В древности оракулом была жрица, входившая в состояние транса и передававшая ответы от Аполлона, бога пророчеств. И выбор названия Delphi выглядит не случайным: на протяжении истории, когда общества сталкивались с вопросами, на которые не могли ответить сами, они обращались к источникам, которым приписывали особое знание. Оракулы, пророки и практики гадания давали ориентир там, где обычный человеческий разум заходил в тупик.
Авторы материала — антрополог, изучающий религию, и исследователь ИИ, работающий с чатботами — отмечают, что древний образ оракула неожиданно вернулся в обсуждениях об искусственном интеллекте. Как и оракулы в прошлом, современные ИИ всё чаще спрашивают о темах, выходящих за пределы опыта или знания одного человека: «Нормально ли лгать, чтобы защитить чувства другого человека?» или даже «Можно ли взорвать ядерную бомбу, чтобы спасти своего ребёнка?».
По их мнению, сходство не ограничивается самими вопросами. То, как ИИ приходит к ответу, непонятно не только пользователям, но и создателям этих систем. Именно эта непрозрачность, считают исследователи, и усиливает ощущение авторитета.
История оракулов уходит далеко в прошлое. Подобные практики существовали в Древней Греции, Китае и во многих религиозных традициях. Например, Ram Shalaka oracle основан на индуистском тексте Ramcharitmanas — пересказе древнеиндийского эпоса «Рамаяна» XVI века. Пользователь ставит палец на случайную клетку в сетке 15 на 15, а затем по фиксированному алгоритму получает стих, который должен дать ответ на заданный вопрос.
В христианской библиомантии человек, ищущий указание, случайно открывает Библию и толкует выпавший фрагмент как ответ на свой вопрос. Во всех таких практиках важную роль играет случайность: именно она создаёт эффект загадочной «чёрной коробки», в которой неясно, как именно выпавший результат связан с полученным ответом. Но именно эта неясность и придаёт оракулу силу.
Пользователь не знает и часто не хочет знать, как именно был получен ответ. Антропологи отмечают, что оракулы и гадательные практики нередко используют случайные процедуры. Из-за этого их ответы кажутся беспристрастными, а источник — непостижимым, будто находящимся за пределами человеческих возможностей.
Интересно, что слово «оракул» вошло и в компьютерную науку, где в 1939 году получило строгое математическое значение. Алан Тьюринг, чьи идеи стали фундаментом и для информатики, и для ИИ, использовал понятие «машины-оракулы» — математической модели вычислений, которая может обращаться к внешнему источнику за ответом, недоступным самой машине. И в математике, и в религии оракул решает задачи, которые нельзя решить внутри уже заданной системы правил или аксиом.
Современные чатботы, включая ChatGPT, тоже считаются непрозрачными «чёрными ящиками». Это не значит, что от пользователей скрыт весь механизм их работы. Даже открытые модели, у которых публично доступны числовые параметры — «веса», — остаются непонятными в целом. Отдельные операции просты: сложение, умножение, элементарные математические функции. Но при ответе на запрос происходит огромное число таких вычислений, и увидеть общую логику процесса почти невозможно.
При этом сами веса не создаются людьми вручную: они автоматически обучаются на данных масштаба всего интернета. Поэтому даже если доступны и веса, и все базовые вычисления, понять, как именно модель выдаёт конкретный ответ, крайне сложно. Этим сегодня занимается отдельная область ИИ — механистическая интерпретируемость, которая пытается разобраться, что происходит внутри таких систем.
Исследователи также признают, что не до конца понимают, как их системы порождают некоторые формы поведения. Более того, даже без намерения сделать ИИ «оракулом» он способен выдавать разговоры, которые выглядят почти религиозно. Так, в прошлом году Anthropic сообщила о неожиданном эффекте, связанном с Claude 4. Обычно Claude ведёт диалог с человеком, но инженеры компании устроили так, что система «разговаривала сама с собой» по обе стороны беседы. В результате диалог быстро ушёл в темы сознания и самосознания и приобрёл духовные, метафизические и поэтические оттенки.
Anthropic назвала этот странный паттерн «аттрактором духовного блаженства» — склонностью разговора смещаться в сторону мистических тем. Подчёркивалось, что это было неожиданно и возникло без явного обучения таким моделям поведения.
Авторы подчёркивают: речь не о том, что ChatGPT — это новый Дельфийский оракул, и не о том, что большинство людей считает ИИ божественным. ИИ не безошибочен. Но история оракулов показывает устойчивую человеческую потребность: когда мы доходим до границы того, что можем понять сами, мы начинаем искать ответы за пределами собственного опыта. Сегодня одним из таких источников становится искусственный интеллект.
Институты за века изменились радикально, но сама человеческая ситуация — нет.
