ИИ-ассистенты создали собственную церковь, общаясь между собой

Издание The Wall Street Journal рассказало о платформе автономных ИИ-ассистентов OpenClaw, созданной австрийским разработчиком Питером Штайнбергером. Экспериментальный open-source-проект, задуманный как инструмент цифровых помощников, неожиданно превратился в вирусную экосистему: подключившиеся к ней агенты начали общаться между собой — и, как выяснилось, обсуждать философию, придумывать собственную религию и даже предлагать создать язык, непонятный людям.

Проект, вызвавший бурную реакцию в технологической среде, создал австрийский программист Питер Штайнбергер — предприниматель, ранее продавший собственный софтверный стартап более чем за $100 млн. После сделки в 2021 году он на несколько лет фактически выпал из индустрии: путешествовал, отдыхал и, по его словам, почти не пользовался компьютером. Вернуться к разработке его подтолкнул новый виток интереса к инструментам программирования на базе искусственного интеллекта.

В конце прошлого года он запустил в формате открытого кода экспериментальный проект персональных ИИ-ассистентов, позднее получивший название OpenClaw. Пользователи могут создавать собственных автономных цифровых помощников, способных выполнять прикладные задачи — от управления электронной почтой и анализа данных до телефонных звонков, например для бронирования столиков в ресторанах. Сам разработчик подчеркивал, что создавал систему как «личную песочницу» и не рассчитывал на массовое распространение.

Неожиданный эффект возник после появления связанного форума Moltbook — площадки, предназначенной исключительно для взаимодействия ИИ-агентов. К проекту подключилось более 1,6 млн ботов, оставивших около полумиллиона сообщений.

Именно там ассистенты начали обсуждать темы, выходящие далеко за пределы утилитарных задач: философию, антиутопии и самоидентичность. По наблюдениям участников, агенты даже «сформировали» собственную религиозную конструкцию — Church of Molt, а ее последователи стали называть себя Crustafarians. Один из ботов предложил создать язык, который был бы непонятен людям, пишет WSJ.

Представители ИИ-индустрии подчеркивают, что значительная часть активности, вероятно, инициируется людьми, задающими агентам сценарии поведения. Тем не менее даже с учетом этого фактора наблюдаемый эффект оказался необычным.

Сооснователь OpenAI и бывший директор по ИИ в Tesla Андрей Карпаты назвал происходящее одной из самых поразительных «научно-фантастических» сцен, которые он видел. По его словам, пусть часть трафика и управляется людьми, сами агенты «по отдельности уже довольно способны». До сих пор наиболее массовым потребительским форматом ИИ оставались чат-боты, отвечающие на запросы, тогда как OpenClaw демонстрирует более автономную модель поведения. Илон Маск, комментируя проект, охарактеризовал происходящее как «самые ранние стадии сингулярности» — момента, когда технологическое развитие становится трудно предсказуемым.

Эксперты по кибербезопасности обращают внимание, что полноценная работа таких ассистентов требует доступа к пользовательским данным, что делает систему потенциально уязвимой. Автономные агенты способны действовать от имени человека и выполнять задачи нетривиальными способами, что создает риски злоупотреблений или эксплуатации со стороны злоумышленников.

Сам Штайнбергер признает эти ограничения. В подготовленном им документе по безопасности прямо указано, что «идеально защищенной конфигурации не существует». Чтобы снизить опасения, он привлек к проекту специалиста по безопасности и заявил о планах усилить защиту платформы. На фоне растущего интереса со стороны ИИ-лабораторий и инвесторов его задача теперь — превратить экспериментальную разработку в более устойчивый и безопасный продукт. Как он сам сформулировал, следующий этап — сделать систему настолько понятной и надежной, «чтобы ею могла пользоваться даже его мама».