Цукерберг выступил за баланс сил «сверхинтеллектов», чтобы не допустить тирании

Чтобы купировать многочисленные риски, связанные с развитием искусственного интеллекта, в том числе его возможный выход из-под контроля человечества, необходимо поддерживать систему сдержек и противовесов разных «сверхинтеллектов» между собой, заявил совладелец и гендиректор Meta* Марк Цукерберг в своем большом манифесте на 6,5 тысячи слов.

«Нам посчастливилось жить в невероятный момент истории», — начинает он с прогноза, что уже через несколько лет каждый сможет использовать «сверхразум», находящийся за пределами человеческих возможностей. При этом он опасается, что если этот «сверхразум» будет один или доступ к нему будет ограничен, например, под предлогом соображений безопасности, то это может привести к серьезному нарушению свободы и безопасности человечества.

Цукерберг спорит с теми, кто считает, что риски от развития ИИ имеют технологическое решение и возможно создать «единый доброжелательный сверхразум», который будет придерживаться моральных ценностей. Такую надежду он называет «в корне ошибочной».

«Не существует технологического решения, которое могло бы одновременно учитывать все противоположные интересы и ценности. Любой единый сверхразум был бы вынужден отдавать приоритет одним ценностям над другими и в результате оказался бы неспособен проявлять доброжелательность ко всем», — считает Цукерберг.

Вместо этого он предлагает развивать ИИ в русле идеи сдержек и противовесов — ключевой для демократических государств. Чтобы достичь этого, доступ к «сверхинтеллекту» должен получить каждый. Так, если бы только один человек имел доступ к «сверхинтеллекту» в сфере кибербезопасности, то он мог бы взломать практически любую систему в мире. Но если бы доступ к этому «сверхинтеллекту» имели все, то они могли бы защититься от таких атак.

«Когда люди наделены властью, они естественным образом конкурируют и сдерживают друг друга в экономической, социальной, политической и всех других сферах человеческого взаимодействия. Люди также сдерживают и уравновешивают власть институтов, включая бизнес и правительства. Но если власть сверхинтеллекта сосредоточена в руках небольшого числа людей, предприятий, правительств или самого ИИ, то это, естественно, приведет к результатам, менее благоприятным для всех остальных», — пишет Цукерберг.

В середине июня компания Anthropic ограничила доступ к своим передовым моделям Fable 5 и Mythos 5 — американское правительство потребовало отключить от них иностранцев по соображениям «национальной безопасности», и компания решила заблокировать доступ для всех. Спустя две недели компании удалось договориться с Белым домом и восстановить доступ к Fable 5. Однако Mythos продолжает работать лишь для ограниченного круга организаций, разрешенных администрацией президента, которая не спешит его расширять.

В своем манифесте Цукерберг, хотя и без имен, критикует то, что «большинство других лабораторий сосредоточены на разработке ИИ для компаний, правительств или других учреждений», а не для граждан. Потеря же баланса сил между людьми и властью ведет к утрате свободы или тоталитарному государству, отмечает Цукерберг. Он обещает, что Meta не пойдет по этому пути и будет разрабатывать «сверхинтеллект для всех».

В манифесте Цукерберг также неоднократно призывает развивать ИИ с открытым исходным кодом как хороший способ предотвратить централизацию технологии — стратегия, от которой, как напоминает Bloomberg, сама Meta в последние годы отказалась и развивала закрытые модели. Однако в понедельник, 10 августа, компания выпустила новую модель с открытыми весами (open-weight) Muse Glimmer. Пользователи могут скачивать и изменять модель, однако, в отличие от open-source, не видят все ее «ингредиенты».

Цукерберг также не согласился с опасениями, что ИИ приведет к росту безработицы. Он отметил, что эта технология, с одной стороны, действительно позволяет компаниям увеличивать автоматизацию, с другой — дает дополнительные возможности сотрудникам и тем самым с такой же или даже более быстрой скоростью улучшает их профессиональные качества и ценность.

Как считает Цукерберг, новая технология создаст новые профессии, как это уже было с появлением компьютеров и соцсетей и во время промышленной революции.

При этом число сотрудников в компаниях действительно может сократиться, признает он. Однако в то же время вырастет количество самих компаний и в результате общая занятость в экономике не уменьшится, считает Цукерберг. Дело в том, что запустить свой бизнес в эпоху ИИ станет проще.

«Я ожидаю, что мы начнем видеть, как небольшие команды с персональными агентами сверх-интеллекта смогут управлять компаниями в значительных масштабах. В будущем малый бизнес продолжит оставаться основой экономики, но каждый малый бизнес сможет оказывать гораздо большее влияние», — оптимистичен глава Meta.

* Компания Meta признана экстремистской и запрещена на территории РФ.

^{Фото на обложке: соцсети Марка Цукерберга}