Когда машины будут контролировать все, не начнут ли они в итоге контролировать и тех, кто у власти?

Я давно со скепсисом смотрю на то, как преподается практически в любой стране мира предмет истории в школах. Особенно в нашем регионе. Школьникам вбивают в головы упрощенные мифы, которые нередко имеют очень мало общего с реальностью. Если вы хотите узнать настоящую историю, вам, скорее всего, придется идти в университет — и лучше в магистратуру или докторантуру по истории — или углубляться самому, но для этого нужен внутренний компас, а лучше помощь от профессиональных историков, чтобы отсеять ту чушь, которой полны школьные учебники.

Нечего удивляться, что в глазах литовцев пробежала черная кошка литвинизма. Примитивизация школьной истории — это болезнь и белорусская, и литовская, так же как и многих других народов.

Может поэтому, когда читаю исторические книги, очень нравится, когда их пишет кто-то «извне», с перспективы аутсайдера. Для меня это как глоток свежего воздуха — прочитать, скажем, то, что писал Тимоти Снайдер про Восточную Европу. По похожей причине, мне нравится идея «большой истории», которую популяризирует Юваль Ной Харари. Многие профессиональные историки критикуют их обоих за упрощения и фактические ошибки. Но даже с ошибками, неточностями, я бы сказал, что такие авторы ценные, потому что позволяют взглянуть на историю шире, вырваться за пределы локальной перспективы и освежить свое восприятие более широким контекстом.

Я полюбил книги Харари — «Sapiens», «Homo Deus» и «21 урок для XXI века», — и поэтому мне было бы трудно обойти и его новую книгу, тем более что я был на ее презентации здесь, в Нью-Йорке, и имею экземпляр с автографом.

Что можно сказать? «Nexus» — это огромный анализ того, как информация, в широком смысле слова, формирует общества. Юваль Харари утверждает, что истории, которые объединяют людей, позволяют сотрудничать в масштабах, невозможных для других видов. Именно нарративы, а не факты, являются основой для социальной сплоченности.

Автор оспаривает так называемый «наивный взгляд на информацию» — веру в то, что чем больше распространяется информации, тем больше становится понимания и мудрости. Такой взгляд, например, имеет Илон Маск. Мол, старые медиа плохие, они часто предвзятые. Давайте все лучше читайте и пишите в его социальную сеть Х. Там вы найдете правду.

Харари утверждает, что дело не только в количестве, но и в качестве информации, в том, как она распространяется и как люди ее воспринимают. Он показывает, что этот наивный взгляд ведет к тому, что побеждает информация низкого качества и легкой усвояемости, а глубокие, правдивые вещи остаются незамеченными.

В первой части «Nexus» автор рассматривает органические сети — человеческие сообщества, организованные вокруг общих историй. Например, автор обращает внимание на контраст демократий и диктатур в том, как в таких системах распространяется информация. Харари предостерегает, что с развитием искусственного интеллекта диктатурам будет значительно проще контролировать и отслеживать человека.

Во второй части Харари обращает внимание на неорганические сети — цифровые системы и искусственный интеллект. Он утверждает, что современные машины уже не просто инструменты: они могут генерировать идеи и действовать автономно.

Вместе с этим развивается опасная тенденция: постоянный сбор данных, массовое наблюдение и исчезновение приватности. Системы ИИ, натренированные на предвзятых данных, способны усиливать неравенство или даже стать катализатором насилия, пишет автор.

Третья часть «Nexus» посвящена будущему политики в условиях глобальной дигитализации. Демократии, по словам Харари, сегодня стоят перед серьезными вызовами: таргетированная реклама, фейки, алгоритмы, поднимающие вверх скандальный и часто неправдивый контент — все это подрывает возможность свободной публичной дискуссии.

Авторитарные режимы, в свою очередь, могут использовать искусственный интеллект для тотального контроля. Но существует парадокс: если машины будут контролировать все, не начнут ли они в конечном итоге контролировать и тех, кто у власти?

Павялічыць

Харари также вводит понятие «Кремниевого занавеса» — возможной будущей цифровой фрагментации мира на отдельные информационные экосистемы, например, американскую и китайскую.

Одна из самых интересных концепций в книге — инородный интеллект — искусственный интеллект, способный к самостоятельному мышлению. Это — потенциально экзистенциальная угроза для человечества, если ее не контролировать. Может показаться, что определенные вещи автор преувеличивает. Современные системы ИИ все же значительно более ограничены, чем это может казаться. Другой вопрос, как близко мы к общему искусственному интеллекту. Впрочем, большой вред может исходить и от уже существующих систем, о чем пишет автор. Язык не поворачивается назвать автора «думером». Вместо пессимиста или оптимиста себя он, скорее, считает реалистом. Харари считает, что человечество обладает необходимыми ресурсами и знаниями для решения существующих проблем, но подчеркивает важность действий, а не пассивной надежды, что ситуация улучшится, или отчаяния от того, что этого не произойдет.

Взгляд Харари характеризуется сильным акцентом на признании потенциальных угроз, одновременно он выступает за проактивные меры и ответственное использование технологий для формирования более желаемого будущего.

Автор подает широкий исторический контекст, чтобы показать, что даже печатный станок или классическая бюрократия не могут сравниться с влиянием современных технологий. И хотя критики часто упрекают его за упрощенные обобщения и отсутствие глубины, он, тем не менее, предлагает глобальную, интегральную перспективу, которая особенно ценна в мире, переполненном локальными мифами и узким мышлением.

Павялічыць

«Nexus» — не научная монография. Можно даже сказать, что здесь больше философии, чем истории. Жирный минус Харари — в репетативности. Если вы его читали раньше или слушали его публичные речи, то вы, скорее всего, сжато знакомы с тем, о чем он развернуто пишет в этой книге. Подобная тематика была и в его книгах «Homo Deus» и «21 урок для XXI века». Там было и о вызовах либеральному миропорядку, и об искусственном интеллекте. Раньше просто эти опасности были значительно более абстрактными. Сейчас же мы уже фактически живем в том мире, который описывал автор. Возникает вопрос, что с этим делать. Харари многие из сильных этого мира читают, слушают и даже рекомендуют. Однако интеллектуал вещает, а караван идет дальше.

Книга Юваля Ноя Харари Nexus доступна на английском, польском и литовском языках. Вскоре она должна выйти на украинском. К сожалению, не предвидится белорусское издание.

* * *

Андрей Храповицкий — белорус-разработчик в области искусственного интеллекта, сейчас работает в Нью-Йорке. Также он поэт и общественный активист. Родом из Глубокого, окончил Полоцкий университет.

• 4
• 0
• 0
• 0
• 0
• 1
• 0
• 0