Вышла из печати новая книга писателя, футуролога и историка Юваля Ноа Харари – «Нексус: краткая история информационных сетей от каменного века до искусственного интеллекта». И, похоже, ей вновь, как и его знаменитой книге «Sapiens: Краткая история человечества», уготована судьба бестселлера.
По словам Харари, искусственный интеллект создает «экзистенциальный кризис». И наш неспокойный, разделенный мир плохо подготовлен к тому, чтобы противостоять этому.
«После 100 тысяч лет открытий, изобретений и завоеваний человечество ввергло себя в экзистенциальный кризис. Мы находимся на грани экологического коллапса… мы заняты созданием новых технологий, которые могут выйти из-под нашего контроля и поработить или уничтожить нас. Однако вместо того, чтобы наш вид объединился для решения этих экзистенциальных проблем, глобальное сотрудничество становится все более невозможным… и новая мировая война не кажется невозможной», – предупреждает Харари.
Проблема, как утверждает писатель, не обязательно заключается в самой информации. Информационные сети в прошлом были явлением положительным. Проблема, возможно, в том, что мы задаем неправильные вопросы.
«Вся информация не дала нам ответов на главные вопросы жизни: кто мы? К чему нам следует стремиться? Что такое хорошая жизнь и как нам ее прожить?… Сегодня у людей гораздо больше информации и власти, чем в каменном веке, но далеко не факт, что мы гораздо лучше понимаем себя и свою роль во Вселенной», – говорит Харари.
Какой же смысл в кризисе, с которым сейчас сталкивается человечество, вызванным информацией?
Вот ответ Харари: «Это информационная проблема. Информация – это клей, скрепляющий сети. Но на протяжении десятков тысяч лет сапиенсы создавали и поддерживали большие сети, изобретая и распространяя выдумки, фантазии и заблуждения… например, нацизм и сталинизм, скрепленные исключительно ошибочными идеями».
Вот почему, по мнению Харари, «ИИ может усилить существующие человеческие конфликты, разделив человечество и восстановив против самого себя. Мы можем оказаться в коконе паутины непостижимых алгоритмов, которые управляют нашей жизнью… даже перестраивают наши тела и разум. Если тоталитарной сети XXI века удастся завоевать мир, ею может управлять нечеловеческий разум».
Харари предупреждает: «Всем людям вместе взятым угрожает тоталитарный потенциал нечеловеческого разума». Уинстон Черчилль незабываемо говорил о «железном занавесе», отделяющем западные демократии от советских диктатур. Харари теперь говорит о «силиконовом занавесе», разделяющем те страны, у которых есть развитый ИИ, и те, у которых его нет.
«Компьютеры на основе кремния, которые доминируют в новой информационной сети, функционируют совершенно по-другому. Кремниевые чипы могут создать шпионов, которые никогда не спят, финансистов, которые никогда не забывают, и деспотов, которые никогда не умирают. Как это изменит общество, экономику и политику?»
Харари уже много лет бьет тревогу по поводу ИИ. На мероприятии Frontiers Forum он предупредил нас, как ИИ использует язык, чтобы соблазнить нас: «Новые инструменты ИИ обретают способность развивать глубокие и близкие отношения с людьми».
По словам Харари, человеческая природа, писал он, изменится в XXI веке; Технология разъединяет, разъединяет интеллект и сознание. У нас есть сети обработки данных, которые знают наши чувства лучше, чем мы сами их знаем. Алгоритмы ловят нас в социальных сетях. Когда это произойдет, то, что значит быть человеком, возможно, изменится навсегда.