Две культурные дилеммы в представлении о технологической сингулярности

Автор: Бескаравайный Станислав Сергеевич

Футурологическая научная фантастика «дальнего прицела» – уже в конце 1980- столкнулась с рядом вызовов:

– стало окончательно ясно – искусственный интеллект будет создан. И к 2015-му слабый рассудочный интеллект (проходящий тест Тьюринга в «стандартных» ситуациях) уже создан;

– возможности ИИ точно будут превышать возможности человека, и рассуждения о «не возможности машинного творчества», которые можно прочесть у К. Саймака в «Космических инженерах» – теперь просто самоуспокоение и творческий приём ретрофутуризма. В ближайшие годы, максимум десятилетия, ИИ овладеет языком с меняющимся синтаксисом, пройдет тест С. Лема на свободную творческую работу;

– даже если отрицать концепцию технологической сингулярности (мгновенного, многократного ускорения прогресса благодаря ИИ), то с точки зрения эволюции общества, обыденной жизни, воспитания детей – изменения будут очень серьезными. Чистые консерваторы обречены повторить судьбу трилобитов – в лучшем случае стать меньшинством, существующем в какой-то замкнутой нише.

Как же тогда описывать будущее, в котором ИИ Нейромант из книги У. Гибсона  – вполне свободен?

В работах фантастов последних десятилетий были сформулированы два полярных подхода:

– человек сохраняется, как центр принятия решений и всей юридической системы. Фактическая передача управления цивилизацией пройдёт постепенно, сложно, во многом совпадёт со сменой поколений у людей, да и люди смогут трансформироваться под вызовы новой эпохи. Лучший образец – роман Д. Марусека «Счет по головам»;

– созданная человечеством цивилизация – это всего лишь питательная среда, которая даст новому началу какие-то проценты в экономии ресурсов и времени. Развитие будет слишком стремительным, машинам почти сразу станет нечему учиться у людей. П. Уоттс в «Эхопраксии» и «Ложной слепоте» рисует впечатляющие картины беспомощности человека перед вызовами новых когнитивных структур.

Но мгновенный скачок в развитии – крайне сложен без новых задач, без понятийного аппарата и системы познания мира. Да и цивилизация – достаточно инерционная вещь.  Осознавший себя «Интернет» все равно будет нуждаться в энергии, и все вычислительные мощности мира сами по себе не могут произвести хотя бы кВатт*час электрического тока.

В этом смысле показательны описания людей будущего из романа Р. Ибатуллина «Роза и червь» – они могут менять волосяной покров, структуру мышц в ногах, но мы видим консерватизм в массе человеческого тела, в руке и «социальном интерфейсе», потому как под стандарты телесности подстроены большая часть коммуникационных устройств.

Поэтому первая из дилемм, которые приходится решать современной НФ –футурологическая. Насколько человеческая культура переживет  трансформацию цивилизации? Смогут ли наши инструменты осмысления мира и структурирования общества существовать и после того, как ИИ станут лучше человека в любом виде деятельности – или будут созданы принципиально новые конструкты, не имеющие отношения к людям?

Вторая дилемма – литературная. Как адекватно показать читателю (и осмыслить автору) ту, будущую культуру мыслящих компьютеров? Ведь для художественного текста требуется сопереживание героям, какие-то знакомые образы и коллизии. Абсолютно чуждый мир, в котором действуют нечеловеческие сущности – а мир после технологической сингулярности может стать именно таким –  может ли он восприниматься в рамках современного романа или сериала?

Первую дилемму можно решить через моделирование будущей культуры – и это не настолько фантастическая задача, как может показаться.

Развивающийся ИИ сталкивается с проблемой, которая сродни становлению человечества – невозможно получить полноценного человека в стае, но и общество не может возникнуть без людей. Поэтому требуется некая спираль развития – от качеств индивида к устройству общества и среды обитания, и от них снова к индивиду. Уникальный ИИ – но он не может развиваться, опираясь только на математику – иначе его развитие будет неполноценно, и он упрется в гносеологический тупик, который хорошо показал С. Лем в «Голем XIV» – компьютерному разуму там просто незачем существовать. Момент с откровенной гносеологической беспомощностью «двухпалатников» -людей, которые с помощью операции на мозге объединили свои разумы в некую единую, быстро мыслящую общность – хорошо показан П. Уоттсом в «Эхопраксии». Громадной сложности интриги, который они организуют – существуют как бы в очень узкой прослойке осмысления ситуации. «…они все понимают о квантовой физике, но это забор проб в полевой биологии», – говорит главный герой о поведении «двухпалатников» в критической ситуации.

Культура может сохраниться у существ, которые лишь отчасти люди – это хорошо показала и Т. Толстая в романе «Кысь», или С. Дилени в повести «Пересечение Эйнштейна». Но там рассматривается биологическая трансформация, мир населяют мутанты и самые причудливые гибриды.

Что в культуре будет отброшено, а что взято и использовано при техногенной трансформации нашей цивилизации?

Понятно, что математика, физика, вообще точные науки – получат своё развитие у ИИ. Создавать принципиально новый категориальный аппарат с нуля просто нет смысла – электроны, килограммы и единицы не станут лучше, если их заново изобретет компьютер.  Потому формулы законов Ньютона – как ширина римских дорог, которые были проложены по ширине повозки, запряженной парой лошадей, а потом стали стандартом для железнодорожной колеи.

Расширительно понимая такой подход, можно заметить, что сохранится множество стандартов – компьютеру совершенно нет необходимости переходить на рабочее напряжение двести двадцать один Вольт. Да, могут появиться новые материалы, изменение стандарта станет необходимо технически – но сама система стандартов сохранится. Фантасты редко упоминают настолько прозаические моменты, как стандарт напряжения – но даже общение сверхъинтеллектов в «Пламени над бездной» Р. Винджа – не обходится без представления о каких-то нормах – да и любое сложное взаимодействие нуждается в нормировании…

Взаимодействие поднимает сложный вопрос с языком. С одной стороны благодаря созданию ИИ открываться возможность создавать новые языки, осваивать их с большой скоростью. Машины могут общаться даже на языках программирования. Но соотношение между человеческими («мягкими», по терминологии В. Налимова) и машинными («жесткими») языками – это соотношение гносеологическое. Человеческие языки позволяют общаться, нечетко формулируя понятия, туманно описывая ситуации – что открывает дорогу для развития философского знания, создания новых терминов. То есть они нужны для познания – когнитивный барьер машина может преодолеть, лишь овладев человеческим языком.

Юриспруденция так же не исчезает. Даже если рассматривать картины общения цивилизаций разного уровня – данные в цикле романов Й. Бэнкса «Культура», или упоминавшийся «Счет по головам» Д. Марусека» – есть проблема соотношения сил отдельных субъектов. Их надо как-то регулировать, опираясь не только на сиюминутную «вооруженность» контрагентов. Ведь буквально через год возможности партнеров могут радикально измениться – это не должно становится поводом для начала тотальной войны.  Разумеется, система законов и правил может меняться самым причудливым образом, и, как сейчас, их соблюдение при взаимодействии существ разного умственного развития, становится вопросом внешнего контроля и доброй воли. Лишь океан планеты Солярис и единый бессознательный разум пришельцев «Ложной слепоты» – совершенно не беспокоит вопрос нормирования взаимодействия субъектов.

Казалось бы, должна страшно пострадать культура, непосредственно связанная с телесностью – скажем, кулинария, зависящая от вкусовых пупырышков или живопись, привязанная к спектру человеческого глаза. Если возникнет субъект, пользующийся электричеством вместо крови и лимфы, видящий во всех диапазонах – зачем ему развивать эти области ощущений? Не будет же он воспринимать в гастрономическом смысле топливо, идущее на электростанции? Но в любом чувствовании, как в обрабатываемом потоке данных – возникнет проблема решения обобщенных задач. Необходимы какие-то предварительные этапы обработки информации – что потребует упрощенных понятий, комбинации показателей в какие-то не привязанные к конкретной ситуации комплексы, которые и можно назвать ощущениями. Конкретные чувства – осязание, обоняние или слух – могут отличаться от человеческих.

Аналогично трансформируются и представления о гармонии: те привычные нам антропоцентрические образы, на примерах которых мы учимся воспринимать красоту – скажем, портреты – для ИИ лишь частные случаи. Но понятия, которые стоят за ними, начиная от золотого сечения и завершая «надличностным смыслом» – выражают гармонию, присущую всему миру.

Показательно, что и У. Гибсон и Б. Стерлинг – титаны киберпанка – начиная с 80-х, практически в каждом романе затрагивают тему переходной эстетики, неких проявлений красоты, равно значимых и для сознания людей, и для разумных машин. А в антиутопической дилогии П. Уоттса – инопланетный разум лишен сознания, он как бы оцифрованная воля, слепая и всевластная одновременно.

Что более всего может измениться – эта часть культуры, связанная с устаревшими механизмами накопления опыта и воспитания. Даже человеческая культура колеблется, подобно маятнику – то в сторону чисто абстрактного усвоения информации и вообще, максимально отстраненного мышления, то в сторону максимальной чувственности и необходимости переживания, сопричастности к событиям. Здесь виртуализация переживаний у ИИ заведомо будет выше, чем у человека, открываются возможности по непосредственному усвоению, встраиванию данных в личность. Хотя процесс игры целиком забыт не будет – потому что неизбежно возникает задача разнообразной апробации моделей, задача некоего обусловленного, заранее оговоренного соперничества.

Первые, не слишком привязанные к технической стороне вопроса, образы сингулярности, можно найти даже у Артура Кларка: в романе «Конец детства» рождающийся сверхразум, который объединял в себе разумы всех детей Земли – попросту не нуждается в старой человеческой культуре. Буквально несколько лет – и старшее поколение навсегда теряет возможность даже общаться с «зародышем» нового мира.

Но чем глубже фантасты погружаются в проблемы «переходного периода» – тем протяжённым и сложным он становится, почти как последние секунды баскетбольного матча, которые бесконечными отсрочками превращаются в минуты. В нем открываются подробности. Оттенки. Свои внутренние зависимости.  Десятилетия от создания компьютера до становления полноценного ИИ можно назвать «предсингулярной эпохой». И становится ясно, что для будущего компьютерного сознания она будет столь же значима, как для любой человеческой культуры значимо её «осевое время».

Поэтому наиболее удачные оптимистические романы «посткиберпанка» – повествуют не просто о наборе мощности компьютеров и проигрыше человека – но о том, как очередная составляющая человека была осмыслена, и выросла, интегрировалась в дивный новый мир.

Вторая дилемма – как проецировать модель новой, уже не совсем человеческой культуры, на сюжет произведения  – упрощая, до понимания, или сохраняя сложность?

Чем больше наследует культура наших, человеческих инструментов понимания мира – тем больше она наследует проблем субъектов, и тем проще показать её современным читателям. Основное литературное затруднение – необходимость упрощения качественно более сложных субъектов до уровня хотя бы авторского понимания. А еще надо конструировать новую проблематику, которая может оказаться совершенно непривычной читателю…

По счастью очень многие проблемы, с которыми сталкивается человек – восприятия смерти, любви, работы, осмысления подвига и даже войны – определены не только гуманностью или даже биологическим статусом homo sapiens, но теорией систем, если угодно диалектикой, и суммой свойств вселенной, которые задают пути развития любых субъектов. Конкретные формы чувств или сообществ – могут быть неузнаваемы – но решение схожих задач влечет за собой изоморфизм.

С. Переслегин показал, что человечество столкнулось с необходимостью войны в тот момент, когда возглавило пищевую пирамиду. Война – плата любого вида за возможность неограниченного развития. Конфликты проектов развития, приводят к противостоянию, в котором сохранения жизни противника не является необходимым условием. Война в будущем – не исчезнет. Как же художественно показать войну завтрашнего дня, если мы её не понимаем?

Но разве человек – пусть даже и самый умный – до конца понимает феномен современной войны? Даже её начало порой загадка. «Войны никто не хотел. Война была неизбежна» – когда вдруг система международных отношений обретает собственную логику развития, и прежде чем власть предержащие начинают что-то соображать, уже есть несколько миллионов трупов, и безнадежный политический тупик. А ведь лето 14-го – время, когда свои и чужие были вообще-то определены. Хуже с гражданскими войнами, в которых лояльность частей меняется быстрее, чем цвет мундиров…

Многие войны осмысливаются постфактум, и в литературе создано большое количество образов «наблюдателей» – которые воспринимают конфликт упрощенно, видят какие-то явления, но объяснить их не могут. Этот приём широко используется для описания самых причудливых сражений – как, например, у А. Бестера в «Тигр! Тигр!» Оливия Престейн, смещенным спектром своего зрения видела работу системы космической обороны Земли, но рассказывал об этой обороне другой персонаж.

Восприятие войны может быть вообще отстраненным: реакция людей на конфликт «наноботов» в «Алмазном веке» Н. Стивенсона – она скорее напоминает реакцию на смог или выбросы фабрики при неудачном ветре. Мелкое неудобство того времени…

Да, когда мы читаем истории о войнах прошлого, у нас все-таки есть какое-то общее представление об их механизмах и результатах. Чем, во многом, объясняется популярность «попаданческих» сюжетов – читателю порой лестно ощущать себя умнее персонажей, одновременно удивляясь мелким подробностям эпохи. Но современная фантастика дает примеры восприятия людьми уже не человеческих конфликтов – «Жестяной бор» А. Лазарчука это ведь описание судеб нескольких человек, попавших в жернова конфликта между государством и биоэлектронной структурой, которая начала перестраивать под свои нужды население университетского городка. Причем даже финальное пояснение, которое дает автор – раскрывает далеко не всё, просто сужается спектр гипотез, объясняющих феномен полуразумного леса.

То есть общественно-технологические кризисы, с которыми столкнётся человечество – автор может описывать, используя любые сочетания педантичности и недосказанности. И чем больше уровней смыслов получится заложить у автора в тексте – тем лучше. Потому как будущее обещает нам все более изощрённые, многомерные кризисы. Но всегда можно обеспечить эмоциональную «привязку» читателя через судьбу персонажей, с которыми легко себя могут отождествить наши современники.

Да, есть проблема изложения непривычных читателю изобретений и концепций.  Это про вампиров и джедаев ничего объяснять не надо, а про новые открытия в геноме или в работе нервной системы требуется именно рассказать, потому как от новых подробностей зависит конструкция очередной коллизии.  Здесь легко стать пародией на Жюль Верна, пересказывая читателю форумы научно-популярных сайтов.  Но тут уж карты в руки авторам – будут ли они делать глоссарий, или несколько раз покажут одни и те же события, поясняя их все более подробно, и тем облегчая восприятие читателями новых концепций – решать им. Единственное, что можно заметить – не следует путать интерфейс и функциональные, рабочие части машины. Всё, что прямо взаимодействует с человеком – стремится к антропоморфности. Потому набалдашник трости и рычаг коробки передач – порой до странности похожи. Равно как в сказках можно найти образы «идеальных интерфейсов». Но изображать роботов исключительно человеческом облике – это типичная ошибка фантастов середины ХХ-го века…

Иные сложности возникают при описании любви, дружбы, симпатии. Биотехнологии обеспечат отчуждение любви от продолжения рода.  Они позволят создавать новые организмы с любыми пропорциями родительских генов. Компьютеры позволят автоматизировать обучение и воспитание. Как быть автору – если только он не желает бесконечно тасовать образы виртуальных вселенных, населенных людьми, спрятанными под масками роботов и программ – как сделал Й. Бэнкс в «Несущественной детали».

Здесь тоже на помощь могут прийти примеры из прошлого: то, что люди не могли создавать с помощью биологических машин – отчасти имитировалось с помощью социальных.

Разница между матерью наследника престола и фавориткой короля – это лишь частный случай громадной традиции разделения чувств и необходимостей, начало которой описано еще в Ветхом завете. Отчуждение собственных детей (порой ребенок мог видеть родителей всего несколько раз в жизни), множество форм усыновления, воспитание детей как под самым пристальным наблюдением наставников, так и почти полное пренебрежение образованием. Наконец, люди достаточно давно научились замещать семейные чувства – чисто эмоциональными привязанностями к животным. Хороший пример дают «Письма в древний Китай» Г. Розендорфера – привязанность главного героя к кошке, как к домашней любимице, проявлялась в тексте куда ярче, чем забота о детях.

Да, создаются качественно новые инструменты в обмене информацией, личности достигают новых уровней взаимодействия. Скажем, семья, в которой поддерживается телепатическое общение, пусть без создания объединенной личности – будет совершенно новым феноменом. Но, опять-таки,  восприятие этой семьи можно дать с точки зрения наблюдателя – так у Лазарчука в «Аборигене» колонист рассматривает сложную семейную группу земных туристов, очень хорошо описывает, чем они отличаются от традиционных человеческих семей.

Человек накопил достаточно большой опыт существования в подчинении коллективным субъектам – государствам, корпорациям, общинам.  И в литературе можно найти впечатления на любой вкус – от экзистенциального кафкианского бессилия перед лицом бюрократического Левиафана, до холодной, расчётливой игры с государственной машиной.

Кроме социальных машин – человечество долго пыталось сконструировать принципиально нового субъекта в рамках религии. Из современных фантастов наиболее известны работы В. Пелевина, который объединяет буддистские концепции  – с возможностями новой техники.

Однако постоянно показывать новое мышление глазами обычных людей – тоже не выход. Требуется как бы общение с носителем иного образа мыслей, взгляд на мир его глазами.

Разумеется, первым поднимается вопрос языка, который будет отражать иное сознание, и при том наследовать какие-то особенности нашей культуры. Можно выдумать сотни слов, синтезировав новые понятия – ведь они появляются каждый год. Но чем дальше уходит язык от настоящего времени, тем выше становится «входной барьер» для читателя, которому надо разом выучить охапку существительных и глаголов, не говоря уже про наречия…

Впрочем, двусмысленность текста может помочь в редукции сложных рассуждений. Ж. Деррида описал, как появление метафоры в науке предшествует формулировке точного понятия – так и фантасты порой прячут футурологические образы в усмешках и буффонаде. Хрестоматийным примером тут выступает «Кибериада» С. Лема и его же «Футурологический конгресс».

М. Харитонов в «Золотом ключе» дает многослойное решение проблемы:

– чисто постмодернистское следование канве «Золотого ключика» А. Толстого –приманивает читателя и задает общую рамку произведения, куда можно впихнуть громадное количество  научно-фантастических выдумок;

– конструирование мира будущего: несколько катастроф обеспечивают не просто распространенность русского языка,  но и присутствие «шансона» девяностых в качестве основы культуры. При том благодаря новым технологиям населяют мир существа с «открытым генетическим кодом», то есть геном живого организма можно неоднократно менять, сохраняя личность;

– создание новояза – прилагается подробный словарь.

И заведомо нечеловеческие существа – становятся куда понятнее. Хотя бывает непросто разделить предположение о быте таких существ и жестокую сатиру.

Кроме того, субъект может переживать трансформации своей психики, вполне сохраняя память о том, как менялись его мыслительные возможности. Ф. Герберт прямо вложил в уста бога-императора Дюны фразу: «Между сверхчеловеческим и недочеловеческим у меня есть место, где я могу быть просто человеком». Бледную тень этих перепадов можно увидеть в фильме «Область тьмы» – когда персонаж резко умнел после приема препарата, и глупел, когда завершалось его действие. Да, есть пределы адекватности при подобных трансформациях: «Цветы для Элджернона» дают образ расщепленного сознания, когда персонаж с началом деградации буквально теряет себя. Но в рассказе Д. Киза показан уникальный случай «гениальности на пару недель». Если предположить, что такие переходы будут распространены, то возникнет культура общения гениев со своими идиотическими состояниями, которую можно сравнить с поведением разумной гусеницы, планирующей жизнь бабочки.

Главное – не подчинять описание проблем будущего непосредственно диалогу персонажей или чисто человеческим сюжетам. В тетралогии  «Гиперон» Д. Симмонс поступил именно так, и в результате дилемма подачи материала была решена в чисто литературном ключе, но никак не футурологическом.

Приёмы упрощенной подачи проблем можно перечислять еще долго. Но перечисленные выше примеры показывают, что при наличии в сюжете человека, этот персонаж становится призмой, через которую читатель воспримет «предсингулярную эпоху». Основной вопрос – насколько сохраняют авторы человеческую субъектность в мире будущего. Понятно, что человек, управляющий системой интеллектов, многократно превосходящих его собственный – это реликт, исторический атавизм на теле цивилизации, который не переживет серьезного кризиса.

Человеческий разум вполне может найти свое место в своеобразной экологической системе разумности. В «Пламени над Бездной» В. Виндж онтологически задаёт место человека – через свойства галактики, в центре которой просто не могут существовать слишком сложные системы и полноценные разумы, а на периферии продолжают развиваться сверхъинтеллекты. Но ведь с точки зрения теории систем – должны быть как конструкции разной величины, детали разной прочности, так и разумы очень различных возможностей. Человек использует рыбок, попугаев, собак, во все времена находятся рабочие места для умственно неполноценных людей. Если мир будущего не становится миром единственного, объединившего всех и вся моносубъекта – то какую-то роль в нем будут играть и «обычные» люди, и человеко-машинные системы.

Когда же в повествовании присутствуют человеческие персонажи, можно неторопливо и основательно сконструировать – прямо на глазах у читателя – нового субъекта, показать, как он живет и мыслит. Если обыватели держат дома ящериц, очеловечивая в своих глазах их поведение – невиданно усложняя простое – то можно упростить сложное. Читателю можно показать качественно более сложные проблемы сверхсущества, которые он (при хорошей литературной обработке) – редуцирует до уровня своего восприятия.

Февраль 2015