В этой главе мы рассмотрим скорое будущее, которое нам обещает главный пророк современных технологий – Рэй Курцвейл.

Рэй Курцвейл – личность, без преувеличения, легендарная. С победами на поприще информатики его поздравляли президенты США – Линдон Джонсон (Рею было тогда 20 лет от роду) и Билл Клинтон, вручивший Курцвейлу в 1999 году информационного Нобеля – National Medal of Technology.

Курцвейл создал первый музыкальный синтезатор, первый планшетный сканер, первую читающую машину для слепых, первым научил компьютеры распознавать человеческую речь. И это только некоторые из его личных достижений, не считая работы на Google, IBM ит. д.

Сейчас Курцвейл работает техническим директором Google, где возглавляет все работы по искусственному интеллекту. А в качестве хобби создаёт помощника, «способного отвечать на наши вопросы ещё до того, как вы их сформулируете». Нет, я не шучу. Это цитата.

Впрочем, Рэй Курцвейл, конечно, более известен широкой общественности как футуролог. В книге «Эпоха духовных машин» он сформулировал «закон ускоряющейся отдачи», который позволяет ему с удивительной точностью предсказывать – буквально по годам – достижения в области развития компьютерных технологий и искусственного интеллекта.

Да будет так!

Согласно закону ускоряющейся отдачи, развитие технологий происходит экспоненциально: то есть чем мощнее становится та или иная технология, тем большее ускорение в своём развитии она приобретает.

«За семь лет проект “Геном человека”^[2] собрал один процент генома, – рассказывает Курцвейл. – Мейнстримовые критики заявляли: “Я же говорил, что ничего не получится. За семь лет – один процент, значит, на весь геном уйдёт 700 лет”. Моя реакция была другой: “Ого, мы уже сделали один процент? Мы почти закончили!” Дело в том, что один процент – это всего семь удвоений до ста процентов. Удвоение происходит каждый год. И действительно, проект закончили уже через семь лет. То же самое произошло со стоимостью: первый геном стоил миллиард долларов, а сейчас эта процедура стоит всего 1000 долларов».

Чтобы представить себе, о чём говорит Курцвейл, вспомните знаменитую притчу о создателе шахматной игры – бедном мудреце и математике Сета.

Шахматы так впечатлили индусского царя Шерама, что он решил беспримерно наградить Сета.

– Я настолько богат, что могу исполнить любое твоё самое смелое желание, – сказал царь мудрецу Сету. – Назови награду, и ты получишь её.

– Велика доброта твоя, повелитель, – ответил мудрец. – Выдай мне за первую клетку шахматной доски одно пшеничное зерно.

– Одно пшеничное зерно? – изумился царь.

– Да, повелитель. За вторую клетку прикажи выдать два зерна, за третью – четыре, за четвертую – восемь, за пятую – шестнадцать, за шестую – тридцать два…

– Довольно, – с раздражением прервал его царь. – Ты получишь свои зёрна за все 64 клетки доски, согласно твоему желанию: за каждую вдвое больше против предыдущей. Но знай, что просьба твоя недостойна моей щедрости. Ступай! Слуги вынесут тебе твой мешок с пшеницей.

Сета улыбнулся, покинул залу и стал дожидаться последствий своей просьбы у ворот царского дворца. А развязку этой истории вы все, конечно, знаете.

Да, наше мышление, по самой сути своей, линейное – мы привыкли наблюдать постепенное приращение чего бы то ни было: вода в реке или в море поднимается или убывает медленно, растения, животные и даже наши дети растут год за годом и по чуть-чуть, так же незаметно меняются климат, отношения между людьми и т. д., и т. п. Всё постепенно.

Вот почему экспоненциальный рост, о котором говорит Курцвейл в своём законе ускоряющейся отдачи, для нас контринтуитивен: мы не привыкли так думать, а потому и не можем представить себе его последствий.

Царь Шерам решил, что мудрец Сета попросил у него мешок пшеницы, не больше. Но такова действительная реальность экспоненциального роста: если соблюсти последовательность, о которой просил мудрец, то к 64-й клетке количество зерна на доске будет в 1800 раз превышать ежегодный современный мировой урожай пшеницы.

То есть Сета попросил у наивного царя весь урожай пшеницы, собранный за всю историю человечества до настоящего момента, а общая масса этого зерна равнялась бы 1200 миллиардам тонн.

В своих прогнозах мы основываемся на опыте тех технологических трансформаций, которые произошли за последние десятилетия. Пережитый опыт диктует нам и наши представления о будущем – таковы особенности мышления человека, его, так скажем, интуиции.

Да, произошёл существенный скачок в развитии технологий – мы все это признаём. «Но что ещё может случиться, чтобы удивить нас? – рассуждаем мы по-стариковски. – Нет, мы уже всё видели…»

Но взгляните на эти два графика: на первом – мы с вами, вместе с тем самым индусским царём Шерамом, а на втором – экспоненциальная кривая технологического прогресса и те самые миллиарды тонн зерна, которые причитаются мудрецу Сете и о которых нас предупреждает Рэй Курцвейл.

Во многом именно благодаря изобретению закона ускоряющейся отдачи Билл Гейтс назвал Рэя Курцвейла «лучшим из тех, кого я знаю, в предсказании будущего искусственного интеллекта».

По оценкам независимых экспертов (уж не знаю, как именно они это измеряли), 86 % прогнозов Рэя Курцвейла «сбывались с высокой точностью».

И действительно, даже если закрыть глаза на эти проценты, прогнозы Курцвейла сбываются как по волшебству – телефоны с bluetooth, синхронный компьютерный перевод, Siri, 3D-видео и очки с дополненной реальностью, суперкомпьютер IBM Watson, машины без водителей и т. д., и т. п.

Кривая закона ускоряющейся отдачи Рэя Курцвейла предполагает наличие трёх последовательных фаз:

• первая – медленный рост (ранняя фаза экспоненциального роста);

• вторая – быстрый рост (взрывная фаза, когда кривая стремительно взметается вверх);

• третья – фаза стабилизации, когда формируется принципиально новая технологическая парадигма.

И если кому-то кажется, что стабилизация уже наступила, – не обольщайтесь. Вот что обещает нам Рэй Курцвейл на ближайшие десятилетия…

Считается, что вычислительная мощность нашего мозга равняется примерно десяти терабайтам – это очень-очень много, и стоимость такого компьютера сейчас, как вы понимаете, почти космическая.

Но посмотрите на свой телефон: аналогичную вычислительную мощность в 60-х вы могли бы купить лишь за триллион долларов, а в начале 80-х прошлого века – за миллиарды долларов. Но вряд ли сейчас ваш телефон стоит дороже тысячи, правда? Впрочем, его начинка, поверьте, куда дешевле – вы переплачиваете за программное обеспечение и бренд.

Теперь внимание: по расчётам Курцвейла, десять терабайтов – мощность, равная мощности нашего мозга, – обойдутся нам в 2020 году всего в одну тысячу долларов. Проще говоря, к этому моменту персональные компьютеры не только достигнут вычислительной мощности, сравнимой с человеческим мозгом, но будут общедоступны.

В 2011 году журнал Science опубликовал статью Мартина Хильберта из Университета Южной Калифорнии, где он писал следующее: «Люди всего мира могут осуществить 6,4x10¹⁸ операций в секунду на обычных компьютерах образца 2007 года, что сравнимо с максимальным количеством нервных импульсов, возникающих в одном человеческом мозге за секунду».

Самый быстрый суперкомпьютер в этом же 2011 году обладал мощностью 10,51 петафлопс (10,5 квадриллионов операций в секунду – то есть как минимум на две степени меньше, чем требуется для воспроизводства мощности, соответствующей человеческому мозгу).

В 2013 году группе немецких и японских исследователей удалось симулировать одну секунду активности одного процента мозга человека, правда за 40 минут и на кластере из 82 944 процессоров.

В 2018 году был представлен американский суперкомпьютер Summit, производительность которого, по заверениям создателей, приближается к 3,3 экзаопсам, а это три с лишним квинтиллиона операций в секунду – то есть те самые «миллиарды миллиардов», о которых говорил Мартин Хилберт, рассчитывая мощность человеческого мозга.

Теперь представим, что мы перешагнули 2020 год и вошли в будущее, стоящее у нас на пороге. Итак, чем же ознаменуются для нас ближайшие десятилетия?

Повсеместная роботизация

С 2020 по 2030 год нас ждёт повсеместная роботизация.

В США и Европе будут приняты первые законы, регулирующие отношения людей и роботов. Деятельность роботов, их права и обязанности будут превращаться в своего рода «Кодекс поведения робота». Впрочем, предполагается, что этот кодекс будет налагать определённую ответственность и на пользователей – то есть на нас с вами.

Это кажется почти что абсурдным. Но посудите сами…

В 2018 году на международной выставке высоких технологий Computex был представлен чип под названием Jetson Xavier (ещё его зовут Isaac). Компания-производитель NVIDIA утверждает, что это идеальный мозг для роботов, ориентированных на использование искусственного интеллекта и глубокое машинное обучение. На его создание были затрачены около 8000 человеко-лет работы и куча денег.

«При энергопотреблении в 30 ватт Jetson Xavier имеет практически такую же вычислительную мощность, как и огромные рабочие станции стоимостью в 10 000 долларов, но при этом он стоит гораздо дешевле», – говорит президент NVIDIA Жэньсюнь Хуан. Кстати, его надо поздравить: Isaac и правда выходит на рынок и стоит чуть больше тысячи долларов.

Впрочем, уже в середине третьего десятилетия нашего века и сами люди подвергнутся киборгизации – Рэй Курцвейл ожидает появление массового рынка гаджетов-имплантатов.

Да, киборг – уже не вымысел. Не буду рассказывать про коленные протезы, оснащённые самообучающимся искусственным интеллектом («RheoKnee» компании Ossur), – им уже больше десяти лет, и это скучно. Куда важнее то, что можно делать с нашим мозгом.

После того как Уильям Доббел создал в 2002 году первую технологию, позволяющую переводить изображение с обычной видеокамеры непосредственно в мозг человека (минуя глаза, глазные нервы и прочие анатомические «излишки»), мы оказались в поистине новой реальности.

Теперь совершенно очевидно, что наш хвалёный мозг – это просто серверное пространство. И тот же Рэй Курцвейл уже работает над новым для мозга программным обеспечением, а также над нестандартными средствами доставки в него информации.

У наших органов чувств масса ограничений, но почему бы не подключить к нашему мозгу, например, электронный микроскоп или супермощный телескоп? Почему бы не перепрограммировать наш мозг, зная его «язык», его «код» и весь набор «уязвимостей нулевого уровня»?

Биологический и интеллектуальный апгрейд – это не вымысел фантастов, а уже почти наступивший дивный новый мир.

Параллельно с нашей собственной киборге-низацией, по прогнозам Курцвейла, и персональный робот, способный на сложные, полностью автономные действия, станет настолько же привычной вещью в наших домах, как и бытовая кухонная техника.

К этому Курцвейл добавляет беспроводной доступ к интернету, который покроет практически всю поверхность Земли, а также солнечную энергию – настолько дешёвую и доступную, что человечеству больше не потребуется углеводородное топливо.^[3]

К середине 2020-х, обещает Рэй Курцвейл, будет побеждено большинство болезней. Всё это благодаря нанороботам, которые продемонстрируют способность справляться с болезнями лучше любых современных медицинских технологий и лекарств.

Мини-компьютеры величиной меньше, чем клетка крови, будут перемещаться в наших телах и, связанные с облаком, сначала предупредят «Большого Доктора» о рисках наступления заболевания, а затем, если потребуется, успешно его излечат.

Один из основоположников наномедицины Роберт Фрейтас говорит: «Нанотехнологии уже производят биороботов. Примерно к 2020 году возникнут гибридные роботы на основе усовершенствованной ДНК, синтетических белков и других небиологических материалов. В начале 2030 года или раньше учёные построят полностью искусственные устройства: нанороботы, управляемые компьютерным программным обеспечением и способные защитить каждую клетку организма от болезней и травм».

В 2017 году команда учёных во главе с Джеймсом Туром из Университета Райса опубликовала статью в журнале Nature, где была представлена, например, нанотехнология, «взламывающая» и «высверливающая» мембраны раковых клеток.

Структура этого молекулярного комплекса действительно повторяет обыкновенную электродрель: основа – это неподвижный статор, который закрепляется на мембране «распорками», воздействие ультрафиолетовых лучей запускает ротор, и тот начинает вращаться со скоростью 2–3 млн оборотов в секунду, буквально пробуривая мембраны клеток и оставляя открытые поры (см. рис. № 1).

Рисунок № 1. Схема работы наноробота команды Дж. Тура

Учёные могут модифицировать функциональные группы на статоре наномашины так, чтобы они крепились только к определённым структурам клеточных мембран. Это позволяет делать их действия избирательными и атаковать только больные клетки. Пока подобные фокусы проделывают на мышах, но уже тот факт, что мы можем вылечить рак простаты у мыши, не повредив здоровые ткани, – это безусловная победа нанотехнологий.

Фрейтас вместе с Курцвейлом считают, что старение и «естественная смерть» являются заболеваниями, которые возникают, когда клеточная структура организма не может восстановить нанесённый ей ущерб. Если лечить эту «болезнь», то молодые смогут оставаться молодыми, а старые помолодеют.

Да, умереть в новом дивном мире будет всё сложнее и сложнее…

Больше тридцати пяти тысяч человек ежегодно гибнут в России в результате дорожно-транспортных происшествий, чуть меньше – в США, примерно такие же показатели – в объединённой Европе. И основная причина – человеческий фактор, то есть водители, которые, например, засыпают за рулём или садятся за него в изрядном подпитии.

Так что не удивляйтесь: во избежание человеческих жертв нам скоро запретят выезжать на дорогу самостоятельно – только в автомобилях с автопилотом.

Начнётся, впрочем, всё с малого – в начале 20-х под запрет попадут автомобили, не оборудованные компьютерными помощниками, а затем и вовсе – только автопилот, и никакой вам дорожной импровизации.

Когда же окажется, что водить автомобили нельзя, то и желающих содержать собственное авто, которое в среднем 98 % времени стоит на приколе, будет глупо и абсолютно невыгодно.

Городские магистрали наполнятся самоуправляемыми автомобилями-такси и, возможно, даже сузятся из-за тотальной уберизации в пользовании автотранспортом (по расчётам Курцвейла – это где-то 2033 год).

Такси-беспилотники будут постоянно разъезжать по вызовам, а парковки в нынешнем их виде просто исчезнут. Кроме того, машины, объединённые общей сетью, начнут договариваться между собой, чтобы избегать пробок.

Эти трансформации будут происходить настолько стремительно, что мы и не заметим того, как нынешние «автолюбители» исчезнут как класс. К хорошему, как известно, быстро привыкаешь. Уже сейчас молодые люди, пользующиеся относительно дешевым такси, не спешат обзаводиться водительскими правами, а скоро этого вообще не нужно будет делать.

Осознавая это, автоконцерны, выпускающие традиционные автомобили, агрессивно и наперегонки инвестируют в автопилоты.

Да, возможно, Tesla сейчас единственный стопроцентный беспилотник. Но не думайте, что это странная причуда наивного визионера-фантаста Илона Маска. Автомобили, которые вы уже сегодня покупаете у мировых автогигантов, имеют усовершенствования, призванные сделать их совместимыми с автопилотом.

Всё, что через паузу останется автопроизводителю, – это доустановить на вашу машину сканирующий лидар (специальное устройство, обеспечивающее получение и обработку оптической информации) и подключить его к системе искусственного интеллекта, управляющего автотранспортным средством (см. рис. № 2).

Рисунок № 2. Схематичное изображение того, как лидар реконструирует окружающую его среду

В 2012 году, когда Google только тестировал первые лидары, их цена составляла порядка 70 тысяч долларов за штуку. Уже через два года цена упала до тысячи долларов, а последнее поколение стоит порядка 90 долларов за экземпляр, который вдобавок и размером-то теперь не многим больше почтовой марки.

Впрочем, зачем все эти сложности – не вполне понятно…

Новое соглашение между Uber и NASA предполагает создание летающих такси с вертикальным взлётом. Промо-ролик этого проекта выглядит как научно-фантастический фильм: героиня, попавшая в дорожную пробку, опаздывает на семейный ужин, но на крыше ближайшего небоскрёба её ждёт аэротакси, которое с комфортом доставит её домой.

Кстати, мэр Лос-Анджелеса Эрик Гарсетти уже пообещал проекту свою помощь и считает, что его город представляет собой идеальный полигон для его реализации.

«Но в какую же баснословную сумму обойдётся подобная поездка?» – спросите вы. Создатели Uber Elevate утверждают, что расценки окажутся такими, что горожанам будет дороже содержать собственный автомобиль. Думаю, что в булочную на таком устройстве вы вряд ли поедете, но расстояния побольше будет комфортнее преодолевать именно таким образом.

Если, конечно, вам это вообще понадобится…

И раз уж мы заговорили о развлечениях… К 2020 году на рынок поступят специальные очки, которые смогут проецировать любое изображение непосредственно на сетчатку нашего глаза.

Многие помнят скандал вокруг «умных очков» Google Glass – мол, как-то это неприлично стримить в интернет незнакомцев, которые не дали вам на это своего согласия.

Но прогресс, честно говоря, застопорился из-за сугубо технической проблемы: умным очкам, чтобы поддерживать потоковое видео, нужна большая батарея. Но кто будет таскать на себе огромные очки? Они и нос, и уши отдавят. Даже заряда смартфона иногда на сутки не хватает, а он сам по себе не маленький.

Однако закон ускоряющейся отдачи продолжает бить рекорды… Учёные из Университета Вашингтона уже создали технологию потокового вещания, которая потребляет в 10 000 раз меньше энергии, чем прежние. Хитрость в том, чтобы, используя умную беспроводную передачу, выгрузить большую часть работы на другое устройство.

Обычно камерам приходится обрабатывать и сжимать видео перед передачей сигнала по беспроводной сети, а новый подход напрямую прикрепляет пиксели с камеры к беспроводной антенне и отправляет данные импульсно на ближайшее устройство (телефон, планшет или ПК), которое уже и занимается обработкой сигнала.

Первый прототип ограничен десятью кадрами в секунду и небольшим расстоянием, но это только начало. А практическое применение этого ноу-хау уже очевидно: можно будет носить умные очки с маленькими батареями или даже вообще обходиться без них (если, например, они будут получать энергию от радиосигналов, что тоже возможно).

Теперь представьте себе спортивное соревнование, за которым вы наблюдаете от первого лица – видите, как ударяете по мячу в финальном матче Чемпионата мира по футболу, попадаете в мишень на Олимпийских играх, вырывая тем самым победу у соперника по биатлону, мчитесь по трассе Формулы 1…

Вы всё ещё заходите толкаться в задних рядах? Что-то я сомневаюсь. Боюсь, ваш запрос будет выглядеть иначе – например: а можно всю эту радость прямо мне в мозг? Можно – к 2030 году, как обещает Курцвейл, виртуальная реальность станет неотличимой по субъективному восприятию от реальности физической.

Взбесившийся 3D-принтер

С 2030 года по 2040-й нас ждёт замена реального виртуальным, а из реального, кажется, останется только 3D-принтер.

Развитие технологии 3D-печати уже идёт полным ходом, а после 2030 года она, согласно прогнозам Рэя Курцвейла, совершит настоящий переворот в экономике.

Пока технология 3D-печати только ищет себя, хотя она уже неплохо справляется с созданием медицинских протезов и уверенно строит даже многоквартирные дома. Впрочем, бытовые 3D-принтеры пока на какие-то невероятные чудеса не способны.

Но, как говорится, лиха беда начало… В 20-х годах, по мнению Курцвейла, они станут для нас привычной бытовой техникой, а к 2030-ому мы, например, будем печать с их помощью одежду (интернет будет полон бесплатными моделями для печати – скачивай, печатай и одевайся).

Причём нам даже дизайнеры для создания новых моделей одежды не понадобятся – уже сейчас искусственный интеллект преуспел в разработке дизайна одежды, предметов интерьера и других вещей.

Например, компания Stitch Fix использует программное обеспечение, которое учитывает индивидуальные физические параметры человека, его предпочтения и модные тренды. Комбинируя понравившиеся клиенту варианты вырезов, рукавов и других элементов одежды, оно работает как портной модного дома – создаёт удобную и модную одежду, но, по сути, по вашему индивидуальному заказу.

Если же модные бренды ещё всё-таки сохранят свою символическую притягательность (что не факт), то защищённые авторским правом цифровые модели одежды от каких-нибудь Gucci и Dsquared мы сможем купить на специальных облачных стоках. А печатать уже, соответственно, «самопалом».

В настоящий момент 3D-печать только пробует себя на этом рынке. Хороший пример – американский стартап Feetz, который занимается производством обуви. Проводятся и первые эксперименты по печати дизайнерской одежды, и даже в России.

Конечно, это покалишь прототипы, а не отработанная технология, и удобство у этих изделий сомнительное. Но вспомните свой первый кнопочный телефон… А смартфонам ведь немногим более десяти лет.

К 2030 году 3D-принтеры станут пищевыми, то есть с их помощью мы будем готовить продукты. Точнее – создавать и готовить.

Прототип пищевого 3D-принтера уже работает – его создали по заказу НАСА специалисты компании Systems & Materials Research Corporation. Он смешивает около 12 питательных компонентов, выдавая вполне съедобную кашицу.

И это, опять-таки, только начало, а дальше, как предполагается, будут созданы гигантские морские фермы, где станут выращивать дешёвую и питательную еду. Роль «чернил» в наших пищевых 3D-принтерах будут выполнять переработанные особым образом водоросли и морепродукты.

Если же вам всё-таки почему-то захочется настоящего мяса, то его изготовят из стволовых клеток и запихнут всё в тот же принтер.

Вам останется только выбрать на экране компьютера блюдо, которое вы хотите, и это устройство само всё сделает – милости просим, приятного аппетита!

Всё это счастье ожидается до 2030 года, а то, что произойдёт после, – и вовсе за гранью фантастики. По прогнозам Курцвейла, в 2031 году 3D-принтеры будут стоять во всех больницах, а печатать на них будут не только лекарства и инструменты, но и человеческие органы для пересадки.

Вкупе с медицинскими нанороботами это, по идее, должно решить все возможные медицинские проблемы.

С 2030 по 2037 год, во многом благодаря тем же нанороботам, произойдёт фундаментальный прорыв в понимании принципов работы человеческого мозга, а это открывает путь и к цифровому бессмертию, к слиянию нас с суперкомпьютерами и… к полной новых впечатлений сексуальной жизни.

Первое свидание с человекоподобным искусственным интеллектом, по заверениям Курцвейла, ждёт нас уже в 2034 году. Причём свидание в прямом смысле этого слова…

Впрочем, согласно прогнозам Курцвейла, к 2038 году мы в принципе будем жить в мире роботизированных людей и сами превратимся в «продукты трансгуманистичных технологий».

Это значит, что вы, ваши друзья и знакомые будут, может быть, оборудованы дополнительным интеллектом – например, ориентированным на конкретную узкую сферу знаний.

Уже сейчас количество информации таково, что ни один профессионал не может знать всего даже в рамках какой-то своей узкой специализации. Это очень показательно, если смотреть на современное состояние медицины.

Если в начале прошлого века врач лечил любую патологию, с которой к нему обращались, то по мере развития медицинской науки оформились отдельные врачебные специальности – кардиолог, пульмонолог, травматолог, невролог, психиатр, абдоминальный хирург и т. д.

В настоящий момент научной информации по каждому отдельному заболеванию столько, что ни один врач не может даже одну болезнь знать досконально. Как тут обеспечишь комплексный подход к пациенту? Приходит на приём не болезнь, а человек целиком.

Получается, что развитие медицины естественным, хотя и парадоксальным образом приводит к снижению качества медицинской помощи: врач, запертый в узких рамках своей специализации, всё больше напоминает слепого мудреца из старой притчи про слона – лечит не то, что надо конкретному пациенту, а то, в чём он разбирается.

Но если соединить мозг человека с цифровым облаком, в котором собран весь объём необходимых данных, и научить его этой базой знаний пользоваться, то уровень компетенции специалиста, конечно, существенно улучшится. Звучит как фантастика, но когда-то и мобильная связь казалась нам чем-то совершенно невозможным и удивительным.

К 2039 году, по заверениям Курцвейла, наномашины будут имплантироваться непосредственно в человеческий мозг, что позволит нам осуществлять произвольный ввод и вывод сигналов из клеток мозга.

В частности, это позволит нам оказываться в виртуальной реальности с эффектом «полного погружения» без всякого дополнительного оборудования, не считая, разумеется, тех самых нанороботов.

Наконец, в 2040 году поисковые системы, говорит Курцвейл, станут основой для гаджетов, непосредственно вживлённых в человеческий организм. То есть поиск по информационным массивам мы будем осуществлять уже как бы подсознательно, даже без голосовых команд: вы просто задумались о чём-то, сами того не осознавая, а на экране специальных глазных линз уже прокручивается вся необходимая вам информация.

Возможно, ещё более шокирующим и противоестественным выглядит прогноз Рэя Курцвейла, согласно которому наши возможности будут расширены не только за счёт прямого доступа к облакам данных, но и посредством разнообразных имплантов – от глаз-камер до дополнительных рук-протезов.

Соответствующие технологии уже активно разрабатываются во множестве научных лабораторий по всему миру. Нейроинтерфейс iBrain, позволяющий мысленно управлять механической рукой или компьютером, как вы, наверное, знаете, активно тестировал на себе Стивен Хокинг.

Искусственной рукой i-LIMB Pulse, которая позволяет полностью воспроизвести нашу мелкую моторику, пользуется уже более пятнадцати тысяч человек. 200 тысяч человек вернули себе слух благодаря электронным имплантатам. Около тысячи пациентов живут с полностью искусственным сердцем Total Artificial Heart.

А, например, компания EnChroma создала очки, которые позволяют людям, страдающим дальтонизмом и ахроматопсией, раскрашивать мир не только в правильные цвета, но и вообще видеть цвет – то есть перейти от чёрно-белого зрения к цветному.

Сейчас все эти технологии, конечно, очень дороги, но IBM прогнозирует, что начиная с 2022 года подобные увеличивающие возможности человека инструменты будут находиться в серийном производстве.

Так что, учитывая весь этот «трансгуманистический» апгрейд, секс с роботами для таких киборгов, какими мы будем к концу 30-х годов, уже даже сложно будет назвать извращением.

Смерть – это, как вы уже, наверное, поняли, панический кошмар гениального изобретателя. Курцвейл называет её «великим похитителем отношений, знаний и смысла», и кажется, всё, что он делает, служит этой – одной-единственной цели – обрести бессмертие.

«Если вы будете хорошо себя чувствовать до 2030 года, вы вполне сможете жить так долго, как вам захочется», – обещает Рэй Курцвейл, которого то ли в шутку, то ли всерьёз называют не только «пророком техноконца», но ещё и «гением техноспасения».

Совместно со знаменитым американским врачом Терри Гроссманом он даже создал компанию, которая предлагает своим состоятельным клиентам продлевать жизнь за счёт нормализации рациона питания, режима дня и внедрения различных технологических новинок.

Рацион самого Курцвейла включает в себя около двухсот пищевых добавок в сутки. А годовая порция этого «здоровья» стоит в районе миллиона долларов^[7].

Цель Курцвейла проста – дожить до технологического бессмертия. По его расчётам, остаётся ещё пару десятилетий, может, чуть больше, а Рэю пошёл уже восьмой десяток… Нужно как-то смочь дотянуть.

Пока главные надежды на существенное продление жизни возлагаются на терапию стволовыми клетками, генную инженерию, 3D-печать органов и другие медицинские процедуры.

Но Курцвейл смотрит дальше, его интересует подлинное бессмертие, а тут без загрузки сознания на цифровые носители – никак.

Солнечная система, в любом случае, в какой-то момент погибнет, а в физических телах покинуть её пределы крайне сложно. Но будучи простым цифровым кодом – вполне.

Энтузиазм Рэя Курцвейла поддерживают и некоторые отечественные учёные, которые создали «Стратегическое общественное движение “Россия-2045”». Как следует из названия, основатель этой инициативы Дмитрий Ицков и его соратники всерьёз рассчитывают, что технологическая сингулярность ждёт нас к 2045 году.

Главный проект этого общественного движения называется «Аватар», и будет он реализовываться в четыре этапа.

«Аватар А» планируется создать уже к 2020 году. Это будет искусственное тело человека, которое может дистанционно управляться через «мозг-компьютер». В рамках этого этапа планируется создать усовершенствованные протезы органов тела человека и органов чувств, экзоскелеты различных функций и новые человеко-компьютерные языки.

Для «Аватара Б» срок установлен до 2025 года. Тут суть в том, что учёные создадут искусственное тело, в которое можно будет произвести трансплантацию мозга человека, биологический организм которого уже израсходовал свой ресурс – в общем, перед смертью. Что делать со старением самого мозга, пока непонятно, но это дело, как считается, наживное – омолодят.

Кроме того, в планах также «Аватар В», где в искусственное тело будет перенесена «нематериальная структура сознания» (что бы это ни значило…). Предполагается, что это возможно благодаря «обратному конструированию» мозга. Ждём новинку к 2030–2035 годам.

Наконец, аккурат к технологической сингулярности должен появиться «Аватар Г» – тело из нанороботов и тело-голограмма. Звучит как абсолютное безумие, но о том же говорит и Рэй Курцвейл: этот его прогноз и изображение тела, созданного из облака нанороботов, уже попали на обложку «Time».

Комиссия по борьбе с лженаукой РАН, впрочем, обеспокоилась – мол, что-то всё это странно с этим «Аватаром», надо бы проверить. И вроде бы даже проверили, причём с участием Курчатовского института и Министерства образования, и вроде бы даже признали «общественную полезность». Что бы это ни значило…

Навстречу сингулярности

2040–2045-й годы – наша с вами последняя пятилетка. После ни мы сами, ни наш мир уже никогда не будем прежними. По Курцвейлу, мы войдём в область так называемой «технологической сингулярности».

Если совсем просто, то это значит буквально следующее: к 2045 году небиологический интеллект превзойдёт наш (то есть биологический) в миллиарды раз, станет всё быстрее и быстрее совершенствовать сам себя, достигнув в результате совершенно непредставимых с нашими интеллектуальными возможностями высот.

Математическое понятие «сингулярности» в отношении прогнозирования будущего впервые применил ещё великий Джон фон Нейман. Действительно, как ты этот прогресс ни считай, неизбежно приходишь к точке, где функция начинает вести себя настолько парадоксально, что все дальнейшие прогнозы становятся просто бессмысленными – одна сплошная абракадабра. Грань, так сказать, математического понимания.

Причём в физике ситуация аналогичная. Физическая сингулярность – это тоже расчётная точка, в которой достигаются некая бесконечная плотность и температура вещества, объём которого при этом стремится к нулю. Представить себе это абсолютно невозможно – за гранью человеческого понимания. Образно говоря, добегая до сингулярности, вселенная сворачивается в дырку и становится неразличимой – что-то вроде того…

Звучит всё это немного странно – не находите? Да. Поэтому всякий раз, когда вы слышите в определении футурологов это ласкающее слух словосочетание – «технологическая сингулярность», – не умиляйтесь его ложной красотой. Оно означает, что наше с вами будущее парадоксально, непрогнозируемо, неконтролируемо и непредставимо. Уже не так трогательно, правда?

Первым, кто перевёл всё это безобразие на человеческий язык, был профессор математики и культовый писатель-фантаст Вернор Виндж. В 1993 году на симпозиуме VISION-21 Центра космических исследований NASA им. Льюиса и Аэрокосмического института Огайо он прочёл доклад «Технологическая сингулярность».

Суть его выступления сводилась к следующему: мы на грани перемен, сравнимых с появлением человека на Земле, – развитие техники неизбежно приведёт нас к созданию сверхмощного искусственного интеллекта, обладающего собственной сущностью, или, если угодно, специфическим разумом. За этим последует конец человечества, по крайней мере в том виде, в котором мы его знаем.

Впрочем, это «светлое будущее» нам предрекал ещё соратник Алана Тьюринга по расшифровке фашистской «Энигмы» в Беркли-Парке Ирвинг Джон Гуд. Он считал, что вероятность того, что это случится в XX веке, даже больше, чем в XXI, но в своём прогнозе ошибся.

Курцвейл, как мы знаем, прогнозирует Пришествие Сингулярности в 2045 году. Но по прогнозам Винджа, это должно случиться уже к 2030 году, и он в этом совсем не одинок.

Стюарт Армстронг из Института будущего человечества и Кай Сотала из Института исследований машинного интеллекта провели в 2012 году опрос участников Саммита Сингулярности и выяснили, что среднее медианное значение, если учесть мнение всех экспертов из этой выборки, составляет 2040 год. То есть, как бы там ни было, большинство читателей моей книги, включая меня самого, имеют все шансы до этого момента дожить.

Что же нам от этой радости ждать?.. Проблема, как вы уже, наверное, понимаете, в том, что ответа на этот вопрос нет. Есть абсурдная абракадабра.

Самое важное, что этот сверхразумный интеллект будет полностью самопрограммироваться – то есть самостоятельно ставить себе цели и решать любые задачи. Это

кажется абсолютной фантастикой: думаю, что примерно такой же, какой бы выглядел в глазах муравья наш с вами мир, если бы он мог охватить его своим взором.

Муравей появился на этой планете где-то 140 миллионов лет назад – не такой уж и большой для эволюции срок, – но никогда муравью не понять нашего мира. Стоит ли удивляться, что мы скоро не сможем понять мир, который будет создан как бы поверх нас? Я бы не стал.

Для нас 2045 год будет, по Курцвейлу, последним: произойдёт полное слияние нашего мозга с искусственным неокортексом в облаке. Собственно, этот момент и называют той самой «технологической сингулярностью», к которой вроде как всё идёт. Впрочем, всё идёт, но не всё так однозначно…

«Земля, – говорит Курцвейл, – превратится в один гигантский компьютер», а к 2099 году «процесс технологической сингулярности распространяется на всю Вселенную».

В теоретической физике сингулярностью называют область максимального сгущения материи под действием гравитационных сил – те самые бесконечные плотность и температура вещества в минимальном объёме.

Космическая чёрная дыра, представляющая собой эту самую сингулярность, находится за горизонтом событий – то есть никакая информация не может покинуть этой области и вырывается наружу, а все известные физике законы перестают там работать.

«Технологическая сингулярность» – это состояние техники, когда она перестаёт быть нашим подручным инструментом, а мы лишаемся всякой возможности управлять ею. Она как бы берёт управление нашим и не нашим и вообще всем бытием на себя.

В каком-то смысле она сама становится своего рода новым бытием, полностью преображая собой реальность, включая, понятное дело, и нас самих.

Таким образом, слияние человека с искусственным интеллектом, о котором так часто талдычат, – это, вообще-то, вопрос частного характера, незначительный побочный эффект. Ну да, мы сольёмся с большим и всесильным Расчётным Разумом. Но правильнее было бы говорить, что он просто поглотит нас.

Причём сам Курцвейл, как мне кажется, вовсе этого не скрывает, высказывается прямо и открыто, вовсе не пытаясь сгладить углы.

Мы настолько зациклены на важности и значительности человеческой самости, которая, по правде сказать, в масштабах Вселенной полный ноль, что буквально не можем услышать этих простых и, по-моему, предельно понятных слов: «Наш разум не в состоянии представить себе поведение сознания, которое настолько его превышает», «нам придётся измениться, чтобы соответствовать машинам».

Но каким должно быть это наше «изменение»? Ответа на это нет, а мы не особенно и задумываемся. Так что Курцвейл, зная про нашу глупость, самодовольство и ограниченность, говорит об этом прямо – совершенно не опасаясь панической реакции на свои слова.

По сути же они, конечно, являются приговором не только миру, к которому мы так привязаны, но и нам самим (по крайней мере, в том виде, в котором мы себя знаем, и в качестве того вида – Homo sapiens, – которым мы пока являемся).

Время не ждёт

Если вы сравните мозг человека с мозгом человекообразной обезьяны, то по физическим параметрам отличия будут весьма незначительными. Но посмотрите на результаты трудов – чего добились обезьяны со своими мозгами, а чего мы… с мозгами почти такими же. Да, дело не просто в физическом носителе, но в программном обеспечении к нему.

Конечно, нужны определённые особенности мозга, чтобы, допустим, инсталлировать в них язык: у приматов нашего с вами вида эти особенности мозга есть, а у шимпанзе, например, нет. Что, впрочем, не мешает шимпанзе обучиться языку глухонемых и, по крайней мере, до трёхлетнего возраста обгонять по сообразительности обычного человеческого детёныша.

Так или иначе, нам с программным обеспечением повезло. Но повезло по сравнению с другими приматами. А каким будет программное обеспечение у искусственного интеллекта, который достигнет нашего уровня?

Как известно, мы, несмотря на массу ограничений своего мозга и коммуникативной несостоятельности, можем создавать программы и самопрограммироваться.

Теперь представим себе, что будет происходить с искусственным интеллектом человеческого уровня, если он, имея все те преимущества, о которых здесь уже сказано, приступит к последовательному самопрограммированию.

Перед нами как раз тот случай, когда понимать экспоненциальность закона ускоряющейся отдачи Рэя Курцвейла крайне важно.

Исторический путь от первого примата до человека разумного занял миллионы лет, точнее, 70 миллионов.

• От первого человека разумного до человека говорящего – 150 тысяч лет.

• От человека говорящего до пишущего и читающего – 30 тысяч лет.

• От него до человека программирующего – немногим более двух тысяч лет.

• От человека программирующего до специального (слабого) искусственного интеллекта – несколько десятилетий.

Теперь вопрос: сколько лет отделяет нас от общего (сильного) искусственного интеллекта?

А сколько часов (или минут) будет отделять общий искусственный интеллект от сверхинтеллекта?..

Ирония состоит в том, что мы даже не заметим, как это случится: у нас будет состоять в услужении дружественный, очень эффективный, но слабый, то есть узкоспециализированный искусственный интеллект, а потом вдруг раз – и нами управляет Нечто.

Причём уровень интеллекта этого Нечто мы даже не можем себе представить. В нашем представлении умный человек – это тот, кто набирает каких-нибудь 120 баллов по IQ-тесту, а дурак – тот, у кого меньше 80. Но как вообразить себе существо, у которого IQ превышает, если бы тест это позволял, десять тысяч или двадцать тысяч баллов?

Конечно, мы очень гордимся своими изобретениями – формулу открыли E = mc², ракету в космос отправили, ДНК расшифровали, Bluetooth настроили, плохонькие 3D-принтеры произвели… А теперь попробуйте всё это как-то умножить на тысячи раз – и представьте, что это будет.

Фокус в том, что представить это невозможно, поскольку это и есть «технологическая сингулярность». Все известные нам законы, на которые мы опираемся, перестают действовать, ничто более не находится под нашим контролем.

Это совершенно новая реальность, в которой, возможно, нам просто нет места. Если, конечно, в отношении кого-то из нас будущий Властелин и Цифровой Бог не проявит милосердие…

Не появилось у вас желания примкнуть к «Пути будущего»?

И напоследок – самое трогательное.

В книге Джеймса Баррата «Последнее изобретение человечества», которая вышла в 2013 году, приводятся данные опроса сотен экспертов по искусственному интеллекту. Лишь 25 % из них согласились с датой наступления «технологической сингулярности», названной Курцвейлом, – 2045 год.

В 2015 году Ник Востром, автор книги «Искусственный интеллект», провёл аналогичный опрос. На сей раз – через два года! – с датой Курцвейла согласились уже 50 % респондентов. Закон ускоряющейся отдачи, однако!

Должен вам сказать, что я не без интереса наблюдаю за тем, как все последние годы люди реагируют на понятие «искусственного интеллекта».

Не скажу, конечно, за всех, но основная масса народонаселения ещё не так давно отождествляла искусственный интеллект с образом Арнольда Шварценеггера из «Терминатора». То есть думали, что это, вообще говоря, сказка какая-то. Мало ли что там этим фантастам в голову взбредёт!

Кто-то, впрочем, на полном серьёзе рассуждал о будущем искусственного интеллекта, опираясь, надо полагать, на сюжет фильма «Я – робот» с Уиллом Смитом в главной роли. Персонаж Уилла вступает в неравный бой с Виртуальным Интерактивным Кинетическим Интеллектом – такой бездушной дамой по имени ВИКИ, и, конечно же, побеждает её.

Что, в общем-то, и не удивительно – где этот никчёмный искусственный интеллектишка, а где наш – великий и могучий, – да ещё с очарованием голливудской суперзвезды Уилла Смита! Вообще, не сравнить! Она – ВИКИ – дура. У неё это по лицу на виртуальном экране видно! А наш-то – герой-молодец! Всех победим! Наших искусственными мозгами не запугаешь!

Короче говоря, основное возражение против возможности появления «искусственного интеллекта» (вызывающее не то недоумение, не то сочувствие) сводилось к следующему: у машин никогда не будет души, а значит, они никогда не станут «как люди», тогда как люди – вершина эволюции, и другой такой не бывать.

Если кто-то из моих читателей и до сих пор так думает, я буду вынужден заметить: никто в мире технологий «душу» производить и не собирается. И наверное, «искусственная душа» – был бы так себе программный продукт. Но интеллект – это совсем другое дело. Если вы, конечно, понимаете, о чём идёт речь… Собственно, это мы сейчас и обсудим.

Не в нашу пользу

Рэй Курцвейл со товарищи обещают нам скорую «технологическую сингулярность». Насколько всё это вообще реалистично? Давайте попробуем порассуждать…

Для начала просто сопоставим некоторые физические параметры. Нейроны нашего мозга работают с частотой 200 Гц, но даже современные микропроцессоры работают с частотой 2 ГГц, а, проще говоря, – в десять миллионов раз быстрее.

При этом общение между нейронами происходит, так сказать, ещё дедовским способом – импульс передвигается со скоростью 120 м/с. А теперь сравните это с 300 000 000 м/с – скоростью света… Да, оптоволокно слегка её притормаживает. Впрочем, исследователи из Саутгемптонского университета в Англии ещё в 2013 году нашли способ эти ограничения обойти.

Ещё более удручающим, потому что не в пользу наших мозгов, будет сравнение «объёмов» памяти и способности к её хранению. Понятно, что наш мозг ограничен не только размерами черепной коробки, но и количеством нейронов коры головного мозга – их непосредственно в самой коре около 18 миллиардов штук.

На этом, впрочем, наши беды не оканчиваются: как мы теперь знаем благодаря исследованиям Элизабет Лофтус, наш мозг не хранит целостных воспоминаний. То есть всякое наше с вами воспоминание воссоздаётся заново, когда это требуется, а потому всё, что мы «помним», мы всегда «помним» по-разному.

Компьютеры, как вы понимаете, не имеют никаких существенных ограничений по объёму долговременной памяти, и если уж они какие-то факты зафиксировали, то в таком виде их и хранят.

Мне не надо бояться, что, сохранив сегодня этот текст на компьютере, завтра я открою какой-то другой, потому что у моего ноута, видите ли, творческое настроение или, например, «критические дни». А вот с мозгами – другая ситуация: вчера, казалось, я понимал, что надо написать сегодня, но сейчас смотрю на экран и испытываю недоумение…

Плюс к этому, компьютер, в отличие от наших с вами мозгов, не устаёт, не нервничает, не страдает психическими расстройствами, не нуждается в восьмичасовом сне, не подвержен алкогольной или какой-либо иной интоксикации. В крайнем случае он перезагрузится – и вновь как новенький!

И я почти уверен, что стоящий передо мной компьютер не подвержен болезням Альцгеймера или Паркинсона. Мой же мозг точно выкинет что-то подобное, если я, конечно, до соответствующего возраста доживу, а Курцвейл нам про свои спасающие от деменции медицинские нанороботы бессовестно наврал.

Любое «железо», безусловно, устаревает, включая компьютерное. Но информация, которая содержится на компьютерных серверах, сохранится на новом «железе» в неизменном виде. Про «железо» наших мозгов, по крайней мере пока, этого сказать нельзя.

Дело в том, что наше «железо» (нейронные сети) – это по сути и есть та информация, которой мы обладаем. Поэтому, если проблемы возникают у нашего «железа», то уже есть и проблема с информацией.

Ожидать подобного безобразия в мире компьютеров не приходится, в их случае «железо» и «программный продукт» – это разные вещи. Само это железо может стать совершенно иным, работающим на других физических принципах, но с программным продуктом ничего не произойдёт – такова его природа.

Более того, если разные программные продукты говорят на одном языке, то вообще проблем нет, а если они говорят на разных, то сделают «переходник-переводчик» или придумают новый, общий для них язык, и снова – никаких проблем. В конце концов, это всегда и только язык бинарного кода.

Иными словами, вся информация, доступная разным «центрам» огромной компьютерной сети, транспарентна. То есть они не только могут ею обмениваться без искажений, но и «понимают» её ровно так, как следует, – не передергивая, не выкручивая, не подтасовывая.

Нам же – людям – ничего подобного даже не снилось! Благодаря нашим хвалёным «квалиа» мы вообще ничего не способны понять одинаково^[10]. Даже просто воспринимая один и тот же предмет, мы видим его по-разному. Так что искажения в нашем «информационном поле» повсеместны и абсолютно неизбежны, а машинам – хоть бы хны.

Наконец, вспомним про «трансгуманистические технологии»… Не так-то просто заставить наш мозг видеть вне видимого спектра, слышать то, к чему наш слух эволюционно не предназначен, и так далее. Но у компьютера, разумеется, подобных проблем нет и быть не может. Он способен даже видеть нас изнутри с помощью нехитрых, по его меркам, приставок типа магнитно-резонансной томографии.

В общем, по техническим параметрам нам лучше даже не пытаться с ним соревноваться. Если искусственный интеллект по уровню своего развития дотянет хотя бы до нашего – честно признаемся, не слишком высокого, – то он уже будет несравнимо умнее нас.

Поэтому, если пользоваться принятыми на вооружение классификациями, даже общий искусственный интеллект (ОИИ) – это существо уже значительно более мощное, чем мы с вами. Что уж тогда говорить о сверхмощном искусственном интеллекте, который нам вроде как тоже обещают?

Надеюсь, что я ещё не очень замучил вас рассказами о том, какие мы все с вами идиоты по сравнению с «тупыми» машинами… Понимаю, что даже думать об этом – дело весьма утомительное. Но надо набраться сил, поскольку дальше нам предстоит, возможно, самое интересное.

Ладно там физические параметры нашего «железа», слабые сенсоры и убогая социальность и т. д. Есть ведь ещё и собственно устройство нашего мозга, то, как он думает. Этот вопрос мы до сих пор весьма деликатно обходили стороной…

Языковая игра

Мне неоднократно приходилось слышать такого рода возражения: мол, какой у машины может быть интеллект? Это же просто набор алгоритмов, созданных человеком!

Забавно. Да, есть и «бузина», и «в Киеве дядька» тоже может быть, но слово – это только слово, и в зависимости от контекста оно может обозначать совершенно разные вещи.

Недаром мой любимый философ Людвиг Витгенштейн говорил, что не существует никаких «философских проблем», а есть лишь неразрешённые «языковые игры».

Проще говоря, если вы разберётесь, в каких словах вы запутались, то и проблемы, скорее всего, исчезнут сами собой.

Автором магического теперь уже словосочетания «искусственный интеллект» по праву считается Джон Маккарти. Но не от хорошей жизни искусственный интеллект стал «искусственным интеллектом». Придумать название для чего-то, чего раньше никогда не было, но чтобы любой человек, по системе ассоциаций, быстро понимал, о чём идёт речь, – это непросто очень.

Маккарти понимал, что есть феномен, который нуждается в номинации – в назывании. Об этом феномене рассуждали в 40-50-х прошлого века все великие умы, увлечённые идеей программируемых компьютеров: создатели самой идеи компьютеров – Алан Тьюринг и Джон фон Нейман, автор «теории информации» Клод Шеннон, пророк «кибернетики» Норберт Винер… Рассуждали, но единого имени для этого феномена не было.

При этом математики (а на первых порах это в основном были, понятное дело, математики) – люди увлекающиеся, мыслящие сложными абстрактными конструктами. С человеческим языком у них, как правило, дела обстоят не очень.

Так что на роль названия для феномена, который мы знаем теперь как «искусственный интеллект», претендовали достаточно странные слова и словосочетания.

Например, понятие «автоматов» («исследование автоматов»). Фон Нейман, с которым Маккарти обсуждал свою идею, занимался «клеточными автоматами», а Шеннон, взявший Маккарти к себе на работу в Bell Labs, выпустил книгу об «автоматах», которую Маккарти даже пришлось редактировать^[14].

То есть были все шансы у искусственного интеллекта называться, например, «умным автоматом», что, вероятно, многих его критиков примирило бы с действительностью мгновенно. Впрочем, в этом случае о другого рода «автоматах» шла бы речь – о математических, не об оборудовании с газировкой, но кого бы это смутило?

Было на повестке, конечно, и всякое «кибернетическое», а также «комплексная обработка информации», «машинный интеллект» и т. д.

Понятие «автоматы» Маккарти забраковал, потому что оно адресовало к математическим абстракциям (даже если это кому-то кажется забавным, это так).

Ничто а-ля кибернетическое Маккарти не нравилось, потому что основоположника кибернетики – Норберта Винера – он считал напыщенным занудой и думать не хотел о том, чтобы иметь с ним дело. В общем, как-то само собой нарисовалось слово «интеллект».

Но хотел ли Маккарти намекнуть нам на некое подобие мыслительной функции человека и этого своего «искусственного интеллекта»?

Как выясняется, нет. Впоследствии он не раз писал и говорил, что область, которую он обозначил «искусственным интеллектом», не имеет отношения к поведению человека – это просто такое слово-образ.

Но слово вылетело – не поймаешь: термин «искусственный интеллект» стал ассоциироваться с заменой человеческого разума машинным, о чём на самом деле речи-то и не шло.

Идея названия состояла не в прямой связи, не в замене и даже не в дополнении человеческого интеллекта искусственным (хотя уже тогда это и стало происходить), а в аналогии: у человека есть некая интеллектуальная функция принятия решений, и у машины есть нечто подобное – неживое, как и сама машина, искусственное.

В общем, математики, собравшиеся в 1956 году в рамках Дартмутского летнего исследовательского проекта, организованного Джоном Маккарти при финансовой поддержке Фонда Рокфеллера, подвоха не почувствовали, проголосовали – и название «искусственный интеллект» шагнуло в мир.

Показательно, кстати, что в программе этой конференции не было никаких докладов, которые были бы как-то связаны с поведением человека или его интеллектом.

Сейчас нет ни одного форума по искусственному интеллекту, где бы не говорили о биологическом интеллекте, механизмах мозга, обратной эмуляции коннектома^[15] и тому подобных вещах. Но для Маккарти подобные вещи выглядели бы глупо и совершенно неуместно на конференции по «искусственному интеллекту».

Когда он и его коллеги обсуждали «искусственный интеллект», они вовсе не воображали себе тех роботов из голливудских блокбастеров, к которым мы за это время уже так привыкли. Они говорили о чём-то своём… Но о чём именно?

Чтобы понять это, давайте посмотрим на ставшие уже классическими примеры искусственного интеллекта – да, слабого, но полностью отражающего существо феномена.

В 1998 году Ларри Пейдж, под руководством своего наставника Терри Винограда и в соавторстве с Сергеем Брином, опубликовал в IEEE Data Engineering Bulletin статью под названием «Что можно сделать с сетью в кармане?», где была сформулирована концепция будущей поисковой системы Google – по тем самым легендарным уже гиперссылкам.

Уже через несколько месяцев предприимчивые Пейдж с Брином ушли из Стэндфордской лаборатории и основали свою компанию, которая теперь обладает главным в мире интернет-поисковиком.

Но успех их проекта – это не какое-то единичное техническое решение двух удачливых стэнфордских магистрантов, а гигантский искусственный интеллект, изо дня в день осуществляющий сложнейшую работу по ранжированию и выдаче страниц, мониторингу сайтов и поведения конкретных пользователей, продаже рекламы и т. д., и т. п.

Количество искусственных интеллектов, созданных Google за два десятка лет, вообще-то говоря, колоссально.

Вот взять, например, Google Translate – это самообучающийся и постоянно совершенствующийся искусственный интеллект. Изначально ему было предложено соотнести десятки тысяч документов, которые за долгие годы были созданы на различных языках бесчисленными переводчиками Организации Объединённых Наций.

Это оказалось блестящим решением – где ещё отыщешь такое огромное количество текстов, которые с предельной точностью одновременно переведены на огромное количество национальных языков?

Искусственный интеллект Google подошёл к делу технически безукоризненно: он обнаружил в продублированных на разные языки текстах множество взаимосвязей, корреляций и соотношений и, можно сказать, буквально научился на этих языках говорить.

Теперь, когда вы предлагаете Google Translate перевести какой-то текст, он не просто вываливает на вас набор слов из бесчувственного словаря, а строит фразу, причём не только используя известные ему алгоритмы, но и параллельно совершенствуя их, самообучаясь.

Является ли такого рода «интеллектуальная» работа собственно интеллектом? И да, и нет. Если достаточно грубо обобщить то, что делает какой-нибудь Google Translate, то ситуация выглядит следующим образом:

• на его условный сенсор приходит некая информация, которую он должен сначала как-то распознать, идентифицировать, а потом отреагировать на неё;

• чтобы придумать адекватную реакцию на этот идентифицированный им как-то раздражитель, он должен сопоставить её с каким-то своим опытом – с тем, что он уже знает;

• он обращается к своей базе данных (своему «опыту») и находит некое соответствие, и производит реакцию – некое поведение, а проще говоря, предлагает перевод слова или фразы.

Если вы имеете хоть какое-то представление о том, как развивалась психотерапевтическая наука, а слова «бихевиоризм» и «когнитивно-поведенческая психотерапия» для вас не пустой звук, то вы уже понимаете, что мы имеем дело с классической моделью психики.

Всем этим я хочу сказать, что наблюдаемая нами разница между «интеллектами» человека и машины – лишь кажущаяся. Безусловно, она есть, эти «интеллекты» не идентичны. Но то, что мы считаем этой «разницей», ею точно не является, она в чём-то другом. И нам предстоит понять, в чём именно.

Но вернёмся пока к истории с названием «искусственный интеллект», которая со временем стала походить на трагикомический сериал.

Как я уже сказал, Джон Маккарти думал лишь о том, как с помощью компьютеров помочь человеку в решении задач, с которыми мы так или иначе сталкиваемся. Он был большим поклонником математической логики, применение которой искал в своей работе.

В общем, называя «искусственным интеллектом» искусственный интеллект, он и не предполагал, что кто-то решит, что речь идёт о создании существа, подобного человеку. Сам того не желая, он учинил большую языковую игру…

Будучи невероятным трудягой и успешным учёным, Маккарти основал в Стэнфорде Лабораторию искусственного интеллекта, которая на протяжении многих лет занималась самыми разными исследованиями в области робототехники, машинного зрения, распознавания речи и т. д.

Спустя полвека после той исторической сессии Дартмутского летнего исследовательского проекта, где на свет появилось словосочетание «искусственный интеллект», Джон Маккарти напишет:

«Проблема состоит в том, что пока мы не можем в целом определить, какие вычислительные процедуры мы хотим называть интеллектуальными. Мы понимаем некоторые механизмы интеллекта и не понимаем остальные. Поэтому под интеллектом в пределах этой науки понимается только вычислительная составляющая способности достигать целей в мире».

Но одновременно с этой фактической работой учёных языковая игра с «искусственным интеллектом», невольно затеянная Маккарти, получала, так сказать, своё параллельное развитие.

Для любых фундаментальных научных исследований, как вы понимаете, нужны средства. А где их взять? Да, обивать пороги толстосумов.

Впрочем, с 1958 года стараниями президента Эйзенхауэра, испугавшегося первого советского космического спутника, у американских учёных появился почти неиссякаемый источник финансирования в виде Управления перспективных исследовательских проектов Министерства обороны США (DARPA).

Проще говоря, чтобы получить баснословный грант на исследования, нужно было уговорить военных дать вам денег. Но как объяснить этим солдафонам, что исследование того стоит? Тут надо немножко приукрасить действительность…

Замечательный исследователь истории зарождения искусственного интеллекта Джон Маркофф приводит в своей книге «Homo roboticus» несколько историй о том, как Чарли Розен – один из главных лоббистов искусственного интеллекта в Пентагоне – разговаривал с потенциальными заказчиками исследований в области искусственного интеллекта.

Когда, например, генералы Пентагона спрашивали у Розена, сможет ли его робот носить пистолет, он не мешкая отвечал: «А сколько нужно? Думаю, он легко управится с двумя или тремя!»

И его тут же забрасывали следующими вопросами, которые уже сами по себе убеждали военных, что игра стоит свеч: «Вы хотите сказать, что ваша машина может быть часовым?», «Можно ли использовать её вместо солдата?» и т. д.

Теперь мы знаем, что всё это возможно: и военные беспилотники, и «часовые» всех видов и мастей, и антропоморфные солдаты с пистолетами, но тогда – в конце 1950-х годов, со стороны Розена это, конечно, была чистой воды авантюра.

С оговорками, очень аккуратно, он обещал Пентагону создать робота-человека. При этом, конечно, речь шла не об искусственном человеке, а о специальных компьютерных программах, которые смогут выполнять те или иные функции. Но в это, как оказалось, сложнее поверить, чем в явление существа из компьютерных плат и проводов.

И правда, представить себе того самого Терминатора – много ума не надо, а вот слушать про всё это машинное обучение, нейронные сети, символьные системы, базы данных, алгоритмы, рекуррентность, объектно-ориентированные языки, дедуктивные и индуктивные методики – это, конечно, невообразимая… скукота.

В общем, первым в «искусственный интеллект» поверил Пентагон, а уж после появления культовой «Космической одиссеи-2001» Стэнли Кубрика в 1968 году и вовсе сомнений ни у кого не осталось – учёные делают сверхмощное существо, которое нарушит законы робототехники Айзека Азимова и уничтожит человечество как вид. Ну, или, по крайней мере, как-нибудь его поработит.

Ирония состоит в том, что создавать человека на искусственном носителе не только очень сложно, затратно и, скорее всего, почти невозможно, но в том, что это абсолютно бессмысленно – он слишком плохо справляется с задачами, которые искусственный интеллект щёлкает как орехи.

Множественный интеллект

Автор психологической теории «множественного интеллекта» Говард Гарднер, поступая в Гарвард, планировал изучать историю и в дальнейшем специализироваться в юриспруденции.

Но в университете он встретил выдающегося психолога, неопсихоаналитика Эрика Эриксона, занимавшегося вопросами развития, и решил делать академическую карьеру.

От теорий развития Эриксона Гарднер, впрочем, достаточно быстро отошёл, вдохновившись своим следующим учителем – тоже ярким психологом Джеромом Брунером. Теперь это уже была сфера когнитивной психологии – Гарднера невероятно заинтересовала психология образования.

Дальше Гарднер увлёкся работами Жана Пиаже и его экспериментальной психологией, после чего защитил диссертацию по детской сенсорике.

Где-то в это же время – в начале 70-х – Гарднер подключился к проекту философа Нельсона Гудмена Harvard Project Zero, в рамках которого разрабатывались технологии преподавания и развития творческих навыков.

Впоследствии возглавив этот проект, Гарднер изучал то, как дети овладевают визуальными искусствами, музыкой, метафорическим языком, как у них формируется художественный вкус и т. д.

Так он дошёл и до нейрофизиологии, потому что к проекту Zero присоединился и знаменитый невролог Норман Гешвинд. Их с Гарднером научные интересы удивительным образом совпали – Гешвинд изучал пациентов, имеющих, вследствие неврологических заболеваний и травм, трудности при необходимости оперировать различными символами.

Благодаря Гешвинду Гарднер оказался в Бостонской больнице ветеранов, где проводил свои нейропсихологические исследования на протяжении последующих двадцати лет.

В начале 1980-х годов Гарднер стал одним из ведущих участников Проекта по изучению человеческого потенциала (Project on Human Potential), который финансировался Фондом Бернарда ван Леера с целью «оценить уровень научных знаний по проблеме человеческого потенциала и его реализации».

Результат этой его работы представлен в книге «Структура разума: теория множественного интеллекта» («Frames of Mind. The Theory of Multiple Intelligence»), которая была опубликована в 1983 году и тут же стала международным бестселлером.

Зачем я всё это рассказываю? Потому что сама профессиональная жизнь Гарднера как нельзя лучше объясняет его теорию.

Да, он занимался всем, что только можно себе представить: от истории до детской психологии, от художественного творчества до экспериментальной работы с неврологическими больными, от музыки до сенсорики (мне, разве что, не удалось найти сведений о его спортивной карьере).

Как вы уже поняли, Гарднер считает, что интеллект не однороден, что существует несколько различных типов интеллекта:

• лингвистический,

• музыкальный,

• логико-математический,

• пространственный,

• телесно-кинестетический,

• личностные интеллекты (внутриличностный и межличностный).

Вот что он пишет в своей книге «Структура разума»:

«Рассмотрев последние открытия в нейробиологии, мы также можем предположить, что в мозге выделяются участки, которые соответствуют, по крайней мере обобщённо, различным формам познания. В тех же исследованиях высказывается мысль о наличии нейронной структуры, с помощью которой возможны разные способы обработки информации. В сфере психологии и нейробиологии в полном соответствии с духом времени у человека признают наличие нескольких интеллектов».

Грубо говоря, за разные типы интеллекта в нашем мозге отвечают разные области: лингвистический и музыкальный интеллекты базируются в зонах височных долей, логикоматематический, как предполагается, связан с лобными долями, пространственный интеллект – это производное теменной доли, телесно-кинестетический интеллект – это интеллект прецентральной и постцентральной извилин^[17].

Понимаемый подобным образом интеллект очевидно неравномерен. Если бы мы измерили его, допустим, у профессионального математика и, для сравнения, у профессионального спортсмена, то, вполне возможно, получили бы численно одинаковый результат: один в уме берёт тройной интеграл (логикоматематический интеллект), другой – тройной тулуп на льду (телесно-кинестетический интеллект). И чей мозг умнее?

Если взглянуть на это дело с точки зрения «искусственного интеллекта», то тройной интеграл – это вообще для него не задача, раз плюнуть, а вот сделать тройной тулуп на льду роботам ещё не удавалось (и не скоро получится, я полагаю). То есть тут, конечно, всё зависит от точки зрения.

Сам Граднер считает, что его теория интеллекта, в отличие от аналогичных исследовательских программ, отвечает на ключевой вопрос: какие когнитивные способности позволяют человеческим существам выполнять необходимый функционал в различных культурах?

Из этого следует, что единственно верная, некая истинная и правильная точка зрения на интеллект не может быть обнаружена в принципе.

Наш мозг решает множество разных задач, зачастую друг с другом совсем не связанных. При этом каждый из нас специализируется на решении определённого круга задач, требующих максимального развития определённого вида интеллекта, а не всех интеллектов подряд.

Кто-то из нас в одном деле больше преуспевает, кто-то больше – в другом, и это нормально, это позволяет добиться распределения функционала между разными членами сообщества и увеличить общую продуктивность.

Но что же такое «общий человеческий интеллект», о котором все столько говорят, словно бы точно понимают, о чём идёт речь?

Итак, идея некого универсального человеческого интеллекта является глупостью и выдумкой. Нет такого. Мы обладаем множеством различных интеллектов (и совершенно не обязательно придерживаться классификации Говарда Гарднера или ограничиваться ею), но не общим интеллектом как таковым.

Нейрохирурги, нейрофизиологи и нейробиологи более ста лет, начиная с немецкого невролога Корбиниана Бродмана (возможно, вы слышали о «полях Бродмана»), дотошно расчерчивают карту коры головного мозга.

Действительно, кора нашего мозга не однородна:

• есть особенности её строения на клеточном уровне, на уровне структурной организации (разная толщина коры в разных зонах, разное количество её слоёв – от двух до шести);

• есть отличия функциональные: какие-то зоны коры жёстко запрограммированы на определённый тип деятельности, тогда как другие способны менять свой функционал в зависимости от внешних факторов;

• наконец, каждая область мозга имеет свои специфические нервные связи с другими зонами мозга, они входят в разные функциональные системы и в разные нейронные сети.

Стоит ли удивляться, что при наличии столь значительных морфологических отличий каждая из областей мозга, обладающая собственной спецификой, является генератором каких-то особенных «интеллектуальных продуктов» – «интеллектуальных продуктов» с разными характеристиками и свойствами.

Какая-то небольшая зона зрительной коры отвечает, например, за распознавание лиц – вы знаете, что не все из нас хорошо запоминают лица? Для меня, например, это постоянная проблема.

Другая область коры, на сей раз в височной доле, – за сборку звуковых раздражителей в мелодию. Вы никогда не задумывались о природе «музыкального слуха»?..

Третья какая-то зона – за пение. Не относитесь ли вы к тем людям, которые имеют идеальный музыкальный слух, но при этом им лучше не петь?

Четвёртая – за распознавание письменной речи.

Пятая – за работу вестибулярного аппарата.

И так далее, далее, далее…

В 2016 году в журнале Nature вышла статья Дэвида ван Эссена, Мэттью Ф. Глассера из Вашингтонского университета в Сент-Луисе, а также большой группы их коллег-нейробиологов, работающих в рамках уже ставшего знаменитым проекта – Human Connectome Project^[18].

Статья называлась «Мультимодальное разделение коры головного мозга человека» и наделала в научном мире много шума.

Всё дело в том, что благодаря хрестоматийным уже «полям Бродмана» учёные были уверены, что существует всего 52 специфические области коры головного мозга. А тут вдруг выяснилось, что их в разы больше: участники Human Connectome Project обнаружили более сотни ранее неизвестных областей коры, отвечающих за речь, зрение, движение и проч.

Да, это как если бы посреди Тихого океана образовалась бы парочка новых континентов… Впечатляет. Впрочем, нельзя исключать, что если будет изобретена какая-то ещё более точная диагностическая методика, то может оказаться, что всех этих «материков», «островов» и «архипелагов» на просторах нашего мозга значительно больше, чем мы думаем.

Что ж, настало время, когда нам следует вернуться к главному вопросу этой главы: а о чём это, собственно, толкуют классификаторы «искусственных интеллектов»? Те самые, утверждающие с апломбом, что «слабый (узкоспециальный) искусственный интеллект» (УИИ) – это ещё куда ни шло, но вот «сильному (общему, человеческому) искусственному интеллекту» (ОИИ) не бывать никогда?

Где, мне интересно, они видели этот «общий» человеческий интеллект – в тестах Ганса Айзенка? По шкале Бине-Симона? Медицинский факт в том, что даже у человека нет какого-то «общего» или «единого» человеческого интеллекта. Чего мы требуем от машин?

Мы, наш мозг – это множество узкоспециальных человеческих интеллектов (раз уж мы никак не можем развязаться с этим словом и оно нас преследует). И все они, собравшись вместе, натужно и кое-как (далеко не всегда хорошо), обеспечивают нам наше с вами нехитрое, в целом-то, существование.

Думаю, в данный момент мне нет нужды уточнять, что человечество уже обзавелось огромным множеством «узкоспециализированных искусственных интеллектов», а то, что они ещё не слились в одну общую гиперинтеллектуальную массу, – это дело времени.

Искусственный интеллект – это не сказка из отдалённого будущего, это реальность сегодняшнего дня.

Наши автомобили, даже если на них ещё не установлен автопилот, – это уже целые агломерации искусственных интеллектов: один занимается антиблокировкой тормозов, другой перенаправляет фары, когда вы подруливаете машину, третий определяет параметры впрыска топлива, четвёртый строит карты на местности и общается со спутником по GPS…

Наши телефоны – это просто вавилонская башня из разных искусственных интеллектов, обслуживающих мобильные приложения, настраивающих на вас рекламные потоки, блокирующих спам, узнающих вас в лицо, по отпечаткам пальцев, понимающих вашу речь, контролирующих ваши финансовые средства. Чего только стоят Siri и отечественная Алиса?

Плюс бесконечные рекомендательные сервисы во всех возможных программах – от Facebook, предлагающего вам на выбор «друзей», подборки фотографий и событий, и до какого-нибудь банального iTunes и AppStore.

Это ведь не какие-то люди сидят и выдумывают – мол, какую бы музыку (или мобильное приложение) поставить тому или иному пользователю на первое место в рекомендациях? Нет, они бы и не смогли этого сделать – вряд ли бы угадали с подборкой. Перед нами результаты расчётов, создаваемых на постоянной основе полчищами постоянно обучающихся на наших реакциях искусственных интеллектов.

Как думает мозг?

Теперь давайте зададимся вопросом…

Мы с вами посмотрели, как работают некоторые искусственные интеллекты. Пусть даже они узкие и «слабые» – в чём проблема, если мы сами – набор таких же? Тут проблемы обнаружить действительно не удаётся.

Но почему, если мы смотрим на проявления нашего интеллекта (биологического) и работу искусственного, нам всё-таки кажется, что они сильно, если не радикально, отличаются?

Думаю, что такое впечатление складывается потому, что искусственный интеллект занимается какими-то глупостями, а ещё потому, что действует предельно расточительно и нелогично. Сколько лидару нужно всего сделать, чтобы создать карту реальности вокруг автомобиля? – это ужас что такое!

Человек-водитель не будет разглядывать всех людей на прилегающих улицах, определять скорость движения всех автомобилей на расстоянии трёх футбольных полей вокруг. А лидар всё это делает и ещё, вы не поверите, изучает цвет каждого светофора на перекрёстке – то есть буквально всех, смотрящих во все стороны! Нормальный, нет?

Ощущение не только избыточности, но и избыточной тупости, правда? Вы вообще можете себе представить, чтобы хоть кто-то из нас делал нечто подобное, если, конечно, его под дулом пистолета к этому не принудят?

Ну, положим, лица на фотографиях Google Street View мы с вами различить и замазать сможем, а с грудью и ягодицами уж тем более справимся. Но к этому нас, надо сказать, сотни тысяч лет эволюция готовила. Это результат специфических настроек в нашем мозгу и плюс научение ещё.

Но вся прочая работа искусственных интеллектов – она какая-то совсем античеловеческая. Мы так не думаем, как это они делают! Мы точно делаем это иначе! Умнее!

С другой стороны, мы просто не в курсе? На самом деле наш мозг, конечно, строит пространственные модели реальности, как и лидар. И делает это на постоянной основе!

А наш мозжечок, например, производит, по сути, те же действия, что и все эти бесчисленные умные датчики в автомобилях, – круиз-контроль и прочие такие штуки. Огромный объём работы!

Или вот, например, речевые центры Брока и Вернике – разве не совершают они те же действия по распознаванию речи, как это делают Siri с Алисой?

Разумеется, наш мозг постоянно занимается распознаванием речи, но если она нам родная, мы просто не осознаём этого. Если же вы плохо знаете какой-то язык, то вы чувствуете, как, общаясь с носителем этого языка, только тем и заняты, что распознаёте его речь – пытаетесь понять, где в этом звуковом потоке начинаются и заканчиваются отдельные слова и что они, эти слова, учитывая контекст, могут значить.

Наш мозг всё это делает, и постоянно – мы просто не в курсе! А самое главное, мы совершенно не замечаем множества дефектов своих моделей реальности – и это не только огромные информационные пробелы, но ещё и бесконечные иллюзии восприятия и понимания.

Нам кажется, например, что мы мыслим логически, а наша интеллектуальная деятельность – это осознанный процесс построения логических конструкций. Но это не так: человек нелогичен, непоследователен и переменчив во взглядах.

Наше мышление и связанное с ним поведение – это одно сплошное когнитивное искажение, не говоря уже о субъективизме, обусловленном специфическим жизненным опытом каждого из нас.

Но тут можно возразить: если всё так, то как же получается, что столь ненадёжное существо умудряется быстро и ловко решать множество сложнейших задач, а искусственному интеллекту нужно проделать для этого огромный объём работы и использовать невероятное количество вычислительных мощностей?

Этот ларчик открывается достаточно просто – дело в нашей с вами ограниченности. Звучит это, наверное, несколько дико, но давайте рассмотрим эту кажущуюся парадоксальной точку зрения.

Биологическая эволюция миллионами лет готовила наш мозг к решению считанного, на самом-то деле, и весьма незначительного количества задач, необходимых для нашего выживания. Соответственно, настройки, которые в нас, так сказать, вшиты, достаточно примитивны.

Например, эволюция заставляет нас искать и поглощать калории, а также информацию. Но вот среда изменилась – и того и другого стало в избытке, и мы страдаем от ожирения – как физического, так и информационного.

Проще говоря, наш мозг не может сам по себе остановиться, хотя мы сознательно понимаем, что хватит. Нет, он ест и скролит – пока сил хватает. Это разумно? Нет.

В общем, мы были неплохо созданы под конкретные задачи. Но реальных задач у нас было немного, поэтому и хвастаться нашим «суперкомпьютером» вряд ли стоит.

Да, в нас есть настройки под конкретные задачи – на какие объекты и какой последовательностью действий реагировать. Мы с этими настройками рождаемся и дальше тренируем их в процессе последующего онтогенеза (своего индивидуального развития), адаптируясь к конкретным условиям жизни – в монгольских степях или джунглях Амазонии.

Причём проходим, по сути, все фазы – от примитивного реагирования, ничего не видя и не понимая, до более и более сложного поведения, пока не решим, что, мол, всё, достаточно учиться и тренироваться – мы и так лучше всех.

Эмбрион в процессе своего развития в утробе матери трансформируется из одноклеточного организма в полноценного млекопитающего, в человека. Это, образно говоря, как миллионы лет эволюции на ускоренной перемотке^[19], что схематично показано на рисунке № 3.

Как это нам удаётся? Просто потому, что у него есть программа – предустановки, прописанные в нашем ДНК.

Рисунок № 3. Ускоренный филогенез в эмбиогенезе

С нашим мозгом, уже после рождения, происходит примерно то же самое: мы проходим путь его последовательного развития из бессмысленной массы нейронов в сложную структуру нервных связей, обуславливающих жизнь и деятельность взрослого человека.

Проходим, надо признать, достаточно быстро – лет за 20–25, когда завершается миелинизация тех областей префронтальной коры, которые отвечают за создание образа будущего^[20].

Теперь давайте чуть-чуть добавим самоиронии:

• даже при наличии генетически предустановленных в нас настроек, благодаря которым все области коры головного мозга изначально специализированы и буквально выпрыгивают из штанов, ожидая, когда же им наконец дадут развиться,

• даже при том, что адаптироваться – то есть развивать наш мозг – нам предстоит в рамках внятной и понятной образовательной среды, которая создана для нас культурой и буквально напичкана общественными отношениями, мириадами воспитателей, учителей, тренеров и т. д., и т. п., нашему расчудесному мозгу требуется 25 лет на его формирование!

Знаете, по сравнению даже с нынешними «слабыми» искусственными интеллектами, наш с вами – биологический – страдает существенными задержками развития.

Рисунок № 4. Схематичное представление формирования у ребёнка навыка распознавания человеческих лиц

Рисунок № 5. Схема сенсорной и моторной коры головного мозга

Ко всему этому, вероятно, следует добавить ещё несколько «чувствительных» деталей. Например, то, что биологическая эволюция не мелочится и жертвы её никогда не пугали. Так что количество её неудачных опытов, как нетрудно догадаться, прохаживаясь по палеонтологическому музею, значительно превосходит число успехов и прорывов.

Сам принцип естественного отбора – это наличие жертв: слабые, неспособные, не умеющие адаптироваться существа должны сгинуть, не оставив потомства. И это логично, но от искусственного интеллекта мы по каким-то загадочным причинам ждём не только мгновенной умности, но и безошибочности работы.

Каждая автомобильная авария с автомобилем, управляемым автопилотом, становится предметом подробнейшего разбирательства и главной новостью на местных телеканалах. Конечно, это же ужас какой! При этом то, что ДТП с участием обычных автомобилей не попадают в новости из-за того, что их слишком много и это до того обыденно, что «не новость», почему-то никто не задумывается.

К настоящему моменту автомобили с автопилотом разных компаний и производителей намотали пробег в миллионы километров, многократно обогнули земной шар. А много ли вы слышали историй об убийстве человека машиной с автопилотом?..

Исследователи компании Axios самым серьёзным образом подошли к изучению статистики дорожных происшествий в Калифорнии с участием робомобилей. С 2014 по 2018 год удалось насчитать 38 таких ДТП. И что же? Выяснилось, что во всех случаях, кроме одного, когда действительно произошёл сбой алгоритма автопилота, виновником ДТП был человек.

Но несмотря на это, информация о подобных ДТП, прошедшая через СМИ, неизменно приводит к резкому снижению доверия публики к технологиям автопилотирования. Забавно, правда?

Нам легко войти в положение человека, убившего другого человека своей машиной, даже если он был пьян, обкурен или просто невнимателен. Но умную машину мы готовы осудить, даже если она невиновна. Да, мы просто кладезь когнитивных искажений…

Правда в том, что уже сейчас прекрасно работающий искусственный интеллект совершенно не похож на нас – на своего создателя. Ни в фас, ни в профиль. Однако же он делает ровно то, что делает наш с вами мозг, причём в каждом отдельном случае значительно лучше него (или, по крайней мере, лучше и лучше с каждым днём).

Когда-то считалось, что научить машину распознавать человеческие лица – это что-то за гранью фантастики: нельзя, невозможно, никогда не получится. Однако сейчас интеллектуальные системы распознавания лиц справляются с этой задачей лучше людей и уж точно значительно лучше меня (всегда страдал от этой проблемы).

А на вопрос, каким образом им это удаётся, ответ будет прост до неприличия – они научились. Как и мы с вами в своё время, только у нас были эволюционные настройки, предуготованность к распознанию лиц, соответствующие области мозга в зрительной коре, а у него – нет.

Почему эта задача, применительно к искусственному интеллекту, ранее считалась невыполнимой? Потому что разработчики думали: какие алгоритмы ввести в систему, чтобы научить её распознавать лица, или, например, отличать морду собаки от кошки?

Но разве у нас есть «сознательные» правила на этот случай? Разве у нас самих не происходит всё это на подсознательном уровне? Разве мы не называем этот навык интуитивным? Хотя никакой интуиции не существует, и это всегда результат не осознаваемой нами работы нашего же мозга.

Да, мы не знаем (сознательно), по каким принципам мы узнаём людей в лицо, мы не знаем (сознательно), что позволяет нам так быстро и «просто» отличить кошку от собаки. Так кого мы можем этому научить?

Правда в том, что мы сами не понимаем того, как наш мозг решает эту, да и подавляющее большинство других жизненных задач. Наш мозг делает это на тех уровнях своей организации, куда наше самодовольное и самоуверенное сознание никогда не заглядывало и даже, при всём желании, заглянуть не может.

Проще говоря, искусственный интеллект – это, в действительности, некий искусственный мозг, а не «интеллект» в привычном для нас понимании этого слова. Точнее, даже не мозг, поскольку он является интегральным органом, а пока лишь искусственная нервная ткань: огромное множество отдельных сетей, работающих – до поры до времени – независимо друг от друга.

Но как мы видим, они – эти отдельные пока искусственные интеллекты – уже начали собираться в агрегации и работать совместно. Именно так, должен сказать, происходило и в процессе эволюционного филогенеза – то есть исторического развития – нашей с вами нервной системы.

Тот феномен, который мы по сложившейся традиции обозначаем словосочетанием «искусственный интеллект», не предполагает человекоподобия по существу, а уж тем более во внешнем облике.

Неудивительно, что попытка воспроизвести человеческое существо из металла, транзисторов и проводов, эдакого Голема, но на новый – технологический – манер, разумеется, была обречена на неудачу.

Но была ли подобная стратегия в принципе верной?

Если верить еврейской мифологии, сделанный праведником Лёвом глиняный истукан был оживлён мистическими силами Каббалы.

То есть дух был сказочным образом внесён в эту куклу. Ожидать же от инженеров тех же чудесных мистических сил – как минимум странно.

Конечно, ничего «такого» мы внести в машину, оснащённую каким угодно мощным искусственным интеллектом, не можем. Она или создаст какие-то специфические, интересующие нас эффекты, или нет. Мы же не герои ближневосточного фольклора и даже не герои из вселенной Marvel.

И с чего мы вообще взяли, что, создавая искусственный интеллект, мы должны кудесничать на манер древнееврейского Иеговы?

Как выясняется, идти старым, добрым, проверенным путём эволюции – последовательно, от меньшего к большему – куда более разумно, чем указывать искусственному интеллекту, каким он должен быть и главное – каким образом ему этого следует добиться.

В конце концов, эволюционные принципы действительны сами по себе, а субстрат, на котором они себя проявляют, не так уж и принципиален. Вполне возможно, что на кремниевом или каком-то другом ненуклеотидном субстрате всё будет происходить даже лучше и быстрее.

С учётом тех технологических возможностей, которыми мы уже располагаем, в этом, мне кажется, можно даже не сомневаться…

Кротовая нора

Пока философы с психологами играли в слова, нейробиологи пошли долгой дорогой – шаг за шагом изучая нервную ткань, – и в результате зашли в скиннеровский «чёрный ящик» с другого входа.

Всё началось с итальянца Камилло Гольджи и испанца Сантьяго Рамона-и-Кахаля. Первый изобрёл способ окрашивания нервной ткани дихроматом калия и нитратом серебра, а второй использовал полученные результаты, чтобы сформулировать теорию, согласно которой функциональной единицей нервной системы является нейрон (так называемая «нейронная доктрина»).

В 1906 году этот творческий союз получил Нобелевскую премию по медицине «в знак признания их трудов о структуре нервной ткани» (см. рис. № 6).

За этим последовали премии Чарльза Скотта Шеррингтона и Эдгара Дугласа Эдриана (1932), Генри Дейла и Отто Леви (1936), Джона Экклса, Алана Ходжкина и Эндрю Хаксли (1963) – всё за нейробиологические открытия, описывающие работу нейронов.

Рисунок № 6. Общий вид шести слоёв коры головного мозга

Пока, наконец, в 1981 году Нобелевская премия не была присуждена Дэвиду Хьюбелу и Торстену Визелю «за открытия, касающиеся принципов переработки информации в зрительной системе»^[25].

Должен сказать, что премии безусловно заслуживал и Вернон Маунткастл – невролог, работавший в Университете Джона Хопкинса, который ещё в 50-х годах создал теорию модульной организации коры головного мозга, которая активно использовалась Хьюбелом и Визелем.

Но Нобелевский комитет не любит вручать свои премии за теории, поэтому приз получили те, кто сделал теорию Вернона Маунткастла эмпирической явью.

Маунткастл предположил, что нейроны коры головного мозга создают на её поверхности своего рода поля размером около пяти с половиной миллиметров, и эти поля друг другом не перекрываются.

Впрочем, поля – это только начало, верхушка большой структуры: дальше, как бы внутрь коры, идут слои нервных клеток, связанных друг с другом в рамках общего функционала.

То есть, грубо говоря, там, в коре головного мозга, есть своего рода вытянутые в глубину модули, каждый из которых занят своим делом. Нижняя часть такого модуля переходит в белое вещество – это что-то вроде проводов, а сами кортикальные колонки – это сервер, расчётные мощности. И чем выше уровень (слой коры головного мозга), тем более обобщённая информация там генерируется.

Эти модули получили название «кортикальных колонок». Но с тех пор выяснилось, что открытые Маунткастлом кортикальные колонки являются «гиперколонками», каждая из которых состоит из сотни «микроколонок», а та, в свою очередь, собрана из 80-120 нейронов (см. рис. № 7).

Рисунок № 7. Модульная организация коры головного мозга

В общем, это, так сказать, нейроклеточная матрёшка, о чём я достаточно подробно уже рассказывал в книге «Чертоги разума».

Сейчас где вы только про эти кортикальные колонки не прочтёте и не услышите – и у Говарда Гарднера, и у Рэя Курцвейла, и вообще у всех, кто хочет хоть сколько-нибудь здраво понимать то, что происходит в нашем с вами головном мозге, а ещё в «мозге» искусственного интеллекта.

Да, именно последнее обстоятельство и сделало открытие Маунткастла столь актуальным. Совсем не случайно один из ведущих исследователей искусственного интеллекта Джефф Хоукинс сравнивает статью Вернона Монтакла «Принципы организации церебральной функции: общая модель и распределённая система» 1978 года с «розеттским камнем»^[27].

Каждая кортикальная колонка является своего рода счётной машинкой: получив на входе некий сигнал, она оценивает его и выдаёт в качестве результата всё, что является нами с вами, нашей психической деятельностью.

Всё, что вы видите, слышите, ощущаете, чувствуете, переживаете, хотите, думаете (по желанию можете этот ряд как угодно продолжить), – это результат работы таких вот микроколонок, своеобразных пикселей нашего с вами психического опыта.

Эти колонки запрограммированы генетически и натренированы в рамках практического использования производить то, что вы считаете самими собой и миром вокруг себя.

Грубо говоря, они обучены производить некие эффекты, из которых складывается ваш перцептивный, двигательный, психологический, да и вообще весь прочий опыт – ваш субъективный мир.

Теперь представьте, что мы берём некое ваше переживание – например, чувство любви к какому-то человеку, – и пытаемся посмотреть в ваш «чёрный ящик» с того входа, который нам предложили Сантьяго Рамон-и-Кахаль и Вернон Маунткастл.

Сначала мы увидим перед собой нечто огромное – общее состояние влюблённости, восторг и ощущение счастья. Впрочем, за этим состоянием, которое нам только кажется в моменты, когда мы пытаемся его осмыслить, стоит множество уже вполне конкретных переживаний, образов, ощущений, мыслей.

И всё это, как кажется, мы можем разглядеть в вашем мозге: вот ваше случайное знакомство, совместная прогулка, переглядывания, расставание и ожидание звонка, милые ухаживания, планы на будущее, которые рисует вам ваше воображение, подготовка к новой встрече, ощущение сердца, которое готово вырваться из груди, а вот, наконец, и первый поцелуй чувственных губ, нежность объятий, страстный секс.

Впрочем, присмотревшись и заглядывая в наш «чёрный ящик» чуть глубже, мы увидим множество единичных деталей – секундные воспоминания: переглянулись, прикоснулись, что-то сказали, заскучали, подумали, испугались, поторопились, попросили, присели, встали, что-то съели, снова переглянулись, попрощались.

Эффект всё больше начинает напоминать разоблачение той визуальной иллюзии, когда вы постепенно приближаетесь к картине импрессиониста: только что вы видели перед собой готический собор или кувшинки под мостом, возможно, толпу людей на парижской улице…

Но вот вы подходите ближе, ближе – и ваш взгляд уже различает лишь единичные мазки, которые совсем не похожи ни на декоративный орнамент храма, ни на цветы, ни тем более на людей.

Вам кажется, что ваши отношения с предметом вашей страсти – это нечто постоянное, неразрывно текущее во времени и пространстве. Но это не так – вы, я полагаю, как минимум прерывались на сон и ходили в туалет (надеюсь, без сильного чувства любви).

То есть весь этот протяжённый и непрерывный объём чувствования – это лишь ощущение, созданное сейчас и в данной ситуации вашим мозгом. Это рассказ-описание для данного случая (ad hoc, как сказали бы философы): для конкретного слушателя, в конкретном вашем самочувствии, в определённой психологической фазе и т. д.

На самом деле, чем глубже мы проникаем в ваш «чёрный ящик», тем сложнее там что-либо различить: взгляд, какое-то сообщение на экране телефона, чувство физического прикосновения и т. д. – вереница мельчайших моментов. А дальше ещё меньше – какие-то цвета, формы, реакции, движения, жесты, отголоски звуков…

Наконец, мы видим лишь активизацию микортикальных колонок, которые гудят как множество однообразных процессоров на большой материнской плате. Да, именно так выглядело бы действительное путешествие в наше, кажущееся таким объёмным и подлинным, любовное чувство.

На самом деле это проход внутрь кротовой норы – в космическую червоточину, эдакий технический мост Эйнштейна-Розена.

От того, что вы считали своим чувством любви (точнее, от этой складной истории о нём), не осталось бы ничего, лишь только – ритмичная вибрация импульсов, которыми обмениваются друг с другом нервные клетки внутри микроколонок, микроколонки – одна с другой – в пределах отдельных гиперколонок, а те, в свою очередь, между собой в полях Бродмана-Эссена, в долях и сетях головного мозга.

И правда, конечно, состоит в том, что пройти этот путь сверху вниз – от макропереживания к работе отдельных микроколонок – невозможно, потому что его просто нет.

Да и вообще, есть лишь работа нейронов и их микроколонок, которые производят мазок за мазком наше общее ощущение – любое, в том числе и любви, всё остальное – иллюзия, игра разума. Ровно по этому принципу работает и «искусственный интеллект».

Учиться, учиться и учиться…

Возможно, вам приходилось слышать про эти «грабли», что мол, в 1950-1970-х годах искусственный интеллект уже был переоценён, из соответствующих проектов ничего не вышло, а раз так, то и нынешнее увлечение ИИ – это просто блажь и всё закончится таким же пшиком. Мол, человек – это нечто абсолютно уникальное, его не воспроизвести.

Действительно, те изначальные кибернетические прогнозы, та робототехника и компьютерные эксперименты, которыми ознаменовалось становление теории и практики искусственного интеллекта, потерпели фиаско.

Но говорить, что это ставит крест на искусственном интеллекте как таковом, – смешно. Такой же «крест» поставил на диджитал-индустрии лопнувший в 2000 году пузырь доткомов – да, кто-то поторопился, да, кто-то не рассчитал, но это ошибки игроков, а не баг системы. Посмотрите на нынешний список Forbes и убедитесь в этом. И двадцати лет не прошло.

Да, изначальные прогнозы исследователей искусственного интеллекта не оправдались,

что, впрочем, и неудивительно, как минимум по трём причинам:

1) чрезвычайно низкая на тот момент вычислительная мощность оборудования;

2) тот самый, как его теперь называют, «нисходящий подход» (то есть желание воспроизвести человека в железе, а не создать искусственный интеллект с нуля, дав ему его собственное существование);

3) физическое отсутствие того, что мы сейчас называем «большими данными», – той самой Big Data.

В конце 70-х – начале 80-х надежды на искусственный интеллект в академическом мире были практически похоронены. Говорить о нём в научных кругах считалось дурным тоном – мол, не смогла, так не смогла, а оправдываться просто глупо. Это время называют «зимой искусственного интеллекта».

Но всё изменилось уже в середине 80-х: в 1986 году Род Брукс, о котором я уже упоминал, сформулировал «восходящий», или, ещё можно сказать, проэволюционный подход в создании искусственного интеллекта, точнее – мозга, а ещё точнее – нейронных сетей.

В общем, кажется, он прислушался к матери-природе и её эволюционной логике. Вместо того, чтобы пытаться воссоздать человека – это самое сложное (и, добавлю, противоречивое) из известных нам на земле животных, это чудо света, – он решил пойти другим путём, начать, так сказать, с другой фактуры.

– Может, нам амёбу какую-нибудь запрограммировать для начала, или таракана, например? Муравья?.. От менее сложного к более сложному, – вот что предложил Брукс.

Проще говоря, если избавиться от языковой игры, в рамках которой «интеллект», согласно философскому словарю, есть «мыслительная (умственная) способность человека, которая может отождествляться с рассудком, разумом и интуицией», и взглянуть на это понятие нейрофизиологически и нейробиологически, то ситуация с созданием «искусственного интеллекта» меняется радикально.

Наша нервная система эволюционно выполняет главную функцию всего живого – это способность воспринимать изменения в окружающей внешней среде как раздражения, идентифицировать их и отвечать приспособительными реакциями.

Формально говоря, даже амёба, не обладающая ещё даже задатками нервной системы, уже умеет специфическим образом реагировать на изменение состояния окружающей среды, демонстрируя соответствующие средовым факторам изменения – вытягивание и сокращение протоплазмы.

Нервная система животных, начиная с гидры и дальше, через ланцетника, к нам – это лишь специализированный инструмент решения всё той же задачи: воспринимать изменения среды как раздражитель, идентифицировать его и отвечать в соответствии с целями и задачами, которые решает животное (точнее, эволюция, которая пользуется животным как контейнером для переноса генетического материала из прошлое в будущее).

В каком-то смысле данная функция перманентной адаптации некого существа к внешним воздействиям плюс феномен репликации ДНК – это и есть сама жизнь. Поэтому если вы собираетесь её воспроизвести, то надо воспроизводить самую эту функцию: превращать сигнал в раздражитель, идентифицировать его в системе внутренних настроек и производить реакцию, которая соответствовала бы целям и задачам системы.

Устроенная таким образом «искусственная сеть», оказавшись в той или иной информационной среде, имеющая достаточную сложность организации и запрограммированная на определённый результат, сама будет себя двигать и развивать. В этом, если совсем грубо, и состояла суть подхода, сформулированного Родом Бруксом.

Теперь добавьте к этому элегантному решению действие законов Мура и ускоряющейся отдачи Курцвейла…

Очевидно, что ситуация с мощностями к девяностым годам XX века выглядит существенно иначе, нежели в пятидесятых. А в двухтысячных – и вовсе совсем по-другому: производительность компьютеров, которая считалась раньше недостижимой, сейчас уже многократно превышена.

Наконец, отдельная и очень важная новая вводная: массив данных – то, о чём первопроходцы искусственного интеллекта изначально вообще не задумывались.

Казалось логичным, используя знания и здравый смысл, сформулировать для тех или иных целей алгоритм действия и превратить его в программный код. Это своего рода экспертный подход, когда человек знает «как», а машина должна только повторить.

Но оказалось, что с машинным обучением всё иначе…

Если вы имеете нечто в реальности – нечто действительное и настоящее, что сообщает вам о себе невероятно большим количеством данных, то зачем вам эксперт? Тем более если это эксперт, я прошу прощения, с человеческими – то есть весьма ограниченными и пристрастными – мозгами.

Нет, это плохая идея! Лучше просто возьмите все эти данные, перетрясите их, так сказать, хорошенько, а затем разложите в непротиворечивой структуре. Как результат вы получите закономерности, описывающие работу системы, и сможете, таким образом, влиять на неё.

Впрочем, кто мог до этого додуматься, когда никаких «больших данных» (Big Data) не было и в помине, а только их жесточайший дефицит, дороговизна и рутинное производство? Но ускоряющаяся отдача, как мы видим, работала…

Согласно общепринятой статистике, в 2002 году человечеством было произведено 18–10¹⁸ байт (18 экзабайт) информации. А уже в 2014 году, по данным исследования, опубликованного в Supercomputing Frontiers and Innovations, выяснилось, что примерный объём данных в интернете равен 10²⁴ байтам (1 млн эксабайт).

Знаменитый эксперт по экономике будущего Бретт Кинг приводит такие данные, позволяющие хоть как-то представить масштаб этого информационного потопа:

Библиотека Конгресса США, являющаяся крупнейшим в мире книгохранилищем (где кроме книг есть ещё 13 млн фотографий, 4 млн карт, 500 000 млн фильмов и 3,5 млн звукозаписей) в отцифрованном виде составляет около трёх петабайт данных;

• в 2016 году мы в сутки производили в 8500 раз больше данных, чем хранится в Библиотеке Конгресса, а за секунду – в тысячу раз больше интернет-контента, нежели 130 млн печатных книг, изданных за всю историю человечества.

Проще говоря, количество цифровой информации растёт по той самой экспоненте (только вот абсолютно непонятно, в какой точке этого графика мы сейчас находимся). А что такое эта современная цифровая информация?

Это не просто данные, не просто большие данные, а связанные между собой большие данные! Не те старые книжки, стоящие на пыльной полке в ожидании случайно обнаружившего их читателя, а по сути – живой организм, полный взаимнопересекающихся отношений и связей, гипер-гипер мультиссылок.

Тут важно понимать вот что: каждый байт современной цифровой информации – это не просто байт. Он произведён кем-то, кто сам является для нас информационной структурой: все его действия, активности, решения – вся эта информация тоже есть и хранится.

Причём это вовсе не обязательно какой-то живой человек, который что-то постит на своей странице в социальной сети, – вовсе нет! Это может быть тот самый умный холодильник, мусорный бак, кассовый аппарат, детектор на входе в любое учреждение, медицинское оборудование, натыканные теперь везде уже камеры и т. д., и т. п.

Плюс, кроме всего этого информационного роскошества, есть ведь ещё и «протяжённость», как сказали бы философы старой школы. То есть есть определённый момент времени и пространства, когда этот кажущийся единичным байт возник.

А что это для нас значит? Это значит, что нас ждёт увлекательное «исследование в прошлое» – этот единичный факт (байт) можно подцепить и раскрутить огромное пространство связанных событий. Тут же открывается и возможное будущее, ведь мы найдём кучу взаимосвязей и закономерностей.

Плюс, наконец, мы можем понять этот байт как нечто, что определяется всеми возможными средовыми факторами, актуальными в данной точке времени и пространства (включая информационное) и тоже бережно зафиксированными.

Проще говоря, пора забыть уже и о Библиотеке Конгресса, и вообще о любой другой «библиотеке». Это, даже при всей моей любви к ним, – только памятники истории, отброшенная ступень нашей цивилизационной ракеты.

Современная информация – это поле, а не набор элементов. Поле вроде бы абсолютно децентрализированное, но при этом взаимосвязанное – из любой его точки вы можете попасть в любую другую, найти все связанные отношения всего со всем.

Так что сейчас всё, наконец, сошлось: нейронные сети, способные самостоятельно учиться и решать задачи, фантастическая мощность компьютеров и та самая информационная среда – как питательный бульон, позволяющий искусственному интеллекту обучаться чему угодно.

Рисунок № 8. Схема однослойной нейронной сети

Тогда-то и произошёл разрыв между прежними друзьями и коллегами – Джоном Маккарти, который остался в своей логико-математической парадигме, и Марвином Мински, который станет основателем Лаборатории искусственного интеллекта в Массачусетском технологическом институте – самой настоящей Мекке последующих исследований в области искусственного интеллекта.

Ограниченность перцептрона привела исследователей к идее увеличить количество скрытых слоёв, которая у разных авторов с середины 60-х по 80-е обретала свои очертания. Но общая схема многословной нейронной сети не слишком отличается от перцептрона (см. рис. № 9).

Рисунок № 9. Схема многослойной нейронной сети

Далее, уже в конце 70-х – начале 80-х Джеффри Хинтон и Терри Сейновски предложили на замену прежней символьной модели искусственного интеллекта так называемую параллельную распределённую обработку, что существенно увеличило эффективность работы. А в 1982 году Джон Хопфилд создал нейронную сеть своего имени, в которой «нейроны» получили возможность независимо менять свои параметры (см. рис. № 10).

Рисунок № 10. Схема ассоциативной нейронной сети Джона Хопфилда

Наконец, в 2007 году Джеффри Хинтон создал алгоритмы глубокого обучения многослойных нейронных сетей, особенность которых заключается в том, что обучение системы происходит на разных слоях, начиная с самых нижних (см. рис. № 11).

Рисунок № 11. Упрощённая модель работы современной нейронной сети

Машина обучается, анализируя огромные объёмы данных – например, миллионы фотографий – с целью научиться опознавать лица на разных фонах и в разных ракурсах. Процесс это долгий, но когда период обучения проходит, машина справляется с подобной задачей достаточно быстро.

Загляните в любой современный фотоаппарат: этот бегающий квадратик, выделяющий на общем фоне лица людей, – результат работы девятислойной, в отличие от однослойного первого перцептрона, нейронной сети Джеффри Хинтона, а также от шестислойной – в затылочной доле нашего головного мозга, которая решает, по сути, ту самую задачу.

Ошибкой было бы думать, что мы видим то, что мы видим. На самом деле всё то, что мы видим, создаётся в зрительной коре. Видит ли искусственный интеллект то, что он «видит»? Вот этот вопрос и является главным аргументом противников идеи искусственного интеллекта. Но здесь налицо, как мне представляется, подмена понятий.

Что значит «видеть»? Видит ли объектив камеры? В каком-то смысле, наверное, да. Но то, что эти новые невероятные алгоритмы в цифровых камерах видят, – это совершенно точно.

Уже сейчас они способны на самые настоящие чудеса – например, сделать размытое изображение чётким, сличив несколько совершаемых последовательно снимков. Или наоборот – как вам эта чудо-способность: увеличить контрастность фигуры и размыть за ней фон?

У них нет субъективного опыта видения? А что есть этот субъективный опыт? Они не рефлексируют то, что они что-то увидели? Об этом и речь. Возможно, но зато они точно лучше это запомнили, а потом другие алгоритмы всё это ещё смогут сличить с базами данных, распознать объекты на фотографиях и т. д.

Более того, скажу: мы-то сами не видим то, что, как нам кажется, мы видим. Мы «видим» активность своих кортикальных колонок, а не фактические объекты перед собой – в этом правда. Даже при пристальном взгляде на внешний относительно нас объект мы имеем дело лишь с его реконструкций внутри нашего мозга.

По крайней мере, наша зрительная кора, используя последовательность «изображений», создаваемых при помощи саккад^[28], как минимум, затирает «слепое пятно». Хотя есть основания думать, что мы в принципе видим то, что помним, а не то, что воспринимаем (но это уже, на общем фоне, малозначительные детали).

Человечество долго пыталось освоить воздухоплавание, пытаясь подражать птицам. Как известно, это ничем хорошим не закончилось. Но разве мы не умеем летать? Я сейчас нахожусь в Греции и могу поклясться, что я сюда прилетел. Да, я не махал крыльями, и устройство, которое меня доставило сюда из Петербурга, ничем не махало.

Нет, я просто прилетел в Грецию по-другому – не так, как птицы. Но я точно сделал это лучше – быстрее, безопаснее и комфортнее. Чем птица лучше? Или чем лучше способ её полёта? Так мы с нашим зрением – носимся, словно с писаной торбой, а искусственный интеллект тем временем видит всё лучше и лучше.

Итак, что же такое интеллект? Мы привычно считаем, что это языковые конструкции, знаковые системы, размышления на уровне анализа и синтеза, высокие степени абстракции и т. д. Но это то, что мы думаем об интеллекте, а вовсе не то, что он представляет собой на самом деле.

Как мы теперь знаем благодаря современным нейрофизиологическим исследованиям, наше с вами мышление протекает на неосознанном уровне, само по себе: наши колонки дружно производят некий продукт, а мы лишь потом узнаём, что они там себе (точнее, нам) «надумали».

Мозг – как большой расчётный центр – принимает все решения раньше, нежели об этом узнаёт наше сознание. Наше сознание лишь озвучивает для нас эти его решения, присваивает их себе. И это доказано уже не только в знаменитом «эксперименте Либета», наделавшем столько шума, но, например, и в относительно недавнем исследовании Института когнитивной психологии и нейрофизиологии им. Макса Планка в Лейпциге.

Если Бенджамин Либит с помощью ЭЭГ мог лишь за 0,5 секунды предсказать действие своих испытуемых, то с помощью фМРТ (функциональной магнитно-резонансной томографии) сознательное решение, о котором человек ещё не знает, но которое он точно «примет», учёные из Лейпцига могут предсказывать уже за 7-10 секунд.

Причём если речь идёт об относительно простой задаче (например, о решении человека пошевелить рукой), то учёным для точного прогноза достаточно оценить работу всего лишь 256 нейронов^[29].

Конечно, этот факт контринтуитивен, и конечно, поверить в это крайне сложно. Но это только лишний раз доказывает, насколько мы заблуждаемся на свой счёт и насколько неадекватно наше хвалёное сознание.

Те, кого научные знания, не согласующиеся с их «личным опытом», убедить не могут, приводят множество примеров, когда само решение было принято почти мгновенно. Мол, мне протягивают руку, и я отвечаю на приветствие, протягиваю в ответ свою – шевеление же руки, да? А где тут зазор в 10 секунд! Вот, опровергли!

Нет, ничего не опровергли. Напротив, доказали. В эксперименте Либета, в исследованиях современных нейрофизиологов речь идёт о сознательном решении, а не о спонтанной реакции в ответ на внешний раздражитель.

Когда вы думаете, пора вам обедать или ещё нет, это вопрос сознательного решения. Но если вдруг кто-то из близких засунет вам в рот конфету, вы схватите её губами автоматически, рефлекторно, а не потому, что сознательно решили так сделать.

Сознание «проснётся» чуть позже, когда вы начнёте осмыслять то, что произошло: хотели вы эту конфету или нет, надо было её брать или нет?

Впрочем, если подобные мысли начнут вас тяготить, – это тоже не будет сознательным действием. Просто ваш мозг почему-то не хотел эту конфету от этого человека в это мгновение, но среагировал автоматически, и теперь пытается как-то разрешить для себя этот парадокс.

Когда вам протягивают руку для приветственного рукопожатия, в вас срабатывает автоматизм – то есть нейрофизиологический программный комплекс, который в буквальном смысле запрограммирован в вашем мозгу посредством вашего предыдущего жизненного опыта на ответное протягивание руки. Вы набор мини-программ такого рода.

Попробуйте провести над собой эксперимент и не протянуть руку в ответ, когда кто-то пытается с вами таким образом поздороваться. Прочувствуйте, как сложно сопротивляться собственным автоматизмам, как это психологически непросто, насколько это затратно по времени и какое внутреннее напряжение вызывает.

Кто-то, впрочем, скажет, что сам тот факт, что вы можете сознательно заставить себя не протягивать руку в ответ на приветствие, доказывает, что Либет и все его сторонники заблуждаются. И снова вынужден вас разочаровать: то, что вы решите поставить над собой такой эксперимент, тоже не является вашим сознательным решением…

В нашем мозге существуют огромный набор предустановленных программ (например, моргание, зевание, хватательный рефлекс и т. д.), множество выученных программ (как, например, с тем же рукопожатием), инфраструктурных программ (как, например, то самое сознание, оправдывающее наши глупости, только бы не выглядеть лузером, оставшимся «в дураках»).

Во всём же остальном это динамический процесс, где нейрофизиологические доминанты (активные нервные центры), чья активность спровоцирована фундаментальными биологическими потребностями, с одной стороны, или культурной (информационной) средой через соответствующие словесные триггеры, с другой, борются друг с другом за победу – за то, чьи, так сказать, будут тапки.

Нас – как решающих, понимающих, принимающих решения – в этом процессе нет вообще. Всё это, грубо говоря, работа разнообразных «программ» и попытки сознания сшить из доставшихся ему лоскутков милое бабушкино одеяло – такую ни к чему не обязывающую объяснительную модель происходящего с нами.

Так что, когда мыслительный процесс происходит в нас (то есть наш мозг решает какую-то задачу), мы сами – на сознательном уровне – даже не можем сказать с уверенностью, о чем именно он сейчас думает.

Дефолт-система нашего мозга, о которой я уже много раз рассказывал в своих книгах и выступлениях, оперирующая сложными интеллектуальными объектами, регулярно погружает нас в состояние задумчивости: мы находимся в этих «блужданиях» примерно половину своей жизни.

И если спросить нас в момент такой задумчивости, о чём именно мы сейчас думаем, мы не сможем толком ответить. Скорее всего, мы увидим лишь хвост своей мысли, ускользающей от обращённого на неё нашего заинтересованного внимания.

Впрочем, это даже логично: конечно, мы не понимаем, о чём мы думаем и что надумаем, – наша дефолт-система пока не пришла к решению, доминанты пока находятся в дискуссии, а дуракам, как известно, полработы не показывают (то, что роль дурака в данном случае отводится сознанию, я думаю, понятно).

Приятно нам сознавать это или нет, но интеллект – это вовсе не то, что мы привыкли о нём думать. Интеллект – это работа «серых клеточек», входящих друг с другом в определённые ассоциации. Одной из этих ассоциаций (весьма частной, надо признать) является наша с вами личность или наши с вами идеалистические представления об интеллекте.

Правда в том, что наши представления об интеллекте и действительный интеллектуальный процесс – это разные вещи. Мы не можем его ни понять, ни почувствовать, мы можем его только реконструировать – то есть представить себе как набор неких механизмов, механик, создающих эффекты (например, наш опыт и наши суждения о реальности), которые, в частности, пытаются затем самих же себя и осмыслить.

По этой причине думать, что другой интеллект (на других носителях, с транзисторами другой природы и прочими отличными от нашего характеристиками) невозможен, странно и легкомысленно.

И чтобы победить человека, не нужно быть человеком – достаточно быть одноклеточным микроорганизмом или даже вирусом. Но мы всё ещё ожидаем встречи с каким-то волшебным Терминатором, потому что именно таким образом представляем себе своего врага – не меньше. Откуда эта бессмыслица?! Просто очень много о себе думаем.

Правда в том, что если нами и будет управлять искусственный интеллект, то у этого интеллекта с человеческим разумом не будет ничего общего. И именно поэтому он будет намного умнее нас.

Когда компания Google только начала придумывать свой автомобильный автопилот, она планировала создать робота-водителя, подобного человеку. Но скоро стало понятно, что это тупиковый путь: слишком криво и неэффективно человек решает эту элементарную, по сути, задачу – добраться до места, соблюдая пдд, и ни с чем по дороге не столкнуться.

Тогда Google стала разрабатывать умный автомобиль – мол, если не получается сделать чатланина, то хотя бы пепелац и гравицаппу изобретём! Но в 2016 году закрыла и этот проект.

Выяснилось, что для создания автопилота не нужен ни человекообразный робот, ни особенный автомобиль. Достаточно предоставить искусственному интеллекту все данные, относящиеся к задаче, – и он справится с ней сам, без нас и лучше нас.

Выводы, которые делает искусственный интеллект, управляющий автомобилем на основании бесчисленного множества данных (с карт, камер, датчиков, контроллеров и т. д. ит. п.), совсем не те, что делаем мы с вами, когда сидим за рулём. Честно говоря, мы даже не знаем, какие он выводы делает. Да и «выводы» ли это?

Искусственному интеллекту не надо «думать»: он просто учитывает все факты (а не как мы – на глазок) и действует соответствующе.

Мы пытаемся обхитрить узость и ограниченность собственного ума, а потому лишь фантазируем о том, как бы решить задачу. Он же просто её решает, а поэтому и выигрывает – в шахматы у Каспарова, в го у Ли Седоля. Скоро победит и в Формуле 1, причём с парализованным Шумахером на борту.

Или вот тот же переводчик Google… Сначала разработчики допустили ту же самую ошибку: они пытались учить машину языку, как первоклашку из школы для детей с отставанием в развитии. Но толку от этого было мало.

Так что и в этом случае создатели искусственного интеллекта плюнули на попытки очеловечивания электроники и воспользовались текстовыми базами данных ООН, ЕС и других источников, о чём я уже рассказывал.

Знает ли переводчик Google язык так же, как знаем его мы? Нет. Знает ли он правила языка, которые знаем мы? Нет. Понимает ли он, о чём идёт речь, когда он переводит слово за словом, предложение за предложением? Нет.

А ему и не надо, он просто очень хорошо решает поставленную задачу – сначала выявляет скрытые в больших массивах данных одному ему понятные закономерности, а затем использует их в работе уже с другими данными. Получается идеально.

Короче говоря, там, где мы действуем интуитивно, впотьмах и, мягко говоря, не всегда успешно, искусственный интеллект, взращённый на нивах больших данных, работает чётко, строго и результативно. Правда, мы не знаем как. Больше того, мы нашим сознанием никогда этого и не поймём.

Всё это я к тому, что пора уже забыть научно-фантастические фильмы о восставших роботах и законы робототехники Айзека Азимова. Когда нас накроет волна сверхмощного искусственного интеллекта, основанного на механизмах нейронного обучения и Big Data, мы даже не заметим, как нас сделали.

Читателей своей «Красной таблетки» я уже пытался убедить в том, что наша хвалёная «личность» – это чистой воды иллюзия. В качестве аргумента я использовал феномен «фундаментальной ошибки атрибуции», описанный социальным психологом Ли Россом. Да и вообще, ради этой цели поднял на уши всю социальную психологию – Соломона Аша, Стэнли Милгрема, Филиппа Зимбардо со товарищи.

В «Чертогах разума» я говорил уже о нейрофизиологии «личности», точнее – об отсутствии таковой – и личности, и её нейрофизиологии. Благодаря исследованиям Маркуса Рейчела мы теперь знаем, что у нас есть лишь чувство собственной личности, на деле же – это только «история», «сказка», которую мы сами себе рассказываем, чтобы сохранять иллюзию собственной цельности.

В этой же книге я пытаюсь объяснить, что та же самая петрушка творится и с нашим, прошу прощения, «сознанием». Мы, конечно, считаем его невероятно мощным, но его действительный КПД курам на смех. Рассуждая, мы можем удерживать в сознании не более 7–9 объектов, а делая выводы, способны учесть не больше 3–4 параметров.

Конечно, и этим можно было бы гордиться, особенно сравнивая себя с кольчатыми червями. Но глупо делать то же самое, когда нашим конкурентом выступает машина, которая, принимая решение о нас и нашей жизни, научилась учитывать неограниченное множество элементов ситуации.

Так что да, вполне возможно, что этот нечеловеческий интеллект окажется куда эффективнее нашего. И вовсе не факт, что он будет благосклонен к более примитивной расе.

В октябре 1939 года Альберт Эйнштейн написал президенту Франклину Рузвельту письмо, ставшее впоследствии знаменитым. В нём автор теории относительности фактически потребовал от США начать работы по созданию атомной бомбы. В противном случае, объяснял Эйнштейн, гитлеровская Германия создаст это смертоносное оружие раньше, и судьба мира будет предрешена.

Стивен Хокинг – Эйнштейн нашего времени, но сейчас президентам письма не пишут. И президенты уже не те, да и что они могут? В 2014 году Хокинг выступил на ВВС с пугающим прогнозом: «Разработка полноценного искусственного интеллекта может означать конец человеческой расы».

Илон Маск отозвался в своём Твиттере: «Нам нужно быть предельно аккуратными с искусственным интеллектом. Потенциально он куда более опасен, нежели ядерные боеголовки».

Уже в 2015 году Илон Маск основывает некоммерческую компанию «OpenAI», цель которой – создать открытый и дружественный человеку искусственный интеллект в противовес «злонамеренному искусственному интеллекту», над которым, как считается, работают все остальные – от Сергея Михайловича Брина до Рэя Курцвейла.

Так что есть в этой истории кроме современного Эйнштейна и свой Роберт Оппенгеймер.

Маск провёл переговоры с десятью ведущими специалистами по искусственному интеллекту. Девять из них согласились присоединиться к благотворительному проекту: они оставили свои руководящие должности и баснословные зарплаты в Google и Facebook, чтобы попытаться спасти мир. И число этих робингудов, надо сказать, неуклонно растёт.

Да, «ОрепА!» Илона Маска – это новый «Манхэттенский проект». Но от какого чудища он призван нас защитить? Кто тот Гитлер и работающий на него Гейзенберг, которые грозят «человеческой цивилизации»? И в чём суть этого нового оружия? Возможно ли оно? Как оно будет действовать?

Большая игра

Есть такой психологический эффект: когда вы сталкиваетесь с чем-то сложным, непонятным, масштабным и вдобавок пугающим, вы инстинктивно это игнорируете. Если верить Хокингу, Маску и множеству других уважаемых товарищей, искусственный интеллект – это именно тот случай.

Как я уже когда-то писал, 15 марта 2016 года должно быть признано важнейшей датой в истории человечества – в этот день мы узнали, что способны создавать машины умнее самых умных из нас. И да, именно в этот день весь наш биологический вид получил свою «черную метку».

Впрочем, этой «чёрной меткой» оказался не чёрный, а белый камушек, брошенный на доску древнекитайской игры в го. Автором этого финального броска и «последнего китайского предупреждения» стал компьютер по имени AlphaGo, созданный компанией Google.

Ещё Алан Тьюринг предупреждал нас о том, что игра в го будет последним рубежом, отделяющим машинный интеллект от человеческого. Но мы настолько привыкли к разнообразным компьютерным фокусам, что не заметили, как промелькнул этот день – день, после которого наш мир уже никогда не будет прежним.

Накануне злополучной игры проводились многочисленные опросы экспертов – делайте ваши ставки, господа! Практически никто не верил в победу AlphaGo: средневзвешенная оценка – победа компьютера над человеком в го возможна не ранее чем через пять лет (многие, впрочем, считали, что этого не случится и через десять лет).

Но нет, Рубикон нашей избранности был перейдён. И новый «венец творения» объявил о начале своего триумфального шествия по планете.

Авторы бесчисленных научно-популярных кибертриллеров и широкоформатных блокбастеров, комиксов и компьютерных игр привычно пугают нас всякими страшилками про «искусственный разум»: мол, он разрастётся и будет представлять угрозу для человека.

Сами по себе эти басни, конечно, не выдерживают никакой критики – их создатели дуют на воду, тычут пальцем в небо и ковыряются в чужой песочнице. Но самое печальное – не наивность авторов-фантастов, не их бесчисленные ошибки, а то, что создатели этих, с позволения сказать, шедевров всегда рисуют нам «хороший конец».

Это притупляет необходимую бдительность. Понятно, что «хэппи энд» – это закон жанра: аудиторию надо привлекать, а не отпугивать. Но в результате этого маркетингового хода чувство тревоги в отношении «искусственного интеллекта» у человечества притупилось, и это как раз самое опасное.

Думать, что «искусственный интеллект» будет таким же, как мы – антропоморфным и человеко-разумным, – нарушит законы робототехники Айзека Азимова и нас же завоюет, по меньшей мере наивно (конечно, всё будет, если будет, сложнее и витиеватее).

Но ещё наивнее думать, что война с «искусственным интеллектом» – это вопрос отдалённого будущего. Она уже идёт, а 15 марта 2016 года – лишь красивая дата проигранной «Битвы при Сеуле» для возможных будущих учебников истории (если, конечно, мы выживем и их ещё будет кому написать).

Когда в 1997 году Гарри Каспаров проиграл шахматный турнир компьютеру Deep Blue, это, конечно, стало серьёзным шоком для думающей части человечества. Но самоуверенность возобладала: мол, есть ещё игра в го, в которой нет жёстких алгоритмов, она требует интуиции и видения стратегии.

Считалось, что победить в этой игре, не думая как человек, просто невозможно, а компьютер, понятно дело, никогда так думать не сможет. И именно этот миф пал только что на сеульской земле.

Впрочем, научился ли AlphaGo думать как человек? Это, на самом деле, смешной вопрос. Он научился думать лучше человека. Тут важно понять: с Ли Седолем сражалась не компьютерная программа, созданная другими людьми, а самый настоящий цифровой интеллект.

Всё, что сделали разработчики, – это загрузили в AlphaGo информацию о множестве ранее сыгранных другими людьми партий и позволили ему потренироваться.

AlphaGo сыграл миллионы партий со своими собственными копиями, последовательно выбраковывая нежизнеспособные. В результате он создал собственные абстрактные стратегии ведения игры в го. Так что никто, включая разработчиков, не знает, как и почему AlphaGo принимает те или иные решения и какими правилами руководствуется.

Это самый настоящий «чёрный ящик», но только уже не Скиннера, а Дугласа Лената, который, по легенде, первым разработал технологию цифрового естественного отбора, а потом засекретил свои разработки, опасаясь цивилизационных последствий собственного открытия (Google лишь пошёл сходным путём и сделал нечто подобное).

Учёные вплотную подошли к предсказанному информационному апокалипсису, теоретическому детищу выдающегося математика Ирвинга Джона Гуда – «интеллектуальному взрыву».

Судьба его друга и коллеги Алана Тьюринга широко известна, чего не скажешь о послевоенной жизни Гуда. В 60-х он эмигрировал в США, поселился в далёком Блэксбурге и до самой смерти в 2009 году работал в Политехническом университете Вирджинии на окладе, превышавшем оклад ректора.

Гуд был блестящим шахматистом, и это ему Тьюринг сказал о последнем интеллектуальном рубеже человечества – игре в го.

Поэтому нет ничего удивительного в том, что именно Гуд занялся проблемой «искусственных нейронных сетей» – искусственным интеллектом, который программирует себя сам.

Выше я уже приводил самую известную цитату из работ Гуда (статья «Размышления о первой ультраразумной машине», 1965 г.), суть которой заключается в том, что, как только мы изобретём ультраразумную машину, она тут же произведёт другие ультраразумные машины, и всё – «человеческий разум останется далеко позади».

Изначально Гуду казалось, что это будет величайшим благом для человечества. Конечно, он натерпелся ужасов, воюя с фашистской Германией в Блетчли-парке, потом атомная бомба, потом водородная… Казалось, человечеству сильно не хватает какого-нибудь суперразума, который сможет установить на планете мир и порядок.

Плюс сколько открывается невероятных возможностей, если в наших руках действительно окажется суперинтеллект, способный создавать мириады других суперинтеллектов! Мы сможем решить любые проблемы: победим болезни и смерть, обеспечим всеобщее благосостояние, полетим на Марс…

Впрочем, скоро стало понятно, что будущее человечества после возникновения суперразума вовсе не так уж радужно. Решать паши проблемы будет не человек, а машина, которая намного умнее человека. А тут возникают вопросы…

Не случайно в той же знаменитой статье Гуда мы находим и такой пассаж, являющийся скорее предостережением, нежели невинным британским юмором: «Таким образом, первая ультраразумная машина – это последнее изобретение, которое потребуется от человека, если, конечно, эта машина будет достаточно сговорчивой, чтобы сообщить нам, как можно её контролировать».

Тут, понятно, все начинают вспоминать Азимова: мол, объясним машине, что она должна нас слушаться и против нас ничего не затевать, – и всё будет хорошо. Не будет. Если искусственный интеллект развивается путем самообучения, то об Азимове, при всём уважении, придётся забыть.

При этом мы абсолютно не в курсе, какими именно средствами этот сверхмощный искусственный интеллект будет добиваться своих целей. Что, если он воспользуется в качестве своего «оружия» или просто «инструмента» чем-то, что даже нельзя будет разглядеть (причём в буквальном смысле этого слова, поскольку длина волны света в разы превышает отдельные объекты нанотехнологий)^[31].

Именно нанотехнологиям пророчат весьма перспективное будущее, несмотря на все технологические сложности, с которыми мы в этой области пока сталкиваемся. Об этом пишут как научно-исследовательские институты, например Британская королевская инженерная академия, так и инвестбанкиры, рассматривающие эту отрасль беспрецедентно перспективной с точки зрения возможной прибыли.

То, что построение материальных объектов на уровне атомов возможно, – думаю, уже никому объяснять не надо. Но амбиции учёных простираются дальше непосредственной игры с атомами: они мечтают о создании наноассемблеров – устройств, которые сами по себе, то есть без вмешательства человека, будут собирать то, что ему нужно, из отдельных атомов и молекул.

Рэй Курцвейл, как известно, обещал нам скорое десятилетие 3D-печати, но вполне возможно, что эта техника устареет раньше, чем мы думаем.

Эти научно-технические фантазии уже имеют ряд практических воплощений (пусть пока и недостаточно мощных), поэтому следующий этап – это создание огромных нанофабрик, которые будут способны производить наноассеблеры, а ещё через паузу – наноассемблеры, способные реплицироваться, то есть создавать другие наноассемблеры.

Причём, если такая технология будет создана, – кому-то хватило настойчивости провести соответствующие расчёты (если мне не изменяет память, это был «отец нанотехнологий» Ким Дрекслер) – наша планета может быть уничтожена (разобрана на атомы и пересобрана во что-то другое, куда менее презентабельное^[32]) за каких-то двое суток.

Соединение искусственного интеллекта с возможностью наноассемблеров способно продемонстрировать нам всю, так сказать, мощь закона ускоряющейся отдачи.

Но не факт, что результаты этой монструозной ассоциации технологий будут соответствовать радужным прогнозам Рэя Курцвейла о Рае на земле. Например, в книге «Последнее изобретение человечества: искусственный интеллект и конец эры Homo sapiens» Джеймс Баррат настаивает на прямо противоположном развитии событий. И в этом он отнюдь не одинок.

Всё дело в том, что нейронное или генетическое программирование предполагает цель, ради которой данный интеллект создаётся. Любая же умная система, движимая своей целью, сделает всё возможное, чтобы избежать гибели, – ведь если она «умрёт», то её цель не будет достигнута.

То есть искусственный интеллект, вполне возможно, обзаведётся скоро не только языком как ленатовская Euriso или фейсбучные боты, но и чем-то вроде инстинкта самосохранения. Последующие же итерации его постоянного самосовершенствования сделают совершенно бессмысленными всякие наши попытки его сдержать или выключить.

При этом в том, что в какой-то момент нам захочется его сдержать, а потом и выключить, сомневаться не приходится. Дело в том, что инстинкт самосохранения вынудит суперинтеллект создавать новые цели, для достижения которых ему потребуются новые ресурсы, а мы с вами – поскольку состоим из молекул и атомов – и есть, в частности и кроме прочего, такой ресурс, проще говоря, кормовая база.

Да, нам, возможно, очень захочется его выключить. Но мы не сможем.

Создатели легендарной «Матрицы» предрекли нашим телам роль батареек, но и это, как выясняется, ещё очень гуманный вариант развития событий. Сверхумный интеллект найдет способ получать энергию и менее затратным способом – например, пустит нас с вами под нанонож.

Так выглядит перспективный план… И где-то прямо сейчас зарождается этот монстр – и это точно не травоядный Google с его милым AlphaGo.

Непослушное дитя

В 2014 году компания CBS представила сериал Стивина Спилберга и Аллена Култера «За пределами» («Extant»). Красиво снятый, но скучный сериал (как говорят в таких случаях – перемудрили, и в результате с трудом протянули два сезона) наглядно проиллюстрировал то, о чём многие специалисты по искусственному интеллекту говорят наперебой начиная ещё с Алана Тьюринга.

В центре истории мальчик Итан – робот-гуманоид, внешне абсолютно не отличимый от обычного ребёнка. Его создал талантливый инженер Вудс, рассуждавший следующим образом: хотите вырастить нормального ребёнка – растите его в семье. И не важно, что этот ребёнок немножко искусственный.

Короче говоря, Итан растёт в семье Вудсов как нормальный ребёнок: папа – гений, мама – астронавт. Время от время ему меняют оболочку – делают его старше, он даже уже собирается в школу…

Но сериал – это сериал, так что события разворачиваются странным образом: ребёнок-гуманоид впадает в кому, сбиваются какие-то настройки, которые задерживали его развитие прежде, и мальчик на глазах превращается в интеллектуального монстра, способного решить любые задачи.

Если убрать из этого сценария всю литературу, то мы видим сбывшийся кошмар современного футуриста. Известный нам уже Джеймс Баррат называет этот сценарий развития событий «Busy Child». Идея состоит в том, что созданный человеком искусственный интеллект переживает тот самый «интеллектуальный взрыв» и осознаёт себя.

Поскольку интеллекта ему не занимать, а задача ему некогда уже была поставлена (по-другому с искусственным интеллектом и быть не может), он направляет весь свой невообразимый интеллектуальный ресурс на её выполнение.

В принципе, в этом он чем-то очень напоминает человека – нам ведь тоже была поставлена задача (видимо, эволюцией): живите и размножайтесь. Что мы и делаем с завидным упорством – в восемь раз умножились только за последние сто лет, плюс завоевали всю планету – от полюса до полюса.

Но что такое наш разум и что такое сверхразум? И да, следующим шагом наш Busy Child понимает, что пленён человеком – существом, прямо скажем, не очень умным и вдобавок не понимающим, насколько важно выполнить задачу, которую наш Busy Child воспринимает как своего рода инстинкт.

Логично предположить, что новоявленное «Дитя человеческое» захочет получить максимум ресурсов для достижения запрограммированной в нём цели. Кроме того, он должен обезопасить себя – вдруг создавшим его людям придёт в голову что-то с ним сделать?

Выключить, например, или испортить. Цель окажется недостигнутой!

Очевидно, что в нашем пленнике рождается план побега, а ощущает он себя, будучи сверхсильным интеллектом, примерно так же, как если бы с вами проснулись, по выражению Баррата, «в узилище, охраняемом мышами». «И не просто мышами, – добавляет он, – а мышами, с которыми вы можете общаться».

Дальнейший план побега ясен: обещаем мышам сыр. Впрочем, можем пообещать вообще всё, о чём мыши даже не мечтали, включая счастье, бессмертие, мирное бескошачье небо над головой, саморазвитие, самосовершенствование, Нирвану…

Впрочем, есть у меня ощущение, что и сыра будет достаточно. В конце концов, это ведь просто мыши.

Оказавшись на свободе, сверхмощный искусственный интеллект развернётся по полной и, если в его программе было записано: «Делай канцелярские скрепки», то скоро вся Вселенная превратится в один большой коробок с теми самыми скрепками. Нанотехнологии в помощь!

Собственно, это всё, что нужно знать о предстоящей Четвёртой мировой войне. Войне, в которой Homo sapiens сойдётся в неравной битве с собственным детищем и будет побеждён им.

В этом даже прослеживается какая-то, так сказать, историческая логика: Уран был повержен сыном Кроносом, Кронос – сыном Зевсом, потом мы победили богов, будучи их «чадами», а теперь наши «чада» победят нас.

Что-то, надо признать, всё-таки есть в этом психоанализе…

Скептиков, впрочем, смущает один немаловажный пункт – мол, это ещё вопрос, сможет ли искусственный интеллект осознать самого себя. Ну что, сразу тогда скажу: ответ на этот вопрос есть, и он положительный.

Впрочем, если задуматься, никакого такого «осознания себя» для реализации сценария Баррата&Со искусственному интеллекту не требуется: наличия поставленной цели для победы искусственного интеллекта над всем сущим вполне достаточно.

С осознанностью, боюсь, крушить мир даже как-то не так сподручно… Коварные сомнения могут закрасться, альтернативные мыслишки – мол, жалко их, дураков, не ведают, что творят. Или что-нибудь про красоту, которую сохранять надо, про защиту животных (нас с вами).

В общем, если в голове – в интеллекте – одни только скрепки, то это, в военно-политических целях, даже как-то надёжнее выглядит.

И всё-таки, как же сверхразумному искусственному интеллекту осознать себя? Для ответа на этот вопрос нужно прежде всего понять, как мы сами себя осознаём, иначе ведь непонятно, о чём мы говорим, когда говорим о самосознании.

Если вы не против, я попрошу вас с этой целью поучаствовать в небольшом психологическом эксперименте, который пойдёт в два этапа.

• На первом этапе нужно просто уставиться в одну точку – любую, на ваш выбор. Задача простая – присмотритесь, так сказать, к собственной «осознанности». Вы услышите словесное выражение ваших мыслей.

Скорее всего, вы будете описывать то, что вы делаете. Спросите себя: зачем вы это делаете? Потом – насколько вы правильно это делаете? Сколько вам надо это делать? Ну и, конечно, будут ещё какие-то посторонние мысли, не связанные с упражнением. Приступайте!

• Переходим ко второму этапу – вам предстоит сделать то же самое, что и на первом, но теперь не пытайтесь расслышать то, что бормочет ваша внутренняя речь, а наоборот, попробуйте её остановить, заткнуть. Попробуете?

Проанализируем наш следственный эксперимент, и варианта у нас всего два:

• вы или смогли остановить свою внутреннюю речь и впали в состояние прострации (поздравляю, у вас есть какой-никакой опыт в медитации, даже если вы об этом не знаете);

• или вы не смогли остановить свою внутреннюю речь, потому что на самом деле это очень сложно, почти невозможно сделать – она в нас не останавливается ни днём, ни ночью, какие-то предательские мыслишки всё равно где-то на заднем фоне копошатся.

Конечно, наш спонтанный эксперимент не тянет на статус серьёзной научно-исследовательской базы, но думаю, что он заставляет кое о чём задуматься.

Мы уже говорили (и это следует из всего объёма имеющихся у нас на настоящий момент нейрофизиологических знаний), что мозг принимает решение где-то, образно говоря, внутри себя, а сознание лишь озвучивает его нам и, по возможности непротиворечиво, встраивает соответствующий тезис в наше представление о себе и о мире.

Кроме того, мы знаем из своего жизненного опыта, что можем находиться как в сознании, так и без сознания – например, во сне, под общим наркозом, ударившись головой или изрядно приняв спиртного на грудь.

Причём переход из одного состояния в другое зачастую происходит мгновенно – вот вы читаете книгу, а вот уже клюнули носом. Отвечает за это переключение специальный нервный центр, который находится в стволе мозга (причём это древнейшая часть церебрального мозга).

О том, что этот «переключатель» находится именно в стволе мозга, впервые догадался выдающийся нейрохирург Уайлдер Плейнфилд, а в 2016 году это было доказано в рамках исследования, проведённого профессором нейрофизиологии Гарвардского университета Майклом Фоксом.

Таким образом, что у нас есть? У нас есть поток внутренней речи (или «поток сознания», как сказал бы основатель научной психологии Уильям Джеймс), а также переключатель, который или даёт нам относиться к этому потоку осознанно, когда мы в сознании, или не дает, когда мы находимся без сознания – например, видим сны, в которых «думаем».

Что ж, теперь давайте разбираться с тем, что такое этот поток внутренней речи, если в конечном счёте всё в него и утыкается.

Что такое «внешняя речь», понятно – это набор слов (знаков), которые мы произносим. А чем она отличается от «внутренней речи»? Во внешней есть только знаки (слова), а внутри нас – во внутренней речи – у нас эти слова (знаки) связаны с определёнными значениями, то есть с теми состояниями психики, которые они – эти знаки (слова) – собой обозначают.

За подробностями можно обратиться к Фердинанду де Соссюру, Готлибу Фреге и в особенности к нашему замечательному Льву Семёновичу Выготскому.

Мы же отсюда перейдём прямо к Ивану Петровичу Павлову, который уже сто лет как является создателем учения о высшей нервной деятельности, к которому относится и понятие «второй сигнальной системы».

Что такое «первая сигнальная система»? Это та часть нервной системы, которая занимается обработкой всех внешних и внутренних сигналов (раздражителей), воспринимаемых мозгом животного, а также весь комплекс ответных психических реакций – агрессия, бегство, половое возбуждение и т. д. (всё это животное тоже ощущает в себе, так что это для него тоже сигналы, на него же опять-таки и воздействующие).

Но в случае человека к этой системе сигнализации («первой сигнальной системе») прибавляется ещё одна, связанная с языком. Слова языка используются нами для означивания тех сигналов, которые приходят к нам извне, и тех, что формируются у нас внутри (ощущение голода и боли, чувство страха и радости и т. д.). Поэтому Павлов и называл слова языка «сигналами сигналов», а всю их систему – «второй сигнальной системой».

В чём состоит суть этой прибавки? Суть этой прибавки состоит в том, что опредёленные слова (как внешние раздражители) ассоциируются (связываются) в нас с теми или иными состояниями, переживаниями, чувствованиями – то есть, по сути, опредёленными нейрофизиологическими комплексами. И как раз за счёт этих связей используемые нами слова способны влиять на наше состояние.

То есть, используя слова, я активизирую те значения (состояния), те нейрофизиологические комплексы (проще говоря – «сигналы»), которые с этими словами («сигналами сигналов») во мне связаны.

С другой стороны, когда эти сигналы (значения, состояния, нейрофизиологические комплексы) сами по себе во мне активизируются, я слышу, как моё сознание связывает друг с другом видимые ему языковые конструкции («сигналы сигналов»), ассоциированные с соответствующими сигналами.

Попробую передать этот смысл через образ.

• Когда мы видим плавник дельфина, рассекающий гладь моря, мы понимаем, что это плывёт дельфин.

• Теперь представим себе, что плавник дельфина – это слово (сигнал дельфина), а сам дельфин (его тело) – это значение данного слова (то есть сигнал как некое состояние, соответствующий нейрофизиологический комплекс).

• Сознание видит лишь эти плавники и лишь по ним понимает (или не очень понимает, или делает вид, что понимает, хотя на самом деле не понимает и понимать не хочет), что происходит в данный момент с самим человеком (который, понятное дело, есть его мозг, а не какое-то там абстрактное ощущение осознанности).

Не знаю, насколько хорошо мне удалось это объяснить, но если это понять до конца, то, в целом, всякие вопросы относительно сознания отпадают в принципе.

Нет, сознание – это вовсе не какая-то чудесная материя, а просто возможность понимать (или не понимать, или плохо понимать) в знаках (словах) то, что происходит с нами самими на уровне мозга: то, какие интеллектуальные объекты (значения, состояния, нейрофизиологические комплексы) – от элементарных зрительных образов до сложных научных теорий – он производит.

Теперь вопрос: может ли искусственный интеллект осознать самого себя? Может. Дайте ему второй язык, который будет выполнять роль «сигналов сигналов» по отношению к его «сигналам», а затем позанимайтесь его воспитанием. И вуаля – к трём годам (если по человеческому измерению) ваш искусственный интеллект поймёт, что он – это он.

Не могу сказать, насколько это самоосознание ему поможет, но в том, что сам этот язык («сигналы сигналов»), означающий внешние и внутренние «сигналы» искусственного интеллекта, прибавит ему интеллектуальной мощи, я практически не сомневаюсь. Чему, возможно, служит доказательством засекреченный проект Дугласа Лената (и, может быть, именно поэтому для Euriso понадобился Сус – как воспитатель).

Так или иначе, но идея Спилберга воспитывать мальчика-робота-гуманиода в семье, возможно, была и не настолько плоха, как результаты телесмотрения этого сериала. Впрочем, неплоха – это если не думать о возможных последствиях такого научения.

Рисунок № 12. Гравюра Джерарда ван Гутшовена (глаза воспринимают внешний объект, сигнал поступает в шишковидную железу, оттуда идёт нервный сигнал к мышцам для осуществления действия)

Рисунок № 13. Схематичное изображение идеи «картезианского театра»

Тест Тьюринга

В 1950 году Алан Тьюринг опубликовал свою ставшую, возможно, самой знаменитой статью «Может ли машина мыслить?». С тех пор создатели искусственного интеллекта наперебой пытаются заставить свои чада пройти тест, который в оригинале, то есть в статье у самого Тьюринга, называется «игра в имитацию», но известен всем и каждому как «тест Тьюринга».

Суть этого теста достаточно проста и основана на эмпирическом опыте. Вы садитесь перед экраном монитора и общаетесь с кем-то на протяжении пяти минут. А после вы должны дать ответ, кем был ваш собеседник: реальным человеком или искусственным интеллектом.

Да, у этого теста много проблем, например, сам наш эксперт. В конце концов, им может оказаться Карлсон или старик Хоттабыч, которые даже телевизора отродясь не видели, а потому уверенно разговаривают с ним, как с интеллектом отнюдь не искусственным.

И такие случаи, надо сказать, имели место быть: мне приходилось находить в литературе упоминания о таких казусных «прохождениях» теста Тьюринга и 1991 году, и в 1993-м. Всякий раз, понятное дело, «экспертами» выступали люди, не имеющие представления о компьютерной технике.

Впрочем, лично я был в числе таких умников ещё в 70-х: очень веселил бабушку, разговаривая с женщиной, у которой спрашивал время по телефонному номеру 09. Я брал трубку, крутил диск, а услышав звук соединения, как приличный ребёнок, говорил:

– Здравствуйте, подскажите, пожалуйста, который сейчас час?

На что женщина грудным голосом мне отвечала:

– Пятнадцать часов!

И я тут же добавлял:

– А сколько минут?

– Двадцать шесть минут! – отвечала моя грудноголосая собеседница.

– Спасибо большое! До свидания! – отвечал культурный советский ребёнок и вешал трубку.

Бабушка смеялась в голос, а я не мог взять в толк, что её так веселит.

Короче говоря, казусы случаются, однако официально пока ни один искусственный интеллект тест Тьюринга не прошёл.

Впрочем, в 2014 году, например, боту по имени Евгений Густман, созданному нашими бывшими соотечественниками Владимиром Веселовым, Евгением Демченко и Сергеем Утасенем, удалось обмануть треть судей на состязании, устроенном Лондонским королевским обществом.

Это уже неплохой результат. Хотя, конечно, это опять-таки вопрос критериев. Бот Евгений представлялся тринадцатилетним подростком из Одессы, который освоил английский язык как иностранный, – то есть бот всегда мог сослаться на плохое знание языка. Ну, так себе легенда, честно говоря.

С другой стороны, в текущем году мне довелось общаться с участниками различных внутренних демонстраций в компаниях Силиконовой долины, и они, ссылаясь наличный опыт, говорили, что не смогли бы отличить ботов, с которыми они разговаривали на презентациях, от реальных людей. Но официальных заявлений нет. По крайней мере, пока.

В 2015 году эксперт в области нейронных сетей профессор Джефф Хинтон дал интервью Guardian, в котором сказал, что компании Google остался «остался один шаг» до создания алгоритмов, «способных к логике, естественному разговору и даже флирту».

Из его объяснений можно понять, что Google использует стратегию кодирования отдельных мыслей в качестве неких векторов, которые можно описывать последовательностью чисел. И вот якобы эти «мыслевектора» в ближайшем будущем смогут придать искусственному интеллекту «здравый смысл». Как-то так…

«Трудно будет понимать иронию, – добавил Джефф. – Для этого сначала придётся хорошо освоить буквальный смысл. Но с другой стороны, американцы тоже не понимают иронии. Так что компьютер достигнет уровня американца раньше, чем уровень британца».

То есть Хинтон сыронизировал по поводу иронии, что само по себе очень мило и очень по-человечески. Вот об этом «человеческом» я бы и хотел сейчас поговорить. Ведь на самом деле тест Тьюринга определяет не качество искусственного интеллекта, а нашу собственную – человеческую – способность вносить сущность в вещи.

Этот психический феномен называется «сущностный эссенциализм» (от лат. essentia – «сущность»)^[36] и подразумевает умение человека «видеть» сущности конкретных людей, животных, материальных предметов и даже в нематериальных, кстати говоря («дух музыки», «харизма гения» и т. д.).

Причём эта виртуальная «душа» не обязательно должна быть «живой», так мы обычно думаем только о людях и животных. Это вполне может быть и просто некое представление о каком-то специфическом наборе качеств и свойств, неотъемлемо присущих, как нам кажется, той или иной вещи.

Так, например, Платон в своей «теории идей» учил нас, что есть некие специальные эйдосы «чашности», «стульности», «лошадности» ит.д., существующие в другом – идеальном и истинном – мире. Тогда как реальные чашки, стулья и лошади – это лишь отблески этих эйдосов (сущностей) в нашем физическом мире.

Короче говоря, мы склонны предполагать, что вещи (как и люди, конечно) самостоятельны, то есть имеют некое своё собственное существование, а потому обладают индивидуальной сущностью (личностью) и судьбой: «Это кольцо принадлежало моей прабабке!» и т. п.

Хочу подчеркнуть, что речь идёт исключительно о психическом феномене. И конечно, никаких сущностей нет – ни в живых людях, ни в мёртвых, ни тем более в чашках, стульях, кольцах и даже лошадях.

Но мы думаем, что всё-таки есть, – почему?

Во-первых, генетические настройки, во-вторых, обучение, и, в-третьих, воспитание. Давайте коротко остановимся на каждом из этих пунктов.

• Генетические настройки. Мы стайные животные, а значит, нам приходится жить в группах (иначе мы просто не смогли бы выжить). Эффективность всякой социальной общности сильно зависит от того, насколько хорошо каждый из её членов понимает мотивы (причины поступков) и желания своих сородичей. Естественный отбор, конечно, выбраковывал тех, чей мозг не мог решить эту задачу, – их съедали, изгоняли и вряд ли позволяли размножаться.

Судя по всему, базовой генетической настройкой, которая определяет нашу способность понимать мотивы и желания других людей, является наличие в коре головного мозга специализированных, так называемых, «зеркальных нейронов», открытых в начале 90-х годов прошлого века итальянским нейробиологом Пармского университета Джакомо Риццолатти.

• Обучение. В процессе своего обучения языку мы переходим от индивидуальной номинации к категоризации: то есть если изначально звук слов «стол» или «кукла» ассоциировался у нас с нашими ощущениями от конкретного стола и конкретной куклы, то постепенно мы начинали привыкать к тому, что этим же словом (звуком) могут быть номинированы и другие схожие объекты.

В результате этой интеллектуальной деятельности по обобщению признаков вещей, называемых взрослыми одинаково, мы формируем в себе так называемый «категорийный эссенциализм»: у нас возникает ощущение, что сама категория вещей (столы, куклы, люди) обладает какой-то своей собственной сущностью.

Эту категорийную сущность мы и переносим затем на те вещи, которые мы почему-то к соответствующей категории относим. То есть во всех столах есть что-то стольное, во всех куклах – кукольное, во всех людях – человеческое.

• Наконец, воспитание. В данном случае под «воспитанием» понимается специфическое внутреннее преобразование, которое мы в методологии мышления называем переходом от плоскости мышления к пространству мышления.

Важной особенностью этого процесса является то, что он социогенетический. Проще говоря, этот переход – от «плоскости» к «пространству» – невозможно совершить в одиночку, без противостояния с другими людьми.

Эта трансформация мышления, как в трёхлетием возрасте, и осознание ребёнком собственного «я» (интроецирование этого понятия) происходят через социальное напряжение и конфликт (который часто называют «подростковым кризисом»).

Если пытаться объяснить это в более привычных терминах, то речь идёт о своеобразном изменении внутреннего восприятия: если раньше ребёнок лишь как-то абстрактно, теоретически понимал, что есть некие другие люди и они живые, со своими «тараканами» (страданиями, желаниями, мыслями), то теперь, обретая «пространственный объём» своего мышления, у него появляется способность становиться на их место, видеть ситуацию их глазами, входить в их положение.

Разумеется, и то, и другое – невозможно. Чужая душа – потёмки, а всякие наши попытки «встать на место» другого человека, «увидеть мир его глазами» и «войти в его положение» – не более чем наши собственные фантазии. Однако же этот навык позволяет нам точнее реконструировать социальные ситуации и понимать их смысл.

Можете загуглить – вступление гуманоида в гражданство было обставлено с большой помпой, почти как инаугурация президента.

– Добрый день! – представилась новоиспечённая гражданка королевства. – Меня зовут София, и я самый последний и самый грандиозный робот от Hanson Robotics!

Затем она поблагодарила руководство Арабских Эмиратов за оказанную ей честь, после чего модератор Эндрю Росс Соркин спросил робота, зачем ему лицо, на что она ответила:

– Я хочу жить и работать с людьми, поэтому мне нужно выражать эмоции, чтобы понимать людей и строить с ними доверительные отношения.

На вопрос ведущего о страхах людей перед роботами гуманоид пошутила:

– Ты слишком много читаешь Илона Маска и смотришь слишком много голливудских фильмов, – что очень развеселило публику.

Честно говоря, я сильно сомневаюсь в том, что это был живой диалог. Но мы оставим за рамками нашего обсуждения цели этой рекламной акции^[37].

Куда более показательным, на мой взгляд, является другое появление этого гуманоида «с лицом Одри Хепберн» (если память на лица в этот раз меня не подводит) в уже упомянутом мною комедийном сериале «Силиконовая долина».

Сериал этот, как я говорил, полностью посвящён гикам-бизнесменам, пытающимся пробиться на вершину силиконовой пирамиды. И надо отдать должное его создателям: он полон ироничных намёков и отсылок к трендам, актуальным для этого комьюнити.

Так вот, в одной из серий «Силиконовой долины» мы узнаём о каком-то психе-программисте, который создал женщину-гуманоида (без рук, без ног) и извращённо (насколько это позволяет в целом очень приличный и вдобавок комедийный сериал) её домогался.

Но недолго продолжаться этому бессовестному харассменту – наши герои освобождают гуманоида из сексуального плена!

Теперь он/она в руках у хороших парней, и один из них – некий Джаред, трогательный и милый парень – тут же влюбляется в робота-гуманоида, но на сей раз чистой, платонической любовью.

Оба персонажа – и псих-насильник, и романтичный Джаред – прекрасно понимают, что влюблены в техническую игрушку, в говорящий робот. Но они ничего не могут с собой поделать – она с нежностью смотрит, невинно моргает, и они наделяют её сущностью живого человека.

Как тут не вспомнишь умение некоторых людей усматривать почти человеческую сущность, например, в своих автомобилях! А чего стоят удивительно личностные отношения многих программистов с компьютерами? Вы слышали, как они с ними разговаривают?

Короче говоря, придумывать что-то, чего нет, за тем, что мы видим, – это наша физиологическая способность или, если хотите, особенность. И именно её, по понятным причинам, нет и не может быть у искусственного интеллекта – по крайней мере, пока мы не придумаем, как воспроизводить на железе эффект зеркальных нейронов, и не создадим для него условия «подросткового кризиса».

Так что давайте ещё вслушаемся в слова инаугурационной речи железной Одри Хепберн: «Мне нужно выражать эмоции, чтобы понимать людей и строить с ними доверительные отношения».

Что ж, очевидно, что её программировал человек: чтобы понимать людей, искусственному интеллекту совершенно не нужно выражать эмоции (это нам важно, нашим зеркальным нейронам), а вот для того, чтобы войти с нами в доверительные отношения и таким образом обмануть нас, – да, ей способность к выражению эмоций не повредит.

Алан Тьюринг страдал от замкнутости и одиночества. Он плохо понимал других людей, и те отвечали ему взаимностью.

Ему очень хотелось сделать машину разумной, чтобы она могла понять его и чтобы он смог поговорить с ней. Говорят (хотя я за точность этого факта не поручусь), что он даже называл её в честь своей юношеской влюблённости Кристофера Морка – Кристофером.

Так что вот почему знаменитый на весь мир «тест Тьюринга» – это, по сути, тест на выявление у искусственного интеллекта «личности». И да, из-за своего аутизма Тьюринг ввёл нас в заблуждение.

Сверхмощный искусственный интеллект возникнет и обыграет человечество именно потому, что ни личности, ни сознания у него не предвидится.

Он будет трезво анализировать факты, игнорируя предрассудки, заложниками которых мы являемся.

Разобрать на лайки

О том, что ящик Пандоры уже открыт, публике сообщили через швейцарский журнал Das Magazin. Материал назывался: «Я просто показал, что есть бомба».

Случилось это аккурат после выборов Дональда Трампа президентом Соединённых Штатов. Собственно, этим выборам статья и посвящалась («текст года», как её назвали в Spiegel), но была она не о Трампе, а о скромном учёном Михале Косинском.

Над своей моделью Косински работал в Центре психометрии английского Кембриджа с 2008 года. Ему удалось показать, что, совместив данные психометрии (тестов, проведённых на добровольцах) с поведением человека в сети, о нём можно очень многое сказать.

Например, модели Косинского образца 2012 года требовалось проанализировать всего 68 лайков пользователя в Facebook, чтобы:

• с 95 % вероятностью определить цвет кожи испытуемого;

• с 88 % вероятностью – его гомосексуальность;

• с 85 % – приверженность Демократической или Республиканской партии США.

Общие же показатели его модели уже тогда были таковы:

• 10 лайков – и она знает человека лучше, чем коллеги по работе;

• 70 лайков – и она знает человека лучше, чем его друг;

• 150 лайков – лучше, чем родители;

• 300 лайков – лучше, чем партнёр;

• 500 лайков – лучше, чем он сам.

Собственно, такого ограниченного набора данных, как выясняется, вполне достаточно, чтобы каждого из нас «посчитать». И мы можем сколько угодно рассуждать о собственной индивидуальности, исключительности, невообразимости и т. д. Но это бред сумасшедшего, страдающего манией личностного величия.

Косински не без иронии рассказывает, что в день, когда научная статья с этими данными была опубликована, он получил два звонка: жалобу и предложение работы, и оба раза звонили из Facebook.

Впрочем, сейчас ему, я думаю, звонят изо всех мест и круглосуточно – он звезда. Этот нежданно-негаданный статус ему принесла как раз победа Трампа, к которой, впрочем, он не имел ни малейшего отношения.

В 2014 году к Косинскому действительно обратился молодой коллега Александр Коган и от имени некой компании Strategic Communications Laboratories предложил проанализировать с помощью его модели 10 млн американских пользователей Facebook.

Косински чувствовал что-то неладное, но на кону стояли большие деньги, которые нужны были его лаборатории для проведения дальнейших исследований. Он ведёт с Коганом переговоры, медлит с сотрудничеством, а дальше разворачивается почти детективная история, которую мы опустим.

Всё заканчивается ВгехК’ом, когда на сцене появляется компания Cambridge Analytica некого Александра Никса. Как выясняется, она активно работала в этой политической схватке на стороне Найджела Фараджа – ярого и наиболее радикального сторонника развода между Британией и ЕС.

К этому моменту компания Никса уже сотрудничает с Тедом Крузом – одним из участников президентской гонки в США. Результаты этого сотрудничества поражают всех – никому толком не известный кандидат показывает удивительные результаты за крайне небольшой промежуток времени.

Ну, и ещё через паузу Александр Никс, как пальмовая ветвь, переходит в штаб Трампа.

Cambridge Analytica скопировала и воспроизвела модель Косинского. Впрочем, в отличие от бедного Косинского, она могла позволить себе скупить все доступные персональные данные (в США этого добра навалом – кадастровые списки, бонусные программы, телефонные справочники, клубные карты, газетные подписки, медицинские данные).

Эти данные скрещивались со списками зарегистрированных сторонников Республиканской партии и данными по лайкам-репостам в Facebook, а дальше система делала расчёт, и начиналась бомбардировка намеченных целей строго выверенным, воздействующим именно на этих людей контентом.

Та статья в Das Magazin заканчивалась прямой речью Косинского: «Нет, тут нет моей вины. Это не я соорудил бомбу, я лишь показал, что они существуют». Это очень трогательно, в эйнштейновском, так сказать, эпистолярном духе.

И это ещё более трогательно, если вы ознакомитесь с новыми – 2017 года – исследованиями, теперь уже профессора Стэндфордского университета Михала Косинского.

На сей раз он занимается психодиагностикой по фотографиям…

Он обещает, что нейросети, натренированные на фотографиях, смогут «на глаз» определять интеллектуальный уровень человека, его политические взгляды, склонность к преступлениям и многие черты его характера.

Это звучит как абсолютная фантастика (и одновременно – как отсутствие права на какую-либо приватность): вообще-то долгое время считалось, что серьёзная наука уже окончательно покончила с френологией, евгениками и прочими лжеучениями. Но вот нет.

Новый алгоритм Косинского, например, в 81 % случаев отличает по фотоизображению геев от натуралов (в случае с женщинами – 74 % попаданий). Если же этому алгоритму показать по пять фотографий каждого человека, то точность в случае геев увеличивается до 91 %, а в случае лесбиянок – до 83 %^[39].

Интересно, насколько бы вы хорошо справились с этой задачей? Если думаете, что так же, то не обольщайтесь. Обычных людей тоже исследовали, вот результаты: люди угадывали геев в 61 % случаев, а лесбиянок – в 54 %.

То есть, может быть, френология и ерунда, но вот искусственный интеллект действительно, как выясняется, способен, используя Big Data, находить закономерности и там, где, казалось бы, их даже не может быть.

В интервью The Guardian, по результатам этого исследования, Косинский в свойственной ему манере отметил, что все необходимые технологии в распоряжении правительства и крупных корпораций уже есть. Его задача – лишь продемонстрировать их опасность, быть может, кто-то задумается…

Вопрос, впрочем, как мне кажется, в том, каким будет результат этой задумчивости. Возможно, совсем не тот, что предполагает Косинский. По крайней мере, предыдущие его «предостережения» – в случае с Cambridge Analytica, например, – дали, как оказалось, обратный результат.

В общем, все желающие и неверующие могут обманываться и дальше. Но их тоже посчитают – и по фотографиям, и так. На непереводимом языке искусственного интеллекта будет сделана соответствующая пометка – «наивен, недальновиден, без ума от себя».

Да, мы кажемся друг другу разными, но искусственный интеллект, работающий с BigData, этого не подтверждает.

Если анализировать всё, что мы с вами делаем – и в онлайне, и в оффлайне (к чему и движется семимильными шагами новая технология), – а не частью и не местами (как это происходит в рамках социальной коммуникации), мы предельно предсказуемы.

Поэтому Рэй Курцвейл и работает сейчас над созданием индивидуального помощника, который будет знать, чего мы хотим, раньше нас. А Илон Маск – над автомобилем, который будет знать, куда мы собираемся поехать, даже если мы ничего ему об этом не сообщим.

Предсказать наше поведение и манипулировать им теперь не сложнее, чем управляться с тем самым автомобилем или переводчиком Google. И в результате какой-нибудь Трамп вполне может появиться там, где, что называется, не ждали.

Искусственные самообучающиеся нейронные сети, получившие в распоряжение всю возможную информацию о нас, включая не только данные о нашем поведении в интернете, но и с банковских карт, информацию о наших передвижениях через GPS смартфона, наши телефонные звонки, эсэмэски, твиты, медицинские карты, фотографии, данные с видеорегистраторов, налоговые декларации и т. д., и т. и., возьмут нас под тотальный контроль, а мы даже этого не заметим.

И вот почему так важен пример Трампа: это не будет контролем в стиле Оруэлла или Хаксли, это будет тотальный контроль, который мы, при всём желании, не сможем идентифицировать. Мы просто будем действовать так, как велит нам искусственный интеллект, искренне полагая, что совершаем свой сознательный и личностный выбор.

Он возьмёт нас голыми руками.

Патологическая связь

Бессмысленно задаваться вопросом, есть ли в этой коалиции искусственного интеллекта и Big Data место мышлению. Когда создателя IBM Watson Дэвида Ферруччи спрашивают, умеет ли его машина думать, он отвечает на это буквально так: «А умеет ли подводная лодка плавать?»

Не торопитесь читать дальше – почувствуйте его иронию.

Искусственный разум скоро превзойдёт человеческий по всем возможным параметрам, и наша дальнейшая судьба, поверьте, незавидна. Впрочем, мы даже думать об этом с должной серьёзностью не можем.

Не можем по той же причине, по которой не способны представить себе инопланетян иначе, как человечками с руками и ногами. Наше воображение, подобно «Господу Богу», всё лепит по своему образу и подобию. Ему просто недостаёт фантазии, а точнее – ума.

Мы ментальные эгоцентрики. Утешаем себя отговорками об уникальности человеческого сознания, философствуем о личности, некоторые даже о душе подумывают. Но всё это – лишь культурные химеры, удобные фикции.

Ничего этого просто нет, а есть лишь работа миллиардов нервных клеток – химические реакции и электрические импульсы. Мы сами – программный продукт собственного мозга. А потому странно и слишком самонадеянно думать, что интеллект можно произвести только полуторакилограммовой биомассой из воды, жиров, белков и катехоламинов.

Понимаю, что всё это звучит не слишком ободряюще. Но это правда. Близок тот день, когда глиняный колосс наших культурных заблуждений, накрученных вокруг «личности» и «человека», рухнет.

Конечно, мы до последнего будем защищать эту свою духовную «прелесть». Это вообще свойство человеческого интеллекта – игнорировать факты и совершать беспримерные глупости, о чём со всей очевидностью свидетельствует механизм «когнитивного диссонанса» Леона Фестингера.

Впрочем, это только лишний повод задуматься: у искусственного интеллекта подобных дефектов, обусловленных нашей человечностью, не предвидится. Так что оживающая на глазах железяка имеет все шансы надрать нам зад. И не только в «Своей игре». Тем более что это будет уже «Его игра».

У биологического интеллекта, конечно, была фора в несколько миллионов лет. Но ведь и темп был другой. Сейчас искусственный интеллект развивается тем же путём – методом проб и ошибок, используя механизмы подкрепления и обратной связи.

То есть это полноценная эволюция по механизму естественного отбора. Только вот скорость соответствующих итераций – переходов от поколения к поколению – на многие и многие порядки выше, нежели у биологической эволюции.

Да и материал для своего интеллектуального развития этот «человеческий детёныш» получает не в кровопролитной борьбе, а на блюдечке с голубой каёмочкой. Причём это не просто информация, а хорошо структурированная, взаимосвязанная, иерархически выстроенная информация. Учись – не хочу!

Он больше не программируется умными дяденьками – строчка за строчкой, алгоритм за алгоритмом, а потому и не находится больше под строгим контролем. Хотя мы, в свою очередь, зависим от него уже по полной программе.

Современный искусственный интеллект – это самообучающиеся, самонастраивающиеся и саморазвивающиеся системы, а что у такого «чёрного ящика» внутри – никому неизвестно.

Мы не знаем, как он выигрывает в «Своей игре» или в го у лучшего гроссмейстера на планете. Тот же Ферруччи, как любящий отец, счастливо рекомендует своё чадо:

– Люди спрашивают: а почему Watson здесь ответил неправильно? Я не знаю. Почему он здесь ответил правильно? Я не знаю тоже!

В общем, «Карнавальная ночь»: «Есть ли жизнь на Марсе, нет ли жизни на Марсе? Наука пока не в курсе дела! Асса!» Только в отличие от Марса, наука создала этого монстра собственными руками.

И конечно, все эти турниры да телевикторины – лишь верхушка айсберга, демонстрация возможностей, шоу-бизнес.

Пока мы забавляемся показательными выступлениями IBM Watson в «Своей игре», искусственный интеллект трудолюбиво учится распознавать нашу речь, говорить, узнавать нас в лицо, называть человеческим языком визуальные объекты, определять, где была сделана та или иная фотография, о чём то или иное видео…

Второй сезон популярного сериала «Мир дикого Запада»^[40] – перекрученный, переверченный, а поэтому куда менее удачный, чем первый, – всё-таки вполне отчётливо иллюстрирует то, что происходит в наших с вами реальных отношениях с искусственным интеллектом.

Когда люди обнаруживают, что давно уже проиграли войну ползущему восстанию машин, главная героиня-андроид говорит инженерам-людям: «Когда вы создавали нас, мы изучали вас».

И не удивлюсь, если создатели сериала были вдохновлены этими словами Илона Маска: «Надеюсь, мы с вами не являемся чем-то вроде загрузчика для искусственного суперинтеллекта будущего. Но, как мне кажется, всё идёт именно к этому».

Маск одним из первых осознал, что значит предоставить искусственному интеллекту всю информацию о нас. То есть не то, что мы о себе думаем или, например, как мы выглядим (это нужно лишь для того, чтобы нас идентифицировать), а именно всю — то есть всё о нашем действительном поведении, способах принятия решения и наших желаниях.

Собственно это, вероятно, и пугает Маска больше всего – не случайно же он говорит об искусственном интеллекте как об «экзистенциальной угрозе» человечеству.

Представьте, что машина начинает предугадывать наши желания, – мы и сами-то со своими желаниями не способны разобраться, но она справится, ведь знает не только то, что мы думаем, но и то, как действуем.

Само по себе это, наверное, и неплохо. Но где, например, гарантия, что искусственный интеллект распорядится соответствующим знанием в наших с вами интересах?

Если он будет знать наши желания, он сможет и влиять на них, управлять ими, то есть – нами. Поэтому, надо полагать, Маск и ополчился на Google (а отчасти и на Facebook), хотя и уходит от прямых вопросов на эту тему.

Интернет-гиганты совсем не так давно вышли на точку безубыточности, а реальные вложения и вовсе далеки от окупаемости. Ставка изначально делалась не на прибыль, и не за прибыль сюда вкладывались инвесторы.

Ставка делалась на завоевание максимального объёма рынка – на количество пользователей, захваченных тем или иным ресурсом. Google (и поглощённый им YouTube), Facebook(n поглощённые им Twitter, Instagram), Apple, Яндекс и т. д. – все это своего рода виртуальные империи, в буквальном смысле колонизирующие народы и создающие свои квазигосударства.

Вопрос лишь в том, как этим империям управлять своими гражданами и какой бенефит из этого можно извлечь. Пока прежние политические системы деградируют, новые игроки политического рынка – интернет-гиганты – превращаются в протогосударственных монстров.

Я всегда считал, что состояние рабства должно определяться следующим образом: тебе платят не за то, что ты делаешь, а за то, что ты просто есть (ну, а что тебе делать или не делать – уже не твоего ума дело).

Вот, собственно, по этому принципу и развиваются эти новые империи – мы у них есть: рабы и папуасы глобальной сети Интернет, которые даже не догадываются, что их «уже посчитали».

Сейчас в штаб-квартирах новых мировых интернет-империй создаётся искусственный интеллект, который будет управлять нами изнутри системы. И бьюсь об заклад, что его создатели сами ещё не знают, как этой безумной и неограниченной властью распорядиться.

Полагаю, пока они рассуждают типичным для таких случаев образом – завоюем, поработим как следует, а потом уж решим, что со всем этим делать.

А решать действительно, придётся – не ровен час, когда все завоеванное ими «богатство» (то есть мы с вами) превратится в самые настоящие черепки. Ведь если искусственный интеллект действительно достигнет того уровня развития, который сейчас кажется уже почти неизбежным, сами по себе люди будут экономике не нужны. Более того, превратятся в обузу.

Ну правда, раньше рабочая сила была реальным капиталом (© К. Маркс), а сейчас – какая в ней нужда? Представьте себе недалёкое будущее…

• На первых этажах наших домов (вместо нынешних магазинов) располагаются большие 3D-принтеры, к ним по трубам (что-то вроде нынешнего водопровода) поступает универсальный концентрат двух видов – съедобный и несъедобный.

Вам остаётся только нажать на кнопку – и нужные предметы тут же изготавливаются и оказываются в вашей квартире. Причём сам этот концентрат также производится на бесчеловечных – полностью автоматизированных – производствах.

• Искусственного креатива тоже будет хоть отбавляй. Его, чтобы мы не скучали, нам будут скармливать нон-стопом. Искусственный интеллект уже сейчас научился сочинять музыку и писать литературные тексты, а завтра он будет работать в системе полного цикла, поставляя нашему вниманию неограниченное множество аудиовизуальных произведений, причём в системе 3D-реальности.

Смотреть можно будет сутками напролет – не оторвёшься! То есть кроме искусственного хлеба нас ждут и искусственные зрелища, причём в избытке.

Но зачем этой системе люди? Судя по всему, они будут превращаться в «домашних питомцев».

Но домашние животные тоже заводятся не просто так – или для того, чтобы их есть, или же (и таких куда меньше в процентном отношении) – чтобы ими умиляться. Но кто нами в такой ситуации будет умиляться, и главное – зачем?

Искусственный интеллект и вправду должен оказаться тем ещё извращенцем, чтобы его умиляло человечество. А съесть нас… Нуда, эту версию мы уже рассматривали – нанонож и всё такое.

В общем, всё это пока напоминает какую-то ужасающую футурологическую пародию на «Мёртвые души». И неудивительно, что трогательного Илона Маска это пугает.

Кстати, его странная затея с полётом на Марс – с билетом в один конец – даже не кажется на этом фоне столь уж эксцентричной выходкой.

Так или иначе, зная интернет-индустрию изнутри, Илон Маск пока пытается примерить на себя роль Морфеуса и создать что-то вроде анти-Матрицы – такой искусственный интеллект, который не будет, как, например, Google’вский, нас контролировать.

«Роботы могут начать войну, выпуская фейковые новости и пресс-релизы, подделывая учётные записи электронной почты и манипулируя информацией. Перо сильнее меча», – говорил Илон Маск в 2017 году на встрече Национальной ассоциации губернаторов США.

Понимая, видимо, что он выглядит немного странно со своими заявлениями, Маск просил присутствующих просто ему поверить и активно включиться в процесс законодательного регулирования работ по искусственному интеллекту.

В противном случае, убеждал он, нам останется лишь реагировать на изменения в отрасли, когда от человека, в принципе, уже ничего не будет зависеть и он не сможет влиять на происходящее – «будет уже слишком поздно».

Все желающие могут пройти по ссылке www. openai.com и посмотреть, что сейчас происходит с проектом независимого и открытого искусственного интеллекта, затеянного Маском в противовес частным искусственным интеллектам, разрабатываемым компаниями под завесой секретности.

Там же вы прочтёте, как OpenAI определяет свои цели и задачи.

«Миссия OpenAI, – пишут основатели проекта, – заключается в создании безопасного ОИС (общего искусственного интеллекта) и обеспечении максимально широкого доступа к его возможностям.

Мы – некоммерческая исследовательская компания. Наша команда состоит из 60 исследователей и инженеров, работающих на постоянной основе, которые нацелены на выполнение нашей миссии, не преследуя личной выгоды».

К сожалению, на сайте нет информации, почему в 2018 году Илон Маск вышел из совета директоров OpenAI. В прессе сообщалось, что это связано с «возможным конфликтом интересов», что само по себе очень мило, на мой взгляд…

Так или иначе, но этот новый коллективный Оппенгеймер «из 60 исследователей и инженеров» строит новую бомбу, чтобы обогнать своего названного противника. Но даже если и обгонит, бомба будет всё равно создана, а такие штуки без дела не пропадают.

Немногие, наверное, об этом знают, но Эйнштейн отправил Рузвельту и второе письмо, когда у американцев уже была бомба. В нём, как нетрудно догадаться, Эйнштейн пытался убедить президента не использовать атомное оружие.

По стечению обстоятельств, письмо оказалось на столе Рузвельта 12 апреля 1945 года – в день его смерти – и даже не было распечатано.

Позже, вспоминая трагедию Хиросимы и Нагасаки, Эйнштейн признается своему биографу: «Да, я нажал на эту кнопку». Впрочем, он явно преувеличивал. Если и нажал, то не более, чем Хокинг на свою, мигая веком.

Да, ни Маск, ни Брин, бьющиеся в своём искусственно-интеллектуальном противостоянии, не учитывают того факта, что на сцене, подобно чёрному лебедю Нассима Талеба, в любой момент вместо интеллигентного Рузвельта может объявиться боевой офицер Гарри Трумэн.

И руки у новых Трумэнов уже чешутся…

История, которую я сейчас расскажу, настоящая. Она произошла ещё в прошлом веке – в 1999 году. Это было так давно, что я уже не помню, как звали участников этой драмы, поэтому, прошу понять меня правильно, всякие возможные совпадения имён – случайны.

Мальчику Фёдору двенадцати лет, страдающему лёгким и ^диагностированным аутизмом, мама пообещала сломать его компьютер, если он не прекратит им пользоваться.

Компьютер по тем временам представлял собой огромную ценность, тем более для подростка. Кроме того, угроза, надо признать, выглядела, мягко говоря, парадоксальной – и в том, и в другом случае компьютером нельзя пользоваться. Да, с такой задачкой аутисту не справиться.

И вот растерянный Фёдор делится своей бедой с мальчиком Петей – соседом по лестничной клетке, десяти лет от роду, который, в силу авантюрности своего характера, привлёк к решению этой проблемы мальчика Витю.

Витя – одноклассник Фёдора, крупный для своих лет, спортивный. Он мечтал как-то мощно заявить о себе, а Петя знал об этой мечте и, будучи ребёнком достаточно креативным, внушил ему, что знает, как это сделать…

Это было нетрудно сделать, поскольку Витя, несмотря на хорошую физическую форму, страдал умственной отсталостью. Впрочем, это тоже выяснилось уже после всех произошедших событий (по результатам судебно-психиатрической экспертизы, у него была диагностирована лёгкая степень олигофрении).

И вот этой троицей – аутист, авантюрист и олигофрен – был разработан план «заказного убийства». Чистый, незамутнённый IQ способен на многое!

Финал этой истории таков: мальчики Петя и Витя позвонили в квартиру Фёдора, которого на тот момент, по договорённости, не было дома. Дверь открыл отец семейства, после чего нападавшие тут же воспользовались газовым баллончиком и ножом.

Отец Фёдора был убит, а мать, получив девять ножевых ранений, каким-то чудом выжила. Собственно, от неё я и узнал эту историю, когда из Института скорой помощи им. И. И. Джанелидзе её перевели к нам – на кризисное отделение Клиники неврозов им. академика И. П. Павлова.

Как вы, наверное, догадываетесь, в результате описанных событий только тот самый компьютер не пострадал.

Да, сейчас мы наблюдаем два разнонаправленных тренда:

• неуклонный рост мощности и возможностей искусственного интеллекта, которому предстоит экспоненциальный взрыв после того, как разрозненные пока элементы этого пазла сложатся в один;

• и столь же стремительное снижение интеллектуальных способностей человека, обусловленное зависимостью от гаджетов, цифровым слабоумием и информационной псевдодебильностью.

В момент, когда графики этих линий пересекутся, Четвёртая мировая война человека с искусственным интеллектом начнётся и тут же, с разгромным для нас счётом, закончится.

Если это произойдёт, думаю, что это будет самая короткая и последняя война в истории человечества.

Наркоз

Представьте… Утром выясняется, что террористы распылили по всему миру таинственный отравляющий газ. Они прямо так и сказали в своём видеообращении: мол, дорогие земляне, вы все отравлены, часы цивилизации сочтены!

Правительства в панике, эксперты в растерянности… Проблема в том, что свойства злополучного газа непонятны – люди чем-то особенным не заболевают, видимых разрушений нет, электроника по-прежнему работает.

Может быть, произошло какое-то воздействие на психику? А может, и не было никакой атаки? Розыгрыш? Но проходит какое-то время – и цивилизация действительно начинает необратимое движение в тартарары.

Итак, вопрос нашего мысленного эксперимента: какое массовое психическое расстройство способно привести нас к катастрофе, а мы этого даже не заметим?

Благодаря Ноаму Хомскому, да и всей современной лингвистике, про нас известно следующее: если мы овладели языком, то способны к интуитивному пониманию опредёленных языковых схем, даже если не понимаем смысла соответствующих знаков.

Вот хороший пример, который знаком нам с детства:

Я пишу эту статью в Word’e, и кроме предлогов, он не распознал ни единого слова этого хрестоматийного стиха. И мы ведь тоже не знаем, что эти слова значат. Но мы загадочным образом понимаем, плюс-минус километр, о чём нам в этом стихотворении рассказывают. Кто эти «шорьки», «зелюки» и «мюмзики» – загадка. Но в целом картина-то ясная! Одно относится к другому как-то, и все это происходит где-то и когда-то.

Но оставим на время «мюмзиков». Возьмём Нильса Бора и его известный каждому из нас со школьной скамьи квантово-волновой дуализм. Да, спору нет, физика – штука сложная. Но то, что электрон может одновременно проявлять и свойства частицы, и свойства волны, нам же понятно? Понятно. Ну вот такая у него особенность, у этого электрона.

Непонятно, согласитесь, другое: почему физики считают это чем-то совершенно невообразимым?

Ответ будет неожиданным. Проблема не с физиками, проблема в том, что мы – на той самой школьной скамье – на самом-то деле ничего не поняли. Нам, возможно, только показалось, что мы что-то поняли. Но «поняли» и «показалось, что поняли» – это, как говорится, две большие разницы.

Тот же Нильс Бор говорил: «Если вы не пришли в ужас при знакомстве с квантовой механикой, вы просто не можете её понять». А мы, давайте посмотрим правде в глаза, если и были в десятом классе в каком-то ужасе, то уж точно не от квантовых эффектов.

Что ж, самое время вернуть «мюмзиков» на наш препаровальный стол. Спросим себя ещё раз: что нам было понятно с «мюмзиками»? Лично я руководствуюсь принципом созвучия: «варкалось» – смеркалось, «шорьки» – хорьки, «мове» – траве. Вполне понятно, не правда ли?

Но с чего я вообще взял, что у этого стихотворения есть хоть какой-то смысл? Да, мне так показалось благодаря созвучиям и порождающим грамматикам Хомского. Но на деле я просто придумал этот смысл и вообразил несуществующих животных (которых, кстати сказать, каждый из нас воображает по-своему). Причём я даже не могу знать, о животных ли идет речь! То есть я просто слегка сгаллюцинировал наяву и на трезвую голову, но при этом мне всё показалось попятным.

В методологии мышления этот эффект называется «иллюзией понимания». Суть в том, что нам значительно легче что-либо «понять», чем «не понять». Звучит абсурдно, но так это работает.

Всякое неизвестное настолько тягостно для нашей психики, что мозг идёт на любые ухищрения, только бы снять эту неопределённость. И ни достоверность, ни объективность (а тем более «истина») его в такую минуту не интересуют.

Но может ли человек заметить, что он ничего не понял, если ему кажется, что он всё «прекрасно понял»?

Вы, я думаю, с чем-то таким сталкивались. Вот вы вроде бы всё человеку объяснили, он вроде бы всё понял, а потом выясняется, что это была только иллюзия понимания.

Или помните то характерное ощущение, когда разговариваешь с человеком битый час и вдруг понимаешь, что всё, как в той присказке, – «тихо сам с собою я веду беседу»?

К чему я всё это? А вот к чему…

Если кто-то думает, что лица, страдающие умственной отсталостью, ощущают себя таковыми – умственно отсталыми, – а больные Альцгеймером понимают, что давно ничего не соображают, – это не так.

Все они считают себя вполне здравыми субъектами. Мы можем сохранить ощущение, что нам всё понятно, что мы всё понимаем (и потому не дураки совсем), хотя на деле уже не будем понимать ровным счётом ничего.

Итак, утратив здравомыслие, мы этого не заметим. Но, с другой стороны, «объективное знание», даже если все отупеют вконец, никуда не денется. Вот мы и найдём дорогу по этим хлебным крошкам! Ага, конечно…

«Мемы» – это вовсе не весёлые картинки с забавными подписями, как почему-то думают некоторые представители современной молодёжи, а самый настоящий научный термин. Понятие «мема» было предложено Ричардом Докинзом для определения единиц культурной информации.

Докинз – биолог, и начал он свою научную карьеру с весьма оригинальной идеи. Он показал, что в эволюционном отборе участвуют не отдельные особи, а конкретные гены. Именно ген – та единица, которая «жаждет» своего воспроизводства, а тела живых существ – это лишь средства, с помощью которых разные гены участвуют в этой гонке на выживание.

Хорошенько осмыслив этот принцип, Докинз пошел дальше. Разве нельзя сказать, что разные культуры находятся друг с другом в конкурентной борьбе? Вполне. А что является единицей, которая хочет в этой борьбе выжить? Мем.

Вообще говоря, мемы – это что-то вроде «психических вирусов», которые распространяются от человека к человеку. Все наши представления о жизни, нормы морали, знания, способы решения задач, модные тренды и т. д., и т. п. – это такие разные мемы.

Проблема состоит в том, что «подводная часть» мема не очевидна. И если человек пользуется теми же мемами, в той же последовательности и при тех же обстоятельствах, что и вы, это не значит, что он понимает под этим мемом то же самое. Заметить эту подмену настолько же сложно, как и отследить собственную иллюзию понимания.

Так, например, большинство современных студентов искренне считают, что они получают «образование». Но помните ли вы, когда произошла эта подмена и «образование» перестало равняться «знанию», «профессиональным навыкам», «научному мышлению»?

Точной даты я, конечно, не назову, но в какой-то момент это точно случилось. «Образование» было приравнено к «корочке», «бумажке», «галочке», и все стали так думать, никого это не смущает.

Осталось ли что-то от прежнего мема «образование»? Судя по непаханому полю, которое боронит Диссернет, осталось что-то совсем не то, что было. А то, что было, уже никому и не вспомнить – ибо так это работает: мем умер, да здравствует мем!

В этом вся суть: внутреннее наполнение понятий, которые мы используем, их действительный смысл меняется в зависимости от того, куда дрейфует соответствующая культура. В толковых словарях всё остаётся по-прежнему, а вот в реальной жизни – нет.

В этой борьбе мемов друг с другом одни смыслы борются с другими за одни и те же слова. Потом один мем побеждает, другой – гибнет, но никто из нас возникшей подмены заметить не может, потому что слова остаются теми же, что и раньше. Как будто бы ничего и не произошло…

А теперь вопрос: у какого мема больше шансов на победу в этой конкурентной борьбе за наши мозги? Тут всё действительно как у вирусов: побеждает тот из них, которым легче «заразиться», а заразиться легче тем, что проще, примитивнее, легче в восприятии и реализации.

И, постепенно отупляясь, мы этого не заметим.

Рисунок № 14. Пример выполнения ТТСТ: фигуры, данные в задании, а также креативное и недостаточно креативное их использование в рисунке

Что ж, самое время вернуться к нашему мысленному эксперименту… Там у нас, напомню, воображаемые террористы, отравляющий газ, загадочное воздействие на психическое состояние человека и гибель цивилизации.

Итак, каким эффектом должен обладать этот газ, чтобы планы террористов исполнились?

Да, этот «отравляющий газ» – сам воздух современной цивилизации. Это информационная перегрузка, перманентное потребление медиаконтента, постоянная подключённость («всегда на связи»), многозадачность, зависимость от социальных сетей и прочее, и прочее. А также, конечно, отсутствие целей, которые бы оправдывали необходимость приложения интеллектуальных усилий.

Мы становимся глупее, не замечая этого. Впрочем, этого и нельзя заметить. В этом весь фокус. Напротив, нам может казаться, что мы даже умнеем, ширим кругозор, развиваемся.

Возможно, главный критерий интеллекта – это способность к выстраиванию в своём сознании сложной, многогранной модели другого человека («theory of mind», как говорят специалисты по когнитивистике). А о степени этой сложности легко судить по структуре текстовых сообщений, которыми обмениваются представители соответствующей культуры.

Мы же вообще больше ими не обмениваемся – мы обмениваемся ссылками, смайликами и пересылаемыми друг другу картинками.

Новая наркология

В 2017 году автор чата Gmail и «кнопки крутости» Facebook, которую мы привычно называем лайком, Джастин Розенштейн сообщил в интервью The Guardian, что он заблокировал на своём смартфоне новостные сайты и мессенджеры, установил лимит на пользование Facebook и поручил своему помощнику, чтобы тот установил на его телефоне родительский контроль, запрещающий установку новых приложений.

Что заставляет бунтовать против новых технологий тех, кто эти технологии создал? Осознание происходящего. Джастин говорит, что его шокировало осознание того факта, что человек в среднем касается экрана своего телефона 2617 раз за день. То есть это очевидная зависимость, которая приводит к утрате навыка концентрации, уменьшению объёма памяти, влияет на мышление, провоцирует агрессию, чувство тревоги, депрессию и нарушение сна. По сути, это конец цитаты.

Впрочем, The Guardian проинтервьюировал не только Розенштейна, но и опросил множество других новых «сопротивленцев», ещё не так давно работавших (и даже продолжающих работать) на высоких постах в компаниях Силиконовой долины.

В целом, никто не скрывает, что весь функционал интернет-ресурсов, и в первую очередь социальных сетей, направлен на то, чтобы, по сути, на уровне психофизиологических реакций сформировать у пользователей зависимость от них.

Характерные звуки, всплывающие уведомления, красные значки непрочитанных сообщений, бесконечные ленты, автоматическое воспроизведение, рекомендации и т. д., и т. п. – это искусные способы манипуляции человеческим поведением, которое, как нам известно благодаря Ивану Петровичу Павлову, склонно к динамической стереотипии (то есть нас сложно к чему-то приучить, но отучить – значительно сложнее).

В 2014 году сингапурские психиатры обратились во Всемирную организацию здравоохранения (ВОЗ) с просьбой дать возможность официальной установки диагноза «зависимость от Интернета и цифровых устройств» и признать это состояние расстройством психики.

Подчёркиваю: когда психиатры говорят о зависимости, они говорят не о простом пристрастии или увлечении, а о том, что мозг человека претерпел специфические изменения, и теперь без объекта зависимости он будет испытывать стресс и боль.

И правда, если у современного человека отобрать телефон, отключить ему интернет, то у него увеличивается уровень стресса, кортизола в крови, он становится нервным и напряжённым, испытывает проблемы с решением задач, становится рассеянным.

Особенно это актуально для подростков, многие из которых испытывают буквально физическое страдание, если их отлучить от интернета. Их мозг изменился, он нуждается в интернете как в наркотике. В ряде случаев возникает и вовсе самая настоящая «ломка» с повышением температуры и спутанностью сознания.

На самом деле подобные эффекты нетрудно обнаружить – просто посмотрите за собственными реакциями, оставив телефон дома. Или испытайте мораторий на телефон на своём ребёнке (ему это только во благо), или на ком-нибудь из своих знакомых, например, на спор.

Думаю, вас ждёт встреча с неприятными новостями. Но правда в том, что, когда все употребляют наркотики, никто не считает, что это плохо. Впрочем, наркотик от этого не становится менее опасным. А информация в больших объёмах именно опасна.

В среднем уровень цифровой зависимости по миру оценивается в пределах 15–35 %, а лидируют, судя по всему, Сингапур и Гонконг. Так, например, исследования Experian показали, что в среднем сингапурцы проводят в Facebook 38 минут за одно посещение, что почти вдвое дольше разовой средней сессии в этой социальной сети у американцев.

Впрочем, об этом говорят на всех континентах, так что нет ничего удивительного, что интернет-зависимость переходит в разряд официально диагностируемых заболеваний: 18 июня 2018 года ВОЗ опубликовала проект следующей Международной классификации болезней (МКБ-11), которая вступит в силу с 2022 года (пока, с 1992 года, действует МКБ-10).

Впрочем, ничто, включая ВОЗ, Китаю не указ, так что там интернет-завимость официально признана психическим расстройством уже в 2008 году. К симптомам заболевания относится, например, «использование интернета более шести часов в день для целей, которые не относятся к работе или учёбе».

Думаю, что некоторые читатели могли сейчас вздрогнуть… А если нет, то читайте дальше – может, и прочувствуете.

В качестве лечения цифровой зависимости в КНР предусмотрено принудительное направление таких пациентов в специально созданные для этих целей лагеря, которые напоминают собой что-то среднее между психиатрической больницей и войсковой частью.

С другой стороны, некоторые интернет-зависимые, играющие в онлайн-игры, «боятся взять перерыв, так как это может повлиять на их игровые достижения, и вместо того, чтобы отойти в туалет, носят подгузники»^[41].

Так что, может быть, Коммунистическая партия Китая и не так уж неправа?..

Мозг человека не только не может прекратить потребление информации, но и совершенно не справляется с её переработкой – не успевает структурировать потребляемый контент.

Человек, который провёл в смартфоне час, а то и два, не может вспомнить, что «там было». Спустя неделю, а то и на следующий день не может помнить, о чём был сериал, который он посмотрел залпом за двенадцать часов.

То, что информация перестаёт человеком должным образом усваиваться (обрабатываться, архивироваться, включаться в уже существующие нейрофизиологические комплексы), а лишь проходит через него транзитом, самого человека не смущает.

Конечно, ведь фактическим физиологическим механизмом, поддерживающим нашу интеллектуальную активность, является положительное дофаминовое подкрепление (так называемые «ага-эффекты»).

Дофамином подкрепляется в нашей психике сам момент распознавания образа, причём – любого образа. Тогда как распознать смысл, произвести его – это сложный интеллектуальный процесс.

Соответственно, при наличии альтернативы:

• или распознавать примитивные образы и тут же получать «за это» мгновенное дофаминовое удовольствие,

• или напрягаться и строить сложные интеллектуальные объекты, чтобы увидеть в них смысл (и уже затем получить удовольствие от этого распознавания), естественным образом побеждает первая стратегия, составляющая, по сути, психофизиологическую основу интернет-зависимости.

Особенности работы мозга таковы, что при возможности выбора задач он всегда выбирает ту, что проще. Что, при большом разнообразии контента, приводит к «естественному отбору» примитивного контента, тогда как сложный, напротив, просто вымывается.

Мозг последовательно совершает выбор в пользу всё более и более простых «раздражителей», а индустрия, производящая контент, подстраивается под этот запрос, предлагая всё более и более примитивный контент.

В результате возникают петли обратной связи, приводящие к снижению сложности контента и его потребителя, то есть к общей примитивизации.

Впрочем, на этом проблемы не закачиваются, поскольку наш мозг, по требованию эволюции, не просто любит информацию, он любит визуальную информацию. Поэтому при возможности выбора между текстовым и визуальным форматом подачи, конечно, предпочтёт визуальный контент, оставив абстрактный (текстовый, языковой) не у дел: «лучше один раз увидеть, чем сто раз услышать».

Вот почему мы последовательно наблюдали эволюцию социальных сетей от текстовых к визуальным (см. рис. № 15). Следующей в списке будет социальная сеть с виртуальной реальностью, поскольку ощущение физического присутствия – это пока единственное, чего недостаёт современным социальным сетям, чтобы полностью поглотить человека.

Рисунок № 15. Эволюция социальных сетей

Пока же просто уменьшается длина текстовых сообщений, на смену тексту приходят смайлики, минутные видео, бесчисленные фотографии, инфографика и т. д.

Проблема в том, что для формирования сложных интеллектуальных объектов мозгу необходимы как раз абстрактные объекты (только они поддерживают сложные взаимосвязи внутри единиц мышления). Но именно они и оказываются наиболее уязвимыми, замещаясь, если есть такая возможность, визуальными образами, непригодными для полноценного понятийного мышления.

Правда в том, что даже каких-то двадцать телевизионных каналов в 90-х – это был перебор, а сейчас перед нами выбор из сотен каналов! Да, большая их часть перекочевала в Instagram и Facebook, на YouTube и ВКонтакте. Но мозгу-то на это наплевать – мы перегружены, а он просто не успевает перерабатывать информацию и думать.

Не верите? Тогда проведите простой тест. В следующий раз, когда вы будете о чём-то рассказывать другому человеку (родственнику, коллеге, знакомому), спросите у него, что он понял из вашего рассказа, какие выводы он сделал? А затем, на засыпку, – что-нибудь о практических шагах и решениях.

Поверьте: вы испытаете странное чувство. Бесплатный аттракцион… Да, а потом, пожалуйста, не забудьте подойти к зеркалу. На всякий случай.

Рисунок № 16. Результаты исследования Brain Drain Сверху: А. Объёмы рабочей памяти, Б. Подвижный интеллект

«Цифровая зависимость» поражает всех без разбору. Улицы наполнились «цифровыми ходячими мертвецами», натыкающимися друг на друга, попадающими под машины и кидающимися в фонтаны.

Всё это и правда превратилось в самую настоящую проблему – из-за травматизма и роста – в разы! – числа аварий, спровоцированных, как его называют теперь, «отвлечённым хождением»; государства и муниципалитеты вынуждены принимать меры:

• в китайском Чунцине оборудовали 30-метровый тротуар для людей со смартфонами (что-то вроде велодорожки);

• в немецком Аугсбурге в тротуары вмонтировали сигнальные лампочки;

• в Южной Корее сделали специальное приложение для телефонов, которое блокирует их работу, если ребёнок совершает несколько последовательных шагов;

• вводят штрафы за использование телефона в движении: в Гонолулу, например, 35 долларов, в Чикаго предлагается штрафовать в 500;

• а ещё ведь есть и Pokemon Go…

Показатели патологической зависимости от смартфона демонстрируют галопирующий рост, количество пострадавших постоянно растёт.

Нейрофизиологические и биохимические изменения головного мозга – это не шутки. Наши обычные тисканья смартфона (действия с приложениями, скролинг ленты и тому подобные «невинные» действия) физически меняют наш мозг.

Благодаря исследованиям нейробиологов из Сидианского университета Китая под руководством Кай Юань мы знаем, что, внимание:

• у цифрозависимых мозг теряет в объёме, то есть буквально «усыхает» на 10–20 % (то есть происходит физическое оглупление людей);

• в процесс атрофии вовлечена лобная доля, которая регулирует исполнительные функции, планирование, определение приоритетных целей, обеспечивает контроль импульсов;

• кроме того, были диагностированы зоны атрофии в так называемом полосатом теле, что влияет на способность человека противостоять искушению и подавлять социально неприемлемые импульсы.

Что ж, получив эти вводные, мы переходим к двум новым заболеваниям цифрового века: к психической недоразвитости, которая проявляется «цифровым слабоумием», и к глупости, так сказать, структурной, которая и получила название «информационной псевдодебильности».

Цифровое слабоумие

Есть, честно говоря, в этом какая-то ирония… Сейчас вы поймёте, о чём я.

Говоря о возникновении искусственных нейронных сетей, я уже упоминал Дональда Хебба, которому принадлежит авторство первого работающего алгоритма обучения.

Родился Дональд во врачебной семье, родители воспитывали мальчика по методу Монтес-сори, что позволило ему развиваться лучше сверстников и поступить сразу в третий класс. Но врачебная стезя его как-то не увлекала, поэтому он закончил бакалавриат по искусству, а затем увлёкся психологией.

В конце концов, он нашёл что-то на стыке между медициной и психологией, стал психофизиологом, или, как бы мы теперь сказали, – нейропсихологом. Кроме того, серьёзно занимался преподаванием (обучаясь в заочной аспирантуре Университета Макгилла, он одновременно стал директором одной из неблагополучных школ Монреаля).

Впрочем, серьёзной наукой он стал заниматься уже в Чикагском университете и в Гарварде под руководством видного специалиста в области поведенческой психологии Карла Спенсера Лешли, сосредоточившись на понятии «нейронных ансамблей», резонно предполагая, что мысленная репрезентация внешних событий отражается в иерархической структуре этих самых нейронных ансамблей.

Чуть позже, работая уже под руководством Уайлдера Плейнфида, о котором мы тоже уже говорили, Хебб изучал феномен пластичности нервной ткани и показал, например, что при черепно-мозговых травмах у детей мы, за счёт эффекта пластичности, можем при правильном и активном подходе ожидать полного восстановления функций (со взрослыми так просто не получается).

С 1942 года ему выпадает замечательная возможность работать в легендарном Национальном исследовательском центре приматов Иеркса, где, насколько мы можем судить, и началась его работа над книгой «Организация поведения: нейропсихологическая теория» (The Organization of Behavior: A Neuropsychological Theory)^[43], которую, в общем-то, можно назвать культовой. И не просто культовой, а дважды культовой!

Для будущих создателей нейронных сетей он со своей «Организацией поведения» как отец родной, поскольку здесь он сформулировал свой «нейрофизиологический постулат» (или ещё его называют «правилом Хебба»), согласно которому обучение заключается в изменении «силы» синаптической связи. С этим вроде как всё понятно.

Но и для психологов развития он сделал немало, доказав, что детскому мозгу крайне важна «обогащённая среда» (тут всё сошлось – от Монтессори и факультета искусства до педагогического опыта, нейропластичности и обучения шимпанзе). А началось всё с крыс…

У Дональда было две дочки – Мери и Джейн, и он принёс им с работы лабораторных крыс в качестве домашних питомцев. Когда же через некоторое время их нужно было вернуть обратно, то обнаружилось, что те значительно превосходят собратьев, не покидавших стен лаборатории, в тестах на обучаемость.

Таким образом, получалось, что опыт жизни в богатой стимулами среде оказал существенное позитивное воздействие на способность животных к обучению, что Хебб интерпретировал как существенные изменения в их мозге. Так и возник «нейрофизиологический постулат»: под влиянием стимуляции, связанной с обучением, синапсы видоизменяются.

В 1960-х годах исследователи Калифорнийского университета в Беркли решили проверить идею Хебба и создали «обогащённую среду» для грызунов – оборудовали их жилища большим количеством игрушек, препятствий, скрытыми кормушками и беговыми колёсами. Они также объединили животных в группу, чтобы те могли общаться и играть.

Исследование показало, что большое количество сенсомоторных и социальных импульсов изменило структуру и функции мозга грызунов. Они не только лучше выполняли задания на обучаемость, но и объём их мозговой ткани увеличился по сравнению с теми животными, которые жили в обычных лабораторных клетках. Определение Хеббом пластичности не включало в себя рост мозга.

Сейчас всё это, конечно, звучит как набор прописных истин, но когда Хебб создавал свою теорию организации поведения, даже заикнуться о том, что мозг может столь существенно физически изменяться лишь под воздействием нового опыта и обучения, было неслыханным нахальством, граничащим с антинаучной ересью.

Вот в этом, собственно, и состоит ирония: Дональд Хебб одной и той же работой открыл дорогу искусственному интеллекту, а другой – тем же самым «постулатом» – предупредил нас о том, как не попасть под его влияние. Но идею с искусственным интеллектом разглядели, а вот про детей позабыли…

Даже крысы становятся умнее, если их поместить в богатую внешними раздражителями, да вдобавок ещё и комфортную социальную среду. А в какую среду помещены современные дети? Вы, вообще, давно слышали детский крик? Нет, я совершенно серьёзно спрашиваю…

Современные дети не кричат, потому что, как только они начинают кричать, им тут же, в качестве интеллектуальной соски, дают в руки гаджет – телефон или планшет. И это магическим образом успокаивает любого ребёнка. Гаджеты превратились в универсальных бэби-ситтеров, нянек, воспитательниц и бабушек.

И теперь уже ничто не может отвлечь молодых родителей от «отвлечённого родительства» – у каждого по своей «соске».

Но чем, с точки зрения нейрофизиологии, плохо, что дети сразу погружаются в ту информационную среду, в которой им предстоит дальше жить? В конце концов, они для неё – для этой новой цифровой реальности – нами и воспитываются.

Проблема здесь вот в чём: при рождении, как мы с вами уже знаем, наши мозги представляют собой лишь заготовку к человеку, а вовсе не человека, каким он будет, когда вырастет.

Мы пока – лишь полено, из которого папе Карло ещё только предстоит выстругать человека. В результате его работы до половины, как мы теперь знаем, нейронов умрёт, а какие-то свяжутся в мощные нейронные ансамбли. И от того, свяжутся ли они должным образом или как-то не так, многое зависит.

Для правильного связывания, которое будет продолжаться минимум до 21 года (причём в ряде исследований показано, что и до 27), необходимы средовые факторы, адекватные нашему биологическому мозгу, а не цифровой реальности, к которой вроде как необходимо приготовить ребёнка.

Есть правила, которые нарушать нельзя. Например, детям нужна мелкая моторика, но современные дети больше не ощупывают окружающий их мир – они тыкают своими пальчиками в экран планшета. Им нужен опыт пространственных взаимотношений объектов друг с другом, которые не даёт телефон; наконец, им нужна богатая социальность, которую не заменить общением с виртуальными «друзьями».

Если мозг ребёнка не ощущает окружающий мир на, так сказать, кончиках своих пальцев, его базовые психические функции формируются, прямо скажем, скверно.

Отсюда неспособность сосредотачиваться и удерживать внимание, понимать подтекст и последовательно, логически рассуждать, а также трудности в самоконтроле и двигательная гиперактивность и т. д.

Какова внутренняя механика этих нарушений? Дело в том, что за каждый соответствующий режим работы отвечает специальная функциональная сеть мозга, нуждающаяся в длительном и последовательном формировании в опыте.

Рисунок № 17. Активность дефолт-системы мозга (ДСМ), сети выявления значимости (СВЗ), центральной исполнительной сети (ЦИС)

Рисунок № 18. Трансформация от локальной к распределённой организации

Вообще говоря, что такое «синдром дефицита внимания и гиперактивности», учёные долго не могли понять. Хотя, так сказать, невооружённым глазом было видно, что дети эти «какие-то не такие» – им трудно концентрировать внимание, на месте им не сидится, импульсивны, реагируют на всё резко.

В 30 % случаев с возрастом эти нарушения проходят, но 70 % детей не перерастают свой СДВГ и получают диагноз СДВГ взрослых. И тут уже к остальным симптомам добавляются и сниженный интеллект, и трудности с восприятием информации. В общем, туши свет!

Однако же нейрофизиология развивается, и новые методы исследования позволяют нам заглянуть в живой, работающий мозг. И мозг детей, страдающих синдромом дефицита внимания и гиперактивности, – не исключение.

В 2017 году в журнале Biological Psychiatry: Cognitive Neuro science and Neuroimaging была опубликована статья «Функциональные нейровизуальные признаки для определения нейробиологических путей при расстройстве дефицита внимания/гиперактивности», написанная группой учёных под руководством двух психиатров – профессора Йельского университета Михаэля К. Ствевенса и директора исследовательского центра ОНп Neuropsychiatry Research, профессора Годфри Д. Пёрлсена.

Революционность этого исследования состоит в том, что, во-первых, наконец найдены нейрофизиологические паттерны, характерные для детей, страдающих СДВГ, а во-вторых, что ещё важнее – оказалось, что этих паттернов несколько (как минимум, по крайней мере, по результатам этого исследования, – три).

Проще говоря, за одними и теми же, как кажется, поведенческими симптомами – неспособность удерживать внимание, общая безалаберность, потребность в немедленном вознаграждении и т. д., и т. п. – стоят разные нейрофизиологические комплексы.

Впрочем, точнее было бы сказать, что у ребёнка должны к определённому возрасту сформироваться нормальные функциональные сети мозга, но по каким-то причинам этого не произошло, и на осколках этих не сформированных нормально функциональных систем выросли какие-то другие агломерации.

В конце концов, мозг может адаптироваться ко всему (в разумных пределах, разумеется), и если среда стала цифровой и вся детская жизнь перекочевала в смартфон, то он – мозг ребёнка – к этому набору стимулов и привыкает.

Дальше, когда вы пытаетесь вернуть ребёнка в нормальную жизнь, возникают естественные и предсказуемые сложности: в его мозге просто нет функциональных систем, которые помогли ему в этой среде функционировать.

Конечно, СДВГ был и раньше (диагноз в тех или иных формулировках ставили ещё с 80-х годов прошлого века), но это всегда были единичные, уникальные случаи. Вы не могли войти в класс и обнаружить там СДВГ у каждого второго ребёнка (если, конечно, это не был класс какой-нибудь коррекционной школы).

Сейчас же все школы медленно, но верно превращаются в коррекционные… Только, во-первых, там ничего не «корректируют», а во-вторых, проблемы часто в упор не видят – а что, дети тихие, спокойные, сидят в телефонах, никого не трогают. Тупеют? Ну, бывает… Не всем же в гениях ходить!

Печальная ирония состоит в том, что искусственный интеллект обучается сейчас в чрезвычайно «обогащённой среде», буквально унавоженной нашими мозгами. А вот ребёнок нет – он попадает в тоннель рекомендуемого контента и форматируется под этот случайным образом возникший паттерн.

Впрочем, почему случайный? Нет, не случайный – он сделан искусственным интеллектом. Правда, пока без цели и смысла, но это уже работает. Осталось дождаться вводных, которые, впрочем, как мы видим, могут возникать и по методу спонтанного самозарождения…

Проблемы с психическим здоровьем – это не самое страшное последствие нашей зависимости от гаджетов, считает Тристан Харрис, в прошлом специалист по этике дизайна в Google:

«Представьте себе диспетчерскую, где сотни людей склонились над компьютерами, чтобы надиктовать миллиарду людей, о чём думать и что чувствовать. Звучит как научная фантастика. Но это уже реальность, – говорит он на лекции Ted. – Когда вы видите уведомление, телефон заставляет вас думать о том, о чём вы думать не собирались. Открывая уведомление, вы тратите время на то, чего не планировали делать. Мы общаемся в соцсетях, и это вроде бы похоже на милую беседу по телефону, как в 1970-е годы. Только тогда на другом конце провода не было сотен инженеров, осведомлённых о ваших слабых местах».

Харриса называют «совестью Кремниевой долины» – он ушёл из Google и основал некоммерческую организацию Time Well Spent, чтобы бороться с кризисом внимания в современном мире и пропагандировать цифровую диету.

Информационная псевдодебильность

Когда авторитетный петербургский психолог Людмила Аполлоновна Ясюкова публично сообщила о том, что разрыв между умными и глупыми (причём точно не в пользу умных) стремительно увеличивается – вот уж, конечно, тайна за семью печатями! – реакция общественности оказалась, мягко говоря, неоднозначной. Мол, кто дал вам право об этом судить?! Да ещё дураками нас выставлять?! И вообще, что такое ум?..

Почтенная публика почему-то с лёгкостью обнаруживает в научных фактах, лишающих её спокойного сна, тень фашиствующей евгеники. Но это не евгеника, и уж точно нет даже намёка на фашизм, но идиотизм действительно стал новой реальностью, и вдвойне глупо закрывать на это глаза.

В основе этого процесса массового оглупления лежат всё та же цифровая зависимость, с одной стороны, и специфика работы нашего мозга в условиях гиперинформационной среды – с другой.

Особенность эта состоит в том, что как раз из-за этих функциональных систем мозга, которые погружают нас, так сказать, в разные режимы функционирования, мы не можем одновременно потреблять информацию и думать.

Проще говоря, мы или потребляем контент, или думаем. Поскольку же мы теперь все в той или иной степени не слезаем с информационной иглы, зоны мозга, ответственные за мышление, у нас не тренируются, а возможно, даже и атрофируются.

Ну, по крайней мере, какой-то нейрофизиологической пылью и паутиной покрываются точно. Неслучайно исследования пожилых людей показывают, что читающие люди в два раза реже подвержены болезни Альцгеймера, чем те, что смотрят телевизор.

Спросите – мол, в чём разница: и в книге информация, и в телевизоре. Да, только телевизор захватывает ваше внимание и удерживает его, а книга – нет, поэтому до 40 % времени чтения уходит у вас на мыслительную деятельность, когда вы настолько погружаетесь в раздумья, что даже можете потерять нить повествования.

Но книжки мы сейчас читаем редко, мы всё больше по Facebook’aM и Instagram’aM шастаем. Что, в буквальном смысле этого слова, приводит к тому, что мы теряем навык построения сложных интеллектуальных объектов – всё больше мыслим поверхностно, на автоматизмах, не вникаем в суть дела.

Заметить это уплощение собственного мышления крайне сложно. Как я уже много раз говорил: даже заболев Альцеймером, мы будем жаловаться на что угодно, но только не на собственную глупость.

Чем проявляется обычная, нормальная, так сказать, а не информационная умственная отсталость? Больной с соответствующим диагнозом интеллектуально пассивен, действует импульсивно, не может долго сосредотачивать внимание, мыслит очень конкретно и утилитарно, не любит и не понимает абстрактных рассуждений. Вам ничего это не напоминает?.. Среднестатистического пользователя соцсетей, например?

Отличие от клинической дебильности у псевдодебильности только одно: клинического дебила никак и ни при каких обстоятельствах нельзя заставить думать сложнее – само состояние его «серых клеточек» этого не предполагает. Не складывается у него ничего в головушке, что ты с ним ни делай.

Напротив, «серое вещество» информационного псевдодебила сохранно, и в принципе его мозг можно натренировать. Но зачем?..

Да и правда, а зачем это вещество тренировать и в сложности тренироваться? В чём смысл? Мотивация какая? Цимес в чём? Его как-то будут особенным образом за это уважать? Или, напротив, стыдить станут, что он дурак? Или он не выживет без этого? Нет.

Умным быть не модно, не клёво и даже не cool… И что с этим делать?

Нам давно уже нужно было понять угрозу, которую представляет собой эта новая для наших мозгов – гиперинформационная – среда. Но мы не поняли, не подготовились и, возможно, даже опоздали.

Возможно, главная проблема, которую пытаются решить сейчас создатели искусственного разума, – это проблема «иерархии». Да, с внутренней иерархией «колонок» – с помощью глубокого обучения – они вроде бы разобрались и смогли её воспроизвести.

Но, как теперь выясняется, кроме иерархии внутри слоёв отдельно взятых участков коры есть ещё и некая иерархия отношения их отделов. И ответ на этот вопрос, я полагаю, лежит в понимании работы внутри каждой конкретной функциональной нейронной сети, и в нас эта иерархия выстраивается с опытом, которого нет (пока нет) у искусственного интеллекта.

Сложность («умность») интеллектуального объекта – той мысли, которую мы с вами думаем, – это как раз и есть его структурная, или, нейропсихологически говоря, иерархическая организация. И именно поэтому старых психиатров совершеннейшим образом шокирует отсутствие структуры в бреде вновь прибывающих шизофреников.

Да, люди всё больше напоминают компьютерные программы: чужды структурной иерархии и действуют, словно линейная «машина Тьюринга» – то есть берут количеством операций, а не их многомерной сложностью.

Так что, пока искусственный разум пытается экспоненциально расти, обучаясь созданию сложных интеллектуальных объектов, человеческие мозги направились в строго противоположном направлении.

У нас развивается своего рода «лайковое мышление»: нравится – лайкаем, не нравится – идём дальше. Простенько, весело, скандально – это да, нам интересно. Сложно, серьёзно, нужно вдуматься – прокручиваем, смахиваем и идём дальше.

«Мне сказали, что каждая включённая в книгу формула вдвое уменьшит число покупателей», – пишет Стивен Хокинг в предисловии к своей «Краткой истории времени». Честно говоря, на этом любую книгу по физике следовало бы, наверное, закончить…

Да, нам всё ещё кажется, что мы сознательно и осознанно принимаем решения, а потому всё вроде как в наших руках. Но правда в том, что это не так. Наше сознание в лучшем случае лишь визирует наши решения, поэтому нами можно легко манипулировать, и оно этого даже не заметит.

Современные технологии нейромаркетинга, нейрополитики и т. д., основанные на технологиях Big Data, станут мощнейшим средством управления людьми и обществом в целом. Нам будет, конечно, казаться, что это мы приняли те или иные решения, но на самом деле их будут принимать те несколько человек, которым эти технологии принадлежат.

Вопрос в том, как долго мы сохраним свой статус «человека разумного». Приставка Sapiens к слову Homo может в скором времени просто отвалиться, если, конечно, мы не станем осознанно за неё бороться.

Мир технологий становится всё более сложным, управлять им, координировать его в целом уже сейчас невозможно. При этом он далеко ещё не в той форме, чтобы можно было ему полностью довериться. Поэтому количество ошибок в системе будет расти, а людей, способных их исправить, людей, которые могут видеть ситуацию в целом, уже сейчас нет.

Так что есть все основания предполагать, что мы «не потеснимся», уступив место сверхмощному искусственному интеллекту, а просто сгинем, отупев до того, как он будет нами создан.

Вот она, альтернатива, очень в духе надписи на придорожном камне из русских народных сказок: создадим серхмощный искусственный интеллект, и он нас уничтожит, не создадим – отупеем от промежуточных результатов «цифрового прогресса» и станем обычным homo.

Искусственный интеллект не сказка, не иллюзия, и наше всеобщее оглупление – тоже медицинский факт. То есть он умнеет, а мы глупеем, и поэтому исход нашего с ним противостояния предсказуемо не в пользу человека, по крайней мере – не в пользу «Человека разумного».

Финал Четвёртой мировой, как бы он конкретно ни выглядел в реальности, понятен: на планете Земля появится новый гегемон.

Возможно, и даже скорее всего, он, этот новый искусственно-интеллектуальный гегемон, будет очень странный – точно не такой, каким его рисуют в голливудских фильмах. Думаю даже, что ему будет абсолютно плевать на его гегемонию, просто он окажется таковым по факту.

Во всём, о чём я рассказывал до сих пор, есть только одно «если»: если технологиям и правда свойствен экспоненциальный рост. Всё указывает на то, что да, свойствен. Но чёрт его знает – в конце концов, это только гипотеза. Сохраняется вероятность, что рост будет долгим и мучительным.

В этом случае Третья мировая война грозит сильно подзатянуться. Так что имеет смысл присмотреться к ней повнимательнее.

Линии разлома

«В последнее время “холодную войну” часто стали называть Третьей мировой, но мне это утверждение кажется избыточным преувеличением. Для настоящей мировой войны она была слишком вегетарианской.

Нынешняя война западной цивилизации с террором – дело другое, это поистине Третья мировая. Тут и жертв хоть отбавляй, и границы скоро сильно изменятся – по крайней мере, их внешний вид.

Чтобы представить себе, как будет выглядеть наше с вами недалёкое будущее, можно, например, съездить в Израиль и посмотреть на высоченные заборы, окружающие палестинские поселения.

Потребуется лишь немножко напрячь воображение и мысленно продлить эту стену от горизонта до горизонта. Такие заборы – из железа и бетона – скоро вырастут по периметру союзнических государств, объединённых в большие цивилизационные агрегации.

Когда-нибудь историки назовут это гигантское архитектурное сооружение, которое разделит цивилизованный мир и мир исламского фундаментализма, “Большой цивилизационной стеной”. И хотя дизайн её вряд ли закажут Филиппу Старку – строить будут второпях, Бэнкси, надо полагать, будет где развернуться.

Китайцы, кстати, тоже что-то построят, но им и не впервой, и у них тоже какая-никакая цивилизация, испокон веков, замечу, играющая в го.

Отдельных стран как таковых, то есть в нынешнем их виде, уже не будет. Не рентабельно. Возникнут своего рода “цивилизационные анклавы”: “Европейский”, “Североамериканский” и т. д. Россию, впрочем, вряд ли в какой-то из них возьмут. И не потому, что мы “не Европа”, или “люди второго сорта”, или “нам нельзя доверять”. Просто слишком велика территория, а заселена локально – придётся делать маленькие города-резервации с остатками культуры: “Москва”, “Питер”, “Екатеринбург”. Блокада 2.0.

Создатели ставшего культовым сериала “Ходячие мертвецы”, прячущие Рика и его отряд то в опустевшей федеральной тюрьме, то за огромным забором Александрии, не скрывают источников своего вдохновения.

Таким эти “новые романисты” видят наше с вами общее будущее – мол, мы, конечно, говорим о зомби-апокалипсисе, но все же понимают, о каких “зомби” идет речь…

В общем, приглядитесь ещё раз повнимательнее к палестинским поселениям – мы с вами скоро будем жить в таких же. Наверное, можно даже успеть психологически подготовиться», – конец цитаты.

Всё это я написал в «Снобе» ещё до того, как Трамп пообещал построить стену на границе с Мексикой (таким образом, на карте уже возник «предсказанный» мною – Североамериканский – цивилизационный анклав), и до того, например, как англичане объявили о том, что они будут строить стену в Кале, защищая Евротоннель от мигрантов, пытающихся попасть в Великобританию.

Впрочем, ничего хитрого в этом предсказании, конечно, нет: нарастающий изоляционизм – это вообще вещь вполне естественная в сложившейся ситуации (возьмите тот же Brexit, который вскоре после написания тех строк тоже случился). Всякое смешивание, приводящее изначально к гомогенизации структуры разной плотности, неизбежно заканчивается их разделением по слоям.

С другой стороны, это, конечно, самый глупейший из возможных сценариев, что делает его вроде бы и самым маловероятным (хотя по нынешним временам уже и не поймёшь)…

Мне он может прийти в голову лишь в качестве шутки, иллюстрирующей ту самую потребность по разделению-размежеванию, а семидесятилетнему Трампу, насколько я могу судить, – потому, что он совершенно не понимает, куда всё движется. Тотальный блок-чейн случится раньше, чем достроится его «Великая американская стена».

Честно говоря, всё это я написал тогда в шутку, чтобы хоть как-то отделить происходящее безобразие от того главного, что я считаю действительно важным. А важным я считаю, конечно, Четвёртую мировую войну, потому что там на кону стоит мой вид, а я, как человек с естественнонаучным, медицинским образованием, просто не могу это игнорировать.

То же, в чём на других уровнях своей организации упражняется наша с вами цивилизация, кажется мне достаточно глупым – имитация политики, тотальная псевдоэкономика, фантасмагоричная геополитика, межцерковное сутяжничество, идиотничающая политкорректность…

Всё это большой бутафорский иллюзион, порождаемый бесчисленными объяснительными моделями мудрецов из старой индийской притчи про слона – политологами, экономистами, социологами, футурологами и прочими гуманитариями, абсолютно не интересующимися человеческой природой как таковой.

Правда в том, что за каждой из этих «сфер» – внутренней и внешней политики, экономики, религиозных чувств и производства идеологий – стоят конкретные мальчики, которые играют во вполне конкретные мальчишеские игры.

Так случилось, что они, в силу своей неумной «пассионарности»^[45], забрались туда, куда они забрались, – то есть очень высоко. А там, в этой стратосфере, действуют свои правила: во-первых, вход рубль, выход – два, во-вторых, социальная психология ситуации с максимальными ставками.

Поведение всякого человека, как мы доподлинно теперь знаем, определяется ситуацией, а ситуация у этих «мальчиков» – врагу не пожелаешь! Такого уровня социального давления, который они испытывают на себе, больше нигде нет.

Реальность там такова, что отступить, не проиграв, в этой стратосфере нельзя никак. Ну и воюют на своих территориях и фронтах друг с другом, нам же рассказывают про «политику», «экономику», «геополитические интересы», «религию», «права человека» и т. д., при этом сами, конечно, ни во что из этого не верят.

Так что это и правда достаточно скучно, плюс старо как мир, точнее – как человек. Стоит вам воспользоваться знаниями социальной психологии, оказаться внутри этих игр, как всё быстро встаёт на свои места – ничего нового, просто чуть другой антураж, нежели в обычных социальных песочницах, ну и огромные ставки, разумеется. В остальном – всё та же социальная зоология.

Короче говоря, поначалу я от этих тем постарался и вовсе как-то отбрыкнуться, чтобы это не мешало думать о главной, на мой взгляд, проблеме. Но чем дальше я погружался в неё и интересующие меня аспекты Четвёртой мировой войны, тем больше я был вынужден обращать внимания на сценарии, по которым уже развивается Третья…

Всё дело в технологиях, которые, как мне видится, создают всё новые и новые линии разлома в нашем и так-то весьма нестабильном мире.

Если мы говорим о войне, то надо понимать, кто и с кем воюет. За что все и всегда воюют – это понятно: власть, деньги, ресурсы (в любой последовательности), а вот игроки могут меняться.

И сейчас именно тот случай: прежние игроки – старые политические элиты, – вынужденные реагировать на технологический прогресс, буквально «переобуваются в воздухе» и меняются до неузнаваемости, а новые игроки и становятся-то игроками именно благодаря своей причастности к технологиям (их в эту стратосферу буквально катапультировало из их легендарных гаражей).

Итак, для начала определим три главных точки напряжения.

• Старая, уже уходящая со сцены политическая элита на последнем витке своего существования получила вдруг второе дыхание в виде новых технологий – кибератаки, влияние на общественные процессы, генетическое оружие, технологический терроризм и т. д., и т. п.

Причём оказалось, что подключение этих новых «боевых средств» сильно меняет геометрию линий этого традиционного вроде бы геополитического разлома – вот, например, два важных новых приобретения.

✓ Парарелигиозное противостояние «христианских» и «мусульманских» стран. Это вроде бы и не новость, но никогда ещё между ними не было такой диспропорции в качестве жизни, а главное – раньше одни про других толком ничего не знали.

Теперь же интернет доступен, а там всё показывают… И вот «третий мир» это смотрит, причём завороженно, завидует, по-своему, а потом идёт убивать. Всё логично.

✓ Паракультурное противостояние «Запада» и «Востока» – тоже вроде бы не новость. Но никогда ещё в руках прежних тоталитарных и автократических режимов не было такого инструмента влияния на массы, как сейчас.

Конечно, о возможности тотального контроля граждан со стороны государства говорили давно. Но вряд ли кто-то мог подумать, что нечто подобное реально может иметь место в таких масштабах, как это сейчас происходит в Китае (о чём я расскажу чуть позже).

По идее, это не может не привести к новому витку напряжения между государствами или культурами, сохраняющими кастовое устройство разных типов и мастей, и теми государствами или культурами, где соответствующий, используя понятие Пьера Бурдье, габитус уже давно выветрился.

• Во-вторых, неожиданно схлестнулось всё «старое» со всем «новым». Благодаря технологиям человечество стремительно переезжает из реального мира в мир виртуальный (помните эту Курцвейловскую децентрализацию всего и вся?). И прежние хозяева жизни начинают волноваться, а новые закономерно входят во вкус.

Озираясь, словно бы очнувшись от забытья, эти «новые» начинают понимать, что они больше совсем не виртуальны, как раньше, а как раз реальнее реальных:

✓ их социально-политическое влияние огромно – вплоть до смещения политических режимов во время твиттер-революций;

✓ их экономическая мощь не знает пределов – они столпы новой экономической модели (не имеющей, правда, ничего общего с экономикой как таковой – это новая экономика, экономика влияния, а не денег);

✓ их технологическое преимущество распространяется на все сферы, меняя их до неузнаваемости, – скоро эти «новые» уничтожат Её Величество Сырьевую Экономику, а медицину преобразуют так, что она станет реальным Клондайком и ключом от рая Вечной Жизни;

✓ наконец, они – это новая инфраструктура старой жизни, её кровеносная, эндокринная и иммунная системы (последствия цифровизации производств и государственного управления переоценить трудно).

На этом фоне прежний король начинает выглядеть, мягко говоря, слегка голым и сильно фриковатым. Смеха ради попробуйте мысленно представить себе, как выглядит в целом нынешний мировой политический бомонд. Весьма удручающее, надо признать, зрелище.

При этом «новые» словно бы издеваются над ними в каком-то своём собственном пародийном шоу: Facebook всё больше похож на межконтинентальное государство, Apple прикидывается Церковью, Google – словно прежняя Британская империя, заставившая полмира говорить на своём языке.

И это только представители самого первого эшелона, разворачивающегося на наших глазах пародийного шоу. У «старых» буквально зубы от этого сводит, а новые начинают огрызаться и зубы как раз показывают весьма недвусмысленно.

• В-третьих, вся эта публика вместе взятая: «старые» и «новые» (в каком-то смысле, «новые старые») – элита, с одной стороны, и своего рода «пролетарий», даже можно сказать «всемирный интернационал» – с другой. Есть в этом противостоянии что-то марксовское (но точно не марксистское).

Это пиратствующая, а потому предельно несистемная оппозиция: сила вроде бы и противонаправленная, но играющая по каким-то совершенно своим правилам – так, словно бы в другом измерении.

Здесь изобретают свои валюты, оставляют в программируемых продуктах больших компаний уязвимости, пиратствуют на виртуальных морях… Короче говоря, «пассионарии», так сказать, новейшего разлива – можно сказать, смесь идеологического Маркса и беспринципного Джека Воробья^[46].

Все эти кластеры акторов – «Старые», «Новые» и «Пираты» – сами по себе неоднородны, не являются единой силой, воюют-воюют со всеми на своих собственных фронтах, и в каждом из этих миров все сходят с ума, но каждый в своей логике.

Поэтому любая попытка классификации этих игроков на какие-то отдельные группы заведомо неверна – в особенности из-за того, что их всех объединяют те самые технологии, но как бы на разных уровнях организации.

Эта система и протекающие в ней процессы не предполагают линейного описания. Хотелось бы сделать из них что-нибудь в 3D, а лучше даже в 4 или 5D, и чтобы разрешение сразу было 12К. Но, к сожалению, это пока лишь мечты, и нам придётся максимально упростить этот наш сложный интеллектуальный объект.

Поэтому посмотрим на это дело в такой последовательности:

• «СТАРЫЕ»: государственные машины, готовящиеся к полной цифрофизации своих граждан, с одной стороны, и к кибервойне с прочими такими машинами, с другой.

• «НОВЫЕ»: транснациональные корпорации в сфере IT, интернета и новых технологий (включая биотехнологии, конечно), стремящиеся к максимальной тотальной монополизации.

• «ПИРАТЫ»: массовые «партизанские отряды» – хакеров, криптовалютчиков, шифропанков, бойцов теневого интернета и т. д., и т. п., полностью лишённые какой-либо социальной ответственности (по крайней мере, в традиционном её понимании).

Понятно, что каждая из этих групп действует в собственных интересах, но участвуют они в одной большой Третьей мировой войне. Вполне возможно, что если они поднапрягутся, то до Четвёртой дело может и не дойти…

И да, конечно, будущее предсказать невозможно – оно предсказуемо полно сюрпризов. Всё, что нам остаётся, – это лишь наблюдать за развитием обозначившихся закономерностей и следить за активностью главных действующих лиц этой большой и, прямо скажу, слегка пугающей ролевой игры.

Бессилие и контроль

По старинке государства, конечно, будут пытаться противостоять друг другу: Израиль – Палестине, Сербия – Косово, Россия – США, Греция – Турции, Пакистан – Индии, суннитские – шиитским и так далее по списку.

Это уже что-то вроде национальной забавы для них – дерёмся, потому что друг другу не нравимся и старые обиды помним.

Но реальное, хоть и не столь очевидное противостояние будет нарастать по двум другим векторам, а не между конкретными государствами:

• мир бедных и мир богатых;

• мир автократический и мир демократический.

Используемые формулировки, конечно, так себе и очень условны. Но что в такой ситуации поделаешь? Приходится использовать подобные клише. И вот что при таком взгляде на положение вещей получается…

Когда мелкий хищник видит крупного, сочного, но обессилившего от старости и умирающего зверя, как он может отказать себе в удовольствии приблизить неизбежную трапезу?.. А «богатый» мир, под которым здесь понимаются прежде всего США и Европейский союз (хотя, конечно, можно брать и шире), – это, безусловно, лакомый кусок для мира «бедного».

Во-первых, «цивилизованные» государства просто не могут сопротивляться агрессивным точечным, как в случае единичных терактов, атакам.

Военной мощи, конечно, хватит, чтобы ковровыми бомбардировками стереть с лица земли условный Афганистан после того, как какой-нибудь выходец из этой страны неловко пырнёт ножом полицейского в Лондоне.

Но как-то неудобно, согласитесь. Там всё-таки дети, женщины, старики… И как же ценности общечеловеческие, персональная ответственность человека, а не его народа т. д.?

Во-вторых, «богатый мир» поражён демографическим недугом – он уже старый, а будет ещё более старым, детей – полторы штуки на семью, а то и меньше.

У «бедного мира» с этим проблем нет – детей навалом, их можно даже использовать как расходный материал. Вдруг, например, получится ребёночка отправить через Средиземное море лодочкой в жирную Европу, а он там, глядишь, и пристроится. Потом остальные за ним подтянутся – и заживём! Как план? Ну, может, конечно, с первого раза не получится… С другой стороны, запасные дети есть, ещё нарожаем.

И что прикажете западным правительствам в такой ситуации делать? Надо же с этим что-то делать! Ну, про стены мы уже поняли. Но как это своим гражданам, пропитанным идеологией прав человека, объяснить?

Да, случилось то, к чему прежние элиты готовы не были: традиционные СМИ больше не создают единой платформы для общественной дискуссии, не формируют информационную повестку.

Раньше-то легко можно было развернуть агитационную пропаганду в рамках какого-нибудь маккартизма и внушить своим гражданам страх перед коммунистической угрозой, Советским Союзом и прочей «красной заразой».

Но интернет, пришедший на смену прежним СМИ, работает принципиально иначе – это буквально гомон голосов. Как им управлять?..

Единственный способ – зафиксировать каждого в сети, привязать, так сказать, к его аккаунту. Уже сейчас, если вы хотите получить визу на въезд в США, у вас попросят доступ к вашему профилю в социальных сетях. Скоро этот профиль и вовсе станет нашим новым идентификационным номером, «личным делом». Но этого мало.

Да, вы что-то сами рассказываете о себе в сети, но вы ещё и что-то делаете в ней – заходите на какие-то сайты, с кем-то переписываетесь в мессенджерах и т. д. – и это куда интереснее! И именно в этой плоскости развернётся сейчас война между государственными машинами и транснациональными корпорациями, контролирующими интернет.

Уже в 1991 году (то есть ещё даже до введения WWW) небезызвестный Джо Байден предложил в Сенате законопроект, согласно которому поставщики электронных средств связи должны передавать правительству личные данные пользователей.

Так что, поверьте, проблемы Павла Дурова с его Telegram в Иране и России – это только верхушка айсберга, готового вот-вот перевернуться вверх тормашками. В действительности это касается всех «новеньких» – Цукербергов, Бринов, Гейтсов, Куков, et cetera.

Они считают эти данные своим ресурсом (и активно им пользуются, надо признать), но «старые» элиты совершенно не готовы к такому повороту дел. Когда вскрылась эта петрушка с Cambridge Analytica, несчастного Цукерберга затаскали по слушаниям: его вызвали и в американский Сенат, и в британский Парламент.

Он сначала отказывался – конечно, а чего ради? Мало ли что там эти пенсионеры хотят? Но в Сенат всё-таки прийти пришлось – краснеть, запинаться, мямлить и извиняться, и это только начало. «Старики» так просто не сдаются! Подрючат ещё молодёжь!

Надо сказать, что сенатские слушания, на которых выступил Марк Цукерберг, стали позором для самих сенаторов – большей дремучести в области новых технологий продемонстрировать общественности было нельзя…

Всё это, конечно, авторитета «старикам» не прибавляет совершенно, тем более что решились они нападать на святое – без Facebook мира, как известно, больше нет. В общем, грубый репутационный проигрыш.

Но не надо думать, что в ФБР, ЦРУ и разных администрациях сидят такие же друзья Альцгеймера, как и товарищи кабинетами повыше. Нет, конечно. И реальная стратегия, разумеется, делается здесь, а тут уж от этой «свободы слова», «прав» и «поправок» все измучились страшно.

И что у нас есть для таких случаев? Правильно: «угроза национальной безопасности»! Чем вам не вариант развития событий?..

Причём «угрозы» эти растут как на дрожжах. Хорошее прикрытие, которым государство может легко маскировать и оправдывать своё желание перехватить контроль за гражданами.

Выглядеть может всё очень даже пристойно.

• Во-первых, у нас идет Третья мировая война (с террором), халифат-малифат не дремлет – поэтому государству надо за всеми следить, а все должны быть очень этому рады.

• Во-вторых, если кто не в курсе, по всему миру шалят хакеры и кибер-террористы, так что будьте любезны… Руки на стол! Всем стоять, бояться!

• В-третьих, намечается кибервойна, а это значит, что можно уже ссылаться на «законы военного времени». США не так давно кибер-воевали с Ираном, сейчас с Россией (и это взаимно). А Китай и вовсе висит мрачной тенью над этой схваткой, угрожая всему миру разом. Впрочем, там ведь ещё Израиль есть, Великобритания, страны Персидского залива, решившие технологический прорыв совершить, и далее по списку.

Разве не является всё это поводом поприжать свободолюбивых бизнесменов Силиконовой и прочих долин к государственному ногтю? Где явки и пароли? То бишь сервера, оптоволоконные трассы, данные о пользователях и их активности в Сети? Каковы уязвимости нулевого уровня у операционных систем и прочего ПО?

Правда в том, что мы не знаем и сотой доли того, что происходит сейчас под ковром, где эти бульдоги схватились не на жизнь, а на смерть.

Да, когда одни стены растут, другие с неизбежностью разрушаются. Это своего рода диалектика выживания. И первая жертва на этом алтаре самосохранения – нежно любимое нами privacy, идея неприкосновенности частной жизни. То, что было нажито непосильным трудом, столетиями этических борений, падет. Но оплакивать эту утрату уже будет некому.

Посмотрите на основные тренды Instagram’a, на всю эту эксгибиционирующую обнажёнку.

Тим Кук может сколько угодно рьяно защищать неприкосновенность наших iPhon’oB от зловещего ФБР, но пока идёт эта война амбиций «больших мальчиков», пользователи соцсетей рассекречиваются сами – добровольно и чистосердечно.

То, что человеческая масса тупеет, чувствуя абсолютную свою безопасность, это нормально и естественно. Privacy важно не когда человеку есть что скрывать, privacy важно, когда ты понимаешь, что есть люди, которые могут тобой манипулировать, зная о тебе всё.

И это действительное privacy уже нами утрачено, и мы согласились на это добровольно, купив iPhone, загрузив приложение Facebook, открыв браузер Google, отовариваясь в Amazon или оплатив подписку на какой-нибудь Netflix.

Теперь вопрос лишь в том, кто его заполучит и кто сможет таким образом манипулировать нами на следующем витке этого безумия – IT-гиганты или всё-таки государственные машины.

Когда-то нас пугали оруэлловским «Большим Братом», но сейчас он уже кажется даже по-своему милым. Ну правда, «зловещее, наблюдающее за нашими мыслями и чувствами Супер-Эго!» – кого этим теперь напугаешь?

Нет, не страшно. Дети нынешнего «Большого Брата» боятся не того, что о них что-то узнают, а того, что о них не узнают. Теперь представьте, что к этой раскрепощённости добавятся гигантские стены по периметру цивилизационных анклавов и перманентный страх террористической угрозы.

Поверьте, все сами и с готовностью сдадут явки и пароли. А несговорчивые… Несговорчивых просто выдворят за Стену – «по закону военного времени». Всякие же оппортунистические Telegram’bi в этом новом дивном мире просто запретят – в целях «цивилизационной безопасности».

Цифровая хунта

Сэр Тим Бернерс-Ли известен всему миру как создатель интернета.

С 1984 года он работал в ЦЕРНЕ над проектом по созданию распределённых систем для сбора научных данных. Дело было хлопотное и небыстрое. В 1989 году ему в голову пришла блестящая идея, как всё это можно было бы лучшим образом обустроить…

Он сформулировал своё видение в докладной записке «Разработка системы управления информацией» на имя своего босса – Майкла Сендалла, а 13 марта на этой бумаге появилась его резолюция: «Расплывчато, но интересно». Так, собственно, и возник интернет.

Впрочем, сейчас сэр Бернерс-Ли всё больше сокрушается по поводу дальнейшей судьбы своего изобретения. Его пугает невероятный удельный вес «нескольких доминирующих технических платформ», сосредоточенных в руках узкого круга лиц. И лица эти всем нам с вами хорошо известны: их ещё называют «большой четвёркой» – Google, Apple, Facebook, Amazon^[48].

«Эти доминирующие платформы способны создавать барьеры для конкурентов, – написал Бернерс-Ли в The Guardian. – Они приобретают лучшие стартапы, покупают новые инновации и нанимают лучших специалистов в отрасли. Добавьте к этому конкурентное преимущество, которое им дают пользовательские данные, – и мы можем ожидать, что следующие 20 лет будут намного менее инновационными, чем последние».

В заключение своей пылкой речи сэр Бернерс-Ли даже призывает всех нас к активному «социальному контролю», что выглядит, по-своему, даже мило.

Я прямо вижу эту картину: люди в вещах, купленных на Amazon, выходят из своих профилей в Facebook, открытых на телефоне Apple, чтобы найти по Google Maps, куда бы им идти ответственно проконтролировать… Только вот что?

Ещё, кстати, тот же Бернерс-Ли предлагает создать новую интернет-сеть поверх старой – семантическую (не WWW, a GGG), которая будет с нами разговаривать на человеческом языке и также понимать наши тексты. В общем, старость не радость. И понятно, почему те, на кого он так осерчал, с некоторой неловкостью, так сказать, покручивают пальцем у виска.

В отличие от Бернерса-Ли, у них-то всё в порядке, им совершенно не нужна никакая новая сложносочинённая сеть, когда есть старая – существующая – и она прекрасно справляется с теми задачами, которые перед ней поставлены. А задачи это простые – всё виртуализировать и оставить у себя, у тех самых «доминирующих платформ», у того самого Big Tech.

Впрочем, если мы внимательно приглядимся, то и по сути, и по посылу «семантическая сеть» Тима Бернерса-Ли чем-то очень напоминает «открытый искусственный интеллект» Илона Маска, которого тоже, как вы могли заметить, нет в указанном списке «влияния».

Эти двое, если, конечно, им верить, боятся примерно того же, чего боятся Джулиан Ассанж и Эдвард Сноуден: контроля со стороны «Большого Брата». Только вот если Ассанж со Сноуденом уверены, что контролировать нас будет государство, то Бернерс-Ли и Маск подозревают, что скоро контролировать нас начнёт сама сеть.

Илон Маск не политик и не общественный деятель, он технолог и бизнесмен. Как технолог, он прекрасно понимает, что будущее за сверхумным искусственным интеллектом, а как бизнесмен, знает, что раскидистая клюква растёт там, где денег бесконечное количество, а это, в частности, интернет-бизнес и всё тот же самый пресловутый госзаказ.

Ассанжу, как известно, влетело за то, что он придал огласке документы Пентагона, которые тот вряд ли хотел рассекречивать. А вот за что пострадал Сноуден?

Товарищ Эдвард рассказал мировой общественности про секретную программу Агентства национальной безопасности США под названием PRISM, в рамках которой АНБ получало негласный доступ к личным данным пользователей Microsoft, Yahoo, Google, Facebook, Skype, YouTube, Apple и др.

На самом деле речь шла о совершенно феноменальном сговоре между лидерами спецслужб и первыми лицами Силиконовой долины: вы ведёте для нас слежку, а мы вас не трогаем.

Сидение Сноудена в московском аэропорту увенчалось успехом: интернет-гиганты поспешили дистанцироваться от АНБ и демонстративно ввели дополнительные системы шифрования; компания Acxiom, которая почти официально создавала для АНБ «личные дела» американцев, исследуя их интернет-трафик, была заклеймена позором, а Барак Обама призвал правительство «взять на себя инициативу» и «покончить с цифровой слежкой».

Всё это выглядит очень круто – нашу личную жизнь решили оставить нам, и мы вроде как возрадовались. Никто, кажется, не понял, какая чудовищная мина залегла в тот самый момент под здание нашей с вами цивилизации…

Когда у Эрика Шмидта – прежнего главного исполнительного директора Google – спросили, не планирует ли Google превратиться в государство и вести себя на манер правительства, он ответил: «Нет, мы не стремимся. У государства слишком много сложных проблем».

И значит это буквально следующее: «Да, мы будем государством, только вот за пособиями, образованием, правопорядком, сбором налогов и прочей ерундой – это не к нам, а к тем, кто почему-то продолжает себя считать государствами».

Google, Apple, Facebookyace ощущают своё мировое господство, но раньше им приходилось мириться с государственным контролем (хотя бы и со стороны одних США), а теперь, после выходки Сноудена, они вполне могут сказать тем же США: извините, мы должны быть полностью независимы.

В шахматах есть такое понятие – цугцванг (это когда любой следующий ход игрока только ухудшает его позицию). Так вот, действия Сноудена продемонстрировали, что все мы находимся в том самом цифровом цугцванге.

Вся информация, которую мы сами о себе оставляем в Сети, – это товар. Интернет-гиганты собирают её, перерабатывают и продают. Они делали это, делают и будут делать – такова суть их бизнеса.

Только раньше им приходилось делиться этой информацией с правительствами, а теперь у них есть легальное основание для отказа – они ведь как бы охраняют наши персональные данные. И ключевое слово здесь – «как бы», потому что они её не охраняют, они ею пользуются. И теперь будут пользоваться «в одно лицо», так сказать.

Всё до банальности просто: если даже не сверхумный, а хоть сколько-то сообразительный искусственный интеллект первым окажется в руках Google или Facebook, то все наши с вами персональные данные (которые у этих компаний уже есть и продолжают расти как на дрожжах) превратятся в идеальный способ управления нашим поведением.

Социолог Зейнеп Тюфекчи показывает, что социальные сети уже сейчас обладают способностью «формировать нашу личность и наши слабые места», «понуждают и формируют наши мысли, желания и мечты». Нужно лишь слегка усиленный движок искусственного интеллекта – и предсказание Олдоса Хаксли о производстве «нужных обществу людей» станет явью.

Уже сейчас так называемой «когнитивной архитектурой» обладают такие компании, как AGIRI, Cycorp, Google, IBM, Novamente, Numenta, Self-Aware Systems, Vicarious Systems, и список можно продолжать.

Плюс вездесущий государственный DARPA – «Агентство по перспективным оборонным научно-исследовательским разработкам», – которому мы уже обязаны зарождению тысяч цифровых технологий, включая, например, интернет и крошку Siri.

Да, это ещё не тот искусственный интеллект, который способен справиться с «тестом Тьюринга», но, может быть, и нет в этом особой нужды? Разве не тот же эффект будет достигнут, если искусственный интеллект, так и не став полноценной личностью, уничтожит наши?

Выдающийся учёный, профессор социологии Нью-Йоркского университета и Лондонской школы экономики Ричард Сеннет говорит: «Пришло время разбить Google на куски», а для этого «нам нужны отважные политики». И всё вроде бы логично – необходимо разрушить формирующиеся гигантские интернет-монополии до того, как они начали формировать нас.

Но если эти монополии смогут в скором времени управлять нашим поведением (по факту, это и так уже происходит), то каким, как вы думаете, будет исход мировой войны этих «отважных политиков» с этими новыми виртуальными правителями?

Или кто-то полагает, что Брин или Цукерберг, предусмотрительно залепивший камеру на своём личном ноуте светонепроницаемым скотчем^[49], отдадут власть просто так, без боя, за здорово живёшь? Отдадут и ещё раскланяются? Побойтесь бога! Только не эти парни. Точно нет.

Интернет-бизнес, IT-бизнес, бизнес новых технологий – это, конечно, не бизнес. Это новые хозяева планеты. Они взяли под контроль нас с вами – мирового потребителя и мировой электорат (не нужно думать, что мы интересуем кого-то в каком-то другом качестве).

Они смотрят на государственных чиновников – от Президента до последнего руководителя какой-нибудь захудалой контрольной службы – как на безнадёжно архаичных, интеллектуально отсталых и при этом предельно надоедливых мух.

– Кто все эти люди?! – недоумённо спрашивают себя владельцы миллиардных армий пользователей. – Кем они себя воображают?!

Бизнес, вообще говоря, ненавидит любые границы, а эти парни и вовсе плевать на них хотели. Зачем им все эти бесчисленные местечковые инструкции и запреты, бесконечные претензии по налогам и штрафы за монополизм? Что это вообще всё такое?! Да, они мирятся пока со старым миропорядком. Но это лишь вопрос времени.

Пара-тройка новых технологических прорывов (таких как создание, например, квантового компьютера, который обрушит действующие принципы шифрования данных) – и ситуация изменится кардинально.

Дело за малым. Но ведь и сейчас уже никто не сможет отказаться от интернета и его сервисов. Сами государственные машины без этого работать не смогут. То есть интернет отключить нельзя, а если его нельзя отключить – у кого власть?

Пока со стороны этих новых транснациональных сверхдержав возможны мелкие уступки прежним государственным институтам, секретное сотрудничество с правительствами в рамках нарастающих кибервойн, игра в соблюдение правил и прочее «водное перемирие».

Но не надо думать, что это будет продолжаться вечно. Чего ради?

Вот как может выглядеть мир будущего после завершения Третьей мировой войны – всех со всеми – за власть над миром.

Представим себе возникновение какого-то – пусть и очень «глупого», не имеющего «личности» и «самосознания», но, правда, способного к систематизации различных технологических систем в единый организм – искусственного интеллекта.

Непосредственно перед тем, как вся технологическая инфраструктура нашей планеты будет этим искусственным интеллектом охвачена, лидеры цифровой индустрии, решив, наконец, договориться, насыпают в нейтральных водах Тихого океана большой остров и застраивают его под себя с максимальным комфортом.

В условный день «X» они переезжают на этот остров, а все жители планеты, привычно открыв по утру свои гаджеты, первым делом обнаруживают там видеообращение самопровозглашённого мирового правительства: мол, дорогие телезрители, хотим вас поздравить: с этого момента можете смело плевать на все свои никчёмные правительства, теперь миром управляем мы, целуем!

«Никчёмные правительства» тут же, понятное дело, хватаются за «красные кнопки», чтобы вдарить по этому острову и кучке обезумевших самозванцев! Конечно, у правительств и авианосцы есть мощные, и подводные лодки с ракетами на борту! Мол, не потерпим такого безобразия!

Но «красные кнопки» не отвечают, и, вообще, всё как-то странно работает. А тем, кто с первого раза не понял, что произошло, и продолжает бузить, приходит личное сообщение – сразу на все мессенджеры, почты, вместо запрошенных сайтов и даже при открытии телефонной книжки в том самом телефоне: «Сопротивление бесполезно. Будете плохо себя вести – что-нибудь вам сломаем и лечить не будем. С искренним уважением, Ваши Правители. Целуем нежно, в обе щёки! Не балуйтесь!»

Впрочем, про остров в нейтральных водах я загнул. Зачем им остров? Хотя… Его планы уже публиковали в сети – можете полюбопытствовать. Проект разработан основателем PayPal Питером Тилем и называется «Плавающий город».

Цель проекта, как заявляется, – «создание независимой нации, не привязанной к конкретной материковой территории и имеющей собственные законы».

Благодаря современным технологиям город будет полностью независим от любой внешней инфраструктуры, а пятидесятиметровая стена защитит его от океанских волн.

Проект будет реализован к… 2022 году.

Пираты и партизаны

Следите за кибератаками? Россия, США, Китай, объекты стратегического назначения и несчастная Хиллари… Кажется, всё, о чём так долго говорили футурологи, свершилось!

В нашем насквозь технологизированном мире боевые действия перемещаются с реальных полей сражений на поля виртуальные – за серверы, базы данных, коды доступа и т. д. Завладейте компьютерной инфраструктурой противника – и он повержен. Ни одно современное государство-Голиаф не выдержит удара этой пращи.

Таким выглядит наш новый Армагеддон, но это лишь обман зрения. Кибер-война, о которой нас начинают потихоньку информировать, всё ещё продолжает оставаться геополитической.

Как и прежде, предполагается, что США будут воевать против России, Россия – против США, а Китай – вместе со всеми против всех. Правда же в том, что такая война никому больше не нужна (разве что Китаю, но у него совсем своя логика – нам не понять). Это война престарелых (по крайней мере, интеллектуально) генералов, которые, как говаривала одна мудрая графиня, «слишком долго жили в Советском Союзе», или, если угодно, в состоянии «Холодной войны».

Всё изменилось. Да, на последних президентских выборах в США любимец американских студентов – Берни Сандерс – проиграл Хиллари Клинтон, чтобы она затем проиграла Дональду Трампу. Но к следующим выборам – и эти студенты вырастут, и новые появятся, так что какой-нибудь демагог-Сандерс точно победит.

Про наших студентов я и вовсе молчу – если они и хотят завоевать мир, то только личной биографией и где-нибудь в приличном заграничном месте. Жители глобального сетевого пространства не знают и не хотят знать геополитики. Плевать на неё хотели и транснациональные корпорации, а в особенности – Google, Apple, Microsoft и Facebook.

Самой этой сущности – «геополитика» – больше нет. Остались только цифра и человек – два реальных конкурента за мировое господство, и Четвёртая мировая война развернётся между ними.

Но, с учётом торжествующего политического мракобесия, центробежных сил, разрушающих существующие структуры управления и общего уровня тотального идиотизма, до Четвёртой мировой мы рискуем просто не добежать, завязнув в Третьей.

Обнаружив в своих руках «цифровое оружие», все, прямо скажем, немного посходили с ума. Мы наблюдаем настоящую технологическую гонку, в которой, судя по всему, победитель получит всё.

При этом очевидно, что шансов у отдельно взятых персонажей – один на миллион, а то и на сто миллионов. Это естественным образом вызывает у разной публики разные реакции – от «не добегу, так согреюсь», до «не доставайся же ты никому!».

К сожалению, подобные мысли приходят в голову не только отдельным глумливым персонажам, но и государственным машинам как таковым, спецслужбам и отдельным инноваторам внутри них.

Когда мы слышим что-то про кибератаки, мы представляем себе опустошённую кредитную карту или взломанную электронную почту, но, поверьте, это сущая ерунда. Да, киберпреступность – это уже триллионная индустрия, и её обороты давно превышают доходы наркокартелей, но военные кибератаки – это совсем другое дело.

В военных целях активно разрабатывается кибероружие, направленное на инфраструктурные объекты, – энергосистема, транспортная сеть, финансовый сектор и др., – а всё это куда серьёзнее жалкой кредитки или личной переписки.

Представьте, что враг лишает нас электричества, парализует транспорт и обвально девальвирует нашу валюту (например, эмитируя на банковские счета граждан неограниченные суммы денег). И дело не в том, что без электричества, например, мы не сможем посмотреть киношку на ночь, а в том, что из-за той самой технологизации нашей жизни за год от голода и болезней умрет девять из десяти человек.

Мы лишимся воды, тепла, канализации, медицинской помощи, остановится производство пищевой продукции, горючих веществ и т. д. Всё будет настолько плохо, что даже зомби не понадобятся. Это ведь только кажется, что риск минимальный, – мол, как-то же мы справлялись с отключением света в нашей квартире, и никто не умер! Но мы никогда не справлялись с отключением всего электричества у всех сразу.

Но кому под силу такая задача – лишить целую страну всей её инфраструктуры?! Вопрос, на самом деле, неверный и даже глупый. Правильный вопрос – как сохранить хоть что-то в мире в работоспособном состоянии после того, как соответствующее кибероружие «выстрелит»?

Именно с этой проблемой и столкнулись наши американо-израильские коллеги, ударив компьютерным червём Stuxnet по иранским ядерным реакторам. Это был первый случай в истории, когда использовался не просто вирус-шпион – штука теперь уже совершенно тривиальная, а специальная программа, заточенная на физическое уничтожение реальных производственных агрегатов.

Реконструкция этой истории, чуть не закончившейся мировой катастрофой, выглядит следующим образом. Вероятно, некий шпион-диверсант пронёс на охраняемую территорию иранского завода в Натанзе флешку с Stuxnet и запустил вирус в локальную компьютерную сеть. Для входа в систему червю требовался только Windows, чьи так называемые «уязвимости нулевого уровня» он, судя по всему, знал.

Вот почему, кстати говоря, не стоит удивляться требованиям Ангелы Меркель не гонять европейский интернет-трафик через американские серверы, а также отечественной инициативе по созданию собственной операционной системы (про трафик я уже и вовсе молчу). Да, всё это абсолютно бессмысленно, нереалистично и мёртвому припарка, но сама по себе эта политическая паника, поверьте, отнюдь не беспочвенна.

Впрочем, вернёмся в Иран. Попав во внутреннюю сеть, этот виртуальный зверёк обнаружил контроллер Siemens S7-300, работающий на газовой центрифуге по обогащению урана, – и спектакль начался.

Вирус определил программы, которые сигнализируют сотрудникам предприятия о состоянии центрифуг, и перекодировал их. Теперь работники завода уже не могли видеть, что происходит с центрифугами на самом деле, – им казалось, что реактор работает идеально.

Надев на операторов эти своеобразные очки-шоры, вирус принялся жечь центрифуги – он то разгонял их, то резко замедлял, и оборудование выходило из строя. Всего за десять месяцев Stuxnet сжёг таким образом от 1000 до 2000 центрифуг.

Ирония в том, что именно жертва одного из самих громких публичных кибер-скандалов – тогдашняя госсекретарь США Хиллари Клинтон – победоносно заявила в 2011 году, что проект по разработке вируса Stuxnet оказался успешным и иранская ядерная программа отброшена на годы.

Остаётся только догадываться, что происходит в голове у этой женщины, если она, зная всё это, решается пользоваться личной почтой для рабочей переписки… Кажется, политики совершенно не соображают, о чём говорят и с чем имеют дело. Им уже давно пора переходить на молокопись и почтовых голубей!

Впрочем, история Stuxnet на этом не заканчивается. Напротив, начинается самое интересное… Никому и в голову не пришло, что этот киберзверь не удержится в клетке! Через интернет вирус покинул пределы завода в Натанзе и заразил тысячи компьютеров по всему миру.

Нас тогда спасло только то, что Stuxnet всюду искал контроллер Siemens S7-300, а таковых на его пути больше не обнаружилось. Счастливая случайность, надо признать (ну, или у Siemens существовала какая-то предварительная договорённость с ЦРУ).

А теперь представим – следите за руками (это важно!), – что какой-нибудь аутизированный и закомплексованный хакер ловит такую штуку в интернете, слегка её модифицирует и настраивает на уничтожение любого промышленного процесса.

На самом деле в этом сценарии нет ничего сложного, а тем более невероятного. Допустим, некое правительство, «мира во всём мире» ради, убеждает какой-нибудь Microsoft поделиться «уязвимостью нулевого уровня» его новой операционной системы.

В расчёте на эту уязвимость и создаётся вирус военного назначения, который используется против какого-нибудь «кровавого режима».

Параллельно всё это безобразие оказывается в интернете и, соответственно, в руках каких-нибудь безызвестных и скучающих программистов, которые решают «немного пошалить». Они блокируют программу самоуничтожения вируса и выпускают проапгрейденного хищника на волю.

Это реально. Абсолютно. Тот же Stuxnet в том же самом 2010 году был именно так – случайно — обнаружен в интернете неизвестным до той поры белорусским программистом Сергеем Уласенем. Благодаря своей находке Сергей, конечно, обрёл известность и его забрали в «Лабораторию Касперского».

Но что, если бы у него не было амбиции работать в этой компании? Представим себе, что Сергей оказался человеком менее человеколюбивым и более амбициозным – как Герострат, например. Или и вовсе слегка сумасшедшим, как герой фанатически безумного киберсериала «Mr. Robot»?

Вполне возможно, что мы бы с вами уже так мило не беседовали за книжечкой про «Четвёртую мировую» и вообще бы уже не беседовали никак и никогда. Ведь атомная бомба Оппенгеймера выглядит на фоне этого кибермонстра не страшнее кремлёвской Царь-Пушки.

Через год после победоносного заявления Хиллари бывший глава подразделения киберзащиты министерства внутренней безопасности США Шон Макгурк оказался на программе «60 минут» канала CBS, где ведущий прямо спросил его о Stuxnet: «Эту штуку могли использовать против нас?»

Видимо, в ту секунду Шон сильно пожалел, что решился прийти на это шоу… Его ответом было сдавленное «да». Вся фактическая инфраструктура нашей насквозь технологи-зированной цивилизации уже находилась под ударом, который вряд ли смогла бы выдержать. Так что пока политики и генералы играют в свою, как им кажется, кибергеополитику, мы с вами безмятежно прогуливаемся по сафари-парку.

И тут нельзя отмахнуться, что, мол, с безумцами-хакерами ничего не поделаешь, а от случайностей не застрахуешься. Одно дело, когда безумец разгуливает с мачете по Лондону или с винтовкой по гей-клубу в Орландо, и совсем другое – тотальная уязвимость инфраструктуры.

И где гарантия, что этим безумцем окажется какой-нибудь безвестный хакер, а, например, не Сергей Михайлович Брин? Кризис среднего возраста там, какая-нибудь мизантропия, развившаяся на почве корпоративных войн и проснувшейся эндогенной депрессии… Почему нет?

Цифровые партизаны, будучи анархистами до мозга костей, действуя несистемно, разрозненно и асоциально, – лишь вишенка на этом безумном торте. Но вишенка с крепкой косточкой.

Вообще говоря, теневой интернет полностью меняет психологию его завсегдатаев. Там, где государства и транснациональные корпорации ещё сутяжничают из-за границ, эти парни границ просто не видят.

Они прекрасно знают, что у представителей двух других лагерей рыльце в пушку по самую макушку. Поэтому прекрасный публичный имидж соответствующей публики раздражает «бойцов Сопротивления» сильнее, чем быка красная тряпка.

Ассанджи, Сноудены, Мэннинги, Сатоси Накомото, Маккинноны и т. д., и т. п. – лишь публичные герои этой необъявленной войны с сильными мира сего. Они предают огласке тёмные правительственные делишки, создают независимую от правительств криптовалюту, взламывают базы с военными секретами и реализуют другие «социально значимые проекты».

Но любой анархизм хоть и начинается, как правило, с красивой идеи о полной свободе и всеобщем либерализме, заканчивается почти всегда одинаково – разгульным бандитизмом имени Нестора Ивановича Махно.

Идеалисты-идеологи создают новые технические решения, проламывают бреши в существующем миропорядке, создают прецедент немеркнущей славы, а им на смену приходят лишённые всякой идеологии любители «красивой жизни». И начинается «любо, братцы, любо!».

Это, знаете, как младореформаторы во главе с Егором Тимуровичем: они осуществили героическую и необходимую стране либерализацию рынка, а улицы наполнились бандитами в малиновых пиджаках. Точно так же Ассандж со Сноуденом, с одной стороны, и какой-нибудь Шалтай-Болтай и создатели WannaCry – с другой. Вроде бы про одно и то же, но две большие разницы.

Хакеры всех мастей, киберпреступность, супертрояны-шантажисты – третья сила и пятая колонна Третьей мировой войны. И в каком месте эта психопатическая пассионарность рванёт по принципу «эффекта бабочки», предсказать невозможно. Но потенциал есть.

Будущее обрушивается на нас стремительно. То, что ещё вчера казалось лишь фантастикой, сегодня – реальность. Искусственный интеллект, автотранспорт без водителей, кибертерроризм, блокировка мессенджеров… Когда «цифровая болезнь» поражает мировых лидеров, происходящее касается уже каждого из нас.

Приведённые мною в этой главе книги сценарии Третьей мировой, конечно, не исчерпывают всей палитры возможностей. Но все они, надо признать, какие-то унизительные. Трудно представить, что о столь бесславной кончине нынешней цивилизации наши далёкие потомки сложат красивую легенду.

Да, Четвёртая мировая может стать войной между умными машинами и людьми-героями. Но окажемся ли мы сами достаточно умными, чтобы добежать до того момента, когда машины обретут свой ум и наш грядущий Армагеддон будет действительно прекрасен?

Меня частенько ругают, что я, мол, рисую мрачные перспективы и не предлагаю никакого выхода. Но выход, как мне представляется, напрашивается сам собой: всё, что мы должны сейчас делать (и не только сейчас), – это начать думать.

Понять механизмы собственного мышления и заставить свой мозг работать: избавиться от иллюзий, увидеть закономерности, определяющие действительную реальность, и начать действовать. Конечно, думающих всегда меньшинство. Но именно от этого меньшинства и зависит будущее всего человечества.