Стеклянная клетка. Автоматизация и мы.

Посвящается Энн.

Никто Не увидит И не поправит, никто не сядет за руль.
Уильям Карлос Уильямс.

Введение. Готовность к действию.

4 января 2013 года, в первую пятницу нового года, в мертвый сезон праздничной недели, Федеральное авиационное агентство (Federal Aviation Administration) опубликовало короткое уведомление без заголовка, уместившееся на одной страничке печатного текста, – предупреждение о безопасности работы летного состава и диспетчеров. Его содержание было скупым и загадочным. Помимо того что его поместили на официальном сайте Агентства, оно было разослано во все авиакомпании США, всем авиационным перевозчикам. «Данное уведомление, – говорилось в документе, – призывает летчиков во всех случаях, когда это уместно, пользоваться ручным управлением воздушными судами». Дело в том, что специалисты Агентства, исследовав причины авиакатастроф, доклады о неисправностях самолетов и проведя наблюдения за поведением экипажа в кабинах самолетов, пришли к выводу: летчики стали очень зависимыми от автопилотов и прочих компьютеризированных систем управления полетами. «Злоупотребление бортовой автоматикой, – предостерегало Агентство, – может привести к утрате способности летчиков быстро реагировать на нештатные ситуации, в которые может попасть воздушное судно». Другими словами, излишняя зависимость от автоматики угрожает самолету и его пассажирам. Уведомление заканчивалось рекомендациями авиакомпаниям изменить отношение к процедурам полетов и проинструктировать пилотов о необходимости периодически управлять самолетами вручную, не полагаясь целиком и полностью на бортовую аппаратуру и автопилот [1]. Книга, которую вы держите в руках, посвящена автоматизации и широкому использованию компьютеров в тех делах, которые мы раньше выполняли сами. Она не о технологии, не об экономических преимуществах или недостатках автоматизации, не о будущих роботах, киборгах и всяческих модных гаджетах (хотя в книге пойдет речь и об этом). В ней рассказывается о человеческом факторе и его последствиях в период повальной автоматизации. Летчики оказались на гребне волны, которая уже захлестывает нас. Мы ждем от компьютеров, что они выполнят за нас большую часть дел – как на работе, так и вне ее – и избавят от утомительной и серой рутины будней. Сегодня, когда нам надо что-нибудь решить, мы либо садимся к компьютеру, либо раскрываем ноутбук, либо достаем из кармана смартфон, либо крепим на лоб или запястье приспособление, соединенное с интернетом. Мы разрабатываем массу прикладных программ, советуемся с экранами, получаем советы от компьютерных голосовых консультантов. Мы целиком и полностью полагаемся на мудрость алгоритмов.

Компьютеризация и автоматизация облегчают нашу жизнь, избавляют от утомительного монотонного труда. С помощью компьютеров и автоматов мы можем выполнять работу быстрее, с меньшими затратами сил, а также делать вещи, которые не могли выполнить раньше. Но автоматизация дает и другие, более глубокие и скрытые эффекты, и они, как убедились авиаторы, не всегда являются благоприятными. Автоматизация зачастую ставит крест на творчестве. Она может сделать нас объектами манипулирования различными структурами. Компьютеры стали вечными спутниками человека, близкими знакомыми, услужливыми помощниками, и поэтому настала пора пристально взглянуть на них и понять, как они изменяют нашу деятельность и нас самих.

Глава первая. Пассажиры.

Попытка овладеть механической коробкой передач стала для меня самым ярким и унизительным эпизодом подросткового возраста. Водительские права я получил в начале 1975 года, вскоре после того, как мне исполнилось 16. В сентябре 1976 года вместе с группой одноклассников я окончил курсы вождения. Автомобиль инструктора, на котором мы овладевали премудрости езды на дорогах и сдавали экзамены в страшном департаменте транспортных средств, был снабжен автоматической коробкой передач. Нажимаешь педаль газа, крутишь руль и периодически давишь на тормоз. Было, правда, несколько сложных маневров: разворот в узком месте, езда задним ходом и параллельная парковка. Но поскольку мы делали подобное бесчисленное множество раз между столбиками на школьном дворе, то все эти фокусы превратились в привычную и нетрудную работу.

Получив права, я был готов сесть за руль и ехать. Существовало, правда, одно, но очень важное препятствие. Единственным доступным мне автомобилем был седан Subaru с механической коробкой передач. Мой отец, если быть честным, не являл собой образец опекающего родителя. Однажды субботним утром он привел меня в гараж, уселся за руль и усадил меня на пассажирское сиденье. Положив мою левую ладонь на рычаг переключения передач, он принялся двигать моей рукой: «Это первая передача, – короткая пауза. – Вторая, – пауза. – Третья, – пауза. – Четвертая, – еще одна короткая пауза. – Теперь сюда». Он едва не вывихнул мне кисть, переведя рычаг в положение заднего хода. Потом отец посмотрел на меня, оценивая, насколько хорошо я усвоил урок. Я беспомощно кивнул. «А это, – он переместил мою руку с рычагом в центр и слегка помотал взад-вперед, – нейтральное положение». Отец дал мне несколько советов насчет того, в каких ситуациях пользоваться теми или иными передачами и каким скоростям они соответствуют, кивком указал на прижатую к полу педаль сцепления: «При переключении передач сцепление должно быть отжато».

После этого я не один раз устраивал клоунаду в маленьком городке Новой Англии, где мы тогда жили. Машина глохла, пока я выбирал нужное положение рукоятки коробки передач, или срывалась с места, когда я по неосторожности не вовремя отпускал сцепление. Я регулярно застревал перед красным сигналом светофора, а потом застревал еще и на середине перекрестка. Холмы и спуски стали для меня подлинным проклятьем. Я отпускал сцепление либо слишком быстро, либо слишком медленно. На уклонах машина начинала катиться назад, пока не упиралась бампером в стоявший сзади автомобиль. Гудели клаксоны, сыпались проклятья, птицы в страхе разлетались от меня в разные стороны. Мое положение стократно усугублялось тем, что Subaru была ярко-желтой, как детский плащик или возбужденный самец-щегол. Своим цветом машина просто притягивала взоры, выкрутасы и толчки автомобиля было невозможно не заметить.

Так называемые друзья и не думали выказывать сочувствие. Моя безнадежная борьба с коробкой передач и сцеплением была для них неиссякаемым источником громких издевательских шуток. «Намели мне фунт муки!» – радостно кричал один из них с заднего сиденья, когда при очередном переключении зубцы шестеренок яростно скрежетали друг об друга. «Какой мягкий ход!» – хихикал другой, когда двигатель чихал и глох. Мне очень часто приходилось слышать в свой адрес что-то вроде «придурок!». Я подозревал, что неприятности с коробкой передач служили предметом насмешек, которыми приятели осыпали меня за спиной. Мое мужское достоинство – если учесть, что мне только исполнилось 16, – было глубоко задето и травмировано.

Но я не сдавался. Впрочем, был ли у меня выбор? И через пару недель дело постепенно пошло на лад. Коробка передач успокоилась и стала более податливой. Руки и ноги перестали соперничать и перешли к слаженному сотрудничеству. Вскоре я переключал передачи, не задумываясь. Все происходило само собой. Машина больше не глохла и не дергалась вперед, спокойно проезжая холмы и перекрестки. Мы с машиной превратились в команду. Втайне я гордился своим достижением.

Но я все-таки жаждал сесть за руль машины с автоматом. Автомобили с механической коробкой передач тогда еще не стали антикварной редкостью – во всяком случае, малолитражки и прочая рухлядь, на которой ездила молодежь. Но тем не менее они уже считались устаревшими и вышедшими из моды, казались вчерашним днем. Кто захочет ездить на механике, если можно на автомате? Это все равно что мыть посуду руками, когда существуют посудомоечные машины. Так получилось, что мне не пришлось долго ждать исполнения вожделенной мечты. Через два года после того, как я получил права, я вдребезги разбил Subaru в ночном ДТП и вскоре сел за руль подержанного кремового двухдверного Ford Pinto. Машина была дрянь, некоторые считают, что Pinto – худший американский автомобиль ХХ века, но для меня все ее недостатки искупались автоматической коробкой передач.

Я как будто заново родился. Моя левая нога, освобожденная от необходимости отжимать сцепление, превратилась в бездельничающий отросток. Иногда, когда я закладывал виражи, из моего авто звучали песни Чарли Уотса или гремел Джон Бонэм (мой Pinto был оборудован восьмидорожечным магнитофоном). Это был писк моды того времени. Правда, большую часть времени это чудо тихо дремало под торпедой. Правую руку я теперь использовал исключительно для того, чтобы держать стакан с прохладительными напитками. Я чувствовал себя раскрепощенным и современным. Я был свободен.

Однако счастье длилось недолго. Удовольствие от ничегонеделанья было вполне реальным, но скоро исчезло. Вместо этого возобладало иное чувство – скука. Я не признавался в этом даже самому себе, но мне не хватало коробки передач и педали сцепления. Не было ощущения сопричастности движению, которое они давали. Я не мог утопить педаль газа в пол, почувствовав мощь двигателя, не чувствовал легкой дрожи машины при плавном отпускании сцепления. Автоматика превращала меня из водителя почти в пассажира. Это постепенно начало меня бесить.

Перенесемся на 35 лет вперед, в 9 октября 2010 года. Один из изобретателей Google, приехавший из Германии специалист по робототехнике Себастьян Трун,[1] делает в своем блоге сенсационное заявление о разработке компанией самоуправляемого автомобиля, который может ездить по улицам городов без помощи человека и уже проехал по дорогам Калифорнии и Невады более сотни тысяч миль. Эта машина прокатилась по Голливудскому бульвару, по Тихоокеанскому шоссе, проехала взад и вперед по мосту Золотые Ворота и объехала озеро Тахо. Они справляются с дорожным потоком, исправно проезжают перекрестки и, аккуратно вписываясь в тесноту пробок, умело избегают столкновений. «Мы считаем, что это первое изобретение с настоящим применением робота», – без ложной скромности утверждает Трун [1].

Создание самостоятельно передвигающегося автомобиля – отнюдь не новость. Инженеры начали конструировать автомобили-роботы и машины с дистанционным управлением, начиная с восьмидесятых годов. Но их эксплуатация ограничивалась экспериментальными поездками по закрытым трекам или гонками в пустынях и других отдаленных местах, где на тысячи миль нет ни одного пешехода или полицейского. По мнению Труна, гуглмобиль – это нечто принципиально другое. Он уникален и как транспортное средство, и как автомат, способный ездить по реальным дорогам со всеми их пробками, хаосом и «подрезаниями». Снабженный лазерными дальномерами, радаром, звуковыми датчиками, детекторами движения, видеокамерами и приемниками сети GPS автомобиль может улавливать мельчайшие детали дороги и соответственно на них реагировать. Он способен «видеть», куда едет. Мгновенно обрабатывая весь поток поступающей информации, бортовые компьютеры жмут педаль газа, крутят руль и управляют тормозом, соблюдая необходимую скорость для данной дороги, быстро реагируют на неожиданные ситуации, с которыми сталкивается в жизни каждый водитель. Самоуправляющиеся гуглмобили уже прошли по дорогам более полумиллиона миль, и машина без водителя пока попала только в одно серьезное ДТП, когда в 2011 году столкнулись несколько автомобилей у штаб-квартиры компании «Кремниевая долина». Правда, инженеры Google тут же объявили, что в этот момент их машиной управлял человек [2].

Самоуправляющемуся автомобилю предстоит пройти еще долгий путь, прежде чем он начнет возить нас на работу, а наших детей на тренировки. Google объявил, что первые подобные автомобили, начнут производиться серийно к 2020 году, но, вероятно, инженеры выдают желаемое за действительное. Сенсорная система машины чрезвычайно дорога. Один только лазерный аппарат на крыше стоит больше 80 тысяч долларов. Остается множество нерешенных технических проблем: езда во время дождя или по дороге, усыпанной опавшими листьями; неожиданные объезды; необходимость реагировать на сигналы полицейских и дорожных рабочих. Компьютер пока еще не умеет различать безобидные предметы на дороге (раздавленный картонный ящик), опасные вещи (утыканный гвоздями кусок фанеры) и т.п.). Однако самыми неприятными являются психологические и правовые проблемы, возникающие с появлением на дорогах автомобилей без водителей. Кто, например, будет по закону отвечать за ДТП с участием такого автомобиля, повлекшее за собой смерть или увечье человека? Владелец транспортного средства? Производитель, установивший систему самоуправления? Программисты, писавшие программы для бортового компьютера? Едва ли самоходные автомобили появятся на наших дорогах до урегулирования этих сложных вопросов.

Тем не менее никто еще не смог остановить движение прогресса. Многие разработки инженеров Google, несомненно, найдут применение в новых легковых и грузовых автомобилях следующих поколений. Компания заявила о своих притязаниях открыто, но другие автомобилестроители занимаются такими же разработками, никак их не афишируя. В настоящее время целью этих работ является не столько создание робота на колесах, сколько изобретение все новых средств автоматизации управления автомобилем, помогающих повысить безопасность, удобство и привлекательность машин для потенциальных покупателей. С тех пор как я впервые в жизни повернул ключ зажигания двигателя старенькой Subaru, автоматизация управления автомобилем шагнула далеко вперед. Сегодняшние автомобили буквально нашпигованы электронными приспособлениями. Микрочипы и сенсоры контролируют работу автомата постоянной скорости, противозаклинивающего тормозного устройства, механизмов тяги и сохранения устойчивости, а в машинах последних моделей электроника регулирует передачу при переменной скорости, помогает парковаться, избегать столкновений, регулирует мощность света фар и работу дисплеев приборной панели. Изощренное программное обеспечение уже стало буфером между нами и дорогой. Машиной управляем, собственно говоря, не мы, а потоки электронных импульсов, порождаемых бортовым компьютером.

В ближайшие годы управление будет все в большей степени передаваться приборам. Производители автомобилей класса «люкс» – Infiniti, Mercedes-Benz, Volvo – уже создают машины, в которых система лазерного автомата постоянной скорости работает даже в условиях прерывистого движения в пробках, где разгон часто чередуется с торможением. Компьютеризированная система рулевого управления помогает машине держаться в середине ряда, а также при необходимости экстренно тормозить. Другие компании стремятся создать еще более совершенные средства контроля и управления. Компания Tesla Motors, пионер электромобилестроения, планирует запустить в серийное производство машину, которая на 90% будет управляться автоматически. Так, во всяком случае, заявил директор компании Элон Маск [3]. Появление беспилотного автомобиля Google не только потрясает самые основы нашего представления о вождении. Оно меняет представление о компьютерах и роботах. Раньше мы принимали как нечто само собой разумеющееся, что есть профессии и роды деятельности, недоступные для автоматизации. Компьютеры умеют делать массу разных вещей, но не все на свете. В 2004 году вышла книга экономистов Френка Леви и Ричарда Мюрнейн «Executing a left turu across ancoming traffic» («Новое разделение труда: как компьютеры создают новый рынок труда»). В ней авторы убедительно доказали, что существуют реальные границы способности программистов к воспроизведению человеческих талантов, особенно тех, которые обусловлены сенсорным восприятием, распознаванием образов и концептуальными знаниями. В качестве частного примера они привели управление автомобилем по реальной трассе, требующее мгновенной интеграции громадного количества зрительных сигналов и способности безболезненно вписываться в непрерывно и неожиданно меняющуюся дорожную ситуацию. Мы сами не вполне понимаем, как это происходит, и потому идея о том, что программисты могут свести все сложности, неуловимые нюансы и случайности к набору инструкций и строчкам программного кода, показалась авторам попросту смехотворной. «Выполнение левого поворота на нерегулируемом перекрестке, – пишут Леви и Мюрнейн, – требует учета такого множества факторов, что трудно представить себе набор правил, которые могли бы имитировать поведение водителя». Авторы твердо уверены (и вместе с ними большинство остального человечества), что руль еще надолго останется в крепких руках человека-водителя [4].

Оценивая способности компьютеров, экономисты и психологи уже давно выявили два вида знания: имплицитное и эксплицитное. Имплицитное знание называют иногда процедурным и обозначают им нашу способность делать некоторые вещи, не задумываясь: читать книги, ездить на велосипеде, ловить верхний мяч, вести машину. Эти навыки являются не врожденными, а приобретенными, и одни люди усваивают их лучше, а другие хуже. И те и другие практически невозможно описать простыми словесными выражениями. Когда вы делаете поворот на забитом машинами перекрестке, то, по данным нейрофизиологов, ваш мозг просто-таки перегружен работой. Многие участки головного мозга обрабатывают бесчисленные входящие сенсорные сигналы, оценивают время и расстояние, а также приводят в согласованные движения руки и ноги [5]. Однако, если кто-нибудь попросит вас подробно описать все, что вы чувствуете и делаете, совершая поворот, вам это удастся только в очень общих чертах. Способности к выполнению подобных навыков сидят глубоко в нашей нервной системе. Эти ментальные процессы происходят без участия сознания.

В основном наши способности оценивать разнообразные ситуации и быстро принимать адекватные им решения зависят как раз от имплицитных восприятий. Благодаря им проявляются творческие способности.

Эксплицитное знание, известное также как декларативное, можно осознанно описать: как поменять колесо; изготовить фигурку журавлика из бумаги; решить квадратное уравнение. Один человек может объяснить что-то другому в виде письменного или устного руководства: делай раз, делай два и т.д.

Компьютерная программа – это, по сути, набор письменных поэтапных инструкций. Следовательно, мы можем утверждать, что компьютеры способны имитировать навыки, зависящие от эксплицитного знания. Но возникает проблема – как обозначить строчками кодировок и алгоритмов то, что нельзя описать словами? Граница между имплицитным и эксплицитным всегда была очень жесткой, хотя многие талантливые люди пытались перешагнуть ее. Именно этот рубеж должен определить пределы автоматизации, чтобы обозначить работу исключительно для человека. Гуглмобиль решительно устанавливает границу между владениями человека и компьютера. Достижения инженеров показали, что наши представления о пределах автоматизации достаточно примитивны и мы, люди, не так совершенны, как нам кажется.

Разделение имплицитного и эксплицитного знания остается полезной концепцией в области психологии, хотя оно и утратило часть своей актуальности в области автоматизации.

Все сказанное не означает, что компьютеры приобрели имплицитное знание. Они не стали думать, как люди, и не скоро научатся делать все, что умеем мы. Нельзя уравнять искусственный интеллект с человеческим разумом. Но когда речь идет о выполнении задач, сложных для разума или мышц, машины могут воспроизводить наши действия, не вникая в их смысл. Беспилотный автомобиль делает левый поворот на нерегулируемом перекрестке благодаря программе, а не интуиции и искусству. Но, несмотря на различие способов достижения целей, результаты действий оказываются одинаковыми. Сверхчеловеческая скорость, с какой компьютеры способны следовать инструкциям, вычислять вероятности различных параметров, получать и отправлять данные, означает, что они могут использовать эксплицитное знание для того, чтобы разобраться с задачами, которые мы решаем, применяя знание имплицитное. В некоторых случаях уникальная мощь электроники позволяет ей справляться с проблемами из области имплицитного знания, где человек пасует. В мире самоуправляемых автомобилей не будут нужны светофоры и знаки остановки. Мгновенно обмениваясь данными, транспортные средства взаимно скоординируют свое движение даже на самых загруженных перекрестках, так же как сегодня пересылается информация по магистралям и закоулкам интернета. То, что невозможно описать нашим мозгом, поддается, как выясняется, рациональному отображению в схемах микрочипов.

С возрастанием быстродействия компьютеры стали проявлять способности, считавшиеся ранее сугубо человеческими (например, распознавание сложных образов), а также делать выводы и обучаться на основании прежнего опыта. Первый урок на эту тему состоялся в 1997 году, когда шахматный компьютер Deep Blue, сделанный на фирме IBM и способный оценивать миллиард возможных ходов за пять секунд, выиграл матч из шести партий у чемпиона мира Гарри Каспарова. Автомобиль Google, который может проанализировать в секунду миллион ситуаций, кажется, готов преподать нам следующий урок. Многие весьма замысловатые наши действия в принципе не требуют участия мозга. Интеллектуальные достижения профессионалов защищены от автоматизации не больше, чем левый поворот на перекрестке для беспилотного автомобиля. Доказательства мы видим повсюду. Во всех видах деятельности компьютерные программы находят свое применение: в медицине – диагностика заболеваний; в архитектуре – проектировка здания; в юриспруденции – оценка улик, в педагогике применяют обучающие программы и оценивают студенческие работы. Компьютеры, конечно, не заменили в этих областях специалистов, но взяли на себя значительную часть их труда. Электроника и автоматика проникли и в наш досуг, в наши развлечения. Благодаря распространению смартфонов, планшетов и других небольших, доступных и портативных устройств мы теперь зависим от программного обеспечения в выполнении множества повседневных дел. Нам необходимо это для того, чтобы сэкономить на покупках, научиться готовить, заниматься спортом, и даже для того, чтобы знакомиться, влюбляться, создавать семьи и рожать детей. Инструкции GPS ведут нас по родному городу. В социальных сетях – наши друзья. Программы советуют нам, что смотреть, читать и слушать. Google и Siri дают ответы на мучившие нас вопросы. Компьютер стал незаменимым инструментом нашей ориентации в физических и социальных сферах мира. Вы только вспомните, что происходит, когда люди теряют свои смартфоны или не могут выйти в интернет. Без цифровых помощников они чувствуют себя брошенными и беспомощными. Кэтрин Хэйлс, профессор литературы из университета Дюка (Duke University), пишет в вышедшей в 2012 году книге «How We Think» («Как мы думаем»): «Когда мой компьютер выходит из строя или нарушается связь с интернетом, я чувствую себя потерянной, дезориентированной; я теряю способность работать. Да что там: я чувствую себя так, будто мне ампутировали обе руки» [6].

Зависимость от компьютеров порой вызывает у нас недовольство, но в целом мы против нее не возражаем. Мы склонны хвастаться новыми гаджетами и приложениями, и не только потому, что они полезные или стильные. В автоматизации есть нечто магическое. Видя, как iPhone идентифицирует звучащую в баре песню и находит ее в Сети, мы испытываем чувство, неведомое представителям старших поколений. Видеть команду ярко окрашенных заводских роботов, без всяких усилий собирающих солнечную батарею или реактивный двигатель, – это значит присутствовать на балете, танцорами в котором выступают движущиеся с безупречной грацией и с выверенной до долей миллиметра точностью автоматы. Люди, ездившие в автомобилях Google, рассказывают об охватившем их трепете; их мозг не мог примириться с новыми ощущениями. Сегодня мы вступаем в новый мир, где у нас на службе будут самые разнообразные автоматы, которые избавят нас от рутины, станут предупредительно исполнять любой каприз, а иногда просто составлять нам компанию. Очень скоро, как пророчат мудрецы из Кремниевой долины, у человека появятся роботы-горничные и роботы-водители. Трехмерные принтеры смогут клепать всякую всячину, чтобы потом автоматические посыльные разносили ее по домам. Наступает и манит мир «Джетсонов»[2] или, по крайней мере, «Рыцаря дорог».[3].

В этой ситуации трудно не испытывать душевного потрясения и гнетущей тревоги. Автоматическая коробка передач – детский сад по сравнению с автомобилем Google, но первое было предтечей второго. То был маленький шажок на пути к тотальной автоматизации. Я не могу не вспомнить разочарование, охватившее меня, когда я лишился ручки переключения передач, – я лишился необходимой мне ответственности, от которой до этого так жаждал избавиться. Если удобство автоматической коробки передач вызывало у меня тем не менее чувство утраты и, как выражаются экономисты, недогруженности, то каково мне будет ощущать себя пассажиром в собственной беспилотной машине?

Главная беда автоматизации – она часто дает нам то, в чем мы не нуждаемся, но утрачиваем необходимые для нас функции. Для того чтобы понять, что это именно так, надо посмотреть, как определенные когнитивные предвзятости – изъяны способов мышления – могут исказить восприятие.

Михай Чиксентмихайи, профессор психологии и автор популярной книги «Поток»,[4] вышедшей в 1990 году в США, описал феномен, названный им «парадоксом труда». Впервые он наблюдал этот парадокс в исследовании, проведенном в восьмидесятые годы в Чикагском университете (University of Chicago) совместно с коллегой Джудит Лефевр. К участию в исследовании привлекли сотню сотрудников – рабочих и инженеров (квалифицированных и новичков) с пяти предприятий Чикаго. Каждому испытуемому дали электронный пейджер (в то время сотовые телефоны были довольно дороги), который подавал сигнал семь раз в день через случайные промежутки времени в течение одной недели. Получив сигнал, испытуемый должен был ответить на вопросы короткой анкеты. В ней он сообщал, чем занимается в данный момент, писал о трудностях, с которыми сталкивается, о том, какая квалификация необходима для того, чтобы с ними справиться, и о своем психологическом состоянии, то есть об уровне мотивации, удовлетворения, вовлеченности, творчества и т.д. Целью этих «проб личного опыта», как называл сам Чиксентмихайи свою методику, было выяснение того, как люди проводят время на работе и вне ее.

Результаты удивили авторов исследования. Люди были счастливы на работе, где они ощущали полноту жизни, а во время отдыха чаще всего испытывали скуку и тревогу. Тем не менее во время работы люди, как правило, желали оказаться дома и меньше всего хотели возвращаться на рабочее место. «Мы имеем, – писали Чиксентмихайи и Лефевр, – парадоксальную ситуацию: на работе люди испытывают более позитивные эмоции, чем на отдыхе, но тем не менее, находясь на работе, утверждают, что хотели бы делать что-нибудь другое. Находясь на отдыхе, они не говорили ничего подобного» [7]. Этот эксперимент выявил неприятный факт: мы ужасно заблуждаемся в своих предположениях того, какая деятельность принесет нам удовлетворение, а какая – разочарование. Даже делая что-то, мы не можем адекватно судить о психологических последствиях собственной деятельности.

Всё это симптомы более общей болезни, которую психологи назвали «искаженное желание». «Если нам приносит радость то, чего мы не хотим, и наоборот, то, чего мы жаждем, не приносит счастья, – пишут специалисты по когнитивной психологии Дэниел Гилберт и Тимоти Уилсон, – то мы имеем все основания говорить о том, что наши желания ошибочны» [8]. Безрадостные результаты множества исследований показывают, что наши желания обычно не соответствуют действительному положению дел. У тенденции неверно оценивать труд и отдых есть и социальный аспект. Как выяснили в своей работе Чиксентмихайи и Лефевр (и мы хорошо это знаем на собственном опыте), люди в своем поведении часто склонны руководствоваться общественным мнением, в данном случае – укоренившимся представлением о том, что «отдых» есть состояние более желательное и статусное, нежели «горение на работе». «Нет нужды повторять, – пишут в заключение авторы, – что такая слепота в отношении реального положения вещей одинаково губительна как для благополучия индивида, так и для здоровья общества в целом. …Следуя своим перекошенным представлениям, люди будут стараться посвящать себя работе, которая вызывает у них мало положительных эмоций, и избегать деятельности, являющейся источником сильных позитивных ощущений» [9]. Такой подход, естественно, не гарантирует счастливой жизни.

Мы не хотим этим сказать, что работа, выполняемая за деньги, всегда по самой своей сути качественно превосходит занятия, которым мы предаемся для отвлечения и получения удовольствий. Конечно же, нет. Труд часто бывает скучным, изнурительным и даже унизительным, а многие хобби и развлечения приносят истинную радость и наслаждение. Но работа структурирует наше время, придает ему форму, которой мы лишаемся, если оказываемся предоставленными самим себе. Часто на работе мы вынуждены заниматься теми видами деятельности, которые устраивают нас в наибольшей степени. Приносит удовлетворение занятие трудным, но целесообразным делом, не только требующим таланта, но и развивающим наши способности. Мы настолько глубоко погружаемся в работу, что, прибегая к терминологии Чиксентмихайи, забываем о горестях и воспаряем над тревогами и заботами, отравляющими повседневное существование. Наше обычно рассеянное внимание становится направленным исключительно на то, что мы делаем. «Каждое действие, движение, мысль в этой ситуации вытекают из предыдущего действия, движения или мысли, – поясняет Чиксентмихайи. – Работой занято все ваше существо, вы до предела напрягаете свои способности, мобилизуете знания и опыт» [10]. Такое состояние глубокого погружения в работу может возникать при любом виде работы – от укладки плитки и пения в хоре до участия в гонках по пересеченной местности. Не надо получать большую зарплату для того, чтобы испытывать наслаждение от такой деятельности.

Напротив, на отдыхе зачастую мы теряем всякую дисциплинированность, и наш ум начинает бесцельно блуждать. Мы получаем на работе достаточно денег для того, чтобы, закончив ее, начать тратить зарплату на удовольствия, но чаще всего мы растрачиваем наши часы отдыха на всякий вздор. Нам свойственно избегать трудной работы и хобби. Вместо этого мы смотрим телевизор, ходим в магазины или зависаем в интернете. В результате лени, в которую мы себя погружаем, нас покидает радость и приходит раздражительность и нервозность. Лишившись необходимости сосредоточивать внимание на внешних стимулах, мы начинаем копаться в себе и попадаем, как выражался Эмерсон, в «тюрьму собственного сознания». «Работа, даже самая непрестижная, доставляет больше радости, чем свободное время, – утверждает Чиксентмихайи, – потому что всякая работа имеет “встроенную” в нее цель и задачи, которые заставляют человека без остатка погружаться в дело, сосредоточиваться и растворяться в нем» [11]. Но наш лукавый разум не хочет, чтобы мы в это поверили. Мы пользуемся любой возможностью, чтобы увильнуть от оков труда, и приговариваем себя к праздности.

Так стоит ли после всего этого удивляться, что мы так охотно поддались чарам автоматизации? Наполняя нашу жизнь легкостью, комфортом и удобствами, компьютеры сокращают трудозатраты, потакают неуемному, хотя и не слишком разумному стремлению освободиться от излишней, на наш взгляд, деятельности. На производстве автоматизация способствует росту эффективности труда. Мотивы ее введения связаны чаще не с заботой о людях, а с прибыльностью предприятия. Деятельность рабочих становится менее сложной, может быть, даже комфортной, но при этом теряется чувство сопричастности делу. Работа начинает состоять из слежения за экранами мониторов и введения данных в соответствующие клеточки. Даже специалисты высокого класса чувствуют, что их работа ограничивается системами принятия решений, которые подменяют процесс квалифицированного суждения. Компьютерные приложения и другие программы, используемые в повседневной жизни, производят тот же эффект. Беря на себя разгадку трудных задач, требующих много времени, или просто облегчая поиск сложных решений, современные программы в еще большей степени снижают возможность применения наших способностей, лишая нас чувства удовлетворения от достигнутой цели. Я не хочу сказать, что автоматизация плоха сама по себе. Она, отталкиваясь от своей предшественницы – механизации, развивалась столетиями и в результате неизмеримо улучшила условия нашего существования. При ее разумном применении мы будем свободны от изнурительного, однообразного механического труда и направим наш ум на решение более сложных и полезных задач. Все дело в том, что люди плохо понимают последствия компьютеризации. Сложно определить момент, когда надо сказать «хватит» или «давайте на секунду остановимся и переведем дух». Пользу от передачи труда от людей машинам и компьютерам можно легко измерить количественно. Предприниматели могут в числах выразить капиталовложения и рассчитать выгоды от новейших машин в твердой валюте: снижение издержек производства, снижение цены труда, увеличение производительности и ускорение товарооборота, повышение доходности. В частной жизни мы получаем экономию времени и сил. Из-за нашего стремления к праздности и отвращения к труду мы склонны переоценивать блага автоматизации. Сложно определить ее издержки. Мы знаем, что компьютеры сделали ненужными многие профессии, в результате чего масса людей осталась без работы, но история показывает, а экономисты доказывают, что любое снижение занятости всегда оказывается временным, а затем новые высокопроизводительные технологии создают новые рабочие места, и поднимается уровень жизни населения. Личностные издержки являются еще более туманными. Как измерить стоимость разрушения сопричастности и вовлеченности, как измерить утрату самостоятельности и ответственности или деградацию навыков? Измерить это невозможно. Это неосязаемые вещи, и мы оцениваем их только после того, как утрачиваем, да и то если способны это почувствовать. Но эти издержки тем не менее вполне реальны. Выбор, который мы успешно или неудачно делаем относительно того, что можно доверить компьютеру, а что оставить себе, является не практическим или экономическим, а этическим. Именно он придает четкий контур нашей жизни, определяет место, которое мы занимаем в этом мире. Автоматизация ставит перед нами самый важный экзистенциальный вопрос: что означает быть человеком?

Чиксентмихайи и Лефевр сделали еще одно открытие, касающееся обыденной жизни человека. Среди всех прочих занятий, которым мы предаемся в свободное от работы время, наибольшее удовольствие нам доставляет вождение автомобиля.

Глава вторая. Робот у ворот.

В начале 50х годов прошлого века Лесли Иллингуорт, знаменитый политический карикатурист, работавший в британском сатирическом журнале Punch, опубликовал мрачную пророческую карикатуру. В сумерках хмурого осеннего дня во дворе большого завода сидит рабочий, напряженно вглядывающийся в проем ворот огромного грязного двора. В одной руке он держит гаечный ключ, а другая сжата в кулак. У ворот, на которых красуется надпись «Требуются рабочие», стоит громадный широкоплечий робот, на груди которого печатными буквами написано: «Автоматизация».

Это была иллюстрация главной тревоги, пропитавшей тогдашнее западное общество. Карикатура появилась на обложке, вышедшей в 1956 году книги Роберта Хью Макмиллана «Automation: Friend or Foe?» («Автоматизация: друг или враг?»). Макмиллан преподавал инженерную механику в Кембриджском университете (University of Cambridge). На первой странице он без обиняков поставил беспощадный вопрос: «Грозит ли нам опасность уничтожения со стороны наших же творений?» Макмиллан объяснил, что он имеет в виду не возможность уничтожения человечества в ядерной войне, которая может начаться с простого нажатия кнопки. Университетский профессор имел в виду не столь заметную, но более коварную угрозу: «возрастающую роль, которую играют автоматические устройства в промышленности всех цивилизованных стран в мирное время» [1]. Точно так же, как в прежние времена машины «заменили человеческие мышцы», эти новые устройства грозили заменить «человеческий мозг». Заняв достойные, хорошо оплачиваемые рабочие места, машины грозили обществу немыслимой безработицей и страшными социальными потрясениями, о которых Карл Маркс писал за столетие до Макмиллана [2].

Однако, продолжал далее профессор, возможно, все окажется и не столь мрачным. При «правильном использовании» автоматизация может принести с собой экономическую стабильность и процветание, избавив человека от унизительного бремени тяжкого монотонного труда. «Я искренне надеюсь, – писал Макмиллан, – что эта новая отрасль технологии позволит нам сбросить с плеч человека проклятье Адама, ибо машины станут рабами, а не хозяевами людей. Уже разработаны автоматические средства их контроля» [3]. Неизвестно, станет ли автоматизация злом или благом, но Макмиллан предупреждал, что наверняка сказать можно только одно: автоматы будут играть возрастающую роль в промышленности и обществе. Экономический императив «конкурентного мира» делал этот процесс неизбежным [4]. Если робот сможет работать быстрее, дешевле или лучше человека, то он заменит его рабочем месте.

«Мы братья и сестры наших машин», – заметил однажды историк техники Джордж Дайсон [5]. Отношения братьев и сестер обычно являются весьма насыщенными, и мы видим это и в отношениях с нашими механическими родственниками. Мы любим наши машины не только за то, что они полезны, но и за то, что мы любим их общество и даже находим их красивыми. Талантливо построенная машина – это воплощенные контуры наших чаяний: желания познать мир и его устройство, использовать силы природы нам на благо, добавить что-то новое в строение мироздания, удивляться и восхищаться. Она может стать источником ощущения чуда и гордости.

Но машины одновременно и безобразны, и мы чувствуем в них угрозу всему, что нам дорого. Они могут дать силы человеку, но обычно ее присваивают себе промышленники и банкиры, ибо они владеют хитроумными устройствами, а не наемные работники. Автоматы холодны и абсолютно покорны. Если роботы вносят что-то человеческое в чуждый нам космос, то они же привносят что-то чужеродное в наш человеческий мир. Математик и философ Бертран Рассел сжато сформулировал эту мысль в своем вышедшем в 1924 году эссе: «Машинам поклоняются, потому что они красивы, и ценят, поскольку они умножают нашу силу; их ненавидят, потому что они омерзительны, и испытывают к ним отвращение, поскольку они навязывают рабство» [6].

В комментарии Рассела присутствуют настороженность и противоречивость – машины-автоматы одновременно наши спасители и разрушители. Эта настороженность присутствует в отношении народа к фабричным машинам с самого начала промышленной революции, более 200 лет назад. В то время как большинство наших предшественников радовалось появлению механизированного производства, видя в нем символ прогресса и гарантию процветания, другие люди боялись, что машины отнимут у них работу и погубят их души. С тех пор история техники – серия быстрых, часто сбивающих с толку изменений. Благодаря искусству наших изобретателей и предпринимателей едва ли не каждое следующее десятилетие знаменовалось появлением все новых и новых автоматов. Однако наше двойственное отношение к этим сказочным творениям собственных рук и умов оставалось на удивление постоянным. Всегда было такое ощущение, что, глядя на машины, мы видим в них, пусть даже весьма смутно, нечто такое, что свойственно нам самим, но чему мы не особенно доверяем.

В фундаментальном труде, гимне свободному предпринимательству, книге «Богатство народов»,[5] вышедшей в 1776 году, Адам Смит вознес хвалу великому разнообразию «весьма хороших машин», которые устанавливаются предпринимателями на фабриках и заводах ради «облегчения и уменьшения труда». Смит пророчествовал, что механизация, дав возможность «одному человеку выполнять работу многих», резко повысит производительность труда в промышленности [7]. Владельцы предприятий получат большую, чем раньше, прибыль, которую пустят на расширение своей деятельности, строительство новых заводов, приобретение новых машин, наем большего числа работников. Сокращение количества человеческого труда, которое станет возможно благодаря машинам, не принесет вреда людям, так как в долгосрочной перспективе приведет к увеличению числа рабочих мест.

Многие мыслители подхватили и расширили утверждения Сми– та. Они предсказывали, что вследствие более высокой производительности механизированного труда станет больше рабочих мест, увеличится число профессий, зарплаты начнут расти, а цены на продукцию – падать. У рабочих заведутся свободные деньги, которые они смогут потратить на приобретение продукции собственной фабрики, а это позволит использовать еще больший капитал для развития промышленного производства. Таким образом, по расчетам экономистов, механизация позволит запустить добродетельный круг, следствием чего станет ускорение экономического роста общества, увеличение его богатства, а людям механизация, выражаясь словами Адама Смита, принесет «удобства и роскошь»[8]. Этот взгляд на технологию, по стечению обстоятельств, подтвердился на ранней стадии индустриализации и стал неотъемлемым фрагментом экономической теории. Идея покорила сердца не только ранних капиталистов и их ученых собратьев. Многие общественные реформаторы от души приветствовали механизацию, надеясь с ее помощью покончить с нищетой и рабским положением рабочих.

Экономисты, промышленники и реформаторы могли позволить себе роскошь заглядывать в далекое и прекрасное будущее, но у рабочих, увы, такой возможности не было. Даже временное сокращение количества труда могло представлять реальную и непосредственную угрозу их жизненному уровню. Появление на предприятиях множества машин лишило массу людей работы и заставило остальных поменять увлекательную квалифицированную работу на механическое перемещение рычагов и надавливание на педали. Во многих районах Британии в XVIII – начале XIX века квалифицированные рабочие ломали и портили новое оборудование, чтобы хоть таким способом защитить свои профессии, труд и общины. «Порча машин» (было названо это движение) – не просто покушение на технический прогресс. Это была попытка ремесленников защитить и сохранить привычный образ жизни, который целиком и полностью зависел от их ремесла, а также свою экономическую и гражданскую самостоятельность. «Если ремесленники и не любили машины, – пишет историк Малкольм Томис, анализируя воспоминания современников о тех восстаниях, – то за положение, в какое они из-за них попали, а не потому, что машины несли с собой что-то новое» [9].

Движение сокрушителей машин достигло кульминации в восстании луддитов, продолжавшемся в 1811–1816 годах в промышленных графствах Средней Англии. Ткачи и вязальщики, боясь неминуемого разорения и полного уничтожения их домашнего ремесла, организовывали подпольные группы, которые хотели остановить распространение текстильных фабрик с их ткацкими станками и трикотажными машинами. Название этого ставшего легендарным движения – луддиты – произошло от фамилии лестерширского противника машин Неда Лудда. Под покровом ночи они проникали на фабрики и ломали оборудование. Для борьбы с луддитами правительство в конце концов использовало армию. Восстание жестоко подавили. Тысячи ремесленников были убиты или брошены в тюрьмы.

Несмотря на то что луддитам и их единомышленникам удалось несколько затормозить распространение механизации, остановить прогресс они не могли. Машины очень скоро заняли господствующее положение в промышленности, и сопротивляться их внедрению было абсолютно бесполезно. Рабочие смирились с новыми технологиями, хотя и сохранили недоверчивое отношение к ним.

Через несколько десятилетий после того, как луддиты проиграли свою безнадежную войну, Маркс дал яркое описание глубокого раскола во взглядах общества на механизацию. В своих сочинениях он часто наделял заводские машины демонической, паразитической волей, рисуя их как «омертвленный труд», который «без остатка высасывает из работников жизненные соки». Рабочий становится «всего лишь живым придатком» «безжизненного механизма» [10]. В мрачном пророчестве, датированном 1856 годом, Маркс писал: «Все наши изобретения и прогресс привели к наделению материальных сил интеллектуальной жизнью и оглупляющему превращению человеческой жизни в материальную силу» [11]. Но Маркс, как утверждал специалист по средствам массовой информации Ник Дайер-Уитерфорд, также с большой похвалой отзывался о машинах как о средстве «освобождения» [12]. «Современная техника, – говорил Маркс, – обладает чудесной способностью облегчать труд и делать жизнь более плодотворной» [13]. Освобождая работника от узкой специализации труда, машины способствуют «полному развитию человеческой личности», помогают человеку выступать в «разнообразных социальных ролях» [14]. Именно в рабочих руках техника перестанет быть орудием угнетения. Наоборот, она станет залогом возвышения человека и его разностороннего развития.

Идея о том, что машины – освободители человечества, к концу XIX века крепко овладела умами передовых представителей западной культуры. В напечатанной в 1897 году статье, полной восхвалений в адрес механизации американской промышленности, французский экономист Эмиль Левассер восторженно отзывался о благах, которые новая технология несет «работающим классам». Механизация привела к росту заработной платы и снижению цен на товары, что существенно повысило благосостояние трудящихся. Благодаря ей были перестроены заводы и фабрики. Они стали чище, светлее и в целом более привлекательны, чем дьявольские темные предприятия первого периода промышленной революции. Но самое важное – это повышение квалификации рабочих. «Их обязанности, – отмечал Левассер, – стали менее обременительными, ибо машины делают все, что требует приложения большой физической силы; рабочий, вместо того чтобы работать мышцами, стал надзирателем, использующим свой разум». Однако он признавал, что рабочие тем не менее были недовольны: «Они винят машины в том, что те требуют такого повышенного внимания, что это буквально сводит их с ума. …Рабочие обвиняют механизацию в том, что она превращает в машину и человека, заставляя его ежесекундно повторять одни и те же монотонные движения». Тем не менее Левассер отметает эти возражения как проявления невежества и непонимания своего блага [15].

Некоторые творческие личности и интеллектуалы, считавшие, что умственный труд выше производительного физического труда, связывали механизацию с идеальным будущим. Оскар Уайльд в эссе, опубликованном приблизительно в то же время, что и статья Левассера, предрекал день, когда машины не только облегчат тяжкий физический труд, но и полностью его упразднят. «Весь неинтеллектуальный труд, монотонная, скучная работа, обязанности, связанные с жутким перенапряжением и невыносимыми условиями, – все это ляжет на плечи машин, – писал он. – Будущее человечества зависит от рабства машин и механизмов». То, что они станут рабами людей, представляется Уайльду конечным выводом человеческой истории. «Нет никакого сомнения в том, что именно в этом заключается будущность механизации, и точно так же, как деревья растут, пока хозяин поместья спокойно спит, человечество будет забавляться и предаваться просвещенной праздности. А ведь именно в этом, а не в изнурительном труде заключается его цель – производить изящные вещи, читать превосходные книги или восторженно созерцать прекрасный мир, пока машины будут выполнять столь же необходимую, сколь и неприятную работу» [16].

Великая депрессия 30х годов несколько умерила восторги энтузиастов. Экономический крах породил бурные протесты в адрес машинного века, восторженно прославлявшегося в 20е годы. Профсоюзы и религиозные объединения, воинствующие литераторы и отчаявшиеся граждане – все ополчились против машин, уничтожающих рабочие места и их владельцев. «Не машины и не механизмы породили феномен безработицы, – писал автор нашумевшего в те годы бестселлера “Man and Machines” (“Люди и машины”), – но именно они превратили безработицу из легкого раздражающего недоразумения в истинное бедствие человечества. …Чем лучше мы научимся производить, тем хуже мы будем жить» [17]. Мэр калифорнийского города Пало-Альто написал письмо президенту США Герберту Гуверу, заклиная его принять меры противодействия в отношении «чудовища Франкенштейна», технологического монстра, бича человечества, который грозит «пожрать нашу цивилизацию» [18]. Временами и само правительство нагнетало подобные страхи. В докладе, изданном одним из федеральных ведомств, заводские машины были названы вещами, «опасными, как дикие звери». Бесконтрольное шествие прогресса, писал автор доклада, обезоружило общество в борьбе с его негативными последствиями [19].

Тем не менее Великая депрессия не смогла полностью погасить пыл мечтателей, подобно Оскару Уайльду чаявших наступления машинного рая. В каком-то смысле именно ее конец сделал продвижение прогресса более желательным. Чем большими врагами становятся нам машины, тем с большим пылом мы жаждем подружиться с ними. «Мы поражены, – писал в 1930 году великий британский экономист Джон Мэйнард Кейнс, – новой болезнью, пока незнакомой большинству читателей, но которая очень скоро станет широко известной. Имя ей – технологическая безработица». Способность машин брать на себя работу подтолкнула экономику создавать новые высокооплачиваемые рабочие места. Однако Кейнс уверял своих читателей в том, что это лишь симптом «временной фазы несовершенного регулирования». Рост и процветание еще вернутся. Душевой доход увеличится. И очень скоро благодаря талантам и эффективности механических рабов нам не придется бояться потери работы. Он полагал, что, возможно, через сто лет, к 2030 году, технический прогресс избавит человечество от «борьбы за существование» и приведет нас к конечной цели – «экономическому счастью». Машины станут делать за нас еще больше работы, но это уже не будет причиной для тревоги, страха или отчаяния. К тому времени мы научимся распределять материальные блага на всех. Единственной оставшейся проблемой станет необходимость с пользой распорядиться бесконечными часами досуга, научиться «наслаждаться» жизнью, а не «бороться» за нее, изо всех сил толкаясь локтями [20].

Однако мы продолжаем бороться, и можно с полной уверенностью биться об заклад, что экономическое благословение к 2030 году на нашу планету не снизойдет. Кейнс предавался слишком радужным надеждам во мраке кризиса 1930 года, но, по сути, оказался прав в самом главном. Депрессия и в самом деле оказалась явлением временным. Экономический рост возобновился, рабочие места появились, доходы увеличились, а компании продолжали покупать усовершенствованные машины. Экономическое равновесие, пусть даже пока и хрупкое, восстановилось само. «Добродетельный круг» Адама Смита продолжил свое вращение.

В 1962 году президент Джон Кеннеди, выступая с речью в Западной Виргинии, заявил: «Мы верим, что если люди обладают талантом изобретать машины, лишающие людей работы, то они обладают и талантом вернуть тех же людей на работу» [21]. Эта речь была типичной для Кеннеди. Простые слова звучали веско: люди, талант, работа, талант, люди, работа. Барабанный маршевый ритм приводит к единственному выводу – «вернуться к работе». Для тех, кто слушал тогда Кеннеди, эти слова, должно быть, прозвучали как конец истории. Но в тот момент, когда они произносились, новая глава уже началась.

Страхи, связанные с технологической безработицей, снова начали расти, особенно в Соединенных Штатах. Рецессия начала 90-х, когда такие гиганты американской экономики, как General Motors, IBM и Boeing Company, в ходе «реструктуризации» увольняли сотрудников десятками тысяч, оживила опасения, что новые технологии, в частности дешевые компьютеры и «умные» программы, вытеснят с рынка труда представителей среднего класса. В 1994 году американские социологи Стенли Ароновиц и Уильям Дифацио опубликовали книгу «The Jobless Future» («Безработное будущее»), в которой предрекли технологические перемены, влекущие за собой увеличение доли низкооплачиваемых и социально незащищенных рабочих мест для синих и белых воротничков [22]. В следующем году вышла не менее мрачная книга Джереми Рифкина «The End of Work» («Конец работе»),[6] в которой он объявил, что приход автоматизации возвестил начало «третьей промышленной революции». «В ближайшем будущем новые, изощренные компьютерные технологии приведут цивилизацию к миру, почти лишенному человеческого труда. Общество подошло к поворотному пункту, – утверждал Рифкин, – компьютеры могут привести к массовой безработице и всемирной депрессии, но они же осчастливят нас безбедной жизнью, если только мы сумеем переписать заново догматы современного капитализма» [23]. Эти и подобные им книги вызвали временный ажиотаж, но вскоре страх перед безработицей рассеялся. Возобновление экономического роста в середине и конце 90-х, апофеозом которого стал головокружительный доткомовский[7] бум, отвлекло внимание людей от апокалипсических пророчеств.

Десять лет спустя, на волне великого спада 2008 года, эти тревоги вернулись и стали еще сильнее, чем прежде. В середине 2009 года американская экономика, судорожно оправившись от коллапса, снова начала расти. Увеличились доходы корпораций. Капитальные вложения достигли уровня, предшествовавшего спаду. Взлетели курсы акций на фондовых рынках. Конечно, компании всегда выжидали какое-то время, убеждаясь в надежности благоприятных перемен, прежде чем приступать к найму работников, но на этот раз число рабочих мест практически не возросло, и уровень безработицы остается весьма высоким. В поисках объяснений и виновных люди по-прежнему с подозрением смотрят на трудосберегающие технологии.

В конце 2011 года двое уважаемых ученых из Массачусетского технологического института (Massachusetts Institute of Technology, MIT), Эрик Брюньёлфссон и Эндрю Макафи, опубликовали небольшую электронную книгу «Race Against The Machine» («Поход против машин»). В ней они пытались донести до экономистов и политиков, что современные технологии существенно сокращают потребности предприятий в новых работниках. За «эмпирическим фактом», согласно которому машины будто бы способствуют созданию рабочих мест, столетиями скрывалась «грязная тайна». Авторы пишут: «Не существует такого экономического закона, который бы гласил, что все, или даже большая часть населения, выигрывают от технологического прогресса». Брюньёлфссона и Макафи ни в коем случае нельзя назвать технофобами. Они верят в способности компьютеров и роботов поднять на небывалую высоту производительность труда и улучшить в отдаленной перспективе человеческую жизнь, но тем не менее считают, что технологическая безработица реальна и она проникает во все поры общества. Ситуация продолжает ухудшаться. «Человечество, – предупреждают авторы, – проигрывает схватку с машинами» [24].

Эта электронная книжка стала горящей спичкой, брошенной в стог сухого сена. Вспыхнула ожесточенная дискуссия между экономистами, которая вскоре привлекла внимание журналистов. Термин «технологическая безработица», вышедший из употребления после Великой депрессии, снова овладел умами. В начале 2013 года американская новостная телевизионная программа «60 минут» ввела рубрику «Парад машин», в которой обсуждалось, как предприниматели используют новые технологии вместо людей на складах, в больницах, адвокатских конторах и на промышленных предприятиях. Корреспондент Стив Крофт с горечью говорил о высокотехнологичной индустрии, добившейся высочайшей производительности и укрепившей американскую экономику, но мало сделавшей для увеличения занятости [25]. Вскоре после того, как программа прозвучала в эфире, группа корреспондентов Associated Press опубликовала доклад о высоком уровне безработицы. Вот их мрачный вывод: «Высокие технологии ликвидируют рабочие места». Напомнив, что писатели-фантасты давно предупреждали о будущем, когда мы сами выроем себе могилу, выпустив на волю джинна машин, авторы заявляют, что это будущее уже наступило [26]. Журналисты процитировали одного аналитика, предсказавшего, что к концу столетия уровень безработицы достигнет 75% [27].

От этих предостережений легко отмахнуться. Их трагический тон напоминает о пророчествах, которые мы время от времени слышим начиная с XVIII века. Как только начинается очередной экономический спад, из его пропасти выползает призрак чудовища Франкенштейна, пожирающего рабочие места. Потом, когда ситуация выправляется, маховик делает оборот, трудности остаются позади и возникают новые возможности дать населению работу. Призрак вместе со страхами исчезает в своей пещере. Но на этот раз экономика ведет себя не совсем обычно. Накапливается все больше и больше данных о том, что изменилась сама подоплека происходящих событий. Вместе с Брюньёлфссоном и Макафи некоторые ведущие экономисты начали подвергать сомнению излюбленный тезис, что обусловленное высокими технологиями увеличение производства принесет с собой рабочие места и повышение заработной платы. Они подчеркивают, что за последнее десятилетие производительность труда в США росла быстрее, чем за предыдущие 30 лет, прибыли корпораций достигают уровня, невиданного за полстолетия. При этом резко возросли вложения компаний в приобретение нового оборудования. Такое сочетание должно было, по мнению экономистов, вызвать небывалый рост занятости. Тем не менее общее число вакансий в стране практически не сдвинулось с места. «Экономический рост и занятость идут в развитых странах расходящимися путями, – утверждает нобелевский лауреат по экономике Майкл Спенс. – Виной этому стала технология. Замена рутинного физического труда машинным остается мощным, долговременным и усиливающимся трендом в производстве и снабжении, в то время как компьютерные сети вытесняют людей из процессов обработки информации» [28].

Некоторые непомерные траты на роботов и другие средства автоматизации, произведенные в последние годы, могут быть отражением временных экономических условий, в частности – непрекращающихся попыток политиков и ведущих банков любой ценой стимулировать экономический рост. Низкие процентные ставки и налоговые послабления на капитальные вложения побуждают компании покупать трудосберегающее оборудование и программное обеспечение [29]. Но есть и более глубокие причины. Алан Крюгер, экономист из Принстонского университета, бывший председателем комитета экономических советников президента Обамы с 2011 по 2013 год, указал на то, что даже до наступления спада экономика США была неспособна создавать достаточное количество рабочих мест; скорость их сокращения в производственной сфере достигла угрожающего уровня [30]. С тех пор картина стала еще более пессимистичной. Можно, конечно, утешить себя тем, что вакансии в производстве не исчезают, а просто перемещаются в страны с более низкой заработной платой. Но это не так. Общее число рабочих мест в производстве (в мировом масштабе) снижалось годами, даже в промышленной мастерской мира – Китае, а объем товаров, выпущенных за тот же период резко возрос [31]. Машины вытесняют фабричных и заводских рабочих быстрее, чем экономика успевает создавать новые рабочие места. По мере того как промышленные роботы будут становиться более дешевыми и умелыми, разрыв между числом ликвидированных и созданных рабочих мест будет лишь увеличиваться. Даже то, что такие компании, как General Electric и Apple, начинают возвращать на родину производственные мощности, едва ли сможет подсластить эту горькую пилюлю. Одна из причин возвращения – это возможность обойтись на производстве без людей. «В наше время в заводских цехах почти не видно рабочих, потому что большую часть задач выполняют управляемые компьютерами машины», – пишет экономист, профессор Тайлер Коуэн [32]. Компаниям не приходится беспокоиться по поводу стоимости человеческого труда, если у них нет сотрудников.

Производство как процесс деятельности машин – феномен, возникший в самое недавнее время. Если взять период в два с половиной столетия, то это произошло буквально несколько секунд назад. Возможно, не стоит делать скоропалительных выводов о связи между технологией и занятостью на основании столь короткого промежутка времени. Логика капитализма в сочетании с историей научного и технического прогресса ведет к окончательному вытеснению человеческого труда из процесса производства. Машины, в отличие от рабочих, не требуют доли в капиталистической прибыли, они не болеют, не ходят в оплачиваемый отпуск и не добиваются повышения зарплаты. Для капитализма люди – это проблема, которую способен решить научно-технический прогресс. Поэтому страх перед технологиями, уничтожающими занятость, ни в коем случае нельзя назвать иррациональным. «В очень отдаленной перспективе автоматизация неизбежно приведет к тотальной безработице, – утверждает специалист по истории экономики Роберт Скидельский. – Рано или поздно мы все лишимся работы» [33].

Насколько же далека такая перспектива? Этого мы не знаем, но Скидельский утверждает, что некоторые страны уже приближаются к роковой черте [34]. В ближайшем будущем влияние современных технологий проявится скорее в ином распределении рабочих мест, нежели в изменениях показателей общей занятости. Механизация эпохи промышленной революции уничтожила множество достойных профессий, но зато привела к появлению новых категорий работников среднего класса. По мере освоения новых, более обширных и отдаленных рынков компании стали нанимать множество инспекторов и бухгалтеров, конструкторов и продавцов. Возросла потребность в учителях, врачах, юристах, руководителях и других профессионалах. Рынок труда отличается динамичностью, он изменяется в зависимости от технологических и социальных трендов. Однако нет никаких гарантий того, что эти изменения всегда благоприятны для граждан или приводят к увеличению численности среднего класса. Компьютеры, оснащенные передовыми программами, могут брать на себя часть работы белых воротничков, и, следовательно, многим профессионалам приходится переходить на низкооплачиваемую работу или на неполную рабочую неделю.

Следствием недавнего экономического спада стало сокращение сотрудников в высокооплачиваемых профессиях, а три четверти созданных рабочих мест приходятся на низкооплачиваемый сектор рынка труда. Изучив причины весьма сомнительного роста занятости в США с 2000 года, экономист из Массачусетского технологического института Дэвид Отор пришел к выводу о том, что информационные технологии на самом деле изменили распределение профессиональной занятости, создав еще больший разрыв в доходах и благосостоянии между разными слоями населения. Было создано множество рабочих мест на предприятиях общественного питания и в финансовой сфере, но резко сократилось их число со средней заработной платой [35]. По мере того как компьютерные технологии будут подчинять себе все новые отрасли экономики, мы увидим усиление этой тенденции – вымывания среднего класса и снижения занятости даже среди высокооплачиваемых профессионалов. «Умные машины могут невероятно повысить ВВП, – отмечает лауреат Нобелевской премии по экономике 2008 года, Пол Кругман, – но они же резко снизят потребность в людях, включая и высокообразованных специалистов. Мы станем свидетелями возникновения богатеющего общества, в котором, однако, все богатства будут принадлежать тем, кто владеет роботами» [36].

На самом деле не все так страшно и ужасно. Оживление американской экономики в конце 2013-го и начале 2014 года привело к увеличению занятости в некоторых отраслях, включая строительство и здравоохранение. Кроме того, наблюдалось увеличение числа вакансий в высокооплачиваемых профессиях. Потребность в рабочих остается привязанной к стадиям экономического цикла, хотя и не столь сильно, как в прошлом. Внедрение компьютеров и передового программного обеспечения привело к созданию весьма привлекательных рабочих мест, а также открыло новые возможности для предпринимателей. По историческим меркам, однако, численность работников, занятых в компьютерной отрасли и смежных областях, остается весьма скромной. Мы все не можем стать программистами или конструкторами роботов, переехать в Кремниевую долину и получать сумасшедшие деньги, разрабатывая модные приложения для смартфонов.[8] При стагнации уровня средних доходов и головокружительном росте доходов корпораций становится ясно, что приз процветания достается единицам избранных счастливцев. Уверения Джона Кеннеди в таком контексте воспринимаются с большим сомнением.

Но почему наше время отличается от совсем недавнего прошлого? Какая причина нарушила старую связь между новыми технологиями и новыми рабочими местами? Чтобы ответить на этот вопрос, мы вернемся к карикатуре Лесли Иллингворт и внимательно присмотримся к роботу по имени Автоматизация.

Слово автоматизация проникло в наш язык сравнительно недавно. Впервые оно было произнесено в 1946 году, когда инженерам заводов Форда потребовалось как-то назвать установки новых машин на сборочные конвейеры. «Нам нужно больше автоматов, – сказал на одном из совещаний вице-президент компании. – Больше того, что можно назвать “автоматизацией”» [37]. Заводы Форда были уже тогда оснащены совершенно фантастическими машинами, позволившими механизировать большую часть операций. Тем не менее немалую роль в производстве играли рабочие, так как детали и собранные узлы перекладывали из одного автомата в другой вручную. Окончательная скорость сборки зависела от человеческой сноровки. В 1946 году этому пришел конец. Машины начали управлять подвозом материалов и их использованием на сборочной линии. Весь процесс сборки стал механизированным. Это изменение оказалось решающим. Контроль над сложными технологическими процессами перешел от рабочего к машине.

Слово прижилось быстро. Два года спустя, в статье о механизации на заводах Форда, сотрудник журнала American Machinist определил автоматизацию как «искусство применения механических приспособлений для выполнения рабочих операций… в определенной временно2й последовательности включения соответствующего оборудования таким образом, чтобы вся сборочная линия подчинялась нажатию кнопки на пункте управления» [38]. По мере того как автоматизация стала проникать и в другие отрасли промышленности и превратилась в культурную метафору, ее определение стало более расплывчатым. Профессор Гарвардского университета (Harvard University) предложил весьма прагматичное определение: «Автоматизация – это всего лишь нечто значительно более автоматизированное, чем то, что существовало раньше на данном заводе, фабрике, в отрасли или учреждении» [39]. Автоматизация – это не предмет, не техника, не частная усовершенствованная рабочая операция, а сила проявления прогресса.

Зарождение и становление современных автоматизированных технологий произошло во время Второй мировой войны. Когда нацисты в 1940 году начали массированные бомбардировки Великобритании, английские и американские ученые столкнулись с необходимостью решить труднейшую, но неотложную задачу: как сбить летящий на большой высоте с высокой скоростью бомбардировщик с помощью тяжелых снарядов из неповоротливых наземных зенитных орудий? Для точного наведения орудия на цель необходимы вычисления и физическое прицеливание, причем не к самолету, а к тому месту, где он окажется спустя некоторый промежуток времени. Эта задача была непосильна для военных артиллеристов. Человек не может производить нужные вычисления с огромной быстротой, которая для этого требовалась. Траекторию снаряда (ученые прекрасно это понимали) должна вычислять машина на основании данных, поступающих с радара, и статистически рассчитанной траектории движения цели. Прицеливание орудия корректируется в зависимости от удачного попадания или промаха предыдущего выстрела.

Что касается расчетов зенитных орудий, то их работа сильно изменилась, так как новые пушки требовали другого подхода и обслуживания. Вскоре артиллеристы сидели в темных кабинах грузовиков и пристально вглядывались в экраны, выбирая нужные цели. Их перестали считать «солдатами», пишет один историк, они стали «техниками, обрабатывающими цифровое пространство» [40].

В зенитных орудиях, созданных учеными союзных стран, мы видим все элементы того, что сейчас называют автоматизированной системой. Во-первых, в ее основе лежит быстродействующая вычислительная машина (компьютер). Во-вторых, присутствует сенсорный механизм (в данном случае радар), который отслеживает состояние окружающего реального мира и передает данные в компьютер. В-третьих, существует межэлементная связь, которая позволяет компьютеру управлять работой механического аппарата, выполняющего реальную задачу. Она осуществляется с участием человека или без такового. И, наконец, в системе работает принцип обратной связи – компьютер получает сведения о результативности своих инструкций, и появляется возможность корректировать ошибки с учетом изменений в окружающем пространстве. Сенсорные органы, центр, рассчитывающий действия, поток информации, управляющей механическими движениями, и обучающая петля обратной связи – вот сущность автоматизации. Эта система представляет собой схему строения нервной системы живого существа. Такое совпадение отнюдь не случайно. Для замены человека в решении сложных задач автоматизированная система должна воспроизводить его действия или, по меньшей мере, обладать хотя бы частью человеческих способностей.

Автоматика существовала и до Второй мировой войны. Паровой двигатель Джеймса Уатта, главная движущая сила промышленной революции, имел в своей конструкции шаровой регулирующий клапан, который позволял поддерживать на допустимом уровне давление пара в системе. При увеличении скорости вращения вала двигателя два шарика на коромыслах расходились в стороны под действием центробежной силы и поднимали рычаг – клапан, регулирующий поступление пара в пространство под поршнем. Лишний пар стравливался в атмосферу, и поэтому скорость вращения не достигала опасного уровня. В жаккардовом ткацком станке, изобретенном во Франции в 1800 году, для изготовления разноцветных узоров использовались стальные перфокарты, автоматически кодировавшие поступление нитей разных цветов. В 1866 году британский инженер Макфарлейн Грей запатентовал паровой механизм, способный регистрировать углы поворота румпеля и с помощью системы обратной связи регулировать угол этого поворота. Это давало возможность идти заданным курсом [41]. Однако изобретение и усовершенствование быстродействующих компьютеров и других высокочувствительных электронных управляющих устройств открыли принципиально новую главу в истории машин и механизмов. Эти изобретения невероятно расширили сферы автоматизации. Математик Норберт Винер, участвовавший в разработке алгоритмов упреждения для зенитной артиллерии союзников, в книге «Человеческое использование человеческих существ»,[9] вышедшей в 1950 году, объяснил, что научные достижения 40х годов помогли изобретателям и инженерам выйти за рамки «спорадического конструирования индивидуальных автоматических механизмов». Новые технологии, пусть даже разработанные в чисто военных целях, способствовали «созданию автоматических механизмов самых разнообразных типов», то есть вымостили путь «новой автоматической эре» [42].

Политика – это еще одна движущая сила автоматизации. Послевоенные годы характеризовались резким обострением классовых противоречий. Предприниматели и их менеджеры вели непримиримую борьбу с профсоюзами. Наиболее ожесточенной она была в отраслях промышленности, значимых для федерального правительства, особенно – в центрах производства военной техники. Забастовки, стачки, требования «работы по правилам» стали обыденным явлением. В одном только 1950 году на заводе Westinghouse Electric было 88 забастовок. На многих предприятиях профсоюзные лидеры пользовались большей властью и влиянием, чем корпоративные управленцы. Для восстановления их влияния военное начальство и промышленники призвали автоматизацию. «Управляемые электроникой машины, – писал в 1946 году журнал Fortune в редакционной статье “Машины без людей”, – окажутся намного лучше механизмов, управляемых людьми» [43]. Один из генеральных директоров того периода провозгласил, что внедрение автоматизации возвестило «освобождение бизнеса от рабочих людей» [44].

Помимо снижения потребности в рабочих (особенно квалифицированных), автоматизированное оборудование обеспечило собственников и управленцев техническими средствами регулирования скорости производства и распределения его потоков с помощью программ, как для отдельных машин, так и для целых сборочных линий. Когда на заводах Форда контроль сборки перешел к новому программному оборудованию, рабочие стали быстро терять свою самостоятельность. К середине 50х годов ведущая роль профсоюзов в управлении деятельностью предприятий была практически утрачена [45]. Урок пошел впрок: власть находится в руках того, кто контролирует автоматизацию.

Винер со сверхъестественной прозорливостью предвидел, что произойдет. Технология с помощью новых компьютеров будет развиваться темпами, которые никто не мог себе представить даже в самых смелых мечтах. Они станут по размерам все меньше и одновременно производительнее. Скорость и объемы передачи информации вместе с расширением памяти и систем хранения информации будут расти экспоненциально. Датчики начнут видеть, слышать и осязать внешний мир с возрастающей чувствительностью. Механические роботы смогут воспроизводить почти все функции ручного труда без участия, хотя и под надзором, человека. Стоимость производства новых приборов и систем будет стремительно и неудержимо падать. Применение автоматов станет возможным и экономически выгодным в очень многих отраслях. Компьютеры можно программировать на решение логических задач, поэтому автоматизация коснется как физического, так и умственного труда, вторгнувшись в царство анализа, суждения и принятия решений. Компьютеризированным машинам придется управлять не только материальными предметами, но и направлять, и преобразовывать потоки информации. «Начиная с этой стадии, машины смогут делать практически все, – писал Винер. – Для машин нет разницы между физическим и умственным трудом». Ученому было ясно, что автоматизация рано или поздно создаст такую безработицу, в сравнении с которой бедствия Великой депрессии покажутся детской игрой [46].

Книга Винера «Человеческое использование человеческих существ» стала бестселлером, как и более ранний строго научный его трактат «Кибернетика, или Управление и связь в животном и машине».[10] Мрачный и математически строгий анализ технологических перспектив стал частью интеллектуальной жизни 50х годов. Появилось множество книг и статей, посвященных автоматизации, включая труды Роберта Хью Макмиллана. Стареющий Бертран Рассел в вышедшем в 1951 году эссе «Нужны ли на Земле люди?» писал, что работа Винера отчетливо показала, что «нам придется изменить некоторые фундаментальные предпосылки, на которых с момента зарождения цивилизации стоял мир» [47]. Винер в обличье забытого пророка появляется в коротком эпизоде первого антиутопического сатирического романа Курта Воннегута «Механическое пианино» (1952),[11] в котором бунт молодого инженера против автоматизированного мира заканчивается эпическими сценами уничтожения машин.

Идея покорения человечества роботами могла показаться угрожающей людям, и без того напуганным атомной бомбой, но в действительности в 50е годы автоматизация находилась еще в пеленках. Последствия ее могли тревожить ученых и писателей-фантастов, но до реального наступления роботов было еще очень и очень далеко. В 60е годы самые современные автоматизированные машины до смешного напоминали неуклюжие и примитивные автоматические транспортеры на послевоенных заводах Форда. Они были громоздкими, дорогими и не слишком умными. Большинство машин выполняло монотонные повторяющиеся операции и подчинялось элементарным командам: ускорить или замедлить темп; переместиться вправо, влево; захватить, отпустить. Этим их способности были ограничены. Машины походили на благонравных и спокойных тягловых животных.

Но роботы и другие автоматизированные системы имели одно неоспоримое преимущество перед чисто механическими устройствами, которые им предшествовали. Поскольку роботами управляет записанная на электронных носителях программа, они в своей работе подчиняются закону Мура.[12] Роботы только выигрывают от быстрых усовершенствований: увеличения скорости работы процессоров, улучшения качества алгоритмов, увеличения объема памяти и сети, улучшения дизайна интерфейса и миниатюризации. И произошло то, от чего предостерегал Винер. Роботы начали лучше чувствовать, скорость работы их мозга повысилась, речь стала более беглой, улучшилась также и их способность к обучению. К началу 70х роботы завоевали прочные позиции на производствах, которые требовали гибкости пальцев и сноровки: в резке, сварке и сборке. К концу этого десятилетия роботы успешно строили самолеты и управляли ими в полете. Потом, освободившись от громоздкой физической оболочки, они превратились в логические коды и проникли в деловой мир в обличии программных приложений. Роботы вторглись в умственный труд белых воротничков, правда, по большей части не как замена людей, а как их помощники.

В 50е годы роботы были на пороге, но только недавно они заполонили офисы, магазины и жилые дома. Мы наконец почувствовали истинный потенциал автоматизации – ее способность изменять наши задачи и функции. Автоматизируется буквально все. Как выразился создатель навигаторов Netscape и Grand Кремниевой долины Марк Андрессен, компьютерные программы пожирают мир [48].

Вероятно, это самый важный урок, который можно извлечь из предсказаний Винера и вообще из истории машин, сберегающих человеческий труд. Технологии меняются быстрее, чем люди. Там, где компьютеры рванули вперед со скоростью, предписанной законом Мура, люди еле плетутся с черепашьей скоростью эволюции, подчиняющейся закону Дарвина. Роботам можно придавать мириады обличий, воспроизвести любой организм – от змеи, зарывающейся в землю, и летающих хищников до плавающих в море рыб, а людям вечно суждено прозябать в их жалком теле. Это, конечно, не означает, что машины отбросят нас на обочину эволюции. Даже самые мощные компьютеры своим сознанием не превосходят обычный молоток. Но под нашим руководством программы найдут способ превзойти нас в скорости производства и дешевизне качественного труда. Как зенитчикам времен войны, нам придется приспосабливать свою работу, поведение и навыки к возможностям машинного труда, от которого мы зависим.

Глава третья. На автопилоте.

Вечером 12 февраля 2009 года самолет компании Continental Connection в штормовую погоду выполнял рейс между Ньюарком (Нью-Джерси) и Буффало (Нью-Йорк). Как это обычно происходит с коммерческими рейсами, обоим пилотам почти нечего было делать во время часового перелета. Капитан воздушного судна, добродушный, сорокасемилетний уроженец Флориды, Марвин Ренслоу вручную поднял в воздух турбовинтовой Bombardier Q400 и включил автопилот. Второй пилот, двадцатичетырехлетняя Ребекка Шоу, новобрачная из Сиэтла, следила за компьютерными данными, светившимися на пяти бортовых жидкокристаллических мониторах. Ренслоу и Шоу время от времени переговаривались с наземными диспетчерами, подтверждая необходимые данные о режиме полета. Большую часть времени пилоты, однако, непринужденно болтали о пустяках: о семьях, карьере, коллегах и деньгах, – пока лайнер привычно летел на северо-запад на высоте 16 тысяч футов [1].

Между тем Bombardier приблизился к аэропорту Буффало, выпустил шасси и опустил закрылки. В этот момент капитанская ручка управления с треском затряслась, как в лихорадке. Заработал вибросигнализатор ручки управления, предупреждая пилота о том, что машина теряет высоту и рискует свалиться. Автопилот отключился, как и было запрограммировано на случай непредвиденной потери высоты, и капитан взял управление на себя. Среагировал он быстро, но неправильно. Ренслоу потянул ручку управления на себя, подняв нос самолета, чем еще больше снизил скорость судна, вместо того чтобы подать ручку вперед и набрать большую скорость. Включилась автоматическая система сохранения высоты и скорости и начала двигать ручку вперед, но капитан удвоил усилия и все же потянул ручку на себя. Таким образом, Ренслоу спровоцировал падение самолета. Bombardier потерял управление и резко пошел вниз. «Мы падаем», – успел сказать пилот, прежде чем машина врезалась в один из домов в пригороде Буффало.

Катастрофы, убившей 49 человек на борту и еще одного человека на земле, не должно было быть. Национальный комитет по безопасности полетов расследовал этот случай и не нашел никаких повреждений самолета. На плоскостях скопилось немного льда, но это в порядке вещей для зимних полетов. Антиобледенитель работал исправно, как и все другие системы машины. Предыдущие двое суток у Ренслоу был очень плотный график, к тому же он немного приболел, но тем не менее оба пилота пребывали в здравом уме и твердой памяти. Оба были хорошо подготовлены, и, несмотря на то, что вибросигнализатор включился неожиданно, они располагали временем и достаточной высотой, чтобы оценить ситуацию и избежать крушения. Комитет пришел к выводу, что причиной произошедшего стала ошибка пилотов. Ни Ренслоу, ни Шоу не оценили должным образом предупреждение о падении, и это позволило предположить: пилоты пренебрегли необходимостью визуального контроля. «Когда прозвучал сигнал тревоги, – доложили члены комиссии, – летчику следовало отвечать четко и конкретно, однако его реакция оказалась не соответствующей подготовке и выражала лишь нервозность и растерянность». Один из руководителей Colgan Air (авиакомпании, осуществлявшей полет) признал, что пилот не смог должным образом оценить положение, когда возникла нештатная ситуация [2]. Если бы экипаж действовал адекватно, то самолет, скорее всего, удалось бы посадить нормально.

Катастрофа в Буффало не единственная. Очень похожее несчастье, повлекшее намного больше жертв, произошло несколько месяцев спустя. Ночью 31 мая Airbus-АЗ30 авиакомпании Air France вылетел из Рио-де-Жанейро и взял курс на Париж [3]. Через три часа после взлета, над Атлантикой, самолет попал в шторм. Датчики скорости обледенели, начали давать неверные показания, вследствие чего автопилот, как и положено, отключился. Второй пилот, управлявший в тот момент судном, Пьер-Седрик Бонен, растерявшись, резко потянул ручку на себя. АЗ30 задрал нос, и прозвучал сигнал, оповестивший о критической потере скорости, однако Бонен продолжал отчаянно тянуть ручку. Самолет пошел вверх, катастрофически теряя скорость. Датчики скорости снова заработали, давая экипажу достоверную информацию. В тот момент всем уже должно было стать ясно, что лайнер движется слишком медленно. Тем не менее Бонен продолжал упорствовать в своей ошибке, что привело к еще большему снижению скорости. Самолет начал падать. Если бы Бонен просто выпустил ручку управления, то АЗ30, скорее всего, выправился бы сам. Экипаж допустил то, что французские следователи позднее назовут «полной потерей осмысленного контроля над ситуацией» [4]. Еще через несколько бесконечно томительных секунд управление наконец взял на себя другой пилот – Дави Робер, но было поздно. Более 30 тысяч футов самолет, падая, пролетел меньше чем за три минуты.

–Этого просто не может быть, – произнес Робер.

–Но это так, – ответил ошеломленный Бонен.

Через три секунды машина упала в океан. Все 228 пассажиров и члены экипажа погибли.

Если мы хотим понять и оценить человеческие последствия автоматизации, то нам надо первым делом поднять головы и посмотреть в небо. Авиакомпании и производители самолетов, правительства и военные авиаторы проявили недюжинную настойчивость и изобретательность в попытках переложить груз управления воздушными судами с людей на машины. То, что самолетостроители пытаются делать сегодня, авиаконструкторы начали делать уже десятилетия назад. Единственная ошибка, допущенная в фонаре кабины, может стоить десятки человеческих жизней и миллионы долларов, и поэтому правительства и частные фонды не жалели денег на анализ психологических и поведенческих реакций летчиков на автоматизацию полетов. В течение десятилетий было скрупулезно исследовано ее влияние на навыки, восприятие, мышление и действия пилотов.

История автоматизации полетов началась ровно сто лет назад, 18 июня 1914 года в Париже. День был теплым и солнечным, словно специально предназначенным для живописного шоу. Близ моста Аржантейль на обоих берегах Сены толпилось великое множество людей. Люди пришли посмотреть авиационное соревнование Concours de la Scurit en Aroplane, организованное для того, чтобы продемонстрировать самые современные средства обеспечения безопасности полетов [5]. В состязании участвовали почти 60 самолетов и летчиков, демонстрировавших чудеса тогдашней техники и оборудования. Последним в программе на биплане Curtiss-С2 выступил симпатичный американец Лоуренс Сперри. Рядом с ним в открытой кабине сидел его французский механик Эмиль Кашен. Пролетев над толпой зрителей, Сперри приблизился к трибуне судей, отпустил руки от штурвала и поднял их вверх. Толпа восторженно взревела – самолет летел самостоятельно, без участия пилота!

Но это было только начало. Сперри сделал круг и снова приблизился к судейской трибуне. Он снова отпустил штурвал, но на этот раз Эмиль Кашен вылез из кабины и прошелся по нижнему правому крылу, держась за стойки, поддерживавшие верхнюю плоскость. Под весом француза самолет на долю секунды накренился, но вслед за тем немедленно выправился без всякого участия Сперри. Толпа взревела от восторга. Сперри сделал еще один круг. Когда самолет в третий раз приблизился к трибуне, в кабине не было уже не только Кашена. Сперри покинул кабину и вылез на левое крыло. С-2 продолжал лететь по заданному курсу, несмотря на то что в кабине вообще никого не было. Судьи и зрители затаили дыхание. Сперри выиграл главный приз – 50 тысяч франков, и на следующий день его сияющее лицо украсило первые страницы всех европейских газет.

Curtiss-С2 был первым в мире самолетом, оборудованным автопилотом. Этот аппарат, названный его создателями «гироскопическим стабилизатором», был построен двумя годами ранее самим Сперри и его отцом – знаменитым американским изобретателем и промышленником Элмером Сперри. Аппарат состоял из пары гироскопов[13] – горизонтального и вертикального, которые были установлены под сиденьем пилота и вращались под действием потока воздуха от пропеллера со скоростью несколько тысяч оборотов в минуту. Они с поразительной точностью улавливали малейшие отклонения ориентации самолета в трех осях вращения: боковой крен, продольное и вертикальное смещение. Как только положение и ориентация самолета отклонялись от заданных величин, заряженные щетки, прикрепленные к телам вращения гироскопов, касались металлического кожуха, замыкая электрическую цепь. В результате изменялась величина тока, управляющего моторами, которые, в свою очередь, регулировали положение управляющих элементов крыльев (элеронов), а также рулей высоты. Плоскости элеронов и рулей меняли положение и выправляли ориентацию самолета. Горизонтальный гироскоп поддерживал нужное состояние крыльев и киля, а вертикальный гироскоп следил за положением рулевого управления.

Понадобилось почти 20 лет на дальнейшие испытания и усовершенствования, большая часть которых была выполнена на деньги Военного министерства, прежде чем гироскопический автопилот отважились применить во время коммерческого полета. Тем не менее, когда это произошло, публика отреагировала на автопилот как на непостижимое чудо. В 1930 году в журнале Popular Science была опубликована восторженная статья о том, как автоматизированный самолет – большой трехмоторный Ford – пролетел за три часа без участия человека от Дэйтона (штат Огайо) до Вашингтона (округ Колумбия). «В пассажирском салоне расположились четыре человека, в то время как в кабине пилотов никого не было. Штурвалом управлял железный пилот величиной не более автомобильного аккумулятора» [6]. Когда три года спустя отважный американский летчик Уайли Пост совершил первый одиночный кругосветный полет с помощью автопилота, окрещенного «механическим Майком», пресса объявила о начале новой эры авиации. «Остались в прошлом дни, когда лишь искусство пилота и его почти птичье ощущение пространства могли поддерживать верный курс полета в беззвездную ночь и в тумане, – писала The New York Times. – В будущем коммерческие полеты станут целиком автоматическими» [7].

Внедрение гироскопических автопилотов открыло прежде всего перед военной и транспортной авиацией широкие горизонты. Новый прибор, взяв на себя ответственность за поддержание заданного курса, избавил пилотов от постоянной изнурительной борьбы с рычагами, педалями и рулевыми тягами. Помимо того что автопилот избавил людей от переутомления, неизбежного во время длительных полетов, он также дал им возможность сосредоточиться на других, более интеллектуальных задачах. Летчики могли теперь следить за приборами, заниматься вычислениями, решать множество различных задач, их труд стал более интеллектуальным и творческим. Летать начали выше и дальше при меньшем риске потерпеть аварию. Появилась возможность летать в такую погоду, которая раньше считалась абсолютно нелетной. Кроме того, теперь на самолетах можно было выполнять немыслимые ранее маневры. Касалось ли дело перевозки пассажиров или прицельного бомбометания, летчики могли совершать маневры, которых требовали конкретные обстоятельства. Претерпели изменения и сами самолеты, они стали быстрее и сложнее.

Средства автоматического рулевого управления и стабилизации самолета особенно быстро развивались и совершенствовались в 30е годы. В это время физики стремительно познавали законы аэродинамики, а инженеры изобретали датчики давления, пневматические регуляторы, амортизаторы и другие полезные приспособления, улучшавшие характеристики механизма автопилотов. Самое большое достижение в этой области произошло в 1940 году, когда Sperry Corporation создала первую электронную модель автопилота – А-5. Для усиления сигналов гироскопа были использованы вакуумные трубки. В результате А-5 смог работать на более высоких скоростях, так как быстрее реагировал на изменения среды и корректировал параметры полета. Этот самолет был способен улавливать малейшие изменения в ускорении. В сочетании с новыми прицелами для бомбометания электронный автопилот сыграл выдающуюся роль в успехе воздушной кампании, которую вели союзники во время Второй мировой войны.

В сентябре 1947 года командование американскими ВВС провело экспериментальный полет, показавший фантастические возможности автопилотов. Военный летчик-испытатель Томас Уэллс вывел на старт в Ньюфаундленде транспортный самолет С-54 Skymaster[14] с семью членами экипажа на борту. После этого Уэллс снял руки со штурвала, нажал кнопку автопилота и, как вспоминал позже один из членов экипажа, «откинулся на спинку кресла и сложил руки на коленях» [8]. Самолет самостоятельно взлетел, после чего автопилот отрегулировал положение закрылков и воздушных заслонок, а когда была набрана нужная высота, убрал шасси. Затем машина самостоятельно пересекла Атлантику, совершив при этом несколько запрограммированных последовательных маневров. Каждый элемент самолет выполнял по данным альтиметра. Экипажу заранее не сообщили ни о маршруте, ни о пункте назначения. Самолет прокладывал курс самостоятельно, ориентируясь на сигналы радиомаяков, установленных на суше и на военных кораблях в Атлантическом океане. На рассвете следующего дня С-54 долетел до берегов Англии. Самолет начал снижаться, выпустил шасси и превосходно выполнил посадку на полосу аэродрома. Капитан Уэллс снял руки с коленей, положил их на штурвал и вырулил самолет на стоянку.

Через несколько недель после этого полета в британском авиационном журнале Flight Journal появилась статья, оценивающая его значение. «Представляется неизбежным, – писал автор, – что новое поколение автопилотов сделает ненужным присутствие на борту штурманов, радистов и бортинженеров. Их заменят машины». Правда, для пилотов автор делает исключение. Их присутствие, во всяком случае в обозримом будущем, будет необходимо, но только для того, чтобы следить за индикаторами приборов и гарантировать нормальное протекание полета [9].

В 1988 году, через 40 лет после того, как С-54 на автопилоте пересек Атлантику, европейский аэрокосмический консорциум Airbus Industrie представил новый реактивный пассажирский самолет А-320, рассчитанный на 150 пассажиров. Лайнер был уменьшенной версией исходной модели А-300, но, в отличие от своего предшественника, вновь созданный самолет оказался подлинным чудом. Это был первый компьютеризированный коммерческий пассажирский лайнер. Самолет стал вестником кардинального изменения во всей гражданской авиации в ближайшем будущем. Ни Уайли Пост, ни Лоуренс Сперри не узнали бы панель управления нового самолета. В кабине не было никаких привычных циферблатов, стрелок навигационных приборов и органов управления. Вместо них на панели светились шесть экранов на катодных трубках, расположенных непосредственно под козырьком фонаря кабины. На мониторах пилоты видели текущие данные сети бортовых компьютеров.

Мониторы панели управления А-320 (стеклянная кабина, как назвали ее летчики) были не главной отличительной чертой нового самолета. Инженеры NASA за десять лет до представления А-320 внедрили использование электронно-лучевых экранов для слежения за полетной информацией, а производители реактивных пассажирских самолетов стали устанавливать их в пилотских кабинах начиная с конца 70х годов [10]. Цифровая система управления полетом – это принципиальное отличие А-320 от самолетов со времен машин братьев Райт [11]. До его создания система управления пассажирскими самолетами была в большей степени механической. Фюзеляжи и полости крыльев были набиты тросами, тягами, кабелями, блоками и шестернями, а также гидравлическими трубками, насосами и клапанами. Инструменты управления – ручка управления, рукоятка дроссельной заслонки и рулевые педали – были механическими системами, регулировавшими ориентацию направления движения и скорость самолета.

Для остановки велосипеда вы нажимаете ручной тормоз на руле, рычаг тормоза тянет тормозной трос, который, в свою очередь, сдавливает шарнирные рычаги, а они прижимают лапки тормоза к ободу шины. Вы таким образом подаете команду – остановиться – своей рукой, и тормозной механизм сообщает ее усилие к колесу. В подтверждение выполнения команды вы ощущаете сопротивление шарнира, давление лапок на обод колеса и уменьшение скорости. Приблизительно то же самое происходит, когда пилот управляет самолетом с помощью механических систем. Летчик становится частью машины, ощущая своим телом ее работу. Машина в этом случае является проводником воли пилота. Именно это, должно быть, имел в виду знаменитый летчик и писатель Антуан де Сент-Экзюпери, вспоминая свою работу в 20е годы на почтовых самолетах. Он писал: «Машина, которая, на первый взгляд, является средством отделения человека от природных неприятностей, на самом деле, еще сильнее его в них погружает» [12].

Автоматизированная система управления Airbus А-320 нарушила тактильную связь пилота с машиной. Между командой человека и системой самолета был поставлен цифровой компьютер. Действия пилота и его команды преобразовывались в электрический сигнал, передаваемый компьютеру, а он, следуя алгоритму, заложенному в программу, рассчитывал механические действия, необходимые для исполнения распоряжений пилота. После этого компьютер посылал собственные инструкции цифровым процессорам, которые уже непосредственно осуществляли управление движущими механизмами самолета. Одновременно с заменой механических действий пилота на электронное управление была полностью переоборудована панель управления. Массивная двуручная рукоятка, с помощью которой пилот тянул тросы и изменял давление в гидравлических системах, в А-320 была заменена расположенной справа от кресла пилота ручкой, перемещаемой одной рукой. Расположенные на передней панели кнопки под небольшими цифровыми жидкокристаллическими дисплеями позволяли пилоту набирать нужные значения скорости, высоты и курса, которые затем поступали на бортовые компьютеры самолета.

После введения в эксплуатацию Airbus А-320 история самолетов развивалась параллельно истории компьютеров. Каждое новое достижение цифровых технологий, электронных сенсоров и систем управления или усовершенствование дисплеев находило отражение в конструкциях пассажирских самолетов. В современных реактивных пассажирских лайнерах автопилот, поддерживающий устойчивость самолета в воздухе и ведущий его по заданному курсу, – это всего лишь одна из бортовых компьютерных систем. Автоматические заслонки регулируют мощность работы двигателей. Системы управления полетом принимают сигналы о положении машины в пространстве от датчиков GPS и других сенсоров и используют полученную информацию для прокладки или коррекции курса. Специальная система отслеживает в пространстве наличие других самолетов и траектории их движения. В небольших ящиках хранятся данные о параметрах полета – эти данные раньше записывались пилотами вручную. Есть специальные компьютеры, автоматически убирающие и выпускающие шасси, включающие и выключающие тормозные системы, регулирующие давление воздуха в кабине и салоне и выполняющие множество других функций. На больших цветных мониторах графически отображаются данные о работе электронных инструментов. В кабине мы видим обычные клавиатуры, колесики прокрутки и другие системы ввода информации. Консоль управления полетом можно теперь «считать огромным компьютерным интерфейсом» [13].

Что можно сказать о современных летчиках и летчицах, которые, уютно устроившись в кабинах, несутся сквозь воздушный океан, сопровождаемые призраками Сперри, Поста и Сент-Экзюпери? Нет нужды говорить, что работа пилотов коммерческих пассажирских авиалиний утратила всякую ауру романтики и дух приключений. Воздушный волк, бравший на себя штурвал и летавший не столько по приборам, сколько руководствуясь чувством и интуицией, стал фигурой, не имеющей никакого отношения к реальной жизни. Во время обычного пассажирского рейса пилот берет на себя управление на несколько минут – на две минуты во время взлета и на одну-две минуты во время посадки. Все остальное время пилот следит за экранами и вводит в компьютер необходимые данные. «Из мира, где автоматизация была инструментом, помогавшим пилоту справляться с нагрузкой, – замечает Билл Фосс, президент Фонда безопасности полетов (Flight Safety Foundation), – мы ушли в мир, где автоматы стали первичны, ибо они сами ведут самолет» [14]. Ученый и советник Федерального авиационного агентства (Federal Aviation Administration, FAA) Хемант Бхана пишет: «Как только автоматизация достигла определенного уровня сложности, роль пилота свелась к слежению и надзору за работой автоматов» [15]. Пилот гражданской авиации стал компьютерным оператором. В этом, по мнению многих ученых и специалистов, кроется большая проблема.

Лоуренс Сперри встретил смерть в 1923 году, когда его самолет упал в Ла-Манш. Уайли Пост умер в 1935 году после падения самолета на Аляске. Антуан де Сент-Экзюпери погиб в 1944 году – его самолет пропал над Средиземным морем. Преждевременная гибель была одним из аспектов профессионального риска пилотов в годы становления авиации. Романтика и героический ореол доставались дорогой ценой. Вместе с пилотами с удручающей частотой гибли и пассажиры. Когда в 20е годы пассажирская авиация стала самостоятельной отраслью, издатель американского авиационного журнала призывал правительство обратить самое пристальное внимание на безопасность полетов, заметив, что ежедневно происходят смертельно опасные катастрофы с людьми, которых перевозят по воздуху недостаточно опытные летчики [16].

Времена опасных полетов, по счастью, канули в Лету. Компьютеризация вместе с усовершенствованием конструкции самолетов, меры по обеспечению безопасности, осуществляемые авиакомпаниями, подготовка экипажей, регулирование воздушного движения внесли свой ощутимый вклад в резкое снижение числа несчастных случаев на воздушном транспорте за последние десятилетия. В США и других западных странах авиационные катастрофы стали исключительной редкостью. С 2002 по 2011 год американские авиакомпании перевезли 7 миллиардов пассажиров. Из них в авиакатастрофах погибли 153 человека. То есть двое погибших на один миллион человек. Для сравнения можно вспомнить, что с 1962 по 1971 год было перевезено 1,3 миллиарда, из которых в катастрофах погибли 1696 человек, 133 погибших на миллион пассажиров [17]. Однако к этим лучезарным фактам можно сделать весьма мрачную сноску. Профессор психологии из университета Джорджа Мейсона (George Mason University) Раджа Парасураман, один из признанных специалистов в области автоматизации, считает, что снижение общего числа авиационных катастроф маскирует появление аварий нового типа [18]. Пилоты, берущие на себя управление полетом в нештатных ситуациях при отказе бортовых компьютеров, часто совершают ошибки. Последствия, как в случае с самолетами Continental Connection и Air France, могут стать катастрофическими. За последние 30 лет десятки психологов, инженеров, специалистов по эргономике и экспертов по «человеческому фактору» изучали изменения возможностей человека при управлении полетом в результате компьютерной автоматизации. Ученые выяснили, что уверенность пилотов в надежности автоматики снижает их квалификацию, увеличивает время срабатывания рефлексов, ослабляет концентрацию внимания, и все это вместе приводит к деквалификации экипажа. Такой вывод сделал Джен Нойес, специалист по человеческому фактору из Бристольского университета (University of Bristol) [19].

Озабоченность непредсказуемыми побочными эффектами автоматизации полетов отнюдь не нова. Она появилась одновременно с внедрением стеклянных кабин и автоматов. В 1989 году в докладе исследовательского центра NASA говорилось, что по мере того, как за предыдущее десятилетие в самолетах стало увеличиваться число компьютеров, у исследователей возрастает беспокойство, так как замещение человеческих функций автоматическими устройствами может иметь неприятную оборотную сторону. Несмотря на все восторги, связанные с автоматизацией полетов, многие авиакомпании высказывали опасения, что пилоты могут впасть в зависимость от автоматов и это снизит квалификацию экипажей и их способность адекватно реагировать на текущую ситуацию [20].

Проведенные с тех пор исследования связали многие катастрофы с отказами автоматических систем и с ошибками экипажей во время работы в «ручном» режиме [21]. В 2010 году Федеральное авиационное агентство обнародовало предварительные данные большого исследования полетов за предыдущие десять лет. Они показали, что неадекватные действия пилотов стали причиной более чем двух третей всех авиационных катастроф. Летчики становятся рассеянными в результате работы с бортовыми компьютерами, перекладывая на них всю ответственность, считает ученый из FАА Кэти Эббот [22]. То же подтверждает и правительственный доклад о бортовой автоматизации в авиации, выпущенный в 2013 году [23].

Интересны исследования, проведенные Мэтью Ибботсоном, молодым специалистом по человеческому фактору из престижного британского Крэнфилдского университета (Cranfield University) [24]. Он нашел 66 опытных пилотов британских авиакомпаний и предложил каждому из них выполнить на тренажере опасный и трудный маневр – посадить Boeing-737 в плохую погоду и с горящим двигателем. Автоматизированные системы управления были отключены, и совершать посаду пришлось вручную. Часть пилотов безукоризненно справились с поставленной задачей, но остальные едва тянули на оценку «удовлетворительно». Ибботсон нашел строгую корреляцию между умением пилота обращаться с ручным управлением и количеством времени, в течение которого он управляет самолетом вручную, без помощи автоматики. Это доказало, что готовность пилотов управлять в нештатных ситуациях высока, если они применяли ручное управление в течение двух последних месяцев. Анализ данных выявил, что привычка к ручному управлению быстро утрачивается без практики. В частности, особенно уязвимым навыком Ибботсон называет способность пилота контролировать скорость воздушного судна. А это умение наиболее важно во многих опасных ситуациях.

В том, что автоматизация ухудшает способность пилотов управлять самолетом, нет ничего сверхъестественного. Так же, как и во многих других трудных профессиях, требуется сочетание психомоторных и когнитивных навыков, то есть обдуманных действий и активного, действенного, мышления. Пилот должен уметь безупречно работать инструментами, одновременно быстро и точно оценивать ситуацию и ее последствия. При этом, совершая сложнейшие ментальные и физические действия, он должен отчетливо замечать, что происходит вокруг, и отличать значимые сигналы от несущественных. Пилот не может позволить себе ни малейшей рассеянности, при этом у него не должно сужаться поле зрения. Овладение столь многогранными навыками немыслимо без упорной каждодневной практики. Начинающий пилот обычно испытывает затруднения при переходе от умственной работы к физическим действиям. Если возникает нештатная ситуация, он может отвлечься или растеряться и пропустить важное изменение в работе самолета.

Со временем, по мере повторения действий в тех или иных ситуациях, новичок приобретает уверенность в себе, реже делает паузы, а его движения становятся более точными и выверенными. По мере накопления опыта в мозгу возникают так называемые умозрительные модели (специализированные группы нейронов), которые позволяют ему распознавать закономерности складывающихся обстоятельств. Эти модели позволяют пилоту понимать все нюансы и реагировать на них интуитивно, не увязая в анализе ситуации. Со временем мысли и действия переходят друг в друга без остановки. Управление полетом становится второй натурой. Задолго до того, как ученые начали исследовать мозг пилотов, Уайли Пост[15] очень точно описал необходимые условия уверенного управления полетом. «Я летал, – говорил Пост в 1935 году, – без малейших умственных усилий, полагаясь на подсознание, которое безошибочно руководило всеми моими действиями» [25]. Пост не родился с такими способностями, они выработались у него в результате тяжкого труда.

Когда в самолетах появились компьютеры, изменились природа труда летчика и его нагрузки. Но бытие определяет сознание. По мере того как автоматы берут на себя физическое управление воздушным судном, человек освобождается от монотонного физического труда. Это смещение ответственности является все же благом. Внедрение автоматики уменьшает нагрузку на психику пилота, дает ему возможность сосредоточиться на когнитивных аспектах управления полетом. Но за все в жизни надо платить. Психомоторные навыки слабеют и утрачиваются, и это может сильно помешать пилоту в тех редких, но критических ситуациях, когда от него требуется взять управление и ответственность на себя. Пилоты начинают терять не только когнитивные, но и ментальные навыки.

Надо сказать, что и сами летчики всегда настороженно относились к отказу от ответственности в пользу машин. Во времена Первой мировой войны они по праву гордились своим мастерством маневрирования, проявленным в воздушных боях, и не желали иметь дело с автопилотами Сперри [26]. В 1959 году астронавты, участвовавшие в проекте «Меркурий», взбунтовались против планов Concours de la Scurit en Aroplane NASA убрать системы ручного управления из кабин космических кораблей [27]. Но сейчас озабоченность авиаторов стала еще сильнее. В рамках исследования Ибботсон опрашивал пилотов гражданской авиации, задавая им вопрос: «Влияет ли автоматизация на способность управлять самолетом?» Более трех четвертей опрошенных ответили, что «их мастерство деградировало», и лишь очень немногие говорили, что оно улучшилось [28]. В 2012 году, по данным Европейского агентства авиационной безопасности, 95 % опрошенных пилотов заявили, что «автоматизация подрывает основы летного мастерства» [29]. Рори Кей, капитан воздушного судна, проработавший много лет в авиакомпании United Airlines, занимающий ныне ведущий пост в отделе безопасности Ассоциации пилотов гражданской авиации, в интервью, данном в 2011 году агентству Associated Press, был весьма категоричен: «Мы забываем, как надо летать» [30].

Циники поспешат возразить, что за этими высказываниями кроется обыкновенный эгоизм – страх потерять работу в условиях тотальной автоматизации и перспектива уменьшения заработной платы. Надо признать, что в какой-то степени они правы. Шестьдесят лет назад в кабине экипажа предполагались места для пяти высокооплачиваемых и квалифицированных профессионалов: штурмана, радиста, бортинженера и двух пилотов. Должность радиста была упразднена в пятидесятые годы, когда радиосвязь стала более надежной, а работа с рацией перестала требовать серьезных навыков. Штурманы исчезли из кабин лайнеров в шестидесятые годы, когда их место заняли инерциальные системы навигации. Бортинженер сохранил свое место дольше. Его задачей было слежение за показаниями бортовых приборов и сообщение пилотам информации о функционировании механизмов машины. Должность начали упразднять в семидесятые годы с появлением «стеклянных панелей управления». После закона о приватизации авиакомпаний их собственники сделали все от них зависящее, чтобы сократить расходы, и для начала решили убрать из кабин бортинженеров, оставив там только двух пилотов – первого и второго. Последовала жестокая схватка с профсоюзами, желавшими сохранить для инженеров рабочие места. Эта битва продолжалась до 1981 года, когда президентская комиссия пришла к выводу о том, что для обеспечения безопасности пассажирских перевозок бортинженеры на гражданских воздушных судах не нужны. С тех пор экипаж, состоящий из двух человек, стал нормой. По крайней мере, пока. Некоторые эксперты, кивая в сторону армейских беспилотников, начинают говорить о том, что два пилота в кабине одного самолета – непозволительная роскошь [31]. «Наступает эра беспилотных лайнеров, – сказал на авиационной конференции в 2011 году заместитель директора компании Boeing Джеймс Элбо, – замена экипажей автоматами лишь вопрос времени» [32].

Распространение автоматизации в гражданской авиации сопровождалось неуклонным снижением оплаты труда пилотов. Если опытный командир реактивного гражданского самолета получает около 200 тысяч долларов в год, то новичок сейчас зарабатывает около 20 тысяч, а иногда даже меньше. Средняя начальная зарплата опытного пилота в основных авиакомпаниях составляет в среднем 36 тысяч долларов в год, что, по мнению журналиста The Wall Street Journal, «чертовски мало для среднего профессионала» [33]. Несмотря на такие скромные зарплаты, до сих пор бытует мнение, что пилотам платят громадные деньги. В статье, опубликованной на сайте Salary.com, автор называет пилотов гражданских лайнеров самыми «высокооплачиваемыми профессионалами» современной экономики [34].

Однако эгоизм пилотов, когда речь идет об автоматизации, оказывается намного глубже, чем забота о сохранении рабочих мест и заработной плате. И даже о собственной безопасности. Каждое технологическое новшество влияет на условия их работы и роль, которую они играют. Это, в свою очередь, меняет их взгляд на себя и то, как их оценивают другие. Речь идет о социальном статусе и самооценке. То есть для пилота, когда он говорит об автоматизации, дело касается не только техники, но и его автобиографии. Кто я – хозяин машины или ее слуга? Кем я являюсь в этом мире – актером или зрителем? Кто я – субъект или объект? «По сути дела, – пишет историк техники из Массачусетского технологического института Дэвид Минделл в своей книге “Digital Apollo” (“Цифровой Аполлон”), – это споры о контроле и автоматизации на воздушных судах и о значимости человека в сфере машин. В авиации, как и в любой отрасли человеческой деятельности, технологические перемены тесно переплетаются с переменами социальными» [35].

Пилоты всегда очень четко определяли отношение к своей профессии. В 1900 году Уилбур Райт писал Октаву Шанюту – другому пионеру авиации – о роли пилота: «В нашем деле главное – навык, а не механизмы» [36]. Это не простая банальность. Райт говорил о том, что уже тогда, на заре авиации, вышло на первый план – противоречие между возможностями машины и умением пилота.

Когда строились первые аэропланы, конструкторы много спорили о том, насколько машины должны быть устойчивы, то есть держать направление полета и высоту в любых условиях. На первый взгляд, может показаться, что чем больше устойчивость самолета, тем лучше, но в действительности это не так. Всегда должен быть разумный компромисс между устойчивостью и маневренностью. Как говорит Минделл: «Чем более устойчива машина, тем больше усилий требуется для того, чтобы вывести ее из равновесия. Значит, она становится менее управляемой. Верно и обратное утверждение: чем более управляемым и маневренным является самолет, тем менее он устойчив» [37]. Автор вышедшей в 1910 году книги о воздухоплавании писал о том, что вопрос об устойчивом равновесии «расколол авиаторов на два лагеря». По одну сторону баррикад находились те, кто утверждал, что равновесия следует добиваться любой ценой, оно должно быть автоматическим и система его сохранения встроена в конструкцию машины. С другой стороны располагались специалисты, считавшие, что «достижение равновесия в полете – это дело авиатора» [38].

Братья Уилбур и Орвил Райт находились во втором лагере. Они считали, что самолет должен быть неустойчивым, как велосипед и даже как «норовистая лошадь» [39]. В такой ситуации пилот имеет максимальную свободу действий. Братья Райт использовали открытые принципы в построенных ими самолетах, показывавших образцы маневренности, которая намного превосходила устойчивость. «То, что братья Райт изобрели на заре авиации, – говорит Минделл, – оказалось не просто самолетом, способным летать, это была сама идея аэроплана как динамичной машины, находящейся под контролем человека» [40]. Братья Райт проиграли спор о равновесии и устойчивости. Когда самолеты начали перевозить пассажиров и ценные грузы на дальние расстояния, свободу рук и виртуозное мастерство пилотов сочли вещами второстепенными. Главными целями стали безопасность и эффективность. Для того чтобы их достичь, пришлось ограничить поле самостоятельной деятельности пилотов. Этот переход был постепенным, но каждый раз техника завоевывала новые позиции, оттесняя пилотов на второй план. В статье, опубликованной в 1957 году, летчик, испытывавший истребители, по имени Джордж Робертс взволнованно писал о том, как автопилоты превращают членов экипажа всего лишь в дополнительный багаж. «Пилоту, – саркастически писал Робертс, – следовало бы поинтересоваться, оправдывает ли он финансово свой полет или нет» [41].

Однако все гироскопические, электромеханические, инструментальные и гидравлические инновации были лишь легким намеком на то, что принес с собой компьютер. Он изменил не только рисунок полета, но и характер автоматизации. Во многих современных пассажирских самолетах программа может даже аннулировать введенную команду пилота при выполнении экстренного маневра. За компьютером остается последнее слово. «Он не летал на самолетах, – говорил об Уайли Посте его второй пилот, – он был с ним одним целым» [42]. За последние несколько десятилетий авиация пережила коренную трансформацию. Состоялся переход от механических систем управления к цифровым; в самолетах становится все больше программ и мониторов, автоматизирующих физическую и умственную работу пилотов. Размывается само понятие профессии летчика. Все это суть проявления куда более глубокой трансформации, которую переживает в настоящее время все наше общество. «Стеклянную панель управления, – подчеркивает Дон Харрис, – можно считать прототипом мира, где компьютеры стали вездесущими» [43]. Положение пилотов демонстрирует противоречия между конструкциями автоматизированных систем и принципами, согласно которым работают тела и умы людей, пользующихся этими системами. Накапливающиеся данные об ослаблении навыков, притуплении восприятия и замедлении реакции должны заставить нас остановиться, взять паузу и осмотреться. Начиная жить в стеклянных кабинах, мы неизбежно столкнемся с тем, что уже давно известно летчикам: стеклянная кабина легко превращается в стеклянную клетку.

Глава четвертая. Эффект вырождения.

В книге британского философа Альфреда Норта Уайтхеда «An Introduction to Mathematics» («Введение в математику»),[16] которая вышла сто лет назад, говорилось: «Цивилизация совершенствуется по мере того, как увеличивается число операций, которые мы можем выполнять, не задумываясь». Уайтхед писал не о машинах. Он имел в виду использование математических символов для представления идей или логических процессов – это был ранний пример заключения в коды интеллектуального труда. Тем не менее Уайтхед намеревался обобщить свое наблюдение. «Распространенное представление, что мы должны культивировать привычку думать о том, что делаем, – писал он, – является глубоко ошибочным». Чем лучше мы будем освобождать свой ум от рутинных дел, поручая эти задачи техническим средствам, тем больше нашей умственной энергии сохранится для творческих типов мышления и построения гипотез. «Мыслительные операции можно уподобить кавалерийской атаке в сражении – кавалерия имеет ограниченную численность, требует свежих, отдохнувших лошадей, и применять ее можно и нужно только в решающие моменты» [1].

За этими словами Уайтхеда скрывается искренняя вера в автоматизацию и иерархию человеческих действий. Каждый раз, когда мы перепоручаем работу инструменту, машине, символу или алгоритму компьютерной программы, то освобождаем себя для восхождения к следующим вершинам, требующего большей изобретательности и интеллекта. Конечно, при каждом таком шаге вперед мы что-то теряем, но приобретаем гораздо больше. Доведенные до крайности представления Уайтхеда об автоматизации как о средстве освобождения превращаются в технологическую утопию Уайльда, Кейнса и Маркса – в мечту о том, что машины освободят нас от монотонного земного труда и вернут в Эдем, где мы сможем наслаждаться просвещенным бездельем. Однако Уайтхед не витает в облаках. Он дает практические рекомендации относительно того, на что надо тратить высвободившиеся силы и время. В семидесятые годы Министерство труда США опубликовало документ, в котором подытоживалась работа министров и было сказано: «Избавление работников от рутинных обязанностей позволяет им заняться более важными вещами» [2]. По мнению Уайтхеда, аналогичную роль играет и автоматизация.

История дает нам массу примеров, подтверждающих правоту Уайтхеда. Люди избавляются от монотонной рутины – физической и умственной, – сбрасывая ее на плечи различных орудий и приспособлений, начиная с изобретения рычага и колеса. Избавление от неблагодарного труда позволило нам энергично взяться за решение более сложных задач и добиться немыслимых ранее достижений. Это верно для сельского хозяйства, промышленности, науки и домашнего хозяйства. Но не стоит принимать рассуждения Уайтхеда за истину в последней инстанции. Он считал, что механизация приводила к монотонным, повторяющимся процессам: изготовлению тканей с помощью парового ткацкого станка, жатвы при использовании комбайна, умножению чисел с помощью логарифмической линейки. В наши дни автоматизация изменилась. Компьютеры можно программировать на выполнение сложнейших операций, состоящих из последовательности связанных между собой задач при одновременном учете множества переменных величин. Сегодня программы делают для нас интеллектуальную работу. Они наблюдают, анализируют и выносят суждение, а также принимают решения, что до недавних пор считалось исключительной прерогативой человека. Оператору, работающему на компьютере, оставлена роль высокотехнологичного клерка, вводящего данные, следящего за результатом работы и исправностью компьютера. Вместо того чтобы открывать новые горизонты мышления и творчества, автоматизация сужает наш кругозор. Наш ум, проницательность и уникальные дарования подменяются рутинными, неопределенными способностями.

Большинство из нас вслед за Уайтхедом считают автоматизацию благом, думают, будто она открывает перед нами более высокие цели, но в остальном нисколько не меняет наше поведение и мышление. Это заблуждение и самообман. Такое допущение нынешние специалисты по автоматизации называют «замещающим мифом». Устройства, сберегающие трудозатраты, не просто берут на себя какие-то отдельные компоненты рабочего процесса, а коренным образом меняют характер всей задачи целиком, включая роль и квалификацию людей, участвующих в ее решении. Доктор Раджа Парасураман, о котором говорилось выше, в 2000 году писал в одной журнальной статье: «Автоматизация не просто вытесняет человеческий труд, она видоизменяет его, причем так, как не желали и не предвидели создатели автоматических устройств» [3]. Автоматизация изменяет как труд, так и трудящегося.

Когда человек берется за решение какой-либо задачи с помощью компьютера, он может пасть жертвой двух когнитивных пороков: подчинения автомату и пристрастного отношения к автомату.

Подчинение автомату возникает, когда компьютер создает у нас ложное впечатление гарантированной безопасности. Мы так уверены в том, что машина при необходимости сработает безошибочно и справится с любой трудностью или нештатной ситуацией, что ослабляем внимание и перестаем следить за процессом. Мы отвлекаемся от работы или от той ее части, которую выполняет компьютерная программа, и в результате можем пропустить сигнал о каком-то неблагополучии. Многие из нас испытывали это подчинение при работе с компьютером. Например, мы невнимательно читаем написанный нами текст, если в компьютере есть программа исправления ошибок [4]. Это, конечно, мелкая погрешность, которая в худшем случае может вызвать у человека смущение. Но, как показывают приведенные нами примеры из авиации, такое подчинение машине может привести к трагическим, непоправимым последствиям. В самых крайних случаях компьютерной зависимости люди начинают настолько доверять технике, что теряют всякое представление о том, что происходит в реальности. Если внезапно возникает какая-то проблема, то она настолько ошеломляет человека, что он может растеряться, упустить драгоценное время и не справиться с ситуацией, так как не успевает в нее вникнуть.

Недопустимое подчинение автомату было документально зафиксировано во многих сопряженных с высоким риском ситуациях – будь то на полях сражений, в заводских цехах, на капитанских мостиках и в рубках надводных и подводных кораблей. Классический пример – авария океанского лайнера Royal Majesty с 1500 пассажирами на борту. Весной 1995 года судно шло от Бермудских островов в Бостон, завершая недельный круиз. Оно было оснащено суперсовременным навигационным оборудованием, в котором для прокладки курса использовали систему GPS. Через час после выхода из Бермудского порта был поврежден кабель антенны GPS и, как следствие, отказала навигационная система. На компьютерных экранах продолжала появляться какая-то абсолютно недостоверная информация. В течение 30 часов, пока корабль медленно, но верно отклонялся от заданного курса, ни капитан, ни экипаж не замечали возникшей проблемы, несмотря на то что были явные признаки выхода из строя системы навигации. В определенный момент вахтенный офицер не увидел сигнальный буй, мимо которого должно было в тот момент проследовать судно. Но вахтенный не доложил капитану об этом факте, решив, что просто пропустил буй, не заметив его. Пройдя еще 20 миль, корабль сел на мель у берега Нантакета. По счастью, никто из пассажиров не пострадал, но круизная компания понесла миллионные убытки. Правительственная комиссия пришла к выводу, что причиной несчастного случая стало подчинение автоматам. Команда судна «слепо положилась» на автоматизированную систему, причем до такой степени, что проигнорировала показания других навигационных средств и «визуальную информацию», которая четко говорила о том, что судно сбилось с курса. Члены комиссии пришли к выводу, что автоматические системы лишили моряков возможности осмысленного и активного участия в управлении судном [5].

Покорность автоматам может поразить не только людей, бороздящих морские и воздушные просторы, но и офисных работников. В исследовании, посвященном влиянию проектных программ на качество строительства, социолог из Массачусетского технологического института Шерри Теркл документально показала связанное с компьютеризацией изменение внимания архитекторов к деталям проектов. Если план здания выполнен от руки, то архитекторы проверяют и перепроверяют его, прежде чем передать строителям. Все прекрасно понимают, что человеку свойственно ошибаться, и поэтому следуют старому, мудрому принципу – семь раз отмерь, один раз отрежь. Если же план выполнен компьютером по заданной программе, то специалисты проверяют его не так придирчиво. Очевидная точность работы программ при расчетах приводит к тому, что эти данные заранее считают верными. «Я хочу сказать, что с моей стороны было бы большой самонадеянностью проверять работу компьютера, – сказала Шерри Теркл. – Он в тысячу раз превосходит меня в точности, выполняя расчеты с погрешностью до сотых долей дюйма». Такая слепая уверенность, характерная для многих инженеров и строителей, не раз приводила к дорогостоящим ошибкам в проектировании и строительстве. Компьютеры не делают глупостей, убаюкиваем мы себя, хотя прекрасно знаем, что качество их работы зависит от качества введенных человеком данных. «Чем совершеннее компьютерная система, – отмечает один из сотрудников Теркл, – тем больше уверенность в том, что она исправит ваши ошибки, и вы начинаете доверять всему, что появляется на экранах и в распечатках. Это какое-то животное чувство» [6].

Пристрастность к компьютерным данным – это оборотная сторона подчинения. Она возникает, когда люди придают неоправданное значение высвечивающейся на экране монитора информации. Даже если она неверна или вводит в заблуждение, люди все равно склонны ей верить. Уверенность в программном обеспечении оказывается настолько сильной, что мы игнорируем или отбрасываем другие источники информации, включая собственные суждения. Если вам когда-нибудь приходилось блуждать по незнакомому району, следуя указаниям неисправного или устаревшего GPS, то, значит, вы тоже пали жертвой пристрастия к данным автоматики. Даже люди, зарабатывающие на жизнь вождением автомобиля, часто проявляют поразительное отсутствие здравого смысла, полагаясь на спутниковые навигационные системы. Игнорируя дорожные знаки и другие значимые признаки, они выбирают опасные маршруты и порой врезаются в низкие эстакады или запутываются в узких улочках маленьких городков. В 2008 году в Сиэтле водитель автобуса высотой в 12 футов (около 4 метров), перевозившего школьную спортивную команду, врезался в пролет моста высотой в 9 футов. Крышу автобуса снесло от удара, в больницу с травмами попал 21 человек. В полиции водитель сказал, что следовал инструкциям навигатора и «не видел» знаки и предупреждающие сигналы о низком мосте [7].

Пристрастное отношение к компьютерным данным особенно рискованно для людей, принимающих решения на основании аналитических и диагностических компьютерных рекомендаций. С конца девяностых рентгенологи стали использовать программное обеспечение для выявления подозрительных очагов, обнаруженных при маммографии и других рентгенологических исследованиях. Цифровая версия изображения передается в компьютер, программа анализирует его и стрелками указывает врачу области рентгенограммы, на которые следует обратить особенно пристальное внимание. В некоторых случаях такие подсказки действительно способствуют верной диагностике, помогая врачу идентифицировать потенциальный рак в случаях, когда иначе он мог бы пропустить опасное заболевание. Проведенные на эту тему исследования показали, однако, что иногда такие подсказки производили абсолютно противоположный эффект. Идя на поводу у машины, врач лишь бегло осматривает другие области снимка и иногда пропускает угрожающую жизни больного опухоль или иную патологию. Подсказки увеличивают частоту ложноположительных результатов интерпретации снимков, приводящей к ненужным биопсиям.

Проведенный недавно группой специалистов Лондонского университета (University of London) анализ данных маммографий указывает на то, что пристрастное отношение рентгенологов и других специалистов по методам визуализации к компьютерным данным оказывает большее влияние на качество диагностики, чем думали раньше. Ученые обнаружили, что, в то время как компьютерная диагностика повышает надежность работы недостаточно опытных специалистов в выявлении сравнительно простых случаев, она же может подвести опытного рентгенолога при оценке сложных случаев. Полагаясь на программу, специалисты с довольно большой вероятностью пропускают некоторые типы рака [8]. Скрытое пристрастие к автоматизации принятия решений может быть обусловлено врожденным свойством когнитивных систем человеческого мозга реагировать на необычные и тревожные стимулы [9]. Направляя наше внимание в определенное русло, компьютерные подсказки искажают зрительное восприятие снимка.

Подчинение и пристрастие в отношении компьютерных данных и автоматизации вообще порождаются ограниченностью нашей способности концентрировать внимание. Тенденция к подчинению говорит о том, насколько легко исчезает наша сосредоточенность и осознание происходящего, когда отпадает необходимость непосредственного взаимодействия с окружающей реальностью. Склонность к пристрастному отношению в оценке компьютерной информации показывает, что внимание сосредоточивается выборочно и его объект может легко смещаться под влиянием достойных доверия подсказок, даже если они оказались ложными. Пристрастие становится все больше по мере того, как повышается надежность и качество автоматизированных систем [10]. Эксперименты показывают, что если система регулярно совершает ошибки, то мы сохраняем бдительность, следя за ее работой, проверяя ее сравнением данных с информацией, полученной из других источников. Но, если система надежна и редко отказывает, мы становимся ленивыми и нелюбопытными, убеждаясь в ее непогрешимости.

Так как автоматика в подавляющем большинстве случаев работает нормально даже тогда, когда мы перестаем за ней следить, мы редко расплачиваемся за подчинение и пристрастие. Это усложняет проблему, как отметил Парасураман в написанной в 2010 году совместно со своим немецким коллегой Дитрихом Манцем статье: «Учитывая высокую надежность автоматизированных систем, даже подчиненное и крайне пристрастное поведение редко приводит к неблагоприятным последствиям, – пишут ученые. – Отсутствие отрицательной обратной связи ведет к когнитивному процессу, который напоминает “приобретенную беззаботность”» [11]. Представьте себе, что вы ведете машину, испытывая сильную сонливость. Если вы начнете клевать носом и выпадете из своего ряда, то либо вы налетите на бордюр, либо въедете на разграничительную полосу, либо услышите сигнал рассерженного водителя следующей сзади машины. В любом случае вы немедленно проснетесь. Если же ваш автомобиль снабжен автоматическим устройством, следящим за разметкой на дороге, то вы проигнорируете эти предупреждающие сигналы и погрузитесь в еще более глубокий сон. Если произойдет что-то неожиданное – на дорогу выбежит какое-нибудь животное или перед вами внезапно резко остановится едущий впереди автомобиль – то вы, скорее всего, попадете в серьезное ДТП. Избавляя нас от отрицательной обратной связи, автоматизация притупляет бдительность, и мы все больше и больше отключаемся от реальности.

Наша подверженность подчинению и пристрастию позволяет объяснить, как вера в автоматизацию может привести к ошибкам – активным и пассивным. То есть мы либо действуем, полагаясь на неверную или неполную информацию, либо не видим важных вещей. Однако доверие, которое ослабляет внимательность, указывает и на более коварную проблему. Автоматизация превращает нас из актеров в зрителей. Вместо того чтобы работать штурвалом, мы следим за монитором. Это смещение делает нашу жизнь проще, но подавляет способность обучаться и приобретать опыт. Не важно, улучшает или ухудшает автоматизация выполнение определенной задачи, но в долгосрочной перспективе она может ослабить существующие навыки и воспрепятствовать усвоению новых.

С конца семидесятых годов специалисты по когнитивной психологии занимаются феноменом, называемым «эффектом порождения». Впервые он был выявлен при работе с активным словарем. Психологи тогда показали, что люди намного лучше запоминают слова, если активно их осмысливают, нежели когда читают с листа. В ранних опытах, проведенных психологом из университета Торонто Норманом Сламечкой, людей просили запоминать пары антонимов, написанных на двух сторонах карточки, например слова горячий и холодный. Некоторым испытуемым давали карточки, на которых слова были написаны полностью. Например, так:

ГОРЯЧИЙ – ХОЛОДНЫЙ.

Другим испытуемым давали карточки, где второе слово было представлено одной только первой буквой. Например, так:

ГОРЯЧИЙ – Г.

Испытуемые, получавшие карточки второго типа, при проверке запоминания показывали намного лучшие результаты. Им приходилось прикладывать усилие для того, чтобы восполнять недостающие буквы, то есть они действовали, а не просто наблюдали, а это приводило к более надежному сохранению информации [12].

С тех пор стало ясно, что эффект порождения влияет на память и обучение в разнообразных ситуациях. Эксперименты позволили выявить его значимость в упражнениях, которые требуют не только запоминания букв и слов, но и запоминания чисел, изображений и звуков, например, при решении математических задач и ответах на простые вопросы. Недавние исследования также показали значимость эффекта порождения в более сложных формах преподавания и обучения. В опубликованной в 2011 году в журнале Science статье было показано, что студенты, прочитавшие сложное задание, а затем пытавшиеся его припомнить без посторонней помощи, усваивали материал лучше, чем те, кто просто четыре раза перечитывал это задание [13]. Умственное напряжение улучшает способность человека к деятельности, требующей, по мнению психолога Бритти Хогана Чена, концептуального мышления и глубокого когнитивного осмысления. «В самом деле, – говорит Чен, – эффект порождения усиливается по мере того, как становится более сложным материал, порождаемый сознанием» [14].

Психологи и нейрофизиологи до сих пор стараются понять, что происходит в нашем мозгу, когда возникает эффект порождения. Ясно только одно – в этот феномен вовлечены два вида процессов: глубинные когнитивные и запоминание информации. Если мы, не жалея сил, над чем-то работаем и уделяем этому предмету массу внимания, то разум вознаграждает нас глубоким пониманием изучаемого предмета. Со временем мы приобретаем умения и навыки, способность действовать быстро и целенаправленно, без напряжения ориентироваться в окружающем мире. Едва ли это может нас удивить. Большинство людей прекрасно знают, что овладеть навыком какого-либо действия можно только в том случае, если постоянно его повторять. Очень легко быстро собрать информацию с компьютерного экрана или почерпнуть ее из книги, но истинное знание, особенно такое, которое откладывается глубоко в памяти и проявляется потом как навык, дается с куда большим трудом. Оно требует энергичной и долгой борьбы с задачей и самим собой.

Австралийские психологи Саймон Фаррелл и Стивен Левандовский попытались установить связь между автоматизацией и эффектом порождения в статье, опубликованной в 2000 году. «В эксперименте Сламечки, – подчеркнули авторы, – показ второго слова в паре антонимов вместо первой буквы, которая заставляет человека думать, можно считать частным случаем автоматизации, потому что активность человека, порождение слова „холодный”, подавляется напечатанным стимулом». Расширяя понятие, можно сказать, что ухудшение качества деятельности, каковое мы наблюдаем при замене порождения простым чтением, можно считать проявлением подчинения автомату [15]. Такие работы позволяют выявить и оценить когнитивную цену автоматизации. Когда мы решаем задачу или выполняем работу сами, в нашем мозгу включаются процессы, отличающиеся от тех, что вовлечены в решение задачи или выполнение работы с помощью компьютера. Если компьютер уменьшает нашу вовлеченность в работу, отводит пассивную роль наблюдателя, то мы избавляемся от сознательной обработки информации, а именно она и производит эффект порождения. В результате снижается наша способность получать богатое знание о реальности, которое одно только приводит к формированию полезных, прочно усвоенных навыков. Эффект порождения требует борьбы, которую исключает автоматизация.

В 2004 году специалист по когнитивной психологии из Утрехтского университета (Universiteit Utrecht) в Нидерландах Кристоф ван Нимвеген провел серию простых, но изящных экспериментов, исследуя влияние компьютерных программ на формирование памяти и приобретение опыта [16]. Ван Нимвеген набрал две группы людей и предложил им поиграть в компьютерную игру, основанную на классической логической задаче о миссионерах и людоедах. Чтобы справиться с задачей, играющим надо было переправить через виртуальную реку пять миссионеров и пять людоедов (или, по версии Нимвегена, пять желтых шаров и пять синих), используя для этого лодку, вмещающую не больше трех пассажиров. Самой сложной частью задачи было условие, по которому ни на берегу, ни в лодке, количество людоедов не должно превышать количество миссионеров (надо полагать, для того чтобы людоеды не съели миссионеров). Подсчет минимального количества рейсов, необходимого для безопасной перевозки пассажиров, требует сложного анализа и тщательного планирования.

Одна из групп ван Нимвегена работала над задачей, пользуясь компьютерной программой, которая поэтапно предлагала подсказки, указывая, какие комбинации допустимы, а какие – нет. Другая группа пользовалась обычной программой, которая никак не помогала играющим. Как вы уже догадываетесь, те, кто работал с усовершенствованной программой, на первых порах справлялись с задачей быстрее, чем остальные. Испытуемые первой группы следовали подсказкам, а не делали паузы перед каждым ходом, соображая, как разместить пассажиров в следующем рейсе. Но по ходу игры те, кто пользовался простой программой, стал обгонять участников первой группы. Более того, к концу игроки второй группы стали работать с задачей более эффективно, чем в первой группе, совершая меньше ошибок. В отчете об эксперименте ван Нимвеген писал, что испытуемые, использовавшие простую программу, овладели более глубоким концептуальным пониманием задачи. Они лучше продумывали будущие действия и разрабатывали более удачную стратегию. Те же, кто полагался на компьютерную программу, часто терялись и просто бесцельно нажимали на клавиши.

Когнитивная цена использования подсказывающей программы стала еще более отчетливой, когда восемь месяцев спустя ван Нимвеген повторил опыт с участием тех же людей. Те, кто в первой игре пользовался упрощенной программой, справились с головоломкой в два раза быстрее, чем испытуемые первой группы. Испытуемые, использовавшие простую программу, писал ван Нимвеген, демонстрировали большую сосредоточенность во время решения задачи и к тому же лучше запомнили стратегию игры. То есть испытуемые второй группы воспользовались плодами эффекта порождения. Ван Нимвеген и некоторые его коллеги из Утрехтского университета провели затем серию других экспериментов, в которых решались более реалистические задачи. Например, с помощью календарной программы планирования встреч и мероприятий распределяли выступающих по аудиториям. Результаты были такими же. Те, кто полагался на компьютерную программу, демонстрировали недостаточное стратегическое мышление, совершали много лишних действий и слабо понимали концептуальные аспекты задачи. Те же, кто пользовался простыми программами, работали с большим пониманием и быстрее обучались [17].

Ван Нимвеген показал в своей лаборатории, что при автоматизации решения задач мы нарушаем способность мозга переводить информацию в знание, а знание – в твердо усвоенные навыки. Мы хорошо это видим и в реальном мире. На многих предприятиях менеджеры и другие специалисты зависят от так называемых экспертных систем, которые сортируют и анализируют информацию, а затем предлагают определенные действия. Бухгалтеры, например, пользуются компьютерными программами для корпоративного аудита. Такие компьютерные приложения, конечно, ускоряют работу, но уже сейчас становится очевидным, что по мере усложнения программ бухгалтеры неуклонно теряют квалификацию. В одном исследовании, проведенном группой австралийских профессоров, были изучены эффекты применения экспертной системы в трех международных бухгалтерских фирмах. В двух компаниях использовались усовершенствованные системы – на основании ответов бухгалтера на вопросы о клиенте машина выдавала заключение о рисках, которые надо было включить в документы о проведении аудита. Третья фирма использовала простые программы, где был представлен список потенциальных рисков, но бухгалтер должен был сам просматривать его и самостоятельно выбирать нужные пункты для пакета документов. Ученые устроили бухгалтерам всех трех аудиторских фирм экзамен, чтобы выяснить уровень знания рисков в тех отраслях, где они проводили аудит. Выяснилось, что специалисты фирмы с худшим программным обеспечением обладают значительно более глубоким пониманием различных форм риска, чем бухгалтеры двух других фирм. Снижение квалификации, обусловленное современным программным обеспечением, характерно даже для опытных аудиторов, проработавших в профессии больше пяти лет [18].

Другие исследования разнообразных компьютерных экспертных систем подтвердили, что программы, облегчающие принятие решений, могут в краткосрочной перспективе помочь новичку принять верное решение, но одновременно приводят к лености ума. Избавляя специалистов от необходимости напрягать ум, компьютеры подавляют у них способность надежно усваивать информацию и запоминать ее, а такое запоминание необходимо для формирования серьезного опыта [19]. Недостатки средств автоматизированного принятия решений могут быть незаметными, но они влекут за собой реальные неблагоприятные последствия, особенно в тех отраслях, где аналитические ошибки могут стать причиной несчастного случая. Неверный расчет риска в сочетании с быстродействующими компьютерными программами торгов едва не привел к краху мировой финансовой системы в 2008 году. По мнению преподавателя управления из университета Тафта Амара Биде, «роботизированные методы» принятия решений способствует распространению среди банкиров и других профи Уолл-стрит дефицита способности выносить самостоятельные суждения [20]. Конечно, невозможно точно определить роль, которую автоматизация сыграла в этой финансовой катастрофе или в последующих биржевых неудачах, подобных «мгновенному краху» 2010 года на американской фондовой бирже. Но нам кажется, что надо всерьез принять меры, ограничивающие чрезмерное применение современных технологий, так как это может привести к деградации знания или к ухудшению способности к самостоятельным суждениям у людей, занятых в соответствующих отраслях. В вышедшей в 2013 году статье специалисты по программному обеспечению Гордон Бакстер и Джон Картлидж предупредили о том, что ставка на автоматизацию приводит к снижению квалификации финансистов так же, как компьютерная система торговли повышает риски на финансовых рынках [21].

Некоторые программисты выражают озабоченность тем, что их усилия по облегчению мышления могут стать похоронным звоном по их собственной квалификации. Современные специалисты часто используют приложения, называемые интегрированными областями разработки программ. Эти приложения помогают составлять программные коды, а также автоматизируют некоторые трудоемкие и требующие больших затрат времени этапы программирования. Они могут завершать процесс, исправлять ошибки, отлаживать программу, а самые современные приложения способны даже менять внутреннюю структуру программного кода, осуществлять так называемый рефакторинг.[17].

Но из-за того, что программа берет на себя труд кодирования, программист теряет возможность оттачивать мастерство и совершенствовать свой талант. «Современные интегрированные области разработки становятся такими „полезными”, что я порой ощущаю себя оператором этой среды, а не программистом, – пишет Вивек Хальдар, опытный разработчик программного обеспечения из Google. – Все эти инструменты не побуждают программиста обдумать код и тщательно его написать, они позволяют накропать черновой вариант и запустить его, а инструменты сами выяснят, что в этом варианте не так, и автоматически его улучшат». Вердикт Хальдара: «Умный инструмент – тупой мозг!» [22].

Google признаёт, что создание чутких и заботливых поисковых систем, способных предсказать, что люди ищут, оказывает на публику оглупляющее влияние. Программы Google не просто исправляют опечатки, они предлагают варианты терминов и слов в процессе их печати, распутывают семантические двусмысленности в запросах и предвосхищают наши потребности, основываясь на их прежней истории и на местонахождении человека. Можно допустить, что они делают полезное дело, облегчая наш поиск, и нам надо учиться на этом примере.

По мнению разработчиков, это заставит нас более четко формулировать запрос, лучше подбирать ключевые слова и вообще вести поиск более грамотно. Но на самом деле, со слов инженера-исследователя фирмы Амита Сингхала, эффект оказался противоположным. В 2013 году корреспондент лондонской газеты Observer взял интервью у Сингхала[18] и поинтересовался улучшениями и усовершенствованиями поисковика на протяжении последних лет. «Можно предположить, – заметил журналист, – что мы становимся более грамотными и требовательными потребителями, если пользуемся поисковой системой Google». Сингхал вздохнул и устало поправил журналиста: «На самом деле, все обстоит совсем не так. Чем лучше работает машина, тем более неряшливыми становятся запросы» [23].

Легкость поиска может ухудшить не только нашу способность грамотно оформлять запрос. Серия экспериментов, о которых писал в 2011 году журнал Science, указывает на то, что легкость получения информации в интернете ослабляет способность запоминать факты. В одном из этих экспериментов испытуемым предлагали прочитать полдюжины простых утверждений, например «глаза страуса больше, чем его мозг», а затем напечатать их на компьютере. Половине испытуемых сказали, что компьютер сохранит то, что они напечатали. Другой половине сказали, что напечатанное будет стерто. После этого всем испытуемым было предложено записать все утверждения, какие они смогут вспомнить. Те, кто был уверен, что написанное ими сохранится в памяти компьютера, показали худшие результаты в сравнении с теми, кто считал, что введенные данные будут стерты. Даже одно знание того, что информация сохранится в базе данных, снижало вероятность того, что мозг сделает усилие, чтобы надежно ее запомнить. «Так как поисковая система теперь все время в нашем распоряжении, мы часто не чувствуем необходимости кодировать информацию в долговременной памяти, – заключили ученые. – Если она нам понадобится, мы в любой момент ее найдем» [24].

В течение тысячелетий люди старались возместить недостатки биологической памяти с помощью технологий сохранения информации – в виде свитков, книг, микропленок и магнитных лент. Инструменты записи и распространения информации – это столпы цивилизации. Но внешние хранилища и внутренняя память – это отнюдь не одно и то же. Знание – это не просто умение найти нужную информацию; оно требует кодирования фактов и опыта в личной памяти. Для того чтобы знать, надо вплести эту информацию в личные нейронные сети, откуда ее можно регулярно извлекать для повторного использования. Получив в свое распоряжение поисковые системы и другие сетевые ресурсы, мы автоматизировали хранение и извлечение информации до такой степени, которая и не снилась прошлым поколениям. Врожденная склонность мозга к снижению нагрузки, или к экстернализации запоминания, в какой-то степени делает нас более эффективными мыслителями. Мы можем быстро найти факты, ускользнувшие из нашей памяти. Но та же склонность может стать патологической, если автоматизация умственного труда позволяет легко избегать напряжения, связанного с запоминанием и пониманием.

Google и другие компании, создающие программное обеспечение, конечно, хотят максимально облегчить нам жизнь. Именно об этом мы их просим, и именно за это мы им благодарны. Но, по мере того как их программы становятся все более изощренными, они начинают за нас думать, мы все меньше и меньше полагаемся на свой ум и все в большей степени рассчитываем на них. Мы все реже и реже подгоняем свой ум. При этом ухудшается процесс обучения. Мы теряем наши способности. Как заметил специалист по компьютерным технологиям из Техасского университета (University of Texas) Михай Надин: «Чем больше компьютерный интерфейс заменяет человеческое усилие, тем ниже становится приспособляемость пользователя к новым ситуациям» [25]. Вместо эффекта порождения компьютерная автоматизация награждает нас чем-то противоположным – эффектом вырождения.

Теперь проявите немного терпения. Мы сейчас вернемся к злополучной щегольски желтой Subaru с механической коробкой передач. Как вы помните, мне потребовалось несколько недель практики, чтобы перестать жечь сцепление и научиться мастерски пользоваться ручкой переключения передач. Движения рук и ног, которые папа бегло мне показал, стали практически инстинктивными. Я, конечно, не стал виртуозным водителем, но переключение передач перестало быть мучительной борьбой. Я начал действовать автоматически.

Мой опыт – это модель того, как люди усваивают сложные навыки. Мы часто начинаем с некоторых основополагающих инструкций, полученных непосредственно от учителя или наставника или косвенно – из книг, учебников или из видеоролика на YouTube. Эти инструкции становятся в нашем сознании эксплицитным знанием о том, как выполняется та или иная задача: делай раз, делай два, делай три. Именно такую инструкцию дал мне отец, когда объяснил положения ручки переключения передач и то, когда и как надо отжимать сцепление. Как я вскоре убедился, эксплицитное знание – это пустое знание, особенно если задача имеет не только когнитивную, но и психомоторную составляющую. Чтобы овладеть мастерством, надо приобрести молчаливое знание, а оно приходит только с реальным опытом, то есть после многочисленных повторений требуемых действий. Чем больше вы практикуетесь, тем меньше думаете о том, что именно вы делаете. Ответственность за выполнение работы передается от сознающего разума, который работает медленно и с остановками, к уму подсознательному, который работает быстро и плавно. Когда это происходит, сознающий разум освобождается и может сконцентрироваться на более сложных аспектах навыка, а когда и они становятся автоматическими, вы переходите на следующий, еще более высокий уровень. Постоянное движение вперед, подталкивание к решению все более сложных задач (при условии, что у вас есть хоть небольшая врожденная способность) вознаграждает приобретением практически инстинктивного навыка и истинного опыта.

Процесс приобретения навыка, в ходе которого задача выполняется без участия сознания, называется весьма двусмысленным термином автоматизация, или еще более нескладным словом процедурализация. Автоматизация в этом смысле включает в себя глубинные и обширные адаптационные процессы, происходящие в головном мозге. Определенные клетки мозга – нейроны – настраиваются на выполнение наличной задачи. Вовлеченные в этот процесс сети нейронов функционируют слаженно и согласованно, передавая друг другу электрохимические сигналы с помощью синапсов. Специалист по когнитивной психологии из Нью-Йоркского университета (New York University, NYU) Гэри Маркус предлагает более подробное объяснение: «На уровне нервной системы процедурализация состоит из широкого набора в высшей степени согласованных процессов, в которые вовлекается как серое вещество (тела нейронов), так и белое вещество (аксоны и дендриты, посредством которых соединяются между собой нервные клетки). Существующие соединения между нейронами (синапсы) становятся более эффективными, могут формироваться новые дендриты, а в нервных клетках начинают синтезироваться необходимые белки» [26]. При модификации нейронов в процессе автоматизации и в мозге возникает автоматизм – способность к быстрому подсознательному восприятию, его интерпретации и действию. Автоматизм позволяет нервной системе и телу распознавать образы и мгновенно реагировать на изменяющуюся ситуацию.

Все мы познаём на собственном опыте, что такое автоматизация в физиологическом смысле, и достигаем автоматизма, когда учимся читать. Посмотрите на ребенка, когда он получает первые инструкции о том, как надо это делать, и вы увидите нешуточную борьбу. Ребенок учится узнавать каждую букву по ее очертанию. Затем он должен понять, как, соединяясь между собой, буквы образуют слоги и как слоги, соединяясь, образуют слова. Если ребенок не знает слова, то он должен либо угадать значение, либо узнать его от взрослых. После этого, слово за словом, ребенок учится интерпретировать значение предложений, часто преодолевая одновременно двусмысленности, присущие языку. Это очень медленный и мучительный процесс, требующий полного внимания со стороны разума. Со временем, однако, буквы, а потом и слова кодируются в нейронных сетях зрительной коры – части мозга, отвечающей за зрение, и юный читатель начинает распознавать их без сознательного осмысления. Благодаря этим изменениям в мозге чтение начинает даваться ребенку без усилий. Чем большего автоматизма добивается ребенок, тем более беглым и эффективным становится чтение [27].

Будь это Уайли Пост в кабине самолета, Серена Уильямс на теннисном корте или Магнус Карлсен за шахматной доской – их сверхъестественный талант есть результат развития автоматизма. То, что можно принять за врожденные способности, на самом деле является навыками, добытыми тяжким трудом. Эти изменения в мозгу невозможны при одном только пассивном наблюдении. Они порождаются повторными столкновениями с неожиданностями. По определению Губерта Дрейфуса, американского философа, профессора Университета Беркли (The University of California, Berkeley), это «опыт переживания разнообразных ситуаций, рассматриваемых с одной и той же точки зрения, но требующих разных тактических решений» [28]. Без практики, без множества повторений одних и тех же действий в различных ситуациях вы никогда не добьетесь ничего действительно стоящего и никогда не овладеете чем-то по-настоящему сложным. И любой талант без практики ржавеет и деградирует.

Сейчас очень популярным стало мнение о том, что практика – это все, что требуется человеку. Поработайте над новым навыком десять тысяч часов или около того, и Бог благословит вас опытом, – вы станете блестящим шеф-поваром или звездой футбола. К сожалению, это преувеличение. Генетическая предрасположенность, как физическая, так и ментальная, имеет большое значение в развитии таланта, особенно на высших ступенях мастерства. Природа играет свою роль, и мы никуда от этого не денемся. Даже наше стремление и склонность к практике, считает Маркус, имеют генетическую составляющую: «То, как мы реагируем на опыт, и даже то, какого опыта мы ищем, есть часть функции генов, с которыми мы родились» [29]. Но если гены приблизительно устанавливают верхнюю границу индивидуального таланта, то только практикой человек может ее достичь и полностью использовать свой врожденный потенциал. «В то время как врожденные способности сильно различаются у разных людей, – пишут профессора-психологи Дэвид Хэмбрик и Элизабет Майнц, – исследователи не сомневаются, что одним из самых больших источников индивидуальных различий в способности выполнять сложные задачи является качество и количество знания. Декларативное, процедурное и стратегическое знания приобретаются годами тренировки и практики в избранной области» [30].

Интериоризированная автоматизация – это способ превращения регулярно повторяющейся работы в высокие результаты деятельности человека. Физические действия программируются в мышечной памяти; интерпретации и суждения выполняются с помощью мгновенного распознавания образов окружающего мира и их оценки органами чувств. Сознающий разум, как уже давно установили ученые, удивительно неуклюж. Его способность воспринимать и обрабатывать информацию сильно ограничена. Без автоматизма наше сознание было бы вечно перегружено. Для нас очень сильно напрягало бы совершение даже простейших действий, например прочесть предложение в книге или отрезать с помощью ножа и вилки кусок мяса. Автоматизм дает нам больше простора для мышления. Он увеличивает (если немного подправить наблюдение Альфреда Норта Уайтхеда) число операций, которые мы можем выполнять, не задумываясь.

Инструменты и другие технологические изобретения – в своих лучших образцах – делают приблизительно то же самое, о чем и говорил Уайтхед. Однако способность мозга к автоматизации не безгранична. Наше подсознание может быстро и эффективно выполнять множество функций, но все же и оно не всемогуще. Вы можете запомнить таблицу умножения до двенадцати и, возможно, даже до двадцати, но дальше наверняка возникнут большие трудности. Даже если мозг сохранит способность к запоминанию, он, скорее всего, потеряет терпение. Простой карманный калькулятор поможет автоматизировать очень сложные математические вычисления, которые бы сильно напрягли ваш мозг, и, освободив мышление, даст возможность разобраться, зачем вообще нужны эти вычисления. Но все это работает, если вы уже овладели базовыми арифметическими действиями путем повторения и практики. Если же использовать калькулятор для того, чтобы не учить таблицу умножения, выполнять на нем действия, смысл которых непонятен, то этот полезный инструмент никогда не поможет вам овладеть новыми математическими знаниями и навыками. Он навсегда останется для вас таинственным черным ящиком, механизмом, выбрасывающим на дисплей какие-то цифры. Калькулятор станет барьером на пути к более высокому мышлению, а не помощником.

Именно это сегодня часто происходит в результате компьютерной автоматизации, и вот почему наблюдения Уайтхеда вводят в заблуждение, неверно толкуя последствия развития техники. Вместо того чтобы повысить врожденную способность мозга к физиологической автоматизации, компьютерная автоматизация становится ее тормозом, избавляя нас от повторяющихся умственных усилий. Подчинение и пристрастное отношение являются симптомами интеллектуальной болезни, вызванной отсутствием нагрузки. Мозг не вовлекается в реальную практику, которая одна порождает знание, обогащает память и формирует навыки. Проблема усугубляется еще и тем, что компьютерные системы уничтожают непосредственную обратную связь, регулирующую наши действия. Как подчеркивает психолог и специалист по развитию таланта Андерс Эрикссон, обратная связь есть непременное условие формирования навыка. Именно обратная связь позволяет нам учиться на наших ошибках и успехах. «В отсутствие адекватной обратной связи, – поясняет Эрикссон, – эффективное обучение становится невозможным, и даже у мотивированных людей прогресс его является минимальным» [31].

Автоматизм, порождение, поток – эти ментальные феномены разнообразны, сложны, их биологические взаимосвязи до конца не выяснены и не вполне понятны. Но все они очень важны, взаимосвязаны и говорят о нас нечто очень важное. Типы усилий, открывающих путь к развитию талантов, – решение трудных задач, постановка целей и непосредственная обратная связь – очень похожи на средства, которые заставляют нас активно повышать эрудицию, а не пассивно воспринимать информацию. Оттачивание навыков, углубление понимания, достижение личного удовлетворения и чувство выполненного долга – все это звенья одной цепи, части одного целого. Они требуют тесной связи – физической и умственной – между индивидом и окружающим его миром. По словам американского философа Роберта Талисса, необходима «способность испачкать руки в мирской пыли и не бояться, что мир пнет тебя в ответ» [32]. Автоматизм – это письмена, запечатленные миром в активном сознании и активном «я». Глубокое познание – свидетельство богатства этих письмен.

«Альпинисты, хирурги, пианисты, – говорит Михай Чиксентмихайи, – все это люди, которые находят глубокое удовлетворение в своей деятельности, чем демонстрируют, как организованные вызовы и соответствующий набор навыков приводят к формированию оптимального опыта». Работа и увлечения, которыми они занимаются, предоставляют им богатейшие возможности, а развитые ими навыки позволяют осуществить большую часть этих возможностей. Способность уверенно действовать в этом мире превращает всех нас в художников. По словам Чиксентмихайи, «легкость впитывания навыков и информации, которой обладает опытный человек, артистично работающий над трудной проблемой, всегда имеет за плечами тяжкий труд овладения сложным набором навыков» [33]. Компьютерная автоматизация, становясь между нами и миром, не оставляет в нашей жизни места артистизму.

Интерлюдия. Танцующие мыши.

«С 1903 года под моим наблюдением постоянно находились от пары до сотни танцующих мышей», – таким признанием гарвардский психолог Роберт Йеркс начинает вводную главу своей книги объемом 290 страниц, вышедшей в 1907 году, «The Dancing Mouse» («Танцующие мыши») – хвалебной песни грызунам. Он считал, что танцующие мыши будут так же важны для поведенческой психологии, как лягушки для анатомии.

Когда местный кембриджский врач презентовал гарвардской психологической лаборатории пару японских мышей, Йеркс был не в восторге. Этот подарок не показался ему значительным эпизодом научной работы. Но прошло совсем немного времени, и ученый был просто очарован этими крошечными созданиями, которые то и дело принимались с невероятной быстротой кружиться на месте. Йеркс размножил странных мышек, присвоив каждой номер, а затем принялся их наблюдать, скрупулезно записывая в лабораторный журнал варианты их окраса, половую принадлежность, даты рождения и родословную. «Поистине восхитительное животное – эта танцующая мышь, – писал Йеркс. – Японские мыши меньше и слабее своих беспородных собратьев, им даже бывает трудно стоять на задних лапках или взбираться на различные предметы. Но они являются идеальным объектом для экспериментального изучения поведения животных. За мышами этой породы легко ухаживать, они послушны, безвредны, весьма активны и дают помещать себя в самые разнообразные экспериментальные условия» [1].

В то время психологические исследования на животных были новостью. Иван Павлов начал изучать слюноотделение у собак лишь в девяностые годы XIX века, и только в 1900 году молодой ученый по имени Уиллард Смолл бросил в лабиринт мышь и принялся наблюдать, как она будет в нем суетиться. Занявшись танцующими мышами, Йеркс значительно расширил сферу наблюдений за животными. В книге «Танцующие мыши» он дал подробный отчет о том, как использовал грызунов для изучения чувства ориентации и равновесия, зрения и восприятия, обучения и памяти, а также поведенческих черт. «Эти животные буквально сами напрашивались на опыты, – писал Йеркс. – Чем дольше я наблюдал за ними в разнообразных экспериментах, тем больше становилось проблем, которые эти танцовщики подсовывали мне для решения» [2].

В начале 1906 года Йеркс начал свой важнейший и самый результативный опыт на «танцующих мышах». Работая вместе со своим студентом Джоном Диллингхэмом Додсоном, он начал с того, что посадил в деревянный ящик, одну за другой, сорок особей. В дальнем конце ящика было два узких коридора; вход в один из них был выкрашен белой краской, вход в другой – черной. Если мышь пыталась войти в черный коридор, она получала ощутимый удар электрическим током. Сила удара варьировалась. Одни мыши получали слабый удар, другие – сильный, а третьим доставался удар средней силы. Пытливые исследователи хотели выяснить, влияет ли сила электрошока на быстроту, с какой мышь научится избегать черного коридора и выбирать белый. То, что ученые открыли, сильно их удивило. Мыши, получавшие слабый удар, как и следовало ожидать, учились различать коридоры медленно. Но удивительным было то, что мыши, получавшие сильный удар, учились так же медленно. Быстрее всех остальных овладели навыком грызуны, получавшие удар средней силы. «Вопреки нашим ожиданиям, – сообщили ученые, – эта серия опытов не подтвердила предположения о том, что скорость выработки привычки будет нарастать параллельно увеличению силы электрического удара до такой степени, что наносит серьезную травму. Для выработки целесообразного поведения самыми эффективными оказались электрические удары средней силы» [3].

В следующей серии опытов были получены еще более удивительные результаты. Ученые посадили в ящик новую группу мышей и подвергли их тем же испытаниям, но на этот раз они увеличили яркость освещения в белом коридоре и приглушили свет в коридоре черном, чем усилили контраст между ними. В этих условиях быстрее других избегать черного коридора научились мыши, получавшие сильный удар током. Способность к обучению не ослабевала, как в предыдущем эксперименте. Йеркс и Додсон объяснили эту разницу в поведении грызунов тем, что во втором случае животным стало легче ориентироваться. Благодаря более сильному визуальному контрасту мышам не надо было долго думать, чтобы различать коридоры и связывать удар током с темным коридором. «Отношение силы электрического удара и быстроты выработки привычки зависит от трудности приобретения этой привычки», – таково резюме авторов [4]. По мере усложнения задачи оптимальный порог стимуляции снижается. Другими словами, когда мыши попадали в трудную ситуацию, необычно слабые и самые сильные стимулы препятствовали обучению. Как в случае Златовласки – умеренный стимул порождает оптимальное поведение.

С момента ее публикации в 1908 году статья Йеркса и Додсона «Влияние силы стимула на скорость формирования привычки» стала поворотным пунктом в истории психологии. Феномен, открытый авторами и названный в их честь законом Йеркса и Додсона, наблюдали с тех пор в самых разнообразных формах, и отнюдь не только среди грызунов, помещенных в разноцветные коридоры. Этот закон управляет поведением людей. Он описывается кривой нормального распределения, отражающей зависимость успешности решения трудной задачи от ментальной стимуляции или возбуждения.

При очень слабой заинтересованности человек совершенно безразличен к поставленному заданию и, соответственно, не может его выполнить. При усилении стимула кривая начинает идти вверх, пока не достигает пика. По мере его дальнейшего возрастания качество решения начинает снижаться. Когда стимуляция становится патологически высокой, человек из-за стресса впадает в умственный паралич и теряет способность думать, а следовательно, решать какие бы то ни было задачи. Подобно «танцующим мышам», мы, люди, действуем лучше всего, когда находимся на пике кривой Йеркса – Додсона, то есть когда стимул силен, но не парализует человека и его волю. Итак, на пике кривой нормального распределения наши действия приобретают характер плавного потока.

Закон Йеркса – Додсона оказался весьма уместным в исследовании последствий автоматизации. Он позволяет объяснить многие неожиданные последствия применения компьютеров на рабочих местах и в различных процессах. На заре автоматизации думали, что компьютеры с их программным обеспечением, взяв на себя исполнение скучной рутины, снизят нагрузку на человека и позволят ему лучше работать. Психологи исходили из допущения о том, что уровень нагрузки и эффективность труда находятся в обратной зависимости. Снимите с человека избыточное напряжение, и он станет с большим вниманием и умом относиться к работе. Реальность оказалась намного сложнее. Иногда компьютер умеренно снижает нагрузку, и это позволяет преуспеть в работе и обратить внимание на самые трудные ее участки. В других случаях автоматизация слишком уменьшает нагрузку, и качество работы падает, ибо стимуляция к труду смещается на левую сторону кривой Йеркса – Додсона.

Все мы знаем об отрицательных последствиях информационной перегрузки. Оказалось, что недостаток информации оказывает точно такой же отрицательный эффект. Благое намерение – облегчить труд человека – оборачивается ухудшением качества этого труда. Изучающие человеческий фактор ученые Марк Янг и Невиль Стентон нашли доказательства, что способность к концентрации внимания, на самом деле, снижается соответственно уменьшению умственной нагрузки. «В управлении автоматизированными системами, – утверждают авторы, – недостаточная нагрузка опаснее, чем чрезмерная, так как первую труднее почувствовать» [5]. Ученые выражают беспокойство в связи с тем, что апатия, порождаемая недостаточной информационной нагрузкой, может стать источником большой опасности при внедрении автоматизированных автомобилей. Если компьютер возьмет на себя труд крутить руль и нажимать педали, то человеку в машине просто станет нечего делать, и он отвлечется от дороги. Еще хуже то, что водитель, скорее всего, будет плохо знаком с принципами использования автоматизированного автомобиля и с сопутствующими рисками. Конечно, автоматизация позволит избегать мелких дорожных аварий, но в результате может возрасти количество крупных, так как человек, управляющий автомобилем, не будет готов к нештатным ситуациям. В худших случаях автоматизация, наоборот, предъявляет людям повышенные требования, нагружает их избытком работы и смещает ее результаты в правую часть кривой Йеркса – Додсона. Ученые называют этот феномен «парадоксом автоматизации». Марк Щербо, специалист по человеческому фактору из Виргинского университета (University of Virginia), говорит: «Ирония автоматизации, как показывают новейшие исследования, заключается в том, что такие системы часто увеличивают нагрузку и создают на рабочем месте обстановку нервозности и неуверенности» [6]. Если, например, оператор автоматизированного химического завода сталкивается со стремительно развивающейся нештатной ситуацией, то он должен успеть проследить за множеством мониторов, вводить в них нужные данные, не забывать о рутине и протоколе, реагировать на сигналы тревоги и принимать другие неотложные меры. Вместо облегчения нагрузки компьютеризация в этом случае предъявляет работнику дополнительные и сложные требования. Те же проблемы возникают и в самолетах, когда пилотам приходится вводить данные в бортовые компьютеры, читать информацию на мониторах и одновременно вручную управлять самолетом в экстренной ситуации. Каждый, кто сбивался с верной дороги, слушая инструкции компьютерного навигатора, на собственном опыте знает, к какому напряжению это приводит. Невозможно играть со смартфоном и одновременно вести автомобиль.

Мы узнали, что автоматизация несет с собой подчас трагическую тенденцию повышать сложность работы в моменты, когда она и без того предъявляет человеку чрезмерные требования. Компьютер, задуманный как средство снижения вероятности человеческих ошибок, иногда заставляет людей – как ударенных током мышей – совершать неверные действия.

Глава пятая. Офисный компьютер.

В конце лета 2005 года уважаемая корпорация RAND выступила с волнующим пророчеством относительно будущего американской медицины. Проведя «самый подробный анализ из всех когда-либо имевших место, ставший возможным благодаря преимуществам электронной медицины», они заявили, что американская система здравоохранения сможет сэкономить более 81 миллиарда долларов в год и повысить качество лечения, если больницы и практикующие врачи автоматизируют ведение медицинской документации. Экономия и другие выгоды, обнаруженные RAND с помощью имитационных компьютерных моделей, отчетливо говорят о том, что – как сказал один из руководителей этого центра, – «…правительству и другим органам, которые платят за здравоохранение, давно пора активно продвигать в эту отрасль информационные технологии» [1]. Последнее предложение в приложенном к заявлению докладе намекало на желательную срочность нововведений: «Настало время решительных действий» [2].

К тому моменту, когда появилось сообщение об исследовании, проведенном RAND, суета вокруг компьютеризации медицины уже достигла своего апогея. В начале 2004 года президент Джордж Буш президентским указом создал инициативный комитет по внедрению высоких информационных технологий, который должен был оцифровать большую часть американской медицинской документации в течение десяти лет. К концу 2004 года федеральное правительство выделило миллионы долларов в виде грантов на приобретение больницами автоматизированных систем. В июне 2005 года Министерство здравоохранения и социального обеспечения (United States Department of Health and Human Services, HHS) создало специальную группу – «Американское общество за внедрение информатики в здравоохранение». Она состояла из чиновников здравоохранения и промышленников и должна была способствовать продвижению программы перевода медицинской информации на электронные носители. Исследование, проведенное корпорацией RAND и показавшее в обоснованных цифрах все выгоды такого действия, усугубило суматоху и подстегнуло дальнейшие расходы. Газета The New York Times позже писала: «Это исследование способствовало взрывоподобному росту доходов электронной промышленности и побудило федеральное правительство потратить миллиарды долларов на установку информационных систем в больницах и врачебных кабинетах» [3]. Вскоре после своего избрания президентом Барак Обама в 2009 году в своем заявлении о дополнительном выделении 30 миллиардов долларов для субсидирования приобретения электронных систем ведения медицинской документации сослался на цифры, приведенные в исследовании RAND. Лихорадка инвестиций продолжалась – триста тысяч врачей и четыре тысячи больниц воспользовались щедростью вашингтонской администрации [4].

В 2013 году, когда Обама был избран на второй срок, RAND опубликовала следующий доклад, который своей тональностью несколько отличался от первого. Речь снова шла о перспективах внедрения информационных технологий в здравоохранение. Блестящие перспективы скрылись из вида. Тон статьи был скорбно-виноватым. «Несмотря на то что использование информационных технологий в здравоохранении возросло, – писали авторы второго доклада, – качество и эффективность оказания помощи больным улучшились ненамного. Исследование эффекта от внедрения информационных технологий приводит к противоречивым результатам. Плохо и то, что совокупные расходы на здравоохранение в США возросли с 2 триллионов долларов в 2005 году до 2,8 триллиона в году нынешнем». Системы, установленные врачами и больницами на деньги налогоплательщиков, не могут связаться друг с другом. Важные данные о пациентах мертвым грузом лежат в отдельных лечебных учреждениях и не могут быть оперативно переданы в другие заведения, где в данный момент находится больной. Однако дело в том, что одним из величайших благодеяний внедрения электронной документации, по мнению авторов исследования RAND, должна была стать доступность медицинской информации на каждого больного в любом месте и в любое время. Однако из-за того, что разные больницы используют несовместимые между собой системы электронной регистрации данных, эта задача решена не была. Выражая уверенность в конечном успехе этого предприятия, специалисты RAND, признают, что «розовый сценарий», описанный в первом докладе, не получился [5].

Другие исследования подтверждают выводы второго доклада корпорации RAND. Несмотря на то что системы компьютерного ведения медицинской документации получили широкое распространение в США и некоторых других странах (например, в Великобритании и Австралии), свидетельства об их преимуществах остаются весьма противоречивыми и спорными. В опубликованном в 2011 году обзоре группа британских ученых проанализировала более ста новейших исследований результатов внедрения компьютерных медицинских систем. Британцы заключили, что в вопросах качества лечения и ухода выявилась пропасть между теоретическими и реальными преимуществами. Исследование, которым воспользовались для внедрения компьютерных систем, было слабым и непоследовательным, в нем не содержалось убедительных доказательств в поддержку оптимального соотношения цены и качества этих технологий. «Что же касается перевода медицинской документации на электронные носители, – пишут британские исследователи, – то представленные на сегодняшний день работы носят отрывочный и бессистемный характер и не позволяют судить об ожидаемых преимуществах или рисках» [6]. В других исследованиях ученые рисуют более радужные перспективы. В обзоре, представленном в том же 2011 году группой сотрудников Министерства здравоохранения и социального обеспечения, авторы утверждают, что в подавляющем большинстве исследований говорится о значительных преимуществах внедрения информационных технологий в здравоохранение. Отметив тем не менее ограниченность исследований на эту тему, авторы обзора заключают: «Можно лишь предположительно говорить о том, что внедрение более совершенных и специфических для медицины компьютерных систем создаст большие преимущества» [7]. Впрочем, на сегодняшний день нет практических данных, которые бы подтвердили надежды на то, что автоматизация ведения медицинской документации позволит существенно снизить затраты на здравоохранение и повысить качество лечения больных.

Но если врачи и больные не заметили каких-либо выгод от внедрения компьютерной автоматики в медицину, то компании, создающие такую автоматику, получили гигантские прибыли. Например, корпорация Cerner, специализирующаяся на выпуске медицинских компьютерных программ, за период с 2005 по 2013 год утроила свои доходы с 1 до 3 миллиардов долларов. Cerner была одной из компаний, финансировавших первый доклад корпорации RAND в 2005 году. Другие спонсоры – General Electric и Hewlett-Packard – тоже были кровно заинтересованы в компьютерной автоматизации здравоохранения. Замена неисправных программ и связь между системами различных медицинских учреждений потребуют дополнительных работ, которые озолотят компании, занимающиеся информационными технологиями.

В этой истории нет ничего из ряда вон выходящего. Стремление во что бы то ни стало установить новые и непроверенные вычислительные системы, в особенности если это стремление подогревается широковещательными заявлениями специализированных компаний и аналитиков, почти всегда оборачивается большим разочарованием для покупателей и сверхдоходами для продавцов. Это отнюдь не значит, что внедрение автоматизации обречено на провал. По мере устранения неисправностей, отладки программ и снижения цен даже самые раздутые проекты в конце концов помогут экономить деньги, хотя бы за счет того, что отпадет необходимость нанимать людей, которым надо платить зарплату. (Вложения, конечно, быстрее окупаются и приносят большую прибыль, если компании тратят не свои деньги, а средства налогоплательщиков.) Этот сюжет снова повторяется в истории с компьютеризацией медицинской документации. Она позволяет добиться кое-каких преимуществ и выгод в некоторых сферах здравоохранения и улучшить качество лечения отдельных пациентов, особенно если оно требует согласованного участия специалистов разных профилей. Упорядочение и классификация данных клинического обследования пациента – это действительно реальная проблема медицины, и хорошо отлаженная и стандартизованная информационная система может способствовать ее решению.

Первый доклад корпорации RAND и поспешная реакция на него правительственных чиновников позволяют извлечь несколько ценных уроков, помимо необходимости настороженного отношения к неосмотрительным инвестициям в непроверенное программное обеспечение. Во-первых, к ссылкам на «имитационные компьютерные модели» надо относиться со здоровым скептицизмом. Моделирование – это всегда упрощение. Оно представляет окружающий мир не до конца реалистично, а выводы бывают подвержены необъективным трактовкам, зависящим от индивидуальных пристрастий авторов. Еще важнее то, что доклад и вызванные им последствия показали, насколько глубоко миф замещения внедрился в общественное восприятие и оценку автоматизации. Ученые мужи из корпорации RAND считали, что, переход от записей на бумаге к регистрации данных в компьютере будет простым, если не брать во внимание затраты на технические аспекты установки новых систем и обучение медицинского персонала. Замена ручных записей на автоматизированные никак, по мнению ученых, не повлияет на качество выполнения основной обязанности врачей – лечение больных. «Исследования показывают, что компьютеры могут сильно изменить процесс лечения больного, – пишет группа медицинских сотрудников в статье, опубликованной в 2006 году в журнале Pediatrics. – Несмотря на благие намерения улучшить качество лечения и ухода за счет компьютеризации, побочные эффекты и неучтенные последствия нарушения налаженного процесса могут, наоборот, ухудшить ситуацию» [8].

Корпорация RAND пала жертвой мифа замещения, так как ее сотрудники в недостаточной мере учли возможность отрицательных последствий электронной формы записи данных. Излишне оптимистичный анализ привел к чрезмерно оптимистичной политике. Профессора Джером Групмен и Памела Харцбанд, критикуя субсидии администрации Обамы на компьютеризацию, пишут, что доклад RAND 2005 года, по сути, проигнорировал недостатки электронной регистрации данных и не принял во внимание более ранние исследования, показавшие отсутствие каких бы то ни было преимуществ перехода от записей на бумаге к ведению документации на электронных носителях [9]. Допущение корпорации RAND о том, что автоматизация явится отличной альтернативой ручной регистрации данных, оказалось ложным, о чем давно предупреждали специалисты по эргономике. Тем не менее ущерб от неоправданных трат государственных денег и неряшливой установки оборудования был нанесен.

Системы электронной регистрации данных используются не только для составления и пересылки записей. В большинстве таких систем имеются приложения, облегчающие принятие решений, содержащие подсказки и советы врачам по поводу диагностики и назначения лечения. Информация, введенная врачом в компьютер, попадает затем в автоматизированную систему администрации лечебного учреждения, где автоматически назначаются анализы, выписываются счета и другие документы. Одним из неожиданных результатов явилось то, что больным назначаются более дорогостоящие анализы и методы исследования, чем это было до введения автоматизированных систем регистрации данных. Когда врач во время осмотра и обследования заполняет компьютерный формуляр, система автоматически рекомендует определенные диагностические процедуры (например, исследование глаз у больного сахарным диабетом, которое в данном случае может оказаться полезным). Отметив эту опцию на экране, врач не только одобряет проведение исследования, но и автоматически добавляет еще одну строчку в счет, предъявляемый лечебным учреждением страховой компании или больному. Эти подсказки, естественно, полезны, так как могут напомнить врачу об упущенных важных диагностических и терапевтических моментах. Но они же и вздувают цены, о чем, не стесняясь, пишут в рекламе продавцы автоматизированных медицинских систем [10].

Когда у врачей не было подсказывающих компьютерных программ, с больных зачастую не взимали плату за мелкие исследования и процедуры; их стоимость покрывали за счет стоимости визита либо годовой страховки. В автоматизированных системах стоимость любой процедуры автоматически плюсуется к общему счету. Одно то, что система делает какое-либо действие более легким или рутинным, уже меняет – пусть и немного – поведение врача. Он начинает зарабатывать немного больше, если следует указаниям автоматизированной системы, а значит, будет все в большей мере полагаться на ее решения и рекомендации. Некоторые специалисты опасаются, что экономический стимул может оказаться слишком сильным. В ответ на сообщения прессы о непредвиденном увеличении счетов в результате внедрения автоматизированных систем регистрации федеральное правительство организовало в 2012 году исследование, призванное выяснить, действительно ли автоматизированные системы способствуют вздуванию цен на медицинские услуги и даже прямому мошенничеству в рамках программы Medicare. В итоговом докладе, изданном в 2014 году, содержится предупреждение: «Лечебные учреждения могут использовать программы электронной медицинской регистрации для маскировки истинного авторства записей и искажения информации ради увеличения страховых выплат» [11].

Появились также свидетельства того, что введение электронных систем побуждает врачей к назначению ненужных анализов, что тоже способствует росту стоимости медицинских услуг. В одном из исследований, опубликованном в 2012 году в журнале Health Affairs, говорилось, что если врач имеет возможность, например, посмотреть на экране предыдущий рентгеновский снимок, то он назначит новое рентгеновское исследование с большей вероятностью, чем в том случае, если бы он не видел старый снимок. Во всяком случае, врачи, работающие с компьютерными системами регистрации, назначают исследования с визуализацией в 18% случаев. А врачи, работающие «по старинке», – в 13%. Одной из положительных сторон автоматизации и доступа к данным прежних исследований как раз считали снижение числа повторных обследований. «В спорных и пограничных ситуациях, – утверждают авторы, – простое нажатие клавиши вместо необходимости связываться со специализированным отделением для того, чтобы узнать результаты предыдущего исследования, побуждает врача сразу назначить новое исследование» [12]. Здесь мы снова видим пример того, как автоматизация меняет человеческое поведение и способы выполнения работы. Причем изменения непредсказуемы и часто происходят вопреки ожиданиям.

Внедрение автоматизации в медицину, так же как и другие отрасли, порождает проблемы, выходящие за рамки экономической эффективности. Мы видели, как появление стрелок на рентгеновских изображениях в одних случаях улучшает, а в других – ухудшает качество диагностики, так как меняет отношение специалистов к чтению снимков. По мере того как врачи все больше полагаются на компьютерные подсказки в своей повседневной работе, технология сильнее влияет на стиль обучения врача, на методы принятия решений и даже на поведение у постели больного.

Исследование работы врачей первичного звена оказания медицинской помощи, проведенное Тимоти Хоффом, профессором Школы общественного здоровья в Олбани, позволило выявить феномен, названный Хоффом «деквалификацией». Под этим термином автор имеет в виду «снижение качества медицинских знаний» и «распространение стереотипного отношения к больным». В 2007 и 2008 годах Хофф опросил 78 врачей различных лечебных учреждений северной части штата Нью-Йорк. Три четверти врачей пользовались в своей практике электронной системой регистрации медицинских данных, и большинство их высказали опасения в связи с тем, что компьютеризация приводит к небрежности и обезличиванию в лечении пациентов. Они констатировали, что, осмотрев больного, просто вводят в компьютер шаблонный текст, а при диктовке текста или написании его от руки они глубже вникали в суть проблемы и уделяли больше внимания вопросам диагностики и лечения. Действительно, сам процесс написания был своего рода «красным флагом», который в некоторые моменты заставлял остановиться и подумать, как лучше сформулировать и изложить мысль. Врачи признавались Хоффу, что обезличенный, стандартизованный текст электронной записи может ухудшить качество понимания состояния больного, а также подорвать способность врача принимать обоснованные решения по поводу диагностики и лечения [13].

Нарастающая зависимость врачей от систем механического воспроизведения или «клонирования» текста – это естественное следствие внедрения электронных записей. Традиционная практика диктовки и сочинения, каковы бы ни были ее преимущества, оказалась медленной и неуклюжей в сравнении с быстрыми методами «введения шаблонов», «перетаскивания мышкой» и «выбора нажатием клавиши мышки». Доктор Стивен Левинсон, написавший учебник о медицинской документации и счетах за медицинские услуги, находит все больше данных о том, что врачи используют старые тексты, вводя их в новые записи. «Если врач ведет записи в истории болезни или медицинской карте на компьютере, – говорит Левинсон, – то описания каждого визита повторяются слово в слово, не считая мелких вариаций, касающихся основных жалоб». Несмотря на то что такая «клонированная документация» не имеет никакого „клинического смысла”, она тем не менее очень широко используется благодаря своей быстроте и удобству, и не в последнюю очередь потому, что предусматривает проведение списка исследований, которые значительно удорожают лечение» [14].

То, что возникает клонирование документации, – это лишь один из нюансов. По словам одного терапевта, почти все содержание электронной записи – это «шаблон». «История заболевания в такой записи, – продолжает врач, – попросту отсутствует. Ее нет ни в моих записях, ни в записях других врачей». В результате среди разных медицинских специалистов и учреждений начинают циркулировать записи, лишенные практически значимого содержания. «Врачи теряют один из важнейших источников повышения квалификации – чтение записанных от руки данных осмотра и консультации, которые во все времена служили важным источником обучения для врачей общей практики. Из него они черпали не только сведения, полезные для лечения данного больного, но и многое из того, что касалось новых методов диагностики и лечения какого-то заболевания», – пишет Хофф. По мере того как эти тексты начинают во все большем масштабе воспроизводиться электронным способом, они теряют свое образовательное значение и ценность [15].

«Столкнувшись с ригидным компьютерным интерфейсом, – считает Даниэль Офри, врач-терапевт из нью-йоркского госпиталя “Бельвю” (Bellevue Hospital), – многие врачи, в конце концов, читают только записи о последних двух или трех визитах пациента. Все предыдущее для них – не более чем компьютерный хлам» [16].

Недавнее изучение последствий перехода от бумажной регистрации данных к электронным записям, проведенное в Вашингтонском университете (University of Washington), выявило, что электронный формат истории болезни затрудняет поиск интересующих врача записей. При записи на бумаге врач, читающий историю болезни, может по стилю того или иного специалиста найти важную информацию о больном. Электронные записи с их обезличенным форматом стирают эту малозаметную со стороны, но очень важную разницу [17]. Помимо этого, Офри опасается, что внедрение электронных записей повредит врачебному мышлению: «Система способствует дроблению информации, когда разные ее аспекты хранятся в не связанных друг с другом полях. Это затрудняет синтез сведений о заболевании данного пациента» [18].

Автоматизация записей в истории болезни создает новое явление, которое профессор медицинского факультета Гарвардского университета Бет Лаун называет «третьей стороной» в кабинете врача. В своей проницательной статье, написанной в 2012 году в соавторстве со студентом Дэйроном Родригесом, Лаун говорит о том, как компьютер соперничает с пациентом за внимание клинициста, подрывает его способность уделять больному внимание, нарушает общение с ним, изменяет отношение к нему и размывает понимание врачом своей профессиональной роли [19]. Каждый больной, которого осматривал врач, одновременно нажимавший клавиши, на собственной шкуре испытал хотя бы часть того отношения, какое описывает Лаун. Ученые обнаруживают эмпирические доказательства нарушения стиля общения между врачом и пациентом. В исследовании, проведенном в клинике Госпиталя ветеранов администрации, больные, которых обследовали вооруженные компьютерами врачи, сообщали, что сокращается время, в течение которого врач разговаривает с больным, осматривает и исследует его. Кроме того, общение становится обезличенным [20]. Врачи в целом соглашаются с мнением больных. В другом исследовании, проведенном в одном крупном лечебном учреждении Израиля, где системы электронной регистрации данных распространены больше, чем в США, ученые выяснили, что 25–55% времени общения с больным врачи смотрят на экран компьютера. Более 90% опрошенных израильских врачей говорили о том, что ведение электронных записей на приеме «нарушает полноценное общение с больным» [21]. Потеря способности к концентрации внимания согласуется с выводами психологов – такая работа отвлекает от выполнения других задач. «Одновременно обращать внимание на компьютер и на пациента – задача, непосильная для человека, так как он не склонен к многозадачности, – пишет Лаун. – И в результате врач отвлекается от больного» [22].

Назойливость автоматизации, подтвержденная множеством исследований, создает и еще одну проблему. Системы электронной регистрации данных и подобные ей предусматривают появление на мониторе предостережений, адресованных врачу. Эта функция, несомненно, помогает избегать опасных промахов и ошибок. Если, например, врач выписывает сочетание несовместимых между собой лекарств, программа напомнит о риске такого назначения. Однако в большинстве случаев они несущественны, избыточны и могут просто вводить в заблуждение. Эти предостережения направлены не столько на защиту больного, сколько на защиту производителя аппаратуры от судебных исков. (Компьютер приводит в кабинет врача третью сторону с ее коммерческими и юридическими интересами.) Исследования показывают, что практикующие врачи игнорируют девять из десяти таких сообщений. Это порождает феномен, известный под названием «утомление от предупреждений». Относясь к компьютеру, как к пастушку, который все время кричит: «Волки, волки!» – врачи иногда просто отключают эту функцию. Они так быстро перестают на нее реагировать, что подчас игнорируют и полезные предупреждения, которые предотвращают ошибки [23].

Медицинский осмотр или консультация – чрезвычайно сложная и интимная форма личного общения. Со стороны врача это требует тщательного подбора подходящих слов, сочувствия, слежения за мимикой и жестами и одновременно холодного анализа и суждения. Для того чтобы разобраться в сложной медицинской проблеме или жалобе больного, клиницист должен внимательно выслушать его рассказ об истории заболевания и одновременно, фильтруя услышанное, раскладывать его по диагностическим полочкам. Главное в этом деле – умение найти баланс между проникновением в личностную ситуацию конкретного больного и общими концепциями о заболевании и методами его объективной диагностики и лечения. В этом процессе неоценимую помощь врачу могут оказать контрольные таблицы и подсказки возможных решений. Но, как пишет в своей книге «Табличный манифест» хирург и колумнист The New York Times Атул Гаванде: «Блага регламентации не упраздняют необходимость в мужестве, уме и способности к импровизации. Лучшие клиницисты всегда будут отличаться осознанной отвагой» [24]. Правда, автоматизация может сократить потраченное на больного время и ускорить получение полезной информации, но она также может, как пишет Лаун: «Преждевременно сузить поле поиска и даже привести к ошибочной диагностике. Врачи могут в такой ситуации демонстрировать поведение человека, механически задающего вопросы, появляющиеся на экране компьютера, а не внимательного клинициста, следующего за нитью повествования больного» [25].

Особенно опасна эта рабская покорность компьютеру для молодых врачей, полагает Лаун, так как она блокирует возможность учиться самым сокровенным аспектам врачебного искусства, которые познаются в непосредственном общении с больным, а не из книг и программ. Кроме того, в долгосрочной перспективе длительное использование компьютеров в диагностике и лечении притупляет интуицию врача, проявление которой может спасти больного в ситуациях, когда его судьба решается в считаные минуты. В такие моменты врачу некогда методично рассуждать и от компьютера мало пользы. Врач должен мгновенно поставить диагноз и назначить лечение. Он должен действовать. Специалисты по когнитивной психологии утверждают, что в неотложных ситуациях врачи руководствуются не осознанным мышлением или набором формальных правил, а интуитивным знанием. Они просто «видят», что происходит с больным. На постановку диагноза и принятие решения о лечении уходит буквально несколько секунд. «Ключевые симптомы для распознавания болезни, – объясняет Джером Групмен в своей книге “Как мыслят врачи”, – сливаются в законченную картину, которую врач и распознает как специфическое заболевание или синдром… Это талант очень высокой пробы, в проявлении которого, – пишет Групмен, – мышление неотделимо от действия» [26]. Подобно другим формам ментального автоматизма, этот талант шлифуется только многолетней практикой, немыслимой без прямой и непосредственной обратной связи. Поставьте между врачом и больным компьютерный экран, и вы безнадежно отбросите их друг от друга.

Уцелевшим луддитам после плохо организованного восстания пришлось вскоре наблюдать, как стали явью их страхи. Всего за несколько лет изготовление тканей и многих других товаров перешло из рук ремесленников в руки крупной промышленности. Товары стали производить не в домах и не в деревенских мастерских, а на больших заводах и фабриках, которые – для привлечения рабочих и бесперебойной доставки сырья и других материалов – начали строить в городах или вблизи них. Туда же постепенно переселялись и ремесленники, порывая со своими семьями и положив начало урбанизации, которая, в свою очередь, вызвала отток из деревень рабочих рук, привела к изобретению молотилок и других сельскохозяйственных машин и механизмов. На новых фабриках устанавливали все более и более «умные» машины, резко увеличивающие производительность труда, одновременно сведя к нулю личную ответственность и самостоятельность работника, отныне не отвечавшего за качество готового изделия. Тонкое ремесло уступило место неквалифицированному фабричному труду.

Адам Смит одним из первых понял, как специализация фабрично-заводского труда приведет к деквалификации рабочих. «Человек, всю свою жизнь исполняющий на производстве нескольких простых операций, результаты которых всегда одни и те же, не имеет возможности применить свой интеллект или изобрести какое-либо новшество для устранения трудностей, ибо он с ними никогда не сталкивается, – пишет Смит в “Исследовании о богатстве народов”. – Вследствие этого человек теряет привычку к умственному усилию и становится тупым и невежественным, насколько может стать таковым человеческое существо» [27]. Смит считал деградацию навыков и умений ужасным, но неизбежным следствием эффективного во всех иных отношениях фабричного производства. В его знаменитом примере разделения труда на производстве булавок мастер, прежде самостоятельно изготавливавший каждую булавку, уступил место группе неквалифицированных рабочих, каждый из которых выполнял свою особую, но узкую задачу: «Один человек вытягивает проволоку, второй ее выпрямляет, третий обрезает, четвертый заостряет, пятый нарезает другой конец, чтобы привинтить к нему головку; для того же, чтобы изготовить головку, надо выполнить две или три разные операции; надевает головку на булавку особый рабочий, отбеливает ее другой; отдельной специальностью стало даже завертывание булавок в бумагу. Таким образом, процесс изготовления булавок распался на 17–18 отдельных операций» [28]. Ни один из рабочих не в состоянии изготовить булавку целиком, так как каждый выполняет свою, вполне определенную операцию, но все вместе они сделают за смену намного большее их количество, чем при способе изготовления ее от начала и до конца. Так как рабочим не требуется особых талантов или длительного обучения, владелец мануфактуры может нанимать людей, выбирая их из массы претендентов, и к тому же он избегает необходимости платить мастеру за опыт и квалификацию.

Смит, кроме того, хорошо понял, как разделение труда будет способствовать его механизации, каковая, в свою очередь, еще более усугубит деквалификацию рабочих.

Разбив процесс производства на последовательность четко очерченных «простых операций», можно легко создать машины, которые и будут их выполнять. Разделение труда в пределах одного предприятия облегчает его механизацию – установление машин, выполняющих последовательность операций. В начале ХХ века деквалификация фабрично-заводских рабочих стала осознанной целью промышленников, взявших на вооружение философию «научного управления», разработанную Фредериком Тейлором. Веруя вслед за Смитом, что величайшее процветание наступит только тогда, когда работу можно будет выполнять с минимальным участием человека, Тейлор рекомендовал владельцам заводов и фабрик составлять для каждого работника подробные инструкции по обращению с машинами, описав каждое движение, каждую мысль [29]. Оптимальная эффективность производства достижима только на пути стандартизации труда, каковую следует закрепить в правилах, законах и предписаниях, а также в самой конструкции машин [30].

Механизированная фабрика, в которой рабочий и машина сливаются в жестко управляемое и высокопроизводительное единство, становится апофеозом инженерного искусства и эффективности труда. Индивид превращается в шестеренку этой превосходно отлаженной системы. Как и предвидели луддиты, он жертвует предпринимателю не только квалификацию, но и личную независимость. Потеря самостоятельности – это нечто большее, чем экономическая потеря. Это потеря экзистенциальная, как писала Ханна Арендт в вышедшей в 1958 году книге «The Human Condition» («Условие человека»): «В отличие от инструментов ремесленника, которые на каждом этапе процесса остаются его слугами, машины требуют, чтобы рабочий служил им, согласовывал естественные биоритмы своего организма с механическим ритмом машины» [31]. Технология претерпела прогресс (если здесь подходит это слово) от простых инструментов, расширявших самостоятельность работника, до машин, резко ограничивших ее.

Во второй половине ХХ века отношения между работниками и машинами несколько усложнились. По мере роста компаний, ускорения технического прогресса и взрывоподобного увеличения расходов потребителей занятость приобрела новую, неведомую ранее структуру. В экономике умножилось число менеджеров, клерков и узких специалистов; наметилось увеличение числа рабочих мест в области оказания услуг. Машины стали очень разнообразными, приняв самые причудливые формы. Они использовались массово, как на работе, так и вне ее. Тейлоровские идеи о достижении эффективности за счет тотальной стандартизации, хотя и продолжали оказывать сильное влияние на производство, были тем не менее смягчены во многих компаниях, которые сознательно предоставляли людям некоторую инициативу. Работник, подобный бездумной шестеренке, перестал быть идеалом. Внедренный в эту ситуацию компьютер быстро взял на себя в том числе и роль тейлоровского контролера, следящего за качеством работы людей. Руководители компаний быстро сообразили, что программное обеспечение представляет собой мощное средство стандартизации процессов по соблюдению технологических норм. Однако в форме персонального компьютера этот же инструмент стал гибким личным орудием, предоставившим владельцу большую самостоятельность и свободу, одновременно порабощая и освобождая его.

По мере того как автоматизация, завоевывая все новые и новые позиции, распространилась с заводов в офисы, проблема деквалификации работников стала темой ожесточенных дискуссий в среде социологов и экономистов. В 1974 году масло в огонь этих споров подлил Гарри Браверман, бывший котельщик, ставший социологом. В своей книге «Labor and Monopoly Capital: The Degradation of Work in the Twentieth Century» («Труд и монополистический капитал: деградация труда в ХХ веке») он, рассмотрев современные ему тренды в занятости и технической оснащенности рабочих мест, утверждал, что большая часть рабочих занята рутинным трудом, который не требует ни ответственности, ни ума, ни каких-то особых навыков. Люди становятся придатками машин и компьютеров. «С развитием капиталистического способа производства, – писал Браверман, – параллельно снижению сложности труда деградировало само понятие квалификации. Ее мера сократилась настолько, что сегодня сотрудник считается квалифицированным, если его специальность требует нескольких дней обучения; если необходимо несколько месяцев обучения – работа считается необычно трудной, а труд, для выполнения которого надо учиться полгода или год, вообще вызывает трепетное почтение» [32]. Ремесленное ученичество, указывает автор для сравнения, продолжалось по меньшей мере четыре года, а иногда этот срок достигал и семи лет. Насыщенный фактами и тщательно аргументированный труд Бравермана стал популярным среди читающей публики. Марксистский взгляд на ситуацию в накаленной атмосфере шестидесятых и семидесятых годов врезался в нее, как шип в паз.

Однако аргументы Бравермана впечатлили отнюдь не всех [33]. Критики его работ – а их было великое множество – обвинили Бравермана в переоценке важности традиционного ремесленного труда, в то время как он составлял очень небольшую долю в общем производстве уже в XVIII–XIX веках. Критики считали также, что автор придает слишком большое значение навыкам ручного труда синих воротничков, пренебрегая опытом межличностного общения и аналитического мышления, которые вышли на первый план во многих видах деятельности. Критика указывает еще на одну, более важную проблему, которая осложняет любые попытки выявить и истолковать смещение критериев квалификации в современной экономике. Она может принимать самые разнообразные формы. Для сравнения способностей не существует верных и объективных критериев. Является ли сапожник XVIII века, тачавший обувь у себя дома на верстаке, более искусным работником, чем маркетолог, составляющий на компьютере планы продвижения продукции? Является ли штукатур более квалифицированным работником, чем парикмахерша? Если слесарь с судоверфи потеряет работу и выучится на мастера по ремонту компьютеров, то возрастет его профессионализм или нет? У нас нет критериев, определяющих верные ответы на эти вопросы. В результате не прекращается полемика о перспективах квалификации. Картина становится более четкой, если мы рассмотрим ее на примере конкретных профессий.

Проанализировав несколько случаев, мы увидели, что по мере усложнения машин деятельность рабочего становится проще и легче. Все уже успели забыть, что одно из важнейших исследований эффектов автоматизации было выполнено в пятидесятые годы профессором Гарвардской экономической школы (Harvard Business School) Джеймсом Брайтом. Он с исчерпывающей добросовестностью исследовал влияние автоматизации на рабочих в 13 отраслях промышленности – от машиностроительных заводов до пекарен. Изучив особенности этих отраслей, Брайт составил иерархию уровней автоматизации. Она начинается с простых ручных инструментов и, пройдя 17 уровней, заканчивается сложными саморегулирующимися машинами, оснащенными сенсорными механизмами, петлями обратной связи и электронными органами управления. Брайт проанализировал и изменения различных требований к квалификации в зависимости от степени автоматизации машин: физические усилия, умственные, сноровка, концептуальное понимание и т.д. Брайт показал, что повышение уровня профессионализма требуется только на самой ранней стадии автоматизации, когда на рабочих местах внедряются мощные ручные инструменты. По мере установки более сложных машин требования начинают снижаться, а потом, когда рабочий научится управлять автоматизированной саморегулирующейся машиной, нужда в каком бы то ни было мастерстве вообще практически отпадает. «Представляется, – писал Брайт в 1958 году в книге “Автоматизация и управление”, – что чем более автоматизированной становится машина, тем меньше работы остается на долю оператора» [34].

Чтобы продемонстрировать, как реально происходит деквалификация, Брайт приводит пример рабочего-металлиста. Если он использует простые инструменты – напильник и ножницы, – то главными требованиями к его мастерству являются знание свойств материала и сноровка в обращении с инструментами. После внедрения электрических инструментов труд рабочего усложняется, возрастает вероятность опасных ошибок. В этой ситуации необходима большая сноровка и внимание. Рабочий становится «машинистом», когда ручной инструмент заменяют механизмами, которые сами выполняют последовательность некоторых операций. Например, автоматические станки обтачивают детали, придавая им определенные трехмерные формы. В этом случае внимание, умение принять решение и ответственность целиком или частично переходят к машине. При этом резко снижаются требования к исполнителю, который теперь перестает контролировать работу автомата и корректировать его в случае необходимости. Машинист превращается в «машинного оператора». Если машины начинают сами программировать контроль за своей работой, то рабочий перестает прикладывать к производству какие бы то ни было умственные и физические усилия. Его работа сводится к надзору. Металлист становится передаточным звеном в системе «машина – управление предприятием». «В целом, – заключает Брайт, – эффект автоматизации вначале состоит в том, чтобы освободить рабочего от излишнего физического напряжения, а потом – в освобождении его и от всяких умственных усилий» [35].

В то время, когда Брайт писал свой труд, руководители предприятий, ученые и политики единодушно считали, что работа на автоматизированных машинах потребует от рабочих более высокой квалификации и уровня подготовки. Брайт, к собственному удивлению, обнаружил, что чаще всего происходит как раз противоположное: «Я был поражен тем, что ожидаемый эффект совершенствования навыков не наблюдается практически нигде. Напротив, накапливается все больше данных в пользу того, что автоматизация снижает требования к уровню квалификации рабочих». В 1966 году, в докладе, направленном в правительственную комиссию по автоматизации и занятости, Брайт описал результаты своего исследования и обсудил развитие техники, произошедшее в последующие годы. Он отметил, что прогресс автоматизации идет семимильными шагами, подстегиваемый быстрым внедрением в бизнес и промышленность высокопроизводительной вычислительной техники. Все данные свидетельствуют о том, что широкое применение компьютеров усилит тенденцию к деквалификации. «Этот урок, – отмечал Брайт, – совершенно ясен. Не обязательно верно, что сложное оборудование требует квалифицированного оператора. Его можно встроить в машину» [36].

На первый взгляд может показаться, что заводской рабочий, управляющий грохочущей машиной, не имеет ничего общего с высокообразованным профессионалом, который с помощью сенсоров или клавиатуры вводит в компьютер сложную информацию. Однако в обоих случаях мы видим человека, перекладывающего работу на плечи автоматизированной системы. Как показали работы Брайта и других ученых, ее сложность обусловлена распределением ролей и ответственности, а оно, в свою очередь, определяет, какие навыки и знания требуются от оператора, управляющего системой. Чем более высокая «квалификация» встроена в машину, тем в большей степени она контролирует работу, и, соответственно, для работника уменьшается возможность развивать свои таланты и применять самостоятельные интерпретации и суждения. Непосредственный результат объединенного труда человека и машины (и это важно подчеркнуть!) может быть превосходным по эффективности и качеству, но участие человека в нем зачастую становится номинальным. «Что, если цена думающих машин – это не умеющие думать люди?» – вопрошал в 2008 году Джордж Дайсон, специалист по истории техники [37]. Этот вопрос неизбежно станет очень острым, если мы и дальше будем перекладывать ответственность за анализ и принятие решений на плечи компьютеров.

Нарастающая способность компьютерных систем направлять мышление врача и брать на себя принятие решений в диагностике и лечении есть отражение стремительного прогресса вычислительной техники. При установлении диагноза врач привлекает для этого всю совокупность специализированной информации, накопленной им за годы дисциплинарного образования и ученичества, за годы чтения медицинских книг и журналов. До недавнего времени компьютеру было не под силу воспроизвести это глубокое, весьма специализированное и зачастую невыразимое словами знание. Однако неумолимый прогресс вычислительной техники, увеличение скорости выполнения операций, падение стоимости хранения и передачи информации в сети, прорывы в области конструирования искусственного интеллекта, распознавания машинами речи и образов резко и необратимо изменили ситуацию. Электронные машины ныне способны оценивать и анализировать текстовую и иную информацию. Выявляя корреляцию данных, симптомов или признаков, которые либо встречаются вместе, либо следуют друг за другом с высокой вероятностью, компьютеры теперь могут делать точные предсказания, вычисляя, например, вероятность того, что данный пациент с определенным набором симптомов и анализов страдает каким-то определенным заболеванием или имеет большие шансы им заболеть. Они могут и спрогнозировать, как отреагирует пациент на те или иные лекарства или лечебные мероприятия.

С помощью способов построения алгоритмов, например метода дерева принятия решений или метода нейронных сетей, которые помогают моделировать сложные статистические взаимоотношения различных явлений, компьютеры также помогают усовершенствовать технологию прогнозов, так как могут обрабатывать огромное количество данных и оценивать сведения о достоверности прежних показателей [38]. Статистический вес, который машины приписывают различным переменным, становится все более точным, расчеты вероятности все более верно отражают вероятности событий, происходящих в реальном мире. Современные компьютеры становятся разумнее, набираясь опыта, как люди. Некоторые специалисты по кибернетике уверены, что новые нейроморфные микрочипы с заложенными в них механизмами обучения будут способствовать появлению компьютеров нового поколения. Машины станут способны к более совершенному распознаванию деталей. Мы можем сколько угодно иронизировать по поводу их «сообразительности» и «интеллекта», но факт остается фактом – несмотря на отсутствие сочувствия, понимания и проницательности врача, эти машины тем не менее способны воспроизводить многие врачебные суждения на основе статистического анализа огромного объема цифровой информации. Многие старые дебаты о смысле понятия «интеллект» приобрели сейчас чисто академический интерес в свете неимоверной мощности современных компьютеров, умеющих в считаные секунды обрабатывать немыслимые для человека объемы информации.

Диагностические возможности ЭВМ будут улучшаться и дальше. Чем больше данных о конкретном пациенте в форме электронных записей, оцифрованных изображений и результатов анализов, о взаимодействии лекарств, а в недалеком будущем – и данных, считанных с личных биологических сенсоров и следящих за динамикой состояния приложений, тем тоньше будут становиться выводы и диагнозы. Шаблоны и схемы станут более совершенными и изощренными. Учитывая нынешнее стремление радикально улучшить качество здравоохранения, можно ожидать, что в медицине скоро возобладает философия Тейлора – стандартизация и оптимизация. Укрепятся позиции так называемой доказательной медицины, в которой и без того уже сильна тенденция замены личного врачебного суждения статистическими расчетами. Медики будут испытывать нарастающее давление со стороны автоматизации и со временем неизбежно уступят компьютерным программам часть своих прерогатив в установлении диагнозов и назначении лечения. В недалеком будущем многие из них окажутся в роли людей-датчиков, собирающих информацию для принимающих решение компьютеров. Врачи будут, осмотрев и обследовав больного, вводить полученные данные в ЭВМ, и именно последние возьмут на себя труд ставить диагнозы, назначать лечение и следить за его результатами. Благодаря неумолимому наступлению автоматизации, подчиняясь выявленной Брайтом иерархии, доктора обречены (по крайней мере, в некоторых сферах своей практики) на судьбу, постигшую в свое время фабрично-заводских рабочих.

Врачи не одиноки. Вторжение ЭВМ в элитные интеллектуальные профессии наблюдается повсеместно. Мы уже видели, как меняется мышление аудиторов под влиянием экспертных систем, определяющих риски и другие переменные величины. Финансисты, от представителей ссудных касс до менеджеров по инвестициям, уже зависят от систем, направляющих их решения, а Уолл-стрит находится под контролем вынюхивающих корреляции компьютеров и аналитиков, которые эти компьютеры программируют. Численность биржевых игроков и спекулянтов на Нью-йоркской бирже с 2000 по 2013 год уменьшилась со 150 тысяч до 100 тысяч, несмотря на то что фирмы Уолл-стрит стали получать еще более заоблачные прибыли. «Важнейшая цель брокерских и инвестиционных компаний – это автоматизация и избавление от биржевых маклеров», – сказал один из финансовых аналитиков корреспонденту компании Bloomberg. «Что же касается уцелевших биржевых игроков, то все, к чему сводится сегодня их деятельность, – это нажатие компьютерных клавиш» [39].

Это верно не только для торговли акциями и облигациями, но также и для работы с более сложными финансовыми инструментами. Эшвин Парамесваран, технический аналитик и бывший банкир, отмечает, что банки приложили значительные усилия для того, чтобы уменьшить требования к квалификации людей, осуществляющих ценообразование на финансовые деривативы. Системы купли-продажи постоянно изменялись таким образом, чтобы передать как можно больше информации компьютерным программам [40]. Предсказывающие алгоритмы стали проникать даже в недосягаемую для них прежде сферу венчурного капитала. Венчурные инвесторы всегда гордились своим нюхом и интуицией на выгодный бизнес и инновации. В наши дни такие выдающиеся венчурные компании, как Ironstone Group и Google Ventures, применяют программы для выяснения предпринимательского успеха и в соответствии с этим размещают свои инвестиции.

Та же тенденция наблюдается и в юриспруденции. В течение многих лет адвокаты зависят от компьютеров, с помощью которых они находят сведения о законах и готовят нужные документы. Однако с некоторых пор компьютерные программы стали играть более значимую роль в юридических конторах. Важный процесс поиска нужных документов, которым, по традиции, занимаются младшие юристы и помощники адвокатов, роясь в грудах корреспонденции, в электронных письмах и записях, теперь стал почти полностью автоматизированным. Компьютер способен перелистать за одну секунду тысячи страниц оцифрованной документации. Используя поисковые электронные программы, снабженные алгоритмами распознавания речевой стилистики, машины не только фиксируют важные слова и фразы, но и вычленяют последовательности событий, вникают в человеческие отношения и даже распознают личностные эмоции и мотивации. Один компьютер может заменить дюжину высокооплачиваемых профессионалов. Кроме того, усовершенствованы программы подготовки документов. Заполнив простой бланк, адвокат может теперь за пару часов составить сложный контракт, работа над которым в прошлом заняла бы несколько дней.

Большие перемены уже на пороге. Фирмы, создающие программное обеспечение для юридических контор, начали разрабатывать алгоритмы статистических прогнозов. Они основаны на анализе тысяч прецедентов и могут подсказать тактику адвоката на суде, порекомендовать место проведения процесса или варианты мирового соглашения, имеющие большие шансы на успех. Компьютерные программы скоро будут способны к суждениям, прежде требовавшим квалификации опытного адвоката [41]. Организованная в 2010 году группой профессоров права из Стэнфордского университета (Leland Stanford Junior University) компания Lex Machina предложила обзор программ, которые должны появиться в самом ближайшем будущем. Располагая базой данных из 150 тысяч дел по поводу споров об интеллектуальной собственности, компания проводит компьютерный анализ и прогнозирует исходы дел о патентах при различных сценариях процесса, принимая во внимание суд, личность председательствующего судьи и адвокатов, характеристики сторон, исходы подобных дел и другие факторы.

Алгоритмы прогнозирования все в большей степени влияют на решения, принимаемые капитанами бизнеса. Некоторые компании тратят миллиарды долларов в год на «кадровую аналитику» – программы, автоматизирующие принятие решений о найме на работу, заработной плате и продвижении по карьерной лестнице. Компания Xerox, например, целиком и полностью полагается на компьютеры при выборе кандидатов на работу в 50 тысячах центрах телефонного обслуживания. Кандидат садится за компьютер и в течение получаса заполняет анкету и проходит личностный тест, после чего машина выдает ему число набранных баллов, определяющее вероятность его соответствия роду деятельности, степень работоспособности и стиль отношения к работе. Компания приглашает на собеседование только тех кандидатов, которые набирают высокий балл при первичном компьютерном тестировании, отсеивая остальных [42]. Компания доставки посылок UPS использует программы прогнозирования составления маршрутных карт для своих водителей. В розничной торговле они применяются для оптимального размещения товаров на полках. Коммерсанты и рекламные агентства пользуются компьютерным прогнозированием для того, чтобы решать, где и когда размещать рекламу и надо ли при этом задействовать социальные сети. Менеджеры многих компаний начинают чувствовать себя придатками программ. Они лишь подписывают и украшают печатями решения, принятые компьютерами.

Смещение центра тяжести экономики с производства реальных товаров к потоку электронных данных привело к тому, что компьютеры в последние десятилетия ХХ века придали новый статус и осыпали золотым дождем людей, работающих с информацией. Люди, зарабатывающие на жизнь манипуляциями со значками и символами на экране, стали звездами новой экономики, в то время как фабрично-заводской труд, долгое время бывший опорой среднего класса, переместился в дальние страны или поручен роботам. Пузырь доткома, надувшийся в конце девяностых, когда за несколько лет всеобщей эйфории деньги хлынули из компьютерных сетей на личные счета маклеров, ознаменовал начало золотого века неограниченных экономических возможностей – того, что горячие поборники информационных технологий окрестили «долгим бумом». Но хорошие времена, как известно, преходящи. Теперь мы видим, как сбывается пророчество Норберта Винера: у автоматизации нет фаворитов. Компьютеры так же хорошо анализируют символы и управляются с потоками информации, как и манипулируют промышленными роботами. Даже люди, управляющие сложными вычислительными системами, теряют работу, уступая ее компьютерам, по мере того как происходит автоматизация вычислительных центров. Огромные серверные хозяйства таких компаний, как Google, Amazon и Apple, по сути дела, управляют собой сами. Благодаря виртуализации среды, техникой, использующей программное обеспечение для воспроизведения функций таких инженерных устройств, как серверы, можно управлять с помощью программ. Сетевые неполадки и неисправности приложений выявляются и устраняются автоматически, часто в течение нескольких секунд. Может оказаться так, что «интеллектуализация физического труда», как назвал этот феномен итальянский ученый Франко Берарди [43], происшедшая в конце ХХ века, станет предшественницей автоматизации интеллекта, наступившей в начале ХХI века.

Умозаключение о возможности имитации компьютерами человеческих знаний и суждений – занятие рискованное. Экстраполяции тенденций развития кибертехники могут оказаться пустыми фантазиями. Но даже если мы (вопреки экстравагантным утверждениям евангелистов от информатики) допустим, что у способности к полезному использованию корреляций и других методов статистического анализа есть пределы, то нам все же придется признать, что за последние годы компьютеры сильно далеко отодвинули эти барьеры. Когда в начале 2011 года суперкомпьютер IBM Watson победил в телевизионной игре Jeopardy! (русский вариант – «Своя игра»), разгромив в пух и прах двоих ее фаворитов, мы поняли, куда нас могут завести аналитические таланты компьютеров. Способность Watson отгадывать намеки казалась просто фантастической, но, по меркам современного программирования искусственного интеллекта, он не совершил, в общем-то, ничего особенного. Сначала он осуществлял поиск возможных ответов в базах данных, потом, пользуясь процедурами прогнозирования, определял, какой ответ, с наибольшей вероятностью, является правильным. Все дело в том, что всю эту колоссальную рутинную работу компьютер выполнил так быстро, что смог превзойти самых сообразительных и остроумных людей, в совершенстве владеющих приемами каламбуров, припоминания и удержания в памяти всяких пустяков.

Watson стал апофеозом новой прагматичной формы искусственного интеллекта. В пятидесятые и шестидесятые годы, когда цифровые компьютеры были еще в новинку, многие математики и инженеры, и не столь многочисленные, но примкнувшие к ним психологи уверяли себя и окружающих в том, что человеческий мозг работает так же, как своего рода цифровая вычислительная машина. В компьютере они видели метафору и модель разума. Следовательно, для того чтобы создать искусственный интеллект, надо было (по мнению этих людей) поступить очень просто: выяснить алгоритмы, согласно которым функционирует содержимое нашего черепа, и перевести их в компьютерные коды. Подход оказался бесплодным. Оригинальная попытка создания искусственного интеллекта провалилась. Выяснилось, что процессы, происходящие в мозге, не могут быть сведены к вычислениям, производимым в компьютерных чипах.[19] Нынешние ученые предприняли иной подход к созданию искусственного интеллекта – менее амбициозный, но зато более эффективный. Целью теперь не является воспроизведение процесса человеческого мышления – это пока остается за пределами наших возможностей. Воспроизводятся результаты мышления. Ученые смотрят на какой-то частный результат умственной деятельности, например на решение о приеме на работу, а затем программируют компьютер на достижение результата математическими методами. Работа Watson отличается от работы ума человека, играющего в «Свою игру», но он побеждает человека по очкам.

В тридцатые годы, работая над докторской диссертацией, британский математик и компьютерный первопроходец Алан Тьюринг пришел к мысли о «машине предсказаний». Это был своего рода компьютер, который, пользуясь набором ясных и понятных правил, обрабатывал хранилище данных посредством некоторых, невыясненных пока, приемов и отвечал на вопросы, которые обычно требуют от человека интуитивного знания. Тьюринг хотел выяснить, насколько можно интуицию заменить изобретательностью. В целях чистоты своего мысленного эксперимента он постулировал, что у способности машины к обработке огромных массивов чисел нет пределов и отсутствует верхняя граница скорости вычислений, а также неограниченно количество данных, которые машина может принять во внимание. «Мы сейчас не говорим о том, какого мастерства это потребует, – писал Тьюринг, – и поэтому будем считать, что и у него тоже нет границ» [44]. Тьюринг, как всегда, оказался провидцем. Он был одним из немногих в то время ученых, понявших скрытую интеллектуальность алгоритмов и предвидевших, что раскрепостить этот интеллект можно будет за счет увеличения скорости вычислений. Компьютеры, как и базы данных, всегда будут иметь определенные ограничения, но уже в таких механизмах, как Watson, мы видим прообраз «машины предсказаний» Тьюринга. То, о чем он только мечтал, современные инженеры делают в железе и пластике. Изобретательность вытеснила интуицию.

Невероятная способность Watson оперировать с базами данных может найти практическое применение в диагностике онкологических и иных заболеваний. Кроме того, IBM прогнозирует использование подобных компьютеров в юриспруденции, финансах и образовании. Испытывают такие системы и разведывательные организации – Центральное разведывательное управление США (Central Intelligence Agency, CIA) и Агентство национальной безопасности США (National Security Agency, NSA). Если автомобиль Google без водителя продемонстрировал способность компьютера воспроизводить наши психомоторные навыки и даже превзойти человеческие возможности ориентировки в реальном мире, то Watson показывает умение компьютера подменить когнитивные навыки человека и превосходит наши способности ориентировки в мире символов и идей.

Однако воспроизведение результатов мышления – это отнюдь не само мышление. Как подчеркивал еще Тьюринг, «всегда найдется место для спонтанных суждений, которые не являются результатом сознательного использования разума» [45]. Разумными нас делает не способность извлекать факты из документов и находить статистические закономерности в потоке данных, а возможность придавать вещам смысл, вплетать знания, полученные из наблюдений и опыта, в богатое понимание мира, каковое мы можем приложить к решению любой задачи. Именно это эластичное качество ума, охватывающее осознанное знание, разум и вдохновение, позволяет человеческому существу мыслить концептуально, метафорически, критически, спекулятивно, остроумно, проявляя чудеса логики и воображения.

Эктор Левек, специалист по информационным технологиям и робототехнике из Университета Торонто (University of Toronto), приводит пример простого вопроса, легко находящего ответ у людей, но над которым компьютер может задуматься надолго.

Большой шар падает на стол и пробивает его, потому что он сделан из пенопласта.

Что сделано из пенопласта – большой шар или стол?

Мы даем правильный ответ без всяких усилий, потому что понимаем, что такое пенопласт, знаем, что случается, когда мы что-то бросаем на стол, как выглядит стол и что подразумевается под словом «большой». Мы мгновенно схватываем контекст ситуации и смысл слов, которыми она описана. Компьютер, лишенный всякого понимания реального мира, вынужден считать язык данного высказывания абсолютно двусмысленным. Он ограничен своими алгоритмами. «Сведение интеллекта к статистическому анализу больших наборов данных может привести нас, – говорит Левек, – к системам, впечатляющим публику своей результативностью, но являющихся, по сути, идиотами, проявляющими незаурядные способности в какой-то узкой сфере». Компьютеры могут великолепно играть в шахматы или в «Свою игру», безошибочно распознавать лица или выполнять другие, четко очерченные ментальные задания, но они совершенно безнадежны вне границ этих заданий [46]. Точность работы компьютеров удивительна, но это всего лишь симптом узости их восприятия.

Даже в том, что касается вопросов, требующих вероятностных ответов, компьютеры не всегда оказываются на высоте. Скорость и очевидная точность их вычислений могут маскировать неполноту и погрешности обрабатываемых данных, не говоря уже о возможном несовершенстве алгоритмов обработки. Любая большая база данных содержит, наряду с надежными корреляциями, массу ложных корреляций. Несложно впасть в заблуждение из-за случайного совпадения или превратной ассоциации [47]. Более того, когда какой-то конкретный набор данных является основанием для принятия важных решений, эти сведения и их анализ становятся объектом не всегда честных манипуляций. В поисках финансовых, политических или социальных выгод люди часто будут пытаться подправить систему. Как пояснил в своей знаменитой, напечатанной в 1976 году статье Дональд Кэмпбелл: «Чем в большей мере какой-либо количественный социальный показатель используется для принятия социально значимых решений, тем в большей степени он становится объектом коррупционного давления, и тем в большей степени будет он искажать картину социальных процессов, для отслеживания которых его предполагали использовать» [48].

Погрешности в данных и алгоритмах могут сделать профессионалов, да и нас, простых смертных, жертвами наиболее злокачественной формы пристрастного отношения к данным автоматизированных систем. «Угроза заключается в том, что мы позволим себе бездумно положиться на результаты анализа, несмотря на возможность обдумать и понять, что в этих результатах что-то пропущено, – предостерегают Виктор Майер-Шенбергер и Кеннет Цукер в своей книге “Большие данные”, вышедшей в 2013 году. – Или мы можем приписать истинность данным, которые этого не заслуживают» [49]. Особая форма риска, связанного с использованием алгоритмов, вычисляющих корреляции, обусловлена тем, что они работают с данными о прошлом, чтобы предсказать будущее. В большинстве случаев поведение в будущем совпадает с нашими ожиданиями, и алгоритм работает, опираясь на уровень вероятности. Однако в тех редких случаях, когда условия отклоняются от предписанного алгоритмом образца, он может выдать абсолютно неверный прогноз. Такие случаи уже не раз приводили к катастрофам компьютеризированных хеджевых фондов и брокерских фирм. При всех своих дарованиях компьютеры до сих пор демонстрируют пугающее отсутствие здравого смысла.

Чем больше мы предаемся, по выражению ученого из корпорации Microsoft Кейт Кроуфорд, «цифровому фундаментализму» [50], тем сильнее становится искушение обесценить таланты, недоступные компьютерной имитации. Мы так сильно доверяем программным продуктам, что не придаем значения человеческой способности использовать знания, полученные из реального опыта, способные привести к оригинальным творческим решениям. Как показывают некоторые непредвиденные последствия внедрения электронного ведения документации в медицине, шаблоны и формулы неизбежно ведут к упрощенчеству и очень быстро становятся смирительной рубашкой для клинического мышления. Начиная с шестидесятых годов вермонтский врач и ученый Лоуренс Уид был горячим и красноречивым поборником использования компьютеров в медицине, так как они, по его мнению, могли помочь врачам принимать адекватные и осознанные решения [51]. Уида называют даже отцом электронного ведения медицинской документации. Однако теперь даже он предупреждает: «Нынешнее бездумное использование статистических знаний в медицине систематически вытесняет индивидуализированное знание и данные, действительно необходимые для лечения больных» [52].

Еще глубже тревога Гэри Клейна, психолога, изучающего механизмы принятия решений человеком. «Принуждая врачей следовать строгому набору правил, доказательная медицина может затормозить научный прогресс, – пишет Клейн. – Если больницы и страховые компании будут обязаны вводить электронные записи под угрозой судебного преследования, если неблагоприятные исходы лечения станут увязывать с малейшими отклонениями от утвержденных методов, то врачи, соединяющие в своей практике опыт и склонность к исследованиям, перестанут творчески подходить к своему делу и утратят интерес к совершению открытий» [53].

Если мы не проявим разумную настороженность, то автоматизация умственного труда, исказив природу и цель интеллектуального поиска, может подорвать саму основу нашей культуры: стремление познать мир. Алгоритмы прогнозирования могут творить сверхъестественные чудеса в обнаружении корреляций, но они абсолютно слепы и глухи к причинам наблюдаемых признаков и явлений. Но ведь именно раскрытие причин – методичное распутывание проблем, связанных с механизмами того или иного процесса, – расширяет границы человеческого познания. Если мы дойдем до того, что будем считать автоматизированное вычисление вероятностей достаточным средством достижения наших профессиональных и общественных целей, то рискуем потерять или, в лучшем случае, ослабить наше стремление искать объяснения, находить неизведанные пути, ведущие к мудрости и чуду. Зачем все эти хлопоты, если компьютер готов выдать ответ через одну или две миллисекунды?

В эссе «Рационализм в политике», опубликованном в 1947 году, британский философ Майкл Окшотт живо описал современного рационалиста: «В его сознании нет атмосферы, нет смены времен года и колебаний температуры; все его мыслительные процессы изолированы от любых внешних воздействий и протекают в пустоте. …Рационалист не интересуется ни культурой, ни историей; он не оттачивает и не проявляет личную точку зрения. Его мышление примечательно лишь быстротой, с какой он сводит богатство и разнообразие опыта к формуле» [54]. Этими словами Окшотта можно превосходно воспользоваться для описания компьютерного интеллекта: он невероятно практичен и производителен, но при этом полностью лишен любопытства, воображения и связи с окружающим миром.

Глава шестая. Мир и экран.

Островок Иглулик, вблизи полуострова Мелвилл на территории района Нунавит в Северной Канаде, ошеломляет своей природой в зимнее время года. Средняя температура воздуха составляет –20 °C. Море покрывается толстым слоем льда, солнце на несколько месяцев уходит за горизонт. Несмотря на эти суровые условия, эскимосские охотники вот уже четыре тысячи лет регулярно покидают свои дома и уходят в зимнюю тьму, чтобы, преодолев много миль по льдам и тундре, отыскать карибу или другую дичь. Способность этих охотников ориентироваться в голых просторах Арктики, где почти нет видимых ориентиров, снежные наносы, постоянно перемещающиеся с места на место, ветер, за ночь заметающий все следы, поражают белых путешественников и ученых. В 1822 году английский исследователь Вильям Эдвард Парри отметил в своем дневнике удивительную точность географических знаний его эскимосского проводника [1]. Экстраординарные следопытские навыки эскимосов не связаны с технологическими достижениями, они не пользовались картами, компасами и другими навигационными инструментами, а ориентировались на местности, опираясь на направления ветров, поведение животных, положение звезд, регулярность приливов и морские течения.

По крайней мере, раньше они ориентировались именно так. На рубеже нового тысячелетия в эскимосской культуре произошли определенные изменения. В 2000 году правительство США сняло для частных лиц ограничения в пользовании системой глобального позиционирования (GPS). Точность работы приборов GPS неуклонно повышалась, но, несмотря на это, цены на них постоянно снижались. Охотники Иглулика уже давно поменяли свои нарты на аэросани, во время охоты стали ориентироваться по электронным картам и компасу. Особенно сильным желание познакомиться с новой техникой было у молодых эскимосов. В прошлом, чтобы стать охотником, приходилось долго учиться у старших искусству находить дорогу в суровых арктических условиях. Тяжелое ученичество продолжалось много лет. Приобретя дешевый GPS-навигатор, молодой эскимос мог теперь избежать трудностей обучения, переложив ответственность за нахождение пути на электронный прибор. Мало того, теперь можно было отправляться на охоту даже в густой туман, что прежде считалось решительно невозможным. Простота, удобство и точность автоматической навигации привели к исчезновению старого искусства.

Однако по мере распространения GPS-навигаторов среди эскимосов стали одновременно учащаться случаи серьезных происшествий на охоте, заканчивавшихся тяжелыми травмами и даже смертью. Причина в том, что люди слепо полагались на спутниковую навигацию. Если приемное устройство выходило из строя или на морозе садились батарейки, то охотник, не имеющий старых навыков ориентации в однообразной снежной пустыне, терялся и замерзал, не найдя дороги домой. Были и другие опасности. Дороги, скрупулезно проложенные на электронных картах, могут привести к опасной прямолинейности. Доверяя инструкции GPS, можно направить скоростные аэросани на тонкий лед, врезаться в торосы или попасть в иную неприятную ситуацию, которую более опытные охотники избегают, почуяв опасность шестым чувством. Некоторые из этих проблем найдут свое решение в результате улучшения конструкции приборов и написания более подробных инструкций пользования ими. Но при всем этом будет безвозвратно утеряно то, что один из эскимосских старейшин называет «мудростью и знанием эскимосского народа» [2].

Антрополог из Университета Карлтона в Оттаве (Carleton University) Клаудио Апорта много лет изучает жизнь эскимосов. Он пишет, что, несмотря на то что спутниковая навигация дает большие преимущества, ее применение уже привело к потере способности ориентации и вообще к ослаблению чувства местности. Охотник на снегоходе, оборудованном GPS-навигатором, все свое внимание обращает на инструкции компьютера, теряя из вида проносящуюся мимо местность. Он передвигается «вслепую», если воспользоваться выражением Апорты [3]. Уникальный талант древнего народа, отточенный тысячелетиями, может быть утрачен за одно-два поколения.

Наш мир – это странное, изменчивое и опасное место, и перемещение по нему требует от любого животного больших умственных и физических усилий. В течение тысячелетий люди придумывали инструменты, облегчавшие тяготы путешествий. История – это ведь и хроника открытий новых способов облегчить передвижение в окружающей среде, изобретений, помогавших не заблудиться, избежать нападения или опасности быть съеденным. Сначала появились простые карты и вехи, затем звездные и морские карты и глобусы, а потом такие инструменты, как лаги, квадранты, астролябии, компасы, октанты и секстанты, телескопы, склянки и хронометры. На побережьях морей установили маяки, в прибрежных водах – буи. Люди начали мостить дороги, устанавливать на них знаки, размечать и нумеровать шоссе и автострады. Все эти изобретения появились давно и для большинства из нас привычны и естественны с самого детства.

GPS и другие средства навигации стали последними дополениями к этому набору инструментов.

Однако эти приборы придали старой истории новый, и весьма тревожный, оборот. Прежние навигационные средства, в особенности доступные простым людям, были именно вспомогательными. Они конструировались, чтобы помочь путешественнику лучше понимать обстановку и видеть окружавший его мир. Старые средства оттачивали чувство направления, предупреждали об опасностях, указывали путь к вехам и другим точкам ориентации; в целом они помогали путешественникам определиться как в знакомой, так и в новой обстановке. Спутниковые навигационные системы способны делать то же самое, но за одним исключением: они не предназначены для улучшения понимания нами окружающей местности и направления движения. Наоборот, навигаторы полностью избавляют от всех этих хлопот. Взяв на себя тонкости ориентации и сведя роль человека к механическому выполнению рутинных команд – повернуть налево через пятьсот ярдов, воспользоваться следующим выходом, идти вправо, сохранять движение вперед, – системы навигации, будь то автомобильные панели, смартфоны или специальные навигаторы, изолируют нас от окружающего мира. Как выразился по этому поводу коллектив ученых Корнельского университета (Cornell University) в статье, напечатанной в 2008 году: «С GPS вам не надо больше знать, где вы находитесь и куда надо двигаться, нет нужды обращать внимания на придорожные ориентиры или спрашивать дорогу у людей на улице. Автоматизация определения маршрута подавляет процесс познания физического мира, которое происходит благодаря самостоятельной ориентации в нем» [4].

Люди радостно приветствовали появление недорогих глобальных систем навигации. Журналист из The New York Times Дэвид Брукс говорил от лица очень многих, когда в колонке «Личное мнение» напечатал статью, озаглавленную «The Outsourced Brain» («Мозговой аутсорсинг»), в которой восхищался навигационной системой, установленной в его автомобиле: «У меня быстро сформировалась романтическая привязанность к GPS. Я полюбил умиротворяющий женский голос, говоривший с легким британским акцентом. Мне было так приятно следовать за проложенными на навигаторе тонкими синими линиями». GPS – богиня Брукса – освободила его от изнурительной необходимости ориентироваться на дороге. Тем не менее, неохотно признаёт Брукс, это избавление, принесенное встроенной в приборную доску музой, недешево ему обошлось: «Через несколько недель до меня стало доходить, что я уже не могу обходиться без этого чарующего голоса. Любая поездка, если она проходила по не очень хорошо знакомому маршруту, стала вызывать у меня оторопь, и я лихорадочно набирал адрес места назначения, чтобы затем безропотно следовать указаниям ангельского голоса. Я понял, что утратил всякие остатки своих географических навыков. Цена удобства, – пишет Брукс – это потеря самостоятельности» [5]. Богиня оказалась еще и коварной сиреной.

Мы хотим видеть в компьютерных картах интерактивную, высокотехнологичную версию обычных бумажных карт, но это ошибочное допущение – еще одно проявление замещающего мифа. Традиционные карты задают контекст, позволяют окинуть взором окружающую местность и заставляют самостоятельно проложить маршрут к месту назначения. Для того чтобы ориентироваться по карте, надо приложить некоторое усилие (хорошие инструменты всегда требуют труда), но это помогает нам составить собственную, когнитивную, картину местности. Чтение карты, как показывают научные исследования, укрепляют ощущение места и оттачивает наши навигационные навыки. Поработав с ними некоторое время, мы приобретаем сноровку и начинаем лучше ориентироваться на местности даже тогда, когда их нет под рукой. Представляется, что, сами того не чувствуя, мы оживляем в подсознании воспоминание карты и начинаем легче ориентироваться и определять, каким путем нам двигаться, чтобы добраться до места назначения. В одном из опытов ученые обнаружили, что навигационное чутье человека сильно обостряется, когда он поворачивается лицом к северу, то есть подсознательно имитирует работу с географической картой [6]. Они не только помогают нам добраться из одного места в другое, но и учат представлять пространство.

Не таковы карты, связанные со спутниками. Они выдают скудную пространственную информацию и практически не обозначают опорных точек для ориентирования. Вместо того чтобы заставить нас задуматься о том, где мы находимся, GPS просто помещает человека в центр карты и заставляет мир вращаться вокруг него. В этой миниатюрной пародии на докоперниковскую систему мироздания мы можем передвигаться, не зная ни настоящего местонахождения, ни предыдущего, ни в каком направлении мы движемся. Нам надо всего лишь ввести в компьютер адрес или перекресток, название здания или магазина, для того чтобы задать информацию для машинных вычислений. Немецкий психолог Юлия Франкенштейн, изучающая чувство ориентации, считает: «Чем больше мы полагаемся в отыскании маршрута на технику, тем больше мы утрачиваем способность строить наши когнитивные карты. Так как компьютерная навигация дает лишь схематичную информацию без пространственного контекста местности, наш мозг не получает сырого материала для формирования памяти о топографии местности. Попытка создания когнитивной карты на основании такой редуцированной информации – то же самое, что пытаться представить себе музыкальное произведение по нескольким нотам» [7].

С этим выводом соглашаются и другие ученые. В одном британском исследовании было показано, что водители, пользующиеся бумажными картами, запоминают маршруты и ориентиры лучше, чем водители, полагающиеся на пошаговые инструкции спутниковых систем. После поездки пользователи бумажных карт могли нарисовать более точную и подробную схему проделанного маршрута. «Полученные данные, – пишут авторы исследования, – позволяют с большой долей достоверности утверждать, что использование спутниковых навигационных систем негативно сказывается на формировании у водителей когнитивных карт» [8]. Исследование водителей, проведенное в Университете Юты, продемонстрировало «слепоту от невнимательности» у пользователей GPS-навигаторов, которая нарушала их способность ориентироваться и формировать зрительную память [9]. Пешеходы, прибегающие к помощи GPS-навигаторов, страдают тем же недугом. В проведенном в Японии эксперименте ученые предложили группе людей пройтись по разным городским улицам и местечкам. Половине испытуемых дали GPS, а остальные пользовались бумажными картами. Люди, получившие карты, находили более рациональные маршруты и помнили свой путь лучше, чем те, кто пользовался гаджетами. Более ранний эксперимент, проведенный в Германии с посетителями зоопарка, дал схожие результаты [10].

Художник и дизайнер Сара Хендрен, комментируя свою поездку на конференцию в незнакомый город, рассказывает, как легко сегодня впасть в зависимость от компьютерных карт и как это нарушает способность к ориентации и чувство места. «Я вдруг поняла, что в течение нескольких дней подряд пользовалась встроенным в телефон навигатором с голосовыми подсказками для того, чтобы пройти короткий, занимавший пять минут путь от отеля до места проведения конференции, – вспоминает Хендрен. – Я почти по собственной воле отключила ту сферу восприятия, которой успешно и много пользовалась всю свою жизнь: я не делала даже малейших попыток запомнить какие-либо ориентиры или как выглядит дорога». Хендрен опасается, что, отдав на откуп компьютеру нашу мультимодальную восприимчивость, мы невосполнимо обедним наш сенсорный опыт [11].

Как показывают рассказы о сбитых с толку пилотах, водителях автомобилей и охотниках, утрата навыков ориентации может иметь очень плохие последствия. Конечно, большинство из нас, путешествуя за рулем автомобиля или пешком по городу или сельской местности, редко попадает в такие опасные ситуации. В результате возникает вопрос: «Ну и что здесь плохого?» Если мы благополучно прибыли к месту назначения, то какая разница, использовали ли мы для этого собственные навигационные способности или поручили машине роль поводыря? Пожилой эскимос может не без оснований оплакивать появление GPS-технологии как культурную трагедию своего народа, но те из нас, кто живет в странах, пересеченных отличными дорогами и заставленных бесчисленными бензоколонками, мотелями, придорожными магазинами и закусочными, давно уже потеряли навыки следопытов. Наша способность воспринимать и интерпретировать топографию местности, особенно сельской, и без того резко ослабела за последние десятилетия. Ее дальнейшее снижение или вообще полная утрата не представляется нам катастрофой, в особенности если взамен мы получаем простые навигаторы, которые решат за нас все проблемы.

Но, несмотря на то что у современного человека больше нет культурных стимулов для сохранения навигационных дарований, мы все же личностно очень сильно к ним привязаны. В конце концов, мы все – земные существа. Мы не абстрактные точки, перемещающиеся вдоль синих линий на экране компьютера, а реальные телесные существа, обитающие в реальном мире. Познание мест пребывания требует усилий, но они вознаграждаются получением новых знаний, дающих нам ощущение свершения, самостоятельности, а также порождает у нас чувство причастности, дома, а не просто места, где мы временно находимся. Кто бы ни оттачивал искусство ориентации – охотник на оленей в снежной пустыне или охотник за сделками на городской улице, – оно в любом случае прокладывает путь от отчуждения к привязанности. Мы можем презрительно морщить нос, слыша фразу, что кто-то «нашел себя», но эта фигура речи, избитая и затасканная, говорит о том, что наши самоощущения «кто мы?» и «где мы?» тесно переплетены. Мы не можем отделить самость от ее окружения, по крайней мере без болезненных потерь.

GPS, позволяя беззаботно добраться от точки А до точки Б, может облегчить нам жизнь, внушая «чувство ошеломляющего блаженства». Но если мы будем слишком часто прибегать к этому «наркотическому» средству, то оно лишит нас радости и удовлетворения от постижения окружающего мира и ощущения причастности к нему. Тим Инголд, антрополог из Абердинского университета (University of Aberdeen) в Шотландии, проводит разграничение между двумя типами путешествия: странствием и поездкой. «Странствие, – утверждает Инголд, – есть наш самый фундаментальный способ пребывания в мире. Погруженный в ландшафт, настроенный на его красоты и виды, странник наслаждается переживанием движения, в котором неразделимо сливаются действие и восприятие». Странствие становится непрекращающимся процессом роста, развития и самообновления. Поездка, с другой стороны, всегда ориентирована исключительно на цель. Она – не столько процесс совершения открытий по дороге жизни, сколько простое перемещение людей и товаров из одного места в другое способом, не затрагивающим их природу. В поездке передвижение путешественника теряет свою осмысленность. «Совершая поездку, – констатирует Инголд, – человек становится пассажиром своего собственного тела» [12].

Странствие связано с множеством неудобств и не является таким эффективным мероприятием, как поездка, и поэтому в последние годы оно становится объектом пристального внимания специалистов по автоматизации. «Если у вас есть мобильный телефон со встроенной системой Google Maps, – говорит Майкл Джонс, руководитель картографического отдела Google, – то вы можете безбоязненно скитаться в любых уголках нашей планеты и быть уверенными в том, что мы укажем вам направление, по которому вы сможете легко и безопасно добраться до цели». Далее он говорит: «Отныне ни один человек не будет чувствовать себя потерянным» [13]. Конечно, такие слова звучат очень заманчиво, так как похоже, что некоторые сложные проблемы нашего бытия теперь окончательно решены. Но чем больше об этом задумываешься, тем отчетливее начинаешь понимать, что это – жизнь в постоянной зависимости от телефона и его сетевых приложений.

Проблемы порождают трения в нашей жизни, но они же могут служить и стимулами, побуждающими нас к более глубокому осознанию и пониманию ситуации. «Когда мы обходим требования, которые данная ситуация заставляет нас выполнять, – отметил писатель Ари Шульман в своем эссе “GPS и конец пути”, напечатанном в 2011 году в New Atlantis, – мы лишаемся возможности наилучшим образом обжить это место и, расширяя сказанное, утрачиваем подлинное бытие где бы то ни было» [14].

Заодно мы можем лишиться и множества других вещей. Нейрофизиологи сделали ряд блестящих открытий, позволивших понять, как мозг воспринимает и запоминает пространство и местоположения, подчеркивающие базовую роль навигационных способностей человека в работе мозга и в механизмах памяти. В одном основополагающем исследовании, проведенном в Лондонском университетском колледже (University College London, UCL) в начале семидесятых годов Джон О’Кифи и Джонатан Достровский наблюдали за работой мозга крыс, помещенных в довольно просторное замкнутое пространство [15]. Как только крыса осваивалась в пространстве, отдельные нейроны в гиппокампе[20] – части мозга, играющей главную роль в формировании памяти, – начинали разряжаться, когда крыса оказывалась в определенном месте, специфическом именно для данного нейрона, названным «клетками места». Они обнаружены у многих других млекопитающих, включая и человека. Их можно считать указателями, которыми мозг пользуется для разметки территории. Всякий раз, когда вы попадаете в какое-то незнакомое место, – будь то городская площадь или кухня соседа – оно немедленно размечается «клетками места». «Эти клетки, – писал О’Кифи, – активируются многообразными сенсорными сигналами зрительной, слуховой и тактильной модальности. Каждый из таких сигналов может восприниматься гиппокампом, когда животное оказывается в определенной части своего пространства» [16].

В 2005 году группа норвежских нейрофизиологов, возглавляемая Эдвардом и Май-Бритт Мозер, открыла еще один набор нейронов, отвечающих за картирование, измерение и ориентацию пространства. Эти клетки были названы «координатными». Расположенные в энторинальной коре (области, тесно примыкающей к гиппокампу), эти клетки создают в мозгу точную координатную сеть, которая накладывается на пространство. Она состоит из совокупности упорядоченно расположенных равносторонних треугольников. Мозеры сравнили эту координатную сеть с «миллиметровой бумагой» мозга, на которой животное отмечает маршрут своего движения [17]. В то время как клетки места определяют положение отдельных местоположений, координатные клетки формируют более абстрактную карту, позволяющую животному немедленно сориентировать все предметы пространства по координатам, заданным заранее. Координатные клетки были обнаружены у нескольких видов млекопитающих. Недавние эксперименты с вживленными в мозг электродами указывают на то, что эти клетки есть и у человека [18]. Действуя в тандеме и совместно обрабатывая сигналы, поступающие из различных отделов мозга, «клетки места» и координатные клетки действуют, согласно объяснению писателя Джеймса Гормана, «как встроенная в мозг навигационная система, которая одна отвечает за то, каким образом животное узнаёт, где оно находится, куда направляется и где только что было» [19].

Помимо ориентации, эти специализированные клетки участвуют также в формировании памяти на события и на прежний опыт. О’Кифи и Мозеры, так же как и другие ученые, приступили к созданию теории, согласно которой «ментальные путешествия» управляются теми же мозговыми системами, которые помогают нам ориентироваться в окружающем мире. В статье, напечатанной в журнале Nature Neuroscience в 2013 году, профессор из Норвегии Эдвард Мозер и его коллега Дьёрдь Бусаки приводят обширные экспериментальные данные, доказывающие: «Нейронные механизмы, определяющие пространственные взаимоотношения между опознавательными ориентирами местности, могут также служить для установления связей между предметами, событиями и другими элементами фактической информации». Из таких ассоциаций мы сплетаем память о нашей жизни. Возможно, выяснится, что навигационное чувство мозга – его древний и сложный способ регистрации движений в пространстве – это и есть эволюционный источник памяти [20].

Самое ужасное происходит, когда этот источник пересыхает. Способность ориентироваться в пространстве ослабевает с возрастом, а в самых тяжелых случаях человек вовсе ее лишается [21]. Один из самых ранних симптомов деменции, включая и болезнь Альцгеймера, – это дегенерация гиппокампа и энторинальной коры, вызывающая потерю памяти на местоположения [22]. Больные начинают теряться, не понимая, где находятся. Вероника Бобо, ученый психиатр и специалист по памяти и ее нарушениям из Университета Макгилла в Монреале, провела серию экспериментов, показавших, что постоянная тренировка навыков ориентации стимулирует работу гиппокампа и даже приводит к увеличению его размеров, то есть постоянная тренировка памяти – это метод защиты от ее нарушений [23]. Чем усерднее работают люди над построением когнитивной карты пространства в мозге, тем устойчивее становятся нейронные сети, отвечающие за запоминание. Показано, что серое вещество гиппокампа может увеличиваться в объеме и в зрелом возрасте – этот феномен был документально подтвержден исследованиями мозга лондонских таксистов – так же, как в результате физических тренировок растет масса мышц. Однако если водители, как роботы, просто следуют инструкциям навигатора, предостерегает Бобо, то они не стимулируют свой гиппокамп и в результате становятся более подверженными расстройствам памяти [24]. Бобо предупреждает, что если гиппокамп начнет атрофироваться в связи с тем, что из-за навигаторов он перестанет работать и тренироваться, то в результате может произойти потеря памяти и возрасти риск развития деменции. «Все наше общество движется к тотальной атрофии гиппокампа, – сказала Бобо одному журналисту. – Думаю, что в следующие 20 лет деменция станет развиваться у людей все более молодого возраста» [25].

Однако даже если люди привычно пользуются GPS-навигаторами, водя автомобиль и ходя пешком по улицам, то внутри помещений им все же приходится полагаться на мозговые системы навигации, так как сигналы GPS не проникают в закрытые помещения. Ментальная нагрузка при ориентации в домах защищает гиппокамп и связанные с ним нейронные сети. Но если этот аргумент можно было принять несколько лет назад, то сегодня он уже не проходит. Желая получить максимум информации о перемещениях человека, чтобы беспрерывно заваливать его рекламными объявлениями, компании, производящие программное обеспечение и смартфоны, расширили зоны действия своих картографических инструментов, и теперь от них невозможно укрыться ни в аэропорту, ни в магазине, ни на работе.

Google ввел в свой картографический сервис тысячи планов закрытых помещений и начал рассылать фотографов в магазины, офисы, музеи и даже в монастыри, чтобы создать подробные карты и панорамы закрытых пространств. Компания также развивает технологию под кодовым наименованием Google Project Tango, которая использует сенсоры движения и видеокамеры в личных смартфонах для того, чтобы создавать трехмерные карты зданий и отдельных помещений. В начале 2013 года компания Apple приобрела фирму WiFiSlam, которая занималась разработкой карт закрытых помещений и изобрела способ использования сигналов WiFi и Bluetooth вместо передач GPS для определения местоположения человека с точностью до нескольких дюймов. Apple быстро использовала эту технологию, создав опцию iBeacon, встроенную в iPhone и iPad. Расставленные во множестве магазинов маяки iBeacon действуют как «клетки места», включаясь всякий раз, когда человек со смартфоном появляется в поле досягаемости. Эти устройства возвестили, по словам журнала Wire, наступление эры «микролокации» [26].

Системы картирования закрытых помещений будут усиливать нашу зависимость от компьютерной навигации и в еще большей степени ограничат для нас возможность самостоятельной ориентации. Если в обиход войдут головные дисплеи, такие, например, как Google Glass, то мы получим быстрый, практически мгновенный доступ к инструкциям о последовательности поворотов. По мнению Майкла Джонса, это будет непрерывный поток направляющих инструкций [27]. Фирмы Google и Mercedes-Benz уже сотрудничают по созданию компьютерного приложения, которое свяжет головные очки с GPS-навигатором на панели автомобиля. Это позволит осуществить то, что производители именуют «навигацией от двери до двери» [28]. Если богиня глобального позиционирования и впредь будет нашептывать нам маршруты или посылать их на сетчатку глаза, то у человека не останется шансов использовать свою внутреннюю систему ориентации в пространстве.

Бобо и другие ученые подчеркивают, что нужны дополнительные исследования, подтверждающие, что длительное и регулярное использование GPS-навигаторов действительно ослабляет память и повышает риск раннего наступления старческого слабоумия. Однако, учитывая все известные факты о тесной связи способности к ориентации, гиппокампа и памяти, вполне можно допустить, что уклонение от самостоятельной ориентации в пространстве будет иметь непредсказуемые и не всегда полезные последствия. Так как память не только хранит сведения о прошлых событиях, но и позволяет нам разумно реагировать на происходящее сейчас, а также прогнозировать будущее, любое ослабление ее функций приведет к ухудшению качества нашей жизни.

В течение сотен тысяч лет эволюция приспосабливала тело и ум человека к окружающей среде. Мы сформированы нашим бытием, как об этом писал поэт Вордсворт:

С горами, морем и травой.

Вращаться заодно…

Автоматизация странствий отлучает человека от сформировавшей его среды. Она заставляет всматриваться в символы на экране и оперировать ими, а не сосредоточивать внимание на реальных предметах вокруг. Действия, которые под влиянием услужливых цифровых божеств кажутся скучными и монотонными, могут оказаться жизненно необходимым для нашего здоровья, счастья и благополучия. Таким образом, неверным становится вопрос: «Кому все это надо?» – который следовало бы заменить другим: «Насколько далеко от реального мира мы хотим уйти?».

Этот вопрос издавна занимал людей, строивших частные и общественные здания. Если авиаторы были первыми, кто профессионально столкнулся с мощью автоматизации, то несильно отстали от них архитекторы и строители. В начале шестидесятых годов инженер из Массачусетского технологического института Айвен Сазерленд, занимавшийся усовершенствованием компьютеров, изобрел sketchpad – блокнот для набросков. Это было революционное программное приложение, предназначенное для рисования и черчения, первый графический интерфейс. Его изобретение заложило основу разработки систем автоматизированного проектирования (computer-aided design, CAD). После того как программы CAD были приспособлены для установки на персональные компьютеры (это произошло в восьмидесятые годы), их стали широко использовать для создания двухмерных рисунков и трехмерных моделей. Они стали незаменимым инструментом в работе архитекторов, не говоря уже о дизайнерах, художниках-графиках и гражданских инженерах. К началу XXI века, по меткому замечанию покойного декана архитектурного факультета MIT Уильяма Митчелла: «…работа архитектора без программ автоматизированного проектирована стала такой же немыслимой, как письмо без текстовых процессоров» [29]. Новое программное обеспечение коренным образом изменило процесс, характер и стиль проектирования.

Зодчество – профессия изысканная. Она требует художественного чувства прекрасного в сочетании с ремесленническим вниманием к функциональным деталям и одновременно понимания финансовых, технических и других практических ограничений. «Архитектура находится на стыке искусства и антропологии, обществоведения и точных наук, техники и истории, – говорит итальянский архитектор Ренцо Пиано, проектировавший Центр Помпиду в Париже и главное здание The New York Times на Манхэттене. – Иногда она кренится в сторону гуманизма, а иногда – в сторону материализма» [30]. Работа зодчего связывает смелое воображение и трезвый расчет – два способа мышления, часто противоречащие друг другу и даже вступающие между собой в непримиримый конфликт. Так как большинство из нас проводит большую часть жизни в искусственных постройках, созданные людьми дома кажутся нам более естественной средой обитания, нежели дикая природа. Архитектура оказывает на нас глубокое, не всегда осознаваемое влияние. Хорошая – возвышает человека, а плохая или заурядная – унижает и обесценивает его жизнь. Даже такие, казалось бы, малозначительные детали, как размер и положение окон или устройство вентиляции, могут оказать большое воздействие на эстетику, функциональность и удобство дома, а также на настроение его обитателей. «Сначала мы придаем форму нашим домам, – заметил как-то Уинстон Черчилль, – а потом дома придают форму нам» [31].

Несмотря на то что порождаемые компьютерами планы зданий могут привести к подчинению человека, в целом такие программы все же делают работу градостроителей более эффективной. Системы автоматизированного проектирования ускоряют и упрощают подготовку проектной документации и облегчают пересылку планов строительства клиентам, инженерам, подрядчикам и правительственным чиновникам. Производители могут теперь пользоваться файлами систем автоматизированного проектирования для того, чтобы программировать своих роботов на изготовление нужных деталей, что позволяет быстро модифицировать производство в соответствии с техническими требованиями, а также экономить на вводе данных и контроле точности этого введения. Такие системы дают архитекторам полное представление о сложном проекте, позволяя одновременно видеть поэтажный план, фасады, материалы, а также расположение электропроводки, отопления, охлаждения и водопроводных труб. Эффекты внесенных изменений становятся видны сразу, что невозможно, если проект представляет собой огромную кипу бумажных чертежей. Пользуясь способностью компьютера мгновенно вводить в вычисления любые переменные и в любых количествах, архитектор может точно оценить устойчивость здания при различных внешних условиях. Все это помогает лучше удовлетворять требованиям строителей и общества в целом. Трехмерные компьютерные изображения и анимация оказались неоценимыми средствами, позволяющими реально увидеть интерьеры и фасады проектируемого здания. Клиенты могут совершить виртуальный обход или облет здания еще до начала строительства.

Помимо практических выгод, системы автоматизированного проектирования позволяют архитекторам и инженерам поэкспериментировать с новыми формами, конструкциями и материалами. Здания, существовавшие прежде только в воображении авторов, стало возможно построить, например «Музыкальный проект» Фрэнка Гери[21] или городской музей Сиэтла, выполненный в виде тающих на солнце восковых фигур. Их было бы невозможно построить без компьютеров. Несмотря на то что первоначально Гери сделал модель будущего здания из дерева и картона, ее сложные и текучие формы в реальности было бы немыслимо воплотить вручную. Дизайн потребовал мощной системы автоматизированного проектирования, созданной французской фирмой Dassault, разрабатывающей новые поколения самолетов. Эти системы могут отсканировать модель, перевести картинку в цифровую форму и выразить числами и формулами всю ее капризную сложность. Материалы для строительства оказались столь разнообразны, а их форма настолько сложна, что и этот процесс пришлось автоматизировать. Тысячи панелей, изготовленных из нержавеющей стали и алюминия, были выточены согласно чертежам, рассчитанным программой. Эти чертежи в цифровой форме вводились в автоматические, управляемые роботами станки.

Фрэнк Гери – современный архитектор, но его привычка создавать вручную первоначальные модели кажется многим архаичной. После того как молодые специалисты становятся виртуозами в работе с компьютерным проектированием и моделированием, программы автоматизированного проектирования превращаются из инструмента воплощения идей в план строительства, в инструмент создания самого дизайна. Технология параметрического проектирования, использующая алгоритмы для расчета формальных взаимоотношений между различными элементами дизайна, становится стержнем творческого процесса. Используя табличный способ представления программных скриптов, архитектор-программист вводит в компьютер последовательность математических правил (параметров), например отношение площади окон к площади пола или формулы искривленных поверхностей, а затем машина сама выдает готовый проект.

Параметрическое проектирование привело к созданию нового стиля в архитектуре, названного параметризмом. Он отвергает классическую архитектуру и вольно компонует вместе барочные и футуристические формы. Некоторые традиционалисты считают его безвкусной фантазией и разносят в пух и прах. Например, нью-йоркский архитектор Дино Маркантонио утверждает: «Продукция параметризма – это не более чем уродливые кляксы, которые любой человек может без усилий скомпоновать на компьютере» [32]. Более умеренная критика прозвучала из уст журналиста Пола Голдбергера, который написал в The New York Times: «…хотя завитки, изгибы и развороты цифрового дизайна и могут оказаться в какой-то степени привлекательными, они все же часто бывают связаны лишь со своей собственной, порожденной компьютером реальностью» [33]. В отличие от этих критиков, некоторые молодые специалисты считают параметризм вкупе с другими формами компьютерного дизайна определяющим течением современной архитектуры, ее движущей силой. В 2008 году, на Венецианском архитектурном бьеннале, директор влиятельной лондонской фирмы Zaha Hadid Патрик Шумахер обнародовал «Манифест параметризма», в котором провозгласил его величайшим из современных стилей после модернизма. «Благодаря компьютерам, – утверждает Шумахер, – строительные конструкции вскоре будут представлять собой расходящиеся волны, слоистые потоки и спиральные водовороты, напоминающие движущуюся жидкость. …Толпы зданий будут плыть по ландшафту в полной гармонии с динамическими толпами человеческих тел» [34].

Превратятся ли в явь эти гармоничные толпы или нет, неизвестно, но противоречивые оценки параметризма выдвинули на первый план поиски души в архитектуре, которые начались сразу после появления автоматизированного проектирования. С самого начала стремление освоить проектирующие программы омрачалось сомнениями и тревогой. Многие влиятельные архитекторы с мировым именем предупреждали, что избыточное увлечение компьютером сузит кругозор профессионалов, приведет к деградации их творческого таланта. Например, Ренцо Пиано, с одной стороны, признаёт, что ЭВМ стали неотъемлемой частью практической архитектуры, но, с другой – опасается, что это приведет к перепоручению людьми своей работы компьютерам. Несмотря на то что автоматизация позволяет архитектору очень быстро делать точные, выверенные трехмерные модели зданий, сама эта быстрота делает ненужным долгий и мучительный процесс поисков, в результате которых только и появляются самые вдохновенные проекты. Шарм, рождающийся, словно по мановению волшебной палочки, на экране модели, может оказаться соблазнительной иллюзией. «Понимаете, – говорит Пиано, – компьютеры становятся такими умными, что начинают напоминать механические пианино, на которых вы нажимаете одну клавишу, и инструмент дальше сам играет ча-ча-ча или румбу. Вы можете вообще не уметь играть, но будете чувствовать себя великим пианистом. То же самое происходит теперь в архитектуре. У вас возникает иллюзия, будто, нажав одну кнопку, вы сможете построить все что угодно. Но она требует мышления и в какой-то степени определенной медлительности. Для создания проекта нужно время. В компьютерах плохо то, что они все на свете делают очень быстро» [35]. Архитектор и критик Витольд Рыбчинский придерживается того же мнения. Воздавая должное технологическим прорывам, он тем не менее считает, что сумасшедшая производительность компьютеров имеет свою цену – мастер не столько думает, сколько тычет пальцами в клавиатуру» [36].

Архитекторы всегда считали себя художниками, и до появления систем автоматизированного проектирования источником их искусства был рисунок. Сделанный от руки набросок и компьютерная графика похожи только в одном – они предназначены для того, чтобы продемонстрировать идею. Эскиз позволяет зримо представить проект. Но сам акт рисования – это способ мышления. «Моего воображения не хватит на то, чтобы описать идею, если я ее не нарисую, – говорит архитектор-модернист Ричард Маккормак. – Я пользуюсь рисунком как в процессе критического разбора, так и в поисках открытия» [37]. Рисование перебрасывает мостик между абстракцией и реальностью. «Изображение здания от руки – это не просто конечный продукт, а часть обдумывания проекта, – говорит известный архитектор и дизайнер Майкл Грейвс. – Рисунок – это выражение взаимодействие разума, глаза и руки» [38]. Философ Дональд Шён идет еще дальше и пишет: «Архитектор беседует со своими рисунками, предаваясь рефлексии. Это диалог с реальным материалом постройки» [39]. В результате взаимодействия руки, глаза и ума идея принимает определенную форму, и творческая искра зажигает пламя, которое освещает медленный путь плодов воображения в реальный мир.

Интуитивное чувство опытных архитекторов, подсказывающее им, что эскиз – это центральный элемент творческого мышления, который подкрепляется научными исследованиями когнитивных основ и эффектов рисования. Сделанный на бумаге рисунок приводит к увеличению емкости рабочей памяти, позволяя его исполнителю запоминать разные варианты замысла. В то же время сам физический акт рисования, требуя зрительного напряжения и осознанной моторики мышц кисти, способствует также и расширению емкости долговременной памяти. Это помогает архитектору надолго запоминать прежние наброски и эскизы и не повторяться в поиске удачного решения. «Рисунок – это средство напоминания об идее, что в первую очередь заставляет меня рисовать» [40]. Воображение на бумаге позволяет архитектору быстро переходить с одного уровня детализации на другой, а также пользоваться разнообразными абстракциями, рассматривать рисунок одновременно с разных точек зрения и оценивать воздействие внесенных изменений на общий вид строения. «С помощью изображения, – пишет британский дизайнер и ученый Найджел Кросс в книге “Конструкторский способ познания” (“Desinery Ways of Knowin”), – архитектор не только постепенно продвигается к окончательному решению, но и проясняет суть тех проблем, которые ему приходится решать. Эскизы включают в себя рисунки предполагаемых вариантов пробной концепции, но также числа, символы и текст. Рисование от руки дает возможность исследовать пространство проблем и пространство решений одновременно. …В руках талантливого архитектора блокнот становится своего рода усилителем интеллекта» [41].

Рисование можно назвать мануальным мышлением. Оно является одновременно тактильным и церебральным, то есть зависит от руки так же, как и от мозга. Акт рисования таинственным образом отпирает темницу молчаливого знания. Этот мистический процесс вообще очень важен для художественного творчества, каковое просто невозможно за счет одного только сознательного действия. «Дизайнерское искусство – это знание в действии, – замечает Шён. – Оно по большей части молчаливое и скрытое. … Профессионалы (а иногда это единственный способ) получают доступ к своим собственным скрытым знаниям, когда начинают создавать произведение, выражая его телесным языком» [42]. Проектирование с помощью компьютерных программ – это тоже созидание, но оно пользуется иным языком, выдвигая на первый план формальную сторону работы: функциональные требования к зданию и оптимальной компоновке его фрагментов, им отвечающей. Устраняя физический процесс рисования от руки, компьютер избавляет архитектора от физического усилия, а заодно сужает его кругозор. «Вместо органичных телесных фигур, рождающихся на кончике карандаша или угольного стержня, программа автоматизированного проектирования, – утверждает Шён, – выдает символические, ограниченные определенной процедурой формы, которые могут оказаться неполными и неадекватными реальной конструкции» [43]. Так же, как экран GPS-навигатора губит восприимчивость эскимосского охотника к живым сигналам Арктики, экран системы автоматизированного проектирования притупляет восприятие архитектора и понимание материальности работы. В обоих случаях реальный мир съеживается.

В 2012 году на архитектурном факультете Йельского университета (Yale University) прошел симпозиум «Умер ли рисунок?». Само название отражает растущее ощущение того, что искусство архитектурных эскизов отступает под натиском компьютера. Переход от блокнота к экрану уничтожает, по мнению многих архитекторов, сам акт смелого творчества. Из-за точности и очевидной полноты экранного изображения специалист, работающий на компьютере, с самого начала «прилипает» к нему. Быстрота компьютерного исполнения чертежей и эскизов лишает его возможности исследовательской игры, возникающей вследствие неопределенности и непредсказуемости мануального рисунка. Ученые называют этот феномен «преждевременной фиксацией» и видят его причину в нежелании вносить изменения в проект после того, как он очень быстро наполнился большим количеством взаимосвязанных деталей, созданных системой автоматизированного проектирования [44]. Работающий за компьютером архитектор, кроме того, склонен к формальному экспериментированию, жертвуя ради этого выразительностью. «Ослабляя личную, эмоциональную привязанность зодчего к своему творению, – утверждает Майкл Грейвс, – программы автоматизированного проектирования производят эскизы, которые, будучи сложными и, надо сказать, интересными, часто лишены эмоционального содержания, неизбежно возникающего при рисовании от руки» [45].

Выдающийся финский архитектор Юхани Палласмаа высказывает сходные мысли в талантливой и красноречивой книге «The Thinking Hand» («Мыслящая рука»),[22] вышедшей в 2009 году. Палласмаа утверждает, что растущая зависимость от компьютеров мешает архитекторам представить себе человеческие свойства проектируемых зданий. В процессе создания проекта архитектор не успевает заселить его людьми и представить себе, как они будут жить в построенном доме. Палласмаа считает: «Мнимая точность и законченность компьютерного изображения могут притупить эстетическое чувство архитектора, привести к созданию технически безупречных, но эмоционально стерильных проектов. …В рисовании карандашом или пером рука следует за очертаниями, формами и узорами предмета, а при манипулировании порожденным компьютером изображением она только выбирает линии из данного набора символов, не имеющих эмоциональной связи с предметом» [46].

Споры относительно использования компьютеров в дизайнерских профессиях, естественно, продолжаются, и каждая сторона отстаивает свою правоту с помощью изощренных и убедительных аргументов. Будет развиваться и совершенствоваться и программное обеспечение компьютерного дизайна, что позволит преодолеть некоторые нынешние ограничения и недостатки существующих программ. Но какие бы сюрпризы ни преподнесло нам будущее, опыт архитекторов и дизайнеров говорит о том, что компьютер ни в коем случае не является нейтральным рабочим инструментом. Он всегда влияет – хорошо или плохо – на способ мышления человека. Характер и цели работы, так же как стандарты, согласно которым она оценивается, начинают определяться возможностями машины. В каждом случае, когда дизайнер или любой мастер становится зависимым от компьютерной программы, он одновременно принимает заложенные в нее концепции. Со временем человек начинает ценить только то, на что способна программа, а то, чего она делать не может, он отбрасывает как неважное, несущественное или просто немыслимое. Если он не приспособится к машине, то рискует лишиться профессии.

Помимо спецификации программных продуктов, сам перенос ра– боты из реальности на экран уже меняет взгляды архитекторов. Большее внимание теперь уделяют абстракции, а не материальности проекта. Вычислительные методы совершенствуются, чувственная составляющая исчезает. Точность и прозрачность берут верх над предварительными умозаключениями и неопределенностями. Э. Дж. Мид, основатель небольшой архитектурной фирмы Arch11 в Боулдере (Колорадо), всячески превозносит эффективность систем автоматизированного проектирования, но и он выражает озабоченность тем, что такие популярные программы, как Revit и SketchUp, становятся навязчиво предписываемыми. Архитектору надо лишь ввести в компьютер размеры стены, пола или другой поверхности, и после нажатия клавиши программа выдаст все: чертеж поверхности, ее границы, расположение бетонных блоков или кафельных плиток, всех несущих конструкций, места заложения герметиков, состав раствора и текстуру штукатурки. Мид считает, что труд архитекторов превращается в заурядную деятельность, а все здания, которые они проектируют, становятся предсказуемыми и выглядят на одно лицо. «Если вы полистаете архитектурные журналы восьмидесятых годов, – сказал мне Мид, – то во всех статьях увидите неповторимый почерк каждого архитектора» [47].

Так же как и врачи, многие опытные дизайнеры опасаются, что растущая зависимость от автоматизации будет все больше и больше мешать студентам, в том числе молодым архитекторам, постигать тонкости профессии. Джекоб Брильхарт, профессор архитектуры из Университета Майами (The University of Miami), считает, что упрощенные решения, предлагаемые такими программами, как Revit, подрывают сам процесс обучения. «Надежда на программу, которая наполнит работу деталями и предложит материалы для строительства, плодит банальные, ленивые и безличные проекты, лишенные интеллекта, воображения и эмоций», – выражает свою озабоченность профессор. Повторяя, как эхо, жалобы врачей, он видит, что в его профессии побеждает культура «вырезания и вставок», когда молодые архитекторы извлекают детали, фасады и стенные секции из хранящихся в сервере прошлых проектов и просто заново их компонуют [48]. Из-за этого нарушается связь между действием и искусством.

Опасность, нависшая над творческими профессиями, заключается в том, что дизайнеры и художники, очарованные нечеловеческим быстродействием компьютеров, их точностью и эффективностью, со временем начнут воспринимать это как данность, будут считать, что автоматизированное проектирование – это наилучший способ. Они согласятся на дьявольскую сделку, став покорными слугами программ. Такие архитекторы пойдут по пути наименьшего сопротивления, не понимая, что только сопротивление и трудности – пусть даже и небольшие – могут порождать хорошие проекты и пробуждать в специалистах их лучшие качества.

«Чтобы понять, как завязывать шнурки, – говорит политолог и мотоциклетный механик Мэтью Кроуфорд, – надо завязывать шнурки». Вот простая иллюстрация этой нехитрой истины, которую Кроуфорд излагает в своей книге «Shop Class as Soulcraft» («Мастерская как школа воспитания души»), вышедшей в 2009 году: «Если мышление неразрывно сплетено с действием, то решение задачи адекватного интеллектуального понимания мира зависит от наших созидательных действий в нем» [49]. Здесь Кроуфорд ссылается на работы немецкого философа Мартина Хайдеггера, который считал, что «глубочайшая форма понимания доступна нам не в виде исключительно перцепционного[23] познания, но только как результат действия, дающего опыт» [50].

Мы склонны думать, что труд познания отличается от физического труда и даже несовместим с ним – признаю, что и сам я отдал дань этой тенденции в первых главах книги, – но это разграничение отдает снобизмом и является надуманным. Любой труд – это труд познания. Мозг плотника во время работы занят не меньше, чем мозг математика. Достижения архитектора зависят от тела и его ощущений не в меньшей степени, чем успехи охотника. Наше сознание не запечатано в черепе, а распространяет свое влияние по всему телу. Мы думаем не только мозгом, но глазами и ушами, носом и ртом, конечностями и туловищем. Если используем для работы инструменты, то начинаем думать и ими. «Мышление или познание – это не задумчивое сидение в кресле, как думают многие, – писал американский философ и общественный деятель Джон Дьюи в 1916 году. – Руки и ноги, аппараты и приспособления всякого рода суть такие же равноправные орудия познания, как и процессы в нашем мозгу» [51]. Действовать – значит думать, а думать – значит действовать.

Наше стремление отделить умственное рассуждение от телесных усилий есть следствие картезианского дуализма,[24] до сих пор довлеющего над нами. Думая о мышлении, мы быстро определяем место, где оно осуществляется, и осознаём нашу самость, помещая его в серое вещество мозга и рассматривая наше тело лишь как некую механическую поддерживающую систему, дающую энергию для разрядов нервных клеток. Этот дуализм взгляда на разум и тело как на сущности, работающие изолированно друг от друга, суть не просто фантазия таких философов, как Декарт и его предтеча Платон, но побочный эффект работы самого сознания. Несмотря на то что большая часть работы мозга остается «за сценой», прячась в тени подсознания, мы находимся в плену очарования маленького, но зато ярко освещенного окна, открытого нам сознанием, и вот оно-то и убеждает нас, что не имеет ничего общего с телом.

По мнению психолога Мэтью Либермана, профессора Калифорнийского университета в Лос-Анджелесе (University of California, Los Angeles), эта иллюзия проистекает из того факта, что мы, рассматривая наше тело, пользуемся одной частью мозга, а рассматривая разум и сознание – другой. «Когда мы думаем о теле и его действиях, мы привлекаем для этого префронтальные и теменные участки коры правого полушария большого мозга, – объясняет профессор. – Когда же думаем о разуме, то пользуемся частями, расположенными ближе к средней линии, на стыке правого и левого полушарий». Если ощущения, переживания и опыт анализируются разными участками мозга, то сознающий разум, соответственно, делит их на разные категории. «Несмотря на то что эта анатомически встроенная иллюзия не отражает природных различий, – подчеркивает Либерман, – она тем не менее является для нас непреложной психологической реальностью» [52].

Чем больше мы познаём себя, тем лучше понимаем, насколько сильно может вводить нас в заблуждение эта «реальность». Одной из наиболее интересных и отрезвляющих областей современной психологии и нейрофизиологии является так называемая внутренняя когнитивистика (наука о встроенных процессах познания). Современные ученые подтверждают прозрения Джона Дьюи, высказанные им сто лет назад: «Мозг и тело не только составлены из одной материи, но их функции переплетены между собой теснее, чем нам кажется. Биологические процессы, составляющие основу мышления, возникают не только из нейронных вычислений мозга, но и из действий и сенсорных восприятий всего организма как целого». «Вот, например, – пишет Энди Кларк, философ из Эдинбургского университета (University of Edinburgh), активно занимающийся вопросами внутренней когнитивистики, – есть достаточно убедительные доказательства того, что, жестикулируя во время разговора, мы уменьшаем когнитивную нагрузку на мозг, а биомеханика мышц и сухожилий ног существенно облегчает проблему контроля над ходьбой» [53]. Сетчатка, как показывают недавние исследования, не является пассивным сенсорным органом, посылающим в мозг сырые, необработанные данные, как считали до последнего времени. Напротив, она активно обрабатывает то, что мы видим. У глаза есть свой ум, своя смекалка [54]. Даже наши сугубо концептуальные размышления приводят в действие сенсорные и двигательные системы тела. Когда мы абстрактно или метафорически мыслим о предметах или явлениях окружающего нас мира – о ветвях деревьев или порывах ветра, – мы ментально воспроизводим или имитируем наш физический опыт взаимодействия с этими предметами и явлениями [55]. «В существах, подобных нам, – утверждает Кларк, – тело, мир и действие являются сотрудниками той ускользающей от нашего понимания вещи, которую мы называем разумом» [56].

Вопрос о том, как распределяются когнитивные функции в мозгу, сенсорных органах и остальных частях тела, является пока предметом интенсивных исследований и оживленных дебатов, а некоторые более экстравагантные утверждения адептов внутренней когнитивистики о том, что индивидуальный разум вообще простирается за пределы организма, остаются противоречивыми и недоказанными. Ясно пока только одно: неверно и дальше отделять мышление от физического бытия, так же как отделять физическое бытие от породившего нас окружающего мира. «Ничто в человеческом опыте не остается нетронутым внутренними процессами, – пишет философ Шон Галлахер, – от простейших процессов восприятия и эмоциональных реакций, которые начинают протекать уже в младенчестве, до сложных взаимодействий с другими людьми; от усвоения и творческого использования языка до высших когнитивных способностей, включающих возможность понимать иносказания и формировать суждения; от проявления свободы воли в целенаправленных действиях до создания произведений искусства, помогающих людям лучше понять окружающий их мир» [57].

Идея внутренней когнитивистики, по мнению Галлахера, помогает объяснить, почему человеческий род проявляет такую невероятную способность к прогрессу техники. Настроенные на окружающую среду наш мозг и тело быстро включают орудия и другие предметы в мыслительные процессы и начинают трактовать их как часть собственного тела. Если вы ходите с тросточкой, работаете молотком или фехтуете на шпагах, то ваше подсознание включит эти орудия в нейронную карту тела. Способность нервной системы соединять тело и предметы не уникальна для человека. Обезьяны пользуются палками, чтобы добывать муравьев и термитов, слоны берут зеленые ветки для того, чтобы отгонять насекомых, дельфины, когда раскапывают морское дно в поисках пищи, пользуются губками, чтобы не поцарапаться о камни. Однако высшая способность Homo sapiens к осознанным умозаключениям и планированию позволяет нам конструировать изощренные орудия и инструменты для самых разнообразных целей, расширять наши ментальные и физические возможности. В нас заложена древняя склонность к тому, что Кларк определяет термином «когнитивная гибридизация», – к смешиванию биологического и технологического, внутреннего и внешнего [58].

Легкость, с которой мы делаем технологию частью самих себя, может обернуться против нас самих. Передача власти орудиям не всегда идет человеку на пользу. Величайшая ирония нашего времени заключается в том, что, несмотря на открытия ученых о важной роли, которую играют в развитии мышления и памяти навыки физического действия и сенсорное восприятие реальности, мы проводим все меньше времени в реальном мире и все больше – в абстрактной среде компьютерного экрана. Люди сами лишают себя функций собственного тела, накладывая сенсорные ограничения на бытие. В виде компьютеров общего назначения мы ухитрились (достаточно извращенно) создать инструмент, который украл у нас телесную радость работы с инструментами.

Наше интуитивное, но ошибочное убеждение в том, что интеллект работает независимо от тела, привело к пренебрежению реальным миром.

От этого суждения недалеко до уверенности в том, что компьютер является достаточным и к тому же превосходным инструментом, выполняющим работу мозга. Специалист из Google Майкл Джонс считает за данность, что благодаря картам Google и другим онлайновым приложениям компании IQ людей повысился на 20 баллов [59]. Обманутые нашим собственным мозгом, мы полагаем, что не жертвуем ничем жизненно важным, полагаясь на различные компьютерные программы: навигационные, проектирования зданий и другие, требующие развитого мышления и изобретательности. Хуже того, мы забыли о том, что существуют альтернативы, и игнорируем саму возможность перестроить компьютерные программы так, чтобы они не ослабляли наше восприятие мира, а усиливали его. Специалисты по эргономике и другие эксперты по автоматизации нашли способы разбить «стеклянную клетку», не уничтожая преимуществ, которыми наградили нас компьютеры.

Глава седьмая. Автоматизация для людей.

Кому вообще нужны люди?

Этот вопрос в той или иной риторической форме неизбежно возникает в спорах об автоматизации. Если люди по сравнению с компьютерами выглядят медлительными, неуклюжими и склонными к ошибкам, то почему бы не построить безупречную самоуправляющуюся систему, которая функционировала бы без вмешательства человека, а заодно и без его промахов? Почему бы не исключить из уравнения человеческий фактор?

«Нам нужно все перепоручить роботам», – объявил теоретик по технологии Кевин Келли в 2013 году в статье, напечатанной в журнале Wired. Ссылаясь на авиацию, он заявил: «Компьютерный мозг, называемый автопилотом, может без всякой посторонней помощи управлять Boeing-787, но мы по какой-то иррациональной причине сажаем в кабину пилотов, чтобы на всякий случай следить за автопилотом» [1]. Новость о том, что автомобиль Google попал в аварию из-за того, что в тот момент машиной управлял человек, заставила одного из блогеров в сердцах воскликнуть: «Нужно больше роботов-водителей!» [2] Комментируя трудности, с которыми столкнулись общественные школы в Чикаго, обозреватель The Wall Street Journal Энди Кесслер полушутя заметил: «Почему бы нам не забыть об учителях? Вместо них надо снабдить каждого ученика iPad или планшетом с Android?» [3] В 2012 году уважаемый в Кремниевой долине венчурный капиталист Винод Кхосла предположил, что здравоохранение можно было бы значительно улучшить, если бы медицинская компьютерная программа (доктор Алгоритм, как назвал ее Кхосла) перестала быть помощником врача, а заменила бы его полностью. «В конце концов, – писал Кхосла, – отпадет нужда в среднем враче» [4]. Лекарством от несовершенной автоматизации объявляется тотальная автоматизация.

Идея соблазнительная, но от нее за милю отдает упрощенчеством. Машины наследуют пороки и заблуждения своих создателей. Рано или поздно любая, даже самая передовая технология отказывает, ломается или, как в случае компьютеризованных систем, сталкивается с ситуацией, которую не предвидели ни конструкторы, ни программисты. В этом случае алгоритм становится в тупик. В начале 2009 года, всего за несколько недель до катастрофы в Буффало, у аэробуса АЗ20 компании US Airways отказали все двигатели из-за столкновения со стаей гусей при взлете из нью-йоркского аэропорта La Guardia. Действуя умело и хладнокровно, капитан Чесли Сулленбергер и его второй пилот Джеффри Скайлс смогли в течение трех решающих минут плавно посадить машину в реку Гудзон. С борта удалось снять всех пассажиров и экипаж. Если бы на борту этого АЗ20 не было «нянек» в лице пилотов, то все, кто находился на борту, погибли бы почти неминуемо, ибо у пассажирских лайнеров все двигатели сразу выходят из строя очень и очень редко.

Но иногда пилоты спасают машины при механических поломках, отказах автопилота, плохой погоде и неожиданных событиях. «Снова и снова, – писал в 2009 году немецкий журнал Spiegel в статье о безопасности на воздушном транспорте, – пилоты автоматически управляемых самолетов сталкиваются с жуткими сюрпризами, предусмотреть которые не могли никакие инженеры» [5].

То же самое можно сказать и о положении в других отраслях. В прессе широко освещалось происшествие с Google-мобилем, за рулем которого сидел человек; но мы практически ничего не слышали о тех случаях, когда водители, сидевшие в автоматических машинах Google, брали на себя управление, если компьютер с ним не справлялся. Правила Google требуют ручного управления на улицах жилых кварталов, а каждый, кто хочет покататься на компьютерном автомобиле, должен пройти курсы экстремального вождения [6]. Автоматические автомобили не такие уж и самостоятельные, как кажутся.

В медицине специалистам часто приходится пересматривать инструкции или назначения, сделанные компьютерами. Руководство госпиталей обнаружило, что назначения ими лекарств, устранив некоторые общие расстройства организма человека, создали новые проблемы. Проведенное в 2011 году в одном из госпиталей исследование показало, что число случаев повторного назначения одних и тех же лекарств возросло после внедрения автоматизированной системы [7]. Диагностические программы тоже далеки от совершенства. В большинстве случаев доктор Алгоритм поставит вам правильный диагноз и назначит адекватное лечение, но если набор ваших симптомов отличается от стандартного, то вы будете благодарить судьбу за то, что в кабинете оказался доктор Человек, который исправил неудачные назначения компьютера.

Потенциальных источников ошибок становится больше по мере усложнения технологии автоматизации, увеличения числа перекрестных связей, объемов баз данных и сетевых протоколов. Системы подвергаются «каскадам отказов», в ходе которых небольшая поломка в каком-то одном звене приводит к катастрофическим последствиям, вызывая разлад всей системы. В 2010 году группа физиков писала в журнале Nature: «Человек живет в мире взаимозависимых сетей. Различные элементы инфраструктуры, такие, как водоснабжение, транспорт, заправочные станции и электростанции, – все это соединено в единую систему электроникой и другими средствами, что делает их в высшей степени чувствительными к случайным сбоям и ошибкам» [8].

Становится все труднее выявлять вероятность наступления таких нарушений. «В промышленных машинах прошлого, – объясняет научный сотрудник MIT Нэнси Ливсон в своей книге “Engineering a Safe Word” (“Создание безопасного мира”), – взаимодействие между деталями можно было надежно спланировать, понять и защитить, а всю конструкцию машины – полностью протестировать, прежде чем запускать ее в действие». Современные высокотехнологичные системы уже не обладают этими свойствами. Они стали менее управляемыми в интеллектуальном смысле, чем их предшественники, собранные с помощью болтов и гаек [9]. Все части машины могут работать безупречно, но небольшая ошибка в конструкции способна привести к непоправимой катастрофе.

Опасность еще более увеличивается из-за невероятной скорости, с какой компьютеры принимают решения и начинают действовать. Это было наглядно продемонстрировано ужасным утром 1 августа 2012 года, когда крупнейшая торговая фирма Уолл-стрит Capital Group запустила новую автоматизированную программу для покупки и продажи акций. В этой суперсовременной программе был небольшой изъян, оставшийся незамеченным во время ее испытаний. Программа немедленно вздула валютные курсы своими абсолютно иррациональными распоряжениями, продавая ежесекундно акции на 2,6 миллиона долларов. Через 45 минут, которые потребовались математикам и программистам для того, чтобы разобраться в проблеме и остановить это безумие, программа успела растранжирить 7 миллиардов долларов, поставив компанию на грань банкротства. Через неделю консорциум других фирм Уолл-стрит компенсировал убытки Capital Group, чтобы избежать катастрофы на финансовом рынке.

Естественно, технология не стоит на месте, а неисправности всегда устраняются. Но безупречность работы автоматизированных систем, увы, навечно останется недостижимым идеалом. Даже если инженерам удастся создать совершенную систему, то ей придется подстроиться под наш мир. Беспилотные автомобили поедут не по улицам города Солнца. Роботы работают не в райских кущах. По небу по-прежнему будут летать гуси, а из туч – сверкать молнии. Убеждение в том, что когда-нибудь будет построена абсолютно самодостаточная, надежная автоматизированная система, – это не более чем утопия. К сожалению, такая вера характерна не только для высоколобых технократов, но и для инженеров и программистов, создателей этих систем. В своей знаковой статье, напечатанной в 1983 году в журнале Automatica, Лизанна Бэйнбридж, профессор инженерной психологии из Лондонского университетского колледжа (University College London), сформулировала причину наделения компьютерных систем все большими задачами, заключающуюся в том, что создатели программ часто считают людей «ненадежными и неэффективными» по сравнению с компьютерами. Люди, таким образом, превращаются в наблюдателей, пассивных созерцателей экранов [10]. Исследования вигильности[25] операторов британских радаров, следивших за немецкими подводными лодками во время Второй мировой войны, показали, что даже высокомотивированный человек не способен внимательно следить за экраном монитора больше чем полчаса, если эта информация не меняется [11]. Людям становится скучно, они отвлекаются на посторонние мысли, концентрация внимания падает. «Это означает, – писала Бэйнбридж, – что человек физически не способен наблюдать за экраном, на котором долгое время не происходит ничего существенного» [12].

Поскольку навыки утрачиваются, если их не применять на практике, добавляет Бэйнбридж, то даже опытные операторы через некоторое время начинают работать как новички, если основная работа заключается в наблюдении, а не в действии. Инстинкты и рефлексы затухают, когда их не используют. У операторов возникают трудности с выявлением и оценкой возникающих проблем, а реакция на них становится медленной и обдуманной, исчезает автоматизм действий. В сочетании потери интереса к картинке с угасанием навыков кроется причина повышения риска нештатной ситуации, которая рано или поздно непременно произойдет. Как только это случается, разработчики аппаратуры вносят в нее усовершенствования, призванные еще больше ограничить роль оператора и тем самым усугубить вероятность его неверных действий. Убеждение, что человек является самым слабым звеном системы, становится принципом.

Эргономика – наука о правильной организации человеческого труда – восходит по меньшей мере к эпохе древних греков. Гиппократ в трактате «О вещах, относящихся к хирургии» помещает точные инструкции по поводу освещения и оснащения операционной, пишет, как надо раскладывать инструменты, пользоваться ими, и даже о том, во что должен быть одет хирург. В дизайне многих древнегреческих инструментов видны результаты размышлений о форме и весе инструмента, влияющих на производительность, выносливость и здоровье работника. В древних цивилизациях Азии мы тоже находим признаки приспособления орудий труда к физическому и психологическому удобству работника [13].

Однако лишь к моменту начала Второй мировой войны эргономика вместе с ее теоретической кузиной кибернетикой формально стала учебной и научной дисциплиной. Тысячам неопытных солдат надо было доверить сложное и опасное оружие и технику в условиях нехватки времени на обучение и тренировку. Благодаря Норберту Винеру и американским психологам Полу Фиттсу и Альфонсу Шапани, работавшим с личным составом ВВС, военные и промышленные специалисты научились понимать, что люди играют такую же существенную роль в успешной работе сложных технологических систем, как механические детали и электронные регуляторы. Невозможно создать машину, а потом – в духе Тейлора – заставить человека к ней приспособиться. Наоборот, надо конструировать машину, приспособленную к человеку.

Воодушевленные вначале патриотизмом и желанием внедрить компьютеры в торговлю, государственное управление и науку, большие коллективы психологов, физиологов, нейробиологов, инженеров, социологов и конструкторов начали обращать свои таланты и дарования на изучение взаимодействия людей и машин. Их внимание сосредоточивалось как на полях сражений, так и на производственных предприятиях, но цель была вполне гуманной: объединить людей и технологии в плодотворный, устойчивый и безопасный симбиоз, в гармоничное партнерство, позволяющее использовать лучшие свойства и качества обеих сторон.

Так, по крайней мере, должно быть. Однако слишком часто открытия и идеи эргономики, или, как ее сейчас называют, инженерной психологии, попросту игнорировали или, в худшем случае, душили на корню. Заботу о влиянии компьютеров и других машин на душу и тело человека обычно не берут во внимание из стремления добиться максимальной эффективности, скорости и точности или просто из желания получить как можно большую прибыль. Программисты, как правило, очень плохо знают эргономику и совершенно не интересуются достижениями инженерной психологии. Все усугубляется еще и тем, что инженеры и компьютерные специалисты, увлеченные математикой и логикой, не испытывают интереса к рассуждениям специалистов по эргономике. В 2006 году патриарх этой науки, Дэвид Мейстер, оглядываясь на свой жизненный путь, писал, что он и его коллеги всегда плыли против течения и внедрение достижений казалось им неожиданностью. «Ход технологического прогресса, – резюмировал он, – привязан к стремлению к прибыли; следовательно, прогресс мало задумывается о человеке» [14].

Так было не всегда. Люди впервые начали размышлять о техническом прогрессе как о движущей силе истории во второй половине XVIII века, когда научные идеи просвещения стали воплощаться в машиностроение. Не случайно то время стало эпохой политических потрясений. Демократические, гуманистические идеи просвещения увенчались революциями в Америке и Франции, и идеалы этих революций направили взгляды общества на науку и технику. Технические новшества высоко ценились (если не рабочими, то, во всяком случае, интеллектуалами) как средства политических реформ. Прогресс определяли в социологических понятиях, отводя технологиям вспомогательную роль. Такие мыслители просвещения, как Вольтер, Джозеф Пристли и Томас Джефферсон, видели цель развития новой науки и техники в том, чтобы они смогли стать инструментами разумного переустройства общества.

К середине XIX века реформистский взгляд на прогресс, по крайней мере в Соединенных Штатах, был оттеснен на второй план другим понятием прогресса, связанным именно с технологиями. «С дальнейшим развитием промышленного капитализма, – пишет Маркс, – американцы с непомерным пылом приветствовали развитие науки и техники, отделив его от целей социального и политического освобождения. …Вместо этого они устремили взгляд на инновации в наукоемких технологиях, которые сами по себе являются достаточным и надежным основанием прогресса» [15].

Едва ли стоит удивляться тому, что уже в наше время возможности компьютеров, как предполагала Бэйнбридж, определили разделение труда в сложных автоматизированных системах. Для увеличения производительности и снижения издержек на оплату труда контроль над самой разнообразной производственной деятельностью возлагают на компьютерные программы. По мере совершенствования их власть становится еще более всеобъемлющей. Чем больше технологии, тем лучше! Операторам из плоти и крови оставлены лишь те виды работ, до автоматизации которых пока не додумались составители программ, – вмешательство в производство в случае отказа автоматики. Людей все дальше и дальше оттесняют от «замкнутой петли» – от цикла, состоящего из действия, обратной связи и принятия решений в ходе текущих операций.

Специалисты по эргономике называют этот превалирующий подход автоматизацией, ориентированной на технологию. В результате почти религиозной веры в технологию и равного по накалу недоверия к человеку такая автоматизация заменяет гуманистические цели мизантропическими. Этот подход превращает беззаботную остроту мечтательных технофилов «кому вообще нужны люди?» в практическую этику программирования. В результате произведенные машины и программы прокладывают себе путь на предприятия и в дома, неся в жизнь человеконенавистнические идеалы. «Общество, – пишет Дональд Норман, специалист по когнитивной психологии и автор нескольких влиятельных книг о дизайне товаров, – невольно впало в ориентированное на технологию отношение к жизни, подразумевающее, что именно автоматизация определяет человеческие потребности, тем самым сводя людей к роли безропотных слуг, к которой они совершенно не приспособлены. Такой подход допускает сравнение людей с машинами и находит их неполноценными, неспособными на безупречные, повторяющиеся и точные действия». Несмотря на то что эта ориентация пронизывает теперь все наше общество, она извращает представления человека о самом себе. «Этот подход выставляет на первый план деятельность, которой человек не должен заниматься, и игнорирует его навыки и качества. Принимая машинно-ориентированный взгляд на жизнь, люди начинают оценивать вещи по их искусственным, механистическим достоинствам» [16].

Совершенно логично предположить, что к механистическому взгляду на жизнь наиболее склонны те, кто тяготеет к механике. «Движущей силой изобретения, – как сказал когда-то Норберт Винер, – часто является стремление исследователя увидеть, как закрутятся колесики» [17]. Также логично предположить, что именно такие люди будут руководить разработкой и конструированием сложных систем и компьютерных программ, которые ныне управляют жизнью общества или создают ее среду. По мере того как общество станет все более и более компьютеризированным, программист будет его фактическим законодателем, и тогда человеческий фактор окажется чем-то второстепенным. Необузданный технический прогресс станет оправданием и обоснованием самого себя. Судить о технологиях по их технологическим достоинствам – это значит дать изобретателям карт-бланш.

Пристрастное желание позволить самой технологии принимать решения по дальнейшей автоматизации имеет практическое преимущество. Оно сильно упрощает работу создателей систем. Инженерам и программистам надо теперь принимать во внимание только способности машин. Это позволяет сузить поле поиска и увеличить детализацию проектов. Такая особенность избавляет программистов от необходимости решать проблемы, связанные со сложностями, капризами и хрупкостью представителей рода человеческого. Привлекательная простота технологически ориентированной автоматизации является все же миражом. Игнорирование человеческого фактора отнюдь его не устраняет.

В статье «Automation Surprises» («Сюрпризы автоматизации»), напечатанной в 1997 году и многократно цитированной, специалисты по эргономике Надин Сартр, Дэвид Вудс и Чарльз Биллингс проследили происхождение технологически ориентированного взгляда на развитие общества. Авторы подробно рассказывают, как появление компьютера, сначала аналогового, а затем цифрового, сформировало у инженеров и предпринимателей идеалистический взгляд на системы, управляемые электроникой. В них увидели своего рода панацею от человеческой неэффективности и склонности к ошибкам. Упорядоченность и чистота компьютерных операций и получаемых результатов казались просто даром небес по сравнению с беспорядком человеческой деятельности. «Технологии автоматизации, – писали Сартер и ее коллеги, – были созданы для того, чтобы увеличить точность и повысить экономичность работы, а одновременно уменьшить нагрузку на оператора и сократить время и расходы на его обучение. Считалось возможным создание автономных систем, требующих минимума человеческого вмешательства, а значит, резко снижавших вероятность человеческих ошибок». Эта вера с железной неумолимостью привела к гипотезе о возможности разрабатывать автоматизированные системы, не обращая особого внимания на человека [18].

«Устремления и вера, лежащие в основе господствующего подхода к конструированию автоматизированных систем, – продолжают авторы, – оказались наивными и вредоносными. Несмотря на то что автоматизированные системы часто действительно повышали точность и экономичность операций, они не оправдали других надежд, породив целый ряд новых проблем. Большинство недостатков проистекает из того, что даже высокоавтоматизированные системы требуют для своей работы вмешательства оператора, а следовательно, общения и согласованности действий между человеком и машиной». Системы конструировались без учета особенностей людей, которые с ними работают, часто отличались ограниченной осведомленностью о выполняемой работе и были лишены осмысленного доступа к окружающему миру. Восполнить эти недостатки может только человек. Автоматизированные системы не знают, когда надо начинать диалог с человеком о своих намерениях или требовать от него дополнительной информации. Машины не всегда обеспечивают адекватную обратную связь с человеком, испытывающим трудности с определением текущего состояния автоматизированной системы и оценкой ее поведения, а следовательно, и с определением момента, когда необходимо вмешаться для предотвращения нежелательных действий автомата. «Многие проблемы, отягощающие работу автоматизированных систем, возникают из-за неспособности спроектировать взаимодействие человека с машиной так, чтобы оно имитировало основные свойства взаимодействия людей», – заключают авторы статьи [19].

Инженеры и программисты еще больше усугубляют проблему, когда скрывают принципы работы системы от оператора, превращая каждую из них в непроницаемый черный ящик. Нормальным людям не хватает ума или образования для того, чтобы понять все сложности и хитросплетения работы программ или роботов. Если подробно рассказать человеку об алгоритмах или процедурах, управляющих работой системы, то можно либо его смутить, либо – что еще хуже – поощрить на самостоятельные действия с программным обеспечением. Гораздо безопаснее держать людей в неведении. Здесь опять кроется попытка избежать ошибок человека, сняв с него ответственность. Но, как ни парадоксально, при таких условиях повышается вероятность ошибок. Неквалифицированный оператор – это опасно. Профессор эргономики из Университета Айовы (University of Iowa) Джон Ли пишет: «Для автоматизированных систем характерно применение контролирующих алгоритмов, в которые заложены способы, противоречащие стратегии и ментальной модели, свойственной человеку, работающему с системой. Если человек не понимает эти алгоритмы, то он не может предвидеть ни поведение, ни ограничения автоматизированной системы. …Человек и машина, опирающиеся на противоречащие друг другу принципы, кончают тем, что движутся в противоположные стороны. Неспособность человека понять принципы устройства машины, на которой он работает, может также подорвать уверенность в своей компетенции, что удерживает его от вмешательства, когда ситуация начинает выходить из-под контроля системы» [20].

Специалисты по инженерной психологии давно призывают программистов и разработчиков вычислительной техники отойти от ориентированного на технологии подхода и направить усилия на создание автоматики, нацеленной на человека. Проекты должны начинаться с тщательного рассмотрения сильных и слабых сторон людей, которые будут работать с новой машиной или каким-либо иным способом с ней взаимодействовать. Такой подход вернет техническое развитие к его гуманистическим принципам, вдохновлявшим первопроходцев эргономики. Задача в этом случае будет состоять в распределении ролей и обязанностей, основывающихся только на скорости и точности компьютера, но с учетом качеств человека и возможностей включения его в рабочий цикл [21].

Удивительно, но достигнуть такого равновесия нетрудно. За десятки лет эргономические исследования показали, что эта задача может быть решена рядом простых способов. Систему надо запрограммировать так, чтобы через короткие и нерегулярные интервалы контроль над работой передавался от компьютера оператору. Ожидание момента, когда может потребоваться принятие решений, заставит людей быть в тонусе, сохранять внимание и мотивацию, разбираться в ситуации и повышать квалификацию. Разработчики программного обеспечения могут ограничить объем автоматизации, предоставив людям возможность выполнять важные операции, а не быть пассивными созерцателями происходящих на экране событий. Предоставление человеку большего объема работы помогает поддерживать эффект порождения. Программист может также обеспечить оператора прямой и обратной сенсорной связью с системой на всех этапах работы, используя для этого звуковые и тактильные средства, а также визуальную информацию на дисплее. Регулярная обратная связь усиливает вовлеченность оператора в работу системы и помогает ему сохранять бдительность.

Одно из самых интересных последствий подхода, ориентированного на человека, – это адаптивная автоматизация. В соответствующих системах компьютер запрограммирован так, что он сам обращает пристальное внимание на работающего с ним человека. Разделение труда между программой и оператором постоянно корректируется в зависимости от того, что происходит в каждый данный момент [22]. Если компьютер уловил, что оператор должен выполнить какое-то сложное действие, то машина может взять на себя все сопутствующие работы. Избавленный от необходимости отвлекаться на второстепенные задачи оператор сосредоточится на решении главной проблемы. При спокойном течении событий ЭВМ может передать выполнение рутинных операций человеку, что позволяет ему сохранять осведомленность о ситуации и совершенствовать навыки. Используя аналитические возможности электроники в гуманистических традициях, адаптивная автоматизация ставит своей целью держать оператора на пике кривой Йеркса – Додсона, предотвращая как чрезмерное увеличение, так и уменьшение когнитивной нагрузки. Министерство обороны США, породившее в свое время систему Internet, в настоящее время вплотную занимается проектами «нейроэргономических» систем, которые, используя разнообразные датчики работы головного мозга и тела, могут улавливать когнитивное состояние человека, а затем регулировать параметры задач таким образом, чтобы компенсировать недостаток восприятия, внимания или рабочей памяти [23]. Адаптивная автоматизация сулит большие перспективы в отношении внесения толики человечности в отношения между обычными пользователями и компьютерами. Первые пользователи таких систем говорят, что чувствуют себя так, словно общаются с коллегой, а не с машиной.

Исследования последствий автоматизации в основном посвящены изучению больших, сложных систем, связанных с рисками, например с управлением самолетами, работой машинных залов больших предприятий и военными операциями. Отказ таких систем может привести к гибели людей и материальному ущербу. Однако эти исследования важны также и для разработки вспомогательной автоматизации принятия решений, которая используется врачами, юристами, менеджерами и другими специалистами при анализе данных. Эти программы многократно тестируют, чтобы сделать их простыми в обучении и использовании, но тем не менее ориентированная на технологии этика продолжает править бал. «В типичных случаях, – пишет Джон Ли, – экспертные системы работают как протезы, заменяющие несовершенное и непоследовательное человеческое мышление более точными компьютерными алгоритмами» [24]. Они создаются в первую очередь для того, чтобы вытеснить, а не поддержать человеческое суждение. С каждым следующим усовершенствованием скорости обработки введенных данных и прогнозной способности компьютера программист все больше передает ответственность за принятие решения от профессионала к программе.

Раджа Парасураман, много лет добросовестно изучавший личностные последствия автоматизации, считает, что это в корне неверный подход. Парасураман утверждает, что вспомогательные системы принятия решений работают лучше всего, если они дают профессионалу необходимую информацию в нужный момент, не сопровождая ее инструкциями о возможных действиях [25]. Самые умные идеи приходят человеку в голову, когда он имеет возможность самостоятельно обдумать сложившуюся ситуацию. Ли соглашается с Парасураманом: «Менее автоматизированный подход, который ставит оператора в положение человека, принимающего решение, имеет большие шансы на успех, – пишет он. – Лучшие экспертные системы предоставляют операторам альтернативы в выборе интерпретаций и гипотез». Дополнительная и часто неожиданная информация помогает противодействовать естественному пристрастию к компьютерным инструкциям, которое иногда мешает человеку принять верное решение. Такой подход подталкивает аналитика к рассмотрению проблемы под разными углами зрения и с учетом большего числа возможных вариантов. Ли подчеркивает, что система должна оставить принятие окончательного решения человеку. «В отсутствие совершенной компьютерной автоматики и при использовании таких подверженных критике систем, – говорит он, – вероятность совершения ошибки, как подтверждают проведенные исследования, становится ниже» [26]. Компьютеры отлично справляются с просмотром огромных массивов данных, но специалист все равно остается более тонким и мудрым мыслителем, чем его цифровые партнеры.

Создание защищенного пространства для мыслей и суждений опытных практиков является целью ученых, которые хотят добиться гуманистического подхода к автоматизации в творческих профессиях. Многие специалисты критикуют системы автоматизированного проектирования за их назойливость. Бен Трейнел, архитектор фирмы Gensler в Сан-Франциско, с похвалой отзывается о компьютерах, высоко оценивая их способность расширять границы возможного в архитектуре. В качестве примера он приводит спроектированную фирмой «Шанхайскую башню» – спиралевидный энергосберегающий небоскреб, спроектировать и построить который было бы невозможно без компьютеров. Тем не менее он выражает и беспокойство по поводу того, что буквализм компьютерных программ, вынуждающих архитектора четко определять смысл и назначение каждого геометрического элемента, введенного в систему, препятствует свободному поиску, которому способствует рисование эскизов от руки [27].

В 1996 году профессора архитектуры Марк Гросс и Эллен Йин-Луэнь предложили альтернативу буквалистскому программному обеспечению систем автоматизированного проектирования. Они создали концептуальную схему приложения с интерфейсом, напоминающим бумажный блокнот, который смог бы визуально передать намеренную неопределенность, неточность и расплывчатость в полученном компьютерном рисунке. Это придало бы компьютерному дизайну гипнотическую силу наброска [28]. Подобные предложения не раз звучали из уст и других ученых. Совсем недавно группа ученых Йельского университета (Yale University) под руководством Джулии Дорси создала прототип приложения, являющегося, по сути, «ментальным холстом». В нем сам архитектор имеет возможность, пользуясь сенсорным экраном, как устройством ввода, рисовать наброски в трех измерениях. «Архитекторы имеют возможность рисовать и заново перерисовывать линии, не будучи ограничены путами полигональной сетки[26] или ригидностью каналов ввода параметров, – объясняют свою работу авторы. – Наша система позволяет поэтапно улучшать рисунок по мере прояснения идеи, не требуя геометрического совершенства до тех пор, пока замысел не созреет окончательно» [29]. Менее назойливые приложения раскрепостят воображение архитекторов.

Напряжение, существующее между двумя направлениями автоматизации – на технологию и на человека, – занимает не только ученых-теоретиков. Оно влияет на решения, принимаемые руководителями бизнеса, инженерами и программистами, а также правительственными чиновниками. В авиационной промышленности две фирмы, занимающие господствующее положение в проектировании и строительстве самолетов, находятся в этом конфликте по разные стороны баррикад. Фирма Airbus придерживается ориентации на технологию. Целью компании является создание самолетов, «защищенных от пилота» [30]. Следствием этого явилась замена массивного, установленного перед пилотом штурвала маленькой, почти игрушечной ручкой сбоку от кресла. Этот похожий на джойстик рычаг вводит в бортовой компьютер все необходимые данные, требуя от пилота минимального физического усилия, лишая его тактильного ощущения обратной связи с самолетом. В соответствии с идеалами стеклянной кабины пилот становится компьютерным оператором, а не летчиком. Кроме того, Airbus программирует компьютеры таким образом, чтобы отменять действия пилота в некоторых ситуациях для сохранения параметров полета в пределах заданных величин. Следовательно, таким самолетом управляет уже не пилот, а компьютер.

Boeing придерживается более ориентированной на человека стратегии в производстве самолетов. В своих проектах, которые способны были бы осчастливить братьев Райт, компания не допускает решений, позволяющих компьютеру отменять команды пилотов. Летчик управляет самолетом даже в экстремальных ситуациях. Инженеры компании сохранили массивный штурвал, напоминающий о былых временах авиации, его перемещение сопровождается ощущением сопротивления и обеспечивает обратную связь между человеком и самолетом. У летчика создается полная иллюзия, что он физически перемещает управляющие элементы крыльев и хвоста. Несмотря на то что этот штурвал всего лишь посылает сигналы на вход бортового компьютера, машина имитирует ощущение движения элеронов, закрылков и других управляющих механических элементов воздушного судна. Проведенные исследования показывают, что тактильный тип обратной связи эффективнее визуальной и лучше ориентирует пилота в плане положения самолета в пространстве. Такая автоматизация полностью соответствует утверждениями Джона Ли. Поскольку мозг обрабатывает тактильные сигналы независимо от зрительных, постольку «осязательные предупреждения» не приводят «к ухудшению в выполнении других, визуальных, задач» [31]. Можно сказать, что тактильная обратная связь в управлении самолетами Boeing освобождает пилота из плена стеклянного компьютерного колпака, вовлекая в реальное управление машиной в большей степени, чем пилота на самолете фирмы Airbus.

Компания Airbus делает великолепные самолеты. Некоторые пилоты гражданской авиации предпочитают летать именно на них, а не на Boeing, а параметры безопасности машин обеих компаний практически идентичны. Однако недавние несчастные случаи с участием Airbus выявили недостатки подхода, ориентированного на технологию. Некоторые авиационные специалисты считают, что конструкция органов управления самолетов этой компании сыграла роковую роль в катастрофе самолета Air France. Анализ записей «черных ящиков» показал, что все время, пока управлявший машиной первый пилот Пьер-Седрик Бонен тянул ручку на себя, его второй пилот, Дави Робер, не замечал этой фатальной ошибки. В кабине Boeing, наоборот, каждый пилот отлично видит штурвал коллеги и все его манипуляции. Мало того, оба штурвала движутся одновременно, как единое целое. Если один из пилотов берет штурвал на себя, то штурвал второго пилота движется в том же направлении. Визуальная и тактильная связь позволяет пилотам действовать синхронно и согласованно. Боковые ручки в самолетах Airbus плохо видны со стороны и не требуют никаких физических усилий при работе с ними и, к тому же, действуют независимо друг от друга. Пилот может пропустить неверное действие коллеги, особенно в нештатных ситуациях, когда он находится под действием стресса, и теряет способность концентрировать внимание.

Если бы Робер увидел и исправил ошибку Бонена раньше, то пилоты сумели бы выправить свой А-330. «Катастрофы самолета Air France, – сказал Чесли Сулленбергер, – скорее всего, можно было избежать, если бы пилоты вели Boeing с его автоматикой, ориентированной на человека» [32]. Даже Бернар Зиглер, блистательный французский инженер, бывший главным конструктором Airbus до ухода на пенсию в 1997 году, высказал недавно свои опасения по поводу философии конструирования, принятой в его компании. «Иногда я думаю, не делаем ли мы самолеты, слишком легкие в управлении, – сказал он в интервью писателю Уильяму Лангевише, данном в Тулузе, где находится штаб-квартира компании Airbus. – В более тяжелых в управлении машинах пилоты лучше сохраняют бдительность». Он даже пошутил, посоветовав компании встраивать дубину в сиденья кресел пилотов, чтобы она периодически давала им хорошего пинка [33]. Ветеран, конечно, шутил, но это замечание вполне соответствует исследованиям специалистов по инженерной психологии о сохранении человеческих навыков и внимания. Иногда хороший «пинок» или его технологический эквивалент – это именно то, что автоматизированная система должна время от времени давать оператору.

Когда Федеральное авиационное агентство (Federal Aviation Administration, FAA) в своем рекомендательном письме предложило авиакомпаниям побуждать своих пилотов чаще водить машины вручную, оно тоже фактически высказалось, хотя и довольно нерешительно, в пользу ориентированной на человека автоматизации. Агентство осознало, что попытка вернуть пилотов в петлю обратной связи сможет уменьшить вероятность человеческих ошибок, сгладить последствия сбоев автоматизированных систем и сделать авиационные путешествия более безопасными. Беспредельное увлечение автоматизацией – это не всегда самый мудрый выбор. FAA, в штате которого состоит много специалистов по инженерной психологии, обращает самое пристальное внимание на эргономику, планируя свой амбициозный проект NextGen – монументальную систему контроля национального воздушного сообщения. Одной из самых величественных целей проекта является создание аэрокосмических систем, приспособленных к человеку, компенсирующих его просчеты и улучшающих качество труда [34].

В финансовой сфере против натиска ориентированной на технологию автоматизации выступил Королевский банк Канады (The Royal Bank of Canada). Его руководство установило в операционных отделениях банка на Уолл-стрит оригинальную компьютерную программу (названную THOR), замедляющую передачу распоряжений о покупках и продажах, чтобы защитить их от манипуляций слишком торопливых биржевых спекулянтов. Когда замедлили выдачу распоряжений, обнаружилось, что торг стал чаще оканчиваться привлекательными для покупателей сделками. Банк признаёт, что идет на компромисс, сопротивляясь технологическому диктату быстрого потока данных. Воздерживаясь от скоростных торгов, он получает меньше денег на каждой отдельной сделке, но считает, что в долгосрочной перспективе верность клиентов и снижение рисков приведут к увеличению общей прибыли [35].

Один из бывших сотрудников банка, Брэд Кацуяма, пошел еще дальше. Заметив, что фондовый рынок сдает позиции под натиском биржевых маклеров, совершающих частые сделки, он создал новую и более честную биржу – IEX. Открытая в конце 2013 года биржа налагает строгие рамки на работу автоматизированных систем. Скорость потока данных регулируется таким образом, чтобы все участники торгов получали сведения о ценах и другую информацию одновременно, что нейтрализует преимущества алчных биржевых контор, помещающих свои компьютеры в непосредственной близости от биржи. IEX запрещает использование некоторых типов торга и вознаграждений, дающих преимущества быстрым алгоритмам. Кацуяма и его коллеги используют сложную технологию для уравновешивания шансов людей и компьютеров. В некоторых странах приняты законодательные акты, призванные обуздать автоматизированные торги. В 2012 году во Франции был введен небольшой налог на каждую сделку. Примеру Франции в следующем году последовала Италия. Алгоритмы быстрых торгов разработаны для стратегии скупки и продажи ценных бумаг мелкими порциями. Каждая сделка приносит минимальный доход, но таких сделок совершается несколько миллионов в минуту, и даже небольшой налог оборачивается крупными деньгами, что делает применение скоростных алгоритмов менее привлекательным.

Попытки направить автоматизацию в нужное русло внушают надежду. По крайней мере, некоторые компании и государства начали сомневаться в ее тотальных преимуществах, но это лишь исключение из правила, а перспективы масштабов использования остаются пока туманными. Как только автоматизация, ориентированная на технологию, берет верх, становится очень трудно изменить ход событий. Компьютерные программы начинают диктовать, как выполнять работу, формировать спрос покупателей, навязывать методы получения прибыли. По словам историка Томаса Хьюза, этот процесс является образцом «технологического давления» [36]. На ранних стадиях применения новых компьютерных технологий они были достаточно эластичными. Формы и методы их применения изменялись не только в зависимости от желаний разработчиков, но и исходя из интересов работников и всего общества в целом. Когда современная автоматизация внедряется в физическую инфраструктуру, в торговые и экономические учреждения, ее диктат становится невероятно трудно остановить. На этой стадии возникает интеграция технологии в общество, и она продолжает двигаться вперед, повинуясь своим собственным законам. Естественно, со временем и эти технологии устареют и будут заменены новыми, которые сохранят и увековечат применение технологического подхода к автоматизации.

Например, качество работы в гражданской авиации зависит от точности управления. Компьютеры лучше, чем пилоты, рассчитывают самый экономичный маршрут, самолеты могут сближаться на меньшие дистанции. Здесь и скрывается противоречие между желанием повысить квалификацию пилотов и дальней автоматизацией. Авиакомпании едва ли согласятся нести убытки, а законодатели не пойдут на ограничения возможностей бортовых компьютеров только ради того, чтобы пилоты оттачивали свое мастерство. Катастрофы, обусловленные отказами бортовых компьютеров самолетов, крайне редки, и с ними, как кощунственно это ни звучит, мы должны смириться ввиду эффективности и экономичности автоматизированных систем. В здравоохранении страховые и больничные компании смотрят на автоматизацию как на средство снижения расходов и повышения эффективности. Они почти наверняка будут вынуждать лечебные учреждения переходить на автоматизированное оказание медицинской помощи, несмотря на озабоченность врачей возможностью потерять самые ценные навыки и квалификацию.

На финансовых биржах компьютер совершает сделку в течение десяти микросекунд (то есть за одну десятимиллионную долю секунды), в то время как человеку на то, чтобы просто среагировать на новое событие, требуется приблизительно четверть секунды. Компьютер может выполнить десять тысяч сделок за то время, пока оператор просто моргнет глазом [37]. Скорость работы машины устраняет человека.

Обычно считается, что те или иные технологии, принятые в разных отраслях и способствующие их развитию, априори улучшают качество труда. Если исходить из такой точки зрения, то прогресс – это своего рода дарвиновская эволюция. Люди изобретают множество разнообразных технологий, они конкурируют между собой за пользователей и покупателей, но побеждает в этой борьбе самая лучшая из технологий. Выживают лишь наиболее приспособленные инструменты автоматизации. Это оптимистический взгляд на прогресс, подпитанный, по мнению покойного историка Дэвида Нобла, «…бесхитростной верой в объективную науку, экономическую рациональность и рынок». Но, как объясняет тот же Нобл в своей вышедшей в 1984 году книге «Forces of Production» («Производительные силы»): «Искаженный взгляд на вещи… рисует технологическое развитие как процесс, с одной стороны, автономный и нейтральный, а с другой – рассудочный и саморегулирующийся. В обоих случаях считают, что люди не влияют на него» [38]. Вместо сложностей, превратностей и интригующих подробностей истории взгляд на технический прогресс одаривает нас упрощенными фантазиями, основанными на прошлом опыте.

Нобл наглядно показывает сложный и извилистый путь, которым технологии завоевали всеобщее признание и влияние, на примере истории автоматизации машиностроительной промышленности за годы, прошедшие после Второй мировой войны. Изобретатели и инженеры предложили несколько разных технологий для программирования работы токарных, сверлильных и других станков. Каждый из методов имел как плюсы, так и минусы. Одну из самых простых и одновременно изобретательных систем, названную Specialmatic, изобрел дипломированный инженер Феликс Карузерс, выпускник Принстона. Систему продавала маленькая нью-йоркская компания Automation Specialties. При использовании ключей и наборных дисков, кодировавших и направлявших работу машины, Specialmatic передавал всю ответственность за программирование в руки квалифицированного механика, работавшего в цехе. «Оператор машины, – писал Нобл, – мог устанавливать и регулировать скорость подачи материалов в машину, опираясь на накопленный опыт, позволявший выполнять задания на основании вида, звука и запаха обрабатываемого металла» [39]. Система включала в работу опыт и знания рабочего, Specialmatic обеспечивал немалую экономическую выгоду: хозяевам заводов не надо было оплачивать труд многочисленных инженеров и консультантов для программирования. Система Карузерса удостоилась похвалы в журнале American Machinist, который отметил, что Specialmatic сконструирован так, что позволяет настраивать режим и программировать работу станка. Рабочий трудится с большей эффективностью, так как система позволяет ему сохранять контроль над машиной в течение всего цикла работы станка [40].

Но Specialmatic не смог удержаться на рынке. В то же самое время, когда Карузерс трудился над своим изобретением, командование ВВС США вкладывало деньги в научно-исследовательскую программу, осуществлявшуюся группой ученых МIТ, имевшей давние и тесные связи с военным ведомством. Они разработали методику «численного управления» с помощью технологии цифрового кодирования – предшественницы современных цифровых компьютерных программ. Эта система не только осыпала разработчиков золотым дождем щедрых правительственных субсидий и подняла их престиж в научных кругах. Она очень понравилась владельцам и менеджерам предприятий, так как перед лицом растущего рабочего движения они стремились максимально автоматизировать производство, чтобы подорвать влияние рабочих и их профсоюзов. Система числового программного управления стала воплощением всеобщего восхищения цифровыми ЭВМ, появившимися после войны. «Разработанная в МIТ система числового управления, – как позднее писал один из членов Society of Manufacturing Engineers (Общества фабрично-заводских инженеров), – была сложным и дорогим уродством» [41], но такие гигантские компании, как General Electric и Westinghouse Electric Company, с восторгом ухватились за эту технологию, не оставив Specialmatic ни единого шанса. Системе числового управления не пришлось доказывать свою живучесть в конкурентной эволюционной борьбе, она была объявлена победительницей еще до начала соревнования. Автоматизация, ориентированная на технологию, победила. Что касается широкой публики, то она так и не узнала, что выбор был сделан без нее.

Не следует возлагать вину за это на инженеров и программистов. Возможно, что они виновны в том, что временами увлекаются узкими механистическими прожектами и склонны к «техническому высокомерию», которое, выражаясь словами физика Фримена Дайсона, «…внушает людям иллюзию неограниченной власти» [42]. Но программисты и инженеры работают по заказам работодателей и клиентов. Разработчики программного обеспечения всегда сталкиваются с необходимостью компромиссов при написании программ для автоматизированных систем. Выполнение задач, связанных с развитием индивидуальных навыков, повышением квалификации и накоплением опыта, сковывают размах автоматизации и несколько снижают скорости производства и получения прибыли. Обучение также понижает эффективность производства. Бизнес, который всегда старается поднять до максимума производительность и свести издержки к минимуму, редко, а то и никогда не идет на такие уступки. Главная причина, по которой владельцы предприятий вкладывают деньги в автоматизацию, – это снижение стоимости труда и упрощение производственных операций.

Люди тоже почти всегда ищут для себя выгоды и удобства, когда выбирают программное приложение или компьютер. Им подойдут программы или устройства, которые облегчат нагрузку и освободят время, а не те, которые заставят тяжко и долго трудиться. Технологические компании, естественно, учитывают эти пожелания, разрабатывая свои продукты. Ожесточенная конкуренция существует между фирмами, предлагающими клиентам устройства и программы, требующие как можно меньше физических и умственных усилий. «В Google и во всех подобных фирмах, – говорит один из руководителей компании Алан Игл, объясняя политику многих компаний в создании программного обеспечения, – мы создаем технологии, которыми можно пользоваться, не включая мозги» [43]. Когда дело доходит до разработки и применения коммерческих программ, будь то промышленные автоматизированные системы или приложения для смартфонов, абстрактные рассуждения о судьбе человеческих талантов не могут соперничать с перспективой экономии времени и денег.

Я спросил Парасурамана, не думает ли он, что в будущем общество станет мудрее использовать автоматизацию, ослабив противоречие между компьютерными вычислениями и человеческими мнениями, погоней за прибылью и развитием личного опыта. Ученый на мгновение задумался, а потом произнес: «Я не настолько оптимистичен».

Интерлюдия. Грабитель могил.

Я находился в затруднительном положении. Мне пришлось – из необходимости, а не по свободному выбору – завязать знакомство с полоумным грабителем могил по имени Сет Брайерс. «Я не ем, не сплю, не моюсь, и все это меня совершенно не волнует», – не без гордости сообщил мне Сет вскоре после того, как мы познакомились с ним на кладбище близ Кут-Чепеля. Сет знал, где я смогу найти интересовавших меня типов, и в обмен на сведения о них потребовал от меня помощи в перевозке нескольких свежих трупов мимо ранчо Кричли в пыльный призрачный город Тамблвид. Я правил лошадьми, а Сет сидел под тентом повозки и обыскивал тела в поисках ценностей. Это путешествие стало для меня настоящим испытанием. Мы проскочили мимо разбойников, сидевших у дороги в засаде (они были вооружены огнестрельным оружием, но в перестрелках я тоже не был новичком), однако, когда я попытался пересечь шаткий мостик близ Гаптус-Риджа, трупы в повозке сместились, и я не смог справиться с лошадьми. Она скатилась в овраг, и я на мгновение умер, захлебнувшись в фонтане хлынувшей крови. Через пару секунд я очнулся – только для того, чтобы снова пережить весь этот ужас. После полудюжины попыток я отчаялся когда-либо переехать этот проклятый мост.

Игра, в которую я играл, была не что иное, как превосходно оформленная, незатейливая «стрелялка» с открытым миром, под названием Red Dead Redemption. События разворачиваются в начале ХХ века на территории мифического штата Нью-Остин. Сюжет игры словно списан с фильмов Пекинпы.[27] Начиная игру, вы принимаете роль стоически мужественного фермера, оказавшегося вне закона, по имени Джон Марстон, правая щека которого отмечена двумя глубокими символическими шрамами. Грубым шантажом Марстона принуждают искать для агентов ФБР его старых сообщников. Агенты держат в заложниках жену и малолетнего сына. Для того чтобы успешно закончить игру, надо провести этого вооруженного бандита по всей стране, преодолевая немыслимые препятствия, требующие нечеловеческого напряжения сил. Причем каждое следующее испытание труднее предыдущего.

Сделав еще несколько попыток, я наконец перебрался через мост вместе с ужасной труповозкой. Вообще, получив массу полезных сведений из сцен насилия, коими изобилуют и передачи ТV, я смог преодолеть все препятствия игры. В качестве вознаграждения мне показали, как Марстона – то есть моего игрового двойника – хладнокровно застрелили коварные агенты. Если не считать этого страшного конца, то я окончил игру с чувством глубокого удовлетворения. Я обуздывал мустангов, стрелял и свежевал койотов, грабил поезда, выигрывал сумасшедшие деньги в покер, сражался в рядах мексиканских революционеров, спасал проституток от пьяных деревенских мужиков и – в традициях фильма «Дикая банда»[28] – отправил из пулемета Гатлинга к праотцам целую армию негодяев. Я прошел проверку на прочность, и рефлексы человека среднего возраста меня не подвели. Победа не была эпической, но принесла чувство удовлетворения.

Видеоигры, как правило, проклинают те, кто никогда в жизни в них не играл. Это вполне понятно, так как там реками льется кровь. Но лучшие игры дают нам образцы для дизайна программного обеспечения, не говоря уже об их изобретательности и (хотя и не всегда) красоте. Эти программы показывают, что они могут стимулировать формирование навыков, а не вести к их атрофии. Для того чтобы играть в видеоигры, необходимо преодолеть массу трудностей, требующих предельного напряжения сил и таланта. У каждого действия есть цель, хорошая игра вознаграждается, при плохой – немедленно следует наказание (иногда ужасное, например в виде фонтана крови). Игры порождают ощущение движения в потоке, побуждая игрока совершать повторные маневры до тех пор, пока они не становятся автоматическими. Навык, которому обучается игрок, может быть простым и незатейливым, например, правильно работать пластиковой ручкой управления для того, чтобы провести воображаемую повозку по мосту. Человек усвоит этот навык намертво и сможет безошибочно работать ручкой в следующих эпизодах игры. Он становится специалистом, способным взорвать всех, кто встанет на его пути.[29].

Компьютерные программы (за исключением видеоигр), к которым мы обращаемся в повседневной жизни, созданы для нашего удобства, или, как говорят их создатели, «простоты использования». Такими программами можно овладеть быстро, так как для работы с ними надо нажать несколько клавиш или пару раз щелкнуть мышкой. Так же как промышленные системы компьютерной автоматизации, эти приложения созданы для того, чтобы переложить бремя мышления человека на компьютеры. Даже сложные программы, созданные для музыкантов, звукооператоров и кинорежиссеров, становятся год от года все проще в применении. Сложные спецэффекты, создание которых требовало в прошлом высокой квалификации и большого опыта, теперь можно получить нажатием клавиш или смещением бегунка. Принципы работы программы не обязательно должны быть понятны пользователю, они включены в ее алгоритмы. Для людей, которые хотят получить эффект, не прилагая к этому никаких усилий, – это большое благо. Однако приспособление программ к уровню дилетантов принижает роль профессионалов.

Признанный специалист в области дизайна программного обеспечения Петер Мерхольц призывает программистов искать и находить «беспроблемные» и «простые» решения. Успешные устройства и приложения прячут свою сложность за дружественными интерфейсами, сводя к минимуму когнитивную нагрузку на пользователя. «Простые вещи не требуют размышлений. Необходимость выбора исключается, не надо напрягать память», – констатирует Мерхольц [1]. Этот рецепт создания приложений, как показали эксперименты Кристофа ван Нимвегена, позволяет обходить процессы обучения, становления навыков и запоминания. Заложенные в программах инструменты мало требуют от нас, но и немного дают.

То, что Мерхольц называет подходом, который «просто работает», имеет огромное значение. Всякий, кто пытался настроить будильник электронных часов, изменить настройки WiFi-роутера или разобраться в панели инструментов Microsoft Word, знает цену простоте. Слишком сложные устройства и программы заставляют нас тратить массу времени, но не дают ничего взамен. Верно, что мы не должны быть специалистами во всем на свете, однако предлагаемые программы берут на себя интеллектуальные и общественные функции. Такая замена становится весьма опасной. Она лишает нас не только радости познания, но и внушает чувство, что это познание ничего не стоит и к нему не надо стремиться. Вспомним для примера алгоритмы коррекции орфографических и синтаксических ошибок, которыми теперь снабжены практически все текстовые редакторы. Когда-то программы проверки орфографии исполняли роль наставников. Программа подчеркивала подозрительное слово, привлекала к нему ваше внимание и преподавала небольшой урок грамотности. Человек мог учиться в процессе работы над текстом. Теперь программисты добавили опцию автоматической коррекции. Такие системы мгновенно и исподтишка исправляют ошибки, не поднимая лишнего шума, не образуя обратной связи и убирая элементы познания.

Можно также взять для примера поисковую систему Google. В своей исходной форме она предназначена для запроса. Интерфейс был очень прост, но сервис заставлял пользователя обдумывать запрос, тщательно его составлять и отбирать ключевые слова для получения оптимального результата. Теперь все эти хлопоты остались в прошлом. В 2008 году компания ввела в поисковик опцию Google Suggest, систему, которая, опираясь на вероятностные алгоритмы, предвосхищает то, что вы ищете. Стоит вам ввести первую букву запроса, как Google тут же услужливо предлагает набор возможных запросов в оптимальной форме. С каждой следующей буквой набор предложений изменяется. За этим новшеством прячется настойчивое, почти маниакальное стремление к эффективности. Приняв на вооружение мизантропические ценности автоматизации, Google рассматривает человеческое познание как плохо отлаженный и неуклюжий биологический процесс, доверить который можно только и исключительно компьютеру. «Могу утверждать, что пройдет еще несколько лет, и на большинство запросов ответ будет даваться раньше, чем вы успеете дописать вопрос, – говорит Рэй Курцвейль, изобретатель и футурист, назначенный в 2012 году руководителем технического отдела компании. – Машина заранее будет знать, что вы хотели увидеть» [2]. Конечная цель – полностью автоматизировать акт поиска, выбросить из процесса изъявление человеческой воли.

Социальные сети, например Facebook, все больше проникаются такими же идеями. Они стараются упорядочить хаотичный процесс привлечения новых участников путем «статистического» приобретения новых друзей, «like» и другими символами симпатии и привязанности, а также автоматизированным управлением многих аспектов человеческих отношений. Основатель Facebook Марк Цукерберг приветствует все эти достижения как символ «беспрепятственного общения», не требующего никаких осознанных усилий. Есть отталкивающий момент в применении социальных сетей – это стандартизация связей между людьми. Человеческие отношения требуют доверия, обходительности и жертвенности, что, с точки зрения технократического ума, является источником неэффективности и неудобства. Общение становится похожим на привязанность потребителя к товару, которая легко формируется, но так же легко и исчезает.

Подобно чрезмерно назойливым родителям, не дающим детям поступать самостоятельно, Google, Facebook и другие изготовители программ для личного пользования способствуют уничижению и нивелированию тех черт характера, которые по крайней мере в прошлом считались незаменимыми для полноценной энергичной жизни: изобретательности, любопытства, независимости, упорства, отваги. Неужели в будущем люди будут пользоваться всеми этими добродетелями в их бутафорском виде, совершая виртуальные подвиги руками таких персонажей, как Джон Марстон, в иллюзорных мирах на экранах наших компьютеров?

Глава восьмая. Ваш внутренний робот.

Представьте себе холодный декабрьский вечер. Пятница. Человек едет домой с корпоративного праздника. Точнее, сказать, его везут домой. Он недавно купил свою первую самоуправляющуюся машину, запрограммированный Google, сделанный на заводе Mercedes электромобиль eSmart. И за рулем не он, а программа. В свете автоматически настраиваемых светодиодных фар он видит затянутые льдом лужицы, но на них можно не обращать внимания, так как снабженный чувствительными датчиками робот регулирует скорость и газ в полном соответствии с дорожными условиями. Все идет гладко. Человек расслабился и погрузился в приятные воспоминания о праздничном вечере. Он углубляется в густой лес, нависающий с обеих сторон, и вдруг из-за деревьев на дорогу выбегает какое-то животное и застывает в свете приближающихся фар. Это соседский охотничий пес, никогда не отличавшийся дисциплинированностью.

Что делает робот-водитель? Нажмет ли он на тормоза, спасая собаку, но рискуя тем, что машина пойдет юзом? Или уберет виртуальную ногу с педали тормоза, пожертвовав собакой ради безопасности пассажира и автомобиля? Как будет компьютер разбираться в потоке переменных и вероятностей, чтобы за долю секунды принять решение? Если посчитано, что торможение будет означать для пса вероятность уцелеть, равную 53%, и существует вероятность 18%, что будет повреждена машина, а с вероятностью 4% человек, сидящий в машине, получит травму, то сочтет ли компьютер спасение собаки правильным действием? Каким образом программа, работая самостоятельно, переведет набор чисел в решение, чреватое неприятными практическими и моральными последствиями?

Что, если это собака хозяина машины? Вместо собаки на дорогу мог выбежать ребенок… Вообразите, что утром тот же человек едет на работу, просматривая поступившую за ночь электронную почту, автомобиль идет по мосту со скоростью 40 миль в час. По тротуару мост переходит группа школьников. Дети послушно идут за взрослыми, ничто не предвещает неприятностей, однако машина сбрасывает скорость, предпочтя ошибку безопасности. Внезапно среди детей возникает короткая потасовка, и одного мальчишку выталкивают на дорогу. Человек в машине, деловито набирая очередное сообщение на клавиатуре смартфона, не замечает происходящего. Робот должен принять решение: либо увернуться от наезда, выйдя из ряда и выскочив на встречную полосу, чем он может убить хозяина, либо наехать на ребенка. Какую команду подаст компьютер на рулевую колонку? Учтет ли робот, что в машине едет еще и ребенок на детском сиденье, снабженном особыми датчиками? Что, если по встречной полосе идут машины и одна из них – школьный автобус? Когда-то Айзек Азимов составил кодекс поведения робота: «Робот не может причинять вред человеку или своим бездействием допускать ситуации, которые могут повредить человеку» [1]. Это вполне разумное требование, но оно было написано в те времена, когда мир был устроен проще.

«Появление самоуправляющегося автомобиля, – утверждает профессор психологии Нью-Йоркского университета Гэри Маркус, – лишит человека еще одной экологической ниши. Наступит новая эра, в которой машинам потребуются системы этических ценностей» [2]. Некоторые критики могут возразить, что она уже наступила. Медленно, но верно люди начали доверять компьютерам принятие морально значимых решений. Возьмем для примера широко разрекламированный пылесос-робот Roomba. Он не отличает комочки пыли от насекомых. Он сожрет и то и другое, не разбираясь в таких тонкостях. Если на пути Roomba окажется сверчок, то он засосет и его. Многие люди, пылесося квартиру, тоже едва ли обратят внимание на какую-то козявку, особенно если эта козявка – непрошеный гость в доме. Есть, однако, другие, которые остановятся, выключат пылесос, поднимут с пола сверчка и бережно вынесут за порог. (Последователи джайнизма, древней индийской религии, считают грехом причинение вреда любому живому существу.) Выпуская Roomba на ковер, мы предоставляем ему право принимать моральные решения от нашего имени. Газонокосилки-роботы, такие как LawnBott и Automower, несут смерть более совершенным проявлениям жизни – пресмыкающимся, земноводным и мелким млекопитающим. Большинство людей, увидев на лужайке жабу или полевую мышь, обычно щадят животных, а если случайно задевают их, то очень сожалеют о содеянном. Газонокосилки-роботы убивают, не испытывая угрызений совести.

До последнего времени дискуссии о нравственности роботов и других «разумных» машин носили чисто теоретический характер, становились сюжетами научно-фантастических романов или студенческих споров на философских факультетах. Этические моменты часто влияли на конструкции машин и механизмов. Оружие снабжали предохранителями, двигатели – регуляторами, поисковые системы – фильтрами, но от машин никогда не требовали совести. Им не нужно было приспосабливать работу к этическим капризам той или иной ситуации. Как только возникал вопрос об этической стороне применения машины, его решали люди. По мере того как роботы становятся все более умелыми и самостоятельными, они чаще неизбежно сталкиваются с ситуациями, в которых ни один выбор не может считаться правильным. Машинам придется, полагаясь только на себя, принимать решения. Невозможно механизировать сложную человеческую деятельность без автоматизации морального выбора.

Люди сами отнюдь этически не безупречны и часто совершают безнравственные поступки – иногда от беспомощности и безрассудства, иногда – преднамеренно. Это привело некоторых философов к мысли о том, что скорость, с какой роботы могут перебирать возможные решения, вычислять вероятности и взвешивать последствия, позволит машинам более рационально, чем человеку, подходить к выбору возможных действий. В этом взгляде есть зерно истины. В некоторых ситуациях, например там, где речь идет о деньгах и собственности, быстрое вычисление вероятностей оказывается достаточным для выбора действий, ведущих к оптимальному результату. Но вот другой пример: люди несутся через перекресток, когда желтый свет светофора меняется на красный, увеличивая тем самым вероятность дорожно-транспортного происшествия. Компьютер никогда не позволит себе такого опрометчивого действия. Моральные проблемы в большинстве своем намного сложнее. Попытка решить их математически приводит к фундаментальному вопросу: кто может определить «оптимальность» или «рациональность» того или иного действия в морально двусмысленной ситуации? Кто должен программировать совесть роботов? Их производители? Владельцы? Политики и законодатели? Может быть, философы? Страховые агенты?

Совершенных нравственных алгоритмов не существует, в настоящее время нет возможности свести этику к набору правил. Философы пытались сделать это в течение многих столетий, но потерпели фиаско. Любые самые холодные расчеты зависят от ценностей и интересов человека, принимающего решение. Рациональный выбор страховой компании может в случае наезда на собаку не совпасть с решением человека – не важно, сделал он его с расчетом или просто рефлекторно. «В эпоху роботов, – замечает политолог Чарльз Рубин, – люди все чаще будут сталкиваться с требованиями морали» [3].

Тем не менее такие алгоритмы придется – волей-неволей – писать. Мысль о том, что человек сумеет вычислить наиболее достойные выходы из моральных тупиков, может показаться упрощенной или даже отталкивающей, но роботам и программам придется просчитывать способы решения моральных проблем. До тех пор пока искусственный интеллект не обретет некоего подобия сознания и не будет способен чувствовать или хотя бы имитировать такие эмоции, как привязанность или жалость, никаких перспектив у наших электронных родственников не будет. Люди могут сколько угодно горевать о том, что предоставили автоматам возможность принимать морально значимые решения до того, как научили их нравственности, но власть выработанных тысячелетиями этических норм остается доминантой. Если выпустить машины в самостоятельное плавание, то придется перевести моральные коды в коды компьютерных программ.

Вот другой сценарий. Представим себе батальон, составленный из людей и солдат-роботов. В составе батальона есть взвод «компьютерных снайперов», занявших позиции на перекрестках и крышах домов города, который батальон защищает от нападения партизан. Один из роботов берет на лазерный прицел человека в гражданской одежде, держащего в руке мобильный телефон. Человек ведет себя – с точки зрения военного опыта – достаточно подозрительно. Робот, оценив текущую ситуацию и просмотрев базу данных о поведении террористов в таких случаях, мгновенно подсчитывает, что 68% вероятность того, что это террорист, готовый привести в действие взрыватель бомбы, и 32% – что это мирный житель, не замышляющий ничего дурного. В этот момент на улицу въезжает бронетранспортер с взводом солдат. Если человек готов взорвать бомбу, то рвануть может в любой момент. Война не имеет кнопки «пауза». Здесь нет места человеческим рассуждениям. Робот должен действовать. Что прикажет программа его винтовке: стрелять или не стрелять?

Если гражданские люди еще могут рассуждать об этических следствиях внедрения самоуправляющихся автомобилей и других самостоятельных роботов, то у военных нет времени на такие размышления. В течение многих лет Министерство обороны и военные академии изучают методы и последствия наделения боевых машин правом принимать решения о жизни и смерти. Ракеты и бомбы, сбрасываемые с беспилотных самолетов, давно уже никого не удивляют, хотя и стали предметом ожесточенных дебатов. У обеих сторон есть веские аргументы. Сторонники наделения машин таким правом утверждают, что беспилотники позволяют уменьшить потери в живой силе, а точность ударов сокращает масштабы разрушений и жертв по сравнению с традиционными способами ведения боевых действий. Противники считают такое бомбометание санкционированным государством массовым убийством. Они утверждают, что ракеты и бомбы часто убивают и ранят мирных жителей. Правда, надо сказать, что такие ракетные удары не являются автоматизированными, они просто подчиняются дистанционному управлению. Самолеты летят самостоятельно и сканируют местность, над которой пролетают, но решение о нанесении удара принимают военнослужащие, сидящие перед мониторами и выполняющие приказы командиров. В их понимании современные беспилотные самолеты-ракетоносцы ничем не отличаются от крылатых ракет и другого вооружения. На гашетку и спусковой крючок нажимают все же люди, а не машины.

Радикальные изменения наступят, когда компьютер начнет нажимать на кнопку. Полностью автоматизированная, управляемая компьютером убивающая машина – то, что военные называют смертоносными автономными роботами. С технической точки зрения сегодня они вполне возможны, и создать их не представляет никакого труда. Уже сейчас с самолетов можно с большим разрешением сканировать поле боя и выявлять возможные цели. Механизмы автоматической стрельбы тоже существуют. Нетрудно написать программы для выполнения орудийного выстрела или пуска ракеты. Для компьютера решение о пуске не отличается от решения продать акцию или отправить полученное письмо в папку «спам». Алгоритм есть алгоритм.

В 2013 году Кристоф Хейнс, южноафриканский правовед, работающий над темой внесудебных решений, издал доклад о статусе и перспективах развития военных роботов [4]. От чтения этого сухого бесстрастного доклада по спине бегут мурашки: «Правительства, способные выпускать смертоносные автономные роботы, – писал Хейнс, – утверждают, что в настоящее время не рассматривается вопрос об их применении в вооруженных конфликтах или в каких-либо иных ситуациях. Однако история вооружений, – продолжает он, – позволяет предположить, что людям не следует слишком серьезно относиться к таким прогнозам. Надо помнить, что аэропланы и беспилотные самолеты поначалу использовались в вооруженных конфликтах только для разведки, а их боевое применение исключалось ввиду возможных негативных последствий. Опыт, однако, подтверждает, что, когда технология позволяет получить преимущество перед противником, подобные рассуждения просто отбрасываются в сторону. Как только появляется новый тип оружия, немедленно начинается гонка вооружений. В этой ситуации сила соблюдения собственных интересов может свести на нет всякие усилия по контролю над вооружением и его боевым применением».

Война гораздо в большей степени подчиняется шаблонам, чем гражданская жизнь. Есть определенные правила ведения боевых действий, иерархия командования и четко определенные стороны конфликта. Убийство не только не порицается, но и поощряется. Но даже на войне программирование морально значимых задач поднимает проблемы, которые не могут быть решены без предварительного урегулирования некоторых моральных аспектов. В 2008 году командование ВМС США поручило группе по этике и новым наукам Университета штата Калифорния подготовить доклад по этическим проблемам, возникающим в связи с возможным применением смертоносных автоматизированных машин, и выработать предложения по созданию «этически запрограммированных роботов» для военных целей. Специалисты по этике доложили, что существует, в принципе, два способа программирования морально обоснованных компьютерных решений: сверху вниз и снизу вверх. В первом случае все правила, программирующие решения робота, создаются заранее, и машина просто им следует «без изменений или гибкости». Невозможно предвидеть все ситуации, в которых может оказаться робот. «Ригидность программирования сверху вниз может привести к неприятным последствиям, – написали ученые, – когда события или ситуации, не предусмотренные или недостаточно проработанные программистами, заставляют робота поступать неверно или просто совершать ужасные вещи именно потому, что он жестко следует заданным правилам» [5].

При подходе «снизу вверх» робота программируют, задавая ему несколько элементарных правил, и отпускают в свободное плавание. Робот использует обучающую технику для создания собственного морального кода, приспосабливая его к новым ситуациям по мере их возникновения. Подобно ребенку, робот попадает в самые разнообразные положения и учится справляться с ними методом проб и ошибок (за счет обратных связей), самостоятельно выясняя, что можно делать, а чего нельзя. Чем с большим числом проблем робот сталкивается, тем тоньше становятся его моральные суждения. Однако такой способ программирования чреват еще более серьезными проблемами, чем первый. Во-первых, он неосуществим на практике, пока не изобретены обучающие машинные алгоритмы – достаточно тонкие и жесткие для принятия морально обоснованных решений. Во-вторых, в боевых ситуациях нет места для проб и ошибок – такой подход уже сам по себе аморален. В-третьих, нет никаких гарантий того, что моральные ориентиры, выработанные компьютером, будет совпадать с человеческими. Выпущенный на поле боя робот-пулеметчик с набором обучающих алгоритмов может натворить страшных дел.

Специалисты по этике особо подчеркнули, что люди при принятии морально значимых решений используют «гибрид» двух подходов – сверху вниз и снизу вверх. Человек живет в обществе, управляемом законами и другими ограничениями, которые направляют и контролируют его поведение. Многие люди принимают решения в согласии со своими религиозными и культурными убеждениями. Совесть тоже диктует свои правила, будь она врожденной или благоприобретенной в процессе воспитания. Большую роль играет жизненный опыт. Люди учатся быть нравственными существами по мере роста и взросления, сталкиваясь с необходимостью принимать этически оправданные решения в разнообразных ситуациях. Человек далеко не совершен, его нравственные устои проходят испытание при столкновении с проблемами, с которыми он раньше никогда не встречался. Единственный способ для роботов стать нравственными – это последовать нашему примеру и принять гибридный подход, то есть одновременно подчиняться правилам и учиться на собственном опыте. Но создание такой машины на данном уровне развития технологии невозможно. «В конечном итоге, – заключают специалисты по этике, – люди, возможно, смогут построить нравственных роботов, способных снизу вверх вырабатывать гибкую мораль, воспринимать и обрабатывать самые разнообразные вещи и сравнивать принятые решения с правилами, предписанными подходом сверху вниз». Но для этого надо понять, как программировать компьютеры, чтобы они могли обладать эмоциями, социальными навыками, сознанием и «чувством сопричастности миру» [6]. Другими словами, людям придется стать богами.

Едва ли армия будет так долго ждать. В статье, опубликованной в журнале военного колледжа армии США Parameters, Томас Адамс, военный стратег и подполковник в отставке, утверждает: «Логика, ведущая к созданию полностью автономных систем, неумолима. Благодаря скорости, размерам и чувствительности военных роботов война начинает предъявлять требования, превосходящие способность человека адекватно реагировать на них». Скоро наступит время, когда обычному человеку станет слишком сложно разобраться с новой техникой. «Люди становятся самым слабым звеном военной системы, – говорит Адамс, повторяя утверждения ориентированных на технологию гражданских создателей программного обеспечения, – и сохранение способности к контролю над ситуацией на поле боя становится в современных условиях почти невозможным. …Проблема заключается в том, что обязательно найдутся противники, которые решат, что нанести поражение ориентированным на человека системам можно только с помощью систем, ориентированных на технологию». В конце своей статьи Адамс выражает уверенность: «Наступит такой момент, когда военные действия на тактическом уровне станут уделом машин, а не людей» [7].

Предотвратить применение автономных роботов-убийц едва ли удастся не только по причине их высокой тактической эффективности. Их использование имеет много этических преимуществ. В отличие от живых солдат, роботы не будут подвержены действию инстинктов в горячке и суматохе боя, они не способны испытывать страх, и у них нет крови, в которой может бушевать адреналин. «Главное, – писал Хейнс, – они не будут действовать из мести, не поддадутся панике, гневу, злобе, предрассудкам или страху. Более того, если их специально на это не запрограммировать, машины не станут преднамеренно причинять страдания гражданскому населению, применять насилие и пытки» [8].

Роботы, кроме того, не лгут и не пытаются скрыть следы своих действий. Их можно запрограммировать так, чтобы они оставляли электронные метки на пути своего движения, что сделает их самыми надежными солдатами армии. Их применение (и это, пожалуй, самое важное) позволит избежать гибели и ранений живых солдат. Убивающий робот не только забирает жизни, но и сохраняет их. Как только людям станет ясно, что автоматические солдаты и оружие уменьшат вероятность того, что их сыновья и дочери будут убиты или искалечены на войне, давление на правительство станет непреодолимым, – народы потребуют автоматического ведения войн. «В конечном счете, – считает Хейнс, – не будет иметь никакого значения, что роботы лишены способности к человеческому суждению, здравого смысла, чувства перспективы, понимания скрытых намерений и человеческих ценностей». Отсутствие человеческих чувств у роботов в данном случае имеет даже свои преимущества, так как иначе их не смогли бы с легкостью отправлять на уничтожение.

Однако в действительности эта ситуация оказывается еще более щекотливой. «Военные и политические преимущества роботов имеют и собственные моральные ограничения. Их применение САР не просто изменит способ ведения сражений и стычек, – утверждает Хейнс. – Оно изменит отношение политиков и военных к вопросу о том, следует ли вообще начинать войну. Ненависть общества к потерям всегда удерживала политиков от объявления войн и подстегивала стремление к переговорам. Так как роботы уменьшат человеческую цену вооруженного конфликта, общество будет с большей легкостью отчуждено от военных дебатов и оставит решение вопроса о применении силы на усмотрение государства, что приведет к обыденности вооруженного конфликта. Киберсолдаты могут снизить для государства порог перехода к войне или другим конфликтам. Война перестанет быть последним средством решения политических споров» [9].

Внедрение нового класса вооружений всегда меняет природу ведения войны, а оружие, которое можно метать или взрывать издалека (катапульты, мины, мортиры, ракеты), оказывало и продолжает оказывать в этом отношении наибольший эффект, как предусмотренный, так и непреднамеренный. Последствия применения киберсолдат превзойдут все, что появлялось на полях сражений до сих пор. Первый же выстрел, самостоятельно сделанный роботом, прогремит на весь мир, навсегда изменив лицо войны, а может быть, и всего общества.

Социальные и этические вызовы, порожденные призраками роботов, запрограммированных на убийство, и самоуправляющихся машин, открывают очень важную и неприятную перспективу направления автоматизации в целом. Идею замещения традиционного способа действия автоматизированным трактовали как возможность замены любой работы путем деления ее на отдельные задачи, которые легче автоматизировать. Это представление надо, вероятно, расширить. По мере того как растет область приложений автоматизации, человечество начинает понимать, что общество не может быть разделено на не связанные между собой сферы деятельности – например, сферы труда, отдыха, государственной власти. Их нельзя автоматизировать по отдельности, чтобы не затронуть состояние других сфер, не изменить жизнь общества в целом. Все на свете взаимосвязано. Изменится оружие, и, как следствие, возникнет другой способ ведения войны. Эти связи становятся более тесными по мере распространения информации в компьютерных сетях. В какой-то момент автоматизация достигает критической массы и начинает формировать общественные нормы и этику. Люди постепенно видят себя и отношения с другими в совершенно ином свете. Личную деятельность они невольно начинают подгонять под технологию, играющую в наши дни все более значимую роль. Меняется и поведение людей. Они ждут от компьютера помощи и разочаровываются в тех редких случаях, когда ее не получают. «Программы стали настоятельной необходимостью, – как выражается Джозеф Вайценберг, специалист по вычислительной технике из Массачусетского технологического института. – Они становятся той материей, из которой люди строят свой мир» [10].

В девяностые годы, когда только начал надуваться пузырь доткомов, уже шли взволнованные разговоры о «вездесущей компьютеризации». Вскоре эксперты стали уверять нас, что наступает эра микрочипов. Они будут везде: в фабричных и заводских машинах, на полках складов, встроены в стены кабинетов, магазинов и жилых домов, зарыты в землю и полетят по воздуху. Будут вшиваться в одежду и даже плавать в нашей крови. Снабженные сенсорами и передатчиками, эти миниатюрные компьютеры станут измерять все мыслимые переменные величины – от усталости металла и температуры почвы до уровня сахара в крови и через интернет посылать данные в крупные центры их обработки. Там мощные компьютеры проанализируют переданную ими информацию и выдадут инструкции, как поддержать те или иные параметры на нужном уровне. Компьютеризация проникнет во все на свете. Автоматизация станет вездесущей. Мы окажемся в раю компьютерных фанатов, в мире программируемых машин.

Одним из главных вдохновителей этого помешательства стала Xerox PARC, легендарная исследовательская лаборатория в Кремниевой долине, где Стив Джобс почерпнул вдохновение для создания системы Macintosh. Инженеры и математики Xerox PARC опубликовали серию статей о будущем, в котором компьютеры тесно вплетутся в ткань повседневной жизни и станут ее частью [11]. Люди уже не будут замечать находящихся вокруг них компьютеры и чувствовать тревожность по поводу всеобщей компьютеризации, на них снизойдет полная «безмятежность» [12]. Звучит поистине идиллически. Но специалисты Xerox PARC не были законченными оптимистами. Им самим не очень нравился мир, который они нарисовали. Они беспокоились о том, что нашпигованный компьютерами мир станет идеальным местом для скрытно надзирающего за всеми Большого Брата. «Если компьютерные системы станут настолько же невидимы, насколько и вездесущи, – писал в 1999 году главный технолог лаборатории Марк Вайзер, – то станет трудно понять, кто за кем следит, кто кого контролирует, что с чем связано, откуда течет информация и как она используется» [13]. Нам придется полностью довериться людям и компаниям, обслуживающим систему.

Воодушевление, как, впрочем, и тревога по поводу всеобщей компьютеризации, оказалось преждевременной. Технологии девяностых годов не позволяли сделать мир прозрачным для компьютеров и роботов, а после краха доткома (большинство компаний dotcom лопнули вместе с американской биржей акций) инвесторы потеряли всякую охоту вкладывать деньги в повсеместную установку микрочипов и сенсоров. Но за последние 15 лет очень многое изменилось, и прежде всего – экономические условия. Цены на компьютерное оборудование резко упали, так же как и стоимость высокоскоростной передачи данных. Такие компании, как Amazon, Google и Microsoft, превратили обработку данных в вид коммунальных услуг. Они построили рыхлую компьютерную решетку, позволяющую накапливать огромные массивы данных, обрабатывать их на мощных центральных компьютерах, а затем рассылать на смартфоны, планшеты и пульты управления машинами и механизмами [14]. Производственные компании тратят миллиарды долларов на оборудование своих предприятий связанными с сетью сенсорами, а такие технологические гиганты, как General Electric, IBM и Cisco, надеясь возглавить создание «вселенной сети интернета», наперегонки бросились разрабатывать стандарты обмена данными. Компьютеры сейчас действительно стали поистине вездесущими. Малейшие движения человеческого мира уже регистрируются в виде потока единиц двоичного кода. Данными о людях киберсети уже пропитались насквозь. Теперь ученые Xerox PARC снова начинают казаться пророками.

Существует большая разница между набором инструментов и инфраструктурой. Промышленная революция набрала полную силу только после того, как ее технические предпосылки были внедрены в промышленные системы и сети. Строительство железных дорог в середине XIX века расширило рынки, доступные промышленным компаниям, и дало толчок к механизации массового производства и к ускорению роста экономики. Создание линий электропередач спустя несколько десятилетий открыло путь к разработке сборочных конвейеров, а с доступностью электрических приборов индустриализация проникла в частные дома. Эти новые транспортные и энергетические сети вкупе с телеграфом, телефоном и радио придали обществу совершенно иной характер, изменили мысли людей о работе, развлечениях, путешествиях, образовании и даже об организации общественной и семейной жизни. Железные дороги и электричество сделали жизнь такой, какой она даже не снилась людям в эпоху промышленных паровых машин.

Томас Хьюз в обзоре последствий строительства линий электропередач и создания электрических сетей писал в книге «Networs of Power» («Энергетическая сеть») о том, как техническая культура (деловая, а затем общая) адаптировалась к новой энергетической системе. «Люди и учреждения приспосабливались к новой технологии, – писал Хьюз. – Системное взаимодействие людей, идей и учреждений, как технических, так и гуманитарных, привело к созданию социотехнической подсистемы, придавшей мощное ускорение движению общества и техники в определенном направлении. Именно тогда технология повела за собой производство энергии, способы производства товаров и изменила образ жизни. Универсальная система растет стабильно и равномерно, а ее изменения преобразуются в диверсификацию функций ее составляющих» [15]. Прогресс нашел свою колею.

Сейчас мы достигли той же точки в истории автоматизации. Общество адаптируется к универсальной компьютерной инфраструктуре, причем быстрее, чем оно приспосабливалось к электрическим сетям, и новый статус-кво постепенно приобретает законченную форму. Уже изменились принципы, лежащие в основе производственных операций и торговых отношений. «Деловые отношения, которые когда-то связывали людей, теперь осуществляются посредством электроники, – пишет Брайан Артур, экономист и специалист по технологиям из Института Санта-Фе (The Santa Fe Institute, SFI). – Деловые отношения осуществляются в невидимом, абсолютно цифровом царстве» [16]. В качестве примера Артур приводит перевозки товаров по Европе. Всего несколько лет назад это требовало участия массы людей, вооруженных ручками и картонными папками. Они записывали время прибытия и убытия, проверяли грузовые декларации, проводили инспекцию грузов, подписывали разрешения и ставили под ними печати, заполняли документы и раскладывали их по соответствующим папкам, писали письма и звонили другим чиновникам для согласования дальнейшего движения груза. Изменение маршрута движения требовало интенсивных переговоров между представителями множества заинтересованных сторон – отправителя, получателя, перевозчика и государственных ведомств, – а значит, и горы бумажных документов. Теперь же в груз вмонтированы радиочастотные идентификационные метки. Когда он проходит через порт или другой перевалочный пункт, сканеры считывают метку и передают информацию в одни компьютеры, другие, третьи… Так осуществляется надлежащая проверка, выдача разрешений на провоз или выгрузку. При необходимости контролируется соблюдение схемы доставки и наличие дат, соответствующих статусу груза. Если требуется новый маршрут, то он порождается автоматически, а метки и соответствующие данные меняются и отправляются в архив.

Такой автоматизированный и отдаленный обмен информацией стал нормой в современной экономике. «Торговля, – как пишет Артур, – все в большей степени управляется обширными коммуникациями исключительно между машинами» [17]. Современные бизнесмены обязательно должны обладать сетевыми компьютерами, способными принимать участие в этих коммуникациях. «Знаете, вы построили превосходную цифровую нервную систему, – говорит Билл Гейтс руководителям своей компании, – по которой информация растекается по всей организации, как нервные импульсы по человеческому телу» [18]. Любая уважающая себя компания, чтобы выжить, должна постоянно автоматизироваться и пересматривать производственный и управленческий циклы с целью усиления их компьютерного контроля. А это означает, что компании придется ограничить участие людей в процессе производства и управления, так как они не смогут поддерживать скорость компьютерной обработки данных и будут лишь помехой во многих ключевых функциях.

Писатель фантаст Артур Кларк как-то задал риторический вопрос: «Может ли быть устойчивым синтез человека и машины или органический компонент этого симбиоза станет таким препятствием для полноценной работы, что от него придется в конце концов избавиться?» [19] По крайней мере, в мире бизнеса никакой стабильности в разделении труда между человеком и компьютером пока не видно. Доминирующие методы автоматизации передачи сообщений и согласования действия дают понять, что роль человека будет угасать. Люди сами создают системы, которые их вытесняют. Если технологическая безработица в ближайшие годы увеличится, то произойдет это в результате новой, невидимой стороннему глазу автоматизации инфраструктуры, а не из-за засилья роботов на предприятиях и в офисах. Роботы и программные приложения – это лишь цветочки, выросшие на огромной и мощной корневой системе.

Эта система дает толчок проникновению автоматизации в культуру общества. От оказания государственных услуг до сохранения дружбы и семейных уз – во всех своих делах и заботах общество приспосабливается к анатомии компьютерной инфраструктуры. Она позволяет мгновенно и согласованно обмениваться данными, что делает возможным появление реальных потоков самоуправляющихся автомобилей и прочих чудес современной автоматизации. При помощи этой инфраструктуры собирается информация для анализирующих программ, которые предлагают пользователям готовые решения. Она обеспечивает возможность автоматизации школьных классов, библиотек, больниц, магазинов, церквей и жилых домов, то есть мест, где по традиции господствовали чисто человеческие отношения. Эта же инфраструктура позволяет Агентству национальной безопасности (NSA) и другим разведывательным организациям, а также преступным синдикатам и сомнительным корпорациям вести разведку и шпионаж в беспрецедентных масштабах. Именно она ограничила серьезные публичные обсуждения и личные беседы размерами крошечных экранов. Она дает нашим карманным компьютерным устройствам сопровождать человека, предостерегая, инструктируя и советуя.

Повторю еще раз: люди и учреждения приспосабливаются к технологии. Но индустриализация не превратила людей в механизмы, и автоматизация не превратит их в автоматы. Не так уж человек прост. Но распространение автоматизации делает жизнь программируемой. Стало меньше возможностей проявить находчивость и изобретательность, испытать уверенность в своих силах. Сейчас настало время задуматься о том, как именно будет развиваться человечество.

Очень любопытная речь была произнесена на традиционной конференции по технологиям развлечений и дизайна в Лонг-Биче в конце февраля 2013 года. На сцене стоял, переминаясь с ноги на ногу, небрежно одетый парень и, слегка заикаясь, говорил. Это был Сергей Брин, по слухам, более коммуникабельный из двух соучредителей Google. Брин приехал на конференцию, чтобы рекламировать Google Glass (у нас – умные очки) – нательный компьютер. Показав для начала короткий рекламный ролик, Брин пустился в уничтожающую критику Smartphone (смартфон), внедрению которого с его системой Android Google в свое время способствовал больше других компаний. Достав из кармана собственный телефон, Брин посмотрел на него с нескрываемым отвращением. «Пользование смартфоном – это своего рода кастрация, – сказал он. – Понимаете, вы стоите и, как полоумный, трете эту безликую стекляшку». Помимо «социальной изоляции», смартфон заставляет смотреть на экран, а это отвлекает человека от раздражителей реального физического мира. «Неужели вы хотите и дальше причинять такое зло собственному организму?» – заключил Брин [20].

Засунув смартфон в карман, Брин стал дальше расхваливать преимущества Glass. Новое устройство будет иметь более удачную форму персонального компьютера. Освободив руки владельца и позволив ему поднять голову, он вернет человека в реальный мир. Есть у «нательных компьютеров» и другие преимущества. Поскольку экран компьютера всегда находится в поле зрения пользователя, постольку «умные очки» позволят Google с помощью сервиса Google Now и других устройств слежения и идентификации выдавать людям любую необходимую информацию в момент, когда им потребуется совет или помощь. Компания наконец удовлетворит свою давнюю амбициозную мечту: автоматизировать поток информации, поступающей в мозг. Забудьте о функции autocomplete сервиса Google Suggest. «Надев “очки”, – сказал Брин, повторяя слова своего коллеги Рэя Курцвейля, – вы вообще избавитесь от необходимости искать сеть. Вам не надо будет формулировать условия поиска и просматривать результаты или ссылки. Информация будет поступать к вам по мере надобности» [21]. Мало того что компьютер стал вездесущим, теперь он – еще и всезнающий.

Косноязычное выступление Брина стало мишенью для остроумных блогеров, но в принципе он прав. Смартфоны чаруют, но и сильно раздражают. Человеческий мозг не может сосредоточиваться на двух вещах одновременно. Каждый взгляд на экран, прикосновение к нему отвлекают нас от окружающего мира. Со смартфоном в руках мы становимся призраками, витающими между двумя мирами. Конечно, люди всегда отличались рассеянностью и способностью отвлекаться на пустяки. Мы блуждаем в грезах, теряем внимание, но никогда прежде мы не носили с собой инструмент, который бы с такой силой завладевал нашими чувствами и нарушал внимание. Соединяя человека со всем виртуальным светом, смартфон, как верно заметил Брин, лишает его возможности находиться здесь и сейчас. Мы перестаем присутствовать в своем непосредственном окружении.

Правда, уверения Брина в том, что «умные очки» позволят решить эту проблему, звучали не очень убедительно. Несомненно, бывают ситуации, когда свобода рук при пользовании компьютером или во время съемки является решающим преимуществом. Однако смотреть в экран, плавающий перед глазами, требует не меньше внимания, чем когда он располагается на коленях или на ладони. Мало того, экран в «очках» может потребовать еще больше внимания. Исследования, проведенные на летчиках и водителях, использующих головные дисплеи, показали, что, когда люди смотрят на текст или рисунок, спроецированный на окружающую обстановку, у них развивается феномен «туннельного внимания». Фокус сужается, взгляд фиксируется на дисплее, и человек перестает замечать, что происходит в остальных участках поля зрения [22]. В одном из опытов, проведенных на имитаторе полета, пилотам, использовавшим во время посадки головной дисплей, потребовалось больше времени, чтобы заметить перегородивший посадочную полосу большой самолет, чем летчикам, которые смотрели на приборную панель. Двое пилотов с головными дисплеями вообще не заметили крупный объект, расположенный у них прямо перед глазами [23]. «Для полноценного восприятия нужны глаза и разум, – писали профессора психологии Дэниел Саймонс и Кристофер Шамбри в статье о потенциальных опасностях “умных очков”, напечатанной в 2013 году, – и если ваш разум занят, то вы можете не увидеть того, что в противном случае заметили бы сразу» [24].

Конструкция дисплея «умных очков» такова, что от него очень трудно отвлечься. Постоянно нависая над глазом, он находится в постоянной готовности, и вам стоит лишь слегка скосить взгляд вверх, как он тут же попадет в поле зрения. Обычный телефон можно хотя бы сунуть в карман или сумку, бросить в подставку для стакана в машине и избавиться от него. Тот факт, что вы взаимодействуете с «умными очками», произнося слова, двигая головой, делая жесты руками и похлопывая пальцами по дужке, позволяет устройству еще больше претендовать на ваше мышление и восприятие. Что же касается звуковых сигналов, возвещающих о сообщениях и предостережениях – подающихся, как хвалился Брин на конференции, в мозг за счет костной проводимости черепа, – то едва ли они будут менее навязчивыми, чем звонки и зуммеры обычного телефона. Возможно, метафора, сравнивающая пользование смартфоном с кастрацией, и удачна, но компьютер, прикрепленный к вашему лбу, может оказаться еще хуже.

Нательные компьютеры – это головные устройства, такие как «умные очки» Google; шлем виртуальной реальности Facebook; приборы, крепящиеся на запястье, «умные часы» компании Pebble. Они не всегда отличаются привлекательной новизной. На пути к популярности им придется преодолеть множество препятствий. Красоты в них мало, выглядят они причудливо и аляповато – лондонская The Guardian называет «умные очки» «жуткими окулярами» [25]. Встроенные в них видеокамеры заставляют многих людей нервничать. Но, как многие персональные компьютеры прошлых поколений, эти устройства быстро совершенствуются и, несомненно, примут более удобные и менее гротескные формы. Идея ношения компьютера на теле сейчас кажется странной, но через десять лет оно может стать нормой. Возможно, люди начнут с удовольствием глотать микроскопические компьютеры для слежения за биохимическими параметрами организма и функциями внутренних органов.

Брин, однако, ошибается, полагая, что «умные очки» и другие подобные устройства означают разрыв с компьютерным прошлым. Мало того, эти изобретения придают технологической тенденции еще большую силу. Помимо того что смартфон и планшет сделали персональные, соединенные с сетью компьютеры портативными и личностными, они проторили путь к программированию многих новых аспектов нашей жизни. Вместе с дешевыми, простыми в обращении приложениями эти программы позволяют использовать всемирную компьютерную инфраструктуру для автоматизации самых обыденных наших обязанностей. Компьютеризированные очки и браслеты расширяют поле охвата автоматизации. Эти устройства облегчают получение инструкций о пути следования при ходьбе пешком или при езде на велосипеде. Более того, с помощью новых компьютеров можно получить совет относительно того, что съесть на ужин и какую пижаму надеть на ночь. Устройства можно снабдить сенсорами, которые будут передавать в сеть информацию о вашем местоположении, состоянии здоровья и образе мыслей. Все это даст программистам и предпринимателям еще больше возможностей для автоматизации нашей повседневной жизни.

Итак, на наших глазах прошла демонстрация разнообразных видов компьютеров и программ. В зависимости от точки зрения их можно считать либо порочными, либо добродетельными и необходимыми. Чем больше человек полагается на программные приложения и алгоритмы, тем больше утрачивает способность действовать без их помощи, страдая от сужения навыков и внимания. Это делает компьютерные программы еще более значимыми. Автоматизация вызывает дальнейшую автоматизацию. Когда все вокруг надеются решить свои жизненные проблемы с помощью экранов, общество, естественно, приспосабливает образ жизни к компьютерным процедурам.

Уже в девяностые годы специалисты Xerox PARC утверждали, что компьютеризация будет всеобщей и вездесущей, когда человек перестанет ее замечать. Компьютеры настолько тесно вплетутся в жизнь, что станут невидимыми. Люди смогут пользоваться ими подсознательно [26]. Это казалось несбыточными фантазиями, когда массивные ЭВМ регулярно привлекали к себе внимание своим зависанием, громом и треском в самые неподходящие моменты. Теперь слова специалистов уже не кажутся абстрактными мечтами. Многие компьютерные компании и фирмы, поставляющие программное обеспечение, говорят, что работают над тем, чтобы сделать свою продукцию невидимой. «Я страшно воодушевлен технологиями, становящимися невидимками, – заявляет Джек Дорси, выдающийся предприниматель из Кремниевой долины. – Мы сделали это с Twitter, а сейчас работаем с процессором кредитных карт Square» [27]. Когда Марк Цукерберг называет Facebook коммунальной услугой, он подает нам недвусмысленный сигнал о том, что социальные сети скоро вольются в нашу жизнь, как влились в нее телефон и электричество [28]. Apple уже проводит кампанию, утверждая, что iPad скоро выйдет из употребления. Подхватывая тему Google, он рекламирует «очки» как средство избавления от вездесущей, лезущей в глаза техники. Выступая с речью в Сан-Франциско, главный инженер компании Google Вик Гундотра бросил в массы цветистый и сильный лозунг: «Технология должна убраться с глаз долой, чтобы мы имели возможность жить, учиться и любить» [29].

Поборников новой технологии можно упрекнуть в надменности, но не в цинизме. Они искренне верят в то, что чем более компьютеризированным станет наше бытие, тем счастливее мы будем жить. Так, во всяком случае, подсказывает им их жизненный опыт. Но эти надежды пока ни на чем больше не основаны. Чтобы популярная технология стала невидимой, ей сначала следует стать настолько необходимой, чтобы люди не мыслили своей жизни без нее. Она должна окружать людей со всех сторон. Джастин Раттлер, шеф технологического отдела Intel Corporation, рассказал о своих надеждах на то, что продукция компании станет такой неотъемлемой частью человеческого «контекста», что Intel будет необходим, как средство «принудительной помощи» [30]. Создание такой зависимости от компании принесет много денег Intel Corporation и другим компьютерным компаниям. Таким образом компьютерные компании собираются превратить покупателей в просителей.

Управлять компьютерными системами становится все легче и легче, и это обстоятельство делает их более привлекательными в глазах пользователей, по мнению продавцов. «Мы освободимся от технологии, когда она не будет попадаться на глаза», – писал колумнист The New York Times Ник Билтон [31]. Но невозможно просто повернуть выключатель и сделать технологию невидимой в мгновение ока. Она «исчезает» только в результате долгого процесса культурной и личной акклиматизации. Люди могут не замечать ее оков, но это не будет означать, что их нет. Инструмент, которым первоначально пользовались для выполнения собственных намерений, начинает навязывать человеку условия его изготовителя. «Если мы не сможем понять, – пишет Латур, – насколько использование техники, пусть даже простой, модифицирует или искажает первоначальное намерение, то это произойдет потому, что мы поменяем цель, изменив средство» [32].

Этические проблемы, порожденные перспективой создания автоматизированных автомобилей и военных роботов (кто будет контролировать работу программ, выбирать пути оптимизации, чьи намерения и интересы отражены в кодах и т.п.), сохраняют свою силу и для приложений, призванных автоматизировать нашу обыденную жизнь. По мере того как программы приобретают над людьми все большую власть, определяют стиль работы, отбирают информацию, маршрут путешествия, навязывают способы общения с окружающими, они становятся формой дистанционного управления человеком. В отличие от роботов и механизмов, люди в состоянии отвергнуть инструкции и предложения компьютерных программ, но не смогут избежать их влияния. Запуская приложение, человек просит машину стать его поводырем, то есть отдает себя на ее милость.

Приглядитесь внимательно к Google Maps. Если вы при езде по городу прибегаете к советам приложения, то оно дает не только навигационные рекомендации, а и задает определенный стиль мышления. В программное обеспечение внедрена философия места, которая, между прочим, отражает коммерческие интересы компании Google, мировоззрение и пристрастия ее программистов, а также силу и слабость программы в отображении того или иного населенного пункта. В 2013 году компания выпустила новую версию Google Maps. Вместо того чтобы представить обычную, общую для всех панораму города, Google генерирует карту, скроенную согласно потребностям и запросам путешествующего, о которых компания судит на основании собранной информации. Приложение обозначит близлежащие рестораны и другие места, о которых человеку сообщали друзья в социальных сетях. Google будет подсказывать направления, исходя из прежних навигационных предпочтений. «Вид, который представляет вам компания, – утверждают ее руководители, – уникально подобран именно для вас и всегда соответствует задаче, которую вы хотите решить в данный момент» [33].

Все это звучит очень заманчиво, но является весьма ограниченным. Google отсеивает интуицию человека, его любопытство. Он омывает заразную неразбериху города антисептиком алгоритмов. Теряется самая важная достопримечательность города, как общественного места, где живет масса самых разнообразных людей. «Урбанизм Google, – пишет известный критик новых технологий Евгений Морозов, – это урбанизм человека, пытающегося проехать в торговый центр на самоуправляющемся автомобиле. Это утилитарный урбанизм, даже, можно сказать, эгоистический, не придающий никакого значения тому, как должен человек воспринимать публичное пространство. В мире Google – это досадная помеха, которая стоит между вами и рестораном, куда вы очень хотите попасть» [34]. Целесообразность побеждает все.

Социальные сети заставляют нас сообщать сведения о себе в виде, соответствующем интересам и предпочтениям компаний, которые поддерживают эти сети. Facebook с помощью своей «временной линейки» побуждает членов сети думать о своем публичном имидже, считая его неотделимым от собственного «я». Компания хочет запереть пользователя в унифицированное «я», которое существует в неизменном виде всю жизнь, начиная с раннего детства и заканчивая смертью. Такое понимание человеческой идентичности соответствует узкому представлению учредителей сети о самости и ее возможностях. «У вас одна и только одна идентичность, – сказал однажды Марк Цукерберг. – Очень быстро подходит к концу время, когда вы имели отличающиеся образы в глазах разных людей: один для друзей, другой для сослуживцев, третий для всех остальных». Мало того, он утверждает, что «два образа одного и того же человека говорят о расщеплении его личности» [35]. Эта точка зрения совпадает со стремлением Facebook упаковать членов этой социальной сети в аккуратные и прозрачные наборы данных, выгодных для рекламодателей. Для компании здесь кроется еще одна выгода, так как отпадает необходимость в соблюдении конфиденциальности личных данных. Если многообразие образов личности говорит об отсутствии ее цельности, то попытки удержать при себе определенные мысли или поступки свидетельствуют, с точки зрения Facebook, о слабости характера. Однако сама концепция индивидуальности, которую он навязывает своими программами, является поистине удушающей. Индивидуальность – предмет не фиксированный. Она возникает в результате рефлексии и меняется в зависимости от обстоятельств. Особенно это верно в юности, когда восприятие человеком самого себя изменчиво и непостоянно и постоянно является предметом испытаний, экспериментов и пересмотров. Замкнутость в одной индивидуальности, особенно на заре жизни, может закрыть путь к росту и совершенствованию личности.

Каждый фрагмент программного обеспечения содержит подобные скрытые допущения. Поисковые системы и автоматизированные интеллектуальные вопросники весьма популярны в сравнении с разнообразием мнений, строгостью аргументации или качеством выражения мыслей. Как и все аналитические программы, они тяготеют к критериям, поддающимся статистическому анализу, отбрасывая мнения людей, для проверки которых нужен вкус или иные субъективные суждения. Автоматизированные алгоритмы выставления оценок мотивируют школьников и студентов к овладению методиками механического письма. Программы глухи к тональности речи, их не интересуют нюансы знания, и они активно сопротивляются нестандартным творческим оборотам речи. Талантливое нарушение грамматических правил может восхитить читателя, но оно – подлинное проклятье для компьютера. Рекомендующие устройства, предлагающие посмотреть какой-то фильм или познакомиться с потенциальным любовником, потворствуют нашим тривиальным желаниям, а не бросают нам вызов, предлагая что-то новое и неизведанное. Они молчаливо предполагают, что мы предпочитаем обыденность приключениям и предсказуемость капризным поворотам судьбы. Технологии домашней автоматизации, позволяющие программировать освещение, отопление, готовку и развлечения, придают частной жизни привкус тейлоризма.[30] Эти технологии исподволь подталкивают людей к приспособлению под заданные консервативные схемы, делая дом похожим на рабочее место.

Пристрастие к компьютерным программам может искажать как общественно значимые решения, так и личные. Продвигая свои самоуправляющиеся автомобили, Google утверждает, что они позволят резко сократить число дорожно-транспортных происшествий. «Известно ли вам, что дорожные аварии – это причина смерти номер один среди молодых людей? – вопрошал Себастьан Трун в 2011 году. – Понимаете ли вы, что почти все эти аварии являются следствием человеческих ошибок, а машины могут их предотвратить?» [36] Аргумент Труна звучит весьма убедительно. Регулируя правила таких опасных видов деятельности, как вождение автомобиля, общество уже давно отдает приоритет безопасности, и поэтому все одобряют роль, которую технологические новации могут сыграть в снижении риска несчастных случаев и травм. Но даже в этом картина не является такой черно-белой, какой рисует ее Трун. Способность самоуправляющихся автомобилей предотвращать аварии и несчастные случаи – пока вещь чисто гипотетическая. Как мы уже видели, связь между автоматизацией и человеческими ошибками является довольно сложной; взаимодействие человека и машины редко протекает по заранее написанному сценарию. Более того, цели общества тоже отнюдь не однородны. Люди всегда знали, что законы и моральные нормы предполагают некий компромисс между безопасностью и свободой. Мы допускаем, а иногда и поощряем опасные виды деятельности. Полная, насыщенная жизнь – это не полностью упорядоченное и размеренное существование. Даже устанавливая ограничения скорости на дорогах, общество, помимо безопасности, должно учитывать и другие цели дорожного движения.

Эти компромиссы, какими бы трудными и политически спорными они ни были, формируют тип общества. Вопрос заключается в том, хотят ли люди уступить право выбора компаниям, производящим компьютерные программы? Если рассматривать автоматизацию как панацею от всех бед, то исключается всякий иной выбор. Если броситься в объятия самоуправляющихся автомобилей, то тем самым не только ограничится личная свобода и ответственность каждого, но и не получится испробовать другие пути снижения риска аварий – например, повышение квалификации водителей или развитие общественного транспорта.

Стоит отметить, что озабоченность деятелей Кремниевой долины безопасностью движения, при всей ее искренности, была несколько избирательной. Отвлечение внимания водителей от дороги в результате пользования за рулем телефонами и смартфонами стало главным фактором увеличения числа дорожных аварий. В 2012 году, по данным Совета национальной безопасности (National Security Council), пользование телефоном за рулем стало причиной одной четверти всех дорожно-транспортных происшествий на дорогах США [37]. Тем не менее ни Google, ни другие фирмы, занятые разработкой высоких технологий, не сделали ничего для создания программ, которые помешали бы людям, ведущим машину, говорить по телефону, писать сообщения или пользоваться компьютером. Думается, что эту задачу решить легче, чем создать полностью автономный самоуправляющийся автомобиль. Google даже послал своих лоббистов в столицы штатов с тем, чтобы блокировать принятие законов о запрете водителям носить «умные очки» Google и другие отвлекающие оптические устройства. Важный вклад, который компьютерные компании могут внести в благополучие общества, конечно, должен приветствоваться, но нельзя путать интересы каждого человека с интересами компаний.

Если общество не поймет коммерческих, политических, интеллектуальных и этических мотивов, движущих людьми, которые создают компьютерные программы, не осознает ограниченность автоматизированной обработки данных, то люди станут легкой мишенью для самых разнообразных манипуляций. Возникает риск, как говорит Латур, подменить человеческие намерения другими и даже не заметить этой подмены. Чем больше привыкают люди к технологиям, тем выше становится этот риск.

Одно дело, когда человек не замечает в доме водопроводных труб, исчезающих из поля зрения по мере того, как он привыкает к их присутствию и очень хорошо понимает их функции. Так происходит и с большинством технологий, ставших невидимыми в силу своей вездесущности. Их работа, ее смысл и принципы самоочевидны или, по меньшей мере, познаваемы. Эти технологии могут производить некоторые непредусмотренные конструкторами эффекты – например, квартирный водопровод и канализация изменили наши представления о гигиене и приватности естественных отправлений [38], но при этом ни одна из них не имеет скрытого второго дна.

С невидимостью информационных технологий дело обстоит совсем иначе. Компьютерные системы остаются абсолютно непроницаемыми. Программные коды скрыты от глаз, так как во многих случаях являются коммерческой тайной. Но даже если бы была возможность в них заглянуть, то очень немногие поняли бы, что они видят. Программы написаны на языке, неизвестном для большинства. Данные, введенные в алгоритмы, тоже скрыты и хранятся в отдаленных, тщательно охраняемых центрах. Мало кто знает о том, как собирают эти сведения, для чего они используются и кто имеет к ним доступ. Теперь, когда программы и информация находятся в облачных хранилищах, а не на жестких дисках персональных компьютеров, невозможно узнать, когда меняется работа системы. Приложение, которым все пользовались вчера, сегодня, возможно, стало совсем иным.

Современный мир всегда отличался сложностью. Разбитый на специализированные области разных навыков и знаний, опутанный экономическими и иными системами, он сопротивляется любым попыткам познать его как нечто целое. Но теперь происходит невиданное: начинает скрываться сама эта сложность. Она скрадывается простотой, искусственно созданной на экране, маскируется дружественным пользователю интерфейсом. Мы окружены тем, что политолог Лэнгдон Уиннер назвал «скрытой электронной сложностью», представляя ее так: «Отношения и связи, которые некогда были частью повседневного опыта и проявлялись в непосредственных взаимодействиях между людьми и предметами, теперь окутаны покровом абстракции» [39]. Когда непроницаемая и недоступная пониманию технология становится невидимой, люди должны проявить мудрость и настороженность, так как наступил момент, когда цели и намерения автоматизации начинают вытеснять наши желания и направлять действия. Человек перестает понимать, помогают ли ему компьютерные программы, или они им управляют.

Глава девятая. «Любовь… что рядами на землю уложит луг».

Есть одна стихотворная строчка, к которой я то и дело мысленно возвращаюсь. Я вспоминал ее очень часто, когда работал над рукописью этой книги: «Быль – самый сладкий сон, что увидит труд».

Это предпоследняя строчка одного из ранних и самых лучших сонетов Роберта Фроста «Mowing» («Косьба»).[31] Фрост написал его в начале XX века, будучи еще совсем молодым человеком. Он работал фермером, разводил кур и выращивал яблони на маленьком клочке земли, купленном ему отцом в Дерри (Нью-Гемпшир). То был трудный период в жизни Фроста. Не хватало денег, перспективы были более чем туманны. Не доучившись, он бросил два колледжа – в Дартмуте и Гарварде. Фрост попробовал несколько работ, но ни на одной из них не преуспел. Он болел, по ночам его мучили кошмары. Его первенец умер от холеры в возрасте трех лет. Семейная жизнь складывалась трудно. «Жизнь была жестока ко мне, – вспоминал позднее Фрост, – и часто сбивала меня с толка» [1].

Но именно за эти годы одиночества Фрост сложился и возмужал как писатель и художник. Что-то в крестьянском быту – в долгих однообразных днях, отшельническом труде, близости к природе и безмятежности – воодушевляло и вдохновляло его. Тяжесть труда облегчала тяготы обыденной жизни. «Если я чувствую себя бессмертным, освобожденным от оков времени, то это благодаря пяти или шести годам, проведенным там, – написал позднее Фрост о своей жизни в Дерри. – Мы перестали заводить часы. Наши мысли потеряли связь со временем, так как мы не получали и не читали газет. Мы добились бы такого совершенства в своем затворничестве, если бы заранее его планировали» [2]. В перерывах между сельскохозяйственными работами Фрост смог написать большую часть стихотворений своей первой книги «A Boy’s Will» («Мальчишеское желание»), половину стихов второй книги «К северу от Бостона» и ряд стихотворений, вошедших в следующие тома.

«Косьба» – это величайшее стихотворение того периода жизни Фроста, вошедшее в сборник «Мальчишеское желание». В этом стихотворении Фрост впервые обретает собственный голос: спокойный, простой, но одновременно лукавый и обманчивый. (Чтобы по-настоящему понять Фроста, а заодно и самого себя, надо проявить не только доверие, но и интуицию.) Как и во многих лучших творениях Фроста, «Косьба» загадочна, это почти галлюцинация, проступающая из-под незатейливой картинки: человек косит на лугу траву на сено. Чем больше вчитываешься в стихотворение, тем более глубоким и странным оно кажется:

Тихо у кромки леса. Моя коса Что-то нашептывает сырой земле. О чем ее шепот? Поверьте, не знаю сам. О солнцепеке, может, или о тишине. Что как туманом густым обернула нас И потому-то шепотом, а не вслух. Нет, не послышался звук этот в праздный час, Не снизошел на меня, как чудесный дух. Что больше правды – унизило бы любовь, Ту, что рядами на землю уложит луг, Ни клевера не пощадив, ни чистяков И распугав ярких зеленых змей. Быль – самый сладкий сон, что увидит труд. Луг осеняет шепот косы моей [3].[32]

Мы теперь редко обращаемся к поэзии как к источнику знаний, но здесь мы видим, что острый взгляд поэта замечает больше, чем взгляд ученого. Фрост понял смысл того, что мы теперь именуем «потоком», и суть «телесного познания» задолго до того, как психологи и нейрофизиологи представили эмпирические доказательства существования этих феноменов. Его косарь – не приукрашенный крестьянин, романтическая карикатура на трудящегося человека. Это фермер, человек, занятый тяжелой работой в безветренный жаркий летний день. Он не мечтает о «праздных часах» и «снисхождении чудесного духа». Он весь сосредоточен на своей работе: на ритмичности движений косьбы, на тяжести косы в руках, на ложащейся под ее лезвием траве. Он не ищет большей истины вне труда – труд и есть истина.

«Быль – самый сладкий сон, что увидит труд»

Это очень таинственная строчка. В ней поэт отказывается от какого-то более высокого смысла – смысл этих слов заключается в них самих. Но совершенно ясно, что и в этой строчке, и во всем стихотворении Фрост подчеркивает первостепенную важность действия и в жизни, и в познании. Только через труд, вводящий человека в мир, мы приближаемся к пониманию сути бытия, «были». Это понимание невозможно втиснуть в слова. Это понимание не может быть яснее. Оно – не более чем шепот косы. Чтобы его услышать, надо тесно слиться с его источником. Труд – будь он физическим или умственным – это нечто большее, чем способ сделать какое-то дело. Труд – это способ созерцания, способ увидеть мир лицом к лицу, а не через волшебное стекло. Действие делает восприятие непосредственным, приближает нас к реальным вещам, привязывает к земле, хочет сказать Фрост, как любовь привязывает нас к возлюбленной. Труд указывает нам наше реальное место в мире.

Фрост – поэт труда. В своих стихах он всегда возвращается к тем священным моментам, когда «я» растворяется в мире, как написал он в другом своем стихотворении: «Лишь там, где труд с игрою неделимы, они сполна плоды нам принесут» [4]. Литературный критик Ричард Пуарье в своей книге «The Work of Knowing» («Труд познания») очень отчетливо описал взгляд поэта на сущностную важность тяжелого труда: «Любая тяжелая работа, отражающаяся в его стихах, – косьба или сбор яблок – способна проникнуть в видения, мечты и мифы, составляющие сердцевину реальности, представляющие облеченные в слова формы, понятные тем, кто может читать их с определенной мерой неопределенности и с безразличием к практической ценности. Знание, добытое ценой таких усилий, может быть призрачным и изменчивым, как сон, в отличие от практического приобретения. Это знание не так эфемерно, как осязаемые практические результаты труда, такие как деньги и еда» [5]. Принимаясь за работу, физическую или умственную, в одиночку или группой, люди обычно ставят себе какую-то определенную практическую цель, мысленно видят результат труда – например, стог сена, которым будут кормить скотину. Но только в процессе труда приходят они к еще более глубокому пониманию самих себя. Теперь для них главным становится косьба, а не сено.

Все сказанное мною ни в коем случае не надо расценивать как нападки на материальный прогресс или его отрицание. Фрост отнюдь не романтизирует далекое, не знавшее техники прошлое. Несмотря на то что он с неприязнью относился к людям, которые, по его словам: «Безоглядно полагаются на евангелие современной науки» [6]. Он тем не менее чувствовал свое родство с учеными и изобретателями. Как у поэта, у него был общий дух и общие устремления с прогрессивными деятелями, исследователями тайн земного бытия, извлекающими смысл из материи. «Все они заняты, – как писал Пуарье, – одним делом: расширением человеческой способности мечтать» [7]. Для Фроста величайшей ценностью представлялась способность расширить границы индивидуального знания и открыть новые пути к восприятию, действию и воображению. В длинном стихотворении «Kitty Hawk» («Китти Хок»), написанном на склоне лет, он прославляет полет братьев Райт «в неведомую вышину». Совершив «шаг в бесконечность, братья сделали чувство свободного полета доступным для всех нас. Это был подвиг Прометея. «В этом смысле, – писал Фрост, – братья Райт сделали шаг в бесконечность доступным нашему разуму» [8].

Технология так же важна для познания, как и для производственной деятельности. Человеческое тело в его первозданном состоянии очень немощная штука. Человек слаб, неуклюж, его органы чувств плохо развиты, он медленно считает и плохо запоминает увиденное и услышанное. Он быстро достигает пределов своей работоспособности и выдыхается. Но у тела есть ум, который способен воображать, желать и планировать то, чего тело без ума достичь не может. Противоречие между тем, что может наше тело, и тем, что хочет наш разум, – это источник технологических идей. Разум подстегивает человечество выйти за положенные ему природой пределы и заставляет преобразовывать саму природу. Технология не превращает нас в «постгуманоидов» или «сверхчеловеков», как пишут многие современные писатели и ученые. Она просто делает нас людьми в лучшем смысле этого слова. Способность к созданию технологий заложена в нас от природы. С помощью инструментов мы воплощаем самые смелые наши мечты. Практичная технология может, конечно, отличаться от изощренного искусства, но и то и другое возникает из схожих, истинно человеческих устремлений.

Одна из работ, к которой человеческое тело совершенно непригодно, – это срезание травы. (Можете попробовать, если не верите.) Косцу позволяет выполнять его работу инструмент, которым он владеет, – коса. Косец по необходимости технологически вооружается. Именно инструмент делает человека косцом, а умение косца пользоваться этим инструментом заново воссоздает для него мир. Мир становится местом, где человек может быть косцом и укладывать луг рядами на землю. Эта идея, которая, на первый взгляд, может показаться чистой банальностью, если не тавтологией, указывает тем не менее на стихийность жизни и на формирование самобытности человека.

«Тело – это наше средство постижения мира», – написал французский философ Морис Мерло-Понти в своем шедевре «Феноменология восприятия»[33][9], вышедшем в 1945 году. Физическое строение человека (то, что мы ходим на двух ногах, сохраняя вертикальную осанку; у нас есть пара рук и способность к противопоставлению большого пальца; наши глаза могут смотреть вперед и обладают свойством стереоскопического зрения; мы можем в определенных пределах переносить жару и холод) определяет наше восприятие окружающего, которое предшествует сознанию, а затем помогает формировать картину мира. Мы воспринимаем горы высокими не потому, что они высокие, а потому, что восприятие их формы и высоты определяется нашим ростом. Мы видим в камне оружие, потому что наша рука устроена так, что мы можем схватить камень и бросить его в неприятеля. Восприятие, как и познание, определяется строением тела.

Отсюда следует, что каждый раз, как мы овладеваем новыми дарованиями, мы не только меняем наши способности, но меняем и мир. Океан приглашает в свои объятия пловцов, но не привлекает людей, которые никогда не учились плавать. С каждым новым приобретенным навыком мир начинает предоставлять нам больше возможностей. Мир становится интереснее, и бытие в нем сулит больше вознаграждений. Наверное, именно это имел в виду Спиноза, голландский философ ХVII века, восставший против дуализма Декарта, отделившего разум от тела, когда писал: «Человеческий разум способен воспринять великое множество вещей, и он тем больше на это способен, чем разнообразнее в процессе участвует тело» [10]. Джон Эдвард Хут, профессор физики из Гарвардского университета, подтверждает, что овладение навыками ведет к подлинному возрождению. Десять лет назад вдохновленный умением эскимосских охотников ориентироваться на местности, Хут решил самостоятельно изучить приемы ориентации по природным признакам. За месяцы упорных тренировок он научился «читать» дневное и ночное небо, толковать движение облаков и морских волн, ориентироваться по направлению теней, отбрасываемых деревьями. «Через год таких тренировок, – вспоминает ученый, – на меня наконец снизошло какое-то озарение: мое ви2дение мира заметно изменилось. Солнце и звезды стали выглядеть совершенно по-иному». Обретение способности видеть мир во всем его богатстве за счет первобытного эмпиризма поразило Хута: «Оно было сродни тому, что обозначают как духовное пробуждение» [11].

Технология, позволяя человеку совершать действия, выходящие за пределы его физических возможностей, тоже изменяет восприятие мира и его значимость в наших глазах. Преображающая сила технологии особенно проявляется в орудиях познания – от микроскопа до ускорителя элементарных частиц и от каноэ географа до космического корабля астронавта. Она присутствует и во всех остальных технологических устройствах, включая и те, что мы используем в обыденной жизни. Всякий раз, когда инструмент позволяет нам выявить и культивировать новый талант, мир становится иным, более интересным и сулящим новые, неведомые ранее возможности. К природным возможностям мы добавляем культурные. «Иногда, – писал Мерло-Понти, – невозможно постичь смысл какого-то явления природными средствами тела. Тогда нам приходится конструировать подходящий инструмент, и наше тело с его помощью проецирует представления своего культурного мира» [12]. Ценность хорошо сделанного и адекватно используемого инструмента заключается не только в том, что он делает для нас, но и в том, что он делает с нами. В своих наилучших проявлениях технология открывает перед людьми новые горизонты. Она делает мир более доступным нашему восприятию и соответствующим нашим целям и намерениям, и мы начинаем чувствовать себя в окружающем мире как дома. «Мое тело лучше всего приспосабливается к окружающему, когда органы чувств позволяют представить картину мира с максимальной отчетливостью, – поясняет Мерло-Понти. – И когда на мои целенаправленные механические движения мир отвечает так, как я ожидал. Этот максимум ясности в восприятиях и действиях определяет главную основу жизни, общую среду, в которой сосуществуют мое тело и окружающий мир» [13]. Умело и с умом примененная технология становится чем-то большим, чем средство производства и потребления. Она – средство приобретения опыта, который обогащает и украшает нашу жизнь.

Приглядимся теперь к косе. Это очень простой, но весьма занятный инструмент. Изобретенный за 500 лет до новой эры римлянами или галлами, он состоит из искривленного лезвия, выкованного из железа или стали, прикрепленного к длинному деревянному стержню – косовищу. Приблизительно на середине длины косовища находится выступающая рукоятка, позволяющая работать с ним двумя руками. Коса – это усовершенствованный серп (еще более древнее сельскохозяйственное орудие), у которого приблизительно такое же лезвие было прикреплено к короткой рукоятке. Серп был изобретен еще в каменном веке и сыграл выдающуюся роль в развитии сельского хозяйства, а значит, и всей цивилизации. Коса стала новаторским изобретением, потому что длинное косовище с рукояткой позволило косцу работать, не нагибаясь к земле. Косить траву и злаки стали быстрее, и сельское хозяйство сразу сделало большой шаг вперед.

Коса повысила производительность крестьянского труда, но ее благотворное влияние невозможно измерить только эффективностью. Коса намного удобнее серпа. Вместо того чтобы на коленях или на корточках ползти по полю или лугу, крестьянин мог теперь, работая, идти по земле обычной походкой, используя для косьбы силу торса. Она стала помощницей, но одновременно и орудием более квалифицированной работы. Это – пример модели человечной технологии, инструмента, который увеличивает производительность общественного труда, не лишая человека возможности ощущать и действовать. В стихотворении «Косьба» Фрост отчетливо показывает, как обостряет коса восприятие мира человеком. Человек, работающий косой, тяжко трудится, но он при этом многое и познаёт. Как ни парадоксально это звучит, она является орудием не только телесного, но и умственного труда.

Но не все технологии оказывают такое благоприятное воздействие. Некоторые из них отучают людей от квалифицированных действий. Цифровые технологии компьютерной автоматизации, вместо того чтобы побуждать к проявлению наших талантов, расширять восприятие и возможности, часто производят противоположный эффект. Они разработаны для того, чтобы отрезать человека от реального мира. Это – следствие преобладания технологически-ориентированных программ, ставящих превыше всего легкость работы и ее эффективность. С появлением таких технологий компьютер стал посредником и в нашей личной жизни, его виртуозно запрограммировали на то, чтобы он безраздельно владел нашим вниманием. Многие люди на своем опыте убедились, что компьютерный экран притягивает не только удобствами, но и развлечениями, которые он предлагает [14]. На этом экране всегда что-то происходит, и мы в любой момент можем присоединиться к зрелищу, не прилагая к этому никаких усилий. Однако монитор компьютера, несмотря на все его соблазны и искушения, сужает среду нашего обитания. Быстро сменяющие друг друга, эффектные, чистые и яркие картинки открывают нам лишь тень реального мира.

Все это верно даже в отношении наиболее правдоподобных имитаций пространства, наблюдаемых нами в приложениях виртуальной реальности. Например, в играх, системах автоматизированного проектирования, трехмерных географических картах и устройствах, используемых хирургами и другими специалистами для слежения за действиями роботов. Искусственное изображение пространства может служить адекватным стимулом для зрения и в какой-то мере слуха, но лишает нас ощущений других модальностей: тактильных, обонятельных и вкусовых. Кроме того, во время работы с компьютером наше тело сильно ограничено в подвижности. Проведенные на грызунах исследования, результаты которых были опубликованы в Science в 2013 году, указывают на снижение активности клеток, когда животные ориентируются в генерированных компьютером ландшафтах, по сравнению с активностью этих же клеток, когда подопытные животные перемещаются в реальном мире [15]. «Половина нейронов выключается», – сообщает нейрофизиолог из Калифорнийского университета в Лос-Анджелесе Майянк Мехта. Он считает, что снижение мозговой активности, вероятно, происходит из-за отсутствия в цифровых имитациях пространства [16] «ближних сигналов»: запахов, звуков и шероховатостей, обеспечивающих идентификацию определенного местоположения. Польский философ Альфред Кожибский однажды заметил: «Карта – это не местность, которую она отражает» [17]. Виртуальная картинка пространства тоже не является изображаемой на ней территорией. Входя в стеклянную клетку, мы оставляем на пороге большую часть нашего тела, а это не освобождает, а истощает нас.

Мир вокруг нас теряет свою осмысленность и значимость. Приспосабливаясь к нашему упрощенному окружению, люди перестают воспринимать то, что мир предлагает более пылким его обитателям. Подобно молодым, вооруженным спутниковыми поводырями эскимосам, люди идут по миру вслепую, словно с завязанными глазами. В результате происходит обеднение бытия; природа и культура больше не зовут на свои просторы. «Действие может развиваться только тогда, когда человек сталкивается с миром и преодолевает сопротивление окружающей среды, – писал Джон Дьюи. – Среда, которая всегда и везде потворствует быстрому и необременительному исполнению всех желаний и побуждений, покончит с ростом и развитием с такой же непреложностью, с какой враждебно настроенный человек будет все портить и разрушать. Ничем не сдерживаемое побуждение потащит за собой людей, лишая их способности мыслить и испытывать эмоции» [18].

Наше время – это эпоха материального комфорта и технологических чудес, но одновременно и эпоха отсутствия целей и моральной подавленности. В течение первого десятилетия XXI века число американцев, употребляющих по предписанию врачей антидепрессанты, выросло на четверть. Эти лекарства теперь принимает один из пяти взрослых жителей США [19]. За те же десять лет, по данным центров по контролю и предупреждению заболеваний, число самоубийств среди американцев среднего возраста возросло почти на 30% [20]. У 10% младших школьников и у 20% учащихся старших классов в США стоит диагноз синдрома дефицита внимания с гиперактивностью, и одна треть таких детей принимает в связи с этим заболеванием риталин или аддерал [21]. Причины нашего недовольства жизнью разнообразны, многочисленны и пока не поняты. Однако одной из причин может быть то, что безбедное существование превратило поле нашей жизни, как выражался Мерло-Понти, в выжженную пустыню. Лекарства, притупляющие чувствительность нервной системы, подавляют живое восприятие действительности и спрессовывают нашу личность до размеров, соответствующих ограниченности нашего виртуального мирка.

Сонет Фроста, помимо всего прочего, содержит произнесенное шепотом предостережение об этических угрозах технологии. Крестьянской косе присуща определенная жестокость. Она, не раздумывая, срезает и нежные белые ятрышники вместе с травой.[34] Лезвие косы пугает мелких животных, например яркую зеленую змею. Если технология воплощает наши мечты, то она же воплощает и другие, менее приятные качества нашей сущности: волю к власти, надменность и черствость. Позже Фрост вернулся к этой теме в следующем стихотворении о косьбе – «Тhе Tuft of Flowers» («Горстка цветов»). Рассказчик идет по скошенному лугу и, следя глазами за полетом бабочки, вдруг видит среди скошенной травы «цветов рядок», который «коса оберегла»:

Любил косец цветы, но в ранний час Оставил он цвести их не для нас,
Не выразить, что думал я о нем, Но счастье лилось через край тем днем [22].

Фрост с характерной для него деликатностью говорит нам, что инструмент – это не просто помощник в работе. Он всегда предполагает нравственный выбор, и его применение влечет за собой моральные последствия. От нас как от пользователей и изготовителей орудий зависит, мудро ли мы будем направлять их холодные клинки. Работа с инструментами требует бдительности и доброты.

Косой до сих пор пользуются во многих мелких фермерских хозяйствах во всех частях света. Но в крупных хозяйствах ей уже нет места – в промышленном сельскохозяйственном производстве, как и на современных фабриках, в домах и учреждениях, появились более сложные и эффективные орудия, оборудование и инструменты. Молотилка изобретена в восьмидесятые годы XVIII века, механическая жатка появилась в 1835 году, сенной пресс придумали спустя несколько лет, а уборочный комбайн начали производить серийно в конце XIX века. Во все последующие десятилетия темп технологического развития лишь ускорялся, и сегодня эта тенденция подошла к своему логическому завершению – к компьютеризации сельского хозяйства. Работа на земле, которую Томас Джефферсон считал самым благородным в мире занятием, все больше и больше перекладывается на плечи машин. Рабочие руки заменяются «автоматическими тракторами» и другими роботами, которые, используя датчики, спутниковые сигналы и программное обеспечение, сеют зерно, удобряют и пропалывают почву, собирают и обрабатывают урожай, доят коров и ухаживают за скотиной [23]. Разрабатываются роботы-пастухи, которые скоро начнут гонять стада на пастбища. Если коса порой и прошелестит где-то на промышленной ферме, то ее все равно никто не услышит.

Сама конструкция ручных инструментов заставляет нас брать на себя ответственность за их применение. Поскольку мы рассматриваем такие орудия как продолжение нашего тела, мы просто вынуждены делать во время работы тот или иной этический выбор. Не коса, а косарь решает, срезать красивый цветок или пощадить его. По мере того как мы набираемся опыта во владении инструментом, возрастает и чувство ответственности за его правильное использование. Новичок может ощущать косу как инородное тело в руках; у опытного косца инструмент и руки превращаются в одно целое. Это ощущение физического и этического единства не пропадает по мере усложнения техники. В рассказе о своем перелете через Атлантику в одиночку в 1927 году Чарльз Линдберг говорил о самолете и себе как о едином целом: «Мы совершили этот перелет через океан, а не я или он» [24]. Самолет – это сложнейший механизм, состоящий из множества деталей, но для квалифицированного пилота он все равно становится подобием ручного инструмента. «Любовь, что рядами на землю уложит луг» – это та же любовь, что разгоняет облака перед человеком, сидящим за штурвалом самолета.

Компьютерная автоматизация ослабляет связь между орудием и работником не вследствие своей сложности, а потому, что почти ничего от него не требует. Работа автоматизированной системы скрыта от глаз, зашифрованная компьютерными кодами. Система сопротивляется любой попытке оператора проникнуть за этот барьер. Работа на компьютере не требует утомительного обучения и высокой квалификации. Автоматизация производит на людей анестезирующий, наркотический эффект. Мы больше не ощущаем наши инструменты как части тела. В конструктивной, вышедшей в 1960 году статье «Man-Computer Symbiosis» («Симбиоз человека и компьютера») психолог и инженер Дж. Ликлидер очень хорошо описал сдвиг в нашем отношении к технологии. «В ранних системах человек-машина человек проявлял инициативу, задавал направление, осуществлял интеграцию работы и определял критерии. Механические части машин были лишь продолжением сначала человеческой руки, а потом глаза. Внедрение компьютеров решительно изменило все. “Механическое продолжение” привело к вытеснению человека и автоматизации, в которой не машина находится на подхвате у человека, а человек – на подхвате у машины» [25]. Чем глубже проникает автоматизация в жизнь человека, тем больше поводов рассматривать технологию как неумолимую, безжалостную и чужеродную силу, на которую мы не способны оказать никакого влияния, не говоря уж о том, чтобы управлять ею. Попытки что-то изменить представляются нам тщетными.

Если человек безропотно примет эту подчиненную роль – что вполне объяснимо и понятно, – то уклонится от ответственности за ход технического и социального прогресса. Да, в автоматическом комбайне за штурвалом никого нет, но этот комбайн в такой же мере произведение сознательной человеческой мысли, что и скромная коса. Человек не включает такие машины в свое сознание, как делает это с ручными инструментами, но с точки зрения этики они тем не менее являются продолжением его воли. Их намерения – это намерения человека. Если робот пугает (или, еще хуже, убивает) яркую зеленую змею, то виноват в этом не он. По мере того как компьютерные системы и программные приложения играют все большую роль в организации жизни человека и окружающего мира, возрастает наша обязанность строже подходить к решениям об использовании автоматизации.

Если это звучит наивно и беспомощно, то только потому, что избран неверный подход. Взаимодействие человека с высокими технологиями складывается не как отношения тела и его части, не как отношения братьев, а как отношения хозяина и раба. Эта идея отнюдь не нова. Она возникла на заре западной философской мысли уже в древних Афинах [26]. Аристотель, обсуждая устройство домохозяйства в начальных главах своей «Политики», утверждал, что рабы и орудия суть одно и то же, ибо первые работают как «одушевленные орудия», а вторые – как «неодушевленные орудия», равно подчиняясь хозяину дома. Аристотель говорил, что если бы неодушевленные орудия вдруг стали бы одушевленными, то ими можно было бы заменить рабов. «Существует только одно условие, при котором мы можем вообразить себе управляющих, не нуждающихся в подчиненных, и хозяев, не нуждающихся в рабах, – размышлял философ, видимо, предвосхищая появление компьютерной автоматики и машинного обучения. – Это условие заключается в том, чтобы каждое [неодушевленное] орудие могло самостоятельно выполнять свою работу либо по слову команды, либо по собственному умственному разумению. …Это было бы то же самое, как, если бы челнок сам начал ткать, а плектр[35] играть на арфе» [27].

С тех пор мышление человека окрашено представлением о том, что орудия – это рабы, что является воплощением вековой мечты людей избавиться от тяжелого утомительного труда, о которой говорили многие мыслители от Маркса до Уайльда и Кейнса. Эта же мечта сквозит в рассуждениях как технофилов, так и технофобов. «Уайльд был прав, – писал в 2013 году в своей книге “To Save Everything: Click Here” (“Сохранить все: щелкните здесь”) критик технологии Евгений Морозов, – механическое рабство – это залог освобождения человека» [28]. «Скоро у каждого из нас будет на посылках раб-робот, – заявил в журнале Wired Кевин Келли, яростный поборник автоматизации, в том же 2013 году. – Эти роботы станут делать ту работу, которую приходилось выполнять людям. Они справятся с ней намного лучше нас и освободят человека для поисков новых задач, решение которых позволит ему лучше понять самого себя» [29]. Кевин Драм, тоже в 2013 году, объявил: «Нас ожидает обслуживаемый роботами рай отдыха и соблазнов». «К 2040 году, – предрекает Драм, – наши умные, надежные и покорные роботы-рабы, которые никогда не устают, не злятся и не ошибаются, избавят нас от трудов и доставят в совершенный Эдем. Мы будем заниматься тем, чем хотим, в свое удовольствие – учиться или играть в компьютерные игры. Это будет зависеть только от нас» [30].

При смене ролей та же метафора способна привести общество в ужас. Впадая в зависимость от наших высокотехнологичных рабов, мы сами становимся рабами. С XVIII века критики общественных институтов изображали механизированные фабрики как средство порабощения работников. «Массы рабочих, – писали Маркс и Энгельс в “Манифесте коммунистической партии”, – ежедневно и ежечасно порабощаются машинами» [31]. Сегодня люди все время жалуются, что чувствуют себя рабами своих программных приложений и портативных электронных устройств. «Умные устройства иногда делают нас сильнее, – отмечал The Economist в статье “Рабы смартфонов”, опубликованной в 2012 году. – Но для большинства людей эти слуги на наших глазах становятся хозяевами» [32]. Еще более драматично выглядит фантастическая идея восстания роботов – компьютеры, обладающие искусственным интеллектом, трансформируют себя из рабов в хозяев. Вот уже в течение ста лет этот сюжет кочует из одной антиутопии в другую. Само слово робот, придуманное в 1920 году писателем-фантастом, происходит от чешского слова robota, означающего «рабский труд».

Метафора хозяина и раба – мало того что она является морально ущербной – искажает верный взгляд на технологию. Эта метафора усиливает ощущение, что орудия труда отделены от человека, инструменты работают самостоятельно, независимо от нашей воли. Люди начинают судить о технологии не по тому, что она позволяет делать, а по ее качествам как товара: по интеллектуальности, эффективности, новизне и стилю. Мы выбираем инструмент, потому что он или новый, или красивый, или быстродействующий, а не потому, что он расширяет наш мир, опыт и восприятие.

В более широком смысле эта метафора побуждает общество придерживаться упрощенного и фаталистического взгляда на технологию и прогресс. Если принять, что орудия действуют как рабы, выступающие от нашего имени и всегда в наших интересах, то трудно установить границы проникновения технологии в человеческую жизнь. Выходит, что каждый шаг вперед дарит нам большую свободу и приближает если и не к утопии, то, во всяком случае, к лучшему из возможных миров. Производители успокаивают себя тем, что любую оплошность можно будет исправить следующей инновацией. Если пустить прогресс на самотек, то он сам найдет средства решения проблем, которые он же и создает. «Технология не нейтральна, она является удивительно позитивной силой, движущей человеческую культуру, – пишет Келли, выражая корыстную идеологию Кремниевой долины, приобретшую за последние годы большую популярность. – Мы обременены моральными обязательствами развивать технологию и дальше» [33]. Это чувство морального долга только усиливается по мере развития автоматизации, обеспечивающей нас самыми одушевленными инструментами – рабами, которые, как предвидел еще Аристотель, освободят нас от тягот труда.

Вера в технологию как в благотворную, самоисцеляющуюся и автономную силу очень соблазнительна. Она позволяет нам сохранять оптимизм в отношении будущего, так как освобождает от ответственности за него. Особенно хорошо она соответствует интересам тех, кто сколотил сказочные состояния на трудосберегающих и концентрирующих прибыль эффектах автоматизированных систем и управляющих ими компьютеров. Эта вера помогает новым плутократам сочинять героические сюжеты, в которых они играют главные роли: конечно же, сокращение рабочих мест – это несчастье, но это неизбежное и не такое уж большое зло на пути полного освобождения рода человеческого армиями компьютерных рабов, создаваемых нашими филантропическими предприятиями. Правда, Петер Тиль, успешный предприниматель и инвестор, ставший одним из выдающихся мыслителей Кремниевой долины, считает само собой разумеющимся, что революция в производстве роботов в основном будет приводить лишь к увеличению безработицы. Но тут же Тиль спешит добавить: «Эта же революция освободит массу людей для других полезных занятий» [34]. Понятно, что слово «освобождение» звучит слаще слова «увольнение».

От этого грандиозного футуризма за милю отдает черствостью и бессердечием. История показывает, что высокопарная риторика о технологиях, освобождающих работников, есть не более чем замаскированное презрение к труду. Надо быть слишком легковерным человеком, чтобы представить себе сегодняшних магнатов с их либертарианскими[36] устремлениями и сопротивлением социальной политике правительств, соглашающимися на грандиозное перераспределение доходов, которое потребуется для достойного существования огромной армии безработных. Даже если общество найдет колдовское заклинание или волшебный алгоритм, чтобы хоть как-то уравновесить развращающие плоды автоматизации, есть все основания сомневаться, что за ней последует нечто, хотя бы отдаленно напоминающее «экономическое благоденствие» Кейнса. В одном пророческом рассуждении в «The Human Condition» («Условия бытия человека на земле») Ханна Арендт отметила, что если удастся воплотить в жизнь утопию автоматизации, то результат будет напоминать не рай, а скверный жестокий анекдот. «Все современное общество, – писала Арендт, – организовано как трудящееся общество, в котором люди сначала зарабатывают деньги, а потом их тратят, и именно этим вознаграждением за труд люди измеряют свою ценность для общества. Бо2льшая часть возвышенных и уважаемых в прошлом занятий была оттеснена на обочину и забыта, остались лишь единицы тех, кто оценивает свою деятельность по результатам, а не по деньгам, которые он за нее получает. Если технология и осуществит заветную мечту человечества об избавлении от тягот и хлопот труда, то в весьма извращенном виде. Она еще глубже погрузит нас в социальный дискомфорт. Автоматизация столкнет нас с перспективой общества, в котором много безработных. Трудно придумать что-то хуже такой ситуации» [35]. Ханна Арендт поняла, что утопизм – это всего лишь форма неверного понятия о потребностях.

Социальные и экономические проблемы, вызываемые или усугубляемые автоматизацией, невозможно решить дополнительными и более изощренными программами. Наши неодушевленные рабы не отвезут нас в комфортную и гармоничную Утопию. Если общество хочет решить или, по крайней мере, смягчить эту проблему, то ему придется разбираться во всей ее сложности. Чтобы обеспечить благополучие общества в будущем, нам, вероятно, придется ограничить автоматизацию. Возможно, придется пересмотреть взгляд на прогресс, поставив на первое место социальное и личное процветание, а не технологические усовершенствования. Общество должно свыкнуться с немыслимой, на первый взгляд, идеей: поставить человека выше машины.

В 1986 году канадский этнограф Ричард Кул написал письмо философу Михаю Чиксентмихайи. Кул читал ранние работы профессора о потоке, и они напомнили ему о его исследованиях жизни индейского племени шушвап, живущего в долине реки Томпсона на территории нынешней Британской Колумбии. «Территория, на которой живут шушвапы – благодатная и изобильная земля, – писал Кул. – В ней много рыбы и дичи, съедобных корений и ягод. Шушвапам не надо кочевать, чтобы выжить. Они строят деревни и пользуются эффективными технологиями и ресурсами окружающей среды. Сами индейцы считают свою жизнь счастливой и богатой. Но старейшины племени полагают, что в этом комфорте таится большая опасность. Мир становится предсказуемым, и мы лишаемся трудностей и проблем. Но без трудностей жизнь не имеет смысла. …Поэтому каждые тридцать лет шушвапы, ведомые своими старейшинами, снимаются с места, оставляют дома, покидают деревни и переселяются в неведомую глушь. …Все население деревни отправляется в другой район земли шушвапов. На новом месте их ждут трудности и проблемы. Надо искать ручьи, следы диких животных, заросли лекарственных трав и корений. Жизнь снова приобретает смысл. Люди чувствуют себя помолодевшими и счастливыми» [36].

Э. Мид, архитектор из Колорадо, сказал мне удивительную вещь, когда я разговаривал с ним о приобретении его фирмой систем автоматизированного проектирования (CAD). Самое трудное состояло не в том, чтобы освоить системы. Это как раз было очень легко. Самое трудное – это научиться ими не пользоваться. Быстрота, простота и потрясающая новизна CAD придают им колдовской соблазн. Первым желанием архитекторов фирмы было броситься к компьютерам и начать проектировать. Но когда первое очарование прошло и они пристально посмотрели на плоды своего труда, то поняли, что автоматизированные программы душат творчество. Они подрывают эстетические и функциональные возможности, хотя и значительно ускоряют процесс изготовления проекта. Когда Мид и его коллеги критически оценили эффекты автоматизации, они стали сопротивляться технологическим искушениям и прибегали к компьютерам на все более поздних стадиях проекта. В начале работы архитекторы снова пользовались старыми добрыми блокнотами, миллиметровкой, картонными и пенопластовыми моделями. «В конечном итоге эта идея оказалась блестящей, – подытожил свой рассказ Мид. – Конечно, компьютер удобен, но это удобство может оказаться опасным. Если отнестись к компьютеру некритично и необдуманно, то можно упустить из вида очень важные вещи. …Надо глубоко вникнуть в возможности инструмента, чтобы он не стал тобой манипулировать».

Приблизительно за год до беседы с Мидом – как раз когда я начал работать над этой книгой – мне довелось в кампусе одного колледжа встретиться с фотографом, который должен был сделать фоторепортаж о жизни этого учебного заведения. Он стоял под деревом, ожидая, когда ветер разгонит некстати набежавшие тучи. Я сразу заметил, что рядом с фотографом стояла старомодная фотокамера на большой тяжелой треноге. Она выглядела настолько абсурдно, что я не выдержал и спросил его, почему он до сих пор пользуется пленочным фотоаппаратом. Фотограф рассказал мне, что за несколько лет до этого начал с восторгом заниматься цифровой фотографией. Он сменил пленочную камеру и темную комнату на цифровые аппараты и самые современные программы обработки цифровых изображений. Однако через несколько месяцев он вернулся к пленочным фотоаппаратам. Дело было не в том, что его разочаровало качество цифровых снимков или он остался недоволен оборудованием. Нет, изменилось его отношение к работе отнюдь не в лучшую сторону.

Трудности, связанные с процессом съемки, проявлением пленки и печатью изображений, – дороговизна, кропотливый труд и неопределенность результата – заставляли фотографа работать медленно, обдуманно, с чувством материала и собственного участия в съемке. Прежде чем сделать снимок, он тщательно продумывал композицию, учитывая освещение, цвет, фон и формы объектов. Он терпеливо ждал нужного момента, прежде чем нажать кнопку затвора. С цифровой камерой он мог работать быстрее. Можно было сделать массу снимков – один за другим, а потом с помощью компьютера отобрать самые удачные кадры и заняться ими. Над композицией фотограф теперь работал после съемок. Поначалу новые возможности опьянили его. Но результаты оказались обескураживающими. Пленка, как выяснилось, дисциплинировала восприятие, позволяя делать богатые, искусные и трогательные фотографии. Пленка требовала больше усилий, и фотограф вернулся к старой технологии.

Ни архитектор, ни фотограф не сказали ни одного худого слова о компьютерах. Ни один из них не говорил о каких-то абстрактных тревогах в связи с утратой действия или самостоятельности. Никто из них не был Дон-Кихотом, воюющим с ветряными мельницами. Они просто выбирали наилучший инструмент для любимой работы, побуждающий выполнять ее с душой и любовью. Они поняли, что новейший, полностью автоматизированный и очень удобный инструмент – не всегда самый лучший. Я уверен, что они бы сильно обиделись, если бы их сравнили с луддитами, но их решение пренебречь новейшими технологиями (во всяком случае, на некоторых этапах работы) было восстанием, очень похожим на бунт английских ремесленников, только без ярости и насилия. Подобно луддитам, они поняли, что технологические решения затрагивают способы работы и образ жизни, и предпочли взять судьбу в свои руки, не доверив ее другим и не уступив давлению прогресса. Они выдержали паузу и критически обдумали новую технологию.

Наше общество очень подозрительно относится к таким поступкам. По невежеству, из страха или лени мы превратили луддитов в карикатуру, в символ отсталости и мракобесия. Мы считаем, что всякий, кто отвергает новый инструмент, предпочитая ему старый, виновен в ветхозаветной ностальгии, отдает первенство сантиментам, теряя способность мыслить рационально. Но в действительности сентиментальный обман – это считать, будто новая вещь всегда служит нашим целям лучше, чем старая. Это взгляд ребенка, наивного и внушаемого. Качество инструмента зависит от чего угодно, но не исключительно от его новизны. Значение здесь имеет одно – расширяет он наши возможности, является ли он продолжением нас самих или нет. Нельзя уступать выбор образа жизни великой абстракции под названием прогресс.

Технология всегда бросает людям вызов, заставляет их задуматься над важными вещами, спросить себя: что значит быть человеком? Автоматизация, проникая в самые интимные сферы нашего бытия, только повышает ставки. Мы можем дать потоку технологии захлестнуть и унести нас или можем ему сопротивляться. Это не значит полностью его отвергать, но необходимо поставить изобретение на надлежащее ему место, приземлить прогресс. «Сопротивление бессмысленно» – гласит беззаботное клише, столь любимое технократами. Но это неправда, сопротивление никогда не бывает бессмысленным.

Если источником нашей жизненной силы является, как говорил Эмерсон, «активная душа» [37], то наша святая обязанность – сопротивление любой силе (государственной, коммерческой или технологической), которая способна ослабить или привести в смятение душу.

У нас есть одна замечательная черта, которую можно легко упустить из вида: каждый раз, сталкиваясь с реальностью, мы начинаем глубже понимать мир и становимся его частью. Борясь с трудностями, мы, возможно, поступаем так, предвкушая успешное завершение наших трудов, но, как заметил еще Фрост, именно труд (средство) делает нас людьми. Автоматизация отрывает цель от средства. С помощью автоматизации мы легко получаем результат, но это отрезает нас от процесса познания. Мы сталкиваемся с тем же экзистенциальным вопросом, что и индейцы племени шушвап: заключается ли наша сущность в том, чего мы достигли сами, или мы довольны удовлетворенными за нас желаниями?

Все это звучит очень серьезно, но, на самом деле, наша цель – радость. Активная душа – это легкая душа. Снова сделав инструменты частью самих себя, орудиями приобретения опыта, а не голым средством производства, мы сможем радоваться свободе, которую настоящая человечная технология приносит нам, открывая мир. Это та свобода, которую испытывали Лоуренс Сперри и Эмиль Кашен, когда весенним днем в Париже, сто лет назад, выбрались на крылья своего оснащенного гироскопом биплана и, чувствуя страх, смешанный с восторгом, пролетели над трибунами, видя устремленные в небо восхищенные взоры зрителей.

Примечания.

Введение. Готовность к действию.

1. Federal Aviation Administration. SAFO 13002, 2011. January 4. UPL: http://www. faa.gov/other_visit/aviation_industry/airline_operators/airline_safety/safo/all_

Safos/media/2013/SAFO13002.pdf.

Глава первая. Пассажиры.

1. Sebastian Thrun. What We’re Driving At. Google Official Blog, 2010. October 9. UPL: http://www.googleblog.blogspot.com/2010/10/what-were-driving-at.html. См. также. Tom Vanderbilt. Let the Robot Drive: The Autonomous Car of the Future Is Here, 2012. February.

2. Daniel DeBolt. Google’s Self-Driving Car in Five-Car Crash // Mountain View Voice, 2011. August 8.

3. Richard Waters and Henry Foy. Tesla Moves Ahead of Google in Race to Build Self-Driving Cars // Financial Times, 2013. September 17. UPL: http://www. ft.com/intl/cms/s/0/70d26288–1faf-11e3–8861–00144feab7de.html.

4. Frank Levy and Richard J. Murnane. The New Division of Labor: How Computers Are Creating the Next Job Market // Princeton University Press, 2004. 20.

5. Tom A. Schweizer et al. Brain Activity during Driving with Distraction: An Immersive fMRI Study // Frontiers in Human Neuroscience, 2013. February 28. UPL: http://www.frontiersin.org/Human_Neuroscience/ 10.3389/fnhum.2013.00053/full.

6. N. Katherine Hayles. How We Think: Digital Media and Contemporary Technogenesis // University of Chicago Press, 2012. 2.

7. Mihaly Csikszentmihalyi and Judith LeFevre. Optimal Experience in Work and Leisure // Journal of Personality and Social Psychology, 1989. №.5. Р. 815–822.

8. Daniel T. Gilbert and Timothy D. Wilson. Miswanting: Some Problems in the Forecasting of Future Affective States. В книге: Joseph P. Forgas Feeling and Thinking: The Role of Affect in Social Cognition //U.K.: Cambridge University Press, 2000. Р. 179.

9. Csikszentmihalyi and LeFevre. Optimal Experience in Work and Leisure.

10. Цитируется по: John Geirland. Go with the Flow // Wired, 1996. September.

11. Mihaly Csikszentmihalyi. Flow: The Psychology of Optimal Experience. N. Y.: Harper, 1991. Р. 157–162.

Глава вторая. Робот у ворот.

1. R.H. Macmillan. Automation: Friend or Foe? // Cambridge University Press. Cambridge, U.K, 1956. Р. 1.

2. Там же. Р. 91.

3. Там же. Р. 1–6. The emphasis is Macmillan’s.

4. Там же. Р. 92.

5. George B. Dyson. Darwin among the Machines: The Evolution of Global Intelligence // Reading, Mass.: Addison-Wesley, 1997.

6. Bertrand Russell. Machines and the Emotions // Sceptical Essays London: Routledge, 2004. Р. 64.

7. Adam Smith. The Wealth of Nations. N. Y.: Modern Library, 2000. Р. 7–10.

8. Там же. Р. 408.

9. Malcolm I. Thomis. The Luddites: Machine-Breaking in Regency England Newton Abbot, U.K.: David&Charles, 1970, Р. 50. См. также: E.J. Hobsbawm. The Machine Breakers // Past and Present 1, 1952. № 1. Р. 57–70.

10. Karl Marx. Capital: A Critique of Political Economy, 1912. Vol. 1 Chicago: Charles H. Kerr. Р. 461–462.

11. Karl Marx. Speech at the Anniversary of the People’s Paper. 1856. April 14. UPL: http://www. marxists.org/archive/marx/works/1856/04/14.htm.

12. Nick Dyer-Witheford. Cyber-Marx: Cycles and Circuits of Struggle in High Technology Capitalism // University of Illinois Press, 1999. Р. 40.

13. Karl Marx. Speech at the Anniversary of the People’s Paper.

14. Цитируется по книге: Dyer-Witheford. Cyber-Marx. Р. 41. В знаменитом пассаже из «Немецкой идеологии», опубликованной в 1846 году, Маркс предсказывает, что наступит день, когда он будет волен «делать одно сегодня, а другое завтра; охотиться утром, ловить рыбу днем, пасти скот вечером, а после обеда писать критические статьи, не будучи, при этом, ни охотником, ни рыболовом, ни пастухом, ни критиком». Наверное никогда еще странные желания не высказывались таким напыщенным слогом.

15. E. Levasseur. The Concentration of Industry, and Machinery in the United States // Publications of the American Academy of Political and Social Science. 1897. № 193. Р. 178–197.

16. Oscar Wilde. The Soul of Man under Socialism. // The Collected Works of Oscar Wilde. Ware, U.K.: Wordsworth Editions, 2007. Р. 1051.

17. Цитируется по книге: Amy Sue Bix. Inventing Ourselves out of Jobs? America’s Debate over Technological Unemployment, 1929–1981 // Johns Hopkins University Press. Baltimore. 2000. Р. 117–118.

18. Там же. Р. 50.

19. Там же. Р. 55.

20. John Maynard Keynes. Economic Possibilities for Our Grandchildren // Essays in Persuasion. N. Y.: W.W. Norton. 1963. Р. 358–373.

21. John F. Kennedy. Remarks at the Wheeling Stadium // John F. Kennedy: Containing the Public Messages, Speeches, and Statements of the President. Washington, D.C.: U.S. Government Printing Office, 1962. Р. 721.

22. Stanley Aronowitz and William DiFazio. The Jobless Future: Sci-Tech and the Dogma of Work. Minneapolis: University of Minnesota Press, 1994. Р. 14.

23. Jeremy Rifkin. The End of Work: The Decline of the Global Labor Force and the Dawn of the Post-Market Era. N. Y.: Putnam, 1995. xv – xviii.

24. Erik Brynjolfsson and Andrew McAfee. Race against the Machine: How the Digital Revolution Is Accelerating Innovation, Driving Productivity, and Irreversibly Transforming Employment and the Economy // Lexington, Mass.: Digital Frontier Press, 2011. Более подробно Брюньольфссон и Макафи развивают свою аргументацию в: The Second Machine Age: Work, Progress, and Prosperity in a Time of Brilliant Technologies. N. Y.: W.W. Norton, 2014.

25. March of the Machines // 60 Minutes. CBS, 2013. January 13. UPL: http://www. cbsnews.com/8301–18560_162–57563618/are-robots-hurting-job-growth/.

26. Bernard Condon and Paul Wiseman. Recession, Tech Kill Middle-Class Jobs // AP, 2013. January 23. UPL: http://www. bigstory.ap.org/article/ap-impactrecession-tech-kill-middle-class-jobs.

27. Paul Wiseman and Bernard Condon. Will Smart Machines Create a World without Work? // AP, 2013. January 25. UPL: http://www.bigstory.ap.org/article/will-smart-machines-create-world-without-work.

28. Michael Spence. Technology and the Unemployment Challenge // Project Syndicate, 2013. January 15. UPL: http://www. project-syndicate.org/commentary/global-supply-chains-on-the-move-by-michael-spence.

29. См. также: Timothy Aeppel. Man vs. Machine, a Jobless Recovery // Wall Street Journal, 2012. January 17.

30. Цитируется по книге: Thomas B. Edsall. The Hollowing Out // Campaign Stops (blog), New York Times, 2012. July 8. UPL: http://www. campaignstops.blogs.nytimes.com/2012/07/08/the-future-of-joblessness/.

31. См. также: Manufacturing Output, Productivity and Employment Implications / ed. Lawrence V. Kenton. N. Y.: Nova Science, 2005; Judith Ba– nister and George Cook. China’s Employment and Compensation Costs in Manufacturing through 2008 // Monthly Labor Review, 2011. March.

32. Tyler Cowen. What Export-Oriented America Means // American Interest. 2012. May/June.

33. Robert Skidelsky. The Rise of the Robots // Project Syndicate, 2013. February 19. UPL: http://www. project-syndicate.org/commentary/the-future-of-work-ina-world-of-automation-by-robert-skidelsky.

34. Там же.

35. Chrystia Freeland. China, Technology and the U.S. Middle Class // Financial Times, 2013. February 15.

36. Paul Krugman. Is Growth Over? // The Conscience of a Liberal (blog), New York Times, 2012. December 26. UPL: http://www. krugman.blogs.nytimes.com/2012/12/26/is-growth-over/.

37. James R. Bright. Automation and Management. Cambridge, Mass: Harvard University, 1958. Р. 4–5.

38. Там же. Р. 5.

39. Там же. Р. 4, 6. Курсив Брайта. Он прировнял определение автоматизации к определению механизации, данное Зигфридом Гидионом: «Механизация – это энергетическое средство, такое же, как вода, огонь или свет. Механизация слепа и сама по себе работать не может. Подобно силам природы, механизация зависит от способности человека ее использовать, защитив себя от связанных с нею опасностей. Поскольку механизация целиком и полностью возникает в мозгу человека, постольку она, в первую очередь, опасна для него самого». Giedion, Mechanization Takes Command. N. Y.: Oxford University Press, 1948. Р. 714.

40. David A. Mindell. Between Human and Machine: Feedback, Control, and Computing before Cybernetics // Baltimore: Johns Hopkins University Press, 2002. Р. 247.

41. Stuart Bennett. A History of Control Engineering, 1800–1930. London: Peter Peregrinus, 1979. Р. 99–100.

42. Norbert Wiener. The Human Use of Human Beings: Cybernetics and Society. N. Y.: Da Capo, 1954. Р. 153.

43. Eric W. Leaver and J.J. Brown. Machines without Men // Fortune, 1946. November. См. также: David F. Noble. Forces of Production: A Social History of Industrial Automation. N. Y.: Alfred A. Knopf, 1984. Р. 67–71.

44. Noble. Forces of Production. Р. 234.

45. Там же. Р. 21–40.

46. Wiener. Human Use of Human Beings. Р. 148–162.

47. По книге: Flo Conway and Jim Siegelman. Dark Hero of the Information Age: In Search of Norbert Wiener, the Father of Cybernetics. N. Y.: Basic Books, 2005. Р. 251.

48. Marc Andreessen. Why Software Is Eating the World // Wall Street Journal, 2011. August 20.

Глава третья. На автопилоте.

1. Рассказ о катастрофе «Continental Connection» взят из доклада Национального комитета по происшествиям на транспорте AAR-10/01 // Loss of Control on Approach, Colgan Air, Inc., Operating as Continental Connection Flight 3407, Bombardier DHC 8–400, N200WQ, Clarence. N. Y.: 2009. February 12. Washington, D.C.: NTSB, 2010. UPL: http://www.ntsb.gov/doclib/reports/2010/aar1001.pdf. См. также: Matthew L. Wald. Pilots Chatted in Moments before Buffalo Crash // New York Times, 2009. May 12.

2. Associated Press Inquiry in New York Air Crash Points to Crew Error // Los Angeles Times, 2009. May 13.

3. Рассказ о катастрофе самолета Air France взят, в основном из: BEA. Final Report: On the Accident on 1st June 2009 to the Airbus A330–203, Registered F-GZCP, Operated by Air France, Flight AF447. Rio de Janeiro to Paris (официальный английский перевод). 2012. July 27. UPL: http://www.bea.aero /docspa/2009/f-cp090601.en/pdf/f-cp090601.en.pdf. См. также: Jeff Wise. What Really Happened Aboard Air France 447 // Popular Mechanics. 2011. December 6. UPL: http://www. popularmechanics.com/technology/aviation/crashes/what-really-hap– pened-aboard-air-france-447–6611877.

4. BEA, Final Report. Р. 199.

5. William Scheck. Lawrence Sperry: Genius on Autopilot // Aviation History, 2004. November; Dave Higdon. Used Correctly, Autopilots Offer Second-Pilot Safety Benefits. // Avionics News. 2010. May. George the Autopilot // Historic Wings, 2012. August 30. UPL: http://www.fly.historicwings.com/2012/08/george-the-autopilot/.

6. Now – The Automatic Pilot // Popular Science Monthly, 1930. February.

7. Post’s Automatic Pilot // New York Times. 1933. July 24.

8. James M. Gillespie. We Flew the Atlantic ‘No Hands // Popular Science, 1947. December.

9. Anonymous. Automatic Control // Flight, 1947. October 9.

10. Более подробно о работе NASA см.: Lane E. Wallace. Airborne Trailblazer: Two Decades with NASA Langley’s 737 Flying Laboratory. Washington, D.C.: NASA History Office, 1994.

11. William Langewiesche. Fly by Wire: The Geese, the Glide, the “Miracle” on The Hudson. N. Y.: Farrar, Straus&Giroux, 2009. Р. 103.

12. Antoine de Saint-Ехирйгу. Wind, Sand and Stars. N. Y.: Reynal&Hitchcock, 1939. Р. 20.

13. Don Harris. Human Performance on the Flight Deck // Surrey, U.K.: Ashgate, 2011. Р. 221.

14. How Does Automation Affect Airline Safety? // Flight Safety Foundation, 2012. July 3. UPL: http://www. flightsafety.org/node/4249.

15. Hemant Bhana. Trust but Verify // AeroSafety World, 2010. June.

16. Цитируется по книге: Nick A. Komons. Bonfires to Beacons: Federal Civil Aviation Policy under the Air Commerce Act 1926–1938. Washington, D.C.: U.S. Department of Transportation, 1978. Р. 24.

17. Scott Mayerowitz and Joshua Freed. Air Travel Safer than Ever with Death Rate at Record Low // Denverpost.com, 2012. January 1. UPL: http://www. denverpost.com/nationworld/ci_19653967. (В статистику не включены жертвы террористических актов.).

18. Интервью Раджа Парасурамана автору от 18 декабря 2011 года.

19. Jan Noyes. Automation and Decision Making. В книге: Malcolm James Cook. Decision Making in Complex Environments. Aldershot, U.K. Ashgate, 2007. Р. 73.

20. Earl L. Wiener. Human Factors of Advanced Technology (“Glass Cockpit”) Transport Aircraft // Moffett Field, Calif.: NASA Ames Research Center, 1989. June.

21. См., например: Earl L. Wiener and Renwick E. Curry. Flight Deck Automation: Promises and Problems // NASA Ames Research Center, 1980. June; Earl L. Wiener. Beyond the Sterile Cockpit // Human Factors 27, 1985. № 1. Р. 75–90; Donald Eldredge et al., Review and Discussion of Flight Management System Incidents Reported to the Aviation Safety Reporting System. Washington, D.C.: Federal Aviation Administration, 1992. February; Matt Ebbatson. Practice Makes Imperfect: Common Factors in Recent Manual Approach Incidents // Human Factors and Aerospace Safety 6, 2006. № 3. Р. 275–278.

22. Andy Pasztor. Pilot Reliance on Automation Erodes Skills // Wall Street Journal, 2010. November 5.

23. Operational Use of Flight Path Management Systems: Final Report of the Performance-Based Operations Aviation Rulemaking Committee/Commercial Aviation Safety Team Flight Deck Automation Working Group. Washington, D.C.: Federal Aviation Administration, 2013. September 5. UPL: http://www. faa.gov/about/office_org/headquarters_offices/avs/offices/afs/afs400/parc/parc_

Reco/media/2013/130908_PARC_FltDAWG_Final_Report_

Recommendations.pdf.

24. Matthew Ebbatson. The Loss of Manual Flying Skills in Pilots of Highly Automated Airliners // PhD thesis. Cranfield University School of Engineering, 2009. См. также: M. Ebbatson et al., The Relationship between Manual Handling Performance and Recent Flying Experience in Air Transport Pilots.// Ergonomics 53, 2010. № 2. Р. 268–277.

25. Цитируется по книге: David A. Mindell. Between Human and Machine: Feedback, Control, and Computing before Cybernetics. Baltimore: Johns Hopkins University Press, 2002. Р. 77.

26. S. Bennett A. History of Control Engineering, 1800–1930. Stevenage, U.K.: Peter Peregrinus, 1979. Р. 141.

27. Tom Wolfe. The Right Stuff. N. Y.: Picador, 1979. Р. 152–154.

28. Ebbatson. Loss of Manual Flying Skills.

29. Response Charts for ‘EASA CockpitAutomation Survey // European Aviation Safety Agency. 2012. August 3. UPL: http://www. easa.europa.eu/safety-andresearch/docs/EASA%2 °Cockpit%20Automation%20Survey%202012%20-%20Results.pdf.

30. Joan Lowy. Automation in the Air Dulls Pilot Skill // Seattle Times, 2011. August 30.

31. Хороший обзор истории изменения численности летных экипажей см.: Delmar M. Fadden et al., First Hand: Evolution of the 2-Person Crew Jet Transport Flight Deck // IEEE Global History Network, 2008. August 25. UPL: http://www.ieeeghn.org/wiki/index.php/First-Hand: Evolution_of_the_2-Person_Crew_Jet_Transport_Flight_Deck.

32. Цитируется по книге: Philip E. Ross. When Will We Have Unmanned Commercial Airliners? // IEEE Spectrum, 2011. December.

33. Scott McCartney. Pilot Pay: Want to Know How Much Your Captain Earns? // Wall Street Journal, 2009. June 16. UPL: http://www. blogs.wsj.com/middleseat/2009/06/16/pilot-pay-want-to-knowhow-much-your-captain-earns/.

34. Dawn Duggan. The 8 Most Overpaid&Underpaid Jobs. UPL: http://www.Salary.com, undated, salary.com/the%2D8%2Dmost%2Doverpaid%2Dunderpaid%2Djobs/slide/9/.

35. David A. Mindell. Digital Apollo: Human and Machine in Spaceflight. Cambridge, Mass.: MIT Press, 2011. Р. 20.

36. Wilbur Wright. Letter, 1900/ May 13. В книге: Visions of Technology: A Century of Vital Debate about Machines, Systems, and the Human World / Ed. Richard Rhodes. N.Y.: Touchstone, 1999. Р. 33.

37. Mindell. Digital Apollo. P. 20.

38. Там же. P. 21.

39. Wilbur Wright. Some Aeronautical Experiments // Speech before the Western Society of Engineers. 1901, September 18. UPL: http://www.wright-house.com/wright-brothers/Aeronautical.html.

40. Mindell. Digital Apollo. Р. 21.

41. J.O. Roberts. The Case against Automation in Manned Fighter Aircraft // SETP Quarterly Review 2. 1957. № 3. Р. 18–23.

42. Цитируется по: Mindell. Between Human and Machine. Р. 77.

43. Harris. Human Performance on the Flight Deck. Р. 221.

Глава четвертая. Эффект вырождения.

1. Alfred North Whitehead. An Introduction to Mathematics. N. Y.: Henry Holt, 1911. Р. 61.

2. Цитируется по: Frank Levy and Richard J. Murnane. The New Division of Labor: How Computers Are Creating the Next Job Market. Princeton: Princeton University Press, 2004. Р. 4.

3. Raja Parasuraman et al. Model for Types and Levels of Human Interaction with Automation // IEEE Transactions on Systems, Man, and Cybernetics – Part A: Systems and Humans 30, 2000. № 3 Р. 286–297. См. также: Nadine Sarter et al. Automation Surprises / Ed. Gavriel Salvendy // Handbook of Human Factors and Ergonomics., 2nd ed. N.Y.: Wiley, 1997.

4. Dennis F. Galletta et al. Does Spell-Checking Software Need a Warning Label? // Communications of the ACM 48. 2005. № 7. Р. 82–86.

5. National Transportation Safety Board // Marine Accident Report: Grounding of the Panamanian Passenger Ship Royal Majesty on Rose and Crown Shoal near Nantucket. Massachusetts, 1995. June 10.Washington, D.C.: NTSB, 1997. April 2.

6. Sherry Turkle. Simulation and Its Discontents. Cambridge, Mass.: MIT Press, 2009. Р. 55–56.

7. Jennifer Langston. GPS Routed Bus under Bridge, Company Says // Seattle Post-Intelligencer, 2008. April 17.

8. A.A. Povyakalo et al. How to Discriminate between Computer-Aided and Computer-Hindered Decisions: A Case Study in Mammography // Medical Decision Making 33. 2013. № 1. January. Р. 98–107.

9. E. Alberdi et al. Why Are People’s Decisions Sometimes Worse with Computer Support? // Proceedings of SAFECOMP 2009, the 28th International Conference on Computer Safety, Reliability, and Security / Eds. Bettina Buth et al. Hamburg, Germany: Springer, 2009. Р. 18–31.

10. См.: Raja Parasuraman et al. Performance Consequences of Automation-Induced Complacency // International Journal of Aviation Psychology 3, 1993, № 1. Р. 1–23.

11. Raja Parasuraman and Dietrich H. Manzey. Complacency and Bias in Human Use of Automation: An Attentional Integration // Human Factors 52, 2010. June. № 3. Р. 381–410.

12. Norman J. Slamecka and Peter Graf. The Generation Effect: Delineation of a Phenomenon // Journal of Experimental Psychology: Human Learning and Memory 4, 1978. № 6. Р. 592–604.

13. Jeffrey D. Karpicke and Janell R. Blunt. Retrieval Practice Produces More Learning than Elaborative Studying with Concept Mapping // Science 331, 2011. Р. 772–775.

14. Britte Haugan Cheng. Generation in the Knowledge Integration Classroom // PhD thesis, University of California, Berkeley, 2008.

15. Simon Farrell and Stephan Lewandowsky. A Connectionist Model of Complacency and Adaptive Recovery under Automation // Journal of Experimental Psychology: Learning, Memory, and Cognition 26, 2000. № 2. Р. 395–410.

16. Я уже обсуждал работу ван Нимвегена в моей книге: The Shallows: What the Internet Is Doing to Our Brains. N. Y.: W.W. Norton, 2010, Р. 214–216.

17. Christof van Nimwegen. The Paradox of the Guided User: Assistance Can Be Counter-effective // SIKS Dissertation Series No. 2008–09. Utrecht University, 2008. March 31. См. Также: Christof van Nimwegen and Herre van Oostendorp. The Questionable Impact of an Assisting Interface on Performance in Transfer Situations // International Journal of Industrial Ergonomics 39. 2009. May. № 3. Р. 501–508; Daniel Burgos and Christof van Nimwegen. Games-Based Learning, Destination Feedback and Adaptation: A Case Study of an Educational Planning Simulation. В книге: Games-Based Learning Advancements for Multi-Sensory Human Computer Interfaces: Techniques and Effective Practices / Eds. Thomas Connolly et al. Hershey, Penn.: IGI Global, 2009. Р. 119–130.

18. Carlin Dowling et al. Audit Support System Design and the Declarative Knowledge of Long-Term Users // Journal of Emerging Technologies in Accounting 5, 2008. № 1. December. Р. 99–108.

19. См.: Richard G. Brody et al. The Effect of a Computerized Decision Aid on the Development of Knowledge // Journal of Business and Psychology 18, 2003. № 2. Р. 157–174; Holli McCall et al. Use of Knowledge Management Systems and the Impact on the Acquisition of Explicit Knowledge // Journal of Information Systems 22, 2008. № 2. Р. 77–101.

20. Amar Вhidе. The Judgment Deficit // Harvard Business Review 88, 2010. September. № 9. Р. 44–53.

21. Gordon Baxter and John Cartlidge. Flying by the Seat of Their Pants: What Can High Frequency Trading Learn from Aviation? В книге: ATACCS-2013: Proceedings of the 3rd International Conference on Application and Theory of Automation in Command and Control Systems / Eds. G. Brat et al. N. Y.: ACM, 2013. Р. 64–73.

22. Vivek Haldar. Sharp Tools, Dull Minds. (This Is the Blog of Vivek Haldar). 2013. November 10. UPL: http://www. blog.vivekhaldar.com/post/66660163006/ sharp-tools-dull-minds.

23. Tim Adams. Google and the Future of Search: Amit Singhal and the Knowledge Graph // Observer, 2013. January 19.

24. Betsy Sparrow et al. Google Effects on Memory: Cognitive Consequences of Having Information at Our Fingertips // Science 333. 2011. № 6043. August 5. Р. 776–778. В другом исследовании было показано, что одно только знание о том, что некое событие запечатлено на камеру, ослабляет память, с ним связанную. Linda A. Henkel. Pointand– Shoot Memories: The Influence of Taking Photos on Memory for a Museum Tour // Psychological Science, 2013. December 5. UPL: http://www. pss.sagepub.com/content/early/2013/12/04/0956797613504438.full.

25. Mihai Nadin. Information and Semiotic Processes: The Semiotics of Computation // Cybernetics and Human Knowing 18, 2011. № 1–2. Р. 153–175.

26. Gary Marcus. Guitar Zero: The New Musician and the Science of Learning. N. Y.: Penguin, 2012. Р. 52.

27. Подробное описание механизма обучения мозга чтению см.: Maryanne Wolf. Proust and the Squid: The Story and Science of the Reading Brain. N. Y.: HarperCollins, 2007. Р. 108–133.

28. Hubert L. Dreyfus. Intelligence without Representation – Merleau-Ponty’s Critique of Mental Representation // Phenomenology and the Cognitive Sciences 1. 2002. Р. 367–383.

29. Marcus. Guitar Zero. Р. 103.

30. David Z. Hambrick and Elizabeth J. Meinz. Limits on the Predictive Power of Domain-Specific Experience and Knowledge in Skilled Performance // Current Directions in Psychological Science 20, 2011. № 5. Р. 275–279.

31. K. Anders Ericsson et al. The Role of Deliberate Practice in the Acquisition of Expert Performance // Psychological Review 100, 1993. № 3. Р. 363–406.

32. Nigel Warburton. Robert Talisse on Pragmatism // Five Books, 2013. September 18. UPL: http://www. fivebooks.com/interviews/robert-talisse-on-pragmatism.

33. Jeanne Nakamura and Mihaly Csikszentmihalyi. The Concept of Flow. В книге: Handbook of Positive Psychology / Eds. C.R. Snyder and Shane J. Lopez. Oxford, U.K.: Oxford University Press, 2002. Р. 90–91.

Интерлюдия. Танцующие мыши.

1. Robert M. Yerkes. The Dancing Mouse: A Study in Animal Behavior. N. Y.: Macmillan, 1907. vii – viii. Р. 2–3.

2. Там же. vii.

3. Robert M. Yerkes and John D. Dodson. The Relation of Strength of Stimulus to Rapidity of Habit-Formation // Journal of Comparative Neurology and Psychology 18. 1908. Р. 459–482.

4. Там же.

5. Mark S. Young and Neville A. Stanton. Attention and Automation: New Perspectives on Mental Overload and Performance // Theoretical Issues in Ergonomics Science 3, 2002. № 2. Р. 178–194.

6. Mark W. Scerbo. Adaptive Automation. В книге: Neuroergonomics: The Brain at Work / Eds. Raja Parasuraman and Matthew Rizzo. N. Y.: Oxford University Press, 2007. Р. 239–252.

Глава пятая. Офисный компьютер.

1. RAND Study Says Computerizing Medical Records Could Save $81 Billion Annually and Improve the Quality of Medical Care // RAND Corporation press release. 2005. September 14.

2. Richard Hillestad et al. Can Electronic Medical Record Systems Transform Health Care? Potential Health Benefits, Savings, and Costs // Health Affairs 24, 2005. № 5. Р. 1103–1117.

3. Reed Abelson and Julie Creswell. In Second Look, Few Savings from Digital Health Records // New York Times, 2013. January 10.

4. Jeanne Lambrew. More than Half of Doctors Now Use Electronic Health Records Thanks to Administration Policies // The White House Blog, 2013 May 24. UPL: http://www. whitehouse.gov/blog/2013/05/24/more-half-doc tors-use-electronic-health-records-thanks-administration-policies.

5. Arthur L. Kellermann and Spencer S. Jones. What It Will Take to Achieve the As-Yet-Unfulfilled Promises of Health Information Technology // Health Affairs 32, 2013. № 1. Р. 63–68.

6. Ashly D. Black et al. The Impact of eHealth on the Quality and Safety of Health Care: A Systematic Overview // PLOS Medicine 8, 2011. № 1. UPL: http://www. plosmedicine.org/article/info%3Adoi%2F10.1371%2Fjournal.pmed.1000387.

7. Melinda Beeuwkes Buntin et al. The Benefits of Health Information Technology: A Review of the Recent Literature Shows Predominantly Positive Results // Health Affairs 30, 2011. № 3. Р. 464–471.

8. Dean F. Sittig et al. Lessons from ‘Unexpected Increased Mortality after Implementation of a Commercially Sold Computerized Physician Order Entry System // Pediatrics 118, 2006. № 2. Р. 797–801.

9. Jerome Groopman and Pamela Hartzband. Obama’s $80 Billion Exaggeration // Wall Street Journal, 2009. March 12. См. статью тех же авторов: Off the Record – Avoiding the Pitfalls of Going Electronic // New England Journal of Medicine 358, 2008. № 16. Р. 1656–1658.

10. См.: Fred Schulte. Growth of Electronic Medical Records Eases Path to Inflated Bills. Center for Public Integrity, 2012. September 19. UPL: http://www. public integrity.org/2012/09/19/10812/growth-electronic-medical-records-eases-path-inflated-bills; Reed Abelson et al. Medicare Bills Rise as Records Turn Electronic // New York Times, 2012. September 22.

11. Daniel R. Levinson. CMS and Its Contractors Have Adopted Few Program Integrity Practices to Address Vulnerabilities in EHRs. Washington, D.C.: Office of the Inspector General, Department of Health and Human Services, 2014. January. UPL: http://www. oig.hhs.gov/oei/reports/oei-01–11–00571.pdf.

12. Danny McCormick et al. Giving Office-Based Physicians Electronic Access to Patients’ Prior Imaging and Lab Results Did Not Deter Ordering of Tests // Health Affairs 31, 2012. № 3. Р. 488–496. Специалисты изучали результаты лечения больных сахарным диабетом в течение пяти лет в двух клиниках, в одной из которых была внедрена система электронного ведения медицинской документации, а в другой – нет. Выяснилось, что врачи первой клиники назначали больше анализов, но не добились лучшего контроля содержания глюкозы в крови. «Полученные данные позволяют предположить, что, несмотря на значительное повышение стоимости лечения, электронная система ведения медицинской документации не смогла обеспечить решающего улучшения качества лечения», – написали ученые.

Patrick J. O’Connor et al. Impact of an Electronic Medical Record on Diabetes Quality of Care // Annals of Family Medicine 3, 2005. №. 4. July. Р. 300–306.

13. Timothy Hoff. Deskilling and Adaptation among Primary Care Physicians Using Two Work Innovations // Health Care Management Review 36, 2011. № 4. Р. 338–348.

14. Schulte. Growth of Electronic Medical Records.

15. Hoff. Deskilling and Adaptation.

16. Danielle Ofri. The Doctor vs. the Computer // New York Times, 2010. December 30.

17. Thomas H. Payne et al. Transition from Paper to Electronic Inpatient Physician Notes // Journal of the American Medical Information Association 17, 2010. Р. 108–111.

18. Ofri. Doctor vs. the Computer.

19. Beth Lown and Dayron Rodriguez. Lost in Translation? How Electronic Health Records Structure Communication, Relationships, and Meaning / Academic Medicine 87, 2012. № 4. Р. 392–394.

20. Emran Rouf et al. “Computers in the Exam Room: Differences in Physician-Patient Interaction May Be Due to Physician Experience,” Journal of General Internal Medicine 22, no. 1 (2007): 43–48.

21. Avik Shachak et al. Primary Care Physicians’ Use of an Electronic Medical Record System: A Cognitive Task Analysis // Journal of General Internal Medicine 24, 2009. № 3. Р. 341–348.

22. Lown and Rodriguez. Lost in Translation?

23. См.: Saul N. Weingart et al. Physicians’ Decisions to Override Computerized Drug Alerts in Primary Care // Archives of Internal Medicine, 2003. November 24. Р. 2625–2631; Alissa L. Russ et al. Prescribers’ Interactions with Medication Alerts at the Point of Prescribing: A Multi-method, In Situ Investigation of the Human – Computer Interaction // International Journal of Medical Informatics 81, 2012. Р. 232–243;

M. Susan Ridgely and Michael D. Greenberg. Too Many Alerts, Too Much Liability: Sorting through the Malpractice Implications of Drug-Drug Interaction Clinical Decision Support // Saint.

Louis University Journal of Health Law and Policy 5, 2012. Р. 257–295; David W. Bates. Clinical Decision Support and the Law: The Big Picture // Saint Louis University Journal of Health Law and Policy 5, 2012. Р. 319–324.

24. Atul Gawande. The Checklist Manifesto: How to Get Things Right. N. Y.: Henry Holt, 2010. Р. 161–162.

25. Lown and Rodriguez. Lost in Translation?

26. Jerome Groopman. How Doctors Think. N. Y.: Houghton Mifflin, 2007. Р. 34–35.

27. Adam Smith. The Wealth of Nations. N. Y.: Modern Library, 2000. Р. 840.

28. Там же. Р. 4.

29. Frederick Winslow Taylor. The Principles of Scientific Management N.Y.: Harper&Brothers, 1913. Р. 11.

30. Там же. Р. 36.

31. Hannah Arendt. The Human Condition. Chicago: University of Chicago Press, 1998. Р. 147.

32. Harry Braverman. Labor and Monopoly Capital: The Degradation of Work in the Twentieth Century. N. Y.: Monthly Review Press, 1998. Р. 307.

33. Краткий обзор дебатов по поводу книги Бравермана см.: Peter Meiksins. Labor and Monopoly Capital for the 1990s: A Review and Critique of the Labor Process Debate // Monthly Review. 1994. November.

34. James R. Bright. Automation and Management. Cambridge, Mass.: Harvard University, 1958. Р. 176–195.

35. Там же. Р. 188.

36. James R. Bright. The Relationship of Increasing Automation and Skill Requirements // Technology and the American Economy, Appendix II: The Employment Impact of Technological Change. Washington, D.C.: U.S. Government Printing Office, 1966. Р. 201–221.

37. George Dyson. Комментарии см. на: Edge.org, 2008. July 11. UPL: http://www. edge.org/dis course/carr_google.html#dysong.

38. Доходчивое объяснение принципов машинного обучения см. в шестой главе книги: John MacCormick’s. Nine Algorithms That Changed the Future: The Ingenious Ideas That Drive Today’s Computers. Princeton: Princeton University Press, 2012.

39. Max Raskin and Ilan Kolet. Wall Street Jobs Plunge as Profits Soar. Bloomberg News, 2013. April 23. UPL: http://www. bloomberg.com/news/2013–04–24/ wall-street-jobs-plunge-as-profits-soar-chart-of-the-day.html.

40. Ashwin Parameswaran. Explaining the Neglect of Doug Engelbart’s Vision: The Economic Irrelevance of Human Intelligence Augmentation // Macroresilience, 2013. July 8. UPL: http://www. macroresilience.com/2013/07/08/ explaining-the-neglect-of-doug-engelbarts-vision/.

41. См.: Daniel Martin Katz. Quantitative Legal Prediction – or – How I Learned to Stop Worrying and Start Preparing for the Data-Driven Future of the Legal Services Industry // Emory Law Journal 62, 2013. № 4. Р. 909–966.

42. Joseph Walker. Meet the New Boss: Big Data // Wall Street Journal, 2012. September 20.

43. Franco “Bifo” Berardi. The Soul at Work: From Alienation to Automation Los Angeles: Semiotext (e), 2009. Р. 96.

44. A.M. Turing. Systems of Logic Based on Ordinals // Proceedings of the London Mathematical Society 45, 1939. № 2239. Р. 161–228.

45. Там же.

46 Hector J. Levesque. On Our Best Behaviour // Lecture delivered at the International Joint Conference on Artificial Intelligence. Beijing, China, 2013. August 8.

47. См.: Nassim Nicholas Taleb. Antifragile: Things That Gain from Disorder. N. Y.: Random House, 2012. Р. 416–419.

48. Donald T. Campbell. Assessing the Impact of Planned Social Change // Occasional Paper Series. Public Affairs Center, Dartmouth College, Hanover, N.H. 1976. December. № 8.

49. Viktor Mayer-Sсhцnьегgег and Kenneth Cukier. Big Data: A Revolution That Will Transform How We Live, Work, and Think. N.Y.: Houghton Mifflin Harcourt, 2013. Р. 166.

50. Kate Crawford. The Hidden Biases in Big Data // HBR Blog Network. 2013. April 1. UPL: http://www. hbr.org/cs/2013/04/the_hidden_biases_in_big_data.html.

51. В опубликованной в 1968 году статье Уид писал: «Надо серьезно относиться к возможности использования новых компьютеров, если применение их позволит дешевле, полнее и точнее получать и сохранять данные обследования, экономя дорогое время работы врача». Lawrence L. Weed. Medical Records That Guide and Teach // New England Journal of Medicine 278, 1968. Р. 593–600, 652–657.

52. Gary Klein. Evidence-Based Medicine // Edge. 2014. January 14. UPL: http://www. edge.org/responses/what-scientific-idea-is-ready-for-retirement.

53. Lee Jacobs. Interview with Lawrence Weed, MD – The Father of the Problem-Oriented Medical Record Looks Ahead // Permanente Journal. 2009. № 3. 2009. Р. 84–89.

54. Michael Oakeshott. Rationalism in Politics // Cambridge Journal 1. 1947. Р. 81–98, 145–157. Эссе было опубликовано в вышедшей в 1962 году книге Окшотта: Rationalism in Politics and Other Essays. N. Y.: 1962. Basic Books.

Глава шестая. Мир и экран.

1. William Edward Parry. Journal of a Second Voyage for the Discovery of a North-West Passage from the Atlantic to the Pacific. London: John Murray, 1824. Р. 277.

2. Claudio Aporta and Eric Higgs. Satellite Culture: Global Positioning Systems, Inuit Wayfinding, and the Need for a New Account of Technology // Current Anthropology 46, 2005. № 5. Р. 729–753.

3. Интервью Клаудио Апорты автору от 25 января 2012 года.

4. Gilly Leshed et al. In-Car GPS Navigation: Engagement with and Disengagement from the Environment. В книге: Proceedings of the SIGCHI Conference on Human Factors in Computing Systems. N. Y.: ACM, 2008. Р. 1675–1684.

5. David Brooks. The Outsourced Brain // New York Times, 2007. October 26.

6. Julia Frankenstein et al. Is the Map in Our Head Oriented North? // Psychological Science 23. 2012. № 2. Р. 120–125.

7. Julia Frankenstein. Is GPS All in Our Heads? // New York Times, 2012. February 2.

8. Gary E. Burnett and Kate Lee. The Effect of Vehicle Navigation Systems on the Formation of Cognitive Maps. В книге: Traffic and Transport Psychology: Theory and Application / Ed. Geoffrey Underwood. Amsterdam: Elsevier, 2005. Р. 407–418.

9. Elliot P. Fenech et al. The Effects of Acoustic Turn-by-Turn Navigation on Wayfinding // Proceedings of the Human Factors and Ergonomics Society Annual Meeting 54, 2010. № 23. Р. 1926–1930.

10. Toru Ishikawa et al. Wayfinding with a GPS-Based Mobile Navigation System: A Comparison with Maps and Direct Experience // Journal of Environmental Psychology 28, 2008. № 1. Р. 74–82; Stefan Мьnzег et al. Computer-Assisted Navigation and the Acquisition of Route and Survey Knowledge // Journal of Environmental Psychology 26, 2006. № 4. Р. 300–308.

11. Sara Hendren. The White Cane as Technology // Atlantic, 2013. November 6. UPL: http://www. theatlantic.com/technology/archive/2013/11/the-white-caneas-technology/281167/.

12. Tim Ingold. Being Alive: Essays on Movement, Knowledge and Description. London: Routledge, 2011. Р. 149–152.

13. Цитируется по статье: James Fallows. The Places You’ll Go // Atlantic, 2013. January/February.

14. Ari N. Schulman. GPS and the End of the Road // New Atlantis, 2011. Spring.

15. John O’Keefe and Jonathan Dostrovsky. The Hippocampus as a Spatial Map: Preliminary Evidence from Unit Activity in the Freely-Moving Rat // Brain Research 34, 1971. Р. 171–175.

16. John O’Keefe. A Review of the Hippocampal Place Cells // Progress in Neurobiology 13, 2009. № 4. Р. 419–439.

17. Edvard I. Moser et al. Place Cells, Grid Cells, and the Brain’s Spatial Representation System // Annual Review of Neuroscience 31, 2008. Р. 69–89.

18. См. Christian F. Doeller et al. Evidence for Grid Cells in a Human Memory Network // Nature 463, 2010. Р. 657–661; Nathaniel J. Killian et al. A Map of Visual Space in the Primate Entorhinal Cortex // Nature 491, 2012. Р. 761–764; Joshua Jacobs et al. Direct Recordings of Grid-Like Neuronal Activity in Human Spatial Navigation // Nature Neuroscience, 2013. August 4. UPL: http://www. nature.com/neuro/journal/vaop/ncurrent/full/nn.3466.html.

19. James Gorman. A Sense of Where You Are // New York Times, 2013. April 30.

20. Gyrgy Buzski and Edvard I. Moser. Memory, Navigation and Theta Rhythm in the Hippocampal-Entorhinal System // Nature Neuroscience 16, 2013. № 2. Р. 130–138. См. также: Neil Burgess et al. Memory for Events and Their Spatial Context: Models and Experiments. В книге: Episodic Memory: New Directions in Research / Eds. Alan Baddeley et al. N. Y.: Oxford University Press, 2002. Р. 249–268. Представляется примечательным, что одна из самых мощных мнемонических методик, разработанная еще в античную эпоху, предусматривает ассоциацию ментальных образов событий или фактов с определенными местами в доме или в городе. Запоминание фактов облегчается, если их связывают с конкретными местами даже в воображении.

21. См., например: Jan M. Wiener et al. Maladaptive Bias for Extrahippocampal Navigation Strategies in Aging Humans // Journal of Neuroscience 33, 2013. № 14. Р. 6012–6017.

22. См., например: A.T. Du et al. Magnetic Resonance Imaging of the Entorhinal Cortex and Hippocampus in Mild Cognitive Impairment and Alzheimer’s Disease // Journal of Neurology, Neurosurgery and Psychiatry 71, 2001. Р. 441–447.

23. Kyoko Konishi and Vronique D. Bohbot. Spatial Navigational Strategies Correlate with Gray Matter in the Hippocampus of Healthy Older Adults Tested in a Virtual Maze // Frontiers in Aging Neuroscience 5, 2013. Р. 1–8.

24 Электронное письмо Вероники Бобо автору от 4 июня 2010 года.

25. Цитируется по статье: Alex Hutchinson. Global Impositioning Systems // Walrus, 2009. November.

26. Kyle VanHemert. 4 Reasons Why Apple’s iBeacon Is About to Disrupt Interaction Design // Wired, 2013. December 11. www.wired.com/ UPL: http://www. design/2013/12/4-use-cases-for-ibeacon-the-most-exciting-tech-youhavent-heard-of/.

27. Цитируется по книге: Fallows. Places You’ll Go.

28. Damon Lavrinc. Mercedes Is Testing Google Glass Integration, and It Actually Works // Wired, 2013. August 15. UPL: http://www. wired.com/autopia/2013/08/google-glass-mercedes-benz/.

29. William J. Mitchell. Foreword. В книге: Yehuda E. Kalay. Architecture’s New Media: Principles, Theories, and Methods of Computer-Aided Design Cambridge, Mass.: MIT Press, 2004. xi.

30. Anonymous. Interviews: Renzo Piano // Architectural Record, 2001. October. UPL: http://www. archrecord.construction.com/people/interviews/archives/0110piano.asp.

31. Цитируется по: Gavin Mortimer. The Longest Night. N. Y.: Penguin, 2005. Р. 319.

32. Dino Marcantonio. Architectural Quackery at Its Finest: Parametricism //Marcantonio Architects Blog, 2010. May 8.UPL: http://www. blog.marcantonioarchitects.com/architectural-quackery-at-its-finest-parametricism/.

33. Paul Goldberger. Digital Dreams // New Yorker, 2001. March 12.

34. Patrik Schumacher. Parametricism as Style – Parametricist Manifesto // Patrik Schumacher’s blog, 2008. UPL: http://www. patrikschumacher.com/Texts/Parametricism%20as%20Style.htm.

35. Anonymous. Interviews Renzo Piano.

36. Witold Rybczynski. Think before You Build // Slate, 2011. March 30. UPL: http://www.slate.com/articles/arts/architecture/2011/03/think_before_you_build.html.

37. Цитируется по: Bryan Lawson. Design in Mind. Oxford, U.K.: Architectural Press, 1994. Р. 66.

38. Michael Graves. Architecture and the Lost Art of Drawing // New YorkTimes, 2012. September 2.

39. D.A. Sсhцn. Designing as Reflective Conversation with the Materials of a Design Situation // Knowledge-Based Systems 5, 1992. № 1. Р. 3–14. См. также книгу Шёна: The Reflective Practitioner: How Professionals Think in Action. N. Y.: Basic Books, 1983. Р. 157–159.

40. Michael Graves. Architecture and the Lost Art of Drawing. См. также: Masaki Suwa et al. Macroscopic Analysis of Design Processes Based on a Scheme for Coding Designers’ Cognitive Actions // Design Studies 19, 1998. Р. 455–483.

41. Nigel Cross. Designerly Ways of Knowing. Basel: Вiгкhдиsег, 2007. 58.

42. Scho#n. Designing as Reflective Conversation.

43. Там же.

44. Joachim Walther et al. Avoiding the Potential Negative Influence of CAD Tools on the Formation of Students’ Creativity. В книге: Proceedings of the 2007 AaeE Conference. Melbourne, Australia, 2007. December. UPL: http://www. 2.cs.mu.oz.au/aaee2007/papers/paper_40.pdf.

45. Graves. Architecture and the Lost Art of Drawing.

46. Juhani Pallasmaa. The Thinking Hand: Existential and Embodied Wisdom in Architecture. Chichester, U.K.: Wiley, 2009. Р. 96–97.

47. Интервью Мида автору от 23 июля 2013 года.

48. Jacob Brillhart. Drawing towards a More Creative Architecture: Mediating between the Digital and the Analog, Статья была представлена на ежегодной конференции Ассоциации университетских кафедр архитектуры в Монреале 5 марта 2011 года.

49. Matthew B. Crawford. Shop Class as Soulcraft: An Inquiry into the Value of Work. N.Y.: Penguin, 2009. Р. 164.

50. Там же. Р. 161.

51. John Dewey. Essays in Experimental Logic. Chicago: University of Chicago Press, 1916. Р. 13–14.

52. Matthew D. Lieberman. The Mind-Body Illusion // Psychology Today, 2012. May 17. UPL: http://www. psychologytoday.com/blog/social-brain-social-mind/201205/the-mind-body-illusion. См. также: Matthew D. Lieberman. What Makes Big Ideas Sticky? / What’s Next? Dispatches on the Future of Science / Ed. Max Brockman. N. Y.: Vintage. 2009. Р. 90–103.

53. Andy Clark. Embodied Cognition (video). University of Edinburgh: Research in a Nutshell. UPL: http://www. undated, nutshell-videos.ed.ac.uk/andy-clarkembodied-cognition.

54. Tim Gollisch and Markus Meister. Eye Smarter than Scientists Believed: Neural Computations in Circuits of the Retina // Neuron 65, 2010. January 28. Р. 150–164.

55. См.: Vittorio Gallese and George Lakoff. The Brain’s Concepts: The Role of the Sensory-Motor System in Conceptual Knowledge // Cognitive Neuropsychology 22, 2005. № . Р. 455–479; Lawrence W. Barsalou. Grounded Cognition // Annual Review of Psychology 59, 2008. Р. 617–645.

56. Andy Clark. Embodied Cognition.

57. Shaun Gallagher. How the Body Shapes the Mind. Oxford, U.K.: Oxford University Press, 2005. Р. 247.

58. Andy Clark. Natural-Born Cyborgs: Minds, Technologies, and the Future of Human Intelligence. N. Y.: Oxford University Press, 2003. Р. 4.

59. Цитируется по книге: Fallows. Places You’ll Go.

Глава седьмая. Автоматизация для людей.

1. Kevin Kelly. Better than Human: Why Robots Will – and Must – Take Our Jobs // Wired, 2013. January.

2. Jay Yarow. Human Driver Crashes Google’s Self Driving Car // Business Insider, 2011. August 5. UPL: http://www. businessinsider.com/googles-self-driving-carsget-in-their-first-accident-2011–8.

3. Andy Kessler. Professors Are About to Get an Online Education // Wall Street Journal. 2013. June 3.

4. Vinod Khosla. Do We Need Doctors or Algorithms? // TechCrunch, 2012. January 10. UPL: http://www.techcrunch.com/2012/01/10/doctors-or-algorithms.

5. Gerald Traufetter. The Computer vs. the Captain: Will Increasing Automation Make Jets Less Safe? // Spiegel Online, 2009. July 31. UPL: http://www. Spiegel de/international/world/the-computer-vs-the-captain-will-increasing-automation-make-jets-less-safe-a-639298.html.

6. См.: Adam Fisher. Inside Google’s Quest to Popularize Self-Driving Cars // Popular Science, 2013. October.

7. Tosha B. Weeterneck et al. Factors Contributing to an Increase in Duplicate Medication Order Errors after CPOE Implementation //Journal of the American Medical Informatics Association 18, 2011. Р. 774–782.

8. Sergey V. Buldyrev et al. Catastrophic Cascade of Failures in Interdependent Networks.// Nature, 464. 2010. April 15. Р. 1025–1028. См. также: Alessandro Vespignani. The Fragility of Interdependency // Nature 464, 2010. April 15. Р. 984–985.

9. Nancy G. Leveson. Engineering a Safer World: Systems Thinking Applied to Safety. Cambridge, Mass.: MIT Press, 2011. 8–9.

10. Lisanne Bainbridge. Ironies of Automation // Automatica 19, 1983. № 6. Р. 775–779.

11. Обзор исследований, посвященных бдительности, включая работы, выполненные во время Второй мировой войны, см.: D.R. Davies and R. Parasuraman // The Psychology of Vigilance. London: Academic Press, 1982.

12. Bainbridge. Ironies of Automation.

13. См. Magdalen Galley. Ergonomics – Where Have We Been and Where Are We Going. UPL: http://www. undated speech, taylor.it/meg/papers/50%20Years%20 of%20Ergonomics.pdf;

Nicolas Marmaras et al. Ergonomic Design in Ancient Greece // Applied Ergonomics 30, 1999. № 4. Р. 361–368.

14. David Meister. The History of Human Factors and Ergonomics. Mahwah, N.J.: Lawrence Erlbaum Associates, 1999. Р. 209, 359.

15. Leo Marx. Does Improved Technology Mean Progress? // Technology Review. 1987. January.

16. Donald A. Norman. Things That Make Us Smart: Defending Human Attributes in the Age of the Machine. N. Y.: Perseus, 1993. xi.

17. Norbert Wiener. I Am a Mathematician. Cambridge, Mass.: MIT Press, 1956. Р. 305.

18. Nadine Sarter et al. Automation Surprises. / Handbook of Human Factors and Ergonomics / Ed. Gavriel Salvendy. 2nd ed. N. Y.: Wiley, 1997.

19. Там же.

20. John D. Lee. Human Factors and Ergonomics in Automation Design / Handbook of Human Factors and Ergonomics / Ed. Gavriel Salvendy. 3rd ed. Hoboken, N.J.: Wiley, 2006. Р. 1571.

21. Еще об ориентированной на человека автоматизации см.: Charles E. Billings. Aviation Automation: The Search for a Human-Centered Approach. Mahwah, N.J.: Lawrence Erlbaum Associates, 1997; Raja Parasuraman et al. A Model for Types and Levels of Human Interaction with Automation // IEEE Transactions on Systems, Man, and Cybernetics 30, 2000. № 3. Р. 286–297.

22. David B. Kaber et al. On the Design of Adaptive Automation for Complex Systems // International Journal of Cognitive Ergonomics 5, 2001. № 1. Р. 37–57.

23. Mark W. Scerbo. Adaptive Automation В книге: Neuroergonomics: The Brain at Work / Eds. Raja Parasuraman and Matthew Rizzo. N. Y.: Oxford University Press, 2007. Р. 239–252. См. также: Mark St. John et al. Overview of the DARPA Augmented Cognition Technical Integration Experiment // International Journal of Human-Computer Interaction 17, 2004. № 2. Р. 131–149.

24. Lee. Human Factors and Ergonomics.

25. Интервью Раджа Парасурамана автору от 18 декабря 2011 года.

26. Lee. Human Factors and Ergonomics.

27. Интервью Бена Трейнела автору от 13 июня 2013 года.

28. Mark D. Gross and Ellen Yi-Luen Do. Ambiguous Intentions: A Paperlike Interface for Creative Design // Proceedings of the ACM Symposium on User Interface Software and Technology. N. Y.: ACM, 1996. Р. 183–192.

29. Julie Dorsey et al. The Mental Canvas: A Tool for Conceptual Architectural Design and Analysis // Proceedings of the Pacific Conference on Computer Graphics and Applications, 2007. Р. 201–210.

30. William Langewiesche. Fly by Wire: The Geese, the Glide, the “Miracle” on the Hudson. N. Y.: Farrar, Straus&Giroux, 2009. Р. 102.

31. Lee. Human Factors and Ergonomics.

32. CBS News. Faulty Data Misled Pilots in ’09 Air France Crash. 2012. July 5. UPL: http://www. cbsnews.com/8301–505263_162–57466644/faulty-datamisledpilots-in-09-air-france-crash/.

33. Langewiesche. Fly by Wire. Р. 109.

34. Federal Aviation Administration. NextGen Air Traffic Control/Technical Operations Human Factors (Controller Efficiency&Air Ground Integration) Research and Development Plan. 2011. version one, April.

35. Nathaniel Popper. Bank Gains by Putting Brakes on Traders // New York Times, 2013. June 26.

36. Thomas P. Hughes. Technological Momentum. В книге: Does Technology Drive History? The Dilemma of Technological Determinism / Eds. Merritt Roe Smith and Leo Marx. Cambridge, Mass.: MIT Press, 1994. Р. 101–113.

37. Gordon Baxter and John Cartlidge. Flying by the Seat of Their Pants: What Can High Frequency Trading Learn from Aviation? / ATACCS-2013: Proceedings of the 3rd International Conference on Application and Theory of Automation in Command and Control Systems / Eds. G. Brat et al. N. Y.: ACM, 2013. Р. 64–73.

38. David F. Noble. Forces of Production: A Social History of Industrial Automation. N.Y.: Alfred A. Knopf, 1984. Р. 144–145.

39. Там же. P. 94.

40. Цитируется по: Noble. Forces of Production. Р. 94.

41. Там же. P. 326.

42. Дайсон высказывает это утверждение в снятом в 1981 году документальном фильме. The Day after Trinity. Цитируется по статье: Bill Joy. Why the Future Doesn’t Need Us // Wired, 2000. April.

43. Matt Richtel. A Silicon Valley School That Doesn’t Compute // New York Times, 2011. October 23.

Интерлюдия. Грабитель могил.

1. Peter Merholz. Frictionless’ as an Alternative to ‘Simplicity’ in Design,” Adaptive Path (blog), 2010. July 21. UPL: http://www. adaptivepath.com/ideas/friction-asan-alternative-to-simplicity-in-design.

2. David J. Hill. Exclusive Interview with Ray Kurzweil on Future AI Project at Google // SingularityHUB, 2013. January 10. UPL: http://www. singularityhub.com/2013/01/10/exclusive-interview-with-ray-kurzweil-on-future-aiproject-at-google/.

Глава восьмая. Ваш внутренний робот.

1. Азимовские правила поведения роботов (три правила, намертво встроенные в позитронный мозг роботов) впервые появились в опубликованном в 1942 году рассказе «Хоровод», включенном в сборник «Я – робот». N. Y.: Bantam, 2004. Р. 37.

2. Gary Marcus. MoralMachines // New Yorker, 2012. November 27. UPL: http://www. newyorker.com/online/blogs/newsdesk/2012/11/google-driverless-car-morality.html.

3. Charles T. Rubin. Machine Morality and Human Responsibility // New Atlantis, 2011. Summer.

4. Christof Heyns. Report of the Special Rapporteur on Extrajudicial, Summary or Arbitrary Executions. Presentation to the Human Rights Council of the United Nations General Assembly, 2013. April 9. UPL: http://www.ohchr.org/Documents/HRBodies/HRCouncil/RegularSession/Session23/A-HRC-23–47_en.pdf.

5. Patrick Lin et al. Autonomous Military Robotics: Risk, Ethics, and Design, version 1.0.9, prepared for U.S. Department of Navy, Office of Naval Research, 2008. December 20.

6. Там же.

7. Thomas K. Adams. Future Warfare and the Decline of Human Decisionmaking //Parameters, 2001–2002. Winter.

8. Heyns. Report of the Special Rapporteur.

9. Там же.

10. Joseph Weizenbaum. Computer Power and Human Reason: From Judgment to Calculation. N. Y.: W.H. Freeman, 1976. Р. 20.

11. Mark Weiser. The Computer for the 21st Century // Scientific American, 1991. September.

12. Mark Weiser and John Seely Brown. The Coming Age of Calm Technology. Beyond Calculation: The Next Fifty Years of Computing / Eds. P.J. Denning and R.M. Metcalfe. N. Y.: 1997. Springer, Р. 75–86.

13. M. Weiser et al. The Origins of Ubiquitous Computing Research at PARC in the Late 1980s // IBM Systems Journal 38, 1999. № 4. Р. 693–696.

14. См.: Nicholas Carr. The Big Switch: Rewiring the World, from Edison to Google. N.Y.: W.W. Norton, 2008.

15. Thomas P. Hughes. Networks of Power: Electrification in Western Society, 1880–1930. Baltimore: Johns Hopkins University Press, 1983. 140.

16. W. Brian Arthur. The Second Economy // McKinsey Quarterly, 2011. October.

17. Там же.

18. Bill Gates. Business @ the Speed of Thought: Using a Digital Nervous System. N. Y.: Warner Books, 1999. Р. 37.

19. Arthur C. Clarke. Profiles of the Future: An Inquiry into the Limits of the Possible. N. Y.: Harper&Row, 1960. Р. 227.

20. Sergey Brin. Why Google Glass? / speech at TED2013, Long Beach, Calif., 2013. February 27. UPL: http://www.youtube.com/watch?v=rie-hPVJ7Sw.

21. Там же.

22. См.: Christopher D. Wickens and Amy L. Alexander. Attentional Tunneling and Task Management in Synthetic Vision Displays // International Journal of Aviation Psychology 19, 2009. № 2. Р. 182–199.

23. Richard F. Haines. A Breakdown in Simultaneous Information Processing. Presbyopia Research: From Molecular Biology to Visual Adaptation / Eds. Gerard Obrecht and Lawrence W. Stark. N. Y.: Plenum Press, 1991. Р. 171–176.

24. Daniel J. Simons and Christopher F. Chambris. Is Google Glass Dangerous? //New York Times, 2013. May 26.

25. Amanda Rosenberg: Google Co-Founder Sergey Brin’s New Girlfriend? // Guardian, 2013. August 30. UPL: http://www. theguardian.com/technology/shortcuts/2013/aug/30/amanda-rosenberg-google-sergey-brin-girlfriend.

26. Weiser. Computer for the 21st Century.

27. Интервью Чарли Роуза. 2012. April 24. UPL: http://www. charlierose.com/watch/60065884.

28. David Kirkpatrick. The Facebook Effect. N. Y.: Simon&Schuster, 2010. 10.

29. Josh Constine. Google Unites Gmail and G+ Chat into ‘Hangouts’ Cross-Platform Text and Group Video Messaging App // TechCrunch, 2013. May 15. UPL: http://www. techcrunch.com/2013/05/15/google-hangouts-messaging-app/.

30. Larry Greenemeier. Chipmaker Races to Save Stephen Hawking’s Speech as His Condition Deteriorates // Scientific American, 2013. January 18. UPL: http://www. scientificamerican.com/article.cfm?id=intel-helps-hawking-communicate.

31. Nick Bilton. Disruptions: Next Step for Technology Is Becoming the Background // New York Times, 2012. July 1. UPL: http://www. bits.blogs.nytimes. com/2012/07/01/google’s-project-glass-lets-technology-slip-intothebackground/.

32. Bruno Latour. Morality and Technology: The End of the Means // Theory, Culture and Society 19, 2002. Р. 247–260.

33. Bernhard Seefeld. Meet the New Google Maps: A Map for Every Person and Place // Google Lat Long (blog), 2013. May 15. UPL: http://www. google-latlong.blogspot.com/2013/05/meet-new-google-maps-map-for-every.html.

34. Evgeny Morozov. My Map or Yours? // Slate, 2013. May 28. UPL: http://www. slate.com/ articles/technology/future_tense/2013/05/google_maps_personaliz ation_will_hurt_public_space_and_engagement.html.

35. Kirkpatrick. Facebook Effect. Р. 199.

36. Sebastian Thrun. Google’s Driverless Car // speech at TED2011, 2011. March. UPL: http://www.ted.com/talks/sebastian_thrun_google_s_driverless_car.html.

37. National Safety Council. Annual Estimate of Cell Phone Crashes 2012. White paper, 2014.

38. См.: Sigfried Giedion. Mechanization Takes Command. N. Y.: Oxford University Press, 1948. Р. 628–712.

39. Langdon Winner. Autonomous Technology: Technics-out-of-Control as a Theme in Political Thought. Cambridge, Mass.: MIT Press, 1977. Р. 285.

Глава девятая. «Любовь… что рядами на землю уложит луг».

1. Цитируется по книге: Richard Poirier. Robert Frost: The Work of Knowing. Stanford, Calif.: Stanford University Press, 1990. 30.

Подробности биографии Фроста взяты из книги Пуарье, а также из книг: William H. Pritchard. Frost: A Literary Life Reconsidered. N. Y.: Oxford University Press, 1984; Jay Parini. Robert Frost: A Life. N. Y.: Henry Holt, 1999.

2. Цитируется по книге: Poirier. Robert Frost. 30.

3. Robert Frost. Mowing. Boy’s Will. N. Y.: Henry Holt, 1915. Р. 36.

4. Robert Frost. Two Tramps in Mud Time. A Further Range. N. Y.: Henry Holt, 1936. Р. 16–18.

5. Poirier. Robert Frost. Р. 278.

6. Robert Frost. Some Science Fiction. В книге: In the Clearing. N. Y.: Holt, Rinehart&Winston, 1962. Р. 89–90.

7. Poirie., Robert Frost. Р. 301.

8. Robert Frost. Kitty Hawk. В книге: In the Clearing. Р. 41–58.

9. Maurice Merleau-Ponty. Phenomenology of Perception. London: Routledge, 2012. Р. 147. Я знакомился с высказываниями Мерло-Понти по комментариям Губерта Дрейфуса: The Current Relevance of Merleau-Ponty’s Phenomenology of Embodiment // Electronic Journal of Analytic Philosophy, 1996. № 4. Spring UPL: http://www. ejap.louisiana.edu/ejap/1996.spring/dreyfus.1996.spring.html.

10. Benedict de Spinoza. Ethics. London: Penguin, 1996. Р. 44.

11. John Edward Huth. Losing Our Way in the World // New York Times, 2013. July 21. См. также: Huth’s enlightening book // The Lost Art of Finding Our Way. Cambridge, Mass.: Harvard University Press, 2013.

12. Merleau-Ponty. Phenomenology of Perception. Р. 148.

13. Там же. 261.

14. См.: Nicholas Carr. The Shallows: What the Internet Is Doing to Our Brains. N. Y.: W.W. Norton, 2010.

15. Pascal Ravassard et al. Multisensory Control of Hippocampal Spatiotemporal Selectivity // Science 340, 2013. № 6138. Р. 1342–1346.

16. Anonymous. Living in The Matrix Requires Less Brain Power // Science Now. 2013. May 2. UPL: http://www. news.sciencemag.org/physics/2013/05/livingmatrix-requires-less-brain-power.

17. Alfred Korzybski. Science and Sanity: An Introduction to Non-Aristotelian Systems and General Semantics, 5th ed. N. Y.: Institute of General Semantics, 1994. Р. 58.

18. John Dewey. Art as Experience. N. Y.: Perigee Books, 1980. Р. 59.

19. Medco. America’s State of Mind, 2011. UPL: http://www. apps.who.int/medicinedocs/documents/s19032en/s19032en.pdf.

20. Erin M. Sullivan et al. Suicide among Adults Aged 35–64 Years – United States, 1999–2010 // Morbidity and Mortality Weekly Report, 2013. May 3.

21. Alan Schwarz and Sarah Cohen. A.D.H.D. Seen in 11% of U.S. Children as Diagnoses Rise // New York Times, 2013. April 1.

22. Robert Frost. The Tuft of Flowers. В книге: A Boy’s Will. Р. 47–49.

23. См. Anonymous. Fields of Automation // Economist, 2009. December 10; Ian Berry. Teaching Drones to Farm // Wall Street Journal, 2011. September 20.

24. Charles A. Lindbergh. The Spirit of St. Louis. N. Y.: Scribner, 2003. Р. 486.

25. J. C.R. Licklider. Man-Computer Symbiosis // IRE Transactions on Human Factors in Electronics 1, 1960. March. Р. 4–11.

26. Langdon Winner. Autonomous Technology: Technics-out-of-Control as a Theme in Political Thought. Cambridge, Mass.: MIT Press, 1977. 20–21.

27. Aristotle. The Politics. В книге: Princeton Readings in Political Thought / Eds. Mitchell Cohen and Nicole Fermon. Princeton: Princeton University Press, 1996. Р. 110–111.

28. Evgeny Morozov. To Save Everything, Click Here: The Folly of Technological Solutionism. N. Y.: PublicAffairs, 2013. Р. 323.

29. Kevin Kelly. Better than Human: Why Robots Will – and Must – Take Our Jobs // Wired, 2013. January.

30. Kevin Drum. Welcome, Robot Overloads. Please Don’t Fire Us? // Mother Jones, 2013. May/June.

31. Karl Marx and Frederick Engels. The Communist Manifesto. N. Y.: Verso, 1998. Р. 43.

32. Anonymous. Slaves to the Smartphone // Economist, 2012. March 10.

33. Kevin Kelly. What Technology Wants // Cool Tools, 2010. October 18. UPL: http://www. kk.org/cooltools/archives/4749.

34. George Packer. No Death, No Taxes // New Yorker, 2011. November 28.

35. Hannah Arendt. The Human Condition. Chicago: University of Chicago Press, 1998. Р. 4–5.

36. Mihaly Csikszentmihalyi. Flow: The Psychology of Optimal Experience N.Y.: Harper, 1991. Р. 80.

37. Ralph Waldo Emerson. The American Scholar. Essays and Lectures. N.Y.: Library of America, 1983. Р. 57.

Благодарности.

Эпиграфом к этой книге стала заключительная строфа стихотворения Уильяма Карлоса Уильямса «К Эльзи», вошедшего в сборник 1923 года «Spring and All».

Я сердечно благодарен всем, кто своими интервью, обзорами и письмами оказал мне неоценимую помощь и помог глубоко разобраться в предмете. Вот эти люди: Клаудио Апорта, Генри Бир, Вероника Бобо, Джордж Дайсон, Герхард Фишер, Марк Гросс, Кэтрин Хэйлс, Чарльз Джекобс, Джоан Лоуи, Э. Дж. Мид, Раджа Парсураман, Лоуренс Порт, Джефф Роббинс, Джефри Роу, Ари Шульман, Ивен Сэлинджер, Бетси Спарроу, Тим Суон, Бен Трейнел и Кристоф ван Нимвеген.

«Стеклянная клетка» – третья моя книга, выпущенная под чутким руководством Брендана Карри из издательского дома «В.В. Нортон». Искренне благодарю Брендана и его коллег за все, что они для меня сделали. Кроме того, я в неоплатном долгу перед моим литературным агентом Джоном Брокманом и его партнерами из компании «Брокман, Инк.» за их мудрые советы и поддержку.

Некоторые фрагменты этой книги появились до ее выхода в свет, в периодических изданиях Atlantic, Washington Post, MIT Technology Review и в моем блоге Rough Type.

Примечания.

1.

Себастьян Трун – профессор компьютерных наук в Стэнфордском университете (Stanford Junior University) и бывший директор Стэнфордской лаборатории искусственного интеллекта (SAIL).(Здесь и далее, если не указано иное – Прим. ред.).

2.

Игры Джетсоны-онлайн. Семья Джетсонов живет в мире будущего, все это в скором времени ждет человечество.

3.

Аскеров Э. Рыцарь дорог. СПб.: Ленинградское издательство, 2009.

4.

Чиксентмихайи М. Поток. Психология оптимального переживания. М.: Альпина нон-фикшн, 2011.

5.

Смит А. Богатство народов. М.: Поппури, 2010.

6.

Книга издана на русском языке в журнале «Отечественные записки», № 3 за 2003 год.

7.

Дотком – термин, применяющийся по отношению к компаниям, бизнес-модель которых целиком основывается на работе в сети интернет.

8.

Уже неоднократно писали о том, что интернет открыл для многих людей новые возможности зарабатывать деньги, опираясь исключительно на собственную инициативу и не делая больших капитальных вложений. Можно продавать подержанные вещи через eBay или свои поделки через Etsy. Можно сдать скромную квартирку через Airbnb или сделать свой автомобиль машиной такси через Lyft. Случайную работу можно найти через сеть TaskRabbit. Действительно, с помощью интернета можно довольно легко заработать на скромную жизнь, но очень немногие интернет-предприниматели в своих доходах дотягивают до уровня среднего класса. Реальные деньги уходят в компании, создающие программное обеспечение и владеющие онлайновыми информационными центрами, связывающими покупателей и продавцов или арендодателей с арендаторами. Эти информационные центры автоматизированы и поэтому требуют очень немногочисленного персонала. – Прим. авт.

9.

В российском издании – Винер Н. Кибернетика и общество. М., 1958.

10.

Винер Н. Кибернетика, или Управление и связь в животном и машине. 1948–1961.

11.

На русском языке впервые опубликовано: Воннегут К. Механическое пианино. М.: Молодая гвардия, 1967.

12.

Эмпирическое наблюдение, изначально сделанное Гордоном Муром, согласно которому (в современной формулировке) количество транзисторов, размещаемых на кристалле интегральной схемы, удваивается каждые 24 месяца.

13.

Гироско2п – устройство, способное реагировать на изменение углов ориентации тела, на котором оно установлено, относительно инерциальной системы отсчета (простейший – юла).

14.

Этот самолет имел еще одно название – Дуглас DC-4/C-54 «Скаймастер».

15.

Уайли Пост – первый пилот, совершивший кругосветный полет в одиночку.

16.

Уайтхед А. Н. Основания математики: в 3 т. / Альфред Н. Уайтхед, Бертран Рассел; пер. с англ. Ю. Н. Радаева, И. С. Фролова; под ред. Г. П. Ярового, Ю. Н. Радаева. Самара: Книга, 2005–2006.

17.

Рефа2кторинг, или реорганизация кода, – процесс изменения внутренней структуры программы, не затрагивающий ее внешнего поведения и имеющий целью облегчить понимание ее работы.

18.

Амит Сингхал – почетный сотрудник компании Google, руководитель команды ранжирования.

19.

Использование таких терминов, как нейронная сеть и нейроморфная обработка, могут создать впечатление, что компьютеры работают как мозг. Однако эти термины нельзя понимать буквально; это всего лишь фигуры речи. Так как мы до сих пор не знаем, как работает мозг, как во взаимодействии нейронов рождается мышление и сознание, мы не можем пока построить компьютер, работающий как человеческий мозг.

20.

Гиппокамп – часть лимбической системы головного мозга (обонятельного мозга). Участвует в механизмах формирования эмоций и перехода кратковременной памяти в долговременную.

21.

Фрэнк Гери – один из крупнейших архитекторов современности, стоявший у истоков архитектурного деконструктивизма.

22.

Издана на русском языке: Палласмаа Ю. Мыслящая рука: архитектура и экзистенциальная мудрость бытия. М.: Классика-XXI, 2013.

23.

Перцепция – простое, еще не дошедшее до сознания впечатление.

24.

Картезианский дуализм – убеждение во взаимном исключении субстанций телесной и духовной.

25.

Вигильность – настороженность, осторожность, как преднамеренная и осознанная, так и скрытая, бессознательная (например, настороженность спящей матери в отношении своего ребенка).

26.

Полигональная сетка – это совокупность вершин, ребер и граней, которые определяют форму многогранного объекта в трехмерной компьютерной графике и объемном моделировании.

27.

Дэвид Сэмюэл Пекинпа (21 февраля 1925, Фресно, Калифорния – 28 декабря 1984, Инглвуд, Калифорния) – американский кинорежиссер и сценарист. Один из наиболее значимых новаторов кинематографа XX века, а также крупнейший ревизионист жанра вестерн.

28.

«Дикая банда» – классический американский вестерн, снятый Сэмом Пекинпа в 1969 году.

29.

Предлагая рассматривать видеоигры как модель и образец для программистов, я отнюдь не ратую за модную ныне практику создания программного обеспечения, называемого «игрофикация». Суть этой моды заключается в том, что приложение или сетевой сайт использует принятые в играх вознаграждения для мотивации пользователей и манипулирования ими. Цель – заставить человека повторно делать то, что нужно или выгодно разработчикам. Основанная на опытах по выработке условного рефлекса, проведенных в свое время психологом Б.Ф. Скиннером, игрофикация – оборотная сторона причастности к потоку. Привыкнув к вознаграждениям, связанным с пребыванием в потоке, люди накрепко привязываются к программе. «Компьютеризированные игровые автоматы, куда надо бросать монеты, являются классическим и хорошо известным примером автоматов, сконструированных для того, чтобы выработать у играющих наркотическую зависимость от потока», – пишет Наташа Доу-Шюлль в своей потрясающей книге “Addiction by Design: Machine Gambling in Las Vegas“ (”Конструкция зависимости: компьютерные азартные игры в Вегасе” (Princeton University Press, 2012)). – Опыт и переживания, которые в норме являются жизнеутверждающими, целительными и обогащающими, становятся для игроков опустошающими, навязчивыми и ведут к утрате самостоятельности и независимости». Даже если эти методы используют для благой цели, например для соблюдения диеты, то все равно игрофикация цинично завладевает психикой игрока. Она не может стать противоядием от ориентированной на технологию автоматизации, напротив, она доводит эту автоматизацию до ее крайней степени. Игрофикация – это средство автоматизации человеческой воли. – Прим. авт.

30.

Тейлоризм – система организации труда и управления производством, возникшая в США на рубеже XIX–XX веков. Характеризуется использованием достижений науки и техники в целях извлечения максимума прибавочной стоимости путем усиления эксплуатации рабочих.

31.

Роберт Фрост (1874–1963) считается в США лучшим поэтом XX века.

32.

Цит. по: Фрост Р. Неизбранная дорога / Пер. И. Кашкина. М.: Кристалл, 2000.

33.

Мерло-Понти М. Феноменология восприятия. М.: Наука, 1999.

34.

Разрушительные свойства косы еще больше подчеркиваются названием цветка – ятрышник (ятра – мужские гениталии; по-английски этот цветок называется orchis от греческого слова orkhis – «яичко»). Фрост хорошо знал классические языки и греческую литературу и, тем более, знал символическое изображение смерти как скелета в черном балахоне и с косой. – Прим. авт.

35.

Плектр (медиатор) – приспособление для извлечения звуков на некоторых струнных щипковых музыкальных инструментах (лютне, цитре, мандолине); костяная, пластмассовая, металлическая пластинка, гусиное перо или кольцо с коготком.

36.

Либертарианство – политическая идеология, в основе которой лежит запрет на «агрессивное насилие», то есть запрет на применение силы или угрозы по отношению к другому лицу.

Оглавление.

Стеклянная клетка. Автоматизация и мы. Введение. Готовность к действию. Глава первая. Пассажиры. Глава вторая. Робот у ворот. Глава третья. На автопилоте. Глава четвертая. Эффект вырождения. Интерлюдия. Танцующие мыши. Глава пятая. Офисный компьютер. Глава шестая. Мир и экран. Глава седьмая. Автоматизация для людей. Интерлюдия. Грабитель могил. Глава восьмая. Ваш внутренний робот. Глава девятая. «Любовь… что рядами на землю уложит луг». Примечания. Введение. Готовность к действию. Глава первая. Пассажиры. Глава вторая. Робот у ворот. Глава третья. На автопилоте. Глава четвертая. Эффект вырождения. Интерлюдия. Танцующие мыши. Глава пятая. Офисный компьютер. Глава шестая. Мир и экран. Глава седьмая. Автоматизация для людей. Интерлюдия. Грабитель могил. Глава восьмая. Ваш внутренний робот. Глава девятая. «Любовь… что рядами на землю уложит луг». Благодарности. Примечания. 1. 2. 3. 4. 5. 6. 7. 8. 9. 10. 11. 12. 13. 14. 15. 16. 17. 18. 19. 20. 21. 22. 23. 24. 25. 26. 27. 28. 29. 30. 31. 32. 33. 34. 35. 36.