10. Явление машины

Появление математических машин вызвало во всем мире сенсацию и породило фантастические надежды. В самом деле, эти машины, как стало известно публике из популярных книг и статей, не только выполняли с невероятной скоростью вычисления над многозначными числами, но и производили операции, по-видимому, относящиеся к высшей математике, например, решали дифференциальные уравнения. Нетрудно понять, какое действие произвели эти сообщения на простого человека. Мы уже познакомились с особым механизмом, вырабатывающим у современного человека доверие и уважение к математике: в математических символах он ощущает всю триаду Великого Инквизитора: чудо, тайну и авторитет. Чудо состоит в бесчисленных и удивительных технических применениях, вторгающихся и ежедневно меняющих нашу жизнь; тайна в том, что язык математики, как будто преподаваемый повсюду, в действительности доступен очень немногим, а вытекающие из математики практические возможности не менее таинственны, поскольку отделены от нас премудростями теоретической физики; наконец, авторитет вытекает уже из того, что эта наука – наиболее достоверная из всех наук, а между тем в нашем мире не осталось других авторитетов, кроме науки. Понятно, какое впечатление должна была производить машина, интегрирующая дифференциальные уравнения: отсюда немедленно родился миф. Этот миф, несколько потускневший за прошедшие пятьдесят лет, сохранил какую-то часть своего очарования до наших дней, вместе с волшебным словом "кибернетика", которое когда-то придумал французский физик Ампер.

Если машина может заниматься высшей математикой, – простодушно полагали непосвященные, – значит машина может все. По-видимому, она скоро заменит умственную работу человека точно так же, как более простые машины уже заменили физическую. Более того, машины скоро научатся мыслить, а следовательно должны появиться искусственные разумные существа, которые будут жить вместе с нами, а если станут еще разумнее нас, то могут нам угрожать. Эта тема вызвала к жизни огромную, крайне бедную в своем художественном исполнении литературу, так называемую "научную фантастику". Поистине, это был "миф двадцатого столетия", не только доставивший всем подросткам (и взрослым инфантильного склада, каких теперь очень много) увлекательное чтение, но и заполнивший в какой-то мере онтологическую пустоту, оставшуюся после распада религии. Нельзя не вспомнить здесь технический термин, вошедший уже в наш обиходный язык: "наполнитель".

Миф о "разумных машинах" ложен в своей основе. О его "религиозных" функциях я скажу дальше, а теперь займусь его связью с математикой и конкретным содержанием "вычислительной техники". То и другое совсем несложно. Прежде всего, математика, применяемая в вычислительных машинах, очень проста и старомодна. По сравнению с тем, что делают серьезные математики, это второсортная математика, и все математики, имеющие более творческое направление ума и не слишком нуждающиеся в деньгах, ею пренебрегают. Сейчас я объясню, чт? именно делают вычислительные машины. С принципиальной стороны, если не считать инженерных усложнений, они нисколько не изменились за пятьдесят лет своего существования: нет никаких новых открытий.

В каждой вычислительной машине есть два механизма: арифметическое устройство и логическое устройство. Арифметическое устройство совершенно аналогично русским счетам; все арифметические операции точно так же сводятся в нем к сложению и вычитанию, только костяшки счетов заменены короткими электрическими сигналами, и передвигаются они не руками, а электронными приборами. Но в принципе в машине происходит то же, что и на счетах: цифры складываются путем соединения сигналов, изображающих слагаемые, а затем производится, в случае переполнения заданной длины, сигнал, означающий перенос. Отличие только в том, что вместо десятичной системы, принятой людьми лишь по той случайной причине, что у них на руках десять пальцев, в машинах применяется двоичная система записи чисел, более удобная для вычислений. В этой системе единица старшего разряда означает не десять, а две единицы ближайшего младшего. Впрочем, есть и машины, считающие в десятичной системе, как это делается на счетах. Если вы знаете, как работают счеты, вы знаете принцип арифметического устройства любой вычислительной машины. Она попросту делает это быстрее.

Логическое устройство позволяет выполнять операции в заданном порядке, предусмотренном программой. Все, что делает машина, запрограммировано человеком. В программе написано примерно следующее: взять из "памяти" машины два числа, хранящихся под номерами 3 и 17; сложить их; сравнить сумму с числом номер 11; если сумма больше числа номер 11, вычесть их нее это число, если меньше, прибавить к ней это число, и т.д. Для операции "взять число из памяти" в программе имеется особый знак, введение которого в машину запускает ток из памяти в арифметическое устройство. Следующий далее в программе знак "3" открывает путь этому току через ячейку памяти номер 3. Другой знак запускает описанное выше сложение (когда слагаемые уже введены из памяти в арифметическое устройство). Наибольшая "хитрость", на какую способная машина, это "выбор варианта" в зависимости от результата предыдущей операции. После сравнения этого результата с другим числом (путем вычитания) машина выдает один из двух знаков, "больше" или "меньше". Такой знак, вместе со следующим знаком программы, составляет очередную "команду" для машины, поскольку эти знаки действуют только совместно. Каждый может сконструировать такое двухтактное механическое устройство, например, замок, открывающийся с помощью ключа 1, а затем ключа 2, но не открывающийся от последовательного применения ключей 3 и 2. Подобное же электрическое устройство содержится в машине. Вот и все.

Все развитие машин за пятьдесят лет сводилось к количественному наращиванию и расположению этих приемов, но не привело ни к каким принципиальным новшествам. "Арифметика" машины стара, как мир, как все счеты, придуманные народами мира. Что касается ее "логики", то она соответствует вовсе не человеческому способу мышления, а придуманной математиками "формальной", или "символической" логике, служащей для окончательной записи математических теорем. Подчеркнем, что человек мыслит не этим способом, не при помощи формальной логики. Если мы что-нибудь знаем о человеческом мышлении, то несколько отрицательных истин, и одна из них состоит в том, что наш мозг работает не так, как машина. Математики, естественно, хотели бы имитировать работу мозга, но не зная, как он работает, они скопировали его более тривиальную деятельность по "оформлению" уже полученных результатов.

Впервые до этого додумался англичанин Бэббедж, один из основоположников математической логики. Вместе со своей сотрудницей леди Лавлейс (дочерью поэта Байрона) он сконструировал в середине девятнадцатого века вычислительную машину с арифметическим и логическим устройством, в принципе ничем не отличавшуюся от нынешних. [Чарльз Бэббедж был искусным вычислителем, что в его время очень ценилось, но причислять его к основоположникам математической логики нет никаких оснований. Свою машину он описал за 12 лет до появления положивших начало этой науке работ Буля и Де Моргана. Но Августа Ада Лавлейс, написавшая несколько лет спустя обширный комментарий к трактату Бэббеджа, брала уроки математики у Де Моргана и обладала не только математическим талантом, но и редкой для того времени логической культурой. К ее комментарию восходят некоторые из основных понятий и даже терминов возникшего столетием позже искусства программирования.] Но в то время были только механические машины, а в механическом исполнении машина Бэббеджа оказалась бы слишком громоздкой, и ее не удалось изготовить. Открытие Бэббеджа прошло незамеченным и было забыто. Его идея была осуществлена лишь в годы Второй мировой войны, когда возникшая к тому времени электронная техника доставила необходимые для того средства. Электрические сигналы гораздо удобнее для манипуляции, чем рычаги и шестерни (может быть читатель видел когда-нибудь механический арифмометр?). Сооружение первой современной вычислительной машины консультировал знаменитый математик фон Нейман, что весьма способствовало ее репутации. Но в то время идейная сторона этого изобретения была уже ясна: математическая логика, созданная Булем и другими, была уже развитой наукой. Фон Нейман применил эти математические методы в новой области техники, в чем и состояла его заслуга.

Конечно, в нынешних машинах арифметические и логические устройства весьма усложнились, но вряд ли в них применяется хоть одна новая идея, которой не описал бы фон Нейман в конце сороковых годов. Ему был известен также весьма рекламируемый в последнее время "вероятностный поиск с подкреплением", хотя он не применил его в машине. Этот метод неосновательно называют "обучением" машины, поскольку обучение человека (и животных) происходит несравненно сложнее. В машину вводится случайный механизм, например, таблица случайных чисел, с помощью которой она предпринимает заранее запрограммированные операции в случайном порядке и получает ряд результатов. В нее вводится также программа, оценивающая эти результаты, например, выдающая нуль, если полученные числа меньше двадцати, и единицу, если они больше двадцати. Когда случайно выбранная операция (из заранее заданного списка операций) приводит к числу больше двадцати, машина прекращает поиск по сигналу "1": она "научилась" выполнять операцию с приемлемым результатом. Точно так же, можно "обучить" машину выбирать из ряда операций наилучшую, тоже задав ей численный критерий.

Математика, применяемая в вычислительной технике, довольно примитивна. Она включает арифметику, самые начальные понятия математической логики (первые понятия исчисления высказываний), немножко комбинаторики и теории вероятностей. Поскольку математические машины имеют важные применения в экономике и военном деле, вокруг них выросла обширная математическая деятельность, именуемая "Computer Science" ("Компьютерная наука"). Но у этой науки нет ни четко определенного предмета, ни собственных методов исследования. Она вовсе не похожа на более содержательные части математики, а обязана своим положением конъюнктурным обстоятельствам, точно так же, как порожденная такими же социальными причинами "Nuclear Science" ("Ядерная наука"), состоящая из фрагментов физических теорий. В "компьютерной науке" встречаются замысловатые комбинаторные задачи, но не выработано никакого нового подхода к их решению. Вообще, комбинаторика (то есть подсчет определенных комбинаций из конечного числа предметов) представляет собой в математике бесплодный пустырь; в ней отсутствуют общие методы подхода к задачам, и каждая задача, если удается ее решить, требует специфического приема. При этом, в отличие от более развитых областей математики, не возникает никаких общих теорий. Думаю, что это не случайно, но здесь неуместно заниматься этим подробнее.

Огромная литература, возникшая под названием "компьютерной науки", лишь в небольшой части имеет прямое отношение к практической работе машин. Как всегда, преобладает "чисто теоретическая" деятельность, мотивируемая связью предмета работы с популярными приложениями. Этими вещами занимаются люди, способные к некоторой изобретательности в стиле комбинаторики, но не владеющие современной математикой. Это – второсортная математика, спекулирующая на прикладном значении вычислительных машин.

По существу, наиболее важные задачи в этой области относятся к "программированию", то есть к составлению программ для работы машин. Никакой "науки о программировании", однако, не существует. Есть только попытки формального описания того, что делает программист; эти попытки неинтересны в теоретическом отношении и бесполезны в практическом. Работа программиста – не научная деятельность, а ремесло, в лучших своих образцах – искусство. Он выполняет некую интуитивную оптимизацию, напоминающую китайские игры, где требуется уложить как можно компактнее заданный набор предметов в заданную шкатулку. "Ненаучность" этой деятельности почти видна из того, что хороший программист (подобно хорошему художнику) не в состоянии формально описать, как он это делает.

Более того, есть основания полагать, что "программирование" никогда не станет наукой. Я попытаюсь объяснить, почему я так думаю. Чтобы доказать, что некоторый план неосуществим, достаточно убедиться, что из его осуществления следовало бы решение другой задачи, которую с уверенностью можно считать неразрешимой. Программирование является особым видом мышления, но интуитивные подходы, применяемые в нем, по-видимому, очень близки к общим, неизвестным нам процессам умственной работы. Это подтверждается не только наблюдением за работой программистов и их опросом, но и тем фактом, что программируются, насколько это удается, любые задачи, имеющие серьезные приложения, так что приемы работы программиста относятся ко всей совокупности нужных человеку задач, иначе говоря, задач, для которых эволюция сконструировала наш мозг. Если бы могла существовать "теория программирования", то тем самым мы имели бы теорию работы человеческого мозга.

Только что высказанное утверждение имеет определенную форму, требующую комментария. Утверждается, что некоторая частная деятельность по существу равносильна более общей, содержащей ее, на первый взгляд, как частный случай. Такое утверждение нельзя доказать формальным рассуждением: оно представляет собой "закон природы", индуктивно выведенный из деятельности программиста и умственной работы человека вообще. Статус такого утверждения можно сравнить со статусом так называемого "принципа Тьюринга", объявляющего некоторый частный способ построения алгоритмов по существу универсальным, то есть приравнивающий частный случай – общему.[Это последнее замечание несущественно для понимания дальнейшего; оно требует более специального знакомства с алгоритмами] Мне кажется, что, предлагая здесь аналогичный новый принцип, я не наношу ущерба профессии программистов: их деятельность, правда, не является "наукой", но лишь потому, что в некотором смысле равносильна умственной работе человека вообще. По той же причине, как я уверен, неразрешима задача о "распознавании образов": если бы мы сумели когда-нибудь решить ее, то узнали бы, как работает наш мозг. Эти задачи по существу равносильны.

Здесь возникает вопрос: откуда у нас уверенность, что мы не способны построить "теорию работы мозга"? Ведь вся предыдущая аргументация предполагает, что эта задача, с которой отождествляется другая, по видимости более частная, заведомо неразрешима. Я приведу некоторые соображения в пользу такой точки зрения.

Можно было бы, конечно, сослаться на неудачу всех попыток создать искусственный разум: таким же способом закон сохранения энергии был угадан вследствие неудачных попыток построить вечный двигатель. Это сравнение мне не очень нравится, поскольку попытки создать искусственный разум, в сущности до сих пор всерьез и не предпринимались. Точнее говоря, времена, когда это казалось и в самом деле осуществимым, давно прошли. По мере того, как мы осознавали сложность мозга, серьезные люди переставали этим заниматься. Средневековые легенды, которые были очень серьезны, приписывали пражскому раввину изготовление человекоподобного существа – Голема, а затем Фаусту создание гомункулуса, человека в колбе. В начале девятнадцатого века Мери Шелли изображает более реалистический проект: Франкенштейн делает свое чудовище из мяса и костей человека. Но это уже скорее "научная фантастика". Что касается нынешних специалистов по "искусственному интеллекту", то их неудачи (и их методы) доказывают лишь, что для сколько-нибудь серьезных попыток создать искусственный разум время еще не пришло.

Придет ли оно когда-нибудь? Посмотрим на этот вопрос с эволюционной точки зрения. Человеческий мозг – самая сложная система, какую мы знаем во вселенной.[Конрад Лоренц считает самой сложной системой человеческое общество, состоящее из многих мозгов.] Мы не сомневаемся в том, что он возник на этой планете в результате процесса, длившегося около четырех миллиардов лет. Этот процесс происходил путем "проб и ошибок", причем биологи считают, что эволюция произошла неправдоподобно быстро, при известной им скорости мутаций: для выработки мозга природе не должно было хватить времени. Можно ли его сократить, введя, если можно так выразиться, вместо свободной конкуренции "плановое хозяйство"? Чтобы запланировать создание человека, надо было бы знать все существенные факторы среды, с которыми ему придется столкнуться. Чтобы он мог выжить, надо принять во внимание не только его внешнее окружение, то есть знать всю живую и неживую природу на Земле, до последнего вируса, способного его истребить. Надо знать еще его реакции на особей своего вида, то есть надо иметь теорию человеческого общества.

Как мы уже видели, возможности долговременного предсказания поведения столь сложных систем ограничиваются гносеологическим запретом. Но теория человеческого мозга, не дающая таких предсказаний, не могла бы объяснить и, тем более, содействовать выживанию человека и, следовательно, ни на что бы не годилась.

Скорее всего, система такой сложности, как человеческий мозг, вообще не может быть изготовлена по плану, и не может существовать теории, объясняющей ее работу. Вероятно, есть какие-то запреты типа боровской дополнительности, мешающие таким предприятиям. Поскольку я здесь выхожу за пределы известного, позволю себе сформулировать две "гносеологические теоремы", без всякой попытки их доказать.

I. Чтобы создать план системы, сравнимой по сложности с человеческим мозгом, системе той же сложности потребуется не менее 65 миллиардов лет (при возрасте вселенной втрое или вчетверо меньше).

II. Оптимальный по времени способ создания такой системы есть метод случайных мутаций и отбора наиболее приспособленных мутантов, причем необходимое для этого время не менее 3 миллиардов лет.

Вопрос о возможности "теории программирования" завел нас очень далеко, но при этом мы выяснили и несколько других популярных вопросов, к которым мы еще вернемся.

Что же все-таки могут делать машины, и чего можно от них ожидать?

Машины могут производить вычисления по заданной программе. Они ничего не "понимают", а выполняют одно за другим арифметические действия в указанной последовательности, так что получается приближенное решение дифференциального уравнения и т.п. Весь план решения составляется человеком, а машина лишь ускоряет арифметические действия.

Машины могут хранить в свой памяти, или во внешних хранилищах памяти любые данные, какие можно записать в виде знаков, и извлекать часть этих данных, отмеченных некоторым образом в памяти, по соответствующей команде. Это называется "банком данных" (и ничем не отличается от картотеки или папки с бумагами, кроме того, что куски картотеки или бумаги заменяются цепочками электрических сигналов).

Машины могут "сопоставлять" признаки какого-нибудь явления, записанные (человеком) со списком признаков, хранящихся в их памяти с определенными опознавательными знаками, и выдавать этот знак. Например, врач может ввести в такую машину закодированные симптомы, и если в машине есть такая цепочка символов, то она выдает знак, означающий "грипп". Это называется "экспертной системой".

Таким образом, машины могут быть полезны для быстрого выполнения вычислений, для хранения и выдачи данных и для перебора признаков. Все это делается по написанной человеком программе, без малейшей примеси чего-нибудь, напоминающего человеческое мышление, поскольку интуиция никоим образом не поддается формализации и не может быть придана машине.

Все рассказы специалистов по "компьютерной науке" и журналистов о том, что машины могут "обучаться", "принимать решения", "поддерживать разговор с человеком" представляют собой злоупотребления этими человеческими выражениями, т.е. сознательное или бессознательное надувательство, основанное на внешнем сходстве какого-нибудь нарочито устроенного фокуса с некоторым человеческим поведением. Если речь идет о фирмах, продающих компьютеры, то с их стороны надувательство является вполне сознательным. Например, японские фирмы, запуская в производство так называемое "пятое поколение" вычислительных машин, распространили с помощью средств массовой информации выражение "мыслящая машина" и т.п. Эти же фирмы построили в рекламных целях роботов, выполняющих роль официанта в ресторане и другие столь же интеллектуальные функции.

Более серьезные усилия были сделаны в разных странах в области машинного перевода текстов с одного языка на другой. С помощью очень сложной "логической" программы удалось добиться перевода без грубых ошибок специальных статей в узкой области техники; для каждой пары языков должна быть при этом проведена чрезвычайно сложная разработка программы, непригодная вне выработанной темы. Конечно, это пустое дело, потому что в случае обзорной статьи или статьи смешанного содержания, выходящей за пределы словаря, машина сразу же начнет выдавать вздор, а при быстром развитии техники смежные и даже далекие области переплетаются друг с другом и лексика предмета непрерывно расширяется. [Такая характеристика «машинного» (правильнее – автоматического) перевода отчасти верна только для второй половины 50-х и начала 60-х гг., когда эта область деятельности находилась в младенческом состоянии. С тех пор в ней произошло весьма серьезное продвижение, результаты которого имеют не только и не столько прикладное, сколько теоретическое значение (для лингвистики).]

На вопрос, можно ли построить мыслящую машину, мы даем, таким образом, безусловно отрицательный ответ. Иногда этот вопрос ставится в другой форме: "Может ли машина мыслить?" На это можно ответить дешевым софизмом: одну такую машину мы знаем – это человеческий мозг; почему же не могут существовать другие? Здесь надо яснее определить, что мы понимаем под машиной. Если называть машиной любую систему, выполняющую некоторый набор заданных операций, то можно с натяжкой подвести под это определение и человека – с натяжкой, потому что в случае человека этот набор операций необозрим. Но ясно, что такая терминология – не более чем игра словами. Слово "машина" имеет довольно установившийся смысл: это устройство, сделанное человеком для определенной цели. Если понимать слово "машина" в этом общепринятом смысле, то на вопрос, "может ли машина мыслить?", мы получаем отрицательный ответ.

Если заменить слово "машина" весьма неопределенным термином "система", то и человека можно назвать системой. Но при столь широком толковании этого понятия возникает вопрос, что же не является системой? В безответственном употреблении это слово может означать любой объект материального мира, если только не считать "системами" научные теории или религии. Ясно, что разумная постановка вопроса предполагает разумное определение понятий. Замените слово "система" словом "объект", и ваш вопрос примет следующий нелепый вид: "Может ли объект мыслить?" Да, может, но кого интересует такая банальность?

Если мы не способны изготовить "мыслящую" машину, то, может быть мы можем к ней сколько-нибудь приблизиться, создавая все более сложные роботы, заменяющие различные функции человека? Думаю, что и на этот вопрос приходится ответить "нет". Конечно, роботы могут заменить человека во многих его функциях, но лишь потому, что человеческий мозг обычно используется для примитивных, нечеловеческих функций. Помню, как я был поражен, увидев на месте автобусного кондуктора железный ящик. Я понимал, что ящик не вполне заменяет кондуктора даже в его официальных служебных обязанностях, и все же меня поразило, что живой человек всю жизнь делал то, что может за него делать железный ящик. В этом есть глубокое оскорбление человека.

В таком же положении находятся рабочие у конвейера, конторские служащие вроде счетоводов и регистраторов, многие категории учетчиков, контролеров и администраторов, и т.п. Вспомним, что на заре человеческого общества нашему мозгу нашли совсем уж простое употребление: его ели. Наш вид был единственным видом животных, регулярно практиковавшим каннибализм, так что ископаемые черепа находят, как правило, пробитыми.

Безусловно, можно заменить роботами большинство профессий, специализируя эти машины каждый раз на требуемой функции. Ничего не ст?ит заменить счетовода на службе, но не на улице и не дома. Вопрос в том, насколько можно приблизиться к человеку? Мерой приближения могут быть животные – наши родственники по ДНК, то есть имеющие с нами общего предка. Животные, в отличие от роботов, живут не в искусственной обстановке, а в естественной среде, что несравненно труднее. Муха улетит от пожара, а робот сгорит. Можно запрограммировать поведение робота на случай пожара, но возможно ли предусмотреть у него все, что предусмотрено эволюцией мухи? Уверен, что нет. Думаю, что никогда не удастся построить машину, способную исполнять такой же диапазон функций в "открытом" мире, как муха или таракан. Вспомним, что насекомые способны еще мутировать и приспосабливаться к ядам, климату и биологическим противникам! Невежество наших предков породило мировоззрение, подчеркивавшее ничтожность человека; мы же знаем достаточно, чтобы преклониться перед сложностью насекомых.

Мне представляется очевидным, что математические машины никогда не приблизятся к живому организму. Очень вероятно, что уровень машин, существующий в наше время (с арифметическим и логическим устройствами, как они описаны выше) и есть высший уровень, достижимый для машин. Иначе говоря, формальная логика и есть логика машин, и никакого другого мышления у них не может быть. Если это верно, то математические машины могут оказаться – в принципе – самыми сложными из возможных машин.

Попытки заставить машины совершенствоваться собственными силами – очень наивны. Я уже говорил о случайных ходах и "вознаграждении", подкрепляющем удачный вариант. Это попытка устроить "мини-эволюцию" в лаборатории, продолжительностью не дольше человеческой жизни. Но если и дольше? Эволюции на несравненно более сложной химической основе понадобилось миллиарды лет. Один умный автор, писавший об этом, назвал всевозможных изобретателей таких систем "искусственной интеллигенцией" (artificial intelligentsia).

По-видимому, возникновение математических машин означает, что так называемый "технический прогресс" в принципе завершился. И если человечество хочет дальше развиваться, то люди должны использовать свой мозг не столь примитивно, как это делают изобретатели машин. Возможности нашего мозга намного больше, чем мы можем себе представить. Но в какой-то момент истории оказывается, что некоторый путь пройден до конца, и надо искать другие пути.

С только что рассмотренной проблемой связан вопрос о происхождении жизни и вопрос о происхождении человека. Я думаю, что у нас нет надежды получить на них сколько-нибудь полный ответ. Если бы мы имели удовлетворительную теорию, объясняющую возникновение человеческого мозга, то в эту теорию неизбежно должно было бы входить описание, чт? же именно возникло. Мозг человека отличается от мозга кролика не только весом и числом извилин. Все, чем занимаются биологи, изучающие происхождение человека, касается лишь этих внешних признаков. Серьезная теория происхождения человека должна объяснить, как возникли единственные в своем роде структуры и функциональные связи, составляющие наш мозг. Но это значит, в частности, что надо знать, каковы эти структуры и как они действуют. Теория происхождения мозга предполагает понимание того, что такое мозг. Удивительно, что биологи так мало думали об этом. Впрочем, Конрад Лоренц говорит (в "Оборотной стороне зеркала"), что в ходе эволюции есть две пропасти, перед которыми останавливается наука – происхождение жизни и происхождение человека. Я не стал бы упрекать Лоренца в пессимизме. Может быть, мы узнаем со временем многое об этих вещах, но впереди всегда будет гносеологический барьер.

Так называемая "научная фантастика" занимается не только человекообразными роботами, но также "инопланетянами", нашими братьями по разуму, обитающими в других мирах. Сто лет назад некоторые астрономы полагали, что видят каналы на Марсе, и еще недавно на Марсе хотели видеть сезонные изменения растений. Теперь мы почти убедились, что в Солнечной системе нет никакой жизни вне Земли. Правда, есть основания думать (хотя это далеко еще не доказано), что планетные системы – довольно обычное явление во Вселенной. Если это верно, то почему бы на них не могло быть жизни, и даже разума, как у нас на Земле?

Обычная аргументация, какую приходится слышать, состоит в том, что "одинаковые причины приводят к одинаковым следствиям": если может существовать планета, приблизительно похожая на Землю, то на ней непременно возникнет жизнь (может быть, не похожая на нашу), а затем разум (может быть, не похожий на наш). В основе таких рассуждений лежит сильное желание получить некоторый результат – то, что по-английски называется "wishful thinking". Кроме того, здесь действует историческая привычка: географическое открытие Земли состояло в том, что на всех вновь открытых континентах и островах неизменно оказывались люди – черные, желтые, красные, но непременно люди. Предположение, что на других планетах мы обнаружим каких-то других людей, прямо происходит от этой привычки. Вначале воображали даже, что эти инопланетные люди совсем похожи на обыкновенных, например, могут вступать с ними в брак и иметь потомство.

В действительности догма об "одинаковых причинах и одинаковых следствиях" относится к очень ранней фазе развития науки и в свете того, что мы знаем, представляется схоластическим построением. Мы уже говорили о том, что для сложных систем предсказание (и однозначная определенность) будущего чрезвычайно сильно зависит от начальных условий, которые должны воспроизводиться с невероятной точностью, чтобы система могла развиваться сколько-нибудь похожим образом, хотя бы не очень долго. Была речь также о непредсказуемых квантовых эффектах, от которых зависят мутации. Никакое знание погоды на Земле в начале января не дает нам возможности предвидеть, каким будет март. И нам говорят, что на планете вроде Земли непременно должна возникнуть жизнь, а затем и разумная жизнь!

"Вероятность" возникновения жизни и разума – это термин, имеющий мало общего с теми вероятностями, которые подсчитывают математики. Нашлись ученые, выразившие словом "вероятность" свои субъективные фантазии, например, астроном фон Хорнер и, вслед за ним, советский астрофизик Шкловский. Я позволю себе еще раз отступить от эмпирически надежных рассуждений, как я уже сделал это в двух "гносеологических теоремах". Вот моя субъективная фантазия по поводу "множественности обитаемых миров".

Я думаю, что возникновение жизни и разума на Земле – редчайшие события, может быть, единственные во всей Вселенной. Именно крайняя "невероятность" этих событий делает столь трудной задачей изобретение даже гипотетических механизмов, как они могли произойти.

Если бы эти результаты эволюции на Земле увидел воображаемый Беспристрастный Разум, он сказал бы, что такого не может быть.

Я пришел к пессимистическим заключениям по поводу некоторых излюбленных человеческих иллюзий. Думаю, что никогда не будет построена мыслящая машина, и что никакая машина не может мыслить. Далее, я не считаю возможным построить машины, в принципе более близкие к человеческому мозгу, чем нынешние математические машины, и полагаю, что этим по существу завершится "технический прогресс". Наконец, я не верю в возможность сколько-нибудь полного решения вопроса о происхождении жизни и человека.

Доводы, приведенные выше, кажутся мне неопровержимыми. И все же – насколько на них можно полагаться?

В сороковых годах девятнадцатого века Огюст Конт привел в качестве очевидного примера непознаваемого для человека – химическое строение звезд. Прошло около десяти лет, Кирхгоф и Бунзен направили излучение звезд в изобретенный ими спектрограф, и люди узнали, из чего состоят звезды. Уверен, что мой пессимизм не будет опровергнут так скоро. Я пришел к этим мыслям уже давно, и ничто происшедшее за последние тридцать лет не заставило меня в них что-нибудь изменить. В обозримом будущем – обозримом для нас и людей начала двадцать первого века – трудно представить себе опровержение этих предсказаний.

Что касается более отдаленных времен, то я не берусь предсказывать человеческий мозг. Преодоление запретов может произойти, если можно так выразиться, в новых размерностях познания. Но это уже язык "научной фантастики": кто хочет любой ценой остаться оптимистом, непременно впадает в пошлость! Все же мне кажется, что вопрос о границах нашего познания и действия заслуживает внимания, и что мы переживаем в этом смысле критический момент истории.

Математические машины вошли в современную практику, а практика всегда нуждается в теоретическом обосновании. Как мы видели, при конструировании машин применяются элементарные математические средства – арифметика и начала математической логики. Для притязаний компьютерного бизнеса это было слишком мало. Недостававшую идеологию доставила так называемая "кибернетика", вошедшая в моду в конце сороковых годов. У кибернетики были почтенные истоки. Ее инициатором был знаменитый американский математик Норберт Винер, который, вместе с мексиканским физиологом Артуро Розенблютом, занялся исследованием работы человеческого сердца. При этом обнаружились важные закономерности, далеко выходящие за пределы этого специального вопроса: была открыта универсальная роль "обратной связи".

Устойчивость работы системы обеспечивается механизмами, следящими за ее отклонениями от "желательного" режима и исправляющими движение системы путем измерения некоторых параметров. При управлении лодкой отклонение от курса исправляется поворотом руля в ту или иную сторону, в зависимости от направления отклонения. Это делает рулевой, но можно устроить механизм ("автопилот"), автоматически реагирующий на отклонение соответствующим поворотом руля. (Кстати, от греческого слова "кормчий" – "кибернетес" – Ампер произвел за сто лет до того название гипотетической "науки об управлении", принятое Винером).

Применения обратной связи были давно известны в теории и практике автоматического регулирования – для механических и электротехнических систем. Математическое описание обратной связи было хорошо разработано, методами теории дифференциальных уравнений и алгебры. Заслуга Винера была в том, что он заметил такие же закономерности в работе живого организма, а затем – в экологических и социальных явлениях. Это было важное открытие, которое произвело сильное впечатление. Примерно в то же время, в конце сороковых годов, возникла теория информации. Ее инициатором был, еще в двадцатые годы, сам Винер, но лишь в 1948 году американский инженер Шеннон нашел ее фундаментальные применения в теории передачи сообщений. Оказалось, что понятие информации, в его количественном выражении, найденном Винером и Шенноном, так же, как понятие обратной связи, имеет универсальный характер и важно для описания работы не только технических, но и биологических систем. Естественно, эти далеко идущие аналогии между техникой и биологией, а также некоторыми аспектами общественной жизни, породили большие надежды. К этим научным событиям прибавилось появление – в те же годы – электронных вычислительных машин: математическая машина казалась моделью, воспроизводящей важные функции человеческого мозга.

Возникло представление, что закладываются основы будущей универсальной науки о закономерностях сложных систем, способной объяснить работу технических, биологических и общественных механизмов. Эту будущую науку Винер и назвал кибернетикой. Популярность кибернетики достигла высшей точки, пожалуй, в начале шестидесятых годов, когда она проникла в нашу страну (и перестала считаться буржуазной лженаукой). В то время на вопрос – может ли машина мыслить – уверенно давали положительный ответ, и ожидали скорого появления мыслящих машин. Даже сам Винер поддался этим спекуляциям и всерьез обсуждал, какие отсюда могут произойти последствия.

Но кибернетика не оправдала возложенных на нее надежд. Оказалось, что лишь некоторые аспекты работы живого организма аналогичны работе систем с автоматическим регулированием, и что обратная связь не является ключом, открывающим вход в "теоретическую биологию". Тем более не оправдались надежды на кибернетическое объяснение общества, хотя новые подходы, перенесенные из области автоматического регулирования, помогли понять и контролировать некоторые экономические процессы. Наконец, выяснилось, что человеческий мозг, вопреки первоначальным предположениям, работает вовсе не так, как цифровая вычислительная машина, хотя кодирование поступающей и исходящей из мозга информации напоминает аналогичные процессы у математических машин. Великий проект новой универсальной науки не удался.

Кибернетика так и осталась конгломератом разрозненных дисциплин, большею частью заимствованных из уже известных математических теорий. Одна только теория информации была по-настоящему нова, но своего специфического метода, какой должен быть у отдельной фундаментальной науки, у кибернетики нет. Любопытно, что в 1964 году Всемирный математический конгресс в Москве, выразил свое недоверие к кибернетике в следующей характерной форме: в обширной программе конгресса не было секции кибернетики (и вообще не упоминалось это слово), но была секция "математических методов автоматического регулирования". [Всемирный математический конгресс в Москве состоялся в 1966 г.]

Парадоксальным образом кибернетика все-таки оказалась чем-то вроде "лженауки". Новые науки возникают редко, и редко носят новые имена. У нас нет общей науки о сложных системах, и вряд ли когда-нибудь такая наука возникнет, вследствие уже известных нам особенностей таких систем. Если вам попадаются книги под названием "Общая теория систем", или в этом роде, не принимайте их всерьез: это пережитки кибернетического бума. Внешним признаком этой (весьма низкосортной) литературы является употребление блоксхем: рисуют прямоугольники с надписями в них, и соединяют их стрелками. Это может облегчить наглядное представление о составе и связях между частями системы, но, конечно, отсюда еще очень далеко до науки. Научное влияние кибернетики, пожалуй, уже исчерпано.

Между тем, из нее родился все еще живой и опасный кибернетический миф. Содержание этого мифа состоит в том, что нет принципиальной разницы между человеком и машиной, а следующая из него практическая установка, никем не формулируемая в открытой форме, но отчетливо видная в бесчисленных, постоянно повторяющихся явлениях современного общества, такова: Если нельзя сделать машину похожей на человека, сделаем человека похожим на машину.

То обстоятельство, что из мифа вытекает практическая установка, не должно вызывать удивления: все религии приводят к определенному практическому поведению, а у нас не осталось никакой серьезной религии, так что нам приходится довольствоваться каким-нибудь мифом. Я уже говорил о "наукопоклонниках". Преклонение перед "наукой", как ее понимает "простой человек", заменяет в нашем обществе религию и, как мы уже знаем, математические символы принимаются за священное писание этой религии. В рамках "преклонения перед наукой" ("Science worship") кибернетический миф занимает особое место; пожалуй, это его самая важная часть. Поскольку неполноценные суррогаты религии не имеют канонических текстов, кибернетический миф никем не написан, но живет в подсознании многих миллионов людей. Я попытаюсь изложить его в догматическом виде. Читателю это изложение может показаться карикатурой, и не случайно: низкосортные религии плохо выдерживают словесную формулировку, они стыдятся прямого выражения.

Кибернетический миф.

Наука всемогуща. Она доказала, что бога нет. Есть только вещи, какие мы видим вокруг нас. Ученые умеют управлять вещами и создавать вещи. Все, что нам нужно, это иметь вещи: еду, одежду и предметы, дающие престиж. Все это зависит от ученых. Другие люди могут делать вещи, но ученые говорят, как их делать, и придумывают новые вещи. Это они придумали электричество, телевизоры, автомобили, и кто знает, что они выдумают еще.

Ученые – это особенные люди, у них свои тайны и свой язык. Они говорят на языке формул. Это – математика. Математика достоверна, и поэтому ученые не ошибаются. Самые умные машины, какие они придумали, – это компьютеры. Компьютеры сами действуют, как математики. Они все умеют делать, а теперь учатся думать. Конечно, они скоро буду думать лучше и быстрее нас.

Если сделать робота и поставить ему в голову компьютер, он будет думать, как человек, или лучше. Правда, он не будет чувствовать. Но это, пожалуй, его преимущество: чувствовать – это неэффективно и старомодно. Впрочем, можно устроить так, чтобы у него были только правильные природные чувства. Такой робот будет лучше человека, его уже описал Азимов.

Все несчастья человека от того, что он ужасно старомоден. У него масса ненужных чувств, и он от этого страдает. Машины не страдают, они всегда эффективны. Я хочу быть машиной!

Страница 12 из 14 Все страницы