Библиотека Михаила Грачева

Норберт Винер в редакции нашего журнала

С 27 июня по 2 июля в Москве проходил Первый международный конгресс ИФАК, Международной федерации по автоматическому управлению и регулированию, в работе которого принимал участие и известный американский ученый, один из основателей кибернетики, Норберт Винер. Редакция пригласила профессора Винера посетить наш журнал. 5 июля 1960 года Н. Винер побывал у нас и беседовал с работниками и авторским активом журнала «Вопросы философии». Ниже публикуется текст стенограммы этой беседы.

Академик М.Б. Митин. – Уважаемый профессор Винер! Как известно, журнал «Вопросы философии» – основной философский журнал, выходящий в Советском Союзе. На его страницах мы стараемся осветить весь комплекс философских проблем, и в частности, вопросы философии естествознания. Поэтому, само собой понятно, в определенном разрезе нас интересует также кибернетика. В последнее время на страницах журнала специально по вопросам кибернетики выступали наши ученые – академики А.И. Берг, С.Л. Соболев и другие. Мы ведем большую дискуссию по вопросам применения кибернетики к различным областям человеческого знания и вместе с тем занимаемся выяснением многих философских, социологических проблем, которые встают в связи с развитием кибернетики.

Мы хотели бы попросить Вас написать для нашего журнала статью по избранной Вами же теме в связи с проблемами, которые Вы столь плодотворно разработали.

Н. Винер. – Я буду очень рад это сделать. Я хотел бы сейчас сказать о тех темах, которые меня привлекают больше всего.

Меня интересуют прежде всего машины, которые умеют «думать», и машины, которые могут создавать другие машины, интересуют в плане проблем современной теории самоорганизующихся систем.

Частично машины, способные «думать», а также машины, которые в какой-то мере могут копировать самих себя, уже осуществлены. Так, в Англии Габор, венгр по национальности, создал машины, которые могут играть в различные игры. Здесь и возникают вопросы, которые я склонен считать философскими. В «думающих» машинах мы имеем своего рода «механических рабов». Здесь встает проблема рабства, но без жестокости. Положение оказывается именно проблематичным, ибо мы не можем одновременно сочетать две разные вещи, которых требуем от машины: с одной стороны, мы хотим, чтобы «раб» был умным, а с другой – чтобы он был «послушным». Эти два требования противоречат друг другу. Полностью осуществить одно из них – значит не достичь другого. Иными словами, мы имеем здесь дуализм, немного напоминающий квантовый дуализм, возникающий при определении пространственного положения и момента элементарной частицы.

Если мы создадим машину (а в ряде случаев мы уже достигаем этого), которая настолько «умна», что в какой-то мере превосходит человека, то мы не сможем сделать ее полностью «послушной». Контроль над такими машинами может оказаться очень несовершенным, а это значит, что мы должны быть весьма осторожны в их программировании. Подобные машины могут даже стать опасными, так как было бы иллюзией полагать, будто опасность устраняется просто в силу того, что это мы нажимаем кнопки. Человек, конечно, может нажать кнопку и остановить машину. Но, поскольку мы полностью не владеем всеми процессами, происходящими в машине, мы легко можем оказаться в неведении относительно того, когда следует нажать кнопку.

Программирование «думающих» машин [с.164] ставит перед нами, таким образом, моральную проблему, весьма похожую на те проблемы, которые мы обнаруживаем в народных сказках и легендах. Вспомните, например, известную сказку Гете о волшебнике и его ученике, забывшем заветное слово, которому подчинялась метла, носившая воду.

Нечто похожее может случиться, например, если у нас есть автоматизированная фабрика, производящая обувь. Она может произвести столько обуви и, не останавливаясь, продолжать производить ее, что эту обувь невозможно будет продать, и фабрика потерпит банкротство.

Вся проблема использования человеком машины состоит в том, чтобы мы знали, что спросить у этих машин и как это сделать, иначе они могут стать опасными.

Другими словами, пользуясь «умными» машинами, мы сами должны проявить больше ума и больше способностей, чем мы проявляли их до того момента, пока не пользовались ими. Если мы требуем «ума» от машины, то от себя самих мы должны потребовать еще больше ума.

Мне казалось, что это могло бы стать предметом статьи для Вашего журнала.

М.Б. Митин. – То, что Вы сейчас высказали, уважаемый профессор Винер, несомненно, представляет интерес, и мы поместили бы на страницах нашего журнала статью, которую Вы для нас подготовите. Но в то же время я должен заметить, что в подходе к некоторым проблемам, в трактовке этих проблем у нас, вероятно, обнаружатся различные мнения и различные точки зрения.

Н. Винер. – Я понимаю, что возможны различные мнения, но единственное, что я могу сделать, – это написать статью, выражающую мою точку зрения.

М.Б. Митин. – Это как раз то, что будет нас интересовать.

Н. Винер. – Я не имею в виду в какой-то мере нападать на Вашу точку зрения. Единственное, что я имею в виду, – это изложить свою.

М.Б. Митин. – Точно так же, как и мы, опубликовав Вашу статью, будем желать только одного: изложить нашу точку зрения по вопросу, который Вы в своей статье столь интересно будете рассматривать.

Н. Винер. – Я понимаю это и заинтересован именно в обсуждении, а не в одобрении.

М.Б. Митин. – Здесь присутствуют товарищи как работающие в редакции журнала, так и являющиеся нашим авторским активом. Вероятно, у них возникли вопросы по поводу высказанных Вами интересных соображений, дающих основание для развернутой беседы.

Н. Винер. – Я с радостью ожидаю вопросов и буду стремиться ответить на них, хотя, разумеется, не утверждаю, что смогу ответить на все вопросы.

Профессор И.В. Кузнецов. – Какие из вопросов, стоящих перед кибернетикой. Вы считаете сейчас наиболее важными и актуальными?

Н. Винер. – Прежде всего изучение самоорганизующихся систем, нелинейных систем и проблем, связанных с жизнью как таковой. Но все это – три способа сказать одно и то же.

И.В. Кузнецов. – В последние годы очень много обсуждался вопрос о предмете кибернетики, ее определении. Вносит ли что-либо новое профессор Винер в данное им определение кибернетики? Как он теперь сам ее определяет?

Н. Винер. – Нет, я не думаю, что определение кибернетики, которое было предложено мною (а я имел право вводить это определение, поскольку данный термин впервые определялся мною), требует изменений. Я определял кибернетику как науку об управлении и связи, будь то в машинах или живых организмах. Я обозначал эту область проблем словом «кибернетика» по той простой причине, что находил в процессах происходящих сегодня в биологических и инженерных науках много родственного и стремился к такому словоупотреблению, в котором родственность различного была бы выражена и осознана. Иначе работа в этих отраслях шла бы разрозненно и без понимания фундаментальной общности проблем. Цель состояла в том, чтобы объединить усилия в различных отраслях науки, направить их на единообразное решение сходных проблем.

Если бы я захотел сейчас изменить данное определение, это внесло бы сумятицу и путаницу.

А.Л. Субботин. – Мне бы хотелось узнать мнение профессора Винера по вопросу о том, насколько плодотворно, с его точки зрения, может быть применение методов кибернетики в экономических исследованиях и в совершенствовании экономических организаций.

Н. Винер. – Заранее не ограничивая себя какой-либо теоретической точкой зрения на экономику, я хотел бы сказать, что экономика – это один из примеров организованных систем. Проблема организующихся систем, важная для биологии и для ряда других областей знания, встает также и в экономике. Но в то же время в экономическом исследовании существуют специфические трудности. Эти трудности возникают в значительной мере из-за того, что мы сами являемся участниками тех экономических процессов, которые должны охватываться нашими наблюдениями. Очень [с.165] трудно получить хорошее наблюдение, когда сам наблюдатель находится, так сказать, «в резонансе» с тем явлением, которое он наблюдает. Я пытался использовать свою теорию предвидения в экономическом плане. Допустим, мы хотим предвидеть какое-нибудь экономическое количество. Известно, однако, как трудно получить статистические данные, которые были бы характеристиками именно этого количества за длительный период времени.

Изучая, например, стальную промышленность США, очень трудно получить единообразные статистические данные, поскольку мы бываем вынуждены менять самую основу, по которой они исчислялись, поскольку данные для разных периодов времени получены по разным критериям. И наше предсказание было бы крайне неточным, так как само количество, которое выражено в имеющихся статистических данных, не фиксировано однородно.

Следовательно, есть внутренние трудности, которые мешают получить надежные статистические данные на основании постоянных, не меняющихся от условий измерения критериев. Очень трудно поэтому добиться высокой разрешающей способности. Данная трудность, выступающая в проблеме экономического предвидения, конечно, должна иметь место и в других проблемах социальной науки.

Б.С. Украинцев. – Я хочу вернуться к той интересной теме, которая была предложена профессором Винером в качестве одной из возможных для нашего журнала. Вы говорили о возможных затруднениях в использовании «думающих» машин. Не совпадает ли затронутая Вами проблема с проблемой «надежности» механических устройств, моделирующих, например, некоторые функции мозга?

Н. Винер. – Проблема надежности машин, созданных человеком, зависит прежде всего от программы, которую он составляет. В живых же организмах надежность зависит от способности самих организмов к саморегуляции. Организм сам себя «вытягивает» из затруднений, не предусмотренных жесткой программой действия. Сегодня имеются машины, которые действуют аналогичным образом, то есть сами себя «вытягивают» из непредвиденных затруднений.

Б.С. Украинцев. – Для моделирования мозговых процессов необходимо ввести в действие и обеспечить согласованное функционирование многих миллионов элементов. Не возникнет ли перед нами задача борьбы со своеобразной «машинной шизофренией» (если иметь в виду логические машины)?

Н. Винер. – При построении машин со многими элементами мы прежде всего должны решать следующую задачу: добиться того, чтобы затруднения и неисправности, возникающие в отдельных частях, коррегировались самой же машиной. В машине мы имеем различные степени гомеостазиса, посредством которого машина сама себя организует, «вытягивает» себя из тех или иных затруднений, обеспечивает согласованное функционирование всех своих составных частей. Необходимо это учитывать при создании машин.

Человеческий глаз, например, прекрасно функционирует в различных условиях – при солнечном свете, в темноте, при свете звезд и т.д. Процесс гомеостазиса, обеспечивающий авторегулирование, идет здесь очень сложными путями.

Этим летом выходит в свет книга Стенли Джонса, английского хирурга, в которой он как раз обсуждает проблему приспосабливания живого организма к поступающей информации, проблему механизмов, посредством которых живое тело, состоящее из массы элементов, обеспечивает это приспособление авторегулировкой их совокупного действия.

Я не сомневаюсь в том, что по сделанным человеком машинам мы многое сможем узнать о живом человеческом организме, если добьемся, чтобы машины сами себя поддерживали. Тот факт, что среди многих людей, занимающихся инженерным делом, проблемами механизации и автоматизации, сейчас возникает интерес к биологии, к живым организмам, говорит о том, что не только я думаю так. Овладевая искусственными ступенями гомеостазиса в машине, мы проникнем в естественный механизм гомеостазиса живых организмов, и наоборот.

Действительный член Академии медицинских наук П.К. Анохин. – Я занимаюсь физиологией нервной деятельности. Мне было бы интересно узнать, какая проблема в области нейрофизиологии интересует Вас сегодня.

Н. Винер. – Я интересуюсь тем, как поля головного мозга, которые мы изучаем по осциллографу, организуют себя.

П.К. Анохин. – В Советском Союзе существует несколько направлений применения кибернетики к проблемам нейрофизиологии. Советскими физиологами найдены механизмы, обеспечивающие устойчивость саморегулирующихся систем. Приведу пример одного из них, обеспечивающего устойчивость кровяного давления. Наше исследование показывает, что в саморегулирующейся системе сила сопротивления оказывается тем большей, чем больше отклонение от нормы. [с.166]

Н. Винер. – Я очень интересуюсь этими проблемами нелинейных систем и лично занимался механизмами этого рода нелинейных систем. Сегодня как раз я обсуждал эти вопросы с профессором Е. Н. Соколовым.

П.К. Анохин. – Поскольку сопротивление возрастает в соответствии со степенью отклонения, нормальный организм трудно сделать больным. Это и есть основа устойчивости гомеостатических систем.

Вторая проблема, которая интересует нас и разрабатывается нами в полном соответствии с выдвинутыми Вами идеями, – это проблема очень быстрой организации в нервной системе проверочных механизмов, которые складываются раньше, чем само действие, контролируемое данным механизмом. Поступки человека ясно свидетельствуют о том, что он обладает проверкой результатов действия до того, как это действие совершает.

Н. Винер. – Иными словами, живой организм имеет несколько уровней выполнения действия. На первом, самом низшем уровне он просто отвечает на внешний стимул. На следующем, более высоком, организм отвечает на внешнее воздействие, исходя из истории своего предшествующего опыта, в согласии с которым он корректирует стимул, поступивший в данный момент.

П.К. Анохин. – Но механизм коррекции складывается раньше.

Н. Винер. – Это верно в том смысле, что организм должен определить свою «политику» до того, как он проведет эту «политику» в жизнь.

Я привел бы здесь следующий пример. Есть такое маленькое животное, живущее в Индии, - мангуст. Он питается змеями. Мангуст убивает змей благодаря тому, что имеет одно простое преимущество перед ними – у него лучше организованная нервная система. Сначала змея атакует, а мангуст отступает, притворяется, что не нападает, и контратакует в промежутке между агрессивными движениями змеи, и чем дальше развивается битва, тем чаще и чаще мангуст опережает змею в нападении, учитывая необходимый «зазор» между двумя действиями змеи. Наконец он умудряется атаковать змею в тот момент, когда она растянута и не может защищаться.

Иными словами, мангуст программирует свои действия, не только исходя из действий змей, которые он наблюдает, но и исходя из своего прошлого опыта, коррегируя его с поведением змеи. Одно несомненно, что мангуст может мобилизовать гораздо большую часть прошлого опыта, чем это способна сделать змея.

П.К. Анохин. – Вы привели очень интересный пример. Но ведь здесь перед нами и врожденное поведение, инстинктивно направленная деятельность.

Н. Винер. – Конечно, структура поведения мангуста является инстинктивной, но сама эта структура сформировалась в процессе эволюции.

Н.Ф. Овчинников. – Сказалось ли влияние каких-либо философских идей и каких именно в период создания кибернетики как новой науки?

Н. Винер. – Мне очень трудно ответить на этот вопрос. Но я могу сказать, что из философов прошлого один, несомненно, занимался бы сегодня проблемами кибернетики. Это Лейбниц. Современная теория информации является прямой наследницей логического исчисления Лейбница и его «Маthesis universalis».

М.Б. Митин. – Проблему кибернетических машин Вы, профессор Винер, как-то связываете с проблемой рабства. Но когда мы говорим о рабстве или о рабах, мы ведь исходим из представления о живом человеке, который находится в социальном угнетении. Применимо ли понятие рабства к машине?

Н. Винер. – Задача состоит в том, чтобы добиться от машины выполнения роли послушного слуги человека и в то же время вложить определенную часть ума и самостоятельности в эту машину.

Я употребил слово «рабство» лишь в фигуральном смысле. Но то, что мы хотим получить от машины (освободить себя от части труда и заставить машину выполнять наши приказания), во многом похоже на то, что люди в варварские времена хотели получить от других людей. Очень удобно иметь такого послушного слугу, за жизнь и благоденствие которого мы не несем никакой моральной ответственности.

П.К. Анохин. – Понятие рабства немыслимо без представления об отрицательных эмоциях.

Н. Винер. – Конечно, и в машинах есть нечто похожее. Во всяком случае машины «возмущаются» какими-то внешними воздействиями и самоорганизуются в ответ на эти воздействия. Бесспорно, трудно назвать это «эмоциями». К счастью, машины не эволюционируют в эмоциональном отношении. Но когда мы будем иметь очень сложные и развитые машины, может быть (я не уверен в этом), проблема человека, управляющего машиной, во многом будет подобна по содержанию проблеме человека, управляющего другим человеком. Мы можем оказаться в положении Пигмалиона.

Б.С. Украинцев. – В связи с этим я хотел бы спросить профессора Винера: можно ли, по его мнению, определить какие-то разумные пределы машинного моделирования мозговых процессов, предвидеть, что [с.167] есть какая-то сфера, дальше которой совершенствование машин уже не может идти?

Н. Винер. – Мне хотелось бы описать положение в следующих терминах. Мы имеем машины низшего порядка, которые действуют согласно заданной программе. Мы имеем машины более высокого порядка, которые изменяют свою программу путем обучения. Мы имеем машины, которые научаются учиться, и т.д. На низшем уровне машины более надежны и более быстры, чем человеческие существа. Но на более высоком уровне у людей появляются преимущества. Люди более гибки и обладают способностью оперировать плохо определенными идеями, «смутными» идеями. И где-то, на каком-то перекрестке, это преимущество начинает играть решающую роль.

Конечно, данный пункт не является жестко фиксированным и будет меняться в зависимости от уровня развития машин. Но я считаю, что этот пункт всегда будет существовать, хотя и не могу определить, каковы пределы развития машины в каждый данный момент.

А.Л. Субботин. – Разрешите задать еще один вопрос. Сейчас – как это случалось со всякой наукой, находившейся в стадии становления, – вокруг кибернетики очень много философских рассуждений, в том числе легковесных. Не можете ли Вы сказать, разработка каких реальных философских проблем важна для кибернетики и может, на Ваш взгляд, принести действительную пользу этой науке?

Н. Винер. – По-моему, основная задача состоит в том, чтобы возможно более точно и глубоко постичь организм самоорганизующихся и самовоспроизводящихся систем. Что касается людей, пошедших в кибернетику просто из-за того, что она стала модной, так ведь и в науке нередко возникает проблема: спасите меня от моих друзей!

М.Б. Митин. – Так как человек нуждается в отдыхе больше, чем машина, хотя и машина в нем тоже нуждается, мы, видимо, должны закончить нашу беседу, несмотря на то, что с удовольствием продолжили бы ее.

Позвольте мне от лица редколлегии нашего журнала и всех присутствующих сердечно поблагодарить профессора Винера за то, что он нашел время прийти в нашу редакцию и побеседовать с нами. Мы ему очень признательны и полагаем, что такого рода беседы – хорошая форма живых дружеских контактов между учеными разных стран.

Н. Винер. – Я благодарю вас за любезность и за то внимание, с которым вы меня выслушали. Я как раз хотел сказать, что это действительно лучший вид контактов между учеными разных стран. В Москве у меня было очень много сердечных и интересных встреч. До свидания.