Бир. Кибернетика и управление производством. 1965

МЕХАНИКА НЕОПРЕДЕЛЕННОСТИ

Излучение частиц высокой энергии в процессе радиоактивного распада иногда считают единственным чисто случайным и полностью непредсказуемым процессом в природе. Некоторым покажется, что этот пример служит еще одной иллюстрацией того, что случайность, подобно красоте, существует только для наблюдателя и является формой проявления невежества. А может быть, мы просто хотим сказать, что нами еще не обнаружены законы, управляющие этим процессом. Поэтому вряд ли можно предложить использовать радиоактивные изотопы в кибернетической машине в качестве источника непредсказуемого разнообразия, не говоря уже о технических трудностях и высоких затратах, связанных с такой попыткой, ибо мы получили бы "рандомизатор", описываемый "не тем же языком", что машина. В этом случае практическое значение общего теоретического возражения, выдвинутого в последнем разделе, сводится к тому, что так называемая случайность, введенная в машину таким способом, может оказаться чем-то иным, хотя конструктор (а поэтому и машина) мог об этом не знагь. Может случиться, что это весьма специализированный и поэтому целиком упорядоченный и подчиняющийся определенным законам механизм достижения устойчивости на микрофизическом уровне материи. Если это так, то такая модель менее всего соответствует той модели, которая нам требуется.

Эта практическая трудность справедлива в отношении большинства моделей неопределенности, используемых в настоящее время. Ученый, каково бы ни было его образование, впервые приступающий к работе в кибернетике, обычно вначале полагает, что ему удастся без особого труда разработать устройство - рандомизатор, которое будет служить источником чисто случайных событий. И он пытается построить его, опираясь на свои знания. Для задач, решаемых в исследовании операций методом Монте-Карло, это устройство, как правило, будет удовлетворительным. Обычный подход ученого к проблеме создания такого устройства заключается не в том, чтобы искать подлинно случайные процессы, встречающиеся в природе, ибо он совершенно справедливо сомневается, что ему удастся их отыскать. Обычно он выбирает один из следующих двух методов. Первый сводится к тому, чтобы взять ряд частично понятых или почти совсем не понятых процессов и наложить их друг на друга, рассчитывая, что в результате получится такая смесь, что "она не может не быть случайной". Такой метод можно сравнить с программой для вычислительной машины, предназначенной для генерирования псевдослучайных чисел, и поэтому он вызывает аналогичное возражение.

Так, например, если мы возьмем последовательность натуральных чисел, начинающуюся с 1, найдем десятичные логарифмы этих чисел и возьмем, например, третью цифру в каждом из полученных чисел, то мы получим ряд такого типа. Мы вполне могли бы ожидать, что этот ряд будет случайным, понимая под этим, что частота появления каждой цифры будет стремиться к одной десятой от общего числа полученных цифр. На самом деле эта относительная частота не стремится к такому пределу, и поэтому полученный, как было показано М.Дж.Кенделлом (М.G.Kendall [M.G.Kendall, The Advanced Theory of Statistics, Charles Griffin, London, 1943]), ряд не является случайным в том смысле, в котором мы ожидали. Следовательно, риск, о котором мы предупреждали, не является химерическим, и с нашей стороны было бы опрометчивым полагаться на то, что наше собственное знание поможет нам определить, что мы не заблуждаемся. Кенделл отмечает, что даже такой выдающийся ученый, как Пуанкаре, споткнулся именно на этой ошибке.

Второй метод сводится к использованию процесса, который, по мнению самого ученого, не является случайным, но будет случайным для машины, в которую он вводится. Так, например, ряд произвольно соединенных шаговых искателей будет генерировать псевдослучайную последовательность до тех пор, пока она не начнет повторяться. Но если машина, в которую вводится это разнообразие, может быть устроена таким образом, что заканчивает работу за время меньшее, чем время основного цикла генератора случайных чисел, то случайность для машины сохраняется. Это чрезвычайно удачное устройство, так как оно соответствует нашему требованию, что процесс генерирования случайности должен быть выражен на том же языке, что и основной процесс (который может быть электрическим), и он вполне понятен. Поэтому такое устройство, по-видимому, не будет вносить в систему трудно уловимых воздействий и закономерностей природы, относительно которых ученый находится в блаженном неведении. Для первых машин, строящихся в настоящее время учеными, о которых говорилось в главах 13 и 14, а также для решения задач в теории исследования операций это приемлемая модель неопределенности. Но в конечном счете она просто окажется несостоятельной. И вот почему.

Мы представили себе возможность создания в будущем машин, обладающих способностью к развитию в такие структуры, которые мы не в состоянии постигнуть, машин, способных управлять процессами, которые в настоящее время не поддаются управлению, машин для усиления умственных способностей и т.д. Совершенно невозможно установить пределы деятельности таких машин будущего так, чтобы они работали только в рамках, определяемых ограничениями, заложенными в их собственные "рандомизаторы". Мы вновь сталкиваемся со знакомой дилеммой, но она относится к более сложным типам аппаратуры, нежели генераторы случайности, имеющие вид шаговых искателей. Если ученый стремится гарантировать случайный характер процесса, снимая ограничения, скажем, на время цикла или каким-либо иным путем, то в конечном счете он все равно ограничивает возможности машины в разнообразии. Для обеспечения такой гарантии необходимо глубоко понимать принцип работы машины, которым она пользуется для достижения эквифинальности. Но сложная кибернетическая машина как раз и представляет собой такую машину, которая достигает поставленной перед ней цели заранее неизвестным методом, т.е. методом, возможно, и недоступным для разума ее создателя. Именно в этом отношении второй очевидный подход ученого оказывается несостоятельным для будущего, хотя и может быть использован для современных машин, еще не достигших требуемого совершенства.

В некоторых машинах, упоминаемых в этой книге, регулярны процессы на входе, в других - на выходе, но все эти машины характеризуются наличием стохастических процессов либо на входе, либо на выходе, либо на входе и выходе одновременно. В машине, предназначенной для решения стоящей перед нами задачи, процессы являются стохастическими как на входе, так и на выходе. Кроме того, эти процессы должны были бы быть мультипликативными, a raison d'etre [Смысл существования (фр.). (Прим. перев.)] этой машины заключается именно в том, чтобы осуществлять преобразования таких процессов. Другими словами, в такую машину не требовалось бы вводить разнообразие как кибернетическое сырье для выполнения какой-либо конкретной работы, а она была бы предназначена исключительно для переработки имеющейся неопределенности на входе и на выходе. Именно с такой целью была создана стохастическая аналоговая машина SAM [Stochastic analogue machine. (Прим. перев.)], подробное описание которой было опубликовано в работе [Stafford Beer, The Mechanical Simulation of Stochastic Flow, Proceedings of the First International Conference on Operational Research, English Universities Press, London, 1957] и которая рассматривается исключительно как вероятностное вычислительное устройство, предназначенное для моделирования задач исследования операций методом Монте-Карло. В этом смысле выполняемые машиной стохастические преобразования, очевидно, соответствуют операционной модели задачи выбора оптимальных запасов на предприятии, рассмотренной нами в первой части настоящей главы. SAM была построена для моделирования задач именно такого рода. Она состоит из десяти генераторов S.D.G. [Synthetic data generator], каждый из которых дает выход, моделирующий определенное распределение вероятностей. При условии, что каждый S.D.G. может иметь такой стохастический выход, ясно, что если соединить эти десять S.D.G. между собой, то SAM в целом сможет моделировать методом Монте-Карло сложные задачи с несколькими процессами на входе и на выходе.

В данном случае мы не собираемся вновь перечислять все возможности использования SAM для решения задач исследования операций, мы хотим только дать кибернетическую оценку модели неопределенности, содержащейся в каждом S.D.G. Выход S.D.G. представляет собой временную последовательность, характер которой определяется появлением небольшого металлического шарика. Появление шарика обозначает событие. Следующее событие (появление следующего шарика) наступает с некоторым запаздыванием, и это запаздывание непредсказуемо. Однако вся временная последовательность в целом подчиняется заранее заданному распределению вероятностей. Выполнение этих условий обеспечивается благодаря тому, что S.D.G. содержит модели как "закономерной", так и "чистой" случайности.

Модель закономерной случайности состоит из ряда блоков запаздывания, каждый из которых способен задерживать появление шарика на различные интервалы времени. Время запаздывания может составлять 1, 2, 3 и т.д. до 40 секунд. Как только шарик попадает в блок запаздывания, его будущее в дальнейшем полностью определено. Перед этим блоком расположен механизм закономерной случайности или устройство распределения. Это устройство состоит из 100 "равновероятных" ячеек, каждая из которых характеризуется одинаковой вероятностью попадания следующего шарика. Заданное распределение, получаемое с помощью этого устройства, устанавливается за счет деления площади, ограниченной требуемой кривой распределения вероятностей, на 100 равных частей. В левой части кривой распределения находится участок, соответствующий, например, задержке в 15 секунд, в правой части - участок, требующий задержки, например, в 36 секунд. Таким образом, одна из "равновероятных" ячеек приключена к 15-секундной линии задержки, а другая - к 36-секундной. Остальные 98 участков распределены между лежащими в этом интервале 21 секундами задержки в соответствии с распределением их частот. Следовательно, если мода распределения соответствует 25 секундам и имеет частоту 18%, то не менее 18 "равновероятных" ячеек приключено к 25-секундной линии задержки. Таким образом, при достаточно большом числе опытов достигается "закономерный" эффект. Действительно, поскольку шарики попадают в 100 ячеек с одинаковой вероятностью, они появятся из машины спустя 15-36 секунд, а частота появления шариков после каждой задержки будет стремиться к величине, определяемой заданным заранее распределением. В то же время, поскольку каждый шарик вначале может попасть в любую из 100 ячеек, невозможно предсказать, какова будет действительно задержка между появлениями очередных шариков.

Таким способом SAM осуществляет "расчленение" модели неопределенности, о котором мы уже говорили, и обеспечивает требуемую закономерность этой неопределенности. Теперь остается пояснить, как в ней воспроизводится "чистая" случайность в требуемом входе из 100 ячеек.

Это осуществляется путем пропускания шарика через три различных механических "рандомизатора", назначение которых сводится к тому, чтобы сделать его путь совершенно случайным. Следует, однако, отметить, что при разработке конструкции механических "рандомизаторов" (подробности которой уже описаны в цитированной выше работе) были проведены многочисленные эксперименты, оценивающиеся по обычным статистическим критериям случайности, что является определенным допущением, на основе которого было достигнуто расчленение случайности. Мы уже признали, что понятие "чистой" случайности является несовершенным и временным понятием при нынешнем состоянии теории вероятностей. Рассматривая SAM как машину, работающую по методу Монте-Карло, следует признать, что с точки зрения обычных критериев построения моделей, принятых в теории исследования операций, она недостаточно обоснована. Но рассматривая ее как потенциальную кибернетическую машину, мы приходим к выводу, что такая модель неопределенности, по-видимому, удовлетворяет требованиям, сформулированным в последнем разделе. Посмотрим, почему так происходит.

"Чистая" случайность вносит разнообразие в систему из внешнего мира. Поэтому она не связана с риском внести причинность по цепи обратной связи от основного процесса. Разнообразие, которым она оперирует, выражено на том же самом "языке", что и основной процесс, который связан с упорядоченным поведением (детерминированное приключение) маленьких металлических шариков. "Рандомизаторы" же оперируют в терминах беспорядочного поведения шариков. Их устройство настолько незамысловато, что трудно себе представить, чтобы их поведением управляли какие-либо законы, не понятые конструктором. Шарики просто подвергаются механическим ударам, поэтому уж без всяких опасений можно утверждать, что их поведение для основной системы, "говоря на ее собственном языке", непредсказуемо. Единственным недостатком такой модели неопределенности, по моему мнению, является возможность вмешательства механических причин, например наклона. Но легче застраховаться от недостатков чисто механических путем высококачественного исполнения устройства, чем предупредить какие-либо неожиданные причины, которые могут, как известно, возникать при проведении численных преобразований (как в примере Кенделла) или в поведении альфа-частиц.

В созданной стохастической аналоговой машине имеется десять генераторов S.D.G., и я первый готов признать, что по своей конструкции вся эта машина с ее непрерывным треском и пощелкиванием металлических шариков весьма мало отражает тот уровень конструирования, на котором создается современная научная аппаратура. Но, насколько мне известно, она представляет собой единственную машину, обладающую способностью преобразовывать два множества стохастических процессов на входе и на выходе в любую заданную закономерность. Кроме того, эта машина полностью наблюдаема в работе и поддается "управлению". Этим я хочу сказать, что значения параметров машины можно непрерывно изменять по собственному усмотрению в процессе моделирования, а экспериментируя с моделью, можно получать информацию о том, как действительно работает изучаемая с ее помощью система. На этом мы закончим рассмотрение возможностей данной машины как орудия исследования операций.

С точки зрения кибернетики SAM скорее, чем любой другой известный нам и гораздо более сложный электронный механизм, отвечает требованиям, предъявляемым к модели неопределенности. Например, при исследовании проблемы усиления умственных способностей с помощью этой машины не возникает принципиальных затруднений в оценке получаемых результатов, так как работа этой машины основана на очень простом и в то же время весьма совершенном источнике разнообразия. Нельзя допустить, чтобы постоянно возникали опасения в том, что используемое для решения подобных задач вычислительное устройство может выдать искаженные данные о протекающих в нем самом преобразованиях псевдослучайных чисел, в то время как по идее такое устройство должно выдавать результаты, превосходящие все, на что способен человеческий ум.

Таким образом, кибернетический метод создания моделей неопределенности в настоящее время сводится к расчленению случайного поведения, моделированию "закономерного" компонента (что может быть изящно выполнено различными способами) и выборке из этой закономерности "чистой" случайности. Этот метод может быть эффективным для кибернетических машин, но он недостаточен для устройств, работающих по принципу Монте-Карло. Однако до сих пор еще не предложено удовлетворительного общего метода решения проблемы построения модели неопределенности, а изложенный здесь подход является примитивно механическим, хотя и обладает, по-видимому, определенными теоретическими достоинствами. Поиск идеальной модели "чистой" случайности, пожалуй, вообще является иллюзорным, ибо, чем более тщательному анализу мы подвергаем это понятие, стремясь установить его признаки, тем более внутренне противоречивым оно предстает перед нами. Необходимо исследовать проблемы неопределенности с иных позиций, ибо вряд ли какой-либо из подходов, удовлетворяющих некоторые области науки, может удовлетворить кибернетику. Это объясняется тем, что при описании реального мира другие науки вынуждены признавать очень сложную вероятность лишь в качестве одной из координат. А для кибернетики она является основным содержанием этого описания.

ГЛАВА 20. МОДЕЛЬ ЯЗЫКА

Совершенно очевидно, что если автор, пишущий научную книгу, злоупотребляет всякого рода "оговорками", то от этого изложение только проигрывает. Если автор впадает в такой грех, то в результате его текст изобилует весьма примитивными со стилистической точки зрения выражениями, вроде "так сказать", "если можно так выразиться" и т.п. По сути дела, все эти выражения совершенно излишни, так как читатель вообще не воспринимает их истинного смысла. Он просто считает, что автор страдает дефектом стиля, аналогичным в известном смысле нервному тику. Поэтому только в самом конце книги я даю подробное объяснение того факта, что язык, которым она написана, является лишь моделью языка кибернетических машин. Автор обращается ко всем, кто прочел хотя бы одну главу этой книги, с просьбой прочесть обязательно и это краткое заключение. Дело в том, что если читатель составит себе представление о кибернетике, не учитывая пояснений, данных в заключительной главе, то он сам будет в значительной мере повинен в неправильном истолковании того, что я хотел сказать.

Я обращусь вначале к примеру самой простой модели. "Небо затянуто облаками, но солнце пытается пробиться сквозь них". Что мы имеем в виду, говоря "пытается"? Или возьмем другую фразу: "Вода стремится установиться на определенном уровне". Что означает в данном случае "стремится"? Очевидно, что мы пользуемся подобными словами только для удобства: природа нашего языка такова, что зачастую из словесного описания некоторых систем создается впечатление, что в них существуют целенаправленные стимулы, хотя на самом деле таких стимулов в этих системах нет. Иногда это не имеет значения, но при рассмотрении биологических систем описания такого рода приводят к недоразумениям. Действительно, что такое инстинкт? Физиологи определенно считают, что инстинктивное поведение есть не что иное, как проявление закономерности, заложенной в животном от рождения. Они, конечно, не утверждают, что животные формулируют для себя цели, к которым они сознательно стремятся. Однако в обычном изложении очень трудно описывать поведение животных так, чтобы такая идея не подразумевалась. Сам того не замечая, ученый постоянно употребляет выражения вроде "стремление животного сделать то-то и то-то". Один зоолог (Дж.А.Рамсей (J.A.Ramsay)) специально подчеркивает эти трудности. Он признает, что, описывая биологические системы, практически невозможно избежать телеологии, т.е. приписывания этим системам осознанной целенаправленности действия. Поэтому он называет такие описания "телеологической стенографией".

Язык, которым пользуется кибернетика, таков, что в кибернетических описаниях столь же трудно избежать приписывания рассматриваемым системам осознанной целенаправленности. Следовательно, язык кибернетики в значительной степени также является телеологической стенографией. Биолог всегда может отвести обвинения в телеологии, указав, что телеологической является не его философия, а лишь язык, которым он пользуется, т.е. телеологическая стенография. Кибернетик также может воспользоваться этим аргументом, но поскольку кибернетика занимается изучением систем любого вида и поскольку для нее несущественно, является система живой или неживой (и в первом случае обладает ли она сознанием или нет), то здесь речь идет не просто о неточном употреблении слов, а о чем-то значительно более важном. Было уже неоднократно замечено, что люди, которые не осознают, что телеологические представления незаметно проникают в их суждения через язык, приходят к совершенно неправильным выводам. Единственной надежной гарантией от этой опасности является глубокое понимание методов теории исследования операций, используемых кибернетикой, в частности, в применении к моделированию.

Мы неоднократно отмечали, что "промышленное предприятие (фирма) представляет собой живой организм, реагирующий на изменения окружающей среды". Эта формулировка также выражена при помощи телеологической стенографии, так как в действительности мы отнюдь не считаем, что предприятие является живым организмом. Почему же в таком случае мы не используем сравнения: "предприятие подобно живому организму"? Мы не делаем этого потому, что такое высказывание подразумевало бы, что можно просто провести интересную аналогию между предприятием и живым организмом. Мы же хотим выразить гораздо более сложную мысль. Эту мысль в самом полном из всех возможных изложений можно представить следующим образом: "если принять, что предприятие является живым организмом, реагирующим на изменения окружающей среды, то отсюда вытекает ряд определенных следствий, а модель, построенная исходя из такого условия, представляет собой изоморфизм". Выводы, которые делает кибернетика, исходя из такого предположения, идентичны выводам, основанным на постулате "предприятие есть живой организм", но такие выводы никак не вытекают из сравнения "предприятие подобно живому организму". Следовательно, такая модель с учетом оговорки относительно телеологической стенографии является вполне обоснованной. Однако может случиться, что после построения кибернетической модели кто-нибудь из ее создателей заявит, к примеру, следующее: "Кибернетика показала, что предприятие действительно является живым организмом и поэтому рано или поздно оно погибнет". Но кибернетика ничего подобного не утверждает, ибо рассуждение начинается с условного "если". При решении кибернетических задач (а также учитывая все, что мы вкладываем в понятия моделей и изоморфизмов) логика такого рассуждения совершенно безупречна. Однако в других областях, в которых не используются методы исследования операций, против этой логики можно выдвинуть весьма правдоподобные возражения, хотя на поверку они все-таки оказываются несостоятельными.

Ярким примером такого рода являются некоторые исследования психологии самого человека, представляющей собой особую систему. Предположим, что человек болен шизофренией, т.е. у него имеет место раздвоение личности. Его сознание расходится с окружающей его действительностью. Психиатрам известно, что такой синдром часто встречается у индивидуумов, которые подвергались сильным эмоциональным потрясениям. Шизофрения даже в начальной стадии делает человека неполноценным, и поэтому психологи начали считать (я тоже использовал эту методику), что само ОТСУТСТВИЕ признаков шизофрении служит свидетельством того, что человек является вполне положительным. Наряду с этим возникли такие оценки, как "цельная, уравновешенная личность", которые оказались весьма полезными. Следует, однако, учитывать, что формулировка этих оценок дается также в телеологической стенографии. Их истинный смысл в отличие от того смысла, который в них вкладывался в период, когда они впервые начали применяться, заключается в том, что человек должен стремиться к некоторому, более совершенному состоянию. По-моему, именно, таким неправильным пониманием телеологической стенографии психологов объясняется появление в середине нашего века мифического представления о "положительном" человеке. Принимая за ЦЕЛЬ то, что первоначально было просто ОПИСАНИЕМ здорового состояния психики, человек подрывает свою инициативу, ограничивает воображение и ставит предел своим усилиям. У великих людей равновесие их разнообразных способностей и противоречивых страстей устанавливается благодаря широте взглядов и величию духа. Моделирование такого равновесия путем арифметического усреднения по времени и поступкам привело бы в лучшем случае к модели посредственности.

Неизбежность этдго печального вывода блестяще обнаружена Уильямом Г.Уайтом (William H.Whyte) [William H.Whуte, The Organization Man, Jonathan Cape, London, 1956], который исследовал результаты подобного моделирования и разоблачил лежащий в его основе миф. Я не хочу приписать ему свое мнение, что происхождение этого мифа следует искать в том, что используемая нами телеологическая стенография незаметно приводит к подмене описаний "целями", но такой взгляд тем не менее находится в полном соответствии с положениями Уайта.

Теперь, когда мы выяснили всю пагубность неправильного понимания телеологической стенографии, проанализируем, чем является она для кибернетики как науки. В конце книги, после того как даны все объяснения, вполне уместно дать определение кибернетической машины как "моделирующей системы, операционное поведение которой является изоморфизмом участка мозга". Но такое определение в целом (особенно ряд входящих в него слов) было бы бессмысленным для тех, кто не знаком с ходом всех наших рассуждений. Поэтому в книгах для краткости часто пользуются выражением "думающие машины", которое, упрощая это определение, по существу не искажает его. Но как обстоит дело с телеологической стенографией такого выражения? "Так, значит,- заявляют некоторые,- могут существовать думающие машины. Отсюда мы можем сделать вывод, что, во-первых, человек в конечном счете тоже представляет собой машину и, во-вторых, что мы вступаем в эпоху, когда все стороны деятельности человека станут доступны для моделирования. И вопрос лишь в степени соответствия". Если исходить из первого положения, то мы вскоре придем к последовательному философскому детерминизму, а исходя из второго - к "науке о создании человека". Такое "развитие" кибернетических взглядов, связанное с неправильным пониманием языка, представляет полный абсурд.

Подобные претензии не следует приписывать кибернетике, которая представляет собой достаточно мощную во всех отношениях науку: она поднимает деятельность руководства производством на новую ступень и дает более совершенные принципы управления, чем выдвигавшиеся до сих пор как в технике, так и в сфере управления производством. Ее основной метод состоит в специфическом использовании моделей, что позволяет с подлинно научной точки зрения подойти к решению самых необычных задач. Развитие кибернетики, наряду с развитием новых форм энергии, позволит по-новому представить себе общество будущего. При построении моделей кибернетика прежде всего обращается к биологическим системам, пытаясь скопировать их основные свойства. Таким образом, значение кибернетики в настоящее время определяется не приписываемой ей способностью создать сверхмозг, а необходимостью в кратчайшее время расстаться с архаической системой взглядов на сущность управления вообще.

Мало что можно сказать о модели языка, не касаясь философских и логических проблем, выходящих за рамки этой книги. Но и это немногое очень важно. Любая кибернетическая система выполняет определенные функции, которые можно описать. Чтобы устранить возможность неправильного понимания, необходимо выразить эти описания на языке самой системы. Каждый слышал, как хозяин собаки утверждает: "Она понимает все, что я ей говорю". И действительно, собака реагирует на речь своего хозяина, и если бы мы знали "язык собаки", то могли бы сказать, какой опыт такая реакция отражает. Но поскольку мы не знаем этого языка, то мы вынуждены применять его модель: "Она понимает все, что я ей говорю". Заключенные здесь опасности самоочевидны.

Модель языка системы, которым пользуется кибернетика, вносит в описание такие смысловые оттенки, от которых нам хотелось бы избавиться. Но мы не в силах этого сделать и поэтому всегда должны помнить о возможности неверных "толкований" при обсуждении нервных систем, мозга и машин. Существуют ли люди, которые готовы отрицать роль этики и эстетики только потому, что создана механическая черепаха? Как это ни абсурдно, действительно существуют. Пусть же тот, кто хоть в какой-то мере понимает истинное могущество кибернетики и ее возможности, не следует их примеру.

ЛИТЕРАТУРА

1. Norbert Wiener, Cybernetics, John Wiley, New York, 1948. [Русский перевод: Норберт Винер, Кибернетика, или управление и связь в животном и машине, "Сов. радио", М., 1958].

2. Stafford Beer, The Scope for Operational Research in Industry, Institution of Production Engineers, London, 1957.

3. Stafford Beer, Operational Research and Cybernetics, Proceedings of the First International Conference on Cybernetics, Namur, 1956.

4. Arnold Tustin, The Mechanism of Economic Systems, Heine-mann, London, 1953.

5. Heinz von Foerster, Quantum Theory of Memory, Transactions of Sixth American Conference on Cybernetics, Josiah Macy Jr. Foundation, New York, 1950.

6. W.Ross Ashby, An Introduction to Cybernetics, Chapman and Hall, London, 1956. [Русский перевод: У.Росс Эшби, Введение в кибернетику, ИЛ, М., 1959].

7. Claude Shannon and Warren Weaver, The Mathematical Theory of Communication, University of Illinois Press, Urbana. 1949.

8. John R.Bowman, Reduction of the Number of Possible Boolean Functions, Transactions of the Ninth American Conference on Cybernetics, Josiah Macy Jr. Foundation, New York, 1953.

9. Sir Arthur Eddington, Fundamental Theory, Cambridge University Press, 1948.

10. Stafford Beer, Operational Research and Financial Management, Accounting Research, vol.8, #1, 1957.

11. Stafford Beer, The Productivity Index in Active Service, Applied Statistics, vol.4, #1, 1955.

12. A.K.Sореr, Неопубликованная работа, 1956.

13. A.M.Turing, On Computable Numbers with an Application to the Entscheidungsproblem, Proc. Lond. Math. Soc. (2), 42, 230, 1947.

14. John von Neumann, The General and Logical Theory of Automata, Cerebral Mechanisms in Behaviour, John Wiley, New York, 1951. [Русский перевод: Дж.фон Нейман, Общая и логическая теория автоматов. Статья в брошюре: А.Тьюринг, Может ли машина мыслить? Физматгиз, М., I960].

15. Warren S.McCulloch and Walter Pitts, A Logical Calculus of the Ideas Immanent in Nervous Activity, Bulletin of Mathematical Biophysics, vol.5, 1943. [Русский перевод: У.С.Маккаллок, У.Питтс, Логическое исчисление идей, относящихся к нервной активности. В сборнике "Автоматы", ИЛ, М., 1956].

16. S.С.Kleene, Representation of Events in Nerve Nets and Finite Automata, Automata Studies, Princeton University Press, New Jersey, 1956. [Русский перевод: С.К.Клини, Представление событий в нервных сетях и конечных автоматах. В сборнике "Автоматы" под редакцией К.Э.Шеннона и Дж.Маккарти, ИЛ, М., 1956].

17. Frank H.George, Logical Networks and Behaviour, Logical Networks and Probability, Bulletin of Mathematical Biophysics, vol.18 and vol.19, 1956, 1957.

18. D.A.Shоll, The Organization of Cerebral Cortex, Methuen, London, 1956.

19. John von Neumann, Probabilistic Logic and the Synthesis of Reliable Organisms from Unreliable Components, Automata Studies, Princeton University Press, New Jersey, 1956. [Русский перевод: Дж.Нейман, Вероятностная логика и синтез надежных организмов из ненадежных компонент. В сборнике "Автоматы" под редакцией К.Э.Шеннона и Дж.Маккарти, ИЛ, М., 1956].

20. Nicholas Rashevsky, Mathematical Biophysics, University of Chicago Press, 1948.

21. Henry Quastler, Feedback Mechanisms in Cellular Biology, Transactions of Ninth American Conference on Cybernetics, Josiah Macy Jr. Foundation, New York, 1953.

22. Stafford Beer, The Impact of Cybernetics on the Concept of Industrial Organization. Proceedings of the First International Conference on Cybernetics, Namur, 1956.

23. Robert R.Bush and Frederick Mоsteller, Stochastic Models for Learning, John Wiley, New York, 1955. [Русский перевод: P.Буш и Ф.Мостеллер, Стохастические модели обучаемости, Физматгиз, М., 1962].

24. W.Grey Walter, The Living Brain, Duckworth, London, 1953.

25. W.Ross Ashby, Design for a Brain, Chapman and Hall, London, 1954. [Русский перевод: Уильям Росс Эшби, Конструкция мозга. Происхождение адаптивного поведения, ИЛ, М., 1962].

26. А.М.Uttleу, The Classification of Signals in the Nervous System, EEG Clin. Neurophysiol., vol.6, pp.479-494, 1954.

27. Frank H.George, Probabilistic Machines, Automation Progress, vol.3, #1, 1958.

28. Gordon Pask, Teaching Machines, Proceedings of the Second International Conference on Cybernetics, Namur, 1958.

29. W. Ross Ashby, Design for an Intelligence-Amplifier, Automata Studies, Princeton University Press, New Jersey, 1956.

30. Stafford Beer, Control Systems, An Introduction to Operational Research, English Universities Press, London, 1957.

31. Stafford Beer, A Technical Consideration of the Cybernetic Analogue for Planning and Programming, Process Control and Automation, vol.3, #8 and 9, 1956.

32. R.J.Gоldаcre and I.J.Lorсh, Folding and Unfolding of Protein Molecules in Relation to Cytoplasmic Streaming, Ameboid Movement and Osmotic Work, Nature, vol.166, p.497, 1950.

33. Gordon Pask, Physical Analogues to the Growth of a Concept, Proceedings of Symposium on the Mechanization of Thought Processes, N.M.S.O., London, 1958.

34. A.Porter, Introduction to Servo-Mechanisms, Methuen, London, 1950.

35. Ludwig von Bertalanffy, The Theory of Open Systems in Physics and Biology, Science, vol.III, 1950.

36. Herbert A.Simоn, Models of Man, John Wiley, New York, 1957.

37. G.Spencer Brown, Probability and Scientific Inference, Longmans, Green, London, 1957.

38. M.G.Kendall, The Advanced Theory of Statistics, Charles Griffin, London, 1943.

39. Stafford Beer, The Mechanical Simulation of Stochastic Flow, Proceedings of the First International Conference on Operational Research, English Universities Press, London, 1957.

40. William H.Whуte, The Organization Man, Jonathan Cape, London, 1956.