Что делать?

Перспектива, нарисованная в предыдущей главе, что и говорить, безрадостная. И я уже слышу голоса апологетов человечества: если немедленно не уничтожить все вычислительные машины, то хотя бы держать их развитие под строгим контролем и создавать только такие ЭВМ, которые бы подчинялись закону Азимова - в первую очередь заботиться и спасать человека, а во вторую - думать о сeбе.

Увы, это так же невозможно, как невозможно запретить какими-то законами прогресс науки и техники. То государство, которое это сделает, неизбежно в техническом развитии станет жертвой других, более развитых государств. Вспомним, как европейцы завоевали Америку и свели почти до нуля коренное население. Произошло это благодаря их более высокой технической оснащенности. Опереди американские индейцы в своем техническом развитии европейцев, создай корабли, пушки, ружья раньше Европы, и мы бы имели обратную картину.

Поэтому попытки государств или, в силу религиозных канонов, отдельных народов создавать какие-то препятствия (или просто не тратить средства) и не поощрять развитие науки и техники всегда кончались и будут кончаться плохо для этих государств и народов.

Но возможно ли удержать Е-мозг под контролем?

В связи с этим я задал бы воображаемому собеседнику такой вопрос: "А могли бы человекообразные обезьяны держать под контролем людей, если бы им дали такое право?" Да человек, будучи во много раз умнее (а значит, и хитрее) обезьян, всегда сумел бы избавиться от такого контроля, более того, поработил бы и заставил служить обезьян своим интересам, беспощадно уничтожая тех, кто стал бы препятствовать его планам. Так почему Е-мозг станет поступать с нами иначе?

Когда мы вплотную подойдем к созданию Е-мозга, любой диктатор или глава недемократического государства сможет тайно сделать последний рывок, создать с помощью Е-мозга сверхсильное оружие и завоевать весь мир. И относиться к этому умный Е-мозг будет не иначе, чем мы сейчас относимся к дракам животных или к поеданию хищниками других представителей биологического мира. Но скептики могут возразить: правитель государства-победителя сам окажется под пятой у Е-мозга (Е-мозгов). И это верно. Но несчастье это или благо (и для кого), мы рассмотрим в следующем разделе.