Рубежи на пути к сингулярности
Никто не знает наверняка, когда роботы смогут сравняться с человеком по интеллекту. Однако я лично отнес бы это событие на конец нынешнего века по нескольким причинам.
Во-первых, поразительные успехи компьютерных технологий в значительной степени объясняются законом Мура. Но где-то в 2020–2025 гг. заданные им темпы развития начнут замедляться, а в какой-то момент рост, возможно, совсем остановится. Поэтому неясно, можем ли мы достоверно оценивать скорость новых компьютеров после этой даты. (Информацию о посткремниевой эпохе см. в главе 4.) При написании этой книги я исходил из предположения о том, что мощность компьютеров будет продолжать расти, но более медленными темпами.
Во-вторых, даже если компьютеры научатся считать с фантастической скоростью вроде 1016 операций в секунду, это не будет обязательно означать, что они стали умнее нас. К примеру, Deep Blue, компьютер-шахматист фирмы IBM, способен проанализировать 200 миллионов позиций в секунду и обыграть чемпиона мира. Но, несмотря на всю свою скорость и вычислительную мощь, этот компьютер больше ничего делать не умеет. А мы уже знаем, что истинный разум — это нечто гораздо большее, чем просто перебор и анализ шахматных позиций.
К примеру, среди аутистов встречаются эрудиты, способные творить чудеса с числами и запоминанием данных. Но этим людям бывает трудно завязывать шнурки, найти работу или жить в обществе. Покойный Ким Пик — человек настолько необычный, что стал прототипом главного героя фильма «Человек дождя», — помнил каждое слово из 12 000 книг и способен был производить вычисления, проверить которые мог только компьютер. Тем не менее его IQ равнялся 73, ему было сложно поддерживать разговор и, чтобы выжить, он нуждался в постоянной помощи. Без поддержки отца он был практически беспомощен. Иными словами, сверхбыстрые компьютеры будущего будут похожи на гениев-аутистов; они смогут запоминать громадное количество информации, но не способны будут самостоятельно выжить в реальном мире.
Даже если компьютеры сравняются с человеческим мозгом по скорости вычислений, им все равно будет не хватать необходимых программ, чтобы все это заработало. Скорость вычислений — всего лишь начало долгого пути.
В-третьих, даже если разумные роботы возможны, неизвестно, способен ли робот изготовить собственную копию, которая будет умнее оригинала. Математический аппарат для самовоспроизводящихся роботов был разработан математиком Джоном фон Нейманом (John von Neumann), изобретателем теории игр и участником разработки электронного компьютера. Он первым поднял вопрос об определении минимального числа исходных посылок, необходимых для того, чтобы машина могла воспроизвести сама себя. Однако Нейман никогда не обращался к вопросу о том, сможет ли робот сделать свою копию умнее себя. Более того, сама «разумность» — понятие спорное и общепринятого его определения не существует.
Конечно, можно смело предположить, что робот сумеет создать копию себя, сумеет снабдить ее более емкой памятью и лучшими вычислительными возможностями — для этого достаточно будет добавить в структуру дополнительные чипы. Но означает ли это, что копия будет умнее оригинала или просто быстрее? К примеру, калькулятор считает в миллион раз быстрее человека, но сказать, что он умнее, не повернется язык. Так что разум, очевидно, — это нечто большее, чем просто скорость и объем памяти.
В-четвертых, даже если вычислительные мощности компьютеров будут расти экспоненциально, программное обеспечение может за ними и не успеть. Если возможности компьютерного «железа» долгое время развивались за счет микроминиатюризации транзисторов и совершенствования технологии производства, позволявших размещать на одной и той же подложке все большее число электронных элементов, то с программным обеспечением все иначе. Для его создания нужен человек, который сядет за стол, возьмет карандаш и сочинит программный код. Это и есть самое главное ограничение: человек.
Программное обеспечение, как и любая творческая деятельность человека, развивается скачками; здесь бывают блестящие озарения и долгие периоды застоя и монотонной работы. Если в электронике как таковой достаточно было научиться вытравливать на кремниевой подложке все больше и больше транзисторов — и здесь закон Мура работал как часы, — то уровень программного обеспечения определяется такими непредсказуемыми качествами, как человеческая креативность и настроение. Поэтому все предсказания, касающиеся стабильного экспоненциального роста компьютерных мощностей, следует оценивать трезво. Цепь не может быть прочнее самого слабого своего звена, а слабое звено компьютера — программное обеспечение, которое создают люди.
В технике развитие часто идет по экспоненте, особенно если речь идет всего-навсего о повышении эффективности технологических процессов. Однако когда дело доходит до фундаментальных исследований, где трудно обойтись без удачи, мастерства и неожиданных гениальных прозрений, речь может идти скорее о «прерывистом равновесии», когда долгое время почти ничего не меняется, а затем вдруг происходит прорыв, который полностью меняет всю картину. Если взглянуть на историю фундаментальных исследований от Ньютона до Эйнштейна и до наших дней, становится понятно, что прерывистое равновесие более точно описывает способ развития фундаментальной науки.
В-пятых, как мы уже видели в исследованиях по реверсивному проектированию мозга, чрезвычайно высокая стоимость и просто масштаб проекта, по всей видимости, отсрочат его реализацию до середины века. А затем наступит время обработки данных, которая тоже может растянуться на много десятилетий, и в результате полная модель мозга, скорее всего, будет создана лишь к концу текущего столетия.
В-шестых, вероятно, не будет никакого «большого взрыва», когда машины вдруг, в один день, обретут сознание. Как прежде, если мы установим, что сознание обязательно включает способность планировать будущее при помощи моделирования, получится, что существует целая шкала сознания, целый спектр его уровней. Машины будут медленно двигаться по этой шкале вверх, и человек успеет подготовиться. Я считаю, что это произойдет ближе к концу века, так что времени на обсуждение всевозможных вариантов и путей у нас достаточно. Сначала у роботов появится некая форма «кремниевого сознания», и только потом — настоящее человеческое сознание.
Но здесь возникает другой вопрос. Наряду с механическими способами усовершенствовать тело человека существуют и биологические способы. Более того, весь ход эволюции основывается на отборе лучших генов — так почему бы человеку не «перепрыгнуть» через миллионы лет эволюции и не взять под контроль собственную генетическую судьбу?
