Физика будущего

Отдаленное будущее (2070–2100 гг.) Когда машины обретут сознание

В фильмах про Терминатора рассказывается о том, как Пентагон построил и с гордостью запустил в действие Skynet — громадную сверхзащищенную компьютерную сеть, предназначенную для управления ядерным арсеналом США. Эта сеть безупречно исполняла свои обязанности до тех пор, пока однажды, в 1995 г., неожиданно не произошло что-то очень странное. Суперкомпьютер Skynet осознал себя. Люди, работавшие с сетью, с изумлением поняли, что их детище внезапно обрело разум, и попытались выключить его, но опоздали. Защищая себя, Skynet решил, что единственный способ обеспечить собственную безопасность — это уничтожить человечество. Для этого он начал разрушительную ядерную войну. Вскоре три миллиарда людей сгорели в пламени бессчетных ядерных взрывов. После этого Skynet выпустил в мир легионы роботов-убийц, целью которых было уничтожение оставшихся. Современная цивилизация рухнула, оставив после себя лишь крошечные жалкие шайки бандитов и бунтарей.

А в трилогии «Матрица» люди показаны настолько примитивными, что даже не понимают: машины уже захватили мир. Люди занимаются повседневными делами, думают, что все нормально, и не замечают, что на самом деле живут в коконах. Их мир — всего лишь модель виртуальной реальности, которой управляют хозяева-роботы. Человеческое «существование» — всего лишь компьютерная программа, выполняемая большим компьютером; данные с нее поступают непосредственно в мозг людей, живущих в этих коконах. Единственная причина, по которой машины вообще терпят присутствие людей, — тот факт, что их можно использовать как источники питания.

Конечно, задача Голливуда — напугать аудиторию до полусмерти. Но сюжеты этих и других фильмов поднимают законный научный вопрос: что произойдет, когда роботы наконец станут умнее нас? Что произойдет, когда роботы проснутся и осознают себя? Ученые активно обсуждают вопрос, что будет — причем не если, а когда произойдет это знаменательное событие.

Некоторые эксперты утверждают, что наши создания-роботы будут постепенно подниматься по эволюционному древу. Сегодня они сравнимы по интеллекту с тараканами. В будущем они вырастут и сравняются с мышами, кроликами, собаками и кошками, обезьянами, а затем станут соперничать с человеком. На медленное преодоление этого пути могут уйти десятилетия, но ученые верят, что это всего лишь вопрос времени и когда-нибудь машины обязательно превзойдут нас разумом.

Исследователи ИИ расходятся в вопросе о том, когда это может произойти. Некоторые говорят, что не позже чем через двадцать лет роботы приблизятся по разумности к человеческому мозгу, а затем оставят своих создателей далеко позади. В 1993 г. Вернор Виндж (Vernor Vinge) сказал: «Не пройдет и тридцати лет, как у нас появится техническая возможность создать сверхчеловеческий разум. Вскоре после этого эра человека закончится… Я буду удивлен, если это событие произойдет раньше 2005-го или позже 2030 г.».

С другой стороны, Дуглас Хофштадтер (Douglas Hofstadter), автор книги «Гёдель, Эшер, Бах», говорит: «Я буду очень удивлен, если что-нибудь хотя бы отдаленно похожее произойдет в ближайшие 100–200 лет».

Когда я разговаривал с Марвином Мински из MIT — одной из основополагающих фигур в истории искусственного интеллекта, он заметил, что не назначает сроков для этого события и не может сказать, когда именно оно произойдет. Он уверен, что такой день наступит, но категорически отказывается выступать в роли пророка и предсказывать точную дату. (Возможно, будучи мэтром ИИ — области науки, в создании которой он участвовал практически с нуля, Мински видел слишком много несбывшихся прогнозов, породивших к тому же обратную реакцию.)

Немалую часть проблемы с датами и сценариями составляет тот факт, что общепринятого представления о том, что такое сознание, просто не существует. Философы и математики бьются над этим вопросом не одно столетие, а воз и ныне там. Мыслитель XVII в. Готфрид Лейбниц, изобретатель интегрального исчисления, однажды написал: «Даже если бы можно было увеличить мозг до размеров ветряной мельницы и побродить внутри, никакого сознания мы бы там не нашли». Философ Дэвид Чалмерс составил список из почти 20 000 научных работ, написанных на эту тему, и не обнаружил у авторов какого бы то ни было единого мнения.

Нигде в науке столь громадные усилия множества людей не дали столь ничтожного результата.

Слово сознание, к сожалению, относится к тем громким и красивым словам, которые для разных людей означают разное. Как ни печально, общепринятого определения этого понятия не существует.

Лично я думаю, что неспособность четко определить сознание, а также измерить его количественно — это одна из серьезных проблем науки, занятой созданием искусственного интеллекта.

Но если бы мне предложили попробовать самому, я начал бы с того, что сознание включает в себя по крайней мере три основных компонента:

1) восприятие и распознавание окружающего мира;

2) самоанализ;

3) планирование будущего, постановку целей и составление планов, т. е. моделирование будущего и выбор стратегии.

При таком подходе можно сказать, что даже простые механизмы и насекомые обладают какой-то формой сознания, Которую можно оценить численно по шкале от 1 до 10. Существует целое пространство сознания, которое можно представить в количественной форме. Молоток не способен воспринимать окружающий мир, так что его сознание можно оценить как 0 по принятой нами шкале. Однако термостат, к примеру, уже способен воспринимать и оценивать окружающую действительность. Суть термостата в том, что он чувствует температуру окружающей среды и действует в соответствии с ней, при этом изменяя ее; сознание термостата можно оценить уровнем 1. Следовательно, любые механизмы с обратной связью обладают примитивной формой сознания. Черви тоже способны воспринимать окружающий мир. Они чувствуют присутствие пищи, партнера, а также опасности и действуют в соответствии с полученной информацией, но больше не могут почти ничего. Насекомые воспринимают мир несколькими органами чувств (к примеру, зрение, слух, нюх, датчик давления и т. п.) и достойны более высокой численной оценки; их сознание следует оценить, возможно, в 2 или 3.

Высшей формой восприятия действительности должна быть способность распознавать и понимать объекты окружающего мира. Человек в состоянии мгновенно оценить обстановку и действовать в соответствии с ней — а значит, его сознание достойно высокой оценки по нашей шкале. Однако именно здесь роботы не в состоянии составить нам серьезную конкуренцию. Распознавание образов, как мы уже видели, — один из принципиальных рубежей на пути к искусственному интеллекту и одновременно одно из серьезнейших препятствий. Роботы способны воспринимать окружающий мир гораздо лучше людей, но они не понимают и не узнают то, что видят. Из-за неспособности распознавать образы роботы на шкале сознания оказываются на самых нижних ступеньках, где-то рядом с насекомыми.

Следующий, более высокий уровень сознания связан с самоанализом. Если поставить зеркало почти перед любым животным мужского пола, реакция будет немедленной и довольно резкой: самцы проявляют откровенную агрессивность, иногда даже нападают на зеркало. Изображение заставляет животное-самца защищать свою территорию. Многие животные не сознают себя — и, соответственно, не узнают себя в зеркале. Однако обезьяны, слоны, дельфины и некоторые птицы быстро понимают, что отражение в зеркале — это они сами, и прекращают бессмысленные атаки. Человек близок к верхней планке этой шкалы, поскольку обладает высокоразвитым самосознанием и прекрасно понимает, кем он является по отношению к другим животным, другим людям и миру в целом. Мало того, человек настолько осознает себя, что способен вести внутренний диалог с самим собой, а значит, мысленно оценивать ситуацию.

Наконец, животных можно оценить по их способности планировать будущее. Насекомые, насколько нам известно, не ставят перед собой сложных целей. Напротив, они по большей части реагируют на окружающую обстановку непосредственно, шаг за шагом, и полагаются целиком на инстинкты и сиюминутные внешние раздражители.

В этом смысле хищники по уровню сознания стоят выше, чем их жертвы. Хищникам приходится кое-что планировать заранее: подыскивать место для логова, планировать засаду, выслеживать, предугадывать действия добычи. Добыче же, как правило, достаточно просто убегать, и побыстрее, так что ее сознание следует оценивать ниже.

Далее, приматы способны импровизировать, составляя планы на ближайшее будущее. Если показать человекообразной обезьяне банан, который находится рядом, но вне пределов досягаемости, она может изобрести какой-нибудь способ достать банан; к примеру, воспользоваться палкой. Так что, имея перед собой конкретную цель (достать пищу), приматы планируют ближайшее будущее так, чтобы достичь этой цели.

Однако в целом животные не обладают развитым чувством отдаленного прошлого или будущего. Очевидно, в животном Царстве не бывает завтрашнего дня. Нет никаких свидетельств того, что животные могут планировать будущее на несколько дней вперед. (В преддверии зимы многие животные запасают пищу, но такое поведение запрограммировано генетически: гены заставляют их реагировать на снижение температуры усиленными поисками еды.)

Зато человек обладает прекрасно развитым чувством будущего и постоянно составляет планы. В голове каждый из нас непрерывно моделирует будущую реальность. Мы способны составлять планы, которые простираются далеко за пределы нашей собственной жизни. Более того, мы оцениваем других людей по их способности верно предугадать развитие ситуации и сформулировать конкретную стратегию поведения на этот случай. Умение предсказать будущее, взвесить возможные последствия и сформулировать конкретные цели с учетом всех обстоятельств — важная часть способности к лидерству.

Иными словами, эта форма сознания включает в себя предвидение будущего, т. е. создание многочисленных моделей, аппроксимирующих будущие события. Для этого необходимо великолепное владение принципами здравого смысла и законами природы. Вы должны постоянно задавать себе вопрос: «Что будет, если?..» Не важно, что вы планируете сделать — ограбить банк или избраться в президенты; чтобы спланировать задуманное, вам все равно придется строить в голове многочисленные модели возможного будущего.

Все данные указывают на то, что на Земле этим искусством овладел пока только человек.

В этом можно убедиться, в частности, при анализе психологических профилей. Специалисты часто сравнивают психологические профили взрослых с их же профилями, полученными, когда они были детьми. Затем задается вопрос: какое качество в профиле ребенка могло указать на будущий успешный брак, успешную карьеру, богатство и т. п.? Если исключить из картины социоэкономические факторы, обнаруживается, что нередко в профиле одна характеристика выделяется среди остальных: способность откладывать удовольствие. Согласно многолетним исследованиям Уолтера Мишеля (Walter Mischel) из Колумбийского университета и многих других ученых, дети, способные воздержаться от немедленного получения удовольствия (к примеру, не съесть сразу же полученную палочку пастилы) и дождаться обещанной более высокой награды (скажем, двух палочек пастилы вместо одной), позже стабильно добиваются более высоких результатов едва ли не во всех мыслимых областях жизни: в учебе, в любви и в карьере.

Следует заметить, что способность отложить удовольствие указывает на более высокий уровень самоанализа и сознания. Такие дети умеют моделировать будущее и способны понять, что это будущее обещает больше. Для того чтобы видеть возможные последствия собственных действий, требуется более высокий уровень сознания.

Таким образом, исследователи ИИ должны стремиться к созданию робота, обладающего всеми тремя рассмотренными качествами. Первое труднодостижимо, поскольку роботы могут воспринимать окружающий мир, но не способны разобраться в нем. Самоанализ — более простая цель. А вот для планирования будущего необходим здравый смысл, интуитивное понимание, что возможно и что невозможно, а также конкретные стратегии достижения конкретных целей.

Мы видим, что здравый смысл — необходимая предпосылка для высшего уровня сознания. Чтобы робот мог моделировать реальность и предугадывать будущее, он должен сначала освоить миллионы закономерностей окружающего мира, составляющие так называемый житейский здравый смысл. Но одного этого недостаточно. Здравый смысл — это всего лишь «правила игры», а вовсе не законы стратегии и планирования.

Мы получили шкалу, по которой можно оценить всех существующих на настоящий момент роботов.

Ясно, что Deep Blue, машина-шахматист, окажется на этой шкале очень низко. Она, конечно, может выиграть у чемпиона мира по шахматам — и только. Она способна моделировать реальность, но лишь в рамках шахматных правил. Моделировать какую бы то ни было иную реальность она не в состоянии. То же можно сказать о большинстве крупнейших компьютеров мира. Они великолепно моделируют один из аспектов реальности — к примеру, атомный взрыв, обтекание воздухом летательного аппарата или погоду. Эти компьютеры просчитывают сложнейшие модели гораздо лучше человека. Но при этом они очень одномерны, а потому не имеют шансов на выживание в реальном мире.

Сегодня исследователи ИИ не представляют, как можно воспроизвести в роботе процессы мышления. Большинство ученых просто поднимает руки и говорит, что как-нибудь громадные сети компьютеров сами выдадут «системные эффекты», так же как иногда из хаоса спонтанно возникает порядок. Если же прямо спросить, как именно эти системные эффекты приведут к возникновению сознания, большинство пожимает плечами и закатывает глаза.

Мы не знаем, как сделать робота, который обладал бы сознанием, но вообразить робота, который превзошел бы нас, мы в состоянии. Для оценки уровня сознания воспользуемся всем уже сказанным.

Такой робот должен великолепно проявлять себя в третьем качестве: он сможет гораздо лучше, чем мы, производить сложнейшие расчеты и моделирование будущего; он сможет рассмотреть больше вариантов, под разными углами, более подробно и глубоко. Его модели будут более точными, чем наши, потому что он будет лучше владеть здравым смыслом и законами природы, а потому лучше видеть закономерности. Он научится замечать проблемы, которые человек мог бы недооценить или просто не заметить. Более того, он научится ставить перед собой собственные цели. Если роботы поставят себе цель, в частности, помогать роду человеческому, все в порядке. Но если однажды окажется, что человечество мешает достижению какой-то их цели, последствия могут быть весьма неприятными.

Все это порождает следующий вопрос: что станет с человечеством, если будет реализован второй сценарий?

Физика будущего

Какая роль человеческого фактора в бизнесе будущего

В будущем роль человеческого фактора в бизнесе будет неотъемлемой. Технологии такие как Искусственный Интеллект и машинное обучение будут использоваться для автоматизации и оптимизации процессов в бизнесе. Однако их применение не …

Следующие несколько месяцев

Следующие несколько месяцев полны для вас с Карен чудесных сюрпризов. Вы с ней идете в салон виртуальной реальности и развлекаетесь там, как дети, проживая целую жизнь, глупую и невероятную. Вы …

Свидание

Всю неделю вы думаете о будущем свидании и, откровенно говоря, ждете его с нетерпением. Готовясь к встрече с Карен, вы вновь ощущаете себя школьником — даже удивительно, ведь ничего особенного …

Как с нами связаться:

Украина:
г.Александрия
тел./факс +38 05235  77193 Бухгалтерия

+38 050 457 13 30 — Рашид - продажи новинок
e-mail: msd@msd.com.ua
Схема проезда к производственному офису:
Схема проезда к МСД

Партнеры МСД

Контакты для заказов оборудования:

Внимание! На этом сайте большинство материалов - техническая литература в помощь предпринимателю. Так же большинство производственного оборудования сегодня не актуально. Уточнить можно по почте: Эл. почта: msd@msd.com.ua

+38 050 512 1194 Александр
- телефон для консультаций и заказов спец.оборудования, дробилок, уловителей, дражираторов, гереторных насосов и инженерных решений.