Примечание переводчика: Данная статья является переводом (оригинальная статья ). Это перевод первой части второй статьи перевод первой части. Вторая часть оказалась слишком большой 15к слов, по этому её пришлось разделить на две части примерно по 8к (оригинального текста) слов каждая, перед вами первая часть перевода второй части статьи, вторую часть опубликую сразу как переведу. Оригинальная статья была написана для широкой аудитории, поэтому многие термины использованные в ней могут быть не точными или вообще не научными. При переводе я старался сохранить непринуждённый дух статьи и юмор, с которым был написан оригинал. К сожалению, это не всегда получалось. Переводчик согласен не со всем, что написано в данной статье, но правки к фактам и своё мнение не были добавлены даже в виде примечаний или комментариев. В тексте могут быть ошибки и опечатки, сообщайте о них, пожалуйста, в личные сообщения, буду стараться исправлять всё максимально быстро. Все ссылки в тексте скопированы из оригинальной статьи и ведут на англоязычные ресурсы.

источник: habrastorage.orgисточник: habrastorage.org

We have what may be an extremely difficult problem with an unknown time to solve it, on
which quite possibly the entire future of humanity depends. — Nick Bostrom

Перед нами, вероятно, одна из сложнейших задач, с которой когда-либо сталкивалось человечество, и мы даже не знаем сколько времени у нас есть на её решение, но от него зависит будущее нашего биологического вида — Ник Бостром

Добро пожаловать во вторую часть статьи цикла “Как это вообще возможно? Я даже не понимаю, почему все вокруг так много об этом и говорят”.
Первая часть статьи была достаточно безобидна, мы обсуждали ИИ узкого применения, то есть специализируется в узкой области деятельности, например, выбор оптимального маршрута или игра в шахматы, а так же сферы в которых его уже успешно применяют. Ещё мы обсудили почему так сложно создать сильный ИИ (ИИ человеческого уровня, способному, как минимум, на всё то же, что и человек, и на столько же хорошо), даже имея уже в своём распоряжении ИИ узкого применения, и почему экспоненциальный характер роста технологий может означать, что создание сильного ИИ гораздо ближе, чем мы думаем. В конце первой части, я возможно напугал вас вас тем, что рассказал что вероятно нас в ближайшее время ждёт примерно такая картина картина развития ИИ:

источник: habrastorage.org

источник: habrastorage.org

источник: habrastorage.org

источник: habrastorage.orgисточник: habrastorage.org

Шокирующий факт — искусственный Сверхразум, превышающий возможности человека во всех областях, может быть создан уже в течение нашей жизни. Что вы думаете по этому поводу?

Прежде чем продолжить, хочу напомнить вам, чем является Сверхразум. Существует огромная разница между быстрым искусственным Сверхразумом и качественным искусственным Сверхразумом. Часто, представляя себе очень умный компьютер, мы думаем о нём как о чём-то столь же разумным, как и человек, но способным совершать гораздо больше операций в единицу времени. То есть он сможет за 5 минут придумать то, на что у человека уйдёт десятилетие. И это впечатляет, но главное отличие искусственного Сверхразума от человеческого разума будет в качестве. Ведь человек умнее шимпанзе не потому, что он думает быстрее, а потому что у человека более сложная структура мозга. Наш мозг, в отличие от мозга шимпанзе, способен к долгосрочному планированию, абстрактному мышлению, а так же к сложному языковому взаимодействию. Даже если мы ускорим работу мозга шимпанзе, он всё равно не станет столь же умным как человек. Такой “ускоренный” шимпанзе даже же за десять лет не сможет собрать шкаф из Икеи, хотя у человека это займёт всего пару часов. И шимпанзе никогда не сможет понять часть мыслей человека, даже если у него будет время до самой тепловой смерти вселенной. Это не просто невозможность шимпанзе делать что-то, на что способен человек, просто его мозг не способен понять часть идей. Например шимпанзе может изучить человека, понять что такое небоскрёб, но он никогда не сможет осознать, что небоскрёб построен человеком. Для него все большие вещи являются созданиями природы и точка. Шимпанзе таким образом, не только не сможет построить небоскрёб, он даже не сможет осознать, что кто-либо вообще способен построить небоскрёб. И всё это из-за небольшой разницы в качестве интеллекта.

Разница в качестве разума между человеком и шимпанзе ничтожно мала, другой статье я уже приводил в качестве иллюстрации различий в качестве интеллекта животных лестницу.

источник: habrastorage.org

Чтобы понять разницу между качеством интеллекта человека и искусственного Сверхразума, представьте себе, что Сверхразум будет всего на пару ступенек выше нас на это лестнице. Такой ИИ будет всего лишь немного умнее нас, и даже у него будет такое же превосходство над нами, как у нас над шимпанзе. И подобно неспособности шимпанзе понять саму возможность строительства небоскрёба, для нас будет невозможным понять понять те вещи, которые будут очевидны для такого Сверхразума, как бы он ни пытался нам их объяснить. И всё это случится уже тогда, когда ИИ станет лишь слегка умнее человека. Когда же ИИ достигнет верхней ступеньки нашей лестницы, он будет для нас тем же, чем мы являемся для муравья. Даже если он будет годами объяснять нам лишь частичку того, что он знает, мы всё равно будем неспособны это понять.

Но Сверхразум, о котором мы говорим, находится гораздо выше на этой лестнице. При взрывном развитии ИИ скорость развития интеллекта ИИ будет всё возрастать по мере того, как он будет становиться всё умнее. Чтобы подняться с уровня шимпанзе на одну ступеньку, вероятно, потребуются годы, но дальше, после входа в “зелёную зону” лестницы, каждая следующая ступенька будет занимать часы вместо лет. Вероятно когда разум ИИ будет выше человеческого уровня на 10 ступенек, он начнёт перепрыгивать по 4 ступеньки в секунду. Так что нам надо быть готовыми, что через незначительное время после новости о достижении первым ИИ уровня человека, нам придётся делить землю уже с существом, которое находится на лестнице здесь.

источник: habrastorage.org

А может быть и на миллион ступенек выше.

И раз уж мы только что определили, что понять возможности ИИ, находящегося всего на пару ступенек выше нас, невозможно, я считаю, что невозможно предсказать и действия искусственного Сверхразума, а так же невозможно предсказать, чем его существования обернётся для человека. Все, кто утверждает обратное, просто не понимают, что такое Сверхразум.

Эволюция создавала биологический мозг постепенно, это заняло сотни миллионов лет, и в этом плане, если человечество создаст искусственный Сверхразум, оно конечно же этим превзойдёт эволюцию. Или, возможно, это и есть работа эволюции, когда биологический разум развивается до того момента, когда становится способным на создание искусственного Сверхразума, и это событие полностью меняет правила игры и определяет собой будущее для всего живого:

источник: habrastorage.org

Позже мы обсудим, почему ученые считают, что достижение уровня, на котором правила игры полностью изменятся лишь вопрос времени. Это будет достаточно интересно.

И так, на чем мы остановились?

Никто в мире, и уж точно не я, не может предсказать, что случится, когда мы достигнем уровня смены правил игры. Но Ник Бостром, известный философ из Оксфорда и популяризатор ИИ, разделяет возможные последствия подобного события на две большие категории:

Во-первых, если оглянуться назад в историю, то можно заметить, что все биологические виды проходят один и тот же цикл: они появляются, живут некоторое время и потом неминуемо исчезают.

источник: habrastorage.org

“Все биологические виды когда-нибудь исчезают” — было самым надёжным правилом в истории жизни, примерно на столько же надёжным, как “Все люди рано или поздно умирают”. На сегодняшний день 99,9% всех когда-либо существовавших на земле биологических видов, прошли этот цикл. И кажется достаточно очевидным, что если какой-то вид начал свой цикл, то это лишь вопрос времени, когда другой вид, природная катастрофа или астероид остановит этот цикл. Бостром говорит, что вымирание как “магнит” притягивает все биологические виды, и ни один из этих видов, больше не возвращается.

И хотя многие ученые признают, что искусственный Сверхразум будет обладать силой достаточной для уничтожения человечества, они всё таки надеются, что ИИ можно будет использовать во благо, и что он позволит нам “притянуться к другому полюсу магнита”, то есть к бессмертию нашего биологического вида. Ник Бостром считает, что на самом деле существует два “полюса”, но ни один биологический вид до нас просто не был достаточно развитым, чтобы “притянуться” ко второму (бессмертию), и если нам удастся это сделать, то мы сможем избежать вымирания, и наш биологический вид будет существовать вечно, даже не смотря на то, что все биологические виды до нас “притянулись” к вымиранию.

источник: habrastorage.org

Если Бостром и его коллеги правы, а всё, что я прочитал на эту тему, пока что подтверждает их мнение, у нас есть две интересные новости:

Создание искусственного Сверхразума позволит биологическому виду впервые в истории попасть в зону бессмертия.

Создание искусственного Сверхразума будет иметь огромные последствия, которые подтолкнут нас к одному или другому полюсу “магнита”.

То есть, как только мы достигнем технологической сингулярности, будет создан новый мир, вопрос лишь в том, будет ли в нём место человечеству. Два важнейших для современного человечества вопроса “Когда мы достигнем этого уровня?” и “Что случится с человечеством, когда мы его достигнем”.

Никто в мире не знает ответ на них. Большое количество не самых глупых людей, потратили десятилетия, пытаясь найти эти ответы. И эта статья, как раз посвящена тому, к чему они пришли.

Начнём с первого вопроса: «Когда мы достигнем уровня смены правил игры?» или «Сколько у нас осталось времени до, появления искусственного Сверхразума?»

Не удивительно, что и здесь мнения экспертов расходится. Этот вопрос сейчас горяче обсуждается в экспертной среде. Многие люди, например такие, как профессор Вернор Виндж, учёный Бен Гёрцель, сооснователь Sun Microsystems Билл Джой и известный изобретатель и футурист Рэй Курцвейл, соглашаются с мнением эксперта в области машинного обучения Джереми Говардом, который во время одной из конференций TED Talk показал этот график:

источник: habrastorage.org

Он утверждает, что сейчас машинное обучение переживает экспоненциальный рост, и то, что сейчас кажется нам медленным развитием, чуть позже перерастёт во “взрыв” в этой области. Другие же, например со-основатель Microsoft Пол Ален, психолог Гари Маркус, учёный из Нью-Йоркского университета Эрнест Девис, предприниматель Митч Капор говорят, что люди вроде Рея Курцвейла сильно неоодоценивают сложность разработки подобных технологий и мы, соответственно, не так уж и близки к технологической сингулярности.

На что сторонники Курцвейла говорят, что единственное, что кто-то недооценивает, так это силу экспоненциального роста. И приводят в пример то, как в 1985, многие недооценивали интернет, говоря, что он не сможет в ближайшее время оказать ощутимого влияния на нашу жизнь.

На что сторонники мнения Пола Алена могут сказать, что сложность разработки новых технологий растёт тоже экспоненциально, и каждый новый прорыв стоит гораздо дороже, и что это позволяет нивелировать экспоненциальную природу роста развития технологий. Этот спор можно вести до бесконечности.

Третьи же, включая Ника Бострома, не придерживаются мнения ни одной из противоборствующих групп и заявляют, что А) человечество возможно, когда-нибудь достигнет технологической сингулярности и Б) но это не точно, и может занять достаточно длительное время.

Четвёртые, например философ Хьюберт Дрейфус, верят в то, что все три вышеописанные группы наивны в своих выдумках о сингулярности и верят в то, что искусственный Сверхразум вряд ли будет вообще когда-нибудь создан.
Итак, что же мы получим, если сложим все эти мнения вместе?

В 2013 году Бостром провёл опрос среди сотен экспертов в области ИИ, задавая всем один и тот же вопрос: “Когда по вашему мнению будет создан ИИ человеческого уровня?” и просил респондентов назвать оптимистичную дату (когда создание сильного ИИ они оценивают в 10%), и реалистичную (когда сильный ИИ будет по их мнению создан с вероятностью 50%), и пессимистичный прогноз (когда вероятность создания сильного ИИ они оценивают в 90%), и получил следующий результат:

Медиана оптимистического прогноза (вероятность 10%): 2022
Медиана реалистичного прогноза (вероятность 50%): 2040
Медиана пессимистичного прогноза ( вероятность 90%): 2075

Таким образом средний респондент думает, что сильный ИИ будет уже создан в течение 25 лет. Медиана ответа с 90% уверенностью означает, что сильный ИИ будет создан, в течение жизни современных подростков.

Другое исследование было недавно проведено Джеймсом Барратом на ежегодной конференции, посвящённой искуственному Сверхразуму, устраиваемой Беном Гёрцелем. Джеймс спрашивал участников конференции когда по их мнению будет создан сильный ИИ: 2030, 2050, 2100, после 2100 или же никогда, и получил следующий результат:

2030: 42% респондентов
2050: 25%
2100: 20%
после 2100: 10%
Никогда: 2%

Результат примерно такой же, что и у Ника Бострома. В опросе Баррата более двух третей респондентов верят в создание сильного ИИ до 2050 и меньшее количество верит в то, что сильный ИИ будет создан в течение 15 лет. Интересно, что только 2% респондентов не верят в создание сильного ИИ вовсе.

Но будет ли момент создание сильного ИИ моментом, меняющим правила? Создание искусственного Сверхразума точно станет таким моментом. Так когда же, по мнению экспертов, мы создадим этот самый искусственный Сверхразум.

Бостром так же провёл среди экспертов опрос «через какое время после создания сильного ИИ будет создани искусственный Сверхразум?» А) в течение первых двух лет после создания сильного ИИ (практически моментальный скачек) и Б) в течение 30 лет. И получил следующий результат:

За вариант практически мгновенного перехода от сильного ИИ к искусственному Сверхразуму проголосовало всего 10% респондентов, за переход в течение 30 лет высказались 75%.

Из этого опроса мы не получили оценку экспертов о том, когда по их мнению вероятность достижения сингулярности будет 50%.

Для наших целей подойдёт грубая оценка этой даты в 20 лет. Таким образом медиальное мнение экспертов говорит нам что искусственный Сверхразум будет создан и соответственно сингулярность будет достигнута к 2060. То есть создание сильного ИИ к 2040 и ещё 20 лет на разработку искусственного Сверхразума.

источник: habrastorage.org

Конечно же все статистика приведённая выше умозрительна и показывает лишь усредненное мнение экспертного сообщества, но тем не менее она довольно интересна, так как мы можем увидеть мнение бытующее в среде людей, которые своими руками двигают это направление науки и сходятся во мнении, что к 2060, всего лишь через 45 лет, вполне вероятно создание искусственного Сверхразума и, соответственно, полное изменение мира в котором мы живём.

Давайте теперь рассмотрим вторую часть вопроса: Когда мы достигнем сингулярности, к какому “полюсу магнита мы притянемся”?
Сверхразум безусловно будет обладать огромной властью, и для нас очень важен вопрос: Кто или что будет контролировать эту власть, и какая у него будет мотивация?

И ответ на этот вопрос определит: будет ли Сверхразум величайшим или ужаснейшим из открытий. А может быть и вовсе ни тем ни другим.

Конечно же, экспертное сообщество уже не первый день ведёт горячие споры и на эту тему. Здесь интересен опрос, проведённый Ником Бостромом, который показал следующие результаты: 52% опрошенных считают, что последствия создания сильного ИИ будут либо хорошими, либо очень хорошими, и 31%, что последствия будут плохими, или очень плохими. За нейтральный вариант высказалось 17% респондентов. Другими словами, эксперты в области ИИ считают, что сильный ИИ будет скорее полезным изобретение. Я думаю, что если бы опрос проводился про последствия создания искусственного Сверхразума, то нейтральных оценок было бы гораздо меньше.

Прежде чем более серьёзно обсудить вероятные последствия, как плохие так и хорошие, предлагаю посмотреть на схему приведённую ниже, на ней отображено “когда это произойдёт” и “будет ли результат хорошим или плохим” в соответствии с мнением экспертов в области ИИ

На ней по вертикальной оси отложено время, а по горизонтальной оптимизм, связанный с созданием Сверхразума.

источник: habrastorage.org

Я расположил мнение экспертов относительно сроков и последствий на этом графике, таким образом получил несколько групп в соответствии с их прогнозами. Об основной группе мы поговорим чуть позже. До того, как начал исследовать тему ИИ, я не думал, что она столь актуальна уже сегодня. Я думаю, что большинство людей так же не слишком серьёзно воспринимают эти разговоры, и на то существует ряд причин:

Как я уже говорил в первой части статьи, научная фантастика создала слишком нереалистичный образ ИИ в массовом сознании, и поэтому никто не воспринимает его всерьёз. Джеймс Баррат сравнил это с реакцией людей на то, как если бы Министерство здравоохранения выпустило бы предупреждение о том, что нас через 10 лет ожидает серьёзная эпидемия вампиризма, угрожающая человечеству.

Из-за когнитивного искажения, присущего человеку, нам сложно поверить в реальность чего-то, пока мы не увидим доказательств.

Я уверен, что ученые, занимавшиеся компьютерными технологиями, уже в 1988 обсуждали насколько серьёзным будет влияние интернета на жизнь людей, но люди до последнего не верили, что интернет действительно может оказать столь сильное влияние. И причиной тому является то, что компьютеры в 1988 не могли делать такие интересные вещи, как современные, и человек, смотря на свой компьютер, думал “Это штука может изменить мою жизнь? Что, правда?”.

Воображение людей было ограничено их опытом, который не позволял представить, на что реально способны компьютеры. И именно так же сегодня недооценивается ИИ. Мы отовсюду слышим, что он будет следующим великим изобретением, но наша фантазия ограничена нашим опытом, который не даёт нам представить те вещи, на которые ИИ будет способен, и сколько всего в нашей жизни он изменит. С когнитивными искажениями и борются эксперты, стараясь показать нам то, на что будет способен сильный ИИ.

Даже если бы вы поверили. Сколько времени в день вы тратите на обдумывание того, что большую часть будущей истории человечества вы не сможете увидеть? Я думаю что не очень много. И это не смотря на то, что это гораздо более важная для вас информация. Происходит это потому что наш мозг запрограммирован концентрироваться на решении маленьких проблем, с которыми мы сталкиваемся каждый день, не смотря на то, что вокруг протекают совершенно невообразимых долгосрочные процессы.

Одной из целью моих статей про Сверхразум является попытка заставить вас задуматься о грядущей революции ИИ, и помочь принять одну из точек зрения экспертов.

Во время своего исследования, я нашел дюжину различных мнений на тему ИИ, но довольно скоро обратил внимание на то, что даже внутри основной группы экспертов существует деление на подгруппы, и больше трёх четвертей экспертов являются приверженцами следующей подгруппы:

источник: habrastorage.org

Мы более подробно поговорим об обеих группах и начнём с верхнего правого.

Почему будущее может оказаться лучше самых смелых мечтаний

Во время моего знакомства с миром ИИ я удивился тому, как много экспертов являются приверженцами этой группы, находящейся в правом верхнем углу, назовём их оптимистичной группой.

источник: habrastorage.org

Люди в оптимистичной группе переполнены волнительным ожиданием прекрасного будущего, которое наступит в момент создания Сверхразума. Они уверены в том, к чему мы придём. Для них наше будущее лучше, чем все самые смелые мечты, только воплощенные в жизнь.

Их отличие от остальных экспертов в области ИИ не просто в чрезмерном оптимизме, а в полной уверенности в том, что создание искусственного Сверхразума принесёт нам только хорошее. Их критики говорят, что уверенность просто ослепила их, не позволяя увидеть те проблемы, с которыми мы можем столкнуться.

Оптимисты парируют, говоря, что глупо рассматривать сценарии пророчащие нам конец света, потому что на сегодняшний день хорошие и плохие последствия развития технологий находятся сбалансированы, и приносят больше пользы, чем вреда. В этой статье мы рассмотрим обе точки зрения, чтобы вы могли сформировать собственное мнение. Просто постарайтесь понять, что то, что вы читаете, действительно может произойти. Если бы вы показали человеку из охотничье-собирательного общества наш мир изобилия, домашнего комфорта и технологий, он счел бы его невозможным, выдуманным магическим миром. Необходимо обладать достаточным воображением, чтобы понять, что грядущие изменение могут быть столько же огромными.

Ник Бостром описывает три возможных способа применения искусственного Сверхразума:

Как предсказателя, который сможет ответить практически на любой поставленный вопрос. Например: “Как создать более эффективный ДВС?”. Примитивным примером такого предсказателя является Google.

Как гений, который будет выполнять поставленные перед ним задачи. Например “Построй новый, более эффективный ДВС”, по окончании этой задачи, будет ждать новой команды.

Как правитель, которому будут выданы широкие полномочия, и он сможет принимать самостоятельные решения о том, как лучше решить некую проблему. “Изобрети более быстрый дешевый и безопасный способ транспортировки людей для личного использования”.

Эти невероятно сложные для нас вопросы будут для искусственного Сверхразума сравни вопросу “У меня упала ручка со стола, помоги мне”, которую любой человек сможет исправить просто подняв ручку с пола и вернув её на стол.

Елизер Юдовски, представитель группы беспокоющихся из нашего графика вверху, хорошо описал подобную ситуацию:

“Не существуют сложных проблем, проблемы могут быть сложны для определённого уровня развития разума”. Даже небольшой шажок в развитии разума переводит часть проблем из статуса “невероятно сложных” в статус “очевидных”, чтобы все решения всех наших проблем стали очевидными, необходимо всего лишь подняться на достаточное количество “ступенек” в развитии разума.

Из всех увлечённых ученых, изобретателей и бизнесменов, представляющих оптимистичную группу, мы в качестве нашего проводника в мир радужных представлений о будущем выберем одного.

Им будет Рей Курцвейл, он мало кого оставляет равнодушным, большинство людей либо верят ему, либо говорят что он шарлатан. Но есть и те, кто относится к нему нейтрально. Например, Дуглас Хофтендер описывает идеи из книги Курцвейла таким образом:

“Это похоже на то, как если бы вы взяли большое количество хорошей еды и смешали бы её в блендере с собачьими экскрементами до такого состояния, чтобы было уже не понятно, что именно находится перед вами”.

Курцвейл считает, что сильный ИИ будет содан уже к 2029, и таким образом к 2045 у нас будет не только искусственный Сверхразум, а мы уже будем жить в мире технологический сингулярности. Ещё недавно его предсказания скорости развития систем ИИ, казались большинству людей мягко говоря слишком оптимистичными. Сейчас же, на фоне стремительного развития слабых ИИ в последние 15 лет, показывает нам, что реальность пока развивается согласно с предсказаниями Курцвейла. Но тем не менее его предсказания остаются всё ещё более оптимистичными, чем медиальный ответ в опросе проведённом Ником Бостромом (сильный ИИ к 2040 и искусственный Сверхразум к 2060).

Чтобы 2045 год соответствовал прогнозам Курцвейла, должны произойти три технологические революции: биотехнологическая, нанотехнологическая и, самое важное, революция ИИ.

Прежде чем мы продолжим разговор про ИИ, предлагаю небольшой экскурс в нанотехнологии

Нанотехнологическая врезка
Нанотехнологиями называют любые манипуляции с объектами размером от 1 до 100 нанометров. Нанометр — это миллиардная часть метра. Что примерно соответствует размерам вирусов (100 нм), ДНК (10 нм в ширину), и других объектов, чей размер равен размеру больших бактерий (5 нм) или среднеразмерных молекул, например молекуле глюкозы (1 нм). Когда/если мы достигнем успехов в нанотехнологиях, следующим шагом будут манипуляции с отдельными атомами, что лишь на один порядок меньшие величины (~.1 нм).

Чтобы лучше понять на сколько сложно манипулировать чем-либо столь маленьким, предлагаю следующую аналогию: Если бы люди были такими высокими, что доставали бы головой до орбиты МКС (~431 км), то мы были бы в 250 000 раз больше, чем сейчас. Если сделать 1-100 нм в 250 000 раз больше, то мы получим величины в .25 — 2.5 см. То есть нанообъекты для гиганта, достающего головой до МКС, равносильны по сложности манипуляциям с чем-то размером от песчинки до глазного яблока для нас. Чтобы опуститься ещё на один порядок величин, до уровня размера одного атома, нашему гиганту, придётся манипулировать объектами размером в 1/400 миллиметра, человеку, чтобы просто увидеть такие объекты нужен микроскоп.

Первым человеком высказавшийся на тему нанотехнологий был Ричард Фейман. Ещё в 1959 он говорил: “Законы физики никак не противоречат теоретической возможности собирать объекты атом за атомом… физики смогут создавать любую химическую формулу, которую смогут придумать… Как? просто располагая атомы таким образом которым химики захотят мы получим любое вещество”. Довольно просто. Если мы сможем перемещать отдельные атомы, то мы сможем создать практически что угодно.

Впервые серьёзно о нанотехнологиях заговорили лишь в 1986-м году после выхода новаторской книги Эрика Дрекслера «Машины создания: Грядущая эра нанотехнологий». Если вы хотите узнать больше о современном положении дел в этой области, то книга Radical Abundance будет лучшим источником информации для вас.

• Врезка о серой массе

Такой способ кажется хорошим только до тех пор, пока в результате несчастного случае не уничтожит жизнь на Земле. Экспоненциальном рост, который позволяет быстро создать триллионы наноботов, делает саморепликацию такой страшной. Ни одна система не застрахована от сбоев, и если система репликации наноботов даст сбой и не остановит процесс по достижении нужной численности наноботов, и они будут продолжать “размножаться”. Подобные наноботы будут способны использовать любые углеродсодержащие материалы для создания новых наноботов, а поскольку вся жизнь на Земле является углеродной, колличество углерода на земле составляет примерно 10^45 атомов, а нанобот будет состоять из примерно 10^6 атомов углерода, таким образом10^39 наноботов уничтожат полностью всю жизнь на земле, для это им понадобится всего лишь 130 циклов репликации, океаны наноботов (это и есть серая масса) наводнят Землю. Ученые считают, что на один цикл репликации наноботом понадобится порядка 100 секунд, значит они смогут полностью уничтожить всё живое на земле в течение 3.6 часов.

Или другой возможный сценарий. Если наноботы попадут в руки каких-нибудь террористов и они смогут их перепрограммировать, например таким образом, чтобы наноботы незаметно в течение недель распространялись по всей земле и потом, начав в нужный момент неконтролируемое “размножение”, уничтожат этим жизнь на Земле ещё до того, как мы сможем хоть как-нибудь отреагировать.

Последние годы подобные апокалиптические сценарии активно обсуждаются, но скорее всего вероятность такого развития событий сильно преувеличена. Эрик Дрекслер, а именно он ввёл в обращение понятие “серой массы”, прислал мне сообщение, в котором высказался на тему подобных страшилок: “Люди любят ужастики, именно поэтому зомби столь популярны. Такие истории сами по себе взрывают тебе мозг”.

Как только мы освоим нанотехнолгии, мы сможем создавать огромное количество самых разных вещей: всевозможные устройства, одежду, еду, искусственные кровяные клетки, роботов, уничтожающих вирусы и раковые клетки, то есть практически что угодно. В мире, освоившем нанотехнологии, стоимость материалов больше не привязана к его содержанию в природе или сложностью его очистки, определяющим параметром становится сложность атомарной структуры. В таком мире бриллианты могут быть дешевле ластика.

Но нам ещё только предстоит освоить нанотехнологии. И пока что не очень понятно: переоцениваем ли мы сложность создания необходимых технологий, или наоборот недооцениваем. Тем не менее, мы уже стоим на пороге массового использования нанотехнологии. Курцвейл считает что нанотехнологическая революция произойдёт к 2020. Правительства уже знают каким потенциалом обладают нанотехнологии и вкладывают миллиарды в их разработку (США, ЕС и Япония уже вложили более 5 миллиардов долларов).

Только представьте себе, что Сверхразум сможет контролировать армию наноботов. Нанотехнологии — это то, что мы смогли придумать и сейчас активно осваиваем. Но вы же помните, что все наши возможности ничто по сравнению с возможностями Сверхразума. Он может придумать что-то ещё более сложное, что мы возможно даже не сможем понять. Теперь размышляя над вопросом “Будет ли ИИ революция добром для нас или злом”, мы понимаем, что практически невозможно переоценить масштаб изменений, которые ИИ привнесёт в нашу жизнь. Так что если последующие рассуждения будут вам казаться слишком нереалистичными, просто помните, что Сверхразум сможет делать нечто, что мы даже не можем себе вообразить, что-то, что просто будет за пределами нашего понимания, и мы не можем даже отдалённо предсказать, чем это может оказаться.

Что ИИ сможет сделать для нас

Сверхразум, вооруженный новейшими технологиями, которые он, конечно же сам изобретёт, сможет решать любые проблемы, с которыми сталкивается человечество. Глобальное потепление? Сверхразум сможет снизит выбросы углекислого газа, предложив нам другие, более эффективные способы генерации электричества, не требующий использование ископаемого топлива. Потом предложит способ убрать уже накопившийся в воздухе углекислый газ. Рак или другие болезни? Они тоже не будет проблемой для ИИ, он сможет совершить прорыв в области медицины. Голод? наш Сверхразум сможет построить любую еду, используя армию наноботов, причем она будет идентична настоящей на молекулярном уровне, то есть на самом деле и будет настоящей. Наноботы смогут превратить кучу мусора в стейк или в любую другую пищу, которая не обязательно будет идентична настоящей еде по форме (только представьте себе огромное кубическое яблоко), дальше еда будет транспортирована новейшим транспортом.

Конечно же Земля станет раем и для животных, эксплуатация которых человеком тоже прекратится. Так же Сверзразум сможет спасти и исчезающие виды животных и даже восстановить уже вымершие из сохранённых ДНК. Он сможет с такой же лёгкостью решить наши экономические проблемы, проблемы связанные с международной торговлей, все сложнейшие вопросы философии и этики так же будут решены Сверхразумом.

Но есть ещё одна вещь, подвластная Сверхразуму, она на столько притягательна, что полностью изменила моё мировоззрение:
Сверхразум сможет победить смерть.

источник: habrastorage.org

Несколько месяцев назад я рассказывал, какую зависть я испытываю по отношению к более развитым цивилизациям, которые уже смогли победить смерть, тогда я ещё не знал что, позже напишу статью, которая заставит меня поверить в то, я сам застану тот момент, когда человечество наконец сможет победить смерть. Я думаю, что мне удастся и вас в этом убедить.

У эволюции сегодня нет ни малейшей причины продлевать жизнь живых существ. Вполне достаточно, чтобы особь прожила ровно столько, чтобы создать потомков и вырастить их до того возраста, когда они могут уже самостоятельно добывать себе еду и защищаться. Так что мутации, позволявшие существенно продлить срок жизни, не приносили никаких преимуществ в естественном отборе. В результате мы являемся, как говорил У.Б. Йейтс, “душа заключенная в умирающее тело”.

Поскольку все до нас рано или поздно умирали, мы убеждены, что смерть неизбежна. Мы воспринимаем старение как течение времени, часы всегда тикают и нет способа это остановить. Но это не так. Ричард Фейнман однажды написал:

Одна из самых удивительных вещей в биологии заключается в том, что смерть не является необходимостью. Если мы захотим, например, создать вечный двигатель, то существует масса законов, говорящих, что это либо невозможно, либо эти физические законы не верны. Но в биологии нет законов, говорящих о неизбежности смерти. Что наводит меня на мысль, что это лишь вопрос времени, когда биологи откроют причину смерти и излечат человечество от это ужасной болезни.

На самом деле старение не привязано ко времени, время может продолжать двигаться, но старение будет остановлено. Старение является процессом постепенного физического изнашивания. Машина тоже постепенно изнашивается, но можно ли остановить её старение? Если менять детали по мере того, как они выходят из строя, машина сможет ездить вечно. И человеческое тело в этом ничем не отличается от машины, оно просто чуть более сложно устроено.

Курцвейл говорит об умных наноботах, общающихся между собой по wi-fi, которые могут перемещаться по кровеносным сосудам, выполняя различные работы по поддержанию тела в порядке, постепенно заменяя испорченные клетки. Если довести этот процесс до совершенства (или другой способ который придумает Сверхразум), это не только позволит поддерживать наше тело здоровым, но так же можно будет повернуть старение вспять. Ведь разница между 60-ти летним и 30-ти летнем телом заключается в конце концов всего лишь в некоторых физических показателях, которые можно поменять при помощи наноботов. Сверхразум сможет построить аппарат, помогающий сбросить возраст, в него заходит 60-ти летний человек, а выходит уже человек с кожей 30-ти летнего. Даже мозг, который страдает от серьёзных заболеваний, можно будет таким образом обновить, Сверхразум наверняка сможет придумать как это сделать, не повредив личность и воспоминания человека. 90 летний человек, страдающий слабоумием, сможет зайти в этот аппарат и выйти уже обновлённым, он сможет продолжить свою карьеру, и даже начать новую. Это кажется слишком фантастичным, но ведь тело — это всего лишь набор атомов, и Сверхразум наверняка будет способен с лёгкостью манипулировать любыми атомами и атомарными структурами, так что это не такая уж и фантастика.

Курцвейл так же считает, что искусственные материалы можно будет постепенно интегрировать в биологическое тело. Сначала органы будут заменены на более эффективные искусственные аналоги, которые будут способны работать дольше биологических.

Затем мы сможем начать разрабатывать тело, которое лучше отвечает нашим требованиям, сможем заменить красные кровеносные тельца на совершенных нанороботов, которые возьмут на себя их функции, но которые при этом смогут двигаться сами, и таким образом мы сможем вовсе отказаться от сердца. Мы даже сможем добраться до мозга и улучшить его, увеличив вычислительные способности настолько, что человек будет способен думать в миллиарды раз быстрее, чем сейчас. Так же мозг сможет иметь прямой доступ к внешним устройствам, которые позволят людям устраивать конференции через интернет напрямую, не использую при этом ни единого слова, обмениваясь на прямую мыслями.

Возможности человека станут практически безграничными. Люди отделили секс от его изначальной функции, что превратило его в том числе в развлечение. Курцвейл верит в то, что та же судьба ожидает и еду. За доставку необходимых веществ клеткам будут отвечать наноботы, они же будут выводить из тела все продукты жизнедеятельности и другие не нужные вещества. Роберт Фрайтас уже создал искусственную кровь, которая может позволить человеку бежать с максимальной скоростью, не совершив при этом ни единого вздоха, так что можно представить, что сможет придумать Сверхразум, чтобы улучшить наши физические способности. Виртуальная реальность получит новый виток развития, так как наноботы смогут перехватывать сигналы нашей нервной системы и заменять входящую информацию, создавая абсолютно новые ощущения, звуки и запахи.

Курцвейл считает, что в конечном счете человечество полностью заменит биологические органы на искусственные, тогда мы будем смотреть на биологические материалы как на ужасно примитивные, и будет сложно поверить, что когда-то человек состоял именно из них. Мы будем читать о том ужасно опасном примитивном обществе, когда болезни, несчастные случаи и старение могли запросто убить человека против его собственного желания. Мы будем жить во времена, когда искусственный и биологический разум будут соединены. Именно так по мнению Курцвейла мы победим биологию и станем вечными и бессмертными, так же он считает что мы “притянемся к другому полюсу магнита”. И это произойдёт уже скоро.

Вас наверняка не удивит то, что идеи Курцвейла встречают серьёзную критику. Его предсказание технологической сингулярности к 2045 высмеивается многими и даже заслужили такие характеристики в свой адрес: “экстаз ботанов” или “разработка интеллекта для людей с IQ 140”. Многие подвергают критики его слишком оптимистичное предсказание скорости прогресса и даже его уровень понимания тела и мозга человека, а так же применение закона Мура к ним. Закон Мура обычно применяется к развитию мощности аппаратного обеспечения и ПО. На каждого эксперта, верящего в правоту Курцвейла, приходится трое, считающих что он не прав.

Но самое удивительное заключается в том, что даже эксперты, которые не соглашаются с Курцвейлом, соглашаются с тем, что всё, о чем он рассказывает возможно. Я ожидал, что его критики будут говорить что-то вроде: “Это просто невозможно”, но, как ни удивительно, они говорят совершенно иное: “Да, это всё вполне реализуемо, если мы совершим плавный переход к искусственному Сверхразуму, но именно плавный переход и является самой большой проблемой”. Бостром, один из самых заметных экспертов в области ИИ говорит:

Сложно даже представить себе, что существует такая проблема, которую Сверхразум не сможет решить, или по крайней мере не будет способен помочь нам решить. Болезни, бедность, экологические проблемы, любые другие ненужные страдания. Решение всех этих проблем не будет сложным для Сверхразума, у которого есть доступ к нанотехнологиям. Так же Сверхразум сможет сделать нашу жизнь вечной либо остановив старение, либо при помощи нанотехнологической медицины, или же вообще предложит нам полностью переселиться в искусственное тело и загрузить своё сознание в компьютер. Сверхразум легко может создать механизмы, позволяющие увеличить наши мыслительные способности. Он поможет нам создать прекрасный мир, в котором мы сможем посветить свои жизни приятным вещам: персональному росту или другим приятным лично вам вещам.

Это цитата человека не принадлежащего к оптимистичной группе. Но это именно то, что вы увидите, когда будете читать мнение экспертов, критикующих идеи Курцвейла, но они тем не менее соглашаются с тем, что все что он предсказывает вполне осуществимо, при условии безопасного создания искусственного Сверхразума. Мне так нравятся идеи Курцвейла именно тем, что они рассказывают о светлой стороне создания Сверхразума, преимущества которой будут нам доступны, если Сверхразум окажется добрым.

Самая серьёзная критика представителей оптимистичной группы, которую я слышал, заключается в том, что они очень сильно недооценивают опасности, которые представляет Сверхразум. Курцвейл в своей известной книге The Singularity is Near только 20 страниц из 700 посвятил опасностям, которые могут нас ожидать. Как я уже говорил, наша судьба при появлении Сверхразума полностью зависит от того, кто будет его контролировать, и какие цели он будет преследовать. Курцвейл на оба вопроса отвечает следующим образом: “Чтобы создать искусственный Сверхразум необходимо совместное усилие, таким образом он будет завязан на инфраструктуру нашей цивилизации. Поэтому будет тесно связан с человечеством, то есть он будет отражать наши ценности”.

Но если ответ настолько прост, то почему же столько умнейших людей настолько обеспокоены перспективой скорого создания искусственного Сверхразума? Почему Стивен Хоккинг говорит, что развитие искусственного Сверхразума “может означать конец человечеству”, Бил Гейтс говорит, что не понимает почему часть людей не обеспокоена происходящим, Илон Маск боится того, что мы своими руками “вызываем дьявола”? Почему многие эксперты называют искусственный Сверхразум самой страшной угрозой угрожающей человечеству? Все эти люди и другие представители менее оптимистичной части экспертного сообщества не согласны со слишком оптимистичным взглядом Курцвейла. Они очень и очень обеспокоены грядущей ИИ революцией и не склонны переоценивать наши шансы на то, что Сверхразум окажется добр к нам. Их взгляды прикованы к обратной стороне развития технологий, и они бояться будущего и не уверены в том, сможем ли мы вообще в нём выжить.