Элон Маск: «Искусственный интеллект – это угроза для нас»

отметили
37
человек
в архиве
Элон Маск: «Искусственный интеллект – это угроза для нас»
Элон Маск, известный предприниматель и основатель компаний Paypal, Tesla Motors и Space X отметил, что исследования по созданию искусственного интеллекта представляют угрозу для человечества.

В рамках завершающей сессии Столетнего симпозиума по аэронавтике и астронавтике Массачусетского технологического университета (MIT Aeronautics and Astronautics Centennial Symposium), который прошел 22-24 октября в Бостоне, США, Маск отметил, что исследования и разработки в области искусственного интеллекта могут иметь непредсказуемые последствия в глобальном масштабе и поэтому необходимо установить регулирование данной сферы.

Элон Маск, исполнительный директор Tesla Motors, Space X источник: b1.vestifinance.ru

«На мой взгляд, мы должны очень осторожно подходить к теме искусственного интеллекта. Если бы меня спросили, что является самой серьезной угрозой для нашего существования, то, скорее всего, я бы указал на искусственный интеллект. Все больше ученых считают, что необходимо создание регулятивного контроля по данной тематике – возможно, как на национальном, так и на международном уровне – для того, чтобы мы не совершили серьезных ошибок. Создавая искусственный интеллект, мы призываем демона. Есть много историй, где кто-то призывает демона, надеясь, что сможет управлять им пентаграммами и защититься с помощью святой воды. Мы не можем позволить себе подобную самоуверенность».

В августе этого года Маск уже отмечал опасность того, что технологии могут стать «слишком умными» и выйти из-под контроля человека. Он, в частности, заявил:
«Мы должны быть крайне осторожны с искусственным разумом. Теоретически он может быть опаснее ядерного оружия».
Добавил Никандрович Никандрович 27 Октября 2014
Комментарии участников:
Barban
+4
Barban, 27 Октября 2014 , url
Явно намекает на то, что раньше жрецы ФРС руководствовались каббалой, при установке цен на золото и нефть, а сейчас начинают слушать советы Североамериканского Облака. И удивляются его проницательности.
Энди Вертнев
+1
Энди Вертнев, 28 Октября 2014 , url
А-ха-ха
blogman
+7
blogman, 28 Октября 2014 , url
Если бы меня спросили, что является самой серьезной угрозой для нашего существования...
А я бы указал на другой «интеллект»


«Мы должны быть крайне осторожны с отсутствием разума" )

Энди Вертнев
-1
Энди Вертнев, 28 Октября 2014 , url
Они боятся русского ИИ, который был создан еще при Сталине :D
P66g
+1
P66g, 28 Октября 2014 , url
обычно военным как то фиолетово на международные запреты. а ии будет явно создан в рамках военных программ. для управления ракетами, самолетами и пр…
Lim
0
Lim, 28 Октября 2014 , url
skynet негодует
Иван Сальников
0
Иван Сальников, 28 Октября 2014 , url
К сожалению, или счастью до искусственного интеллекта еще очень далеко. Мы пока не понимаем как работает сознание.
Мирный Житель
0
Мирный Житель, 28 Октября 2014 , url
Копировать сознание — это только один из многих способов создания ИИ.
Можно и с практической, т.е. военной целью создавать систему, для этого понимание работы сознания не нужно, вообще понимание не требуется, если нейронная сеть, никому не понятно как самоорганизовавшаяся, будет делать то, что от неё требуется — в этом то и кроется вся опасность.

Пока такие исследования не контролируются, мы смело движемся к чему-то такому:
Иван Сальников
-1
Иван Сальников, 28 Октября 2014 , url
Вы ошибаетесь. Вы не сможете скопировать нейронную сеть не понимая как работает сознание. Потому что главное преимущество человеческого сознания — это творческое мышление. Каков механизм его работы пока непонятно. А тот вариант который вы предлагаете даст вам только эффективную вычислительную систему, но никак не ИИ
Мирный Житель
+1
Мирный Житель, 28 Октября 2014 , url
Тем не менее, почему вы считаете, что алгоритм работы ИИ (если вообще там можно говорить о каком-то алгоритме) должен копировать человека? К сожалению, я не знаком с математическими аспектами всех этих проблем, но вот например: человек умножает в столбик, а для компьютера гораздо выгоднее по числу операций использовать совсем другие способы.
Если бы имелась доступная для изучения инопланетная разумная форма жизни, рискну предположить, что там мышление было бы также совершенно иное. Человек не может быть единственно возможным вариантом разумного существа.
Да и принцип работы мозга может просто не подходить для чего-то большего, чем человеческий индивид в силу привязанности к «железу»
Иван Сальников
-1
Иван Сальников, 28 Октября 2014 , url
Вы забываете о том, что компьютер не может сам генерировать знания (тогда бы он был ИИ), для ого что бы компьютер сделал операцию его нужно запрограммировать. А как создать программу которая сама бы после запуска генерировала знания, то есть была бы искусственным интеллектом, пока остается загадкой. И это будет загадкой ровно до тех пор, пока мы не сможем объяснить как работает сознание. Если интересно у Дэвида Дойча эта проблема разобрана в книге «Начало бесконечности»
Мирный Житель
0
Мирный Житель, 28 Октября 2014 , url
Спасибо, ознакомлюсь. Но все таки, исходя из чего Вы считаете копирование единственным способом и отчего нельзя прийти к ИИ, усложняя системы, выполняющие внешне те же функции, что и человеческий мозг?
Иван Сальников
0
Иван Сальников, 28 Октября 2014 , url
Я как раз и говорю что придти к ИИ нельзя копированием. Мы сможем придти к ИИ только тогда, когда поймем что такое сознание и творческое мышление. То что вы научите механизм включать свет когда темно, еще не сделает его мыслящим. Потому что подчеркну, есть принципиальная вещь — интеллект генерит знания. Без этого вы не получите ИИ, вместо этого у вас будет вычислительная машина, которая действует в рамках жесткого невариативного алгоритма.
Fduch
0
Fduch, 30 Октября 2014 , url
еще не сделает его мыслящим
Расскажите, что значит «мыслить»?

машина, которая действует в рамках жесткого невариативного алгоритма
Вроде мешка атомов, которые действуют по законам физики?

P.S. Кстати… Расскажите, что значит «живой». Каков критерий для этого понятия?
Иван Сальников
0
Иван Сальников, 30 Октября 2014 , url
P.S. Кстати… Расскажите, что значит «живой». Каков критерий для этого понятия?
Это значит что организм может реплицироваться и видоизменяться. Подробнее у Докинза хотя бы можете почитать, у него об этом популярно изложено в «Эгоистичном гене»
Fduch
0
Fduch, 30 Октября 2014 , url
организм[определение?] может реплицироваться[определение?] и видоизменяться[определение?]
Что-то вроде растущих кристаллов? Игра в Жизнь?
Вирусы, видимо мёртвые — они ничего не «могут».
Иван Сальников
0
Иван Сальников, 30 Октября 2014 , url
Растущие кристалы это Эпитаксия. Репликация немного другой процесс.

Вирусы, видимо мёртвые — они ничего не «могут»
Ви́рус (лат. virus — «яд»[2]) — неклеточный инфекционный агент, который может воспроизводиться (реплицироваться) только внутри живых клеток.
Fduch
0
Fduch, 30 Октября 2014 , url
Вы не сможете скопировать нейронную сеть не понимая как работает сознание.
Можно, только сложно и неэффективно. Геморроиться, копировать по нейрону/по атому, когда суть структуры человеческого мозга (и не только мозга) заложена в паре гигабайт ДНК.
Иван Сальников
0
Иван Сальников, 30 Октября 2014 , url
Расскажите, что значит «мыслить»?
В данном контексте я имел введу творческое мышление, более подробно у Дойча «Начало бесконечности» он подробно и точно описал все эти проблемы

Вроде мешка атомов, которые действуют по законам физики?

P.S. Кстати… Расскажите, что значит «живой». Каков критерий для этого понятия?

Мы не знаем как устроено сознание, пока мы не можем объяснить принцип его работы, потому единственное что мы сейчас сможем создать и построить это компьютер, но никак не ИИ

Можно, только сложно и неэффективно. Геморроиться, копировать по нейрону/по атому, когда суть структуры человеческого мозга (и не только мозга) заложена в паре гигабайт ДНК.
Как раз проблема в том, что нельзя, ибо тупым копированием вы не получите работающего сознания, т.е. интеллекта. В этом вся проблема, мы можем скопировать нейтронную сеть, но она не будет мыслить, она будет работать по строгому алгоритму. Возможно (даже скорее всего) сознание также работает по алгоритму, но к его пониманию мы пока и близко не подобрались.
Опять же более подробно у Дойча «Начало бесконечности» он точно описал все эти проблемы
Fduch
0
Fduch, 30 Октября 2014 , url
мы не можем объяснить принцип его работы
Можем. На атомном уровне.
Точно также мы можем объяснить работу нейросетей на математическом уровне.

мы сейчас сможем создать и построить это компьютер, но никак не ИИ
Каша какая-то. Компьютер — это среда/корпус/железо. ИИ — это софт.

тупым копированием вы не получите работающего сознания, т.е. интеллекта
Вы проверяли? Если не получилось, значит плохо копировали. Или руки не помыли.

мы можем скопировать нейтронную сеть, но она не будет мыслить, она будет работать по строгому алгоритму
*морщится* Вы снова как-то плаваете. Что за нейронная сеть, о копировании который Вы говорите?

Про алгоритм тоже какая-то фигня. Допустим, мы что-то копируем. Либо там есть что-то, что Вы называете «алгоритмом», и тогда этот алгоритм окажется скопированным, либо его там нет в оригинале и нет в копии.

сознание также работает по алгоритму
Атомы «работают по алгоритму»? Химия «работает по алгоритму»?
Иван Сальников
0
Иван Сальников, 30 Октября 2014 , url
Можем. На атомном уровне.
Точно также мы можем объяснить работу нейросетей на математическом уровне.

Можно ссылку на статью где описан принцип работы человеческого мышления? За жту работу уже Нобеля дали? а то я не слышал?

Каша какая-то. Компьютер — это среда/корпус/железо. ИИ — это софт.
Да, только вот софт мы написать не можем, ибо даже приблизительно не понимаем как его написать (это кстати связанно с комментом выше)

Вы проверяли? Если не получилось, значит плохо копировали. Или руки не помыли.
Лично я не пробовал. Предпринимаемые попытки все провальные.

*морщится* Вы снова как-то плаваете. Что за нейронная сеть, о копировании который Вы говорите?

Про алгоритм тоже какая-то фигня. Допустим, мы что-то копируем. Либо там есть что-то, что Вы называете «алгоритмом», и тогда этот алгоритм окажется скопированным, либо его там нет в оригинале и нет в копии.

Вообще то сеть неЙронная (вы же прекрасно понимаете что это опечатка). От слова нейрон

Я вам в сотый раз повторю — пока что науке не понятно по каким алгоритмам работает сознание. Как физиологически работает мозг и как он контролирует мышцы понятно, а вот как функционирует сознание пока загадка. Поэтому непонятно что и как копировать. Мало того. когда мы поймем как работает сознание, скорее всего мы сможем построить свой «мозг» (ИИ) намного более эффективным чем человеческий.
Еще раз повторюсь, если у вас есть ссылка на статью в которой бы объяснялось как функционирует сознание, то дайте мне ее (а за одно можете в Нобелевский комитет обращаться сразу же)
Fduch
0
Fduch, 30 Октября 2014 , url
мы не можем объяснить принцип его работы
Можем. На атомном уровне.
Точно также мы можем объяснить работу нейросетей на математическом уровне.

мы сейчас сможем создать и построить это компьютер, но никак не ИИ
Каша какая-то. Компьютер — это среда/корпус/железо. ИИ — это софт.

тупым копированием вы не получите работающего сознания, т.е. интеллекта
Вы проверяли? Если не получилось, значит плохо копировали. Или руки не помыли.

мы можем скопировать нейтронную сеть, но она не будет мыслить, она будет работать по строгому алгоритму
*морщится* Вы снова как-то плаваете. Что за нейронная сеть, о копировании который Вы говорите?

Про алгоритм тоже какая-то фигня. Допустим, мы что-то копируем. Либо там есть что-то, что Вы называете «алгоритмом», и тогда этот алгоритм окажется скопированным, либо его там нет в оригинале и нет в копии.

сознание также работает по алгоритму
Атомы «работают по алгоритму»? Химия «работает по алгоритму»?


Войдите или станьте участником, чтобы комментировать