Стивенг Хокинг: Искусственный интеллект может стать последним достижением человечества

отметили
25
человек
в архиве
Стивенг Хокинг: Искусственный интеллект может стать последним достижением человечества
Ведущие учёные, специалисты в области информационных технологий и предприниматели и разных стран разместили на сайте Future Life Institute открытое письмо с призывом не допустить создания «роботов-убийц». Речь идёт об автономных системах вооружения, работа над которыми тесно связана с вопросами морали и этики. Авторы письма уверены, что искусственный интеллект может стать последней революцией в методах ведения войны. Подробности в материале RT.

Развитие современных военных технологий всё чаще направлено на разработку оружия, работающего в автономном режиме. На этот раз предупреждение об угрозе создания боевых роботов прозвучало со стороны учёных. Более тысячи инженеров и исследователей подписали открытое письмо против этого. Оно было представлено на ежегодной Международной конференции по искусственному интеллекту, которая прошла в Буэнос-Айресе. Среди подписавших документ — Тоби Уолш, профессор университета Нового Южного Уэльса и специалист в области искусственного интеллекта.

«Создание автономного наступательного оружия — которое мы призываем запретить — может спровоцировать очередную гонку вооружений, если ничего не предпринять. Некоторые утверждают, что эта технология может изменить способы ведения войны так же, как два предыдущих изобретения — порох и ядерная бомба. Разработку автономных видов оружия не остановить, но мы можем запретить компаниям-производителям его продавать. Так, например, ООН наложила запрет на использование ослепляющего лазера», — рассказал Уолш.

Среди подписавшихся — всемирно известные эксперты в области высоких технологий и робототехники.

Физик Стивен Хокинг опасается, что дальнейшее развитие искусственного интеллекта может стать последним значимым событием в истории человечества, если мы не поймём, как избежать связанных с этим рисков.

Один из основателей Apple Стив Возняк уверен: велика вероятность того, что роботы поумнеют настолько, что будут думать за нас.

Тоби Уолш убеждён, что эту проблему должно решать общество в целом.

«Опасность заключается не в развитом искусственном интеллекте, а в недоразвитом. Мы ведь доверяем самые важные функции не самым умным программам. Есть гораздо более злободневные проблемы, чем те, что показаны в «Терминаторе» и других подобных фильмах. И их нужно решать сообща. Наша задача — объяснить людям, какие есть возможности использования боевой техники. А дальше мы должны подумать, как адаптировать нашу жизнь, наши законы и наше общество к изменениям, которые она принесёт», — заключил профессор.
Добавил Электронное рабство Электронное рабство 2 Августа 2015
проблема (9)
Комментарии участников:
alexf2000
0
alexf2000, 2 Августа 2015 , url
Искусственный интеллект как научное направление морозят с 1980х. Даже название специальное есть — «зима ИИ». Чего сейчас такая волна в прессе пошла — непонятно.
bee_e
+1
bee_e, 2 Августа 2015 , url
Никакая волна не пошла. ИИ бредят с конца 50х. Но уже в 60х высказываются сомнения в возможности его создания: Мински, Маккарти и Поспелов. В СССР был всплеск в конце 70х, когда создали шахматную программу «Каисса». Сегодня даже в рамках редколлегии одноименного журнала нет единого мнения — что такое интеллект.
alexf2000
0
alexf2000, 3 Августа 2015 , url
Пошла-пошла, последний год-два. И очень сильная, не припомню ничего подобного. Вплоть до Билла Гейтса и бильдербергского клуба. Видимо что-то такое нащупали, чего народу пока не говорят.
alexf2000
0
alexf2000, 3 Августа 2015 , url
уже в 60х высказываются сомнения в возможности его создания

А что он будет создан сомневаться не приходится. Возможности аппаратуры растут и вероятно скоро будут достаточными. Программизм тоже не стоит на месте. Английские учёные опять же, тоже работают — уже лет пять как умеют угадывать картинку по томограмме. Причём каждый нейрон для этого совсем не надо видеть, разрешение там вообще плохое, но фокус работает.

Поэтому, если человечество не откинут в тёмные века — наверное скоро сделают.
Anton-f
+1
Anton-f, 3 Августа 2015 , url
Да люди даже определения искусственного интеллекта не могут сформулировать. Поэтому о чем речь вообще непонятно.

А что он будет создан сомневаться не приходится.

Что создано-то будет? Компьютеры уже есть, роботы тоже есть. О чем вы?
alexf2000
0
alexf2000, 3 Августа 2015 , url
Вас в Википедии забанили? Первым поколением, которое сможет создать человек, будет вероятно программная модель думающего человечьего мозга. Умная обезъяна под виндовс, на шести слоях нейронов и видеокарточке c CUDA с симуляцией познавательной деятельности. Которая уже потом сможет сама себя доработать напильником до натурфилософского Нуса, «бога в шаровидном огне» и т.п.
Anton-f
+1
Anton-f, 3 Августа 2015 , url
Посмотрел википедию, там термин «искусственный интеллект» дается через понятие интеллект. Понятие «интеллект» дается только как человеческий. Типичная ошибка — определение понятия через само это понятие.

Ну вы же странные вещи говорите. Нейроны в видеокарточке — это что же, биологическое с механическим смешивать?
Обезъяна сама себя доработает? Зачем ей это? Что же нынешние обезьяны сами себя не дорабатывают напильником?

Я не говорю что искусственный интеллект невозможен. Но исходя из нынешнего понимания (той же Википедии) он возможен только при простом полном копировании человеческого мозга, а, значит и всего человека. Создайте человека искусственно — вот вам и будет искусственный интеллект.

Если вы сильны в этой теме, то скажите чем робот с ИИ будет отличаться от нынешних роботов без ИИ.
На самом деле человек мало чем отличается от обезьян и от уже существующих ныне роботов.
Критерий наличия ИИ можете хотя бы один назвать?
alexf2000
-1
alexf2000, 3 Августа 2015 , url
Нейроны в видеокарточке — это что же, биологическое с механическим смешивать?

Модель 6 слойного кортекса нейронов в компе. Видеокарточка, чтобы нейронные сетки быстрее счёлкать. Так понятней?

Обезъяна сама себя доработает? Зачем ей это?

Конечно. Чтобы не сожрал бабай — пещерный лев. Чтобы воровать бананы у других обезьян.

Что же нынешние обезьяны сами себя не дорабатывают напильником?

У обезьяны тактовая частота 40 герц, плюс материальная база досталась от цианобактериальных матов. Поэтому процесс идёт тяжело и медленно. В железе возможно получится ускорить.

Но исходя из нынешнего понимания он возможен только при простом полном копировании человеческого мозга

Зачем весь мозг копировать? Для запуска эволюции в машине это не нужно.
Anton-f
+1
Anton-f, 3 Августа 2015 , url
Ну люди даже не пришли к единому мнению — есть у обезьяны (или дельфина, например) интеллект или нет.
А некоторые ученые считают что и вовсе интеллекта не существует — выдумка это. Что вполне возможно, кстати.
alexf2000
0
alexf2000, 3 Августа 2015 , url
Это не важно, поскольку это совершенно не мешает кому-то делать модель когнитивной проги.
alexf2000
0
alexf2000, 3 Августа 2015 , url
Определить, есть ли интеллект у проги в компе, человек сможет. Этого достаточно, чтобы такую прогу пытаться написать.
Anton-f
0
Anton-f, 3 Августа 2015 , url
Определить, есть ли интеллект у проги в компе, человек сможет.

Как он сможет если человек даже не может понять есть ли интеллект у дельфина.
И вы не можете назвать ни одного критерия, по которому человек понять сможет наличие.
alexf2000
0
alexf2000, 3 Августа 2015 , url
Сможет без проблем. Нечто тяжело формализуемое тем не менее не является полностью непонятным. Хитрые обезьяны придумали интуицию.
Anton-f
0
Anton-f, 3 Августа 2015 , url
Ну, это ненаучный подход.
При таком подходе ИИ будет типа экстрасенсов нынешних — ты мне верь, а там уж как-нибудь.
alexf2000
0
alexf2000, 3 Августа 2015 , url
Строгий научный подход в чистом виде это утопия, его наверное не бывает нигде и никогда.
Barban
0
Barban, 3 Августа 2015 , url
Я бы так дал определение ИИ:
Это интеллект, который — в отличие от человеческого — сам себя целиком знает.
Какие бы мы квантовые неопределенности не вводили в его электрические цепи, но любая такая неопределенность будет рамочно (по существу) схвачена прошивкой. Т.е. детеминирована и познана. Машина может требовать времени, чтобы посчитать ответ на задачу, но это время уже четко определено и входит в состав ответа. По сути, когда мы задаем машине задание, то не знаем ответ — только мы, а она уже его «знает», хоть ей и надо время, «чтобы собраться с мыслями».

Но, вы скажете, при такой дефиниции ИИ мы не сможем отличить от интеллекта Бога?
Вопрос о Боге остается темным. Если мы хотим помыслить мысли живого бога, то не избежим неопределености (незнания), лежащей в корне любого акта мышления.
Anton-f
0
Anton-f, 3 Августа 2015 , url
Ответ на все вопросы машина знать не может.
Так как постичь целое (весь мир) частичка не способна.
А Бог везде, поэтому ему все известно.
Barban
0
Barban, 3 Августа 2015 , url
Машина с ИИ «знает» ответы на ВСЕ вопросы, которые можно перед ней поставить (вернее, которые она «поймет» как осмысленные и содержательные). Возможно, главное направление для развития теста Тьюринга — это способность ума различать бессмыслицу и неизвестное.

«Бог есть везде, ему все известно» — тождественно утверждению «бога и вовсе нет, и знать ничего он не может».
Anton-f
0
Anton-f, 3 Августа 2015 , url
Возможно, главное направление для развития теста Тьюринга — это способность ума различать бессмыслицу и неизвестное.

К сожалению сейчас мало какой человек на такое способен.
И вообще вряд ли это возможно.
bee_e
+2
bee_e, 3 Августа 2015 , url
А что он будет создан сомневаться не приходится

А я например, совершенно убежден, что никакой ИИ не возможен. Принципиально не возможен. Одним из факторов этого является невозможность воспроизводства конкретной идеи, есть наработки в нейронных сетях и программировании например мультиагентных систем, но неизвестно как идея проявляется в человеке. Более того, когда говорят об интеллекте вообще? почти всегда забывают о Творческом содержании человека. А творчество это как раз выработка решения состоящее из 4 этапов: постановка задачи, инкубация, инсайт, проверка. Что касается соотношения творческого и интеллектуального то, например, в психологии творчества известным ученым проф. Пономаревым была предложена модель мыслительной деятельности человека, состоящая из 2х полюсов: интеллектуального и творческого, функционирующих в значительной мере независимо.
И еще, творчество – это не только выработка решения, это еще и ответственность за него. Именно поэтому человек не боится ошибки, поскольку способен на ее исправление.
А если посмотреть со стороны научного сообщества, исследующего ИИ, то можно отчетливо увидеть, как почти ничего не изменилось в моделях ИИ, сравнивая 60-е года и сегодняшнее время, т.е. наука – увы стоит на месте.
alexf2000
0
alexf2000, 3 Августа 2015 , url
А я например, совершенно убежден, что никакой ИИ не возможен. Принципиально не возможен.

Дело в том, что всё, что мы называем интеллектом и что назвать и вербализовать не можем, уже есть. И заключено в 6 слойном скомканном носовом платке из нейронов, кортексе. Мозг с работающим в нём интеллектом это нейронная сеть. Да, хитро устроенная и сложная, но конечной сложности и принципиально познаваемая, моделируемая и даже с возможность напрямую подглядеть, как там нейрончики сигналят друг другу. Остаётся только наваять работающую модель на другой материальной базе и пусть дальше комп голову ломает, но в миллион раз быстрее.
Творчество это обыкновенная комбинаторика, перебор возможных сочетаний чего-то известного, из которого неосознанно, «интуитивно», выкидываются некрасивые варианты комбинаций, чтобы получилось «новое». Только и всего. Думается, комп конкретно этому научить будет не сложно. Возможно он даже будет видеть больше красивого, чем можем видеть мы.


Войдите или станьте участником, чтобы комментировать