[Кто кому служит?] «Уже в ближайшие 100 лет искусственный интеллект превзойдет человеческий. И до того, как это случится, мы должны сделать все, чтобы цели машин совпадали с нашими» — Стивен Хокинг

отметили
27
человек
в архиве
[Кто кому служит?] «Уже в ближайшие 100 лет искусственный интеллект превзойдет человеческий. И до того, как это случится, мы должны сделать все, чтобы цели машин совпадали с нашими» — Стивен Хокинг
Знаменитый физик профессор Кембриджского университета Стивен Хокинг считает, что ИИ должен быть под контролем человека, иначе всем нам придет конец: «Наше будущее — это гонка между непрерывно растущей мощью искусственного интеллекта и нашей способностью направлять его в нужное русло».

По его словам, люди недальновидны. Их волнует то, кто будет контролировать комьютерный разум, но они не задумываются о том, позволит ли он вообще им это делать.

Хокинг пояснил, что технология искусственного интеллекта уже встроена в устройства, которые мы используем в повседневной жизни. Это, к примеру, Siri, личный помощник, разработанный Apple, который используют владельцы iPhone и iPad, беспилотные транспортные средства, разработанные Google. По данным Financial Times, более 150 стартапов в Кремниевой долине сегодня работают на базе искусственного интеллекта.

«Его потенциал велик, он может иметь глубокое влияние на мир. Именно поэтому ученые и разработчики должны безопасно и максимально аккуратно использовать достижения в сфере развития искусственного интеллекта, чтобы он не смог совершенствоваться вне контроля человечества», — полагает Хокинг.

Легендарный человек в мире физики Стивен Хокинг неоднократно предупреждал человечество об опасности искусственного интеллекта. «С развитием полноценного искусственного интеллекта наступит конец человеческой расы», — заметил однажды Хоукинг в интервью BBC. Хотя сам Хоукинг пользуется достижениями в этой сфере, например, речевым аппаратом, насчет развития технологии AI физик настроен панически и называет опыты, подобным открытию сингапурских ученых, «величайшей ошибкой человечества».

Совсем недавно и другой человек, получивший все от мира технологий, Билл Гейтс высказал тревожные мысли о потенциальной опасности экспериментов по созданию искусственного интеллекта. «Я вхожу в лагерь тех, кто обеспокоен развитием супер-интеллекта. Поначалу машину будут выполнять за нас огромную часть работы и не будут сверхинтеллектуальными. Это принесёт пользу при условии, что контроль останется в наших руках. Однако спустя несколько десятилетий искусственный интеллект станет достаточно развитым, чтобы превратиться в проблему», — сказал Гейтс.

Опасения Хокинга разделяют и другие известные специалисты в области технологий, в том числе, Стив Возняк.
Добавил suare suare 14 Мая 2015
Назовите среднемесячное отношение времени использования Вами электронных гаджетов (коммуникации, прослушивание, просмотр) и времени их обслуживания Вами (зарядка, обновление, загрузка-выгрузка)
suare 1:2 (1)
Flinky а что считать гаджетами? (1)
Комментарии участников:
suare
0
suare, 14 Мая 2015 , url
Роботы уже торгуют лучше людей, но все еще не могут связать двух слов Добавил comander 13 Октября 2008
Ученые беспокоятся, что скоро роботы станут умнее людей и предлагают наложить ограничения на разработку алгоритмов искусственного интеллекта. Добавил ramelito 27 Июля 2009
New Scientist: создан искусственный разум, способный к эволюции Добавил Alexei 7 Августа 2010
В Японии разработали прототип искусственного мозга Добавил nik191 16 Июня 2010
Программа Watson компании IBM пошла учиться в мед. институт Добавил Дядя Ваня 22 Января 2013
Создатели искусственного интеллекта работают над использованием новейшего типа, основанного на интуиции Добавил suare 30 Июня 2013
Современный уровень искусственного интеллекта (ИИ) сопоставим с уровнем интеллекта обычного 4-летнего ребенка Добавил suare 21 Июля 2013
[Ошибка или преступление?] Хокинг назвал искусственный интеллект величайшей ошибкой человечества Добавил suare 7 Мая 2014
blogman
+2
blogman, 14 Мая 2015 , url
И до того, как это случится, мы должны сделать все, чтобы цели машин совпадали с нашими» — Стивен Хокинг
Например если ИИ проанализирует новости последних 100 лет, то определит одну из целей существования человечества, как уничтожение себе подобных и совершенствование в этом нелегком деле…
magmaster
+1
magmaster, 15 Мая 2015 , url
Это всё равно будет программа, а вот кто и как её запрограммирует — вопрос. Убивает не оружие.
suare
0
suare, 15 Мая 2015 , url
Думать надо! Побочные эффекты сильного ИИ
автор: Евгений Золотов 15 мая 2015


Чтобы продемонстрировать скрытые опасности новых технологий, обычно приходится напрягать фантазию: изобретать ситуации, стечение обстоятельств. Но бывает и так, что случай преподносит аргументы на блюдечке, да ещё в такой форме, что, как говорится, нарочно не придумаешь. Именно так случилось с — занятным самим по себе — сервисом How Old Do I Look (How-old.net), запущенным на днях Microsoft Research.

HowOld — штука почти фантастическая. Попросту, это веб-сервис, автоматически определяющий по фотографии пол и возраст человека, на ней запечатлённого. Грузите снимок (желательно лицо крупным планом: мелкие черты играют важную роль) и немедленно получаете результат. Точность во многих случаях такая, что, признаться, я даже потратил несколько минут на расследование: а не мошенничает ли машина, не подглядела ли в соцсетях, не извлекла ли из снимка какую-нибудь метаинформацию? По всему выходит, что всё честно: HowOld действительно угадывает пол и возраст по фотографии.

Понятно, что простой персоналке решение такой задачи с такой точностью не под силу. Скрывается за фокусом искусственный интеллект, а правильней даже — сильный ИИ (над которым в Microsoft работают последние годы), предварительно натасканный на определение возраста по большому массиву подготовленных фото. Алгоритмы так называемого сильного/глубокого обучения настолько сложные, что пытаться объяснить их широкой публике смысла нет, зато есть масса способов продемонстрировать их возможности — например, определением возраста по снимку. Авторы HowOld потом признавались, что были ошарашены, увидев, как в считанные часы их сервис стал местом паломничества десятков тысяч человек со всего мира.

Сильный ИИ есть теперь у каждого уважающего себя интернет- и ИТ-гиганта. Его активно применяют для помощи поисковым машинам, сортировки контента в соцсетях и прочих подобных задач, предполагающих нетривиальный подход к обработке огромных объёмов информации. Однако в последние год-два обозначился ещё один интересный тренд: компании пытаются заработать, предоставляя прямой доступ к сильному ИИ пользователям со стороны.

Помните айбиэмовский Watson? С недавних пор каждый желающий может воспользоваться им для решения самых приземлённых задач, чуть ли не бухгалтерских: сперва вы обучаете его, предоставляя свои данные, потом эксплуатируете, заставляя извлекать полезную лично вам информацию. Специалистом по машинному обучению быть не нужно: общение с Watson идёт через набор простых API, запросы формируются чуть ли не на естественном языке.

То же самое предлагает теперь и Microsoft: доступ к её сильному ИИ осуществляется посредством API, а сервисы наподобие HowOld служат примером того, как просто можно создавать практически полезные приложения. Когнитивное программирование — могучая сила: что возраст или пол, когда из любого потока сырых данных (текст, графика, голос) можно извлекать смысл, генерировать рекомендации, предсказывать поведение людей, выстраивать образы в ряды подобия!

Тем же курсом движутся Facebook, Google, Baidu, другие гиганты, не считая многообещающих стартапов вроде Dextro, использующего сильный ИИ для смысловой сортировки видеопотоков. Короче говоря, сильный ИИ шагнул из лабораторий в повседневность, на улицы, в настоящую жизнь. И первая и естественная реакция со стороны простого пользователя — считать машину умней человека. В каком-то смысле так оно и есть: суперкомпьютер быстрей и точней в решении многих конкретных задач, вроде того же распознавания лиц и определения возраста.

Но о чём мы забываем и о чём забывать не стоит, так это о том, что компьютер — даже не ребёнок, а только лишь вычислительная машина, которую натаскали на решение конкретной задачи! Дайте время — и это обстоятельство обязательно вылезет наружу, проявится побочными эффектами. Примером может служить уже знакомый вам HowOld.

Спустя день или два после запуска, когда он уже гремел по всей планете, а лица в рамочках взобрались в топы соцсетей, там же в соцсетях обозначился любопытный феномен. Открыли его японцы — что, в общем-то, не удивительно с их врождённой страстью к мистицизму. Так вот выяснилось, что HowOld иногда находит лица там, где они человеку не видны. Вот, например, милая японочка позирует на фоне сада, но — что это?! — в сплетении ветвей машина разглядела лицо 20-летней девушки! А вот и вовсе жуткая картина: на снимке, запечатлевшем садовый домик поздним вечером, тьма буквально усеяна невидимыми нам, но видными машине лицами всех возрастов! И аналогичных примеров полно: когда смешных, а когда и страшных.

Почему такое происходит — для человека, понимающего начинку ИИ, не секрет. Потому же, почему искусственная нейросеть, наученная видеть кошечек, видит их в белом шуме. Нейросеть, натасканная на конкретный образ, даёт ложно-положительный сигнал при случайном совпадении элементов тому усреднению, которое она помнит. Да, проблему можно облегчить, ужесточив критерии: в случае с HowOld, например, это означает отказ от распознавания слишком мелких или слабоконтрастных объектов. Но — облегчить, а не устранить. Искусственный интеллект — даже «сильный» — по-прежнему не человек: он по-прежнему не понимает контекста, не думает, а значит будет ошибаться, пытаясь обнаружить искомое там, где его по определению быть не может.

Тут-то и кроется опасность. Пока ИИ используют для развлечения, «призраки» нам не вредят. Но представьте, чем способны аукнуться такие же призраки, когда сильный ИИ начнут массово применять для распознавания речи, предсказания поведения покупателей, вообще извлечения смысловых составляющих из сырых потоков Big Data! Работая с ИИ, необходимо помнить, что машина — не человек. Будут ли это помнить простые пользователи?


Войдите или станьте участником, чтобы комментировать