Ученые беспокоятся, что скоро роботы станут умнее людей и предлагают наложить ограничения на разработку алгоритмов искусственного интеллекта.

отметили
75
человек
в архиве
Ученые беспокоятся, что скоро роботы станут умнее людей и предлагают наложить ограничения на разработку алгоритмов искусственного интеллекта.
Сегодня роботы достигли такого уровня, что могут самостоятельно вести боевые действия, отвечать на вопросы, открывать двери, находить электрические розетки для зарядки аккумуляторов. Компьютерные вирусы стало труднее остановить. Ученые всерьез начали обсуждать проблему доминирования искусственного интеллекта над человеческим разумом в будущем и предлагают наложить ограничения на разработку алгоритмов.
Добавил ramelito ramelito 27 Июля 2009
проблема (4)
Комментарии участников:
SKYnv
+3
SKYnv, 27 Июля 2009 , url
глупости
ramelito
0
ramelito, 27 Июля 2009 , url
почему глупости? точнее в чем?
не надо накладывать ограничения или ИИ не будет доминировать на ЧР?
зря закопал, имеет смысл подискутировать
SKYnv
+9
SKYnv, 27 Июля 2009 , url
Сегодня роботы достигли такого уровня, что могут самостоятельно вести боевые действия,
глупости, роботы лишь следуют заложенным в них алгоритмам и не принимают личных решений.
отвечать на вопросы,
боты используют шаблоны и до сих пор не могут поддерживать корректную беседу так как для них это просто набор битов и не более
открывать двери,

галактико опасносте
находить электрические розетки для зарядки аккумуляторов.

даже номера и лица могут распозновать по изображению. Галактико опасносте!
Компьютерные вирусы стало труднее остановить.

ии тут совершенно не при чем, просто повысился класс програмистов и вообще все програмные продукты стали больше и сложнее, пользователей стало больше и доля професионалов в н их упала во много и много раз. Отсюда и "сложности"
Ученые всерьез начали обсуждать проблему доминирования искусственного интеллекта над человеческим разумом

не британские случаем?
Ученые всерьез начали обсуждать проблему доминирования искусственного интеллекта над человеческим разумом в будущем

скажу по секрету в будущем солнце станет сверхновой, давайте что-нибудь поэтому поводу запретим.
и предлагают наложить ограничения на разработку алгоритмов.

давайте наложим ограничение на выпуск отверток ими можно убить. Еще большая глупость, нужно во первых писать нормальные алгоритмы, во вторых когда ИИ будет создать в этих алгоритмах должны уже присутствовать моральные, этические и другие нормы (три закона робототехники если хотите, или 303 если нужно).

blogman
+1
blogman, 27 Июля 2009 , url
Ограничивать — это глупости согласен :)
Но я думаю, есть достаточно большой % того, что ИИ или будет создан или разовьется сам.
Естественно не на данном уровне технологического развития. Естественно надо будет мириться с этим фактом, и не допускать расовой дискриминации. :)

Разумная жизнь "зародилась сама", человек в принципе в силах повторить то, что реально уже существует.

Короче это вопрос времени, но будет ли человек к этому готов или нет? Будет ли он применять ИИ в качестве оружия, как сейчас ядерную энергию…
SKYnv
0
SKYnv, 27 Июля 2009 , url
ближайшие лет 30 это невозможно, так-как это самое ИИ надо после написания еще и "обучить"
blogman
+1
blogman, 27 Июля 2009 , url
ну тридцать лет это еще не много, у нас вон корабли 18 лет делают...
А обучаться судя по всему ИИ будет ой как быстро…
SKYnv
0
SKYnv, 27 Июля 2009 , url
если судить по сегодняшней скорости развития технологий это очень много. Посмотрите развитие науки и техники с 1989 по 2009 например, промежуток тот-же. Обучение это тоже долгий процесс, посмотрите нейросети например.
blogman
0
blogman, 27 Июля 2009 , url
согласен, радио 114 лет назад изобрели, а сейчас вон уже можно человека клонировать.
С другой стороны 30 лет не так уж и много, учитывая, что создание ИИ будет сродни открытия инопланетной расы…
blogman
0
blogman, 27 Июля 2009 , url
ай спасибо друг доргой! вот это правильно! А то чет скучно стало, почитаемс…
buriy
-1
buriy, 27 Июля 2009 , url
шикарный аргумент! "выпускника университета к работе привлечь невозможно в ближайшие 30 лет, т.к. его ещё надо обучить"
shuron
-1
shuron, 28 Июля 2009 , url
Так а через 30 лет всетаки возможно?
Тогда задуматься о том куда это все будет развиваться всетаки имеет смысл...
Мне например не совсем нравится что Армии мира все больше и больше отвественности переносят на
Информационные технологии.
Как то не посебе что современм и принятие тактических (пусть малых) решений может перейти в руки компьютеров.
тоесть вопросов жуизни и смерти.
Я думаю в этом фокус.
brooho
0
brooho, 27 Июля 2009 , url
скажу по секрету в будущем солнце станет сверхновой
не обманывайте, Солнце слишком мало для сверхновой, оно будет всего-лишь белым карликом
shuron
-1
shuron, 28 Июля 2009 , url
Но перед этим оно неимоверно расширится и проглотит все планеты..
Что-то в этом роде ;)
brooho
0
brooho, 28 Июля 2009 , url
не, Земля к этому времени будет на более высокой орбите — океаны испарятся и всё такое, но в целом всё нормально будет :)
shuron
-1
shuron, 29 Июля 2009 , url
А с чего бы она будет на более высокой орбите?
Это ново для меня…
brooho
0
brooho, 29 Июля 2009 , url
википедия говорит, что "так показывают расчеты", а в подробности я не вникал
MachineHead
0
MachineHead, 27 Июля 2009 , url
Теперь я буду гнуть что хочу, когда хочу, КОГО ХОЧУ)))
Mindwork
0
Mindwork, 27 Июля 2009 , url
Антон, опять англоязычный ресурс? Спасибо. Растем :)

По-существу. Согласен с коллегой, до человеческого интеллекта им как до Китая… пешком. Пока.
comander
+1
comander, 27 Июля 2009 , url
имхо, качественный переход, хоть и не представим прямо сейчас, будет происходить очень быстро.
ну скажем кто-то сформулирует некий новый принцип построения искусственной логики, а ее реализация в "терминатора" займет от силы одно поколение, т.е. лет 20
ramelito
0
ramelito, 27 Июля 2009 , url
согласен. в начале века генетики мечтали о клонировании и оно работает уже сейчас.
Osado
+3
Osado, 27 Июля 2009 , url
глупости

Сначала разработали бы хоть что-нибудь, хоть чуточку попадающее под определение искусственный интеллект, а потом бы уж говорили. Перебирать варианты в шахматах — это не искусственный интеллект.
blogman
0
blogman, 27 Июля 2009 , url
ну все начинают с малого.
Сначала варианты перебирают, затем "псевдо-ИИ", потом "Хрен-отличишь где ИИ" :)
Osado
+1
Osado, 27 Июля 2009 , url
Ну не может шахматный компьютер эволюционировать и захватить мир.
Ну никак не может.

Тут только два варианта — или программа может думать, или не может.
Думающие программы даже не маячат на горизонте, их нет и никто не знает даже в какую сторону двигаться.
blogman
0
blogman, 27 Июля 2009 , url
Ну не может шахматный компьютер эволюционировать и захватить мир.

Может, если его мир — шахматная доска :)

"Думать" — не верное слово в отношении ИИ.
Больше подходит "самосознание".
buriy
-1
buriy, 27 Июля 2009 , url
думающие программы существуют с начала 70х, но они все пока что узкоспециализированные. проблема не в думаньи, проблема пока что в отсутствии достаточно большой и качественной базы данных для начального заполнения базы знаний ИИ. дальше процесс пойдёт очень быстро по следующему сценарию: bootstrap -> "update" из интернета -> клонирование получившегося технологического решения -> стремительное применение ИИ во всех сферах жизни. ИИ власть захватить не сможет, поскольку разных ИИ будет много и один другому подчиняться не будет.
Osado
+1
Osado, 28 Июля 2009 , url
думающие программы существуют с начала 70х

Покажите хоть одну. Думающую, интеллектуальную, а не перебирающую варианты.
Типок
0
Типок, 28 Июля 2009 , url
Мозг тоже перебирает варианты, только среди этих вариантов могут активизироваться такие, которые порождают новую ветку мысли имеющую лишь косвенное отношение к проблеме, но из этой новой ветки может родиться решение. Этот процесс и есть "думанье"
SKYnv
0
SKYnv, 28 Июля 2009 , url
ассоциативное мышление, с имитировать ассоциативное мышление можно и на компьютере но в очень и очень упрощенном виде, тогда как мозг пользуется именно таким методом и количество связей между отдельными узлами практически неограниченно. Ну если представить по другому, то компьютер берет список и его перебирает, а мозг берет вопрос и ищет ответ в библиотеке. Так что он в принципе верно высказался )
Типок
+1
Типок, 28 Июля 2009 , url
Ну если представить по другому, то компьютер берет список и его перебирает, а мозг берет вопрос и ищет ответ в библиотеке

А это не одно и тоже? Что значит ищет? Это можно представить как если кинуть в воду камень. Волны пойдут в разные стороны. Их проводник — вода. В мозге проводник — специальные связи, только они быстро обрываются и не могут "пустить волну" по всем клеткам мозга. Все это можно организовать программно.
SKYnv
0
SKYnv, 28 Июля 2009 , url
нет, с волнами аналогия некорректна. Мозг по другому работает. Каждое событие или воспоминание имеет свои связи и эти связи постоянно множатся и расширяются, так как мы развиваемся, и в итоге при решении проблемы мы по этим связям можем придти куда угодно. С компьютером же это пока невозможно сымитировать. Хотел вот еще пописать, но как-то лень, уже ко сну готовлюсь зеваю во всю. Вообще сам процесс мышления, ассоциаций и памяти очень интересен, вы можете на себе даже поэкспериментировать.
Nomad
0
Nomad, 27 Июля 2009 , url
кто его знает, возможно в секретных военных разработках уже достигли ощутимых результатов, ведь простым смертным как мы не дано такого знать
pda
+2
pda, 27 Июля 2009 , url
Манифест Райны Батлер

Граждане свободного человечества! Пусть будет объявлено по всей Лиге Благородных, что не может быть никакого полезного или доброго применения мыслящим машинам. Хотя они могут скрывать свое зло под личиной устройств, освобождающих от утомительного труда, все они коварны и опасны, каков бы ни был уровень их сложности.

Этот манифест является руководством и планом того, как человечество может очиститься от своего наихудшего греха. Каждый гражданин Лиги должен выполнять эти правила и нести наказание за их нарушение.

Если человек знает, где находится мыслящая машина, и не уничтожает ее или не сообщает о ее местонахождении Движению, то он карается выкалыванием глаз, отрезанием ушей и вырыванием языка.

Если человек совершает наитягчайший грех, пользуясь услугами мыслящей машины, то он наказывается за это смертью.

Если же человек совершает еще более тяжкий грех владения мыслящей машиной, то он подвергается за это самой мучительной казни.

Если же человек совершает самый тяжкий из всех возможных грехов, создавая или производя мыслящие машины, то такой нарушитель, все его работники и все члены его семьи должны подвергнуться самой мучительной казни.

Каждый, кто испытывает сомнения по поводу того, что именно надо считать мыслящей машиной, должен обратиться за официальными разъяснениями в наше Движение. После того как такое разъяснение будет дано, машина должна быть немедленно изъята из употребления и уничтожена. Наказания за нарушения те же, что перечислены выше.

Лучше использовать в производстве труд рабов, чем довериться мыслящим машинам.

Не сотвори машину по образу человеческого разума.

Брайан Херберт, Кевин Андерсон, "Битва за Коррин"

P.S. Без меланжи я на этот вариант не согласен. :)
djamix
+1
djamix, 27 Июля 2009 , url
ИИ не сможет обогнать человеческий разум до тех пор, пока не исследован сам мозг человека, процессы, химические и физические, обуславливающие само понятие разума и многие другие факторы,… Это просто, как я думаю, автор статьи просмотрел еще раз первого терминатора:-)
buriy
-2
buriy, 27 Июля 2009 , url
ага, а ребёнок не может научиться говорить, глядя на родителей и слушая их речь, т.к. ему нужно для начала изучить строение мозга родителей и все их внутренние процессы. бва-ха-ха!
Mopok
+5
Mopok, 27 Июля 2009 , url
вот тут и пригодятся легендартные 3 закона робототехники (с)Айзек Азимов
Типок
0
Типок, 27 Июля 2009 , url
-удалено-
не туда
steppentiger
+1
steppentiger, 27 Июля 2009 , url
Слава Роботам! Убить всех человеков!
SKYnv
+2
SKYnv, 27 Июля 2009 , url
как подобный бред может попасть в топ? Элементарно — читатели должны быть так-же безграмотны как и журналист написавший статью.
Osado
+7
Osado, 27 Июля 2009 , url
Да ладно, я голосовал потому-что комментарии тут весёлые :)

ramelito
-1
ramelito, 27 Июля 2009 , url
Дискуссия имеет место быть а значит это популярно… стало быть место в топе, тем более тут всего лишь мнения.
tost1
-1
tost1, 27 Июля 2009 , url
AI невозможен в принципе
Osado
+3
Osado, 27 Июля 2009 , url
Возможен. В крайнем случае лет через 100-200 компьютеры смогут просто тупо симулировать мозг со всеми процессами.

Только кому он такой AI будет нужен? Это ведь будет по сути мозг обычного ребёнка и его нужно будет много лет обучать. Мир он тоже не захватит, скорее будет играть в очередную MMORPG 2209 года…
SKYnv
+1
SKYnv, 27 Июля 2009 , url
он капчи будет распозновать…
comander
+2
comander, 27 Июля 2009 , url
есть одно НО: однажды обученный компьтер может копировать свои знания для любого другого компа, в частном случае — для своего "наследника".
поэтому процесс обучения будет иметь экспоненциальную скорость
shuron
-1
shuron, 28 Июля 2009 , url
Плюс он может учится всегда и с огромной скоростью и не ограничен старостью и смертью… :))
Пипец, самому страшно стало… :))
buriy
0
buriy, 27 Июля 2009 , url
можно вместо этого скопировать и симулировать мозг взрослого человека, а потом его склонировать в N копиях. получим N полезных людей.
Nomad
-2
Nomad, 27 Июля 2009 , url
этот мозг хоть как и у ребенка будет, но сможет вычислять со скоростью компьютера, благодрая этому и развитие будет идти намного намного быстрей
SKYnv
-1
SKYnv, 27 Июля 2009 , url
для вас наверно будет открытием но сегодняшние компьютеры во много много раз медленнее мозга…
shuron
0
shuron, 28 Июля 2009 , url
Смотря как считать...
Например элекрические импульсы мозга меделннee компютерных..
Там перенос заряда совсем иной. В нейронных связях ионам надо от стенки до стенки "проплыть" (боюсь соврать, уже не помню детали) ну короче это намного меделенее чем электроны в привычных нам ел. цепях.
В этом то и основня проблема создания интерфейса Человек-Машина, но и то есть наработки.
SKYnv
0
SKYnv, 28 Июля 2009 , url
ну мы не скорость прохождения импульсов измеряем.
Osado
0
Osado, 28 Июля 2009 , url
С чего это он будет думать со скоростью компьютера? Вы хоть представляете какая нужна вычислительная мощь, что-бы симулировать все процессы происходящие в мозге?
Скорее он будет тугодумом.
tost1
-1
tost1, 28 Июля 2009 , url
не ищи в будущем того, чего там нет )
MiGA
0
MiGA, 27 Июля 2009 , url
роботы могут лишь выполнять монотонные операции быстрее и лучше человека, не более того.
buriy
0
buriy, 27 Июля 2009 , url
читаем про китайскую комнату Сёрла.
Karagy
0
Karagy, 27 Июля 2009 , url

Шершень вытянул из пачки сигарету.
— Да много чего знаю, до утра сидеть будем.
Пепелов хитро улыбнулся. Весельчак по жизни, остроумный собеседник и цепкий профессионал, каким его всегда знал Шершень, сейчас выглядел устало. Улыбка получилась вымученной, но Шершень все же усмехнулся в ответ.
— Если коротко, то после второй Барселонской конференции Холм запретил использование полиморфных схем искусственного интеллекта в пределах всех зон виртуальности Кибернетического Глобуса. Одна из первых схем <эй-ай>, которую разработали гейткиперы на основе <слепка реальности> для работы с частными клиентами и небольшими фирмами. Главная особенность этого <эй-ай> состояла в его множественности. Если в случае с другими схемами <эй-ай> ты имеешь дело с одной <личностью>, то у полиморфов, обычно, их несколько. Что-то вроде большой и дружной семьи. Основной модуль полиморфа — хаб — способен создавать младшие модули и управлять ими. При необходимости он может и уничтожать их. Самокопирование хаба заблокировано. Почковаться он не может. С одной стороны такая, схема намного эффективнее в работе, с другой — эта способность к созданию младших модулей стала главным их недостатком. Хабы стремились использовать любую возможность для расширения своей семьи. До тех пор пока полиморфы находились в локальных сетях, их могли контролировать местные сисадмины и личные операторы "эй-аев". Когда полиморфы получили доступ к ресурсам Сайберглоба, то этот контроль потеряли. Отдельные кластеры Сайберглоба стали периодически виснуть. Попытки оптимизировать работу предпринимались, и успешные, но на Холме кто-то решил запретить схему. Всех владельцев <эй-ай> обязали отдать носители с полиморфами и пообещали возместить ущерб. Многие отказались это сделать. Более того, сочли директиву Холма за нарушение прав пользователя и человека. Шум подняли большой. В результате некоторая часть пользователей сдала техникам Холма копии и выпустила полиморфов в сеть, отвязав их от носителей. В знак протеста. Таким образом, примерно около десяти тысяч хабов и их семей оказались на свободе.
Пепелов подался вперед.
— И после этого на них началась эта пресловутая охота?
— Нет, не сразу. В этом как раз вся и суть. Понимаешь, <эй-аи> личностных схем не могут долгое время существовать без диалога с оператором-человеком. Мы являемся для них источником задач, целей, мотивов, смыслов. Сами они не могут поставить себе цель или замотивироваться. Поэтому рано или поздно такой <эй-ай> впадает в состояние ступора, которое профессионалы называют Radio Silence.
— Молчание в эфире.
— Да, отсутствие задач равняется отсутствию активности. <Эй-ай> замирает, становится мертвым грузом на каком-нибудь ресурсе, и его можно легко взять. Именно на это надеялись техники Холма, когда узнали о том, что пользователи выпустили полиморфов в сеть.

Станислав Шульга, "Хаос-генератор", Light Edition
Типок
+3
Типок, 27 Июля 2009 , url
Всем спасибо, смеясло, особенно когда рассуждают на тему интеллекта, оперируя понятиями, определения которых никто не знает.
Не существует никакого интеллекта и никакой воли. Даже если отталкиваться от того, что душа существует, все равно это не отменяет это утверждение. Разум, рассудок, самосознание. Забудьте эти понятия, когда говорите о создании искусственного интеллекта. Человек имеет какие-то способности совершать что-то, однажды человеку пришло в голову, выделить процесс мышления в отдельное понятие, а потом он решил, что он один имеет такую способность, сам того не понимая о чем он говорит.
Все имеет причину и следствие. В том числе любая деятельность мозга имеет свою причину. И где же здесь воля? Человек может сказать, что он волен прочитать кучу книг. Но разве не для того он это сделает, чтобы потом хвастаться никому не понятными словами или чтобы потом получить хорошее образование? Его толкала его культура, обычаи или родители с ремнем. Любое действие, в том числе не осознаваемое (переваривание пищи например) направлено лишь для того чтобы возбудить в коре мозга специальные клетки А либо отключить возбуждение других специальных клеток Б. Т.е. все сводится к простому переключателю. Если Б = true то возбуждаются клетки мозга, которые становятся причиной какого-то действия человека, которое делает Б = false.
SKYnv
-1
SKYnv, 27 Июля 2009 , url
мышление — это электрохимическая работа мозга. Сознание это ваше осознание этой самой работы мозга. Есть случаи разделения сознания после операций на мозге — то есть в голове у человека получается два потока мышления, левое и правое полушарие.
Типок
+1
Типок, 27 Июля 2009 , url
опять общие понятия, ну ладно будем их употреблять в том смысле, в котором вы их употребили. Тоесть сознание это не есть мышление? Попробуйте дать определение сознания без ссылки на само сознание или близкие синонимы.
SKYnv
0
SKYnv, 27 Июля 2009 , url
сам термин сознание довольно расплывчат и охватывает очень много. вот можете почитать если вам интересно вики. Сознание это тоже в сущности электрохимическая работа мозга.
SKYnv
0
SKYnv, 28 Июля 2009 , url
ыы кто-то не согласен…
precedent
+1
precedent, 27 Июля 2009 , url
Глупости. Даже здесь ряд "ботов" (не буду называть, а то обидятся) уже давно умнее меня
ОРСК
0
ОРСК, 27 Июля 2009 , url
Оупенсор и Линукс это прекрасно, но вы забываете господа что самым большим мотивом в инновациях являются деньги и геополитика (умные поймут).
Вот собственно одно из детищ (того кто спонсировал придумывание IP, гы-гы).

CYC

Самая перспективная разработка, думаю вы мало об этом слышали, ибо это не поиск от гугла или «интеллектуальный стол» от майкрософта.

Если в двух словах, то это примерно логический поиск реализованный на всём совестном (а также словосочетания и предложения) багаже языка. Например она может читать газетные статьи (в смысле после «прочтения» можно задать ей вопросы и она на них ответит по статье)(как задаются вопросы не знаю, скорее всего на каком-то аналоге Пролога, но наверно есть прокрутка и на обычном языке, чтоб удивлять обывателей).
Повторюсь «примерно логический поиск» но он выстроен многоуровнево, и это не примитив вида 1+1=2. Например система может извлекать логику из «вновь прочитанных статей», и распознавать например юмор, сарказм, специфический контекстуальный сленг, тролинг и кащенизм :) и всё другое разнообразие семантических смыслов не вписывающихся в 1+1=2, но понятных людям.

(Например эта система может распознать смысл моего постинга здесь :))))

Если к этому прикрутить нейронные сети то оно в принципе сможет «личностно и спонтанно принимать решения». (нейронные сети будут примерно играть роль «гормонов» для этой системы, по аналогии человеческих гормонов (и их влиянии на наш мозг)).
ОРСК
0
ОРСК, 27 Июля 2009 , url
Одна из указанных целей — создать полностью свободный и неограниченный семантический словарь для использования в Semantic Web

(Что то мне поплохело) Что то не нравится мне это, один смысловой словарь для всех.


Войдите или станьте участником, чтобы комментировать