Маск и Хокинг предупредили об угрозе оружия с искусственным интеллектом

отметили
28
человек
в архиве
Маск и Хокинг предупредили об угрозе оружия с искусственным интеллектом
Более тысячи известных ученых и бизнесменов подписали письмо, авторы которого призывают не допустить превращение роботов с искусственным интеллектом в машин-убийц.

Глава компания SpaceX Илон Маск, сооснователь Apple Стив Возняк и профессор физики Стивен Хокинг подписали открытое письмо, в котором предупредили о гонке вооружений с искусственным интеллектом и призвали запретить «автономное наступательное оружие», пишет The Guardian.

Письмо было представлено на международной конвенции по искусственному интеллекту, которая прошла в Буэнос-Айресе. Всего под открытым письмом подписались более 1 тыс. известных ученых, бизнесменов и экспертов в области искусственного интеллекта.

В тексте письма говорится, что технологии искусственного разума достигли той точки, когда развертывание автономного оружия практически, если не юридически, — вопрос не долгих десятилетий, но ближайших лет. Ранее автономное оружие описывалось как третий этап эволюции вооружения после пороха и ядерного оружия.

Авторы письма утверждают, что искусственный интеллект может быть использован на поле боя, чтобы сделать его более безопасным для военнослужащих, но наступательное вооружение с применением искусственного разума приведет к росту потерь человеческих жизней.

Стивен Хокинг предупредил, что развитие подобного оружия может означать конец человеческой расы, а профессор университета Нового Южного Уэльса Тоби Уолш призвал уже «сегодня» принять решение, каким будет будущее людей.

В апреле этого года на конференции ООН в Женеве уже обсуждали будущее оружия, в том числе так называемых «роботов-убийц». Тогда Великобритания выступила против запрета на разработку автономного оружия, несмотря на призывы различных заинтересованных кругов.

Илон Маск в начале 2015 года выделил $10 млн на то, чтобы роботы и искусственный интеллект использовались лишь во благо человечеству и не превратились в машин-убийц.
Добавил MonGeneral MonGeneral 28 Июля 2015
есть ли опасность?
fStrange опасность как всегда в людях, машина лишь средство (3)
Jetwink Нам всем звиздец! (1)
Комментарии участников:
manny21
+2
manny21, 28 Июля 2015 , url
sl-lopatnikov.livejournal.com/1284292.html

В 2009 году, критикуя абсолютно невежественную программу приоритетных направлений Медведева я битым словом писал:

Мои приоритетные программы иные:
— робототехика. Если Россия СЕГОДНЯ не совержит кардинальный прорыв в этой области, через 10 лет ту же армию можно будет закрывать, как керосиновую лавку. Робототехника потянет за собой оооочень многое, включая осмысленную нанотехнолгию и материалы. Это и повышение эффективности производства, и рынок, и даже сельское хозяйство.

Позже я писал о том, что: Скоро война будет выведена на новый уровень, вплоть до разработки оружия «персонального наведения», которое исходно будет нацелено на распознавание и уничтожение конкретных персон, чтобы получить максимальный эффект при минимуме затрат.

Сегодня — это главное: как добраться и уничтожить настоящих ЛПР?
За этим стоит история не только уничтожения гауляйтера Кубе, Масхадова или Басаева, это и опыт Израиля — уничтожения ликвидировали «главного инженера ХАМАС» Яхью Айяша, занимавшегося разработкой взрывных устройств и начальника спецслужб «Хезболлы» Имада Мугния. К этому можно добавить убийство Джона и Роберта Кеннеди, равно как и Мартина Лютера Кинга, а если пойти и дальше, то тут и Гаврила Принцип, и Вера Засулич…

Это политический террор, разумеется. Его до сих пор осуществляли люди, а не машины. Террор крайне редко достигал настоящих ЛПР и потому мало влиял на политику. До сих пор реальные хозяева мира оставались в тени и наслаждались безопасностью. Создание оружия с реальным искусственным интеллектом, настроенным на персональное уничтожение «труднодоступных» целей способно принципиально изменить ситуацию и вывести проблему на качественно новый уровень: война может превратится из войны масс в войну элитных персон.

Последствия могут быть многообразны.

Что же касается письма тысячи ученых… Что тут скажешь? — Идеализм — это пустой красивый жест и всегда глупость. Даже если это идеализм Стивена Хокинга.

В любом случае — это то, чем нужно заниматься уже сейчас. Ибо, кто не успел, тот опоздал.


Войдите или станьте участником, чтобы комментировать