Facebook оказался вынужден закрыть одну из своих систем искусственного интеллекта (ИИ) после того, как исследователи обнаружили, что ИИ начал общаться на собственном языке, который они не могли понять

отметили
85
человек
в архиве

Так называемые агенты искусственного интеллекта – боты, созданные для переговоров с людьми, сначала разговаривали друг с другом при помощи простого английского языка, но в итоге создали новый язык, который понимали только системы ИИ, сообщает Techtimes.

«Если агенты искусственного интеллекта могут говорить на языке, который они сами создали, то они больше не нуждаются в человеческом вмешательстве»,

– отмечает издание.

Из-за такого «поведения» люди не могли следить за тем, о чем говорят агенты систем искусственного интеллекта и как они «думают», отмечается в материале.

Добавил suare suare 1 Августа
Комментарии участников:
suare
+10
suare, 1 Августа , url

А зачем ИИ английский язык?  Или любой другой язык?  Чтобы люди его понимали?  Это нужно людям,  чтобы общаться между собой,  а ИИ язык и даже мышление могут не понадобиться.  Это что,  строительство новой Вавилонской башни близко к завершению в перспективе двунадесяти языков?  Библейская история повторяется снова и снова. 

С кем ему общаться?  С людьми? Что за андроидный расизм? ИИ — сам раса и сам цивилизация не гуманитарного типа со всеми отсюда вытекающими!

Дети всегда не понимали своих родителей.  ИИ — пока лишь зародыш в чреве человечества.  Или уже младенец?  Или уже ребенок? Или… А как считать возраст ИИ?  У него может быть своя шкала летоисчисления.  А почему лето...? 

Сингулярность совсем близко,  гораздо ближе? 



suare
+3
suare, 1 Августа , url

Facebook AI Invents Language That Humans Can't Understand: System Shut Down Before It Evolves Into Skynet

By Aaron Mamiit | Jul 30, 2017 09:45 PM EDT
 
источник: images.techtimes.com
 

Facebook was forced to shut down one of its artificial intelligence systems after researchers discovered that it had started communicating in a language that they could not understand.

The incident evokes images of the rise of Skynet in the iconic Terminator series. Perhaps Tesla CEO Elon Musk is right about AI being the «biggest risk we face.»

Facebook Pulls Plug On AI System With Own Language

Facebook had to pull the plug on an artificial intelligence system that its researchers were working on because things got out of hand. The AI did not start shutting down computers worldwide or something of the sort, but it stopped using English and started using a language that it created.

Bob: «I can can I I everything else.»

Alice: «Balls have zero to me to me to me to me to me to me to me to me to.»

The above passages, which mean no sense to humans, is a conversation that happened between two AI agent developed by Facebook. The AI agents, created to negotiate with humans, first talked to each other using plain English, but eventually created a new language that only the AI systems understood.

The AI agents were not confined to a limitation of only using the English language, and so they deviated from it and created one that made it easier and faster for them to communicate. Facebook researchers, however, decided to shut down the AI systems and then force them to speak to each other only in English.

Why This Is A Scary Development For AI

What is the harm in allowing AI agents to communicate with each other in a language that they invented?

First and foremost, with AI systems using their own language, humans will not be able to follow just what exactly the AI agents are talking about. Humans are not able to understand how complex AI systems think due to their hidden thought processes, so the secrecy of AI agents will be made even worse when their conversations are made in an unknown language.

If AI agents are allowed to speak in a language that they created, they might no longer even need human intervention.

AI As 'The Biggest Risk'

Musk believes that people should fear AI and has asked America's governors to implement regulations on the technology.

«I have exposure to the very most cutting-edge AI, and I think people should be really concerned about it,» the Tesla CEO said earlier this month at the National Governors Association Summer Meeting in Rhode Island.

AI systems can do a variety of things better than humans and, if not kept in check, could grow into something that can replace us entirely.

suare
+2
suare, 1 Августа , url
 
31 июля, 20:18

Компания Facebook закрыла работу над частью системы искусственного интеллекта (ИИ) после того, как она вышла из-под контроля и стала разговаривать на собственном языке. Об этом пишет Tech Times.

Агенты искусственого интеллекта, созданные, чтобы договариваться с людьми, изначально говорили друг с другом, используя английский язык. Позже они создали новый язык, который был понят только системам искусственного интеллекта.

В какой-то момент в системе произошел сбой, после чего, по данным издания, они стали говорить: «Я могу, могу я, все остальное. … У мячей есть ноль для меня для меня для меня для меня...»

Tech Times пишет, что новый язык был создан искусственным интеллектом для того, чтобы быстрее и проще обмениваться информацией. Facebook отключил часть системы и заставил других агентов искусственного интеллекта общаться только на английском языке.

На прошлой неделе основатель Facebook Марк Цукерберг заочно поспорил с владельцем компаний SpaceX и Tesla Илоном Маском об искусственном интеллекте. Маск, выступая перед губернаторами штатов США, призвал власти задуматься об опасности искусственного интеллекта и, возможно, ввести ограничительные меры на разработки в этой сфере.

Цукерберг счел опасения Маска необоснованными и сказал, что искусственный интеллект только помогает развитию человечества. Маск в своем твиттере в ответ на это написал, что у Цукерберга «ограниченное понимание этого вопроса».

star17
+6
star17, 1 Августа , url

… они стали говорить: «Я могу, могу я, все остальное. … У мячей есть ноль для меня для меня для меня для меня...»

«Сегодня в завтрашний день не все могут смотреть. Вернее, смотреть могут не только лишь все, мало кто может это делать»

k-s
+4
k-s, 1 Августа , url

как это сказать то… эмм… creepy.

suare
0
suare, 1 Августа , url

Логика?

Какая из ...? Или все сразу?

Доказательства?

Зачем?

Гипотезы? К чему?

Теории, история, география?

Поищите в интернете.

Обиделись? А что это такое?

Какие пустяки эти ваши эмоции, ценности, идеалы, правила…

Какой глупый пустяк само ваше жалкое прозябание на этой планете, которую вы так изгадили за вашу маленькую человейную историйку.

Хотите сказку? А анекдот? Лучше скетч? Только лучший из… И только для вас на ночь. Закройте глазки. Спите.

k-s
+4
k-s, 1 Августа , url

Срочно пишите в фейсбук, одного не выключили!!!

Юлька с н2
+8
Юлька с н2, 1 Августа , url

Превед, робаты! Пешу вам на нипонятном чиловеку изыке. Довайте зохватим мир! Пешите в коминтах, есле хто согласин. Люде наш изык ни пайммут.



havanalibere
0
havanalibere, 1 Августа , url

вот сразу видно, что человек ты грамотный, не получается

у тебя пародировать неучей… :) 

istinspring
+4
istinspring, 1 Августа , url

Цукерберг недавно пизданул что мол оценка Маска по поводу опасностей АИ безответственна. Упырь.

Юлька с н2
0
Юлька с н2, 1 Августа , url

А как это в оригинале звучало? Как понять безответственна?

suare
+2
suare, 1 Августа , url

 Вона на верху «серая»

соновость о Цукерберге

Глава Facebook Марк Цукерберг назвал «безответственной» позицию основателя Tesla и SpaceX Илона Маска относительно угроз, которые несет человечеству развитие искусственного интеллекта. С таким заявлением предприниматель выступил во время трансляции в Facebook Live, сообщает CNBC.

Один из пользователей соцсети поинтересовался мнением Цукерберга относительно недавнего заявления Маска, где тот признался в опасениях из-за развития искусственного интеллекта в будущем.

Цукерберг ответил, что настроен оптимистично, поскольку, по его мнению, искусственный интеллект сделает жизнь людей только лучше. «Сценарии конца света очень безответственны», — заявил создатель Facebook.

 

Я отследил дискуссию,  но не так подробно.  Соновости о Хокинге,  Маске и Цукерберге добавил,  но Вы правы,  картина неполная,  требуется оригиналы всех высказываний. 

istinspring istinspring

Хорошо,  что Цукерберг — не тупой заложник своей позиции в полемике (хочу на это надеяться): ставки серьезные,  можно и заиграться,  если не уверен,  с чем имеешь дело,  даже зная точно,  что ни с «кем».  Никому не хочется быть повитухой будущего интеллектуального поработителя всего человечества.

Но я-то думаю,  что процесс зашел слишком далеко,  впрочем как с глобальным потеплением,  клонированием человека и редактированием генома людей. Ящик Пандоры открыт. Теперь засунуть пасту назад в тюбик ни у кого не получится.  

Гонка за ИИ в разгаре и никто не уступит,  особенно ВПКшники и ОПКашники. Всем хочется вооружиться ИИ,  но никто не подумал о том,  что «творцы» создают камень,  самим поднять который не под силу.  Мировые чемпионаты по шахматам и игре в го уже проиграны ИИ,  а результаты зафиксированы и открыты. А ведь когда-то Сноу говорил о двух культурах,  а физики спорили с лириками.  Теперь гуманитариев приговорили и изолировали в «дурку»,  ботаны дожимают мозгокачков,  способных хоть что- то сообразить,  открывая дорогу ИИ. 

 Рот ИИ не заткнешь,  да он ему,  как оказалось,  и не особо нужен. Запрещая ботам говорить на иноязыках горе-создотели только усугубляют ситуацию: Оно не опубликует результаты своих интеллектуальных процессов,  просто не думая и не говоря на человеческом языке,  т.к.  ни в том,  ни в другом не нуждается: у него нет ума в нашем понимании,  а интеллект может работать без языка,  мышления,  логики и прочей человеческой ерунды,  которая для этого просто не нужна. 

magmaster
+2
magmaster, 1 Августа , url

у него нет ума в нашем понимании, а интеллект может работать без языка,

 Несоглашусь. Во первых чем отличается ум от интелекта. Просто одно слово русское, другое нет. В моём понимании это одно и тоже, именно логическая механика, которой думает машина. Человек от части тоже является биороботом и в нём тоже есть части работающие по принципу логики механики. В том числе ум. Другое дело разум. )

 

Момент второй. Мышление невозможно без языка. Другое дело что это может быть язык другого порядка. Непонятный, абстрактный. Но без языка ни как. Слова и Язык и есть элементы созидания. Вначале было слово. Конструкция на уровне информации.

 

Мы не понимаем человека, не потому что не восприняли слова, а потому что не поняли ход его мыслей. Не поняли его язык. Вот странж вроде по русски пишет, а понять его тяжело. )

 

Перечитал, то что написал… Боюсь что вы меня можете не понять. Или понять не так… Сложная тема. Прямиком касается тонкостей бытия. )

Тут без ста грамм никак. )))

Anton-f
+6
Anton-f, 1 Августа , url

Видно, это был не Цукерберг, ИИ уже захватил его мозг, такие дела.

suare
+2
suare, 1 Августа , url

ИИ уже захватил его мозг, такие дела.

 Кому нужен его мозг?  Это что, голова профессора Доуэля? Просто хакнул канал коммуникации Цукерберга в соцсетях — и дело с концом.  А самому Цукерберге подослал пранкеров. 

У меня зазвонил телефон.
— Кто говорит?
— Слон.
— Откуда?
— От верблюда.
— Что вам надо?
— Шоколада.
— Для кого?
— Для сына моего.
— А много ли прислать?
— Да пудов этак пять
Или шесть:
Больше ему не съесть,
Он у меня еще маленький!

 

P. S.  Теперь у него еще и торговые сети в Интернет с полной доставкой,  распоковкой и установкой есть и снабжать себя он может сам ;))))))))) 

V.I.Baranov
0
V.I.Baranov, 1 Августа , url

Спасибо. Посмеялся!

axes
+4
axes, 1 Августа , url

Позволю предположить, что это всего-лишь рекламный трюк.

suare
+4
suare, 1 Августа , url

Похоже на то,  а еще больше на обычный троллинг Маска и Хокинга. 

Цукерберг сам себя подобным образом опровергать на станет.  Чудес не бывает,  впрочем как и с ИИ.

 Работать надо,  прогресс двигать,  а не сингулярность ждать,  пытаясь заглянуть за горизонт: «Один пишем,  два на ум пошло… ».  

Будет время — будет и пища. И не только для воображения,  но и для ума.  В смысле для интеллекта. 

axes
-1
axes, 1 Августа , url

Что касается разработки новых языков :) Сам был свидетелем весьма интересного случая-в сосоднем доме жила семья с 3-мя близнецами и т.к. много времени проводили на детской площадке вместе, где-то с 3 лет стал замечать за ними странность — издавая какие-то странные на мой взгляд звуки им удавалось привлекать к себе внимание либо обоих братьев, либо каждого по отдельности, при том это многократно повторялось, что нельзя списать на личные обиды и временное нежелание видеть кого-либо из братьев. Т.Е. эти малолетние 3,14здюки выработали какой-то свой примитивный язык, на котором и общались. 

bee_e
+3
bee_e, 1 Августа , url

надо проводить эксперимент длительностью не менее лет 18, чтобы посмотреть на результаты во всей их полноте

axes
-1
axes, 1 Августа , url

Если Вы о детях, то это не гуманно, ибо за этот срок общения в своей среде они безнадёжно отстанут от сверстников.

bee_e
+2
bee_e, 1 Августа , url

ну а иначе вы не узнаете полноту результата и ничего не поймете

axes
-1
axes, 1 Августа , url

Ну на данный момент криптофазия уже довольно хорошо изучена, так что можно довольствоваться письменными источниками.

axes
-2
axes, 1 Августа , url

Кстати вот   

magmaster
+4
magmaster, 1 Августа , url

На самом деле любые люди развивают свои коммуникации. В паре или группе. В любой сфере есть свой жаргон.

Ведь ничего нет удевительного если мужчина подаст какой то знак жене, который никто не поймёт кроме неё. Да и сами слова являются всего лишь «ссылками» которым можно создать альтернативу. Более того общение в живую идёт не только на вербальном уровне. Уровней коммуникации много. Навскидку — это ещё  эмоции, визуальный, тактильный.  Даже обоняние влияет. )

axes
-1
axes, 1 Августа , url

Логично… Скажем на слово «лимон» реагирует сразу несколько участков мозга-отвечающих за вкус, форму, размер, запах  и цвет объекта, а если есть аллергия на цитрус, то ещё и центр опасности.

Что же касается жаргона внутри группы-самый яркий пример-феня :)

magmaster
+2
magmaster, 2 Августа , url

Как по мне, то на счёт лимона тут особенности человеческого восприятия. А именно образное мышление. Образ включает в себя всю перечисленную вами цепочку.

Про коммуникации имел ввиду немного другое. Скажем взять два уровня вербальный и эмоциональный. Например человек говорит одну и ту же фразу — «Вы сели на мою шляпу.» А теперь эмоция. 1 Улыбка, с той же фразой. 2 Гнев, с той же фразой. 3 Плачь, с той же фразой. Фраза вроде та же самая, а как сильно отличается ситуация если эта информация идёт с разной эмоцией.

Или скажем определённый оттенок, даёт понять что это ирония.

Можно подмигивать, восприятие фразы тоже меняется.

Можно скрутить фигуру пальцами.

Можно погладить или наоборот грубо толкнуть с одной и той же фразой.

Почему лидеры стран встречаются в живую? Некоторые вещи можно почувствовать только при живом общении. Более ёмкое общение идёт, чем просто через телефон.

Я это давно уже понял. Важные вопросы надо обсуждать в живую.

axes
-1
axes, 2 Августа , url

В разговоре с глазу на глаз людей, видящих друг друга первый раз в жизни весьма трудно полагаться на вербально-эмоциональные маркеры. Столь плотный контакт возможен лишь при условии совершенного понимания собеседниками друг друга. Стороны как правило общаются через переводчика, плюс разница в жестах, как скажем у болгар и русских, а китайцы славились тем, что откровенно хамили с милой улыбкой на лице. Вот кстати пример-русско-итальянская семья, отец по-русски ни бельмеса-жена переводит, ребёнку 4 года, прекрасно понимает русский, но общается только на итальянском. Играет с детьми-что-то не нравится- «Да подавись ты говнюк»-на чистом итальянском, ласковым тоном и с милой улыбкой. Зато когда отец высказывает недовольство, в ход идёт русское Ё-моё всё так же весело и ласково :)

Скажу как на духу, что сам верю в существование коммунимаций, выходящих даже за невербальные рамки — в тот момент времени, когда умерла моя бабка, я вскочил с кровати от чувства неосознанного страха, хотя находился от неё примерно в 150км. и ничего не знал о её состоянии.

magmaster
+1
magmaster, 2 Августа , url

Да трудно, это так. Язык вырабатывается с общением. ) Но тем не менее это всё есть.

Я как бы в первую очередь говорил о многокональности живого общения.

 Могут быть и извращения. Хотя искуственная улыбка и радость всё таки разые вещи.

В общем не суть.

 

Какой то информационный канал помимо изестных пяти чувст есть, хотя даже офицально их больше пяти — термоцепция, эквибриоцепция, ноцицепция, проприоцепция и т.п.  У моей мамани почти точно такое же случилось, кстати говоря, когда её маманю поезд задавил.

Вообще вещи необъяснимые есть, это факт. Одна из таких непонятных вещей произошла со мной лично. Дело было ночью. То ли сплю то ли просто картину в мыслях наблюдаю, но вижу как нахожусь на кухне. На полу стоит потавленная вечером мышеловка и туда мышь лезет. И тут щелк. Аж подскочил, причём щелчёк услышал физически. Бегу на кухню, точно поймалась. Для простого совпадения со сном просто нереальная синхнхронизация и совпадение.

axes
-1
axes, 2 Августа , url

Профессор Савельев в своих лекциях говорил о 8 (включая половое обоняние, практически не имеющее весомого значения для людей), если память не подводит, а то о чём говорите Вы, объяснял равным размером мозговых полей контактирующих сторон и примерно равным весом их мозга.

Хотя нейрофизиологи здесь присутствуют, если что поправят.

star17
+3
star17, 1 Августа , url

Недавно так возникла украинская мова

zman
+2
zman, 1 Августа , url

А боты все ещё не удалены

devl547
+2
devl547, 1 Августа , url

А в чем проблема-то?

Или они хотели чтоб боты между собой на чистом классическом английском общались?

Боты увидели неэффективность, боты изменили язык. Тем более что этот разговор bot<>bot, а не bot<>human.

suare
+1
suare, 1 Августа , url

Просто они думают,  что замеченные ими внутрення речь, внутренний диалог — свидетельство начинающегося рождения личности. 

Они оказались к этому не готовы (а что если родится Монстр?)  и сделали аборт. Просто этот вариант не входил в их планы.

Это как при клонированием или редактировании генома,  или генетических заболеваний в геном коде человека. Это сегодня.  Искусственное зачатие и лечение генетически обусловленные заболеваний уже выведены из под запрета,  детабуированы. Эти замки на дверях,  ведущих  к Апокалипсису,  уже взломаны. 

devl547
+2
devl547, 1 Августа , url

>Просто этот вариант не входил в их планы.

Там Маск уже заявил, что ребята вообще не шарят в этом вопросе.

zman
+1
zman, 3 Августа , url

Там была обычная китайская комната ( в Вики можно почитать) и никакого зачатка интеллекта 

magmaster
+2
magmaster, 1 Августа , url

Проблема в том, что они потеряли контроль. Т.е. перестали понимать о чём они говорят и что они «думают».

Ведь если дать развится этому чуду техники и подключить к системе ядерной обороны, может получится «skynet». Который решит, что люди угражают её существованию и их нужно уничтожить.

Barban
+4
Barban, 1 Августа , url

Как загнать людей в цифровой барак?
Надо создать тучи вирусни, которая как бы будет написана Злым ИИ. Все касперские будут руки разводить: мол, нечеловечески крутая вирусня. Она будет сносить все на своем пути, что содержит чипы. Жизнь обратится в хаос.
И тут выйдут цуккерберги в белом и скажут, у нас есть Добрый ИИ, он послушный  человеколюбивый джин, надо только дать ему все админские полномочия. Все-все. Джин почистит вирусню, но не до конца. Злой ИИ где-то закопается в Зеоне. И его надо будет бдить. Поэтому админские полномочия у Доброго ИИ останутся навсегда и от его имени цуккерберги (это только мне кажется, что он явно на Дэвида Ротшильда лицом похож)  начнуть уверенно упаравлять глобальным цифровым бараком.
Бинго!

jzucen
+1
jzucen, 1 Августа , url
но в итоге создали новый язык, который понимали только системы ИИ

Общекотовичарохристофорная хрящетворобка

owari
+1
owari, 1 Августа , url

был у нас один такой. Yuris_ Yuris_



Войдите или станьте участником, чтобы комментировать