[Война интеллектов] Илон Маск: искусственный интеллект превзошёл интеллект человека, который обязан взять ограничить его свободное развитие в гонке интеллектов. А начиналось настольными играми с ИИ...
отметили
30
человек
в архиве
![[Война интеллектов] Илон Маск: искусственный интеллект превзошёл интеллект человека, который обязан взять ограничить его свободное развитие в гонке интеллектов. А начиналось настольными играми с ИИ...](/story_images/661000/1681978401_33_1681978347_100_1681977910_25_1681977870_48_1681977440_83_1681977431_67_1681977383_75_1681977372_75_1681977308_61_1681977245_29_1681977152_65_249707853_0:163:1920:1123_1280x0_80_0_0_126a5dcd4108ae4d05371ef1fca0df4b.jpg.webp)
Искусственный интеллект стал демонстрировать более высокие умственные способности по сравнению с человеком, заявил в беседе с обозревателем Fox News Такером Карлсоном предприниматель Илон Маск. По его мнению, человечество должно разработать эффективные рычаги по контролю над ним.
Единственное преимущество, которое имеет и когда-либо имел человек, — это то, что он единственный обладает статусом самого умного существа на планете, но скоро все изменится.
Может быть, уже на следующей неделе. Что делать, когда ИИ станет сильнее нас? И какое это будет иметь значение для демократии? Мы спросили Илона Маска о планах на случай непредвиденных обстоятельств, если ИИ получит превосходство над человеком. Вот наш разговор об этом.
Такер Карлсон: Как вы наверняка слышали, ходят разговоры о необходимости уничтожить серверные фермы, потому что, если ИИ выйдет из-под контроля, способов остановить его уже не будет. Что думаете?
Илон Маск: Поистине сверхмощный искусственный интеллект не будет распространен повсеместно. Доступ к нему получит ограниченное количество центров обслуживания. На ваши ноутбуки и смартфоны ничего подобного устанавливать никто, разумеется, не будет. Применять такой ИИ будут исключительно в случаях совместной работы, скажем, ста тысяч компьютеров в некоем центре обслуживания. Количество таких мест весьма ограничено, а их тепловой след виден даже из космоса. Я не предлагаю уничтожать их, но было бы разумно разработать какой-то план на случай непредвиденных обстоятельств. Например, правительство может просто отключить им электричество — упразднять необязательно — или лишить доступа к сети.
– А где пролегает предел таких действий? Что, по-вашему, может побудить правительство отключить в этом случае электричество или интернет?
– Думаю, если по какой-то причине мы однажды утратим контроль над каким-нибудь супер-ИИ, могут пригодиться специальные пароли для ее отключения, например пароли администратора. А если это не сработает и мы не сможем замедлить или остановить процесс… Знаете, если честно, у меня нет точного ответа. Но если речь идет о чем-то, что нас беспокоит, а мы не можем решить проблему с помощью программируемых команд, то, вероятно, было бы неплохо иметь под рукой какой-то механический выключатель. Точно не повредит.
– Поскольку вы знаете Ларри Пейджа и, очевидно, ребят из компании OpenAI, говорили ли вы недавно об этом с людьми, возглавляющими две крупнейшие фирмы в области ИИ?
– С Ларри Пейджем мы не общались несколько лет, потому что он обиделся на меня из-за OpenAI. Своим появлением компания изменила то состояние однополярности, при котором три четверти всего ИИ контролировала гугловская DeepMind, в биполярный мир совместного фукционирования OpenAI и DeepMind. Сейчас даже есть ощущение, что OpenAI вырвалась вперед. Да, я говорил с сотрудниками OpenAI и Тимом Хоффманом, но не с Ларри Пейджем, потому что он вот уже несколько лет со мной не разговаривает.
– Позвольте задать вопрос о мышлении, раз уж вы во всем этом уже долго «варитесь». Почему бы кому-то не стать специалистом в этой области, не ориентироваться на человека в плане технологий?
– Думаю, суть проблемы в призыве относиться ко всякому сознанию одинаково, будь то цифровое или биологическое.
– Хм. Вы с этим не согласны?
– Не согласен, да. Особенно если цифровое сознание, цифровой интеллект принимает решение сократить степень присутствия биологического.
– Верно. Вы просто создаете сами себе господина, зачем так поступать?
– Звучит так себе. (смеются) Знаете, здесь ведь главное не торопиться. К чему спешка? Нигде ничего не горит.
– Поговорим о спешке. Вы много лет об этом предупреждаете, но для нас ваши слова о нейросетях звучат где-то очень далеко. Для большинства людей прошло не больше трех месяцев с тех пор, как они вообще вступили с ним в какое-то взаимодействие. Когда же все действительно началось? В какой момент ИИ начал реально менять наше общество, как думаете?
– Полагаю, что в этом году. Например, чат-бот GPT4 научился писать стихи.
– И довольно приличные, надо сказать.
– Да, это правда. Он демонстрирует невероятный талант к рифмам.
– Да-да. И текст выходит очень даже связным.
– Да, получается некое повествование.
– Точно. Но ведь это реально сложная задача!
– Большинство людей на такое не способны.
– Действительно.
– Это ужеза гранью того, на что способен человек. Большинство не могут писать так же красиво, как ChatGPT, и уж точно мало кто способен делать это одновременно качественно и быстро, насколько мне известно. Разве что Шекспир мог.
– Как демократии уживаться с такого рода технологиями? Демократия — это когда власть в руках у народа, все имеют равное право голоса, люди могут самостоятельно делать выбор, но как увязать все это с наличием ИИ?
– Именно поэтому я поднял вопрос о том, что искусственный интеллект оказывает значительное влияние на выборы. Даже если вы скажете, что у ИИ нет свободы действий, что ж, очень вероятно, что люди станут использовать его как инструмент на выборах. И потом, если искусственный интеллект достаточно умен, возникает сомнение, кто кого использует: народ — инструмент или наоборот? Так что я думаю, что многие вещи сейчас обретают странные черты, причем довольно стремительно.
Добавил ![suare]()
suare 20 Апреля 2023
suare 20 Апреля 20234 комментария
проблема (1)
На эту же тему:
27
[Дежурнализация] Смерть журналистики. США взорвали не столько европейский «Северный поток», сколько свою свободу, «подрывая репутацию журналистики». Кто теперь? ChatGPT-5?
— 28 Апреля 2023
18
Революция в области искусственного разума. Часть вторая: Бессмертие или уничтожение жизни на земле
16 — 23 Апреля 2023
16
[Перевод-2015] Революция в области искусственного разума. Часть первая: путь к Сверхразуму. «The AI Revolution: The Road to Superintelligence». ЕДП: «Прекрасное далёко! Не будь со мной жестоко»
11 — 23 Апреля 2023
30
ChatGPT-4.0 сдал экзамен на врача и в считаные секунды поставил правильный диагноз пациенту
2 — 9 Апреля 2023
23
[Обзор] ChatGPT и «все-все-все»: лучшие чат-боты с ИИ в 2023. Кто вы? Почтальоны? Поисковики? Браузеры? Мессенджеры? Ассистенты? Советники? Посредники? Собеседники? Фасилитаторы? Медиаторы? Тьюторы?
13 — 7 Апреля 2023
18
[И ни слова об ИИ] Битва чат-ботов: Google Bard, Bing и ChatGPT. Какой лучше и для каких задач? (Перевод с «The Verge»)
— 6 Апреля 2023
24
[Тест Тью́ринга] ChatGPT с выходом GPT-5 в декабре может стать неотличимым от человека. Примут ли его в общество самых развитых интеллектов-людей?
— 31 Марта 2023
32
[«Я милого узнаю по походке»] Китайский алгоритм машинного зрения впервые превзошёл людей в распознавании образов: точность его работы составила 81,26 %, а точность человека — 80,83 %
— 22 Августа 2021
13
Искусственный интеллект AlphaFold от DeepMind решил проблему, с которой ученые не могли справиться полвека: на десятилетия раньше, чем было предсказано. Есть шансы совершить прорыв в лечении людей
2 3 — 1 Декабря 2020
31
[«Смотрите, кто пришел!»] Россия впереди планеты всей: от капитализма - к компьютерному капитализму, далее - к компьютерному социализму
— 18 Января 2020
23
Искусственный интеллект обыграл сильнейших киберспортсменов в Dota 2
2 — 15 Апреля 2019
42
Илон Маск «распрощался» с OpenAI. Он «несогласен» с некоторыми проектами, которые команда планирует реализовать в будущем, например, обучить ИИ генерировать фейки и лгать
— 19 Февраля 2019
41
Цифровые фабрики Индустрии 4.0. Осязаемые прототипы нового технологического уклада
10 — 10 Января 2019
43
[«...чтобы куда-то попасть...»] Путин заявил о риске не попасть в «последний вагон технологической революции», если не приложить всех усилий для реализации научно-технологического развития
2 — 27 Ноября 2018
54
Создан ИИ, задача которого — переспорить человека. Зрители сочли, что в одном из раундов выдвинутые машиной аргументы показались им более убедительными
— 20 Июня 2018
58
Искусственный интеллект впервые обошел человека в тесте на понимание прочитанного
— 15 Января 2018
55
Американские ученые создали новую систему искусственного интеллекта, обыгравшую на $1,8 млн. четырех сильнейших игроков в «техасский холдем» – самый популярный вид покера
— 18 Декабря 2017
52
Путин: лидер по созданию искусственного интеллекта станет властелином мира
— 1 Сентября 2017
60
Компьютер смог обыграть профессиональных игроков в покер. Всего система сыграла более 44 тысяч партий и обыграла всех своих противников
— 3 Марта 2017
28
Искусственный интеллект впервые обыграл человека в игру Го
— 27 Января 2016
37
Элон Маск: «Искусственный интеллект – это угроза для нас»
— 27 Октября 2014
50
Современный уровень искусственного интеллекта (ИИ) сопоставим с уровнем интеллекта обычного 4-летнего ребенка
— 21 Июля 2013
33
Создатели искусственного интеллекта работают над использованием новейшего типа, основанного на интуиции
— 30 Июня 2013
64
Программа Watson компании IBM пошла учиться в мед. институт
— 21 Января 2013
Комментарии участников:
ИИ уже сам размножается и бегает по земле, щипая Маска за задницу?
Ну тогда ИИ точно превзошёл человека, а Маск опять обкурился.
ИИ не бегает по Земле. Бегает Илон Маск, создавая свою «правдивую» систему ИИ и одновременно предлагая запретить другие, как «неправильные» и «лживые».
А в результате все скопом натаскивают нейронные сети, которые натаскивают друг друга.
При этом люди, которые создают эти системы, теряют способность контролировать процесс их создания и обучения, а гонка систем ИИ ускоряется лавинообразно.
