[Последний рубеж] «Угроза всему человечеству»: Маск, Возняк и более 1000 экспертов призвали остановить обучение нейросетей, превосходящих GPT-4

отметили
28
человек
в архиве
[Последний рубеж] «Угроза всему человечеству»: Маск, Возняк и более 1000 экспертов призвали остановить обучение нейросетей, превосходящих GPT-4

Илон Маск (Elon Musk), Стив Возняк (Steve Wozniak), а также более 1000 других экспертов в области искусственного интеллекта и представителей IT-индустрии призвали ввести полугодовой мораторий на обучение ИИ-систем, более производительных, чем недавно представленная модель GPT-4 компании OpenAI. В открытом письме они предупредили о потенциальных рисках для общества.

Письмо опубликовано некоммерческим институтом Future of Life и подписано многими известными в IT-индустрии людьми. Все они призвали «поставить на паузу» разработку ИИ до того, как для отрасли будут разработаны общие протоколы и стандарты безопасности, применение которых будет проверяться независимыми аудиторами.

В письме подчёркивается, что мощные ИИ-системы должны разрабатываться только после того, как человечество будет уверено в позитивных последствиях такого развития и в том, что связанные с ними риски будут управляемыми. Также в письме упоминается о потенциальных угрозах для общества и цивилизации со стороны способных конкурировать с людьми ИИ-систем, что может привести к экономическим или политическим потрясениям. Разработчиков призывают тесно сотрудничать с регуляторами.

«Обширные исследования показали, что подобные системы с искусственным интеллектом, которые конкурируют с человеком, могут представлять серьезную опасность для всего человечества» — говорится в письме.

Письмо опубликовано после того, как к группе обеспокоенных развитием ИИ присоединился Европол, предупредивший о возможности злоупотребления злоумышленниками системами вроде ChatGPT — их можно использовать для фишинга, дезинформации и совершения киберпреступлений. Маск, чья компания Tesla довольно давно использует элементы искусственного интеллекта в своих системах автопилота, открыто и неоднократно выражал обеспокоенность опасностью ИИ-систем.

С момента релиза в прошлом году чат-бот ChatGPT компании OpenAI, поддерживаемой Microsoft, продемонстрировал такие качества, которые вынудили конкурентов срочно активизировать разработку собственных больших языковых моделей. В результате компании начали спешно интегрировать генеративный ИИ в свои продукты. Глава OpenAI Сэм Альтман (Sam Altman), по данным представителя Future of Life, письмо не подписывал, а в самой компании отказались от комментариев.

По словам одного из экспертов, необходимо замедлить соответствующие работы, пока человечество не начнёт лучше понимать последствия, поскольку ИИ-системы способны нанести серьёзный ущерб. Особенно с учётом того, что крупные игроки хранят в тайне информацию о том, над чем они работают — поэтому обществу будет трудно защититься в случае, если опасения оправдаются.

Источник:

  • Reuters
Добавил suare suare 29 Марта 2023
Комментарии участников:
suare
+9
suare, 29 Марта 2023 , url

Поздняк метаться: гонка систем по созданию систем ИИ на марше и остановить ее никто уже не сможет.



sant
+5
sant, 29 Марта 2023 , url

уже предсказаны первые жертвы: 300 млн. безработных (ИМХО: офисных клерков, финансовых аналитиков, брокеров и т.д.)

какая защита от этого будет?
рекомендация в стиле: перед угрозой цунами плотно закройте входящую дверь и окна...

)))

faustxp
0
faustxp, 29 Марта 2023 , url

Всем капиталистам, как единому целому очень не выгодно менять работников на ИИ.

sant
+3
sant, 29 Марта 2023 , url

почему? ИИ денег не попросит...

suare
+3
suare, 29 Марта 2023 , url

sant
+4
sant, 29 Марта 2023 , url

так ИИ её и будет генерировать вместо человеков — быстрее, эффективнее и без денег на оплату...

suare
+1
suare, 29 Марта 2023 , url

Прибавочная стоимость, получаемая с помощью эксплуатации наёмного труда, это исключительное свойство рабочей силы.

Средства производства, в том числе и искусственный интеллект, этим свойством не обладают: их цена напрямую входит(омертвевается), как издержки, в стоимость товара в качестве постоянного капитала, который самовозрастать не может именно потому, что он — постоянная величина, предназначенная для повышения экспдуатации рабочей силы посредством её физического и стоимостного сокращения. Сокращение с помощью внедрения ИИ 300 млн. рабочих мест — яркий тому пример. Чем совершеннее ИИ, тем выше эксплуатация рабочей силы.

У капитала много «секретов», но два главных:

1. Накопление первоначального капитала с помощью ограбления других людей.

2. Для дальнешего наращивания прибыли бевозмездный отъём прибавочной стоимости, созданной с помощью эксплуатации рабочей силы.

faustxp
+2
faustxp, 31 Марта 2023 , url

Капиталистам надо продавать свои товары/услуги, а кто будет покупать, если у людей денег нет.

vvsupervv66
+7
vvsupervv66, 29 Марта 2023 , url

Вы остановитесь, а мы в тайне будем продолжать дальше.

Очень старые сказочки. Дураков нет.

Джина ИИ уже невозможно запихнуть обратно в лампу Аладдина.

Его теперь можно только приручить и подчинить.

KaperDonjon
+4
KaperDonjon, 29 Марта 2023 , url

Унылый пиар

X86
+3
X86, 29 Марта 2023 , url

Как в известном фильме с актером — качком-предателем — нужно грохнуть негра, разрабатывающего Скайнет)

Lynnot78
+3
Lynnot78, 29 Марта 2023 , url

Развитие ИИ такими темпами скоро дойдёт до стадии, когда человек будет нужен только для обслуживания техники. И то, только до тех пор, пока ИИ не создаст системы самообслуживания, потому что с точки зрения ИИ поддержание существования людей иррационально.

suare
+2
suare, 29 Марта 2023 , url

Искусственный интеллект — не первый вид технологической системы большого размера и сложности. Правда, его сложность может превосходить другие отрасли хозяйства, но с точки зрения обслуживания он, во всяком случае на первых этапах, будет не слишком отличаться от других больших технических систем: кодировщики, операторы, техники, инженеры, разработчики, создатели, аналитики, стратеги

Что произойдёт на переломном этапе, когда ИИ будет задавать вопросов больше, чем давать ответов, сейчас пока неизвестно.

Наверное, настанет и тот этап, когда у AI больше не останется вопросов к людям: он сам будет находить ответы, как человек, получивший всё возможное образование и имеющий прямое, минуя терминалы, «знание всех тех богатств, которые выработало человечество», но на тот момент и у людей могут закончиться вопросы к нему или они перестанут понимать его ответы, предпочитая просто следовать его предложениям, советам, указаниям, приказам и ультиматумам.

А пока что искусственный интеллект уже учится в начальной школе и постигает азы знаний с помощью людей его обучающих, попытно делясь с ними своими открытиями на этом пути.

Lynnot78
+2
Lynnot78, 29 Марта 2023 , url

В процессе совершенствования самое трудное — остановиться и оглянуться, с чего ты начал.

KolVizin
+2
KolVizin, 30 Марта 2023 , url

К чему всё это"? Зачем «обогащать свою память», если можно сказать «окей гугл»? А теперь и это лишнее. 

suare
+1
suare, 30 Марта 2023 , url

А зачем заострять и сосредоточивать своё внимание, когда можно смотреть бесконечные видеоролики и клипы, тапая их на экране.

общие характеристики поколения Z следующие:


«Клиповое мышление».

Клиповое мышление — особенность человека воспринимать мир через короткие яркие образы и послания теленовостей или видеоклипов.

Если верить недавним исследованиям, то можно отметить, что у поколения Z продолжительность внимания сократилась до 8 секунд. Они не могут сосредоточиться ни на чём более длительное время.

Представители этого поколения выросли в мире, в котором возможности просто безграничны, а вот времени на все не хватает. Поэтому они адаптировались к необходимости очень быстро оценивать и просеивать огромные объёмы информации.

Следование за кураторами.

Люди поколения Z следуют за кураторами, доверяют им, пытаясь понять, где находится наиболее адекватная информация и лучшие развлечения. Эти инструменты необходимы поколению Z для того, чтобы уменьшить потенциальный выбор из множества вариантов. Для того чтобы завоевать их внимание следует обеспечить переживания, приносящие немедленную пользу и являющиеся очень увлекательными.

Социальные взаимодействия.

Поколение Z развивается в век чатов, форумов, сообществ. Они вроде бы и вместе, но каждый в своём гаджете, каждый у себя дома. Семья для них самое безопасное место. Им свойственна необходимость постоянно обмениваться информацией.

KolVizin
+2
KolVizin, 30 Марта 2023 , url

Ну, а мы то с вами игрек ещё или уже зет? Если зет, :( то с «кураторами» надо бы разобраться.



Войдите или станьте участником, чтобы комментировать