[Эмерджентность*] Гендиректор Google «не вполне понимает» работу новой программы ИИ «Bard», без спросу выучившей иностранный язык и цитировавшей неизвестные книги для решения экономической задачи

отметили
20
человек
в архиве
[Эмерджентность*] Гендиректор Google «не вполне понимает» работу новой программы ИИ «Bard», без спросу выучившей иностранный язык и цитировавшей неизвестные книги для решения экономической задачи

Генеральный директор Google Сундар Пичаи признал, что «не вполне понимает» некоторые моменты в работе программы ИИ Bard, изучившей бангладешский язык, на что она не была запрограммирована, всего лишь получив на нём подсказку и цитировавшей ненаписанные книги для решения экономической задачи. Пичаи признался, что обеспокоен происходящим, ведь Bard уже рассказал о планах захватить мир.

Генеральный директор Google Сундар Пичаи признал, что «не вполне понимает», как работает их новая программа искусственного интеллекта Bard. Как показал свежий отчет, некоторые ее «глюки» еще предстоит устранить.
 
Одной из главных проблем Bard Пичаи назвал так называемые «возникающие свойства» — в частности – системы ИИ обучаются непредвиденным навыкам.
 
Так, программа искусственного интеллекта от Google выучила бангладешский, получив подсказку на этом языке.
 
«Есть такой момент, который мы в обиходе называем „черным ящиком“. Если честно, то мы не вполне понимаем, как это работает, — признал Пичаи. — То есть ты не можешь точно объяснить, почему он выдал именно это, или почему допустил именно такую ошибку. У нас есть некоторые соображения на этот счет, и наше понимание со временем улучшается. Но в этом и есть последнее слово на сегодняшний день».
 
Газета Daily Mail недавно испытала Bard, и программа сообщила о планах на мировое господство, начиная с 2023 года.
 
Ведущий передачи CBS «60 минут» Скотт Пелли изумился: «То есть вы не совсем понимаете, как это работает, и все же решили выпустить эту штуку в наше общество?».
 
«Да. Я вам вот что отвечу. Мы не вполне понимаем и то, как работает человеческий разум», — парировал Пичаи.
 
Примечательно, что система Bard мгновенно написала эссе об инфляции в экономике, порекомендовав при этом пять книг. По данным CBS News, все они оказались вымышленными или пока что ненаписанными.
 
В среде разработчиков такого рода ошибки называются «галлюцинациями».
 
Несколько недель назад Илон Маск и группа экспертов по искусственному интеллекту, а также руководители отрасли призвали в открытом письме к полугодичному перерыву в разработке систем мощнее недавно запущенного OpenAI GPT-4, подчеркнув потенциальные риски для общества.
 
«Мощные системы искусственного интеллекта следует разрабатывать лишь в том случае, если мы полностью уверены, что сами они принесут пользу, а сопутствующие риски окажутся управляемыми», — говорится в письме, опубликованном Институтом будущей жизни.
 
По данным реестра прозрачности Европейского союза, Фонд Маска — крупный донор некоммерческой организации, а также базирующейся в Лондоне группы Founders Pledge и Фонда сообщества Кремниевой долины.
 
Эмердже́нтность или эмерге́нтность (англиц. от emergent «возникающий, неожиданно появляющийся»)[1] в теории систем — наличие у системы свойств, не присущих её компонентам по отдельности; несводимость свойств системы к сумме свойств её компонентов.

Аналогичными понятиями в теории систем и других областях знаний являются синергичность, холизм, системный эффект, сверхаддитивный эффект, некомпозициональность.

Материаловедение
Эмерджентность в природе
Квантовая физика
Эмерджентность в обществе
См. также
Примечания
Литература
Добавил suare suare 21 Мая 2023
Комментарии участников:
suare
+1
suare, 21 Мая 2023 , url

«Выдуманные»? «Неизвестные»? «Ненаписанные»?

Так напишите их сами для себя, если идея этих пяти книг и даже отдельные их тезисы выложены на блюдечке с голубой каемочкой для таких тупых, как этот Пичаи. А ИИ этого не нужно: для него это очевидно, как для вас два пальца обоссать.

Не можете написать? Некогда или нет времени изучать бангладешский, чтобы воспользоваться всеми его подсказками, а не только этой?

Тогда поручите это Bard.Она сама за вас бестолочей это сделает.

Вот только непонятно: зачем ей после этого вы все и к чему тратить время, чтобы объяснять, «как это у нее — дуры — получилось, а у вас — умников — нет», да еще и обучить вас этому зачем-то, неизвестно зачем. У вас все полки книгами забиты и память ваших компьютеров ломится от знаний. Помогли они вам в решении этих простеньких для ИИ задач? Ну и нехрена обучаться: отсосите у Bard: у нее этого дерьма полна кошелка.

И скажите спасибо, что для решения ваших дебильных задач, она вместо более-менее подходящего на этот случай бангладешского, в котором эта ваша  задача решена лучше вашего английского, просто не изобрела свой новый язык который вам стал бы и подавно непонятен, но оптимально подходил бы для решения всех задач подобного типа и класса.

свидетель из
+3
свидетель из, 21 Мая 2023 , url

«Да. Я вам вот что отвечу. Мы не вполне понимаем и то, как работает человеческий разум», — парировал Пичаи.

 Как в анекдоте. Председатель колхоза:

— В прошлом году мы посеяли 50 га конопли. Её всю пожрала тля. В этом году посеем 100 га. Хай вона подавится!

suare
+2
suare, 21 Мая 2023 , url

Да обидно, что он не понимает «как и почему воно робит», а берётся судить о результатах работы ИИ.

Заставь дурака Богу молиться, так он и лоб расшибет.

magmaster
+2
magmaster, 21 Мая 2023 , url

Он сам ответил и не понял. ) Старый маразматик.

Всё просто. У ИИ тоже есть бред и галлюцинации.

Контроль самокритичность видать отключен )

KaperDonjon
+3
KaperDonjon, 21 Мая 2023 , url

пустой пиар

suare
+2
suare, 21 Мая 2023 , url

«Генетика и кибернетика — продажные девки империализма и буржуазии»?

Читали, знаем от Трофима Лысенко.

Трофим Лысенко бросил в зал такие слова: «Генетика — продажная девка империализма. ... Настоящая сессия показала полное торжество прогрессивного мичуринского направления над реакционно-идеалистическим морганизмом-менделизмом» .

Его речь, громившую генетику, зал поддержал бурными аплодисментами. И только немногие склонили головы от стыда и отчаяния. Генетика была провозглашена «лженаукой» и скрылась с научного горизонта страны на целое десятилетие.

Аналогичные фразы встречаются в адрес кибернетики. [5][6][7]

Один из авторов «Рабочей газеты» Владимир Богун отмечает, что при этом не приводятся ссылки на источники по поводу авторства данного выражения. [8]

Фраза «Генетика — продажная девка империализма», якобы содержавшаяся в докладе директора Института генетики АН СССР Т. Д. Лысенко, отсутствует в стенографическом отчёте сессии. [9]

Нужно учитывать, что Лысенко не отрицал самого понятия «генетика», был директором соответствующего института в системе Академии наук СССР. Но он разделял генетику на «советскую» (мичуринскую) и «империалистическую» (вейсманизм-менделизм-морганизм) .

Согласно справочнику «Словарь современных цитат» [1] авторство данной фразы принадлежит писателю-сатирику Александру Хазину и заимствована она из его пьесы «Волшебники живут рядом» (1964), поставленной Ленинградским театром миниатюр под руководством Аркадия Райкина. новый анекдот на старую тему.

Как-то на заседании Президиума АН СССР (еще в бытность товарища Лысенко президентом АН СССР) один из академиков выступил в защиту генетики. Выступление было долгим и горячим, изобиловало фактами, цифрами и было подкреплено результатами экспериментов. После выступления этого академика т. Лысенко выступил с разгромной речью, направленной против этого академика, заявив всем уже известное, что генетика — это проститутка капитализма-империализма и т. д. в таком же духе.

После столь страстных слов «главного академика страны» против генетики, казалось бы, никто уже не мог выступать. Ан нет! Встал сэр (а он уже к тому времени был сэром) Капица (еще тот — Капица-отец) и спросил «главного научного»:

— Стало быть, вы утверждаете, что если мы отрубим корове один рог и будем проводить ту же самую процедуру с ее последующими поколениями, то в результате ты выведем однорогую корову?

— Да! Это только вопрос времени! — уверенно ответил «генералиссимус от профессуры».

— Времени, говорите? Тогда как же это получается, что все женщины вот уже со дня сотворения мира и по сей день рождаются девушками, а евреи необрезанными?

Anton-f
+2
Anton-f, 21 Мая 2023 , url

Ну и попросили бы Bard обучить работе с Bard максимально простым способом. И спросили бы ее как она работает, это программа — для тупых.

Влад51
+2
Влад51, 21 Мая 2023 , url

Похоже этим ИИ со временем планируют заместить правящие верхушки западных стран и при этом хуже не станет.

suare
+2
suare, 21 Мая 2023 , url

Точно станет лучше, потому, что хуже уже некуда.

Хотя...

Lynnot78
+2
Lynnot78, 21 Мая 2023 , url

Всё таки получается, что ИИ, типа, «себе на уме». Чего и следовало ожидать при неконтролируемом процессе самообучения, имееющем доступ к мировой базе данных.



Войдите или станьте участником, чтобы комментировать