В США совершенствуют искусственный интеллект военного назначения

отметили
26
человек
в архиве

Одна из целей — разжигание социальных протестов в странах-мишенях

В США новые версии искусственного интеллекта рождаются как грибы после дождя. Так, недавно свою модель ИИ продемонстрировала американская компания VERSES Research Lab, проведя презентацию демоверсии платформы ИИ под названием Genius.

Несмотря на то, что офисы компании расположены в 60 городах мира, ее основатель и генеральный директор Габриэль Рене – гражданин США и живет в Лос-Анджелес

Во время демонстрации в прямом эфире виртуальные роботы Карлито (названный в честь доктора Карла Фристона, главного научного сотрудника VERSES) и Дронито продемонстрировали возможности Genius.

Габриэль Рене утверждает, что роботам не требовалось никакой предварительной подготовки для того, чтобы воспринимать различные объекты, делать выводы об их местонахождении, а также выполнять сложные задачи, такие как извлечение запрошенных предметов, в режиме реального времени.

19 декабря издание The New York Times опубликовало открытое письмо Габриэля Рене совету директоров компании Open AI, создавшей, как известно, линейку чат-ботов GPT.

Рене напомнил, что компания Open AI клятвенно обещала, что «если проект [ИИ], ориентированный на ценность и безопасность, приблизится к созданию AGI раньше нас, мы обязуемся прекратить конкурировать с ним и начать оказывать помощь этому проекту».

«Мы считаем, что VERSES заслуживает вашей помощи. В свою очередь мы предлагаем нашу помощь, чтобы гарантировать, что общий [ИИ] и сверхинтеллект развивается и используется безопасным и полезным образом для всего человечества», – заявил Рене.

Под общим ИИ (General AI) подразумевают такой ИИ, который способен справляться с любыми задачами не хуже человека. А сверхинтеллект (Super AI) – это гипотетический ИИ, превосходящий человеческий разум.

В настоящее время доступ к демоверсии Genius прекращен, и оценить возможности ИИ от компании VERSES мы не можем, но разобраться, на каких принципах работает эта платформа, вполне возможно.

В пресс-релизах VERSES говорится, что платформа Genius использует программное обеспечение совершенно иного рода, чем чат-боты от Microsoft (GPT-4) и Google (Bard). В основу Genius положены разработки главного научного сотрудника VERSES британского нейробиолога профессора Лондонского университета Карла Фристона (Karl Friston).

Карл Фристон – самый цитируемый учёный современности. Его индекс Хирша в два раза больше, чем у Эйнштейна.

«Ему 59 лет, он работает каждую ночь и выходные и с начала нового тысячелетия опубликовал более 1000 научных статей. Только в 2017 году он был руководителем или соавтором 85 публикаций, что составляет примерно одну публикацию каждые четыре дня. В статье, опубликованной в журнале Nature в 2018 году, был проанализирован феномен “сверхплодовитых” учёных, которых авторы определили как тех, у кого более 72 публикаций в год», – пишет журнал Wired.

Любопытно, что с 2010 года Карл Фристон стал соавтором пятисот научных статей, но лишь в 70 его фамилия стоит на первом месте как руководителя группы ученых. Научныйх публикаций, написанных без соавторов, у Фристона нет.

Западные СМИ рекламируют его книгу (написанную опять же в соавторстве с еще двумя учеными) Active Inference: The Free Energy Principle in Mind, Brain, and Behavior («Активный вывод: принцип свободной энергии в разуме, мозге и поведении»), в которой рассказывается об основных принципах, положенных в основу ИИ Genius.

По прочтении сего объемного труда выясняется, что упомянутый выше «активный вывод» не что иное, как известная теорема Байеса, названная так в честь пресвитерианского священника XVIII века Томаса Байеса, – метод подсчёта обоснованности гипотез (заявлений, предложений) на основе имеющихся доказательств (наблюдений, данных, информации). Простейшая версия звучит так: «Изначальная гипотеза + новые свидетельства = новая, улучшенная гипотеза».

Байесовский подход был использован в поиске погибших подлодок «Скорпион», «Трешер» и потерянным над Атлантикой бомбардировщиком В-52 с водородной бомбой. Эта методика до сих пор используется армией США и береговой охраной. Все спортивные букмекеры также используют ее для создания своих компьютерных программ

Исследователи искусственного интеллекта, включая разработчиков ИИ в Google, применяют программное обеспечение Байеса. Байесовские программы «сортируют имейл и спам, оценивают медицинские риски и государственную безопасность, расшифровывают ДНК».

В 2014 году The NewYork Times писала, что «байесовская статистика проникает везде, от физики до исследований рака, от экологии до психологии». Американский физик Джон Мэзер еще в 2016 году выразил беспокойство тем, что «байесовские машины могут стать настолько умными, что вытеснят людей».

Итак, никакого приоритета в применении «активного вывода», то бишь байесовского подхода, в моделях ИИ у Карла Фристона нет.

Что же касается принципа свободной энергии (под свободной энергией имеется в виду неопределенность), то это опять же иное название антиэнтропийности человеческого разума, который стремится за счет активных действий избавиться от тревожной неизвестности.

Настоящая же заслуга разработчиков Genius состоит в том, что чат-боты Карлито и Дронито используют не статичные данные, как GPT-3, и не единичную подсказку, как GPT-4, а обучаются непрерывно в реальном масштабе времени.

И все же главный прорыв к AGI или даже к «сверхинтеллекту» может лежать в применении программного обеспечения Genius на основе так называемого многоагентного подхода, который, как мы писали, применяется в пентагоновских проектах EMBERS («Тлеющие угли») и Minerva.

Оба эти проекта нацелены на разжигание социальных протестов в странах-мишенях и являются развитием военной программы The Human Terrain System (HTS), к которой были привлечены антропологи, социологи, политологи, лингвисты, разрабатывавшие схемы управления менталитетом населения Ирака и Афганистана во время вторжения туда армии США.

Искусственный интеллект играет в этих проектах роль инструмента сортировки сотен тысяч источников-агентов; происходит так называемое многоагентное моделирование. Но решение в конечном счете принимает человек. Методом последовательных приближений (итераций) коллективный кентавр (люди и алгоритмы) определяет так называемые параметры порядка – небольшое число кризисогенных факторов, способных, если их «подогреть», разжечь «тлеющие угли» протестов, дать толчок «цветной революции» в той или иной стране. Именно эта методика лежала в основе запуска в странах Ближнего Востока «арабской весны».

Программное обеспечение платформы Genius гораздо более совершенно, так как способно обучаться по ходу разговора с пользователем.

С учетом того, что у Фристона за всю его научную биографию не было ни одной работы без соавторов, можно предположить, что он является талантливым организатором научных исследований, причём с военными целями. Он сам и не скрывает, что его разработки имеют военное назначение.

«Достижения последних десятилетий – на стыке информатики, нейробиологии и других дисциплин – позволили реализовать некоторый интеллект (обучение, рассуждение) в инженерных артефактах. В результате распространение интеллектуальных систем, в том числе вооружений, способных действовать автономно или совместно с военными [операторами], создало острую потребность в достижениях в области машинного интеллекта, которые обеспечат конкурентное преимущество в торговле и обороне», – пишет Фристон (как всегда с соавторами) в статье, опубликованной на сайте National Center for Biotechnology Information, ведущего военного научного центра США.

Публикация открытого письма команды VERSES в адрес майкрософтовской Open AI может означать возможное объединение усилий всех западных IT-корпораций с целью более успешной конкуренции с китайскими разработчиками ИИ.

Талантливый физик Роберт Оппенгеймер в свое время возглавил международную команду атомного «Манхеттенского проекта». Талантливый нейробиолог Карл Фристон, похоже, готовится на роль главы международной команды проекта ИИ, военная направленность которого пока тщательно скрывается.

Таких принципов два: Active Inference (активный вывод/умозаключение) и Active Inference (принцип свободной энергии).

Добавил precedent precedent 7 Января
Комментарии участников:
sant
+2
sant, 7 Января , url

Таких принципов два: Active Inference (активный вывод/умозаключение) и Active Inference (принцип свободной энергии).

 я чего-то не понял: говорится «два», а указан один… Active Inference и Active Inference

suare
+3
suare, 8 Января , url

Active Inference: The Free Energy Principle in Mind, Brain, and Behavior

By
Thomas Parr,
Giovanni Pezzulo,
Karl J. Friston
The MIT Press
ISBN electronic:
9780262369978
In Special Collection: CogNet
Publication date:
2022
 

Как-то так...

Еще на «Хабре»: 

Гениальный нейробиолог, у которого, возможно, есть ключ к созданию настоящего искусственного интеллекта
12 мин
34K
Научно-популярное Искусственный интеллект Мозг
Перевод
Автор оригинала: Shaun Raviv
Принцип свободной энергии Карла Фристона может быть наиболее всеобъемлющей идеей со времён теории естественного отбора Чарльза Дарвина. Но чтобы понять его, необходимо заглянуть в разум самого Фристона.
 
 
 
За последние лет десять Фристон большую часть своего времени и сил посвятил разработке идеи, которую он называет «принципом свободной энергии». (Фристон описывает свою работу, связанную со снимками мозга, так, как джазовый музыкант описывал бы свою работу в качестве библиотекаря). Фристон считает, что эта его идея описывает ни больше, ни меньше как принцип организации всей жизни, включая и интеллект. «Если вы живы, какое поведение вы должны демонстрировать?» – на такой вопрос он пытается ответить.

Плохие новости: принцип свободной энергии безумно трудно понять. Так трудно, что целые комнаты очень, очень умных людей пытались это сделать, и не смогли. Существует даже аккаунт в Твиттере с 5000 подписчиками, который только и делает, что высмеивает его смутность, и почти все люди, с которыми я его обсуждал, включая исследователей, работа которых зависит от него, сказали мне, что не понимают его полностью.

Однако часто те же самые люди поспешно добавляют, что принцип свободной энергии, по своей сути, рассказывает простую историю и решает простую загадку. Второй закон термодинамики говорит, что Вселенная стремится к увеличению энтропии, к распаду, однако же, живые существа яростно ему сопротивляются. Каждое утро мы просыпаемся, практически тем же человеком, которым были за день до этого, с чётким разделением клеток и органов, между нами и остальным миром. Как это происходит? Принцип свободной энергии Фристона говорит, что вся жизнь на всех масштабах организации – от отдельных клеток до человеческого мозга с миллиардами нейронов – движет универсальный императив, который можно свести к математической функции. Он говорит, что быть живым, значит действовать таким образом, чтобы уменьшать разрыв между вашими ожиданиями и поступающей от органов чувств информацией. Или, говоря словами Фристона, чтобы минимизировать свободную энергию.

Чтобы представить себе потенциальные следствия этой теории, вам нужно лишь взглянуть на людей, появляющихся на пороге FIL утром в понедельник. Некоторые из них хотят использовать принцип свободной энергии для объединения теорий разума, обеспечения новой основы биологии и объяснения жизни. Другие надеются, что этот принцип, наконец, снабдит психиатрию функциональным пониманием мозга. Иные приходят с желанием использовать идеи Фристона, чтобы выйти из тупиков исследования ИИ. Но у всех них есть одна общая причина присутствовать здесь, состоящая в том, что единственный человек, по-настоящему понимающий принцип свободной энергии Карла Фристона, это и есть Карл Фристон.
 
 
 
Это одна из множества теорий жизни. Скорее опыт философии жизни, построенной на основе одного простейшего принципа.
 
Маркс называл подобное «исходной клеточкой» исследования (теории).
 
Вот один из вариантов подобного построения из фильма «Люси».
 
 
Я когда-то увлекся теорией Уильяма Росса Эшби.
 
Предтеча жизни без души
 
6 сентября 1903 года родился Уильям Эшби, английский психиатр и один из крупных теоретиков кибернетики

Эшби оставил после себя два фундаментальных труда «Конструкция мозга» и «Введение в кибернетику». Лучше всех их суть кратко сформулировал поэт Давид Самойлов: «Профессор Уильям Росс Эшби/ Считает мозг негибкой системой./ Профессор, наверное, прав».

Для объяснения своей теории Эшби приводил в пример гипотезу самозарождения жизни на Земле, когда «бесчисленные атомы углерода, рассеянные в небольших молекулах двуокиси углерода, метана, карбонатов и т. д., сталкивались до тех пор, пока не образовали белков, а затем не сформировали те крупные активные глыбы плоти, которые мы называем сегодня «животными»». По Эшби, это было отнюдь не уникальное явление. «В любой изолированной системе развиваются свои формы жизни и разума», уверял он. По материалу жизнь может быть любой: железной, кремниевой, электронной — законы ее возникновения одинаковы; и это не естественный отбор, а обратные связи. Он даже построил в подтверждение этой мысли модель примитивной жизни обычных трансформаторов, которые могли без участия человека договориться между собой о совместной работе.

Эшби соединил в один блок четыре контроллера для управляемых авиабомб (соленоидов с магнитом). Выходной ток каждого передавался трем другим. Их магнитные стрелки дергались и крутились, пока не приспосабливались друг к другу. Но стоило измениться внешним условиям, например, скакнуло напряжение в сети или кто-то случайно толкнул прибор, как его стрелки начинали снова крутиться и успокаивались в новых положениях. Прибор (его потом назвали «гомеостатом») приспосабливался к новым условиям, как живое существо, сохраняя постоянство своей внутренней среды, свой гомеостаз.

Но если подобные работы Эшби лишь создавали «белый шум» вокруг кибернетики, привлекая к ней ученых с нетривиальным мышлением, то его закон необходимости разнообразия и теорема Эшби легли в основу первых компьютеров. Закон Эшби гласил: при создании проблеморазрешающей системы необходимо, чтобы эта система имела большее разнообразие, чем разнообразие решаемой проблемы, или была способна создать такое разнообразие. Теорема Эшби формулировалась так: у системы тем больше возможностей в выборе поведения, чем сильнее степень согласованности поведения ее частей.

Эшби умер в 1972 году, дожив до торжества своей теории в виде первых компьютеров, первых роботов и первых систем искусственного интеллекта.

Сергей Петухов

bee_e
+2
bee_e, 8 Января , url

«бесчисленные атомы углерода, рассеянные в небольших молекулах двуокиси углерода, метана, карбонатов и т. д., сталкивались до тех пор, пока не образовали белков, а затем не сформировали те крупные активные глыбы плоти, которые мы называем сегодня «животными»

 Он забыл упомянуть муху, из которой через миллиарды лет вышел слон



Войдите или станьте участником, чтобы комментировать