04 октября 2024

От Аристотеля до Альтмана: почему «эмерджентность» — ключевой термин для понимания ИИ

Автор Андрей Себрант

Веками продолжавшиеся споры вокруг понятия эмерджентности, которые начались задолго до появления самого термина, сейчас во многом определяют не всем понятный накал гонки ИИ-моделей и мотивацию ее участников, от инвесторов до разработчиков. Разрешение этой дискуссии будет иметь весьма далеко идущие последствия, убежден директор по стратегическому маркетингу «Яндекса» Андрей Себрант.

Термин «эмерджентность» (наличие у системы свойств, не присущих составляющим ее элементам) ввел в 1875 году философ Джордж Льюис, хотя явление уже было давно известно людям. На протяжении многих веков человеческое любопытство возбуждал факт возникновения чего-то совершенно нового в сложных системах, причем это никак не следовало из свойств составных элементов системы — и тем удивляло. Почему на поверхности песка возникают ровные волны? Как термиты строят колоссальные крепкие башни, если у них нет архитектора и никаких планов? Как по мере развития социальных связей между людьми возникают новые стабильные общественные институции? Те читатели этой колонки, кому когда-то пришлось (не обязательно по своей воле) изучать марксистскую философию, вспомнят закон перехода количества в качество, сформулированный Энгельсом: он, по сути, очередной раз демонстрировал попытку понять эмерджентные явления, а если и не понять, то хотя бы постулировать их неизбежность. Не зря же говорят: «Предупрежден — значит, вооружен».

Все эти размышления, от Аристотеля до наших дней, оставались сугубо описательными: они констатировали, что в мире регулярно происходят внезапные события в результате накопления медленных изменений, но вот с предсказательной силой этих размышлений дела обстояли плачевно. В относительно простых системах можно было хотя бы спрогнозировать суть внезапного изменения, хотя и не всегда момент его наступления: соломинки однажды переломят спину верблюду, хотя какая будет последней, сосчитать почти нереально. Но чем дальше системы были от простой механики, тем труднее становилось предположить даже суть внезапно возникающих в них явлений. Хуже того, для уже случившихся эмерджентных событий часто не удается найти и однозначно определить последовательность постепенных изменений и пороговую точку в них, приведшую к возникновению нового — появление жизни служит тому ярким примером. Эмерджентность вроде бы налицо, а вот споры на тему «как так вышло?» не стихают в научном сообществе.

В итоге практическая бесполезность понятия эмерджентности сделала его достаточно маргинальным: поговорить на досуге занимательно, применить для пользы дела не получается. Но тут вдруг оказалось, что цена правильных ответов составляет сотни миллиардов, если не триллионы, долларов. Причиной стало то, что если не понимание, то хотя бы воспроизведение давнего эмерджентного события стало фокусом развития цифровых технологий, миллиардных инвестиций, всемирного интереса политиков и в итоге почти всего человечества. Нейрофизиолог Вильям Калвин в 2006 году пророчески писал, что понимание квантового скачка, приведшего к возникновению интеллекта у приматов, поможет понять, как возникает и развивается ИИ. Но тогда это словосочетание мало кого возбуждало. Ученый напоминал: если разгладить все складки коры головного мозга шимпанзе, то ее площадь будет примерно равна площади газетной страницы. В случае человеческого мозга — четыре страницы. Калвин справедливо замечал: такой не очень впечатляющий количественный рост сам по себе вряд ли достаточен для возникновения нашего интеллекта, должно было что-то произойти со свойствами коры при монотонном увеличении ее размера. По его предположению, свою роль сыграли специализированные ее функции, в частности, связанные с языком.

По мере развития больших языковых моделей многие исследователи заговорили про эмерджентность, в 20-х годах нашего века слово стало популярным. Разработчики моделей заговорили о своих надеждах и тревогах, связанных с внезапным поведением моделей по мере роста их сложности. Авторы типичных высказываний «языковые модели способны на вещи, которые никто никогда не обсуждал при их создании» прекрасно отдают себе отчет в том, что сюрпризы, увы, не всегда радуют. Они на собственном опыте знают, что эмерджентность приводит подчас к появлению крайне нежелательного поведения моделей.

Сторонники понятного и предсказуемого мира отрицают эмерджентность как таковую по вполне понятным причинам — она явно противоречит принципу предсказуемости. Поэтому неудивительно, что вспыхнувшее обсуждение эмерджентности в поведении и способностях языковых моделей сопровождалось появлением исследований, в которых авторы оспаривали наличие самого феномена. В 2023 году исследователи из Стэнфордского университета прямо утверждали: пресловутое эмерджентное поведение — просто манипуляция метриками, которые демонстрируют скачки по мере достижения определенной сложности модели на одних и тех же обучающих данных. Дескать, если правильно подбирать метрики, то никаких скачков нет, и свойства моделей всегда предсказуемо изменяются по мере их усложнения. Отсюда делался обрадовавший многих встревоженных людей вывод: нам не грозит неожиданное появление общего ИИ. Его появление явилось бы эмерджентным событием, а таковых не бывает.

Точка в споре, однако, пока не поставлена. Миллиарды долларов и невероятные человеческие интеллектуальные усилия, вкладываемые в гонку современных ИИ-моделей, для многих инвесторов и разработчиков — как раз ставка на эмерджентность: все надежды не просто на монотонное улучшение, а на квантовый скачок, подобный когда-то случившемуся с нашими предками по пути от обезьяны к человеку. Весь азарт и интрига гонки к общему ИИ для них в том и состоит, что появление такого интеллекта может случиться неожиданно — и никто не знает, по достижению какого именно уровня сложности. Приз невероятно велик, он оправдывает миллиардные ставки, расходуемые на поддержание лидерства в сложности моделей, он окупит все для того, кто первым сорвет этот плод. Продолжавшийся веками теоретический спор про эмерджентность в итоге, возможно, не просто впечатляюще разрешится, но его результат будет для нас всех иметь серьезные последствия, и не только финансовые.

Мнение редакции может не совпадать с точкой зрения автора

Аноми́я (от франц. anomie — беззаконие, безнормность; др.-греч. ἀ- — отрицательная приставка, νόμος — закон) — состояние общества при дезорганизации социальных норм и институтов, неопределённости и нестабильности условий человеческого действия, расхождении между провозглашаемыми обществом целями и доступностью для массы людей законных средств их достижения[1].

Российские исследователи Громов, Мацкевич и Семёнов в своем труде определяют аномию как отсутствие чёткой системы социальных норм, разрушение единства культуры, вследствие чего жизненный опыт людей перестаёт соответствовать идеальным общественным нормам[2].

Индивидуальное психологическое состояние аномии характеризуется деморализацией, ослаблением связи с обществом, переживанием беспочвенности, отчуждённости от людей, пустоты жизни и тому подобным, которое является причиной распространения отклоняющегося поведения и роста самоубийств[1].

Понятие введено в научный оборот Эмилем Дюркгеймом в 1893 году[1]. Дальнейшее развитие концепции аномии связано с именем Роберта Мертона.

Аномия проявляется в виде следующих нарушений:

Аномия проявляется в различных сферах жизни общества. В настоящее время проводятся исследования проявлений аномии в экономике, политике, семейных отношениях, религии[3][4].

Эмиль Дюркгейм считал аномию атрибутом переходного состояния индустриального социоэкономического порядка, когда рухнули традиционные «механические» формы морального авторитета, при которых каждый человек «знал своё место» в иерархии социальных позиций и ценностей, а новый свободный самоуправляемый порядок дисциплинированного морального индивидуализма, порождающий «органическую солидарность» между людьми, ещё не установился окончательно[1].

Понятие аномии выражает собой политико-экономический обусловленный процесс разрушения базовых элементов культуры, прежде всего в аспекте этических норм. При достаточно резкой замене одних общественных идеалов и морали другими, определённые социальные группы перестают чувствовать свою причастность к данному обществу, происходит естественное их отчуждение, новые социальные нормы и ценности (в том числе социально декларируемые образцы поведения) не успевают усваиваться членами этих групп и позиционируются уже вместо некогда конвенциональных и равных средств для достижения прежних индивидуальных или общественных целей как собственные (уже являющиеся не одобряемыми, в частности, противоправными). Явления аномии, затрагивая при социальных потрясениях все слои населения, особенно сильно действуют в отношении молодёжи.

Огромную опасность для общества представляет вызванное аномией девиантное поведение. Распространение аномии приводит к увеличению уровня алкоголизма, наркомании, самоубийств, преступности, разводов и неполных семей. Социальная аномия приводит к возникновению аномии личности как индивидуально-психологическому переживанию кризиса нормативно-ценностного регулирования в обществе.