10 000 агентов и 88 часов: предел, который перестал быть пределом
Что делает команда, если задача не поддаётся годами? Обычно — собирает лучших специалистов. OpenAI поступила иначе: для работы над проблемой Навье — Стокса запустили около 10 000 агентов, которые трудились 88 часов. И самое интересное здесь не то, поумнели ли модели, а само число — 10 000.
Попробуйте представить то же самое с людьми. Десять тысяч математиков, посаженных на одну задачу, — это уже не только математика. Нужно разбить их на группы, раздать направления, отслеживать дубли, закрывать тупиковые ветки, передавать находки между командами и перераспределять людей туда, где появился прогресс. Постепенно управление дивизией математиков становится отдельной проблемой — и конкурирует за внимание с исходной задачей.
Человеческий интеллект плохо масштабируется. Специалистов можно нанять тысячи, но тысяча специалистов не превращается в одного специалиста, способного одновременно проверить тысячу гипотез. Каждый новый человек приносит не только дополнительную голову, но и необходимость этой головой управлять. Вдобавок найти математика, который вообще понимает суть проблемы Навье — Стокса, — уже отдельная задача.
С машинным интеллектом это ограничение слабеет. Вместо одного умного помощника на задачу можно выпустить рой: одни агенты перебирают решения, другие пытаются их опровергнуть, третьи проверяют промежуточные результаты. Перспективные направления получают больше ресурсов, тупиковые закрываются. Каждому участнику роя не обязательно быть гением — достаточно, чтобы вся система выдавала полезный результат дешевле альтернативы.
Показательная аналогия — Солнце. Килограмм человеческого тела производит заметно больше энергии, чем в среднем килограмм солнечного вещества. По удельной мощности Солнце выглядит слабо. Но его масса — около двух нониллионов килограммов, и посредственная удельная мощность даёт звезду, рядом с которой человек может существовать только на почтительном расстоянии. Мы привыкли сравнивать человека и ИИ «килограмм к килограмму», а сила может оказаться совсем не в том, что один экземпляр когда-нибудь превзойдёт одного человека. Подробнее об этом рассуждении — в материале на Хабре.
Чего не может даже гений: копирование против найма
Хорошего математика можно обучить, нанять, переманить у конкурента. Нельзя скопировать его десять тысяч раз и на трое суток бросить копии на одну задачу. Именно в этом пункте человеческий интеллект упирается в стену — и именно здесь машинный интеллект ведёт себя принципиально иначе.
Попробуйте найти человека, способного понять, в чём вообще состоит проблема Навье — Стокса. Таких специалистов немного, и каждый из них уже занят. С агентами этот дефицит исчезает: запустить можно любое разумное количество копий, и ограничением становится не наличие людей, а вычислительные ресурсы.
Дальше начинает работать схема, невозможная для человеческой команды. Вместо одного умного помощника на задачу выпускают рой. Одни агенты предлагают решения, другие пытаются их опровергнуть, третьи проверяют промежуточные результаты. Перспективное направление получает больше ресурсов, тупиковое — закрывается. Каждому участнику роя не нужно быть гением: достаточно, чтобы система в целом давала полезный результат дешевле альтернативы.
Человеческая команда так не умеет. Каждый новый специалист приносит не только дополнительную голову, но и необходимость эту голову координировать. У роя такой платы нет: масштабирование здесь означает буквально больше копий, а не больше совещаний.
Итог: сила машинного интеллекта может оказаться не в том, что один экземпляр когда-нибудь обгонит одного человека. Сравнивать их «килограмм к килограмму» — привычно, но не очень полезно. Килограмм солнечного вещества проигрывает по удельной мощности килограмму человека, однако Солнцу это не мешает светить.
Рой как самоорганизующаяся система: перебор, опровержение, проверка
Вместо одного универсального помощника на задачу запускается несколько специализированных ролей. Одни агенты перебирают варианты решения, другие пробуют их опровергнуть, третьи проверяют промежуточные результаты. Это не украшение архитектуры, а способ быстрее отсеивать нерабочие гипотезы: пока одна группа углубляется в тупик, другая уже проверяет альтернативу.
Ключевая деталь — динамическое распределение усилий. Если направление выглядит перспективным, к нему подключают больше ресурсов. Если оно оказалось тупиковым, его просто закрывают, а освободившиеся агенты уходят на другие ветки. Живая команда так не умеет: перераспределить десять тысяч математиков между направлениями за минуты невозможно, а на согласование уходит больше времени, чем на саму задачу.
При этом каждый отдельный участник роя не обязан быть гением. Достаточно, чтобы вся система выдавала полезный результат дешевле, чем любой альтернативный способ его получить. Именно поэтому рой оказывается устойчивее одиночного умного агента: качество растёт не за счёт силы одного экземпляра, а за счёт количества проверок и скорости отбраковки.
Практический эффект виден на цифрах: примерно 10 000 агентов проработали 88 часов над проблемой Навье — Стокса (). Рой не требует, чтобы каждый его участник был гением, — он требует лишь правил, по которым одни идеи порождаются, а другие отсекаются быстрее, чем это сделал бы один агент.
Солнце против человека: почему масса не решает
Сравните килограмм человеческого тела и килограмм солнечного вещества по энергии, которую каждый из них производит за секунду. Человек выигрывает с запасом. Солнце — посредственная звезда, если смотреть на удельную мощность: на единицу массы оно выдаёт заметно меньше, чем живая ткань. Но масса Солнца — около двух нониллионов килограммов, и именно она превращает скромный показатель в звезду, рядом с которой человек может существовать только на почтительном расстоянии. Удел — величина, помноженная на масштаб, а не сама по себе.
Этот же сдвиг оптики стоит примерить к агентам. Мы привыкли мерить интеллект поштучно: один программист против одной модели, один математик против одного искусственного математика. Для теста такая единица разумна. Для оценки последствий — вряд ли. Число копий, которые можно запустить одновременно, меняет результат сильнее, чем прирост качества отдельного экземпляра. Десять тысяч математиков, посаженных на одну проблему, дадут нечто иное, чем один математик, даже очень хороший, — при условии, что вы сумеете этой дивизией управлять.
Практический вывод прост: прежде чем гнаться за более умной моделью, посчитайте, сколько копий вы способны запустить и скоординировать. Иногда выгоднее раздать задачу сотне средних агентов, чем ждать одного выдающегося подробнее у автора.
ИИ сдвигает границу экономической целесообразности
Задача Навье — Стокса на слуху, но её запуск — не главное. Главное — режим: около 10 000 агентов, 88 часов непрерывной работы, и всё это на одну математическую проблему. Попробуйте проделать то же с людьми. Вы получите не исследование, а организационную задачу: разбить десять тысяч математиков на группы, назначить направления, ловить дубли, закрывать тупики и перераспределять людей туда, где появился прогресс. Проблема управления дивизией математиков быстро перевесит саму проблему Навье — Стокса.
С агентами этот налог почти исчезает. Одни перебирают варианты, другие пробуют их опровергнуть, третьи проверяют промежуточные шаги. Перспективное направление получает больше исполнителей, тупиковое закрывается. Каждый участник не обязан быть гением — достаточно, чтобы рой в целом выдавал результат дешевле альтернативы.
Отсюда и смена единицы измерения. Раньше она была задана жёстко: сто задач, сто сотрудников, каждый тянет десять — значит, хватит десяти. Но в реальной экономике фиксировано не число задач, а порог, за которым решать становится слишком дорого. Этот порог и сдвигается.
Под ним лежит целый пласт работы, которая раньше не существовала как задача: чаще пересчитывать прогнозы, разбирать мелкие отклонения, делать индивидуальные решения для клиентов, которых слишком мало, чтобы возиться с каждым, проверять гипотезы с низкой вероятностью успеха. Всё это годами лежало в папке «когда-нибудь».
Пример уже был — с вычислениями. Когда машинное время подешевело, никто не «закончил считать». Начали считать погоду, геномы, поведение покупателей, движение каждой посылки и миллиарды рекламных аукционов. С интеллектуальной мощностью происходит тот же сдвиг: чем дешевле решение проблемы, тем больше проблем попадает в область разумного (Хабр).
И у этого расширения нет дна. Решённая проблема не вычёркивается из списка — она открывает следующую систему, а у системы обнаруживается собственный набор задач. Сложные системы исправно производят работу для тех, кто их построил.
Новые проблемы вместо старых: почему рост производительности не отменяет спрос на интеллект
Решение одной задачи не сокращает список задач — оно меняет его состав. Когда-то вычисления стоили так дорого, что считать погоду, геномы или положение каждой посылки на карте было экономически бессмысленно. Как только цена упала, эти задачи не просто стали решаемыми — они появились как отдельные направления работы. Человечество не «посчитало всё необходимое» и не остановилось; оно начало считать то, что раньше даже не формулировало.
С интеллектуальным трудом происходит то же самое. Чем дешевле обходится решение проблемы, тем больше проблем попадает в зону, где их вообще стоит ставить. Компания, которая раньше не могла позволить себе глубокий анализ процессов или индивидуальные решения для мелких клиентов, теперь берётся за них — и получает новый слой работы: настроить пайплайн, проверить гипотезу с низкой вероятностью успеха, разобраться с отклонениями, которые прежде игнорировались.
Отсюда простое следствие для прогнозов о занятости. Утверждение «один сотрудник теперь делает работу десятерых, значит, девятерых можно сократить» верно только при фиксированном объёме задач. В реальности фиксирована не сумма задач, а граница, за которой решать становится слишком дорого. Эта граница сдвигается — и вместе с ней растёт пространство того, за что имеет смысл браться.
Рост производительности не отменяет спрос на интеллектуальный труд пропорционально. Чтобы он сокращался, нужно допустить, что у человечества есть конечный набор проблем и после их решения можно спокойно расходиться. Поведение последних десятилетий говорит об обратном: каждый новый уровень возможностей быстро становится нормой, потом обязательным минимумом, а затем — точкой отсчёта для следующего уровня требований. Дешёвые вычисления не закрыли вопросы — они породили системы настолько сложные, что те исправно производят новые задачи для своих создателей.
Человек, ставящий задачу для сотен агентов: контур будущей ценности
Три следствия из материала стоит держать в голове. Первое: единица измерения интеллекта смещается от «одного экземпляра» к «рою». Сравнивать конкретного специалиста с конкретным агентом — занятие для теста, но не для прогноза последствий. Второе: удельная мощность отдельного участника перестаёт быть главным ограничением. Ценность даёт координация — распределение направлений, отлов дублей, закрытие тупиковых ветвей и переброс ресурсов туда, где появился прогресс; без этого математическая задача конкурирует за внимание с задачей управления дивизией математиков. Третье: граница, после которой задача становится слишком дорогой, сдвигается, а вместе с ней растёт число задач, которые раньше не имело смысла даже формулировать.
Практический совет: не пытайтесь выиграть у единичного агента в скорости на одной задаче — проектируйте процессы, которые утилизируют рой. Разложите крупную задачу на проверяемые ветки, заранее решите, как считать дубли и когда закрывать тупик, и заложите в план время на управление, а не только на выполнение.
