The Shape of AI: Jaggedness, Bottlenecks and Salients

Форма ИИ: зубчатость, узкие места и выступы

И почему Nano Banana Pro — это действительно важно

В древние времена ИИ, в 2023 году, мы с соавторами придумали термин для описания странной способности ИИ выполнять одни задачи невероятно хорошо, а другие — невероятно плохо, причём так, что это совершенно не совпадает с нашим человеческим представлением о сложности задачи. Мы назвали это «зубчатым фронтиром» способностей ИИ, и это по-прежнему ключевая особенность ИИ и бесконечный источник недоумения. Как может ИИ быть сверхчеловечески хорош в дифференциальной медицинской диагностике или решать очень сложную математику (да, теперь они действительно хороши в математике — а ведь до недавнего времени это было за пределами фронтира) и при этом плохо справляться с относительно простыми визуальными головоломками или управлением вендинговым автоматом? Точные способности ИИ зачастую остаются загадкой, поэтому неудивительно, что пользоваться ИИ сложнее, чем кажется.

Я думаю, что зубчатость останется важной чертой ИИ и в будущем, но есть меньше уверенности в том, что она означает. Tomas Pueyo опубликовал вирусное изображение в X, где изложил своё видение. По его мнению, расширяющийся фронтир будет опережать зубчатость. Конечно, ИИ плох в некоторых вещах и может оставаться относительно слабым даже по мере улучшений, но коллективный фронтир человеческих способностей в основном фиксирован, а способности ИИ растут стремительно. Какая разница, что ИИ относительно плохо управляет вендинговым автоматом, если он всё равно превзойдёт любого человека?

Будущее всегда неопределённо, но я думаю, что это представление упускает несколько критически важных аспектов природы труда и технологий. Во-первых, фронтир действительно очень зубчат, и возможно, что из-за этой зубчатости мы получим сверхумные ИИ, которые никогда полностью не перекроют человеческие задачи. Например, один из главных источников зубчатости — то, что LLM не запоминают новые задачи и не учатся на них на постоянной основе. Многие компании в сфере ИИ ищут решения этой проблемы, но, возможно, она окажется сложнее, чем ожидают исследователи. Без памяти ИИ будет с трудом выполнять многие задачи, доступные людям, оставаясь при этом сверхчеловечески хорошим в других областях. Colin Fraser нарисовал два примера того, как может выглядеть такое пересечение способностей ИИ и человека. Видно, что ИИ действительно сверхчеловечен в одних областях, но в других он либо значительно уступает человеческому уровню, либо вообще не пересекается с ним. Если это так, то ИИ откроет новые возможности для совместной работы с людьми, поскольку каждая сторона привносит свои уникальные способности.

Это концептуальные рисунки, но группа учёных недавно попыталась составить карту способностей ИИ и обнаружила, что они растут неравномерно — именно так, как предсказывает концепция зубчатого фронтира. Чтение, математика, общие знания, рассуждение — во всём этом ИИ быстро прогрессирует. Но память, как мы уже обсуждали, остаётся слабым местом с минимальным улучшением. Более качественные промпты или более мощные модели (а GPT-5.2 значительно лучше GPT-5) могут изменить форму фронтира, но зубчатость остаётся.

Узкие места

И даже небольшая зубчатость может создавать проблемы, из-за которых сверхумный ИИ не способен автоматизировать задачу. Система работает лишь настолько хорошо, насколько хороши её худшие компоненты. Такие проблемы мы называем узкими местами. Некоторые узкие места возникают потому, что ИИ упорно остаётся ниже человеческого уровня в определённых задачах. Системы компьютерного зрения LLM недостаточно хороши в чтении медицинских снимков, поэтому пока не могут заменить врачей; LLM слишком услужливы там, где должны давать отпор, поэтому пока не могут заменить терапевтов; галлюцинации сохраняются, даже если стали реже, а значит, ИИ пока не может выполнять задачи, требующие стопроцентной точности; и так далее. Если фронтир продолжит расширяться, некоторые из этих проблем могут исчезнуть, но слабости — не единственная форма узких мест.

Некоторые узкие места обусловлены процессами, не имеющими отношения к способностям. Даже если ИИ теперь может выявлять перспективные кандидаты на лекарства значительно быстрее традиционных методов, клинические испытания по-прежнему требуют реальных пациентов, на набор, дозирование и наблюдение за которыми уходит реальное время. FDA по-прежнему требует рассмотрения заявок людьми. Даже если ИИ увеличит количество хороших идей для лекарств в десять и более раз, ограничением станет скорость одобрения, а не скорость открытия. Узкое место мигрирует от интеллекта к институтам, а институты работают со скоростью институтов.

И даже там, где ИИ почти полностью превосходит человека, люди могут быть нужны для краевых случаев. Для примера возьмём исследование, в котором ИИ использовали для воспроизведения Кокрейновских обзоров — знаменитых глубоко проработанных мета-исследований, которые синтезируют множество медицинских работ для определения научного консенсуса по теме. Группа исследователей обнаружила, что GPT-4.1 при правильном промптинге и поддержке «воспроизвела и обновила целый выпуск Кокрейновских обзоров (n=12) за два дня, что соответствует примерно 12 человеко-годам традиционной работы над систематическими обзорами». ИИ отсортировал более 146 000 ссылок, прочитал полные статьи, извлёк данные и провёл статистический анализ. По точности он даже превзошёл рецензентов-людей. Любопытно, что большая часть сложной интеллектуальной работы — поиск релевантных исследований, извлечение нужных цифр, синтез результатов — уверенно находится внутри фронтира. Но ИИ не может получить доступ к дополнительным файлам и не может написать авторам с просьбой предоставить неопубликованные данные — а рецензенты-люди делают это постоянно. Это составляет менее 1% ошибок в обзоре, но эти ошибки означают, что полностью автоматизировать процесс нельзя. Двенадцать человеко-лет превращаются в два дня, но только если человек с пониманием того, как устроена реальная наука, берёт на себя краевые случаи.

Вот эта закономерность: зубчатость создаёт узкие места, а узкие места означают, что даже очень умный ИИ не может легко заменить людей. По крайней мере, пока. В некотором смысле это хорошо (предотвращает быструю потерю рабочих мест), но в другом — разочаровывает (затрудняет ускорение научных исследований настолько, насколько мы могли бы надеяться). Узкие места также концентрируют усилия компаний в сфере ИИ на улучшении того, что сдерживает систему, — подобно тому, как математические способности стремительно улучшились, когда стало очевидно, что это барьер. У историка Томаса Хьюза был для этого термин. Изучая развитие электрических систем, он заметил, что прогресс часто застревал на одной технической или социальной проблеме. Он назвал это «обратными выступами» — единственной технической или социальной проблемой, которая не даёт системе совершить рывок вперёд.

Обратные выступы

Узкие места могут создать впечатление, что ИИ никогда не сможет что-то сделать, тогда как в реальности прогресс сдерживается одной-единственной зубчатой слабостью. Когда эта слабость становится обратным выступом и лаборатории ИИ внезапно решают проблему, вся система может совершить скачок вперёд.

Самый яркий пример за последний месяц — новая модель генерации изображений Google, Nano Banana Pro (да, компании в сфере ИИ по-прежнему плохо придумывают названия). Она объединяет два достижения: очень хорошую модель создания изображений и очень умный ИИ, который может направлять модель, при необходимости ища информацию. Например, если я попрошу Nano Banana Pro создать идеальную версию моего теста с выдрой: «Учёные, которые являются выдрами, используют белую доску, чтобы объяснить тест Ethan Mollick «выдра в самолёте, пользующаяся Wi-Fi» (вы должны это загуглить) и демонстрируют, что он пройден, а на стене — множество фотографий выдр в самолётах с ноутбуками.» Я получаю вот это:

Связный текст, разные ракурсы, тени, никаких серьёзных опечаток. Впечатляюще. Вспомните, промпт «выдра в самолёте, пользующаяся Wi-Fi» давал вот такое изображение в 2021 году:

Но оказалось, что по-настоящему качественная генерация изображений была узким местом для множества новых возможностей. Возьмём, например, презентации в PowerPoint. Все крупные компании в сфере ИИ пытались научить свои модели создавать PowerPoint, и делали это, заставляя ИИ писать программный код (в чём они очень хороши) для создания презентации с нуля. Это сложный процесс, но и Claude, и ChatGPT существенно улучшились, хотя их слайды немного скучноваты. Например, я взял свою книгу Co-Intelligence, загрузил её в Claude и попросил сделать слайд-презентацию с кратким изложением. Модель очень умна, но презентация ограничена тем, что её приходится создавать через код.

А вот то же самое в приложении Google NotebookLM, использующем умную модель Gemini AI в сочетании с Nano Banana Pro. Здесь не используется код — каждый слайд создаётся как отдельное изображение. Когда качество изображений было низким, это было бы невозможно. Внезапно это стало возможным.

А поскольку изображения очень гибки, можно экспериментировать со стилем и подходом. Я попросил NotebookLM сделать глубокий исследовательский отчёт о научно обоснованных методах обучения, а затем превратить его в насыщенные слайд-презентации для чтения в разных стилях: одна выглядела как нарисованная от руки, другая была вдохновлена панком 1980-х, одна — «очень драматичные высококонтрастные слайды с ярко-жёлтым фоном», и, конечно, одна — в стиле «выдра в самолёте».

Во многом сложная часть работы находится внутри фронтира и для Claude, и для Gemini: они могут просто взять исходные материалы, тему и идею и сделать краткое изложение в виде слайда. Галлюцинации крайне редки, источники корректны. Модель может создать аналогии с выдрами или придумать описание в панк-стилистике. Это интеллектуально сложная часть, и ИИ способен на неё уже больше года. Но создание слайдов и других визуальных презентаций было узким местом, мешавшим сделать стены текста полезными. Проблема решена не полностью: изображения не идеальны, и их нельзя редактировать (по слухам, это скоро исправят), но уже видно, куда всё движется.

Множество рывков

Даже если ИИ станет сверхчеловечески хорош в анализе и PowerPoint, я не думаю, что это обязательно означает замену консультантов и дизайнеров. Их работа состоит из множества различных задач вдоль зубчатого фронтира, в которых ИИ плох, а люди сильны: можете ли вы собрать информацию и получить поддержку от множества заинтересованных сторон? Можете ли вы понять неписаные правила, определяющие, что людям действительно нужно? Можете ли вы придумать что-то уникальное для решения глубокой проблемы, что выделяется на фоне материалов ИИ? Зубчатый фронтир открывает множество возможностей для человеческого труда.

Тем не менее следует ожидать рывков вперёд, когда фокус на обратных выступах приводит к внезапному устранению узких мест. Области работы, которые раньше были исключительно человеческими, становятся доступными для ИИ. Если вы хотите понять, куда движется ИИ, следите не за бенчмарками. Следите за узкими местами. Когда одно из них ломается, всё, что за ним скопилось, хлынет наружу. Генерация изображений сдерживала презентации, документы, визуальную коммуникацию всех видов. Теперь — нет. Что станет следующим узким местом? Память? Обучение в реальном времени? Способность действовать в физическом мире?

Где-то прямо сейчас лаборатория ИИ рассматривает каждое из этих узких мест как обратный выступ. Мы не получим особого предупреждения, когда они совершат прорыв. Но зубчатый фронтир работает в обе стороны. До сих пор каждый рывок вперёд оставлял ещё больше зубцов, где нужны люди. Впереди будет много рывков. Будет и много возможностей. Обращайте внимание на то и другое.

Поделиться