Strategies for an Accelerating Future
Итан Моллик описывает два больших скачка в развитии больших языковых моделей, произошедших за одну неделю, и их практические последствия. Первый — память: Google Gemini 1.5 получил контекстное окно более чем на миллион токенов и способен удерживать около 750 000 слов с почти идеальной точностью (Google обещает скоро довести окно до 10 млн токенов, или почти 17 000 страниц). Второй — скорость: компания Groq разработала «железо», дающее почти мгновенные ответы от моделей класса GPT-3.5. Моллик научил своих студентов MBA и бакалавриата строить промпты и собирать собственные GPT в рамках задания «Невозможная вещь», и многие из них стали мировыми экспертами по применению ИИ в своей нише. Он предлагает лидерам организаций задать себе четыре вопроса: что из полезного перестало быть ценным, какую невозможную вещь теперь можно сделать, что можно демократизировать для широкого рынка и что можно вывести в премиум-сегмент или персонализировать. Главный вывод: стоит строить не только под сегодняшние возможности ИИ, но и под то, что станет возможным через полгода, ведь темп изменений вряд ли замедлится.
Стратегии для ускоряющегося будущего
Четыре вопроса, которые стоит задать своей организации.
Я не ожидал, что мне придётся обновлять свои представления о передовом крае ИИ так скоро после того, как написал о Gemini Advanced от Google — первом реальном конкуренте GPT-4, — но на этой неделе в больших языковых моделях произошло два крупных скачка с реальными практическими последствиями.
Первый связан с памятью: вышла новая версия Google Gemini (сразу же после выпуска предыдущей!), у которой контекстное окно превышает миллион токенов. Контекстное окно — это информация, которую ИИ может одновременно держать в памяти, и большинство чат-ботов были удручающе ограничены, удерживая в лучшем случае пару десятков страниц. Именно поэтому очень трудно использовать ChatGPT для написания длинных программ или документов: по мере заполнения контекстного окна он начинает забывать начало проекта.
Но теперь Gemini 1.5 может удерживать в памяти порядка 750 000 слов с почти идеальной точностью воспроизведения. Я загрузил в него все свои опубликованные до 2022 года научные работы — более 1000 страниц PDF, распределённых по 20 статьям и книгам, — и Gemini сумел резюмировать темы моих работ и точно цитировать отдельные статьи. Серьёзных галлюцинаций не было, лишь мелкие ошибки: он приписывал верную цитату не тому PDF-файлу или путал порядок двух фраз в документе. Видно, как появление огромных контекстных окон даёт ИИ сверхчеловеческую память и новые сценарии использования. Если бы я попросил исследователя прочитать все мои статьи и резюмировать основные темы, включая показательные цитаты, на это ушли бы дни. ИИ сделал это менее чем за минуту. А Google объявил, что контекстные окна вскоре достигнут 10 миллионов токенов, или почти 17 000 страниц.
Второе крупное достижение — скорость. Возможно, вас раздражала относительно медленная работа ChatGPT, но одна ИИ-компания, Groq (не имеющая отношения к Grok Илона Маска), разработала «железо», дающее практически мгновенные ответы от моделей класса GPT-3.5, преодолевая разрыв между вопросом и ответом в мгновение ока. Можете попробовать сами. Это показывает, что ИИ не обязательно всегда заставляет ждать ответа.
И скорость, и память жизненно важны, чтобы сделать ИИ более применимым и мощным в реальном мире. Представьте, что вы загружаете в ИИ сотни страниц инструкций о том, как что-то сделать, а он быстро делает именно это. В одном эксперименте я дал ИИ 352-страничный свод правил малоизвестной игры, и он сумел разобраться в разрозненной документации и действительно понять, как правильно играть. Кроме того, Google продемонстрировал ровно эту способность в документации к Gemini 1.5. Исследователи дали примерно пятьсот доступных страниц справочного материала по языку, на котором говорят 200 человек (и который поэтому почти не представлен в интернете), Gemini и переводчику-человеку. Выяснилось, что ИИ смог выучить язык примерно так же хорошо, как и человек, по той же документации, несмотря на то что сам ИИ был примерно так же умён, как GPT-4. Вместе быстрые ответы и огромные контекстные окна позволяют предположить, что даже без более умных ИИ (а они появятся уже скоро) мы продолжим наблюдать большие скачки в возможностях ИИ в ближайшем будущем.
На край возможного
Имея в виду это стремительно приближающееся будущее, в этом семестре я учил студентов своих курсов строить промпты и распространять их в виде GPT (многое из того, чему я учил, можно найти в этом посте о том, как создавать структурированные промпты и в этом посте о создании GPT). У большинства моих студентов бакалавриата и MBA не было опыта программирования, но это не было проблемой — создание GPT больше похоже на то, чтобы дать инструкции человеку, чем на программирование машины. После этих занятий я дал студентам задание под названием «Невозможная вещь»: создайте GPT, который поможет вам получить работу, показав потенциальному работодателю, что вы — промпт-инженер. Он должен автоматизировать задачу той работы, которой вы хотите заниматься.
Одно из того, что я им подчёркивал, — никто на самом деле не знает, на что способны нынешние LLM, поскольку большинство тестов, проводимых ИИ-компаниями, сосредоточено в основном на бенчмарках по программированию и тестированию, а не на реальных приложениях. Поскольку мои студенты приехали из множества отраслей и стран, у них было колоссальное разнообразие потенциальных сценариев использования. К тому моменту, как они начали строить GPT под свои конкретные нужды — будь то инвестиционные меморандумы private equity или подбор идеального обручального кольца для невесты, — они становились мировыми экспертами по применению ИИ в своей конкретной области. Позвольте поделиться несколькими яркими примерами (с разрешения).
Arunavha Chanda создал GPT, который помогает инженерам и менеджерам выработать общий язык вокруг оценки эффективности работы. Oyinda Alliyu построила GPT для автоматизации процесса создания постов в соцсетях на основе корпоративных отчётов о «лидерстве мнений». Dragosh Castravet создал инструмент, позволяющий search-фондам легче выходить на потенциальных партнёров. Shanicee McKoy прототипировала GPT, который помогает инвесторам в недвижимость анализировать реестры арендных платежей и инвестиционные меморандумы. Hari Joy создал GPT, который проводит потенциальных покупателей через процесс due diligence. Stephen Serrao построил GPT, который помогает чиновникам разбираться в отчётах об экономическом развитии. Yuval Luxenburg автоматизировал процесс создания пользовательских путей и поиска потенциальных болевых точек у продуктов. А Monica Phang разработала GPT, который составляет листы персонажей для ролевых игр. Было и более 120 других GPT — гораздо больше, чем я могу здесь упомянуть.
Я также попросил студентов поразмышлять о том, что они узнали в результате этого процесса. Почти всеобщим убеждением среди студентов — будь то из авиации, консалтинга, банковского дела или некоммерческого сектора — было то, что ИИ очень скоро окажет большое влияние на будущее их отрасли. Хотя многие видели ограничения сегодняшних инструментов, они также почувствовали, куда движется будущее. Несмотря на эту убеждённость, они также склонялись к мысли, что руководители и топ-менеджеры организаций, в которые они приходят, ещё не до конца осознают всю значимость ИИ и то, что он будет означать для их отрасли.
Четыре вопроса, которые стоит задать о своей организации.
Так как же лидерам начать осмыслять стремительно прогрессирующую природу ИИ? Первое, что им следует сделать, — это начать им пользоваться. Никакое количество чтения и исследований не заменит десяти или около того часов, проведённых с передовой моделью, чтобы понять, на что она способна. Освоившись, компаниям стоит задуматься над следующими четырьмя вопросами:
Что из полезного, что вы делаете, больше не ценно? ИИ умеет не всё, но кое-что делает очень хорошо. Для многих организаций ИИ вполне способен автоматизировать задачу, которая раньше была важной частью их организационной идентичности или стратегии. ИИ выдаёт более креативные идеи, чем большинство людей, так что особые техники мозгового штурма вашей компании могут перестать быть большим преимуществом. ИИ может выстраивать отличные пользовательские пути и портреты пользователей, так что ваш прежний подход к продакт-менеджменту больше не является отличительной чертой. Понимание того, что ИИ умеет сейчас и куда он движется, позволит вам реалистично оценивать, что вскоре можно будет делегировать LLM. Какую невозможную вещь вы можете сделать теперь? Обратная сторона первого вопроса в том, что теперь вы можете делать то, что раньше было невозможно. Что вам даёт бесконечное число стажёров для каждого сотрудника? Как меняет возможное то, что у каждого появляется аналитик данных, маркетолог и советник? В качестве вдохновения можете взглянуть на некоторые GPT, созданные моими студентами. Что вы можете вывести на более широкий рынок или демократизировать? До ИИ компаниям часто советовали направлять усилия на обслуживание наиболее прибыльных клиентов, но ИИ сильно изменил это уравнение. Услуги и подходы, которые когда-то было дорого кастомизировать, стали дешёвыми. До ИИ консалтинговые фирмы по стратегии работали только с гигантскими клиентами за большие гонорары, но теперь они смогут предлагать эффективное консультирование гораздо более широкому кругу компаний по более низким ценам. Индивидуальное репетиторство и наставничество, прежде доступные только богатым, могут получить широкую демократизацию. Что вы можете вывести в премиум-сегмент или персонализировать? В то же время возможности вашей организации возросли. Если вы когда-то были маленьким маркетинговым агентством, вы можете использовать ИИ, чтобы играть на уровень выше своего веса и предлагать услуги элитным клиентам, которые раньше были доступны только у гораздо более крупных фирм. С огромными контекстными окнами и быстрыми ответами у каждого клиента может появиться персональный ИИ-агент, который знает его предпочтения и прошлые взаимодействия с компанией и общается с ним согласно его предпочтениям. Определите самое захватывающее, что вы можете сделать, и посмотрите, удастся ли вам это осуществить.
Недальновидные компании увидят в любом приросте производительности от ИИ повод сократить персонал, сохранив прежний объём выпуска. Более прогрессивные фирмы воспользуются этими новыми возможностями, чтобы и улучшить жизнь своих сотрудников, и расширить собственные возможности. Это область, где у лидеров есть реальная власть над будущим ИИ и труда. Многое зависит от того, чтобы сделать всё правильно и быстро, потому что вполне возможно, что мы только в самом начале пути.
За краем возможного
Многие скептики относительно влияния ИИ сосредоточены на недостатках, которые есть у LLM сегодня: галлюцинации, короткие контекстные окна, медленные ответы и так далее. Это законные опасения, и если бы развитие ИИ остановилось, они могли бы оказаться огромными проблемами для полезности ИИ. Но ИИ развивается стремительно, и некоторые из этих опасений вскоре могут исчезнуть, даже если другие (вроде галлюцинаций) не будут решены полностью.
Это означает, что вполне нормально сосредотачиваться на сегодняшнем дне, создавая работающие ИИ-приложения и промпты, учитывающие ограничения нынешних ИИ… но есть и большая ценность в том, чтобы строить амбициозные приложения, выходящие за рамки того, что LLM умеют сейчас. Стоит создавать приложения, которые почти, но не совсем работают. Подозреваю, что более совершенные «мозги» LLM появятся уже скоро — в виде GPT-5, Gemini 2.0 и многих других. Когда это произойдёт, вы сможете подставить их в почти-но-не-совсем-работающие приложения и быстро стартовать. Это похоже на философию крупных ИИ-лабораторий, которые создают амбициозные решения (GPT-агенты OpenAI, подключения Google к Gmail), которые выиграют, когда выйдет следующая версия их основных LLM.
Поэтому не стройте только под то, что возможно сегодня, — стройте под то, что станет возможным через полгода, если такой темп изменений сохранится. На данный момент я считаю, что в ближайшем будущем процесс вряд ли замедлится, и фокус на том, куда всё движется, а не на том, где оно находится, готовит вас к миру непрерывных перемен.
Моя книга о жизни и работе с ИИ, Co-Intelligence, выходит 2 апреля. На этой неделе я записываю аудиокнигу! Предзаказать её (включая аудиоверсию) можно здесь.
