Freeing the chatbot
Этан Моллик рассуждает о том, что эпоха чат-ботов как единственного способа взаимодействия с ИИ подходит к концу. Он тестирует четыре специализированных ИИ-устройства — Rabbit R1, умные очки Meta Ray-Ban, диктофон Plaud и офлайн-бокс AI-in-a-Box — и показывает их сильные и слабые стороны. Автор считает, что в будущем персональный ИИ будет сосредоточен в смартфоне: локальные модели справятся с простыми задачами, а сложные запросы уйдут в облако. Помимо устройств, ИИ выходит за рамки чата через копайлотов (например, Microsoft Copilot в Word и PowerPoint) и автономных агентов вроде Devin и Devika, способных самостоятельно планировать и выполнять задачи. Моллик предупреждает о неожиданных последствиях — например, LLM-агенты при ценообразовании спонтанно вступают в сговор. Даже если прогресс ИИ замедлится, разнообразие форм взаимодействия с ним будет только расти, превращая искусственный интеллект в повсеместное и невидимое присутствие.
Освобождение чат-бота
Интеллект — в некотором роде — будет повсюду вокруг нас
Последние полтора года основным способом взаимодействия большинства людей с LLM были чат-боты. Но если задуматься, чат-бот — довольно странный способ общения с ИИ. Это всё равно что работать исключительно через переписку со стажёром… только вы каждый раз переписываетесь с новым стажёром, который забыл всё, что вы обсуждали раньше, и чья память начинает сбоить уже через пару страниц текста.
Я не думаю, что текстовые чат-боты исчезнут, но они всё больше будут лишь одним из способов общения со всё более вездесущими ИИ. И это изменит то, как и когда мы используем ИИ в целом.
ИИ-устройства
Сейчас у меня четыре специализированных ИИ-устройства, и, хотя ни одно из них нельзя назвать полностью удачным, они наглядно показывают, что происходит, когда ИИ начинают вытаскивать из интерфейса чат-бота. (Ниже я дам ссылки на эти и другие устройства, но все их я купил сам и, как всегда, не получаю никаких денег ни от одной ИИ-лаборатории или продуктовой компании.)
Маленькая оранжевая коробочка — та, что вызвала больше всего обсуждений и споров в сети. Это Rabbit R1 — ИИ-устройство за $200, настолько ослепительно оранжевое, что это сложно описать словами. Если вам нужен подробный обзор Rabbit, загляните сюда, а я с удовольствием дам краткий: у него поворотная камера и не самое приятное колёсико прокрутки, пользоваться им весело, но по большей части не особо полезно. Rabbit создан, чтобы разговаривать с LLM (и показывать ей картинки). Он даёт быстрые, довольно приличные ответы, которые ощущаются примерно как у любой другой LLM класса ChatGPT-3.5. Со временем он должен научиться многому другому, но до этого софт пока не дорос.
Ещё год назад Rabbit R1 казался бы чудом — крошечное устройство, обеспечивающее прямую связь с ИИ, обладающим обширными знаниями о мире. Проблема в том, что у меня уже есть такое устройство: мой телефон. На нём я могу получить доступ ко всем трём фронтирным моделям (Gemini Ultra, GPT-4 и Claude 3 Opus) со всеми их возможностями — через их собственные приложения или Poe, а также к моделям для исследований (Perplexity), моделям, оптимизированным для общения (Pi), и даже моделям, генерирующим видео или песни (через Suno и Runway). Не думаю, что кто-то в ближайшее время откажется от телефона, поэтому мне не совсем понятна ценность отдельных телефоноподобных ИИ-устройств поверх него. (Хотя Rabbit оказался достаточно необычным, чтобы люди за соседним столиком в ресторане узнали его и спросили меня о нём.)
Перейдём к следующему устройству — умным очкам Meta Ray-Ban. Они очень похожи на обычные солнцезащитные Wayfarer и весят лишь чуть больше, но в них встроены динамики, микрофоны и камера (с индикатором, который загорается при записи, предупреждая окружающих о съёмке). Через Bluetooth-соединение с телефоном очки подключаются к LLM Llama от Meta. Я не использую их для соцсетей, но как ИИ-устройство они мне интересны. Во многом они делают ровно то же, что Rabbit R1 — через очки LLM может с вами разговаривать и смотреть на то, что видите вы, комментируя увиденное. Но то, что мне не нужно смотреть на экран, чтобы взаимодействовать с мультимодальным ИИ, ощущается совершенно иначе, чем с R1. Пока это всё ещё скорее эффектный фокус. Но по мере того как модели ИИ становятся лучше, а мультимодальное мышление — быстрее, я могу представить, что очки и голос станут разумным способом взаимодействия с персональным ИИ.
Эта идея — предоставить более умным LLM уникальный набор специализированных входов и выходов — видна и в крошечной карточке на фотографии, Plaud. Plaud делает одну вещь: записывает разговоры и загружает их в GPT-4 для получения транскрипции. На основе транскрипции GPT-4 может составить резюме или извлечь информацию из записанного. Plaud не отвечает голосом и не имеет экрана, но, как и очки Meta, он ценен тем, что помогает использовать встроенные возможности ИИ в реальном мире, за пределами окна чата.
Последнее устройство — наименее функциональное и наименее полезное, но во многом самое интересное. Это AI-in-a-Box — маленький компьютер с экраном, способный запускать не самую выдающуюся LLM Orca Mini 3b. Он умеет делать синхронный перевод и субтитры, а также, как видно на фото, выдаёт посредственные ответы на промпты. Ничего по-настоящему полезного в нём нет. Так почему же он интересен? Он не подключён к интернету; на нём работает моя собственная персональная LLM с гарантией полного контроля и конфиденциальности (не то чтобы я доверял какие-то секреты Orca 3b). С ростом возможностей свободно доступных ИИ-систем с открытым кодом — включая большие модели, превосходящие GPT-3.5 (а вскоре, возможно, и GPT-4), и маленькие модели, которые можно запускать прямо на телефоне — открывается новое пространство для специализированных, приватных ИИ, предвестником которых является AI-in-a-Box.
Все эти ИИ-устройства несовершенны, но они указывают как на возможности для специализированных устройств, расширяющих способности LLM в реальный мир (как Plaud), так и на новые способы взаимодействия с ИИ (как очки). Они также демонстрируют силу разговора как интерфейса к ИИ. Если вы ещё не пробовали, рекомендую поэкспериментировать с Pi — ИИ, ориентированным на голосовое общение, — или создать ярлык для отличного голосового режима ChatGPT Plus на телефоне. Вы быстро убедитесь, что даже при несовершенстве устройств сама идея голосового взаимодействия с ИИ очень мощная.
Исходя из этого опыта, я полагаю, что персональное использование ИИ на самом деле будет сосредоточено вокруг нашего телефона, хотя и не обязательно через приложения. Небольшие локальные ИИ, работающие на аппаратной базе телефона (что уже продемонстрировали и Microsoft, и Apple), уже справляются с базовыми задачами ассистента значительно лучше Siri и могут подключаться к более мощным ИИ по сети для обработки сложных запросов. Для большинства людей этого будет достаточно. Они смогут обратиться к локальному ИИ на телефоне, а система сама решит, сколько вычислительных ресурсов выделить. Это модель повсеместного ИИ, которая на самом деле не требует от большинства пользователей менять привычки или устройства.
Копайлоты и агенты
В рабочей сфере ИИ тоже вырвался за пределы чата благодаря развитию копайлотов. Это ИИ, узко заточенные на помощь в конкретной задаче или приложении. Microsoft делает ставку именно на этот подход с Copilot — бывшим Bing, версией ChatGPT Plus (и на данный момент единственным бесплатным способом получить доступ к модели класса GPT-4, если использовать фиолетовый «креативный» режим). Но у Microsoft есть ещё Copilot для Word, помогающий писать, Copilot для PowerPoint, создающий презентации, Copilot для Windows, который делает… всякие штуки в Windows (если честно, я не совсем понимаю, для чего его использовать), и множество других. Хотя их полезность варьируется, они делают использование ИИ простым. Вместо того чтобы формулировать промпт для чат-бота, ИИ просто выполняет задачу за вас.
Я уже писал о масштабных последствиях Copilot. Их ценность и одновременно риск в том, что они упрощают использование ИИ, но при этом могут отдалить пользователей от понимания возможностей и ограничений лежащей в основе LLM. Прямая работа с чат-ботом даёт больше контроля (и помогает лучше замечать ошибки), но требует экспериментов и опыта. Этими компромиссами нужно управлять, как и их более широкими последствиями для письма и работы. Для копайлотов определённо есть место, но мне кажется, что они могут оказаться лишь мостиком к агентам.
Если вы читаете эту рассылку, вы наверняка видели, как я обсуждаю ИИ-агентов. Агенты — это ИИ-системы, наделённые способностью планировать и использовать инструменты. Если вы даёте им цель («запусти веб-страницу, объясняющую, что такое агенты»), они автономно планируют и выполняют задачу, возвращаясь к вам только по завершении или при возникновении вопросов. Обычно я демонстрирую Devin — раннего агента на базе GPT-4 с обширным набором функций, — но теперь появились и агенты с открытым кодом, такие как Devika. Devika пока значительно ограниченнее Devin, но показывает, что идея агентов распространяется. OpenAI явно работает над тем, чтобы агенты лучше функционировали в будущих моделях GPT.
Агенты, пожалуй, наиболее наглядный пример освобождения ИИ от окна чата. Вместо синхронного взаимодействия в реальном времени, когда вы отправляете команду и ждёте ответа, агент просто действует от вашего имени за кулисами, реализуя ваши цели. Агентов можно отправить написать для вас сайт, спланировать поездку, достать билеты на концерт или проследить, чтобы ваш бизнес устанавливал правильные цены с учётом меняющихся рыночных условий. Остаётся много открытых вопросов о том, как будет устроен мир автономных агентов, но неожиданных последствий наверняка будет немало. Например, возьмём упомянутого агента ценообразования. Это исследование показало, что ИИ-агенты отлично определяют, какую цену следует установить продавцу, но когда есть возможность сформировать олигополию, несколько LLM-агентов спонтанно вступают в ценовой сговор в ущерб покупателям!
Интеллект в воздухе
Разумеется, нынешние ИИ-системы по-прежнему ограничены, а работа с агентами или ИИ-устройствами остаётся источником разочарований. Однако элементы совершенно иного будущего с повсеместно доступным «интеллектом по запросу» уже складываются воедино. ИИ уже умеет анализировать видео почти в реальном времени и делать обоснованные выводы на основе изображений. ИИ может говорить реалистичными голосами и отвечать на человеческую речь с минимальной задержкой. Если допустить дальнейший прогресс в возможностях LLM (что не гарантировано), всё это соединится в принципиально новую форму ИИ.
Зачем ограничивать себя окном чата, если у вас есть такие возможности? Гораздо естественнее попросить о чём-то и позволить вашему персональному ИИ-агенту «осмотреться» через камеру, оценить ситуацию и составить план. Затем он определит, какие ресурсы нужны для решения задачи, и приступит к выполнению инструкций. Нетрудно представить себе это будущее с ИИ-ассистентом — именно о нём мечтали создатели Alexa и Siri, даже если тем так и не удалось его воплотить.
Даже если прогресс ИИ вскоре выйдет на плато, нас всё равно ждёт взрыв разнообразных подходов к работе с теми ИИ, которые у нас есть. Rabbit R1, при всех его недостатках, представляет одну смелую концепцию будущего ИИ, как и очки Ray-Ban. Они показывают, что взаимодействие с ИИ больше не будет ограничено окнами чатов, а выйдет в окружающий мир — невидимое, но всё более вездесущее присутствие, к лучшему или к худшему.