On speaking to AI

О разговорах с ИИ

Голос меняет очень многое

За последние два дня я получил возможность вести разговоры с двумя разными ИИ на своём телефоне. Хотя оба охотно общаются со мной (и друг с другом — послушайте запись), они представляют радикально разные взгляды на будущее ИИ, с разными амбициями и последствиями. Хочу подчеркнуть, что обе модели — ранние и далеки от завершения, но думаю, что поделиться первыми впечатлениями будет полезно.

Итак, давайте поговорим о новом расширенном голосовом режиме ChatGPT и новой Siri на базе ИИ. Это не просто разные подходы к общению с ИИ. Во многом они отражают водораздел между двумя философиями ИИ — Копилоты против Агентов, маленькие модели против больших, специалисты против универсалов.

Siri как Копилот

Разговор с Siri AI по-прежнему напоминает общение со старой Siri — по крайней мере, пока. Ваша челюсть не отвиснет от восторга, и вы по-прежнему будете разочарованы тем, насколько непредсказуемо она работает.

У отсутствия явного «вау-эффекта» есть причина: Apple построила Siri AI вокруг приватности, безопасности и защиты данных. Имея более миллиарда пользователей, Apple не хотела подвергать людей всем рискам и странностям LLM — им нужно было что-то надёжно работающее и максимально конфиденциальное.

Для этого пришлось пойти на компромиссы, и Apple разместила небольшой ИИ прямо на самом телефоне, а не полагалась на интернет-соединение. Это возможно, потому что модели ИИ бывают самых разных размеров. Например, открытая модель Llama 3.1 от Meta выпускается в гигантской версии на 405 миллиардов параметров (сопоставимой с GPT-4), средней на 70 миллиардов параметров (примерно уровень старого ChatGPT-3.5) и маленькой на 8 миллиардов параметров. Эти числа параметров отражают сложность модели ИИ — чем больше число, тем, как правило, мощнее модель, но и тем больше ресурсов она требует. Самую маленькую модель я могу запустить на своём компьютере, но для модели на 405 млрд параметров нужно специализированное оборудование. Маленькая модель далеко не так мощна, но компенсирует это другими преимуществами.

Маленькие модели дёшевы, быстры, работают на слабом оборудовании (вроде вашего телефона) и могут быть специализированы под конкретные задачи. В отличие от моделей-универсалов вроде ChatGPT, это создаёт ИИ, сфокусированные на узкой области, с которой они, как правило, справляются достаточно хорошо. Siri AI использует крошечную модель на 3 млрд параметров, но применяет хитрый подход, позволяющий локальному ИИ переключаться между несколькими специализациями — например, резюмированием текста или редактированием изображений. Поскольку вся обработка происходит на вашем телефоне, данные зашифрованы и полностью конфиденциальны.

И всё же, будучи маленькой моделью, она не слишком умна. По ощущениям это старая Siri с незначительными улучшениями. Если я попрошу: «Хочу сходить на ужин и в кино сегодня вечером, убедись, что я смогу добраться к 6 и вернуться домой к 10. Хотелось бы острую латиноамериканскую кухню и боевик» — она провалится с треском. При этом для LLM это вовсе не сложная задача. Чуть более крупная модель, Llama 8B, справляется заметно лучше (хотя и допускает некоторые ошибки из-за отсутствия доступа в интернет).

Впрочем, для Apple AI это только начало, потому что в будущем обновлении Siri на вашем телефоне сможет обращаться к более крупному ИИ Apple в облаке, когда не может решить задачу сама, или даже перенаправлять особо сложные вопросы к ChatGPT. Кроме того, она сможет взаимодействовать с приложениями, запуская действия и получая информацию из нескольких источников. Технология определённо будет совершенствоваться.

Тем не менее подход Apple — это не только техническое решение, но и философский выбор. ИИ несёт риски. Он непредсказуем. Он галлюцинирует. Он может быть использован не по назначению. Он не всегда обеспечивает конфиденциальность. Поэтому Apple решила снизить опасность злоупотреблений и ошибок. Они превратили Siri в Копилота. Подобные Копилоты появляются во многих продуктах — очень узкие системы ИИ, предназначенные для помощи в конкретных задачах. При этом они скрывают более странные, рискованные и мощные аспекты больших языковых моделей. Копилоты могут быть полезны, но вряд ли приведут к скачку производительности или изменят способ нашей работы, потому что они ограничены. Мощность приносится в жертву безопасности.

Голосовой ChatGPT как Агент

Если Siri стремится сделать ИИ менее странным и более предсказуемым, голосовой ChatGPT — полная противоположность. Он не использует маленькую, заточенную модель, а предоставляет доступ к полной мощи универсальной GPT-4o. Хотя некое подобие голосового режима было доступно в ChatGPT уже несколько месяцев, нынешняя версия — совсем другое. Она ведёт естественные диалоги, с перебиваниями и живым темпом. Трудно передать словами, насколько впечатляет интерактивный голосовой режим ChatGPT, поэтому я рекомендую вам послушать аудиозаписи, встроенные в этот пост.

Например, здесь я прошу ChatGPT помочь мне с вступительным абзацем этого поста. Обратите внимание не только на скорость и естественность перебиваний, но и на тонкие изменения тона (имитация энтузиазма по поводу меня и моей работы, естественно звучащая интонация и т. д.).

Взаимодействие с ChatGPT через голос — это просто странно, потому что ощущается поразительно человечным по темпу, интонации и даже имитации дыхания. Система способна передавать широкий спектр симулированных эмоций, поскольку она не просто воспроизводит записи — судя по всему, система полностью мультимодальна на входе и выходе, воспринимая и генерируя звуки так же, как предыдущие поколения LLM воспринимали и генерировали текст. Сейчас многие из этих возможностей, похоже, заблокированы ограничителями — как видно в конце ролика ниже, ИИ не разрешено создавать звуковые эффекты или радикально менять голос, вероятно, во избежание злоупотреблений, — но эти способности у него есть.

Работа с ChatGPT через голос напоминает разговор с живым человеком. Хотя базовая модель ничем не отличается от обычной GPT-4o, добавление голоса влечёт множество последствий. Голосовой репетитор работает совсем иначе, чем тот, что общается через текст. Система также может говорить на многих языках, открывая новые подходы к межкультурной коммуникации. И я не сомневаюсь, что у людей будут возникать эмоциональные привязанности к их ассистентам на ChatGPT — с непредсказуемыми последствиями.

Но как и Apple, OpenAI тоже пока не раскрыла полную мощь своей системы. Их ИИ полностью мультимодален, а значит, может также воспринимать изображения и видео, а потенциально и генерировать изображения значительно лучше предыдущих моделей. Если их видение воплотится, вскоре у нас появятся ассистенты, способные видеть, слышать и взаимодействовать с миром. Как только это будет достигнуто, следующим шагом станут агенты — идея о том, что ваш ИИ должен не только разговаривать с вами, но и планировать и действовать от вашего имени. В отличие от Копилотов, агентные системы и их предшественники вроде голосового GPT-4 принимают хаотичность — и в этом их сила и потенциальный риск. При всём обилии ограничителей подход OpenAI к голосу гораздо менее скован, чем Apple AI, и потому будет взаимодействовать с миром неожиданными способами.

Острые углы и новые перемены

Разные подходы к голосу показывают, что будущее ИИ будет связано с балансированием между менее рискованными, но менее способными системами и теми, что дают пользователям больше контроля и возможностей — со всеми плюсами и минусами. Думаю, многие компании надеются получить и то, и другое, но я не уверен, что это возможно. Им придётся решить: давать пользователям тупые инструменты, которые не слишком эффективны, но и не опасны, или вручать им острые ножи, которыми можно реально работать, но которые несут риск травмы. Тупые ножи не причинят вреда, но и пользы от них немного. Я считаю, нам нужно тщательно выбирать, где применять подход с низким риском (как Копилоты), а где мы готовы мириться с риском злоупотреблений ради потенциально огромных выгод (как агенты).

Всё это — ранние впечатления, основанные на первом опыте, но я думаю, что голосовые возможности вроде тех, что предлагает GPT-4o, изменят способ взаимодействия большинства людей с системами ИИ. Голосовое и визуальное взаимодействие естественнее текста и привлечёт более широкую аудиторию. Будущее — это разговоры с ИИ.

Поделиться