An AI glossary

Глоссарий по ИИ

Самые распространённые термины в сфере ИИ — объяснённые просто

👋 Добро пожаловать в 🔒 выпуск только для подписчиков 🔒 моей еженедельной рассылки. Каждую неделю я разбираю вопросы читателей о создании продукта, ускорении роста и развитии карьеры. Больше материалов: Lennybot | Подкаст | Найдите следующего продуктового лидера | Мои любимые курсы на Maven | Мерч

Вы наверняка слышите много жаргона про ИИ и, скорее всего, примерно понимаете, что означает часть этих слов… но не по-настоящему. Ниже — определения более чем 20 самых распространённых терминов в сфере ИИ в стиле «объясни мне, как пятилетнему», составленные на основе моего собственного понимания, кучи исследований и отзывов моих самых «прошаренных» в ИИ друзей.

Если вы и так всё это знаете — ничего страшного, этот пост не для вас. Всем остальным советую держать этот список под рукой в следующий раз, когда вы на встрече и с трудом успеваете за всеми этими словечками про ИИ, летающими по комнате. Я буду продолжать дополнять список по мере появления новых модных терминов.

Модель

Модель ИИ — это компьютерная программа, созданная для того, чтобы работать подобно человеческому мозгу. Вы даёте ей какой-то ввод (то есть промпт), она проводит некоторую обработку и генерирует ответ.

Как и ребёнок, модель «учится», знакомясь с множеством примеров того, как люди обычно отвечают или ведут себя в разных ситуациях. По мере того как она видит всё больше и больше примеров, она начинает распознавать закономерности, понимать язык и генерировать связные ответы.

Существует множество разных типов моделей ИИ. Некоторые из них сосредоточены на работе с языком — например, ChatGPT o3, Claude Sonnet 4, Gemini 2.5 Pro, Meta Llama 4, Grok 3, DeepSeek и Mistral — и называются большими языковыми моделями (LLM). Другие созданы для работы с видео, например Google Veo 3, OpenAI Sora и Runway Gen-4. Некоторые модели специализируются на генерации голоса, такие как ElevenLabs, Cartesia и Suno. Существуют и более традиционные типы моделей ИИ, такие как модели классификации (используются в задачах вроде выявления мошенничества), модели ранжирования (используются в поисковых системах, лентах соцсетей и рекламе) и регрессионные модели (используются для числовых прогнозов).

LLM (большая языковая модель)

LLM — это текстовые модели, созданные для понимания и генерации читаемого человеком текста. Именно поэтому в названии есть слово «языковая».

В последнее время большинство LLM фактически превратились в «мультимодальные» модели, которые могут обрабатывать и генерировать не только текст, но и изображения, аудио и другие типы контента в рамках единого диалогового интерфейса. Например, все LLM-модели ChatGPT нативно поддерживают текст, изображения и даже голос. Это началось с GPT-4o, где «o» означает «omni» (то есть она принимает любую комбинацию текста, аудио и изображений на вход).

Вот действительно хорошее введение в то, как на самом деле работают LLM, а также этот популярный подробный разбор от Andrej Karpathy:

Transformer

Архитектура transformer, разработанная исследователями Google в 2017 году, — это алгоритмическое открытие, которое сделало возможным современный ИИ (и LLM в частности).

Transformer-ы ввели механизм под названием «внимание» (attention): вместо того чтобы читать текст только слово за словом, последовательно, модель способна обращать внимание на все слова сразу. Это помогает моделям понимать, как слова связаны друг с другом, что делает их гораздо лучше в улавливании смысла, контекста и нюансов, чем предыдущие подходы.

Ещё одно большое преимущество архитектуры transformer в том, что она хорошо распараллеливается — она может обрабатывать множество частей последовательности одновременно. Это позволяет обучать гораздо более крупные и умные модели, просто наращивая объём данных и вычислительную мощность. Именно этот прорыв объясняет, почему мы внезапно перешли от примитивных чат-ботов к продвинутым ИИ-ассистентам. Почти каждая крупная модель ИИ сегодня, включая ChatGPT и Claude, построена на основе архитектуры transformer.

Это лучшее объяснение transformer-ов, которое я видел. Вот также более технический и наглядный подробный разбор:

Обучение/Предобучение

Обучение — это процесс, в ходе которого модель ИИ учится, анализируя огромные объёмы данных. Эти данные могут включать значительную часть интернета, все когда-либо опубликованные книги, аудиозаписи, фильмы, видеоигры и т. д. Обучение передовых моделей может занимать недели или месяцы, требовать обработки терабайтов данных и стоить сотни миллионов долларов.

Для LLM основной метод обучения называется «предсказание следующего токена» (next-token prediction). Модели показывают миллиарды текстовых последовательностей со скрытым последним «токеном» (примерно соответствующим слову, см. определение токена ниже), и она учится предсказывать, какое слово должно идти следующим.

По мере обучения модель настраивает миллионы внутренних параметров, называемых «весами» (weights). Они похожи на то, как нейроны в человеческом мозге усиливают или ослабляют свои связи на основе опыта. Когда модель делает правильное предсказание, эти веса усиливаются. Когда она ошибается — они корректируются. Со временем этот процесс помогает модели лучше понимать факты, грамматику, рассуждения и то, как язык работает в разных контекстах. Вот краткое наглядное объяснение.

Если вы скептически относитесь к тому, что предсказание следующего токена способно порождать новые идеи и сверхинтеллектуальные ИИ-системы, вот Ilya Sutskever (сооснователь OpenAI) объясняет, почему этот метод обманчиво мощен:

Обучение с учителем (supervised learning)

Обучение с учителем (supervised learning) — это когда модель обучается на «размеченных» данных, то есть таких, где предоставлены правильные ответы. Например, модели могут дать тысячи писем, помеченных как «спам» или «не спам», и на их основе она научится распознавать закономерности, отличающие спам от не-спама. После обучения модель может классифицировать новые письма, которые она никогда раньше не видела.

Большинство современных языковых моделей, включая ChatGPT, используют подвид под названием «самообучение с учителем» (self-supervised learning). Вместо того чтобы полагаться на размеченные человеком данные, модель создаёт собственные метки, как правило, скрывая последний токен/слово предложения и обучаясь его предсказывать. Это позволяет ей учиться на огромных объёмах необработанного текста без ручной разметки.

Обучение без учителя (unsupervised learning)

Обучение без учителя (unsupervised learning) — это противоположность: модели дают данные без каких-либо меток или ответов. Её задача — самостоятельно обнаружить закономерности или структуру, например сгруппировать похожие новостные статьи или выявить необычные закономерности в наборе данных. Этот метод часто применяется для таких задач, как выявление аномалий, кластеризация и тематическое моделирование, где цель — исследовать и упорядочить информацию, а не делать конкретные прогнозы.

Постобучение (post-training)

Постобучение (post-training) — это все дополнительные шаги, предпринимаемые после завершения обучения, чтобы сделать модель ещё более полезной. Сюда входят такие шаги, как «дообучение (fine-tuning)» и «RLHF.»

Дообучение (fine-tuning)

Дообучение (fine-tuning) — это техника постобучения, при которой вы берёте уже обученную модель и проводите дополнительное обучение на конкретных данных, подобранных под то, в чём вы хотите, чтобы модель была особенно хороша. Например, вы можете дообучить модель на разговорах из службы поддержки вашей компании, чтобы она отвечала в фирменном стиле вашего бренда, или на медицинской литературе, чтобы она лучше отвечала на вопросы по здравоохранению, или на образовательном контенте для определённых классов школы, чтобы создать ассистента-репетитора, объясняющего понятия в соответствии с возрастом.

Это дополнительное обучение подстраивает внутренние веса модели, чтобы специализировать её ответы под ваш конкретный сценарий использования, при этом сохраняя общие знания, которые она получила во время предобучения.

Вот отличный технический подробный разбор того, как работает дообучение:

RLHF (обучение с подкреплением на основе обратной связи от людей)

RLHF — это техника постобучения, которая выходит за рамки предсказания следующего токена и дообучения, обучая модели ИИ вести себя так, как хотят люди, — делая их безопаснее, полезнее и согласованнее с нашими намерениями. RLHF — это ключевой метод, используемый для того, что называют «выравниванием» (alignment).

Этот процесс работает в два этапа. Сначала люди-оценщики сравнивают пары ответов и выбирают, какой из них лучше, обучая «модель вознаграждения» (reward model), которая учится предсказывать предпочтения людей. Затем модель ИИ обучается с помощью обучения с подкреплением — процесса проб и ошибок, в ходе которого она получает «вознаграждения» от модели вознаграждения (а не напрямую от людей) за генерацию ответов, которые, по прогнозу модели вознаграждения, предпочли бы люди. На этом втором этапе модель по сути пытается «обыграть» модель вознаграждения, чтобы получить более высокие баллы.

Вот отличное руководство, а также этот технический подробный разбор RLHF:

Prompt engineering

Prompt engineering — это искусство и наука составления вопросов (то есть «промптов») для моделей ИИ, которые приводят к лучшим и более полезным ответам. Как и при разговоре с человеком, то, как вы формулируете вопрос, может приводить к кардинально разным ответам. Одна и та же модель ИИ даст совершенно разные ответы в зависимости от того, как вы составите свой промпт.

Есть две категории промптов:

Диалоговые промпты: то, что вы отправляете ChatGPT/Claude/Gemini, когда ведёте с ними разговор.Системные/продуктовые промпты: закулисные инструкции, которые разработчики встраивают в продукты, чтобы задать поведение ИИ-продукта.

Вот эпизод подкаста буквально на прошлой неделе, где мы разбираем это и многое другое:

RAG (генерация с дополненной выборкой, retrieval-augmented generation)

RAG — это техника, дающая моделям доступ во время выполнения к дополнительной информации, на которой они не обучались. Это всё равно что дать модели экзамен «с открытой книгой» вместо того, чтобы она отвечала по памяти.

Когда вы задаёте вопрос вроде «Как продажи этого месяца соотносятся с прошлым?», система выборки способна искать по вашим базам данных, документам и хранилищам знаний, чтобы найти релевантную информацию. Эти найденные данные затем добавляются как контекст к вашему исходному промпту, создавая обогащённый промпт, который модель затем обрабатывает. Это приводит к гораздо лучшему и более точному ответу.

Один из распространённых источников «галлюцинаций» — когда вы не даёте модели через RAG контекст, необходимый ей для ответа на ваш вопрос.

В целом, если подытожить:

Предобучение: даёт модели общие знания (и язык).Дообучение (fine-tuning): специализирует модель под конкретные задачи.RLHF: выравнивает модель с человеческими предпочтениями.Prompt engineering: навык составления более удачных вводных данных, чтобы направить модель к наиболее полезным ответам.RAG: техника, которая во время выполнения извлекает дополнительную релевантную информацию из внешних источников, чтобы дать модели актуальный или специфичный для задачи контекст, на котором она не обучалась.

Вот отличный обзор различий между дообучением, RAG и prompt engineering:

Evals

Evals (сокращение от «evaluations», оценки) — это структурированные способы измерить, насколько хорошо ИИ-система выполняет конкретные задачи, такие как корректность, безопасность, полезность или тональность. Они определяют, что значит «хорошо» для вашей ИИ-системы, и помогают ответить на вопрос: делает ли эта модель то, что я от неё хочу?

Evals — это по сути юнит-тесты или бенчмарки для вашего ИИ-продукта. Они прогоняют вашу модель через заранее заданные вводные данные и сравнивают её ответы с ожидаемыми результатами. Это помогает количественно измерять прогресс, отлавливать регрессии и подсказывает направления для улучшений.

Например, вот как может выглядеть eval для измерения токсичности и тональности ответа модели. Вывод вашей модели был бы вставлен в переменную {text}:

Evals часто называют — ведущие продуктовые лидеры — самым критически важным, но при этом недооценённым навыком для создания успешных ИИ-продуктов:

Не пропустите этот отличный гостевой пост от Aman Khan, который научит вас составлять evals для вашего продукта.

Inference

Inference — это когда модель «работает». Когда вы задаёте ChatGPT вопрос и она генерирует ответ — это и есть inference.

MCP (model context protocol)

MCP — это недавно выпущенный открытый стандарт, который позволяет моделям ИИ взаимодействовать с внешними инструментами — такими как ваш календарь, CRM, Slack или кодовая база — легко, надёжно и безопасно. Раньше разработчикам приходилось писать собственный код для каждой новой интеграции.

MCP также даёт ИИ возможность выполнять действия через эти инструменты, например обновлять записи о клиентах в Salesforce, отправлять сообщения в Slack, планировать встречи в вашем календаре или даже коммитить код в GitHub.

Это пока ранний этап в определении ИИ-протоколов, и есть другие конкурирующие предложения, такие как A2A от Google и ACP от BeeAI/IBM.

Вот действительно хорошее подробное объяснение MCP:

Этот пост доступен платным подписчикам