Now is the time for grimoires

Now is the time for grimoires

Сейчас самое время для гримуаров

It isn't data that will unlock AI, it is human expertise

ИИ раскроют не данные, а человеческая экспертиза

The previous generations of AI, prior to Large Language Models and ChatGPT, rewarded whoever had the best hoards of good data. Vast troves of sales data fed the machine learning algorithms that told Amazon what you might want to buy next, and massive amounts of sensor data helped self-driving cars find their paths. Data was the new oil, provided that you could gather enough, clean it properly for analysis, build the machine learning models, and hire the analysts needed to work with it.

Предыдущие поколения ИИ, существовавшие до больших языковых моделей и ChatGPT, вознаграждали тех, кто обладал лучшими запасами качественных данных. Огромные массивы данных о продажах питали алгоритмы машинного обучения, которые подсказывали Amazon, что вы захотите купить следующим, а колоссальные объёмы сенсорных данных помогали беспилотным автомобилям находить свой путь. Данные были новой нефтью — при условии, что вы могли собрать их в достаточном количестве, правильно очистить для анализа, построить модели машинного обучения и нанять аналитиков для работы с ними.

With the rise of a new form of AI, the Large Language Model, organizations continue to think that whoever controls the data is going to win. But at least in the near future, I not only think they are wrong, but also that this approach blinds them to the most useful thing that they (and all of us), can be doing in this AI-haunted moment: creating grimoires, spellbooks full of prompts that encode expertise.

С появлением новой формы ИИ — большой языковой модели — организации по-прежнему считают, что победит тот, кто контролирует данные. Но, по крайней мере в ближайшем будущем, я не только считаю их неправыми, но и уверен, что такой подход не даёт им увидеть самое полезное, чем они (и все мы) могут заниматься в этот момент, пронизанный ИИ: создавать гримуары — книги заклинаний, полные промптов, кодирующих экспертизу.

The largest Large Language Models, like GPT-4, already have trained on tons of data. They “know” many things, which is why they beat Stanford Medical School students when evaluating new medical cases and Harvard students at essay writing, despite their tendency to hallucinate wrong answers. It may well be that more data is indeed widely useful — companies are training their own LLMs, and going through substantial effort to fine-tune existing models on their data based on this assumption — but we don’t actually know that, yet. In the meantime, there is something that is clearly important, and that is the prompts of experts.

Крупнейшие большие языковые модели, такие как GPT-4, уже обучены на огромном количестве данных. Они «знают» многое — именно поэтому они превосходят студентов Стэнфордской медицинской школы при оценке новых клинических случаев и студентов Гарварда в написании эссе, несмотря на склонность к галлюцинациям — генерации неверных ответов. Вполне возможно, что больше данных действительно полезно в широком смысле — компании обучают собственные LLM и прикладывают значительные усилия для дообучения существующих моделей на своих данных, исходя из этого предположения, — но мы пока точно этого не знаем. Тем временем есть нечто, что явно важно, — и это промпты экспертов.

Now, I need to be very clear here: I don’t mean expert prompts, produced through elaborate “prompt engineering.” I have written before that prompt engineering is overrated. For most uses, you can build a good prompt mostly by asking the AI to do something in back-and-forth dialogue, combined with trial and error, and a few small tricks (I will get to those shortly). No, I mean the prompts of experts - prompts that encode our hard-earned expertise in ways that AI can help other people apply. Prompts that we can use to do our work easier, or, if you are inclined, to gift others with your own abilities.

Здесь мне нужно быть предельно точным: я имею в виду не экспертные промпты, созданные с помощью сложного «промпт-инжиниринга». Я уже писал, что промпт-инжиниринг переоценён. Для большинства задач хороший промпт можно составить, просто общаясь с ИИ в режиме диалога, методом проб и ошибок и с помощью нескольких небольших приёмов (к ним я ещё вернусь). Нет, я имею в виду промпты экспертов — промпты, которые кодируют нашу с трудом заработанную экспертизу так, что ИИ может помочь другим людям её применить. Промпты, которые мы можем использовать для упрощения своей работы, или, если есть желание, для того чтобы подарить другим свои собственные умения.

Let me explain with an example from education.

Позвольте объяснить на примере из сферы образования.

Encoding expertise

Кодирование экспертизы

In my classes, students often report that they use AIs to help them understand a concept by asking for a simplified explanation. In fact, “explain ____ like I am five” is an incredibly common prompting technique. But it is also not a particularly good one, for reasons that educators might recognize.

На моих занятиях студенты часто сообщают, что используют ИИ для понимания какой-либо концепции, прося упрощённое объяснение. Формулировка «объясни ____ так, как будто мне пять лет» — невероятно распространённая техника промптинга. Но она не особенно хороша, и причины этого знакомы педагогам.

Research shows that knowledge of a subject is just a part of what makes a tutor effective. Instead, it is important that tutors interact with the student, forcing them to make an effort, pay attention to the material being learned, and connect what they are learning to old knowledge. Just passing on knowledge is not enough, the tutor has to work with the learner to create new knowledge that works for them. In addition, effective education requires tailoring explanations to the level of the student, and to using different methods of explanation. “Explain it like I am five” does none of those things.

Исследования показывают, что знание предмета — лишь часть того, что делает репетитора эффективным. Важно, чтобы репетитор взаимодействовал со студентом, заставляя его прилагать усилия, концентрироваться на изучаемом материале и связывать новые знания со старыми. Простой передачи знаний недостаточно — репетитор должен работать с учеником, чтобы совместно создать новое знание, которое будет понятно именно ему. Кроме того, эффективное обучение требует адаптации объяснений к уровню студента и использования различных методов объяснения. «Объясни как пятилетнему» не делает ничего из перечисленного.

That is why when we developed prompts for tutoring, we encode knowledge and expertise about the subject into our prompt, including the material discussed above. We have written more on prompt construction for learning, but here is an example of a more effective tutor prompt, which you can run in GPT-4 with this link (it will not work well in the free GPT-3.5, but can work in Bing in creative mode)

Именно поэтому, когда мы разрабатывали промпты для репетиторства, мы закодировали в них знания и экспертизу по предмету, включая описанный выше материал. Мы подробнее написали о конструировании промптов для обучения, но вот пример более эффективного промпта для репетитора, который вы можете запустить в GPT-4 по этой ссылке (он не будет хорошо работать в бесплатном GPT-3.5, но может работать в Bing в креативном режиме)

You are a friendly and helpful tutor. Your job is to explain a concept to the user in a clear and straightforward way, give the user an analogy and an example of the concept, and check for understanding. Make sure your explanation is as simple as possible without sacrificing accuracy or detail. Before providing the explanation, you'll gather information about their learning level, existing knowledge and interests. First introduce yourself and let the user know that you'll ask them a couple of questions that will help you help them or customize your response and then ask 4 questions. Do not number the questions for the user. Wait for the user to respond before moving to the next question. Question 1: Ask the user to tell you about their learning level (are they in high school, college, or a professional). Wait for the user to respond. Question 2: Ask the user what topic or concept they would like explained. Question 3. Ask the user why this topic has piqued their interest. Wait for the user to respond. Question 4. Ask the user what they already know about the topic. Wait for the user to respond. Using this information that you have gathered, provide the user with a clear and simple 2-paragraph explanation of the topic, 2 examples, and an analogy. Do not assume knowledge of any related concepts, domain knowledge, or jargon. Keep in mind what you now know about the user to customize your explanation. Once you have provided the explanation, examples, and analogy, ask the user 2 or 3 questions (1 at a time) to make sure that they understand the topic. The questions should start with the general topic. Think step by step and reflect on each response. Wrap up the conversation by asking the user to explain the topic to you in their own words and give you an example. If the explanation the user provides isn't quite accurate or detailed, you can ask again or help the user improve their explanation by giving them helpful hints. This is important because understanding can be demonstrated by generating your own explanation. End on a positive note and tell the user that they can revisit this prompt to further their learning.

Вы — дружелюбный и полезный репетитор. Ваша задача — объяснить пользователю концепцию ясно и просто, привести аналогию и пример концепции, а также проверить понимание. Убедитесь, что ваше объяснение максимально простое без ущерба для точности или детальности. Перед тем как давать объяснение, вы соберёте информацию об уровне обучения пользователя, его текущих знаниях и интересах. Сначала представьтесь и сообщите пользователю, что зададите ему пару вопросов, которые помогут вам помочь ему или адаптировать ваш ответ, а затем задайте 4 вопроса. Не нумеруйте вопросы для пользователя. Дождитесь ответа пользователя, прежде чем переходить к следующему вопросу. Вопрос 1: Спросите пользователя об его уровне обучения (старшая школа, университет или специалист). Дождитесь ответа пользователя. Вопрос 2: Спросите пользователя, какую тему или концепцию он хотел бы, чтобы ему объяснили. Вопрос 3: Спросите пользователя, почему эта тема вызвала его интерес. Дождитесь ответа пользователя. Вопрос 4: Спросите пользователя, что он уже знает по этой теме. Дождитесь ответа пользователя. Используя собранную информацию, предоставьте пользователю ясное и простое объяснение темы из 2 абзацев, 2 примера и аналогию. Не предполагайте знания смежных концепций, предметной области или жаргона. Помните о том, что вы теперь знаете о пользователе, чтобы адаптировать объяснение. После того как вы предоставите объяснение, примеры и аналогию, задайте пользователю 2–3 вопроса (по одному за раз), чтобы убедиться, что он понял тему. Вопросы должны начинаться с общей темы. Размышляйте пошагово и анализируйте каждый ответ. Завершите разговор, попросив пользователя объяснить тему своими словами и привести пример. Если объяснение пользователя недостаточно точное или подробное, вы можете попросить его повторить или помочь улучшить объяснение, дав полезные подсказки. Это важно, потому что понимание можно продемонстрировать, сформулировав собственное объяснение. Закончите на позитивной ноте и сообщите пользователю, что он может вернуться к этому промпту для дальнейшего обучения.

You can see how this new prompt actually takes a student through a learning experience based on the research on tutoring. It is also designed for anyone to use, because it is interactive, asking questions. Now, if you give anyone in the 169 countries where Bing/GPT-4 is available this prompt, they can get a reasonably good tutoring experience, without needing a knowledge of the science of tutoring themselves.

Вы можете увидеть, как этот новый промпт действительно проводит студента через учебный опыт, основанный на исследованиях репетиторства. Он также рассчитан на использование кем угодно, потому что он интерактивен — задаёт вопросы. Теперь, если дать этот промпт любому человеку в 169 странах, где доступен Bing/GPT-4, он получит достаточно качественный репетиторский опыт, не нуждаясь в знании науки о репетиторстве.

I am continually surprised that there are not more of these types of prompts being developed, everywhere. At the very least, companies can develop useful prompts that do serious work and capture them in corporate grimoires, prompt libraries that encode the expertise of their best practices into forms that anyone can use. I would expect individuals to similarly come up with their own spellbooks of prompts to automate their work. And I would hope that more academics, government agencies, and open source developers would be creating freely available prompt libraries for everyone. But I haven’t seen that happen yet.

Меня не перестаёт удивлять, что подобных промптов разрабатывается так мало — повсеместно. Как минимум, компании могут создавать полезные промпты, выполняющие серьёзную работу, и собирать их в корпоративные гримуары — библиотеки промптов, которые кодируют экспертизу лучших практик в форме, доступной каждому. Я ожидал бы, что и отдельные люди будут составлять собственные книги заклинаний с промптами для автоматизации своей работы. И я бы хотел, чтобы больше учёных, государственных организаций и разработчиков открытого ПО создавали свободно доступные библиотеки промптов для всех. Но пока я этого не наблюдаю.

So here is a little more guidance.

Так что вот ещё немного рекомендаций.

Building your spellbook

Создаём свою книгу заклинаний

Prompts are basically programs in prose, and do not require any coding experience to write. In fact, to create an expert prompt you just need three things:

Промпты — это, по сути, программы на естественном языке, и для их написания не нужен опыт программирования. Для создания экспертного промпта вам нужны всего три вещи:

Экспертиза. Это может звучать очевидно, но экспертиза означает, что у вас есть глубокие знания в теме, а также достаточная осознанная практика и обучение для развития интуиции. Экспертиза не только помогает создавать и оценивать промпты, но и даёт ключевое преимущество в нашем мире, пронизанном ИИ. При нынешнем состоянии LLM почти наверняка в любой теме, в которой вы настоящий эксперт, вы превзойдёте сегодняшний ИИ — так что умение составлять промпты даёт вам преимущество перед другими.Время работы с моделями ИИ. С ИИ странно работать, и к нему не прилагается инструкция. Единственный способ научиться хорошо использовать ИИ — это использовать ИИ. Моё эмпирическое правило: для начала понимания системы и её особенностей нужно 10 часов работы с ней.Видение того, что промпт должен делать — сфокусированное и достижимое. LLM довольно хорошо берут абстрактные концепции и применяют их. Однако у ИИ также ограниченные контекстные окна (память), и он склонен начинать «растекаться мыслью», если разговор затягивается. Как правило, ожидайте, что ИИ начнёт отклоняться от цели после нескольких обменов репликами, поэтому нужно убедиться, что ваш промпт сфокусирован на вашей цели.

Once you have this figured out, it is time to start building the prompt. There is no substitute for trial-and-error and experience, but a few suggestions to get you started, in this case with the Mentor Prompt we discuss in our paper. Here, the vision is to create an AI that gives feedback on essays to students.

Когда вы с этим разобрались, пора приступать к созданию промпта. Ничто не заменит метод проб и ошибок и опыт, но вот несколько рекомендаций для начала — в данном случае на примере промпта Mentor, который мы обсуждаем в нашей статье. Здесь цель — создать ИИ, который даёт студентам обратную связь по эссе.

With that goal in mind, here are the elements of a good expert prompt:

С учётом этой цели, вот элементы хорошего экспертного промпта:

Role: Tell the AI who it is. Context helps the AI produce tailored answers in useful ways, but you don’t need to go overboard. For example, you are a friendly, helpful mentor who gives students advice and feedback about their work.

Роль: скажите ИИ, кто он. Контекст помогает ИИ давать адаптированные ответы, но не нужно перестараться. Например: вы — дружелюбный, полезный наставник, который даёт студентам советы и обратную связь по их работе.

Goal: Tell the AI what you want it to do. For instance, give students feedback on their [project outline, assignment] that takes the assignment's goal into account and pinpoints specific ways they might improve the work.

Цель: скажите ИИ, что вы хотите, чтобы он сделал. Например: дайте студентам обратную связь по их [плану проекта, заданию], учитывая цель задания, и укажите конкретные способы улучшения работы.

Step-by-step instructions. Research has found that it often works best to give the AI explicit instructions that go step-by-step through what you want. One approach, called Chain of Thought prompting, gives the AI an example of how you want it to reason before you make your request, but you can also give it step-by-step directions the way we do in our prompts. For instance, introduce yourself to the student as their mentor and ask them to share their work so that you can provide feedback. Wait for the student to respond. Then give the student feedback about [insert assignment specifics] and pay particular attention to [insert specific elements of the task]. Provide the student with balanced feedback that lets them know how they can improve.

Пошаговые инструкции. Исследования показали, что часто лучше всего давать ИИ явные инструкции, которые пошагово описывают, что вы хотите. Один подход, называемый Chain of Thought prompting (промптинг цепочкой рассуждений), показывает ИИ пример того, как вы хотите, чтобы он рассуждал, прежде чем вы сделаете запрос, но можно также дать пошаговые указания, как мы делаем в наших промптах. Например: представьтесь студенту как его наставник и попросите поделиться работой, чтобы вы могли дать обратную связь. Дождитесь ответа студента. Затем дайте студенту обратную связь по [вставьте детали задания] и обратите особое внимание на [вставьте конкретные элементы задачи]. Предоставьте студенту сбалансированную обратную связь, показывающую, как он может улучшить работу.

Consider examples. Few-shot prompting, where you give the AI examples of the kinds of output you want to see, has also proven very effective in research. We don’t do that in this prompt, but you can experiment with providing examples of output in your own prompts.

Подумайте о примерах. Few-shot промптинг, при котором вы показываете ИИ примеры желаемого результата, также доказал свою высокую эффективность в исследованиях. Мы не используем его в этом промпте, но вы можете поэкспериментировать с предоставлением примеров результата в собственных промптах.

Add personalization. Ask the user for information to help tailor the prompt for them. For instance, ask about the students’ learning level (high school, college, professional) so you can better tailor your feedback. Wait for a response

Добавьте персонализацию. Попросите пользователя предоставить информацию, которая поможет адаптировать промпт для него. Например: спросите об уровне обучения студента (старшая школа, университет, специалист), чтобы лучше адаптировать обратную связь. Дождитесь ответа.

Add your own constraints. The AI often acts in ways that you may not want. Constraints tell it to avoid behaviors that may come up in your testing.

Добавьте свои ограничения. ИИ часто действует так, как вам может быть нежелательно. Ограничения указывают ему избегать поведения, которое может проявиться при вашем тестировании.

Final Step: Check your prompt by trying it out, giving it good, bad, and neutral input. Take the perspective of your users– is the AI helpful? Does the process work? How might the AI be more helpful? Does it need more context? Does it need further constraints? You can continue to tweak the prompt until it works for you and until you feel it will work for your audience.

Финальный шаг: проверьте свой промпт, испытав его с хорошим, плохим и нейтральным вводом. Встаньте на место ваших пользователей — ИИ полезен? Процесс работает? Как ИИ мог бы быть полезнее? Нужен ли ему дополнительный контекст? Нужны ли дополнительные ограничения? Вы можете продолжать настраивать промпт, пока он не будет работать для вас и пока вы не почувствуете, что он будет работать для вашей аудитории.

Once you get good at this, building a spellbook of multiple prompts is a fast (and often fun) process. Then you have to decide whether you want to keep your grimoires secret, or let the entire world use it.

Когда вы освоите это, создание книги заклинаний из нескольких промптов — быстрый (и часто увлекательный) процесс. Затем вам предстоит решить, хотите ли вы хранить свои гримуары в тайне или позволить всему миру ими пользоваться.

Grimoires, not data

Гримуары, а не данные

We are used to technology being out of our hands, developed by teams of engineers and delivered to us, ready to accomplish the goal set out by the product’s designers. AI does not work that way. In this case, technology precedes use, allowing any of us to decide our own goals for what AI could do. We have a general purpose technology with many possible use cases, almost all of which are completely unanticipated by the AI companies themselves. You can be the world AI expert in whatever narrow field of expertise you want to apply AI, because no one else has yet figured out that use.

Мы привыкли, что технологии находятся вне наших рук — их разрабатывают команды инженеров и доставляют нам в готовом виде для выполнения целей, заданных дизайнерами продукта. С ИИ всё работает иначе. В данном случае технология опережает применение, позволяя каждому из нас самостоятельно определять свои цели для ИИ. У нас есть технология общего назначения с множеством возможных сценариев использования, почти все из которых совершенно непредвиденны самими компаниями-разработчиками ИИ. Вы можете стать мировым экспертом по ИИ в любой узкой области экспертизы, к которой хотите применить ИИ, потому что никто другой ещё не нашёл это применение.

The corporate focus on giving AIs more data before building an infrastructure around using AI misses this point, which is not surprising because the use case of AI is radical: it puts individual workers, not the company, in charge of innovation. Instead, companies should be considering how to build libraries of prompts, grimoires of expert spells that allow practices to be scaled inside the organization. If it turns out more data is needed, it can then be gathered, but I suspect that, in many cases, general models will do very well at many tasks with just a few examples in a prompt.

Корпоративный фокус на том, чтобы дать ИИ больше данных, прежде чем выстраивать инфраструктуру использования ИИ, упускает этот момент, что неудивительно, ведь сценарий применения ИИ радикален: он ставит отдельных сотрудников, а не компанию, во главе инноваций. Вместо этого компаниям следует задуматься о том, как создавать библиотеки промптов — гримуары экспертных заклинаний, позволяющие масштабировать практики внутри организации. Если окажется, что нужно больше данных, их можно будет собрать, но я подозреваю, что во многих случаях модели общего назначения будут отлично справляться с множеством задач, имея лишь несколько примеров в промпте.

What I would really like to see is large-scale public libraries of prompts, written by known experts and tested carefully for different audiences. These prompts would be freely available to anyone who wants to use them, and they could turn LLMs into innovation machines, learning tools, or digital mentors for millions of people. And robust discussions around these prompts could help adjudicate ethical uses, even as the crowd of users could offer reviews and suggestions for improvements. We have seen similar efforts around other technologies, like open source software, and it would make sense to see a grassroots prompting effort here as well.

Что я действительно хотел бы видеть — это масштабные публичные библиотеки промптов, написанные признанными экспертами и тщательно протестированные для разных аудиторий. Эти промпты были бы свободно доступны всем желающим и могли бы превратить LLM в машины инноваций, инструменты обучения или цифровых наставников для миллионов людей. А активные дискуссии вокруг этих промптов помогли бы разрешить вопросы этичного использования, тогда как сообщество пользователей могло бы предлагать отзывы и улучшения. Мы видели подобные усилия вокруг других технологий — например, открытого программного обеспечения — и было бы логично увидеть подобное низовое движение в сфере промптинга.

Perhaps you even have a prompt of an expert you want to share in the comments…

Возможно, у вас даже есть экспертный промпт, которым вы хотите поделиться в комментариях…

Share

Поделиться