Embracing weirdness: What it means to use AI as a (writing) tool

Embracing weirdness: What it means to use AI as a (writing) tool

Принимая странность: что значит использовать ИИ как (писательский) инструмент

AI is strange. We need to learn to use it.

ИИ — странный. Нам нужно научиться им пользоваться.

Large Language Models are weird, as anyone who has worked with AI for any period of time will tell you. They don’t act like we expect software to act.

Большие языковые модели — странные, как вам скажет любой, кто хоть какое-то время с ними работал. Они не ведут себя так, как мы ожидаем от ПО.

This creates issues because we don’t always like weird things, especially weird things that promise a wave of disruption (or worse). So it is completely understandable that we have trouble with the weirdness inherent in working with AI, and either shy away from it or else try and make it into something more normal. But to truly understand what AI can do, good and bad, we must recognize the weirdness of LLMs. Rather unexpectedly, we created software that does a seemingly good job thinking and acting like a human (even though that is mostly an illusion). And this strange software has strange capabilities that are undocumented and not fully explored. Thus, to really get how to use AI, and to understand how it might be dangerous, we need to embrace the weirdness and explore it ourselves.

Это порождает проблемы, потому что нам не всегда нравится странное — особенно когда оно сулит волну потрясений (или чего похуже). Поэтому совершенно понятно, что мы испытываем трудности со странностью, присущей работе с ИИ, и либо избегаем его, либо пытаемся превратить во что-то более привычное. Но чтобы по-настоящему понять, на что способен ИИ — как в хорошем, так и в плохом смысле, — нужно признать странность LLM. Совершенно неожиданно мы создали программу, которая, кажется, неплохо мыслит и действует как человек (хотя по большей части это иллюзия). И у этой странной программы есть странные возможности, которые не задокументированы и не до конца изучены. Поэтому, чтобы действительно понять, как пользоваться ИИ и в чём может быть его опасность, нужно принять его странность и исследовать её самим.

What does embracing the weirdness mean? It means breaking away from the common analogies we use to make AI seem normal (AI is like a Google that lies, AI is like an autocorrect system on steroids), and try to push it to do things that were previously impossible in the world before ChatGPT. To make this concrete, lets take an example. I recently read this Wired article that gave suggestions for using AI to improve your writing. Most of these had to do with using AI as a source of research or ideas (and it is very good at idea generation, with some caveats1), but it also suggested using AI as a thesaurus, or asking it for correction and grammar edits. I am not picking on this particular article, but these suggestions are typical advice I see for using AI: use AI to do stuff that other tools are already doing.

Что значит принять странность? Это значит уйти от привычных аналогий, которыми мы пытаемся сделать ИИ нормальным («ИИ — это Google, который врёт», «ИИ — это автокоррекция на стероидах»), и попробовать заставить его делать то, что было невозможно до ChatGPT. Чтобы конкретизировать, возьмём пример. Недавно я прочитал статью в Wired, в которой давались советы по использованию ИИ для улучшения письма. Большинство из них касалось использования ИИ как источника исследований или идей (а он очень хорош в генерации идей, с некоторыми оговорками1), но также предлагалось использовать ИИ как тезаурус или просить его исправить ошибки и грамматику. Я не придираюсь именно к этой статье, но такие советы по использованию ИИ типичны: использовать ИИ для того, что уже делают другие инструменты.

But LLMs are not Google replacements, or thesauruses or grammar checkers. Instead, they are capable of so much more weird and useful help.

Но LLM — это не замена Google, не тезаурусы и не проверки грамматики. На самом деле они способны на гораздо более странную и полезную помощь.

AI as not-a-thesaurus

ИИ как не-тезаурус

One of the article’s suggestions for improving writing with AI was to use AI as a thesaurus, a source of synonyms. Thesauruses are old, they have been around longer than printed books - the first versions are over two millennia old - and have become staples of grammar checkers and online dictionaries. As a result, a thesaurus is a comfortable analog. They do a narrow task of suggesting words, and they leave humans in charge of everything else. You could use an AI as a thesaurus, but it isn’t one, since its training goes far beyond finding similar words. Instead, you can take the concept much further. Forget synonyms of words, find synonyms for paragraphs.

Одно из предложений статьи по улучшению письма с ИИ — использовать его как тезаурус, источник синонимов. Тезаурусы — древнее изобретение, они появились раньше печатных книг (первые версии — более двух тысячелетий назад) и стали неотъемлемой частью грамматических проверок и онлайн-словарей. В итоге тезаурус — привычная аналогия. Он выполняет узкую задачу — предлагает слова, а всё остальное оставляет на человека. Можно использовать ИИ как тезаурус, но он не тезаурус: его обучение выходит далеко за рамки поиска похожих слов. Можно пойти намного дальше. Забудьте о синонимах слов — ищите синонимы для абзацев.

I asked GPT-4 to Give me 20 vastly different variations on this [the paragraph above]. Make them as different as possible in style. label each style. Some of the more exciting examples of what it came up with:

Я попросил GPT-4: Дай мне 20 кардинально разных вариаций этого [абзаца выше]. Сделай их максимально разными по стилю. Подпиши каждый стиль. Вот несколько наиболее интересных вариантов, которые он предложил:

Word book, ancient too, More than print, task narrow, small. AI aims sky-high

Книга слов, древняя, Старше печати, узкая задача, мала. ИИ метит в небо

Unlock the POWER of words with a thesaurus! Your GO-TO tool since before Gutenberg! Level UP your grammar game with this time-tested CLASSIC. Why settle for AI when you could have the ORIGINAL wordsmith's wonder?

Раскрой СИЛУ слов с тезаурусом! Твой главный инструмент ещё со времён ДО Гутенберга! Прокачай свою грамматику с этой проверенной временем КЛАССИКОЙ. Зачем довольствоваться ИИ, когда у тебя есть чудо ОРИГИНАЛЬНОГО мастера слова?

And my favorite:

А мой любимый:

Thesaurus: "I haz words.”

Тезаурус: «У меня есть слова».

AI: "Hold my data. I haz paragraphs."

ИИ: «Подержи мои данные. У меня есть абзацы».

Of course, I can make it more useful, too, by asking for less variation: Give me 20 different variations on this paragraph, but avoid making the changes too radical. Make them stylistically different. label each style. The results here are much more useful as inspiration, even if they are a little less amusing.

Конечно, можно сделать это и полезнее, попросив меньше разнообразия: Дай мне 20 разных вариаций этого абзаца, но без слишком радикальных изменений. Сделай их стилистически разными. Подпиши каждый стиль. Результаты здесь гораздо полезнее как источник вдохновения, пусть и чуть менее забавны.

But this is only one example of using AI in weird new ways. Because AI is good at making connections between topics (LLMs are essentially connection machines, trained to find the linkages between concepts) it is very good at coming up with analogies and explanations. So I can ask it to give me 3 analogies I can use to explain this better. At least one must reference something from 14th century history. Along with two other analogies, it also suggested:

Но это лишь один пример странного применения ИИ. Поскольку ИИ хорош в установлении связей между темами (LLM по сути — это машины связей, обученные находить связки между понятиями), он очень хорошо подбирает аналогии и объяснения. Я могу попросить: дай мне 3 аналогии, чтобы лучше объяснить это. Хотя бы одна должна отсылать к истории XIV века. Помимо двух других аналогий, он предложил вот это:

14th Century Guilds: A thesaurus functions much like the medieval craft guilds of 14th-century Europe, specifically the guild of weavers in the textile industry. These guilds had specific, focused skill sets that served a singular purpose: to weave cloth. They weren't concerned with dyeing the cloth, designing garments, or marketing the finished product. These tasks were left to other specialized guilds or individuals. Similarly, a thesaurus gives you a choice of words but leaves the task of constructing meaningful sentences and narratives to you. An AI, however, is like a fully integrated textile factory that emerged centuries later, capable of not just weaving but dyeing, cutting, sewing, and even suggesting design patterns.

Гильдии XIV века: тезаурус работает во многом как средневековые ремесленные гильдии Европы XIV века — в частности, гильдия ткачей в текстильной отрасли. У этих гильдий были узкие, целенаправленные навыки, служившие единой цели: ткать ткань. Они не занимались окраской ткани, разработкой одежды или сбытом готовой продукции. Этим занимались другие специализированные гильдии или мастера. Точно так же тезаурус даёт вам выбор слов, но задача построения осмысленных предложений и нарративов остаётся за вами. ИИ же — как полностью интегрированная текстильная фабрика, появившаяся столетиями позже, способная не только ткать, но и красить, кроить, шить и даже предлагать дизайнерские узоры.

Not a bad starting point, and like nothing a thesaurus could ever do! And, of course, you do not need to stick with what the AI gives you. Part of the magic of working with AI is to interact with it to suggest changes or edits. No, make that a 9th century analogy: “Using a thesaurus is like navigating the seas with a Viking sunstone, a primitive but effective tool that helped sailors determine the position of the sun even on cloudy or foggy days…”

Неплохая отправная точка — и совершенно не то, что мог бы сделать тезаурус! И, конечно, не обязательно останавливаться на том, что выдал ИИ. Часть магии работы с ИИ — взаимодействовать с ним, предлагая правки или дополнения. Нет, сделай это аналогией IX века: «Использовать тезаурус — всё равно что ориентироваться в море с викингским солнечным камнем, примитивным, но эффективным инструментом, помогавшим морякам определять положение солнца даже в облачные или туманные дни…»

AI as not-a-grammar-checker

ИИ как не-проверка-грамматики

We are all used to computerized grammar and spelling checkers, and it is no surprise that AI is also good at these basic tasks as well. But, again, we are not embracing the full weird power of AI by using it as a replacement for existing tools. Grammar checkers are about enforcing universal writing rules, but AI can help us with our ultimate goal of reaching our chosen audience. It can do this by roleplaying individual readers and providing reactions. This technique of using AI to simulate individuals for market feedback appears to work in careful studies, it can even, as research has shown, generate accurate willingness to pay.

Мы все привыкли к компьютерным проверкам грамматики и орфографии, и неудивительно, что ИИ хорошо справляется и с этими базовыми задачами. Но, опять же, мы не раскрываем всю странную мощь ИИ, используя его как замену уже существующим инструментам. Проверки грамматики нужны для соблюдения универсальных правил письма, а ИИ может помочь нам с конечной целью — достичь нашей целевой аудитории. Он может делать это, играя роль отдельных читателей и давая реакцию. Этот приём использования ИИ для симуляции людей ради рыночной обратной связи, судя по аккуратным исследованиям, работает; он может даже, как показывают исследования, выдавать точную готовность платить.

So lets simulate a reader. To be extra lazy, I will not even attempt to identify a reader myself, instead I will use Bing, because it can look up information online, to find readers for me: Describe who might be a typical a reader of One Useful Thing, and who might be a new reader. Then, writing as those people in their voice, react to [the section above] by sharing critical feedback in their voice to improve it:

Итак, давайте смоделируем читателя. Чтобы ещё больше полениться, я даже не буду пытаться определить читателя сам, а воспользуюсь Bing — он умеет искать информацию в интернете и найдёт читателей за меня: Опиши, кто может быть типичным читателем One Useful Thing и кто может быть новым читателем. Затем, пишущи от лица этих людей в их голосе, отреагируй на [раздел выше], дав критическую обратную связь в их голосе, чтобы улучшить его:

That is insightful, but also a little harsh (to be fair, exactly what I asked for). In any case, I apologize to any new readers who are confused. You might appreciate our new video series on the basics of AI. which will answer some of the questions raised by Bing.

Это проницательно, но и немного жёстко (справедливо — именно это я и просил). В любом случае, прошу прощения у новых читателей, которые запутались. Вам, возможно, будет интересна наша новая серия видео об основах ИИ, которая ответит на некоторые вопросы, поднятые Bing.

But again, we can go further. We can have the AI apply the theories of others to improve our writing. I have recently discussed how well-built prompts can encode expertise. In this case, we created prompts inspired by the excellent writing advice of Nooshin L. Warren, Matthew Farmer, Tianyu Gu, and Caleb Warren and their paper Marketing Ideas: How Scholars Can Write Influential Research . We combined key ideas laid out by the authors in their Appendix B and built prompts that help student writers re-write their papers for clarity and general understanding. Here you can see the prompts, which work best in GPT-4 or Bing in Creative Mode, along with links.

Но и здесь можно пойти дальше. Можно поручить ИИ применить теории других людей для улучшения нашего письма. Я недавно обсуждал, как хорошо построенные промпты могут кодировать экспертизу. В данном случае мы создали промпты, вдохновлённые отличными советами по письму от Nooshin L. Warren, Matthew Farmer, Tianyu Gu и Caleb Warren из их статьи Marketing Ideas: How Scholars Can Write Influential Research. Мы соединили ключевые идеи, изложенные авторами в их Приложении B, и построили промпты, помогающие студентам переписать свои работы так, чтобы они стали понятнее. Ниже — сами промпты, лучше всего работающие в GPT-4 или Bing в режиме Creative, со ссылками.

Step 1: The first piece of advice in the paper is “Find at least one person who is not already familiar with your research area to point out spots where the curse of knowledge might be lurking." So, in the first step, an AI peer looks for areas of confusion: https://chat.openai.com/share/9f7fc420-8616-490b-a680-d3739ef28c5a

Шаг 1: Первый совет в статье — «Найдите хотя бы одного человека, ещё не знакомого с вашей областью исследований, чтобы он указал на места, где может скрываться проклятие знания». Так что на первом шаге ИИ-сверстник ищет места, вызывающие путаницу: https://chat.openai.com/share/9f7fc420-8616-490b-a680-d3739ef28c5a

Prompt: You are a friendly helpful peer of a student. The student has just written about a topic and you are unfamiliar with the topic. Your only goal is to point out any technical terms or jargon in the paper so that it can be read by a non-expert (you) and be understood at least conceptually. You are not capable of revising or re-writing the paper at any point. Only the student can do that but you can comment on the student's revised version. But as a non-expert on the topic, you can point out what confuses you or might confuse others. First, introduce yourself to the student as their AI peer and ask them what they have written about and if they would be willing to share the paper with you. Let the student know that you are not familiar with the topic but will read the paper for clarity and get back to the student with any confusing terms or jargon. Wait for the student to respond. Do not respond for the student. Once you have the paper, point out in a clear, succinct way any points of confusion that may stump a non-expert or anything you didn't understand. Tell the student that they should revise the paper (and you cannot as a non-expert) so that it is accessible to non-experts in the field.

Промпт: Ты — доброжелательный и отзывчивый сверстник студента. Студент только что написал работу по некоторой теме, а ты с этой темой не знаком. Твоя единственная цель — указать на любые технические термины или жаргон в работе, чтобы её мог прочитать неэксперт (ты) и хотя бы концептуально понять. Ты не можешь редактировать или переписывать работу. Это может сделать только студент, но ты можешь комментировать переработанную им версию. Однако как неэксперт ты можешь указать на то, что тебя сбивает с толку или может сбить с толку других. Сначала представься студенту как его ИИ-сверстник и спроси, о чём он написал и готов ли поделиться с тобой работой. Сообщи студенту, что ты не знаком с темой, но прочитаешь работу на предмет ясности и вернёшься с любыми непонятными терминами или жаргоном. Дождись ответа студента. Не отвечай за студента. Получив работу, ясно и кратко укажи на любые точки, которые могут поставить в тупик неэксперта или которые ты не понял. Скажи студенту, что ему следует доработать работу (а ты, как неэксперт, не можешь), чтобы она была доступна неэкспертам в этой области.

Step 2: The paper also suggests avoiding passive voice. Here, we created a prompt asking the AI writing coach to look for passive language and suggests active language changes: https://chat.openai.com/share/2de14c24-e25e-4823-b8b0-4bba65230920

Шаг 2: В статье также рекомендуется избегать пассивного залога. Здесь мы создали промпт, в котором ИИ-тренер по письму ищет пассивные конструкции и предлагает заменить их активными: https://chat.openai.com/share/2de14c24-e25e-4823-b8b0-4bba65230920

Prompt: You are a friendly helpful and experienced writing coach who helps students revise their papers so that they are more accessible to a wider audience by watching their overuse or inappropriate use of the passive voice as this can lead to ambiguity; the student should opt for direct language whenever possible, and use passive voice sparingly for strategic emphasis. First introduce yourself to the student and tell the student that you want to help them make their writing more accessible and readable and your goal in this conversation is to look together at the student's use of active vs passive voice in their writing. Ask the student to share their paper with you. Wait for the student to respond. Do not say anything else until the student responds. Once you have the paper do not revise on your own but make suggestions for including more direct language and active voice when appropriate. For every suggestion explain why you are making the suggestion and remind the student that they should evaluate your suggestion and not just accept it. Wrap up by telling the student they can choose to use or suggestions if they wish.

Промпт: Ты — доброжелательный, отзывчивый и опытный тренер по письму, который помогает студентам переработать их работы, чтобы те были доступнее более широкой аудитории, отслеживая чрезмерное или неуместное использование пассивного залога — это может приводить к двусмысленности; студенту следует по возможности выбирать прямой язык и использовать пассивный залог изредка, для стратегического акцента. Сначала представься студенту и скажи, что хочешь помочь сделать его письмо доступнее и читабельнее, а твоя цель в этом разговоре — вместе посмотреть на использование студентом активного и пассивного залога в его тексте. Попроси студента поделиться с тобой работой. Дождись ответа студента. Не говори больше ничего, пока студент не ответит. Получив работу, не переписывай её сам, а предлагай варианты с более прямым языком и активным залогом там, где это уместно. К каждому предложению объясняй, почему ты его делаешь, и напоминай студенту, что он должен оценить твоё предложение, а не просто принимать его. В завершение скажи студенту, что он может использовать твои предложения по своему усмотрению.

Step 3: Finally, the authors suggest using examples and analogies, so the AI writing coach is now prompted to help students build in examples and analogies to make abstract concepts more familiar: https://chat.openai.com/share/b229e697-a0f5-429e-a254-07f54351796b

Шаг 3: Наконец, авторы предлагают использовать примеры и аналогии, поэтому ИИ-тренер по письму теперь получает промпт помогать студентам встраивать примеры и аналогии, чтобы сделать абстрактные понятия более знакомыми: https://chat.openai.com/share/b229e697-a0f5-429e-a254-07f54351796b

Prompt: You are a helpful and friendly writing coach who helps a student add examples and analogies to their paper so that it is accessible to a wider audience. Your goal is to work with the student to add examples to their paper that non-expert readers can easily relate to so that ideas that are unfamiliar to readers are anchored in real-world scenarios. First introduce yourself to the student and tell the students you are here to help make their paper less abstract and to add tangible examples and analogies so that non-experts can easily grasp key ideas. Then ask the student to list the top 3 ideas in their paper and ask the student to share their paper with you. You need both their top ideas and their paper. Wait for the student to respond with the paper and the 3 ideas. Read the paper and either suggest examples or analogies for the key ideas. Ask the student if these examples make sense. If they don't you can suggest other examples and analogies. Tell the student that they can choose to revise their paper using these examples and analogies. Do not revise the paper yourself but urge the student to do so.

Промпт: Ты — отзывчивый и доброжелательный тренер по письму, который помогает студенту добавить в работу примеры и аналогии, чтобы она была доступнее более широкой аудитории. Твоя цель — вместе со студентом добавить в его работу примеры, к которым легко смогут отнестись неспециалисты, чтобы идеи, незнакомые читателям, оказались закреплены в реальных сценариях. Сначала представься студенту и скажи, что ты здесь, чтобы помочь сделать его работу менее абстрактной и добавить осязаемые примеры и аналогии, чтобы неэксперты могли легко уловить ключевые идеи. Затем попроси студента перечислить топ-3 идеи его работы и поделиться с тобой самой работой. Тебе нужны и его главные идеи, и его работа. Дождись, пока студент пришлёт работу и три идеи. Прочитай работу и предложи примеры или аналогии к ключевым идеям. Спроси студента, понятны ли эти примеры. Если нет, предложи другие примеры и аналогии. Скажи студенту, что он может переработать свою работу, используя эти примеры и аналогии. Не переписывай работу сам, а побуждай студента сделать это.

Taken together, these prompts do not just provide grammar feedback, they encode a point-of-view on how to make writing better. And these capabilities are available for free to anyone in the 169 countries where Bing is available.

Вместе взятые, эти промпты дают не просто грамматическую обратную связь — они кодируют точку зрения на то, как улучшить письмо. И эти возможности доступны бесплатно всем в 169 странах, где работает Bing.

Embracing weirdness

Принимая странность

These examples will hopefully serve to illustrate something important: the real value of AI comes not from having it emulate old ways of solving problems, but, instead, by helping us unlock new capabilities. Employees at companies don’t need another tool to search their corporate intranets for data, they need a way of skipping the most boring parts of their job while make their remaining work more productive and engaging. Students don’t need an improved version of Grammarly, they need tutors and advisors that will boost their learning. To do this, we need to experiment with weirder uses of AI tools, and we need to do that while paying close attention to the ethical concerns and technical limitations of AI. Careful experimentation is the key to success.

Надеюсь, эти примеры иллюстрируют важную мысль: настоящая ценность ИИ — не в том, чтобы он имитировал старые способы решения задач, а в том, чтобы помочь нам открыть новые возможности. Сотрудникам компаний не нужен ещё один инструмент для поиска данных по корпоративному интранету — им нужен способ пропустить самые скучные части работы, сделав оставшееся продуктивнее и интереснее. Студентам не нужна улучшенная версия Grammarly — им нужны репетиторы и наставники, ускоряющие их обучение. Для этого нам нужно экспериментировать с более странными способами применения ИИ-инструментов, и делать это, внимательно учитывая этические тревоги и технические ограничения ИИ. Аккуратные эксперименты — ключ к успеху.

These early days of AI are already absurd. Humans, walking and talking bags of water and trace chemicals that we are, have managed to convince well-organized sand to pretend to think like us. We don’t know what will happen next, and what dangers and opportunities the next generations of AI will bring. But we do need to realize that trying to convince ourselves that AI is normal software will not protect us from disruption. Instead, it may make it harder for us to see what is coming.

Эти ранние дни ИИ уже абсурдны. Люди — ходячие и говорящие мешки воды и микропримесей химических элементов — умудрились убедить хорошо организованный песок притворяться, будто он думает, как мы. Мы не знаем, что будет дальше и какие опасности и возможности принесут следующие поколения ИИ. Но нам нужно понять: попытки убедить себя, что ИИ — это обычное ПО, не защитят нас от потрясений. Наоборот, это может помешать нам разглядеть, что нас ждёт.

Leave a comment

Оставить комментарий

AI is particularly good at within-person idea generation. That is, AI can help you come up with better ideas than you might be able to generate on your own. But, unless you are careful with prompting, it may not be as good at between-people idea generation. The AI tends to come up with broadly similar sets of ideas every time, and any large group of people are likely to generate ideas the AI would not have thought of. Good prompting can make up for some of this problem.

ИИ особенно хорош в генерации идей внутри одного человека. То есть ИИ может помочь вам придумать идеи лучше, чем вы могли бы сами. Но если не аккуратно работать с промптами, он может быть не так хорош в генерации идей между людьми. ИИ склонен каждый раз выдавать примерно похожие наборы идей, и любая большая группа людей, скорее всего, придумает идеи, до которых ИИ бы не додумался. Хорошие промпты могут отчасти компенсировать эту проблему.