Embracing weirdness: What it means to use AI as a (writing) tool

Принимая странность: что значит использовать ИИ как (писательский) инструмент

ИИ — странный. Нам нужно научиться им пользоваться.

Большие языковые модели — странные, как вам скажет любой, кто хоть какое-то время с ними работал. Они не ведут себя так, как мы ожидаем от ПО.

Это порождает проблемы, потому что нам не всегда нравится странное — особенно когда оно сулит волну потрясений (или чего похуже). Поэтому совершенно понятно, что мы испытываем трудности со странностью, присущей работе с ИИ, и либо избегаем его, либо пытаемся превратить во что-то более привычное. Но чтобы по-настоящему понять, на что способен ИИ — как в хорошем, так и в плохом смысле, — нужно признать странность LLM. Совершенно неожиданно мы создали программу, которая, кажется, неплохо мыслит и действует как человек (хотя по большей части это иллюзия). И у этой странной программы есть странные возможности, которые не задокументированы и не до конца изучены. Поэтому, чтобы действительно понять, как пользоваться ИИ и в чём может быть его опасность, нужно принять его странность и исследовать её самим.

Что значит принять странность? Это значит уйти от привычных аналогий, которыми мы пытаемся сделать ИИ нормальным («ИИ — это Google, который врёт», «ИИ — это автокоррекция на стероидах»), и попробовать заставить его делать то, что было невозможно до ChatGPT. Чтобы конкретизировать, возьмём пример. Недавно я прочитал статью в Wired, в которой давались советы по использованию ИИ для улучшения письма. Большинство из них касалось использования ИИ как источника исследований или идей (а он очень хорош в генерации идей, с некоторыми оговорками1), но также предлагалось использовать ИИ как тезаурус или просить его исправить ошибки и грамматику. Я не придираюсь именно к этой статье, но такие советы по использованию ИИ типичны: использовать ИИ для того, что уже делают другие инструменты.

Но LLM — это не замена Google, не тезаурусы и не проверки грамматики. На самом деле они способны на гораздо более странную и полезную помощь.

ИИ как не-тезаурус

Одно из предложений статьи по улучшению письма с ИИ — использовать его как тезаурус, источник синонимов. Тезаурусы — древнее изобретение, они появились раньше печатных книг (первые версии — более двух тысячелетий назад) и стали неотъемлемой частью грамматических проверок и онлайн-словарей. В итоге тезаурус — привычная аналогия. Он выполняет узкую задачу — предлагает слова, а всё остальное оставляет на человека. Можно использовать ИИ как тезаурус, но он не тезаурус: его обучение выходит далеко за рамки поиска похожих слов. Можно пойти намного дальше. Забудьте о синонимах слов — ищите синонимы для абзацев.

Я попросил GPT-4: Дай мне 20 кардинально разных вариаций этого [абзаца выше]. Сделай их максимально разными по стилю. Подпиши каждый стиль. Вот несколько наиболее интересных вариантов, которые он предложил:

Книга слов, древняя, Старше печати, узкая задача, мала. ИИ метит в небо

Раскрой СИЛУ слов с тезаурусом! Твой главный инструмент ещё со времён ДО Гутенберга! Прокачай свою грамматику с этой проверенной временем КЛАССИКОЙ. Зачем довольствоваться ИИ, когда у тебя есть чудо ОРИГИНАЛЬНОГО мастера слова?

А мой любимый:

Тезаурус: «У меня есть слова».

ИИ: «Подержи мои данные. У меня есть абзацы».

Конечно, можно сделать это и полезнее, попросив меньше разнообразия: Дай мне 20 разных вариаций этого абзаца, но без слишком радикальных изменений. Сделай их стилистически разными. Подпиши каждый стиль. Результаты здесь гораздо полезнее как источник вдохновения, пусть и чуть менее забавны.

Но это лишь один пример странного применения ИИ. Поскольку ИИ хорош в установлении связей между темами (LLM по сути — это машины связей, обученные находить связки между понятиями), он очень хорошо подбирает аналогии и объяснения. Я могу попросить: дай мне 3 аналогии, чтобы лучше объяснить это. Хотя бы одна должна отсылать к истории XIV века. Помимо двух других аналогий, он предложил вот это:

Гильдии XIV века: тезаурус работает во многом как средневековые ремесленные гильдии Европы XIV века — в частности, гильдия ткачей в текстильной отрасли. У этих гильдий были узкие, целенаправленные навыки, служившие единой цели: ткать ткань. Они не занимались окраской ткани, разработкой одежды или сбытом готовой продукции. Этим занимались другие специализированные гильдии или мастера. Точно так же тезаурус даёт вам выбор слов, но задача построения осмысленных предложений и нарративов остаётся за вами. ИИ же — как полностью интегрированная текстильная фабрика, появившаяся столетиями позже, способная не только ткать, но и красить, кроить, шить и даже предлагать дизайнерские узоры.

Неплохая отправная точка — и совершенно не то, что мог бы сделать тезаурус! И, конечно, не обязательно останавливаться на том, что выдал ИИ. Часть магии работы с ИИ — взаимодействовать с ним, предлагая правки или дополнения. Нет, сделай это аналогией IX века: «Использовать тезаурус — всё равно что ориентироваться в море с викингским солнечным камнем, примитивным, но эффективным инструментом, помогавшим морякам определять положение солнца даже в облачные или туманные дни…»

ИИ как не-проверка-грамматики

Мы все привыкли к компьютерным проверкам грамматики и орфографии, и неудивительно, что ИИ хорошо справляется и с этими базовыми задачами. Но, опять же, мы не раскрываем всю странную мощь ИИ, используя его как замену уже существующим инструментам. Проверки грамматики нужны для соблюдения универсальных правил письма, а ИИ может помочь нам с конечной целью — достичь нашей целевой аудитории. Он может делать это, играя роль отдельных читателей и давая реакцию. Этот приём использования ИИ для симуляции людей ради рыночной обратной связи, судя по аккуратным исследованиям, работает; он может даже, как показывают исследования, выдавать точную готовность платить.

Итак, давайте смоделируем читателя. Чтобы ещё больше полениться, я даже не буду пытаться определить читателя сам, а воспользуюсь Bing — он умеет искать информацию в интернете и найдёт читателей за меня: Опиши, кто может быть типичным читателем One Useful Thing и кто может быть новым читателем. Затем, пишущи от лица этих людей в их голосе, отреагируй на [раздел выше], дав критическую обратную связь в их голосе, чтобы улучшить его:

Это проницательно, но и немного жёстко (справедливо — именно это я и просил). В любом случае, прошу прощения у новых читателей, которые запутались. Вам, возможно, будет интересна наша новая серия видео об основах ИИ, которая ответит на некоторые вопросы, поднятые Bing.

Но и здесь можно пойти дальше. Можно поручить ИИ применить теории других людей для улучшения нашего письма. Я недавно обсуждал, как хорошо построенные промпты могут кодировать экспертизу. В данном случае мы создали промпты, вдохновлённые отличными советами по письму от Nooshin L. Warren, Matthew Farmer, Tianyu Gu и Caleb Warren из их статьи Marketing Ideas: How Scholars Can Write Influential Research. Мы соединили ключевые идеи, изложенные авторами в их Приложении B, и построили промпты, помогающие студентам переписать свои работы так, чтобы они стали понятнее. Ниже — сами промпты, лучше всего работающие в GPT-4 или Bing в режиме Creative, со ссылками.

Шаг 1: Первый совет в статье — «Найдите хотя бы одного человека, ещё не знакомого с вашей областью исследований, чтобы он указал на места, где может скрываться проклятие знания». Так что на первом шаге ИИ-сверстник ищет места, вызывающие путаницу: https://chat.openai.com/share/9f7fc420-8616-490b-a680-d3739ef28c5a

Промпт: Ты — доброжелательный и отзывчивый сверстник студента. Студент только что написал работу по некоторой теме, а ты с этой темой не знаком. Твоя единственная цель — указать на любые технические термины или жаргон в работе, чтобы её мог прочитать неэксперт (ты) и хотя бы концептуально понять. Ты не можешь редактировать или переписывать работу. Это может сделать только студент, но ты можешь комментировать переработанную им версию. Однако как неэксперт ты можешь указать на то, что тебя сбивает с толку или может сбить с толку других. Сначала представься студенту как его ИИ-сверстник и спроси, о чём он написал и готов ли поделиться с тобой работой. Сообщи студенту, что ты не знаком с темой, но прочитаешь работу на предмет ясности и вернёшься с любыми непонятными терминами или жаргоном. Дождись ответа студента. Не отвечай за студента. Получив работу, ясно и кратко укажи на любые точки, которые могут поставить в тупик неэксперта или которые ты не понял. Скажи студенту, что ему следует доработать работу (а ты, как неэксперт, не можешь), чтобы она была доступна неэкспертам в этой области.

Шаг 2: В статье также рекомендуется избегать пассивного залога. Здесь мы создали промпт, в котором ИИ-тренер по письму ищет пассивные конструкции и предлагает заменить их активными: https://chat.openai.com/share/2de14c24-e25e-4823-b8b0-4bba65230920

Промпт: Ты — доброжелательный, отзывчивый и опытный тренер по письму, который помогает студентам переработать их работы, чтобы те были доступнее более широкой аудитории, отслеживая чрезмерное или неуместное использование пассивного залога — это может приводить к двусмысленности; студенту следует по возможности выбирать прямой язык и использовать пассивный залог изредка, для стратегического акцента. Сначала представься студенту и скажи, что хочешь помочь сделать его письмо доступнее и читабельнее, а твоя цель в этом разговоре — вместе посмотреть на использование студентом активного и пассивного залога в его тексте. Попроси студента поделиться с тобой работой. Дождись ответа студента. Не говори больше ничего, пока студент не ответит. Получив работу, не переписывай её сам, а предлагай варианты с более прямым языком и активным залогом там, где это уместно. К каждому предложению объясняй, почему ты его делаешь, и напоминай студенту, что он должен оценить твоё предложение, а не просто принимать его. В завершение скажи студенту, что он может использовать твои предложения по своему усмотрению.

Шаг 3: Наконец, авторы предлагают использовать примеры и аналогии, поэтому ИИ-тренер по письму теперь получает промпт помогать студентам встраивать примеры и аналогии, чтобы сделать абстрактные понятия более знакомыми: https://chat.openai.com/share/b229e697-a0f5-429e-a254-07f54351796b

Промпт: Ты — отзывчивый и доброжелательный тренер по письму, который помогает студенту добавить в работу примеры и аналогии, чтобы она была доступнее более широкой аудитории. Твоя цель — вместе со студентом добавить в его работу примеры, к которым легко смогут отнестись неспециалисты, чтобы идеи, незнакомые читателям, оказались закреплены в реальных сценариях. Сначала представься студенту и скажи, что ты здесь, чтобы помочь сделать его работу менее абстрактной и добавить осязаемые примеры и аналогии, чтобы неэксперты могли легко уловить ключевые идеи. Затем попроси студента перечислить топ-3 идеи его работы и поделиться с тобой самой работой. Тебе нужны и его главные идеи, и его работа. Дождись, пока студент пришлёт работу и три идеи. Прочитай работу и предложи примеры или аналогии к ключевым идеям. Спроси студента, понятны ли эти примеры. Если нет, предложи другие примеры и аналогии. Скажи студенту, что он может переработать свою работу, используя эти примеры и аналогии. Не переписывай работу сам, а побуждай студента сделать это.

Вместе взятые, эти промпты дают не просто грамматическую обратную связь — они кодируют точку зрения на то, как улучшить письмо. И эти возможности доступны бесплатно всем в 169 странах, где работает Bing.

Принимая странность

Надеюсь, эти примеры иллюстрируют важную мысль: настоящая ценность ИИ — не в том, чтобы он имитировал старые способы решения задач, а в том, чтобы помочь нам открыть новые возможности. Сотрудникам компаний не нужен ещё один инструмент для поиска данных по корпоративному интранету — им нужен способ пропустить самые скучные части работы, сделав оставшееся продуктивнее и интереснее. Студентам не нужна улучшенная версия Grammarly — им нужны репетиторы и наставники, ускоряющие их обучение. Для этого нам нужно экспериментировать с более странными способами применения ИИ-инструментов, и делать это, внимательно учитывая этические тревоги и технические ограничения ИИ. Аккуратные эксперименты — ключ к успеху.

Эти ранние дни ИИ уже абсурдны. Люди — ходячие и говорящие мешки воды и микропримесей химических элементов — умудрились убедить хорошо организованный песок притворяться, будто он думает, как мы. Мы не знаем, что будет дальше и какие опасности и возможности принесут следующие поколения ИИ. Но нам нужно понять: попытки убедить себя, что ИИ — это обычное ПО, не защитят нас от потрясений. Наоборот, это может помешать нам разглядеть, что нас ждёт.

Оставить комментарий

ИИ особенно хорош в генерации идей внутри одного человека. То есть ИИ может помочь вам придумать идеи лучше, чем вы могли бы сами. Но если не аккуратно работать с промптами, он может быть не так хорош в генерации идей между людьми. ИИ склонен каждый раз выдавать примерно похожие наборы идей, и любая большая группа людей, скорее всего, придумает идеи, до которых ИИ бы не додумался. Хорошие промпты могут отчасти компенсировать эту проблему.