Choosing to Stay Human
Этан Моллик рассуждает о том, как бездумное использование ИИ подрывает человеческие навыки — от письма до критического мышления. Он ссылается на эксперимент в турецкой школе, где ученики с ChatGPT хуже сдали тесты, несмотря на лучшее выполнение домашних заданий, и на пятимесячный курс Python в Тайбэе, где персонализированный ИИ-тьютор повысил результаты на 0,15 стандартного отклонения. Исследование с 758 консультантами BCG показало: ИИ резко повышает продуктивность, но на задачах, где модель ошибается, люди с ИИ справлялись хуже тех, кто работал без него. Моллик вводит понятие «когнитивной капитуляции» — склонности перестать думать и полагаться на ответ ИИ, даже когда он неверен. Главный вывод: важно осознанно выбирать, какие задачи делегировать ИИ, а какие оставить себе, пока формируются привычки целого поколения работников и студентов.
Выбор оставаться человеком
...означает выбирать, когда и как использовать ИИ.
Если зайти на любимую площадку в соцсетях, вы обнаружите её полной постов, которые начинают подозрительно походить друг на друга:
Многие комментарии к этим постам тоже сгенерированы ИИ. Как и растущее число научных статей и колонок мнений в New York Times, а также, судя по всему, рассказов-призёров литературных конкурсов. Если вы много пользуетесь ИИ, то наверняка замечаете, сколько вокруг ИИ-текстов (активные пользователи ИИ исторически неплохо распознают написанное ИИ); если нет — поверьте, их гораздо больше, чем вам кажется.
Дело не только в однообразии ИИ-текстов, хотя со временем оно становится настолько утомительным, что я начинаю пропускать тексты даже на интересные темы, если мой внутренний «детектор ИИ» срабатывает. Проблема ещё и в том, что плохо сформулированные промпты порождают тексты с ничтожной плотностью смысла на слово — они водят вас по интеллектуальным кругам. Мы привыкли воспринимать качественно построенные фразы и наукообразные тексты как результат серьёзной человеческой работы и потому обращаем на эти ИИ-комментарии внимание. Но за ними зачастую нет никакого человеческого смысла — это всего лишь имитации смысла, вампиры внимания, на расшифровку которых уходят ментальные усилия, не дающие взамен никакого понимания1.
Но использование ИИ для письма чревато не только тем, что отпугивает читателей, — оно рискует подорвать развитие важного человеческого навыка. Мне повезло писать на протяжении десятилетий, и я выработал собственный стиль, который, мне кажется, проявляется и в книге, и в твите, и в блог-посте. Этот стиль потребовал кучи изнурительной работы: хорошие учителя, бесконечные правки и злые комментарии в интернете — всё это внесло свой вклад. Если ИИ будет писать за меня, я мог бы пропустить всё это, но ценой отказа от чего-то, что оказалось очень важным для моей карьеры и моего счастья.
Это не осуждение использования ИИ в помощь при письме как таковом. Я считаю, что для хороших авторов ИИ может быть фантастическим инструментом (я прогоняю все свои тексты через ИИ и прошу его отыграть разных читателей, чтобы понять, не упустил ли я что-то важное). Тем, кому трудно выражать мысли, ИИ помогает донести свои идеи, и письмо — это не для всех тождественно мышлению. К тому же немного усилий позволяют сделать ИИ-текст менее шаблонным, более личным и более полезным (в умеренных дозах). Так что это скорее осуждение использования ИИ по умолчанию или, что ещё хуже, вовсе без раздумий. Баланс между использованием ИИ и нашими собственными умственными способностями станет определяющим вызовом ближайших лет.
Тонкие различия, большие расхождения в результатах
Нагляднее всего это видно в образовании, где две статьи с пересекающимся составом авторов (в том числе коллег из Wharton) хорошо иллюстрируют разницу между ИИ как обходным путём мышления и ИИ как помощником в мышлении. Первая статья описывает эксперимент в турецкой средней школе с примерно тысячей учеников, изучавших математику. Одна группа пользовалась обычным ChatGPT, другая не имела доступа к ИИ. Ученики с ChatGPT лучше делали домашние задания и считали, что учатся эффективнее, но на контрольной они показали результаты хуже одноклассников без ChatGPT. Причина в том, что ИИ, созданный как полезный ассистент, просто давал им ответы, а настоящее обучение требует умственных усилий. Сокращая усилия, вы сокращаете обучение. Именно поэтому первые результаты применения ИИ в обучении могут вызывать такую тревогу.
Однако мы видим другой результат во второй статье во многом тех же авторов: пятимесячный курс Python в десяти школах Тайбэя с участием около тысячи учеников. Ученики, получавшие от ИИ-тьютора персонализированную последовательность задач, показали на итоговом экзамене (без ИИ) результат на 0,15 стандартного отклонения выше. По некоторым оценкам, это эквивалентно шести — девяти месяцам дополнительного обучения без увеличения учебного времени или нагрузки на учителей. Вместо этого ИИ помогал адаптировать обучение под конкретного ученика. Это согласуется с другими исследованиями ИИ-репетиторства: персонализированные тьюторы могут значительно повысить качество обучения при правильном использовании.
Разница в способе использования ИИ относительно невелика, но она приводит к совершенно разным результатам. Хуже того, человеческая природа подталкивает нас к неверному выбору. Обучение требует столкновения с собственным незнанием и тяжёлой интеллектуальной работы, а это по-настоящему некомфортно. Именно поэтому студенты оценивают увлекательные лекции как более обучающие, чем решение сложных задач на занятиях, хотя на самом деле учатся больше именно благодаря трудной работе. Чтобы извлечь пользу из ИИ в обучении, нужно перейти от использования ИИ для решения задач к тому, чтобы ИИ подталкивал вас решать задачи самостоятельно.
К счастью, три крупнейших ИИ-компании предлагают инструменты, хотя бы отчасти поддерживающие обучение, заставляя ИИ вести себя скорее как репетитор. К сожалению, добраться до них неинтуитивно. Проще всего в Gemini: нажмите «плюс» и выберите Guided Learning. В ChatGPT нужно ввести «/learn» в поле чата. В Claude нужно нажать «плюс», выбрать «use style» и затем «learning» (Anthropic анонсировала изменение этого подхода, но пока не задокументировала его). Во всех случаях по возможности используйте модель с режимом рассуждений или продвинутую модель, особенно для точных наук. И эти режимы помогут лишь тому, кто действительно хочет учиться, — они не помешают списывать, если вы этого хотите.
Слишком гладко
ИИ не обязательно подрывает способность думать, но может это делать при бездумном использовании, а бездумное использование часто оказывается режимом по умолчанию. Мои коллеги из Wharton называют это «когнитивной капитуляцией» и задокументировали, как люди переставали думать над проблемами и просто позволяли ИИ делать работу, даже когда ИИ ошибался. Я думаю, отчасти проблема в самом дизайне этих инструментов.
Когда ИИ-системы требовали сложного многоходового диалога и часто ошибались, человеку приходилось быть вовлечённым на каждом шаге. Агентные системы спроектированы так, чтобы облегчить жизнь — они просто делают дела. Это прекрасно для продуктивности, но плохо для обучения, аутентичности и противодействия когнитивной капитуляции. Если вы задаёте сложный вопрос и получаете ответ, велик соблазн просто принять ответ ИИ.
В нашей недавно опубликованной статье с Fabrizio Dell'Acqua и коллегами из Harvard, MIT, University of Warwick, BCG и других организаций (я писал о ней три года назад, но публикация научных работ — дело долгое!) мы провели эксперимент с 758 консультантами Boston Consulting Group, половина из которых получила доступ к GPT-4. Консультанты с ИИ значительно превзошли тех, кто работал без него. Но мы также попросили их решить задачу, на которой ИИ заведомо ошибался. Консультанты, использовавшие ИИ для этой задачи, значительно реже находили правильный ответ, чем консультанты без ИИ. ИИ выдавал авторитетно выглядящий ответ, который оказывался неверным, и большинство из них — тех самых элитных консультантов, которые превосходили всех остальных в прочих задачах, — не замечали ошибку. Конечно, сейчас ИИ просто решает ту задачу, так что дело уже не в частоте ошибок, а в том, что люди не учатся быть хорошими консультантами, поддаваясь тому же порыву к капитуляции.
Опять же, это не обязательно должно быть режимом по умолчанию. В небольшом исследовании, проведённом Anthropic, программисты использовали ИИ для выполнения новой задачи. Те, кто просто позволил ИИ сделать всю работу, не могли ответить на вопросы о том, что было сделано, — признак капитуляции. Но те, кто просил ИИ объяснять свои действия, или те, кто использовал ИИ лишь для части работы, похоже, избежали этой участи.
Часть решения может заключаться в самих инструментах, но это ограниченный подход. Версия ChatGPT, которая перед каждым ответом спрашивала бы: «Хотите, чтобы я подтолкнул вас подумать самостоятельно, или просто дать ответ?» — или говорила бы: «Мне кажется, будет более аутентично, если вы напишете это сами», — была бы невыносима большую часть времени. Но есть ситуации, где такие напоминания абсолютно необходимы. Результат из Тайбэя указывает на одно направление — ограничения на уровне системы, а не силы воли пользователя, — но в потребительских продуктах мы почти этого не видим, а коммерческое давление в основном толкает в противоположном направлении.
Выбирать, что оставить человеческим
Значительная часть проблемы ляжет на нас. Для ясности: меня вполне устраивает изрядная доля когнитивной капитуляции. Я больше не помню телефонные номера, потому что мой телефон делает это за меня. Я рад, что моим детям не пришлось учить каллиграфию. Меня устраивает, что калькулятор считает за меня в повседневной жизни, а компьютер составляет расписание моих занятий. Когда-то это были полезные навыки, но мы, вероятно, были правы, отказавшись от них.
ИИ отличается тем, что технология достаточно универсальна, чтобы практически любую когнитивную задачу можно было в той или иной степени переложить на неё. Я не хочу чрезмерно ценить именно навык письма: нет принципа, согласно которому отшлифованный черновик письма обязан выходить из человеческого сознания — ровно так же, как столбик чисел не обязан складываться вручную. Но мы не хотим отдавать всё, а для большинства конкретных задач мы пока не знаем, что важно, а что нет. Решить это будет настоящим вызовом.
Суть не в том, чтобы избегать ИИ, а в том, чтобы подходить к нему осознанно — делать сознательный выбор в отношении использования ИИ, а не рефлексивно зависеть от него или рефлексивно отвергать. В более широком смысле мы находимся в точке, где формируются настройки по умолчанию: какую работу отдавать ИИ — это решают ИИ-компании, проектирующие максимально гладкий пользовательский опыт, работодатели, определяющие, что значит «хорошо использовать ИИ», и преподаватели, обучающие постоянно меняющемуся понятию «ИИ-грамотности». Многое из этого, по иронии, происходит без какого-либо реального планирования или осмысления. И я подозреваю, что будет трудно изменить эти настройки по умолчанию, когда целое поколение работников и студентов выстроит вокруг них свои привычки. Самое важное, что мы можем сделать, — продолжать спрашивать себя, что отдать и что сохранить за собой… и не ожидать, что кто-то, включая ИИ, ответит за нас.
Особенно это касается художественной прозы, где ИИ общеизвестно слаб, хотя кажется сильным. ChatGPT в частности любит бессмысленные сравнения и метафоры («улица была похожа на щербатую улыбку», «он сидел так, что деревья бы позавидовали»), которые на первый взгляд могут показаться глубокими, но лишь потому, что мы предполагаем: за сложным текстом стоит замысел, и прилагаем усилия, чтобы наделить его смыслом. Люди очень хорошо умеют находить смысл в бессмысленном — если достаточно стараются.