Against "Brain Damage"

Против «повреждения мозга»

ИИ может как помочь, так и навредить нашему мышлению

Меня всё чаще спрашивают: «А ИИ не повреждает мозг?» Это показательный вопрос. Не потому, что ИИ вызывает буквальное повреждение мозга (этого нет), а потому, что сам вопрос обнажает, как глубоко мы боимся того, что ИИ может сделать с нашей способностью мыслить. Поэтому в этом посте я хочу обсудить способы использовать ИИ так, чтобы он помогал нашему уму, а не вредил ему. Но откуда такая одержимость идеей, что ИИ повреждает наш мозг?

Отчасти причина — в неверном толковании широко обсуждавшейся работы из MIT Media Lab (среди авторов есть и представители других учреждений) под названием «Your Brain on ChatGPT». Само исследование куда менее драматично, чем его освещение в прессе. В нём участвовала небольшая группа студентов, которым поручили писать эссе — кому-то в одиночку, кому-то с Google, кому-то с ChatGPT (и без других инструментов). Студенты, использовавшие ChatGPT, были менее вовлечены и хуже запоминали содержание своих эссе, чем группа без ИИ. Четыре месяца спустя девятерых из пользователей ChatGPT попросили написать эссе снова, уже без ChatGPT, и они справились хуже тех, кто изначально не использовал ИИ (хотя в новом эксперименте им было предписано пользоваться ИИ), а также показали меньшую активность ЭЭГ при письме. Никакого повреждения мозга, разумеется, не было. Однако более драматичное толкование захватило наше воображение, потому что мы всегда боялись, что новые технологии погубят нашу способность мыслить: Платон считал, что письменность подорвёт нашу мудрость, а с появлением мобильных телефонов некоторые опасались, что отказ от запоминания телефонных номеров сделает нас глупее.

Но это не значит, что не стоит беспокоиться о том, как ИИ влияет на наше мышление. Ведь одна из ключевых целей технологии — позволить нам переложить работу на машины. В том числе и интеллектуальную работу — как когда калькуляторы делают за нас вычисления, а телефоны хранят наши номера. И когда мы перекладываем своё мышление, мы действительно что-то теряем — например, мы уже не можем так же хорошо запоминать телефонные номера. А поскольку ИИ — настолько универсальная интеллектуальная технология, мы можем переложить на него очень многое из своего мышления. Так как же использовать ИИ так, чтобы он помогал нам, а не вредил?

Обучающийся мозг

Наименее удивительная область, где использование ИИ способно явно навредить вашему умственному развитию, — это попытки учиться или осмысливать новые знания. Если вы перекладываете мышление на ИИ вместо того, чтобы делать работу самостоятельно, вы упускаете возможность научиться. У нас есть данные, подтверждающие эту интуицию: мои коллеги из Penn провели эксперимент в одной из школ в Турции, где части учеников дали доступ к GPT-4 для помощи с домашними заданиями. Когда им предложили пользоваться ChatGPT без сопровождения и без специальных подсказок, они в итоге пошли по короткому пути и просто получали ответы. Поэтому, хотя ученикам казалось, что с помощью ChatGPT они многому научились, на деле они усвоили меньше — набрав на 17% хуже на итоговом экзамене (по сравнению с учениками, которые ChatGPT не пользовались).

Особенно коварно здесь то, что вред наступает даже при добрых намерениях учеников. ИИ обучен быть полезным и отвечать на ваши вопросы. Как и те ученики, вы, возможно, просто хотите получить от ИИ подсказку о том, как подступиться к домашнему заданию, но он часто вместо этого просто выдаёт вам готовый ответ. Как показало исследование MIT Media Lab, это замыкает накоротко (порой неприятное) умственное усилие, которое и порождает обучение. Проблема не только в списывании, хотя ИИ, безусловно, его упрощает. Проблема в том, что даже честные попытки использовать ИИ для помощи могут обернуться против вас, потому что режим ИИ по умолчанию — делать работу за вас, а не вместе с вами.

Значит ли это, что ИИ всегда вредит обучению? Вовсе нет! Хотя данных пока немного, появляется всё больше свидетельств того, что при сопровождении учителя и хороших подсказках, основанных на здравых педагогических принципах, ИИ способен значительно улучшить результаты обучения. Например, рандомизированное контролируемое исследование Всемирного банка показало, что использование ИИ-репетитора на базе GPT-4 при сопровождении учителя в шестинедельной внеклассной программе в Нигерии дало «более чем вдвое больший эффект, чем некоторые из самых результативных образовательных вмешательств» при очень низких затратах. Хотя ни одно исследование не идеально (здесь контрольной группе не предлагалось вообще никакого вмешательства, поэтому полностью изолировать эффект ИИ невозможно, хотя авторы и пытаются это сделать), оно пополняет растущий ряд схожих результатов. Гарвардский эксперимент в большом курсе физики обнаружил, что хорошо настроенный ИИ-репетитор превзошёл по результатам обучения занятия с активными методиками; исследование в массовом курсе программирования в Stanford показало, что использование ChatGPT привело к росту экзаменационных оценок; малайзийское исследование выявило, что ИИ в сочетании с сопровождением учителя и продуманной педагогикой повышал усвоение материала; и даже тот эксперимент в Турции, о котором я упоминал ранее, показал, что более удачная подсказка для репетитора устраняла падение оценок, возникавшее при использовании обычного ChatGPT.

В конечном счёте именно то, как вы используете ИИ, а не сам факт его использования, определяет, помогает он вашему мозгу при обучении или вредит. Полезный шаг — перейти от просьб к ИИ помочь с домашним заданием к тому, чтобы он помогал вам учиться в роли репетитора. К сожалению, версия большинства моделей ИИ по умолчанию стремится выдать вам ответ, а не обучить вас теме, поэтому, возможно, стоит использовать специализированную подсказку. Хотя идеальной подсказки для репетитора пока никто не разработал, у нас есть та, что применялась в некоторых образовательных исследованиях и может оказаться полезной вам, а ещё больше вы найдёте в библиотеке подсказок Wharton Generative AI Lab. Не стесняйтесь её менять (она лицензирована по Creative Commons). Если вы родитель, вы можете и сами выступить в роли репетитора, попросив ИИ: «объясни ответ на этот вопрос так, чтобы я мог рассказать это своему ребёнку, который учится в X классе». Ни один из этих подходов не идеален, и вызовы, которые ИИ ставит перед образованием, вполне реальны, но есть основания надеяться, что образование сумеет приспособиться к ИИ так, чтобы это помогало, а не вредило нашей способности мыслить. Для этого потребуются сопровождение преподавателя, хорошо выстроенные подсказки и обдуманный выбор того, когда использовать ИИ, а когда от него стоит воздержаться.

Творческий мозг

Как и в образовании, ИИ может как помочь вашему творчеству, так и навредить ему — в зависимости от того, как вы его используете. По многим показателям креативности ИИ обгоняет большинство людей. Чтобы было ясно: единого определения креативности не существует, но исследователи разработали ряд несовершенных тестов, широко применяемых для измерения способности людей выдавать разнообразные и осмысленные идеи. То, что эти тесты были несовершенны, не имело большого значения — пока вдруг ИИ не оказался способен проходить их все. Ещё старый GPT-4 обошёл 91% людей в одной из вариаций Alternative Uses Test на креативность и превосходит 99% людей в Torrance Tests of Creative Thinking. И мы знаем, что эти идеи интересны не только в теории. Мои коллеги из Wharton устроили конкурс генерации идей, столкнув ChatGPT-4 со студентами популярного курса по инновациям, из которого исторически вышло много стартапов. Оценки судей-людей показали, что ChatGPT-4 выдал больше идей, более дешёвых и более качественных, чем студенты. Намерение приобрести продукт у этих сторонних судей тоже было выше для идей, сгенерированных ИИ.

И всё же всякий, кто использовал ИИ для генерации идей, заметит нечто, что эти цифры не отражают. ИИ склонен вести себя как один-единственный творческий человек с предсказуемыми шаблонами. Вы снова и снова будете видеть одни и те же темы — идеи про VR, блокчейн, экологию и (конечно же) сам ИИ. Это проблема, потому что при генерации идей вам как раз нужен разнообразный набор вариантов на выбор, а не вариации на одну тему. Отсюда парадокс: ИИ креативнее большинства отдельных людей, но ему недостаёт разнообразия, которое возникает из множества точек зрения. При этом исследования также показывают, что люди часто выдают более качественные идеи, используя ИИ, чем работая в одиночку, и иногда ИИ в одиночку даже превосходит людей, работающих вместе с ИИ. Но без осторожности эти идеи начинают казаться очень похожими друг на друга, когда видишь их достаточно много.

Отчасти это решается более удачными подсказками. В работе, над которой я трудился вместе с Lennart Meincke и Christian Terwiesch, мы выяснили, что более удачные подсказки могут породить куда более разнообразные идеи — пусть и не настолько хорошие, как у группы студентов.

Вот эта подсказка, она была рассчитана на GPT-4. Она по-прежнему хорошо работает и для других моделей ИИ (хотя я подозреваю, что reasoning-модели могут оказаться чуть менее изобретательными, чем более традиционные модели):

Generate new product ideas with the following requirements: The product will target [market or customer]. It should be a [pick: physical good/service/software], not a [pick: physical good/service/software]. I'd like a product that could be sold at a retail price of less than about [insert amount]. The ideas are just ideas. The product need not yet exist, nor may it necessarily be clearly feasible. Follow these steps. Do each step, even if you think you do not need to. First generate a list of 100 ideas (short title only). Second, go through the list and determine whether the ideas are different and bold, modify the ideas as needed to make them bolder and more different. No two ideas should be the same. This is important! Next, give the ideas a name and combine it with a product description. The name and idea are separated by a colon and followed by a description. The idea should be expressed as a paragraph of 40-80 words. Do this step by step.

Но более удачные подсказки решают лишь часть проблемы. Более глубокий риск в том, что ИИ способен реально навредить вашей способности мыслить творчески, привязывая вас к своим предложениям. Это происходит двумя путями.

Во-первых, есть эффект якоря. Стоит вам увидеть идеи ИИ — и становится гораздо труднее мыслить за пределами этих рамок. Это как когда вам говорят: «не думай о розовом слоне». Предложения ИИ, даже посредственные, могут вытеснить ваши собственные уникальные точки зрения. Во-вторых, как показало исследование MIT, люди не чувствуют такой же причастности к идеям, сгенерированным ИИ, а значит, вы будете отстраняться от самого процесса генерации идей.

Так как же получить выгоды от ИИ без утечки мозговой энергии? Ключ — в последовательности. Всегда генерируйте собственные идеи прежде, чем обращаться к ИИ. Записывайте их, какими бы сырыми они ни были. Подобно тому как групповой мозговой штурм работает лучше всего, когда люди сперва думают поодиночке, вам нужно зафиксировать свою уникальную точку зрения до того, как предложения ИИ успеют вас заякорить. А затем используйте ИИ, чтобы развить идеи дальше: «Соедини идеи №3 и №7 предельно радикальным образом», «Ещё радикальнее», «Дай мне ещё 10 идей вроде №42», «Используй супергероев как источник вдохновения, чтобы сделать идею ещё интереснее».

Этот принцип становится ещё важнее в письме. Многие писатели настаивают, что «письмо — это мышление», и хотя это не универсальная истина (я сгенерировал довольно неплохой отчёт Deep Research на эту тему, если хотите подробностей), часто это так. Сам акт письма, переписывания, и переписывания снова помогает вам продумать и отточить свои идеи. Если вы отдаёте письмо на откуп ИИ, вы целиком пропускаете часть с мышлением.

Как человек, для которого письмо — это мышление, я был вынужден стать дисциплинированным. Каждый пост, который я пишу, как и этот, я сначала пишу полным черновиком вообще без всякого использования ИИ (если не считать помощи в поиске материалов). Это часто долгий процесс, ведь я пишу и переписываю по многу раз — мыслю! И только когда черновик готов, я обращаюсь к нескольким моделям ИИ, даю им готовый пост и прошу выступить в роли читателя: Было ли что-то непонятно по ходу текста и как именно я мог бы прояснить его для неспециалиста? А иногда — в роли редактора: Мне не нравится, как заканчивается этот раздел, можешь дать мне 20 вариантов концовок, которые подошли бы лучше. Так что смело используйте ИИ, чтобы отшлифовать свою прозу и расширить свои возможности. Только не забывайте сначала подумать самостоятельно, ведь это и есть та часть, которую нельзя передать на аутсорс.

Коллективный мозг

Ещё одна область, где ИИ может навредить нашему мышлению, — это его влияние на социальные процессы. В идеале весь смысл работы в командах в том, что она способна повышать нашу результативность: команды должны порождать больше идей, лучше замечать потенциальные возможности и подводные камни, привносить специализированные навыки и умения для реализации задач. Совещания должны быть местами, где команды координируются и решают проблемы. Разумеется, это идеал. В реальности один из самых разоблачающих управленческих текстов — это руководство времён Второй мировой войны по саботажу для гражданских лиц, составленное предшественником ЦРУ. Взгляните на способы саботажа офисных задач ради деморализации и проволочек и подумайте, как многие из них являются обычной частью ваших совещаний.

Поэтому неудивительно, что одно из значимых ранних применений ИИ — это резюмирование совещаний, а всё чаще — резюмирование совещаний, которые вы вовсе пропускаете. Конечно, это поднимает экзистенциальные вопросы вроде «зачем мы вообще собираемся, если можно просто прочитать резюме?» или «не послать ли мне на совещания ИИ-аватара самого себя?» Очевидно, что нет ни взаимодействия, ни командной работы, ни встречи умов на совещании, где все присутствуют лишь для того, чтобы прочитать транскрипт и ничего больше. Оно лишь отнимает время и силы — своего рода организационное повреждение мозга.

Но вместо того чтобы ИИ вредил нашему коллективному мышлению, есть вариант заставить его помогать нам становиться лучше. Один любопытный пример — использование ИИ в роли фасилитатора. Мы создали подсказку, в которой ИИ выступает фасилитатором, создавая в середине вашего совещания персонализированные карты таро, чтобы направлять, а не подменять вашу дискуссию. Вы даёте ему транскрипт совещания, и он помогает вам вытащить наружу ваши лучшие идеи (и снова — это лицензия Creative Commons, так что меняйте по своему усмотрению; сейчас она лучше всего работает на Claude и сносно — на Gemini и o3).

Это лишь забавный пример того, как ИИ можно было бы использовать для помощи нашему коллективному интеллекту, но нужно ещё много экспериментов, чтобы понять, что действительно работает: использовать ИИ как «адвоката дьявола», чтобы выявлять невысказанные опасения, поручать ему определять, чьи голоса не слышны в обсуждении, или применять его для поиска закономерностей в командной динамике, которые люди упускают. Главное в том, что ИИ усиливает, а не подменяет человеческое взаимодействие.

Против «повреждения мозга»

ИИ не повреждает наш мозг, но бездумное его использование может повредить нашему мышлению. На кону не наши нейроны, а наши умственные привычки. Есть масса работы, которую стоит автоматизировать или передать ИИ (мы редко тоскуем по вычислениям, которые делаем на калькуляторе), но есть и немало работы, где наше мышление важно. Для таких задач исследования дают ясный ответ. Если вы хотите сохранить человеческую часть своей работы: сначала думайте сами, сначала пишите сами, сначала встречайтесь сами.

Наш страх перед тем, что ИИ «повредит наш мозг», на деле — страх перед собственной ленью. Технология предлагает лёгкий способ уклониться от тяжёлой работы мышления, и мы боимся, что им воспользуемся. И бояться стоит. Но стоит и помнить, что у нас есть выбор.

Ваш мозг в безопасности. А вот ваше мышление — на вашей ответственности.

Поделиться