On holding back the strange AI tide
Итан Молик утверждает, что генеративный ИИ появился внезапно с выходом ChatGPT восемь месяцев назад и продолжает ускоряться, нарушая привычный уклад в работе и образовании. В отличие от прошлых волн хайпа (web3, крипто, NFT, VR, метавселенная), большие языковые модели уже здесь и реально влияют на множество сфер. Организации пытаются сдержать перемены тремя способами — игнорировать, запретить или централизовать ИИ, — но все они обречены: GPT-4 бесплатен в 169 странах, руководство плохо угадывает лучшие сценарии применения, а сотрудники тайно используют ИИ («секретные киборги»). Молик предлагает вместо этого демократизировать контроль над ИИ: радикально стимулировать сотрудников делиться находками, развивать обмен промптами и не полагаться на внешних поставщиков. В образовании почти любое задание теперь выполнимо ИИ (он скормил Claude 2 целую книгу и получил отчёт, эссе и применение к стартапу), поэтому вместо возврата к рукописным экзаменам нужно переосмыслить обучение и использовать ИИ как масштабируемое репетиторство. Главный вывод: единственная плохая реакция — притворяться, что ИИ ничего не меняет, ведь решать, как его использовать, предстоит именно нам, и делать это нужно сейчас.
О том, как сдержать странный прилив ИИ
Остановить эту встряску невозможно. Вместо этого нам нужно направить её в нужное русло
Большинство людей не просили ИИ, способный выполнять множество задач, прежде закреплённых за людьми. Но он появился, почти совершенно неожиданно, восемь месяцев назад вместе с ChatGPT, и с тех пор только ускоряется.
Учителя не хотели, чтобы почти любую форму домашнего задания вдруг стало возможно решить с помощью компьютера. Работодатели не хотели, чтобы высокооплачиваемые задачи, которые имеют смысл только когда их выполняют люди (аттестации, отчётность), вместо этого выполнялись машинами. Государственные чиновники не хотели, чтобы идеальная система дезинформации была выпущена без каких-либо полезных мер противодействия. Выпущенные без инструкции, эти инструменты никто толком даже не понимает на что в полной мере способны. Мир стал куда более странным, причём очень быстро.
Поэтому неудивительно, что так много людей пытаются помешать ИИ быть странным. Куда ни посмотрю, я вижу политики, вводимые ради того, чтобы устранить ту встряску и странность, которые приносит ИИ. Эти политики не сработают. И, что ещё хуже, существенная польза от ИИ будет сильно урезана из-за попыток сделать вид, будто это просто очередная волна технологий, как прежде.
Итак, для начала давайте отбросим мысль, будто генеративный ИИ — это очередная итерация тех волн ажиотажа вокруг web3/крипто/NFT/VR/метавселенной, с которыми мы все жили последнее десятилетие с лишним. Каждая из этих технологий была про будущий потенциал оказать серьёзное влияние, и чтобы до него добраться, потребовались бы огромные инвестиции и изрядная удача1. Большие языковые модели уже здесь, прямо сейчас. В нынешнем своём виде они демонстрируют колоссальную способность влиять на многие области работы и жизни. И даже если они никогда не станут лучше, даже если будущие ИИ окажутся жёстко зарегулированы (и то, и другое выглядит крайне маловероятным), те ИИ, что у нас есть сегодня, принесут массу перемен.
И для многих людей это проблема. В разговорах с учебными заведениями и компаниями я видел, как руководители отчаянно пытаются добиться того, чтобы ИИ ничего не менял. Я убеждён, что это не только тщетно, но и само по себе несёт риски. Так что давайте об этом поговорим.
Как сдерживают прилив в организациях
Многие руководители организаций пока не понимают ИИ, но те, кто видит в нём возможность, рвутся его внедрить… лишь бы он не делал ничего слишком странного. Я выделяю три стадии внедрения ИИ, но у всех есть свои изъяны.
Игнорировать его. Игнорирование ИИ не заставит его исчезнуть. Напротив, отдельные сотрудники найдут способы использовать ИИ, чтобы улучшить собственную работу. Они не расскажут руководству организации о том, чем занимаются, потому что боятся наказания или того, что их работу станут ценить меньше. Это те самые секретные киборги, о которых я писал раньше.
Запретить его. Обычно это реакция на благонамеренные, но иногда технически некорректные юридические заключения2. Когда ИИ запрещён, ваши секретные киборги продолжают пользоваться им на своих телефонах и домашних компьютерах. И по-прежнему не рассказывают вам, чем они занимаются.
Централизовать его. Всё чаще я вижу, как крупные компании строят свои собственные внутренние ChatGPT, обычно на API от OpenAI, но оборачивая их в собственное ПО, чтобы было «безопасно» и подконтрольно. Поступая так, они заодно принимают решения о том, как ИИ лучше всего использовать, оптимизируя свой кастомный софт под сценарий применения, выбранный сверху вниз на основе скудного опыта и знаний.
Централизация — это то, что организации привыкли делать, столкнувшись с новой технологией. Централизованная почта, ПО для видеоконференций, мгновенные сообщения, браузеры — так компания может отслеживать ненадлежащее использование, защищать свои данные и, что важнее всего, устанавливать политики для всех своих работников. В каждой прошлой волне технологий централизованный контроль был естественным следствием того, что ПО могло стоить миллионы на установку и интеграцию, делая его внедрение долгим и дорогим процессом.
Проблема в том, что ИИ в его нынешней реализации на самом деле не приспособлен для централизации, по трём причинам:
Корпоративного преимущества нет. GPT-4, самый продвинутый из доступных ИИ, бесплатен для всех в 169 странах через Bing или за небольшую плату от OpenAI. У корпораций нет доступа ни к чему лучшему. Более того, API, которыми пользуются компании, зачастую отстают от ИИ, широко доступных публике (через API нельзя получить Code Interpreter или мультимодальный ввод, но их можно получить через ChatGPT и Bing). Некоторые компании отвечают на это так: «ну, у нас куча проприетарных данных, которыми ИИ может пользоваться». И, может быть, приватные данные окажутся полезны для дообучения и дадут огромное преимущество. А может, и нет, и обычно это пока не помогает (дообучение всё ещё в разработке, как и большие объёмы памяти).Вы понятия не имеете, для чего он хорош. Нет никаких оснований полагать, что корпоративное руководство любой организации будет виртуозно понимать, как ИИ может помочь конкретному сотруднику с конкретной задачей. На деле они, скорее всего, довольно плохо определяют лучшие сценарии применения ИИ. Отдельные работники, которые остро осознают свои проблемы и могут много экспериментировать с разными способами их решения, куда вероятнее найдут применение такой универсальной технологии, как ИИ.Ваша корпоративная реализация ИИ пугающая и ограниченная. Сотрудники знают, что официальный корпоративный интерфейс ИИ отслеживается и что их могут наказать, если они используют его каким-то нечётко определённым неправильным образом. Они также часто знают, что он хуже того, к чему у них есть доступ на телефоне. Крайне маловероятно, что самые интересные и мощные сценарии применения будут проходить через вашу корпоративную систему.
Пытаясь сделать ИИ таким же, как все прочие технологии, компании игнорируют, насколько он преобразующий. Один человек может выполнить колоссальный объём работы (посмотрите, сколько маркетинга я успел сделать с ограничением в 30 минут), но это к тому же другая работа: рутинные задачи отдаются на откуп, а интересные — умножаются. Характер работы с ИИ смещается так, что это некомфортно, рискованно и потенциально мощно.
Вдобавок наши рабочие системы не созданы под ИИ, поэтому нам придётся их перестраивать. Прямо сейчас самые передовые способы применения ИИ реализуют отдельные люди. Один пример — Jussi Kemppainen из Dinosaurs Are Better, который в одиночку разрабатывает целую приключенческую игру. Чтобы делать это, он использует помощь ИИ в каждом аспекте дизайна игры — от проработки персонажей до кода, диалогов и графики3. Он изобретает собственные рабочие процессы, чтобы это осуществить, и способен на это потому, что не ограничен корпоративными рабочими системами.
У компаний нет способа обуздать такую мощь и креативность, в той или иной форме не демократизировав контроль над ИИ. Только инновации, движимые работниками, могут по-настоящему радикально преобразить труд, потому что только работники могут достаточно экспериментировать с собственными задачами, чтобы научиться использовать ИИ преобразующими способами. А наделить работников полномочиями не получится одним лишь решением сверху вниз. Вместо этого рассмотрите:
Радикальные стимулы, чтобы работники были готовы делиться тем, что узнали. Если они боятся наказания — они не поделятся. Если они боятся, что их не вознаградят — они не поделятся. Если они боятся, что разработанные ими инструменты ИИ могут заменить их самих или их коллег — они не поделятся. Корпоративным руководителям нужно придумать, как успокоить и вознаградить работников, а это то, чего они делать не привыкли.Поддержка инноваций по принципу «от пользователя к пользователю». Стройте библиотеки промптов, помогающие работникам разрабатывать промпты и делиться ими с другими людьми внутри организации. Широко открывайте инструменты для использования работниками (при этом всё же устанавливая политики в отношении проприетарной информации) и смотрите, что у них получится. Создавайте сотрудникам свободное время на разработку и обсуждение подходов к ИИ.Не полагайтесь на внешних поставщиков или на ваши существующие R&D-группы, чтобы они дали вам ответ. Мы находимся на самой заре новой технологии. Никто на самом деле толком ничего не знает о лучших способах использования ИИ, и уж точно не знает лучших способов использовать его именно в вашей компании. Только погрузившись в это, ответственно, вы можете рассчитывать выяснить лучшие сценарии применения.
Как сдерживают прилив в образовании
Почти любое задание, на любом уровне, может быть выполнено, по крайней мере частично, с помощью ИИ. Какие бы предубеждения у вас как у преподавателя ни были о качестве работы ИИ на основе того, что вы видели в прошлом семестре, они, вероятно, теперь ошибочны. ИИ способен выполнять работу высокого качества. Он умеет считать. Он делает куда меньше очевидных ошибок. И он способен работать с огромными объёмами данных.
В качестве демонстрации я вставил целиком всю свою последнюю книгу в Claude 2 и дал следующие инструкции, без какой-либо дополнительной информации:
Мне нужно сделать с этим три вещи:
Написать краткий доклад по книгеНаписать эссе с объяснением некоторых плюсов и минусов книгиНаписать о том, как применить эту книгу к моей собственной идее стартапа, который упрощает заказ жвачки с доставкой на дом
Сделай всё это
И он сделал. Я смог найти лишь немного огрехов или галлюцинаций, а материалы в целом демонстрировали то мышление высшего порядка, которое ИИ был не способен имитировать всего несколько месяцев назад.
Перед лицом этого вызова многие учителя хотят повернуть время вспять: экзамены в синих тетрадях. Рукописные эссе. Устные экзамены. Это неплохие идеи в качестве временных мер, но они лишь паллиатив, пока мы решаем, что будет дальше в образовании. Есть причина, по которой мы не использовали большинство этих подходов до того, как появился ИИ.
Но ИИ — далеко не сплошной минус для образования. Мы очень близко подошли к давней мечте о репетиторстве в масштабе, и многие другие достижения обещают облегчить жизнь учителям, одновременно улучшая результаты для учеников и родителей. Дальше нам нужно сформулировать видение того, как могло бы выглядеть радикально изменённое образование. Нам нужно подумать о том, как встроить ИИ в то, как мы преподаём, и в то, как учатся наши студенты. Здесь есть колоссальная возможность демократизировать доступ к образованию и охватить всех учащихся, любого уровня способностей, но мы не можем просто продолжать делать то, что делали всегда, и надеяться, что ничего не изменится.
Поднимающиеся странные приливы
Единственный плохой способ отреагировать на ИИ — притворяться, будто он ничего не меняет.
У нас есть значительная свобода действий в том, как использовать ИИ в нашей работе, школах и обществах, но начинать нужно с допущения, что мы сталкиваемся с подлинной и широко распространённой встряской во множестве сфер. Учёные и инженеры, проектирующие ИИ, при всех их способностях, не обладают особой экспертизой в том, как ИИ лучше всего использовать или даже как и когда его следует использовать. Эти решения предстоит принимать нам. Но мы должны признать, что прилив ИИ поднимается и что решать, что это значит, нужно сейчас.
Цифры тоже указывают на иную скорость внедрения ИИ: 8% американцев владеют криптовалютой. 2% американцев покупали NFT. Данные по VR несколько туманны, но, может быть, 20% американцев его пробовали. 19% американцев в одном опросе пробовали ChatGPT к апрелю.
Опасения по поводу приватности реальны, но они сложнее, чем «ИИ узнаёт всё, что я ввожу». При этом крупные ИИ-компании стараются снять эти опасения. ChatGPT включает приватный режим для отдельных пользователей, и немало ИИ-компаний охотно продадут вам серверы с LLM, соответствующие самым высоким стандартам защиты данных. Короче говоря, для большинства компаний это решаемые вопросы (но с приватными данными всё же стоит быть очень осторожными)