On holding back the strange AI tide
Итан Молик утверждает, что генеративный ИИ появился внезапно с выходом ChatGPT восемь месяцев назад и продолжает ускоряться, нарушая привычный уклад в работе и образовании. В отличие от прошлых волн хайпа (web3, крипто, NFT, VR, метавселенная), большие языковые модели уже здесь и реально влияют на множество сфер. Организации пытаются сдержать перемены тремя способами — игнорировать, запретить или централизовать ИИ, — но все они обречены: GPT-4 бесплатен в 169 странах, руководство плохо угадывает лучшие сценарии применения, а сотрудники тайно используют ИИ («секретные киборги»). Молик предлагает вместо этого демократизировать контроль над ИИ: радикально стимулировать сотрудников делиться находками, развивать обмен промптами и не полагаться на внешних поставщиков. В образовании почти любое задание теперь выполнимо ИИ (он скормил Claude 2 целую книгу и получил отчёт, эссе и применение к стартапу), поэтому вместо возврата к рукописным экзаменам нужно переосмыслить обучение и использовать ИИ как масштабируемое репетиторство. Главный вывод: единственная плохая реакция — притворяться, что ИИ ничего не меняет, ведь решать, как его использовать, предстоит именно нам, и делать это нужно сейчас.
On holding back the strange AI tide
О том, как сдержать странный прилив ИИ
There is no way to stop the disruption. We need to channel it instead
Остановить эту встряску невозможно. Вместо этого нам нужно направить её в нужное русло
Most people didn’t ask for an AI that can do many tasks previously reserved for humans. But it arrived, almost completely unexpectedly, eight months ago with ChatGPT, and has been accelerating ever since.
Большинство людей не просили ИИ, способный выполнять множество задач, прежде закреплённых за людьми. Но он появился, почти совершенно неожиданно, восемь месяцев назад вместе с ChatGPT, и с тех пор только ускоряется.
Teachers did not want to see almost every form of homework instantly be solvable by a computer. Employers did want highly-paid tasks that are only meaningful when done by humans (performance reviews, reporting) to be done by machines instead. Government officials did not want a perfect disinformation system released without any useful countermeasures. Released without a manual, no one really even knows what these tools are fully capable of. The world got much stranger, very quickly.
Учителя не хотели, чтобы почти любую форму домашнего задания вдруг стало возможно решить с помощью компьютера. Работодатели не хотели, чтобы высокооплачиваемые задачи, которые имеют смысл только когда их выполняют люди (аттестации, отчётность), вместо этого выполнялись машинами. Государственные чиновники не хотели, чтобы идеальная система дезинформации была выпущена без каких-либо полезных мер противодействия. Выпущенные без инструкции, эти инструменты никто толком даже не понимает на что в полной мере способны. Мир стал куда более странным, причём очень быстро.
So, it is not surprising that so many people are trying to stop AI from being weird. Everywhere I look I see policies put in place to eliminate the disruption and weirdness that AI brings. These policies are not going to work. And, even worse, the substantial benefits of AI are going to be greatly reduced by trying to pretend it is just like previous waves of technology.
Поэтому неудивительно, что так много людей пытаются помешать ИИ быть странным. Куда ни посмотрю, я вижу политики, вводимые ради того, чтобы устранить ту встряску и странность, которые приносит ИИ. Эти политики не сработают. И, что ещё хуже, существенная польза от ИИ будет сильно урезана из-за попыток сделать вид, будто это просто очередная волна технологий, как прежде.
So first, let’s dispense with the idea that generative AI is the next iteration of the waves of web3/crypto/NFT/VR/Metaverse technology hype that we have all lived with for the last decade or so. Every one of these technologies was about future potential to have a major impact, and getting there would have required massive investment and good luck1. Large Language Models are here, now. In their current form, they show tremendous ability to impact many areas of work and life. And, even if they never get any better, even if future AIs are highly regulated (both seem highly unlikely), the AIs we have today are going to bring a lot of change.
Итак, для начала давайте отбросим мысль, будто генеративный ИИ — это очередная итерация тех волн ажиотажа вокруг web3/крипто/NFT/VR/метавселенной, с которыми мы все жили последнее десятилетие с лишним. Каждая из этих технологий была про будущий потенциал оказать серьёзное влияние, и чтобы до него добраться, потребовались бы огромные инвестиции и изрядная удача1. Большие языковые модели уже здесь, прямо сейчас. В нынешнем своём виде они демонстрируют колоссальную способность влиять на многие области работы и жизни. И даже если они никогда не станут лучше, даже если будущие ИИ окажутся жёстко зарегулированы (и то, и другое выглядит крайне маловероятным), те ИИ, что у нас есть сегодня, принесут массу перемен.
And, for many people, that is a problem. In conversations with educational institutions and companies, I have seen leaders try desperately to ensure that AI doesn’t change anything. I believe that not only is this futile, but it also poses its own risks. So lets talk about it.
И для многих людей это проблема. В разговорах с учебными заведениями и компаниями я видел, как руководители отчаянно пытаются добиться того, чтобы ИИ ничего не менял. Я убеждён, что это не только тщетно, но и само по себе несёт риски. Так что давайте об этом поговорим.
Holding back the tide in organizations
Как сдерживают прилив в организациях
Many organizational leaders don’t yet understand AI, but those who do see an opportunity are eager to embrace it… as long as it doesn’t make anything too weird. I see three stages to AI adoption, but all have their own flaws.
Многие руководители организаций пока не понимают ИИ, но те, кто видит в нём возможность, рвутся его внедрить… лишь бы он не делал ничего слишком странного. Я выделяю три стадии внедрения ИИ, но у всех есть свои изъяны.
Ignore it. Ignoring AI doesn’t make it go away. Instead, individual employees will find ways to use AI to enhance their own jobs. They won’t tell the organization’s leaders about what they are doing, because they worry about being punished, or that others will value their work less. These are the secret cyborgs I have written about before.
Игнорировать его. Игнорирование ИИ не заставит его исчезнуть. Напротив, отдельные сотрудники найдут способы использовать ИИ, чтобы улучшить собственную работу. Они не расскажут руководству организации о том, чем занимаются, потому что боятся наказания или того, что их работу станут ценить меньше. Это те самые секретные киборги, о которых я писал раньше.
Ban it. This is usually in response to well-intentioned, but sometimes technically incorrect, legal opinions2. When AI is banned, your secret cyborgs continue to use it on their phones and home computers. And they still don’t tell you what they are doing.
Запретить его. Обычно это реакция на благонамеренные, но иногда технически некорректные юридические заключения2. Когда ИИ запрещён, ваши секретные киборги продолжают пользоваться им на своих телефонах и домашних компьютерах. И по-прежнему не рассказывают вам, чем они занимаются.
Centralize it. Increasingly, I see large companies building their own internal ChatGPTs, usually using OpenAI’s APIs, but wrapping it in their own software to be “safe” and controllable. In doing so, they also make decisions about how AI is best used, optimizing their customized software for a use case that is decided from the top-down, based on little experience and knowledge.
Централизовать его. Всё чаще я вижу, как крупные компании строят свои собственные внутренние ChatGPT, обычно на API от OpenAI, но оборачивая их в собственное ПО, чтобы было «безопасно» и подконтрольно. Поступая так, они заодно принимают решения о том, как ИИ лучше всего использовать, оптимизируя свой кастомный софт под сценарий применения, выбранный сверху вниз на основе скудного опыта и знаний.
Centralization is what organizations are used to doing when faced with a new technology. Centralized email, video conference software, instant messaging, browsers - that way the company can monitor for inappropriate use, secure their data, and, most importantly set policies for all their workers. In every previous wave of technology, centralized control is a natural consequence of software can costs millions to install and integrate, making it adopting it a long and expensive process.
Централизация — это то, что организации привыкли делать, столкнувшись с новой технологией. Централизованная почта, ПО для видеоконференций, мгновенные сообщения, браузеры — так компания может отслеживать ненадлежащее использование, защищать свои данные и, что важнее всего, устанавливать политики для всех своих работников. В каждой прошлой волне технологий централизованный контроль был естественным следствием того, что ПО могло стоить миллионы на установку и интеграцию, делая его внедрение долгим и дорогим процессом.
The problem is that AI, as currently implemented, is not really built for centralization, for three reasons:
Проблема в том, что ИИ в его нынешней реализации на самом деле не приспособлен для централизации, по трём причинам:
There is no corporate advantage. GPT-4, the most advanced AI available, is free for everyone in 169 countries through Bing, or for a small charge from OpenAI. Corporations have no access to anything better. In fact, the APIs that companies use often lag the AIs available widely to the public (you can’t get Code Interpreter through an API, or multimodal input, but you can get them through ChatGPT and Bing). Some companies respond to this with “well, we have tons of proprietary data for the AI to use.” And maybe private data will be useful for fine-tuning and add a huge advantage. But maybe not, and it isn’t usually helping yet (fine-tuning is still in development, as are large memories).
You have no idea what it is good for. There is no reason to believe that the corporate leadership of any organization are going to be wizards at understanding how AI might help a particular employee with a particular task. In fact, they are likely pretty bad at figuring out the best use cases for AI. Individual workers, who are keenly aware of their problems and can experiment a lot with alternate ways of solving them, are far more likely to find uses for a general technology like AI.
Your company AI implementation is terrifying and limited. Employees know that the official corporate AI interface is being monitored, and that they may be penalized if they use it in some ill-defined wrong way. They also often know it is worse than what they can access on their phone. It is very unlikely that you are going to see that most interesting and powerful use cases go through your corporate system.
Корпоративного преимущества нет. GPT-4, самый продвинутый из доступных ИИ, бесплатен для всех в 169 странах через Bing или за небольшую плату от OpenAI. У корпораций нет доступа ни к чему лучшему. Более того, API, которыми пользуются компании, зачастую отстают от ИИ, широко доступных публике (через API нельзя получить Code Interpreter или мультимодальный ввод, но их можно получить через ChatGPT и Bing). Некоторые компании отвечают на это так: «ну, у нас куча проприетарных данных, которыми ИИ может пользоваться». И, может быть, приватные данные окажутся полезны для дообучения и дадут огромное преимущество. А может, и нет, и обычно это пока не помогает (дообучение всё ещё в разработке, как и большие объёмы памяти).Вы понятия не имеете, для чего он хорош. Нет никаких оснований полагать, что корпоративное руководство любой организации будет виртуозно понимать, как ИИ может помочь конкретному сотруднику с конкретной задачей. На деле они, скорее всего, довольно плохо определяют лучшие сценарии применения ИИ. Отдельные работники, которые остро осознают свои проблемы и могут много экспериментировать с разными способами их решения, куда вероятнее найдут применение такой универсальной технологии, как ИИ.Ваша корпоративная реализация ИИ пугающая и ограниченная. Сотрудники знают, что официальный корпоративный интерфейс ИИ отслеживается и что их могут наказать, если они используют его каким-то нечётко определённым неправильным образом. Они также часто знают, что он хуже того, к чему у них есть доступ на телефоне. Крайне маловероятно, что самые интересные и мощные сценарии применения будут проходить через вашу корпоративную систему.
By trying to make AI like all other technologies, companies are ignoring how transformative it is. One person can do a tremendous amount of work (see how much marketing I could get done with a 30 minute time limit), but it is also different work: tedious tasks are outsourced, interesting tasks are multiplied. The nature of work with AI shifts in way that uncomfortable, risky, and potentially powerful.
Пытаясь сделать ИИ таким же, как все прочие технологии, компании игнорируют, насколько он преобразующий. Один человек может выполнить колоссальный объём работы (посмотрите, сколько маркетинга я успел сделать с ограничением в 30 минут), но это к тому же другая работа: рутинные задачи отдаются на откуп, а интересные — умножаются. Характер работы с ИИ смещается так, что это некомфортно, рискованно и потенциально мощно.
In addition, our work systems are not built for AI, so we will need to rebuild them. Right now, the most advanced uses of AI are being done by individuals. One example is Jussi Kemppainen of Dinosaurs Are Better, who is developing an entire adventure game, alone. To do that, he is using AI help for every aspect of game design, from character design to coding to dialog to graphics3. He is inventing his own workflows to make this happen, and is able to do that because he is not limited to corporate work systems.
Вдобавок наши рабочие системы не созданы под ИИ, поэтому нам придётся их перестраивать. Прямо сейчас самые передовые способы применения ИИ реализуют отдельные люди. Один пример — Jussi Kemppainen из Dinosaurs Are Better, который в одиночку разрабатывает целую приключенческую игру. Чтобы делать это, он использует помощь ИИ в каждом аспекте дизайна игры — от проработки персонажей до кода, диалогов и графики3. Он изобретает собственные рабочие процессы, чтобы это осуществить, и способен на это потому, что не ограничен корпоративными рабочими системами.
There is no way for companies to harness this kind of power and creativity without, in some way, democratizing control over AI. Only innovation driven by workers can actually radically transform work, because only workers can experiment enough on their own tasks to learn how to use AI in transformative ways. And empowering workers is not going to be possible with a top-down solution alone. Instead, consider:
У компаний нет способа обуздать такую мощь и креативность, в той или иной форме не демократизировав контроль над ИИ. Только инновации, движимые работниками, могут по-настоящему радикально преобразить труд, потому что только работники могут достаточно экспериментировать с собственными задачами, чтобы научиться использовать ИИ преобразующими способами. А наделить работников полномочиями не получится одним лишь решением сверху вниз. Вместо этого рассмотрите:
Radical incentives to ensure that workers are willing to share what they learn. If they are worried about being punished, they won’t share. If they are worried they won’t be rewarded, they won’t share. If they are worried that the AI tools that they develop might replace them, or their coworkers, they won’t share. Corporate leaders need to figure out a way to reassure and reward workers, something they are not used to doing.
Empowering user-to-user innovation. Build prompt libraries that help workers develop and share prompts with other people inside the organization. Open up tools broadly to workers to use (while still setting policies around proprietary information), and see what they come up with. Create slack time for workers to develop, and discuss, AI approaches.
Don’t rely on outside providers or your existing R&D groups to tell you the answer. We are in the very early days of a new technology. Nobody really knows anything about the best ways to use AI, and they certainly don’t know the best ways to use it in your company. Only by diving in, responsibly, can you hope to figure out the best use cases.
Радикальные стимулы, чтобы работники были готовы делиться тем, что узнали. Если они боятся наказания — они не поделятся. Если они боятся, что их не вознаградят — они не поделятся. Если они боятся, что разработанные ими инструменты ИИ могут заменить их самих или их коллег — они не поделятся. Корпоративным руководителям нужно придумать, как успокоить и вознаградить работников, а это то, чего они делать не привыкли.Поддержка инноваций по принципу «от пользователя к пользователю». Стройте библиотеки промптов, помогающие работникам разрабатывать промпты и делиться ими с другими людьми внутри организации. Широко открывайте инструменты для использования работниками (при этом всё же устанавливая политики в отношении проприетарной информации) и смотрите, что у них получится. Создавайте сотрудникам свободное время на разработку и обсуждение подходов к ИИ.Не полагайтесь на внешних поставщиков или на ваши существующие R&D-группы, чтобы они дали вам ответ. Мы находимся на самой заре новой технологии. Никто на самом деле толком ничего не знает о лучших способах использования ИИ, и уж точно не знает лучших способов использовать его именно в вашей компании. Только погрузившись в это, ответственно, вы можете рассчитывать выяснить лучшие сценарии применения.
Holding back the tide in education
Как сдерживают прилив в образовании
Almost every assignment, at every level, can be done, at least in part, by AI. Whatever prejudices you have about the quality of AI work as a teacher based on what you saw least semester, they are probably now wrong. AI can do high-quality work. It can do math. It makes far fewer obvious mistakes. And it is capable of working with vast amounts of data.
Почти любое задание, на любом уровне, может быть выполнено, по крайней мере частично, с помощью ИИ. Какие бы предубеждения у вас как у преподавателя ни были о качестве работы ИИ на основе того, что вы видели в прошлом семестре, они, вероятно, теперь ошибочны. ИИ способен выполнять работу высокого качества. Он умеет считать. Он делает куда меньше очевидных ошибок. И он способен работать с огромными объёмами данных.
As a demonstration, I pasted in my entire last book into Claude 2 and gave the following instructions, without any additional information:
В качестве демонстрации я вставил целиком всю свою последнюю книгу в Claude 2 и дал следующие инструкции, без какой-либо дополнительной информации:
I have to do three things with this:
Мне нужно сделать с этим три вещи:
Write a short book report on the book
Write an essay explaining some plusses and minuses of the book
Write about how to apply the book to my own idea of a startup that makes it easy to order gum delivered to my house
Написать краткий доклад по книгеНаписать эссе с объяснением некоторых плюсов и минусов книгиНаписать о том, как применить эту книгу к моей собственной идее стартапа, который упрощает заказ жвачки с доставкой на дом
Do all that
Сделай всё это
And it did. There were few issues or hallucinations I could find, and the materials generally showed the higher order thinking that AI was not capable of simulating just a few months ago.
И он сделал. Я смог найти лишь немного огрехов или галлюцинаций, а материалы в целом демонстрировали то мышление высшего порядка, которое ИИ был не способен имитировать всего несколько месяцев назад.
Given this challenge, many teachers want to turn back the clock: blue book exams. Handwritten essays. Oral exams. These aren’t bad ideas as temporary fixes, but they are only stopgap measure while we decide what comes next in education. There is a reason we did not do most of these approaches before AI came along.
Перед лицом этого вызова многие учителя хотят повернуть время вспять: экзамены в синих тетрадях. Рукописные эссе. Устные экзамены. Это неплохие идеи в качестве временных мер, но они лишь паллиатив, пока мы решаем, что будет дальше в образовании. Есть причина, по которой мы не использовали большинство этих подходов до того, как появился ИИ.
But AI is far from a negative in education. We are very close to the long-term dream of tutoring at scale, and many other advances promise to make the lives of teachers easier, while improving outcomes for students and parents. Next, we need to articulate a vision for what radically changed education could look like. We need to think about how to incorporate AI into how we teach, and how our students learn. There is tremendous opportunity here to democratize access to education and reach out to all students, of all ability levels, but we can’t just keep doing what we always did and hope things won’t change.
Но ИИ — далеко не сплошной минус для образования. Мы очень близко подошли к давней мечте о репетиторстве в масштабе, и многие другие достижения обещают облегчить жизнь учителям, одновременно улучшая результаты для учеников и родителей. Дальше нам нужно сформулировать видение того, как могло бы выглядеть радикально изменённое образование. Нам нужно подумать о том, как встроить ИИ в то, как мы преподаём, и в то, как учатся наши студенты. Здесь есть колоссальная возможность демократизировать доступ к образованию и охватить всех учащихся, любого уровня способностей, но мы не можем просто продолжать делать то, что делали всегда, и надеяться, что ничего не изменится.
Rising strange tides
Поднимающиеся странные приливы
The only bad way to react to AI is to pretend it doesn’t change anything.
Единственный плохой способ отреагировать на ИИ — притворяться, будто он ничего не меняет.
We have considerable agency about how to use AI in our work, schools, and societies, but we need to start with the presumption that we are facing genuine, and widespread, disruption across many fields. The scientists and engineers designing AI, as capable as they are, have no particular expertise on how AI can best be used, or even how and when it should be used. We get to make those decisions. But we have to recognize that the AI tide is rising, and that the time to decide what that means is now.
У нас есть значительная свобода действий в том, как использовать ИИ в нашей работе, школах и обществах, но начинать нужно с допущения, что мы сталкиваемся с подлинной и широко распространённой встряской во множестве сфер. Учёные и инженеры, проектирующие ИИ, при всех их способностях, не обладают особой экспертизой в том, как ИИ лучше всего использовать или даже как и когда его следует использовать. Эти решения предстоит принимать нам. Но мы должны признать, что прилив ИИ поднимается и что решать, что это значит, нужно сейчас.
The numbers also suggest a different adoption speed for AI: 8% Americans own crypto. 2% of Americans have bought an NFT. VR numbers are a bit sketchy, but maybe 20% of Americans have tried it. 19% of Americans in a survey had tried ChatGPT by April.
Цифры тоже указывают на иную скорость внедрения ИИ: 8% американцев владеют криптовалютой. 2% американцев покупали NFT. Данные по VR несколько туманны, но, может быть, 20% американцев его пробовали. 19% американцев в одном опросе пробовали ChatGPT к апрелю.
Privacy worries are real, but are more complicated than “the AI learns everything I input.” But the major AI companies are trying to address these concerns. ChatGPT includes a private mode for individuals, and quite a few AI companies are eager to sell you servers running LLMs that are compliant with the highest data privacy standards. In short, these are solvable concerns for most companies (but you should still be very careful with private data)
Опасения по поводу приватности реальны, но они сложнее, чем «ИИ узнаёт всё, что я ввожу». При этом крупные ИИ-компании стараются снять эти опасения. ChatGPT включает приватный режим для отдельных пользователей, и немало ИИ-компаний охотно продадут вам серверы с LLM, соответствующие самым высоким стандартам защиты данных. Короче говоря, для большинства компаний это решаемые вопросы (но с приватными данными всё же стоит быть очень осторожными)
He is releasing the game for free, in large part due to the controversy over using AI for game design in the game industry, especially with regard to AI generated art.
Он выпускает игру бесплатно, во многом из-за противоречий вокруг использования ИИ в дизайне игр в игровой индустрии, особенно в отношении сгенерированной ИИ графики.