What just happened, what is happening next
Итан Моллик подводит итоги нескольких месяцев развития ИИ к моменту выхода своей книги «Co-Intelligence». Лучшие оценки показывают, что способности больших языковых моделей удваиваются каждые 5–14 месяцев, и мы до сих пор не знаем полного потенциала даже существующих фронтирных моделей (Claude 3, GPT-4, Gemini). Тщательный промптинг позволяет ИИ решать задачи, которые казались невозможными: например, программист Виктор Таэлин поставил $10 000 на то, что GPT никогда не решат «задачу A::B», но люди справились за день одними лишь промптами. Появляются строгие исследования «сверхчеловеческой» эффективности: в рандомизированном контролируемом исследовании GPT-4 повышал шанс переубедить человека на 87% по сравнению с человеком-оппонентом, а в журнале JAMA Internal Medicine ИИ превзошёл врачей в клинических рассуждениях по реальным случаям. Третья тема — агенты вроде Devin, действующие автономно; Моллик попросил Devin предлагать на Reddit постройку сайтов, и агент сам решил брать за это плату. Если новое поколение моделей окажется намного сильнее нынешних, эти три тренда — неясные верхние пределы способностей, сверхчеловеческие навыки и автономные агенты — приобретут огромное значение, вплоть до виртуальных сотрудников и массовых мошенничеств.
What just happened, what is happening next
Что только что произошло и что будет дальше
The tasks AI can do well are expanding rapidly
Круг задач, которые ИИ выполняет хорошо, стремительно расширяется
The current best estimates of the rate of improvement in Large Language Models show capabilities doubling ever 5 to 14 months. This incredibly rapid pace was on my mind as I put the finishing touches on my book (available at every major bookstore and now, with its bestseller status, apparently discounted 33% at Amazon) back at the end of December. Given that I knew it would release in April, I wrote it in a way that would be relatively timeless, but I also had to make a couple forecasts on where the future would be heading. Fortunately, I think I predicted correctly, and, as a result, the book still encompasses the current state-of-the-art. But that doesn’t mean that nothing has changed in the last four months. So, I wanted to go over the last few months of AI and take stock of what we have learned about what AI models can do, and especially, what AI might do soon.
Текущие наилучшие оценки темпов улучшения больших языковых моделей показывают, что их способности удваиваются каждые 5–14 месяцев. Этот невероятно быстрый темп был у меня на уме, когда в конце декабря я вносил последние штрихи в свою книгу (доступна в любом крупном книжном магазине, а теперь, со статусом бестселлера, видимо, продаётся со скидкой 33% на Amazon). Поскольку я знал, что она выйдет в апреле, я писал её так, чтобы она оставалась относительно вневременной, но мне всё же пришлось сделать пару прогнозов о том, куда движется будущее. К счастью, думаю, я предсказал верно, и в результате книга всё ещё отражает текущее состояние дел. Но это не значит, что за последние четыре месяца ничего не изменилось. Поэтому я хотел пройтись по последним месяцам в сфере ИИ и оценить, что мы узнали о том, на что способны модели ИИ, и особенно — что ИИ, возможно, сможет делать в скором будущем.
We Still Don’t Know the Full Capabilities of Current Frontier Models
Мы всё ещё не знаем полного набора возможностей нынешних фронтирных моделей
At the time I finished the book, there was one frontier model, GPT-4. Now have three GPT-4 class models, all of roughly similar abilities but with unique strengths and weaknesses: Claude 3, GPT-4, and Google’s Gemini (confusingly Gemini 1.0 Advanced and Gemini 1.5 Pro are both GPT-4 class models, but Gemini 1.0 Pro is not). While the release of the first models to clearly surpass GPT-4 are expected to occur in the coming months, one thing we have learned is that we have not come close to exhausting the abilities of even existing AIs.
К моменту, когда я закончил книгу, существовала одна фронтирная модель — GPT-4. Теперь у нас три модели класса GPT-4, примерно сопоставимых по способностям, но со своими уникальными сильными и слабыми сторонами: Claude 3, GPT-4 и Gemini от Google (что сбивает с толку, Gemini 1.0 Advanced и Gemini 1.5 Pro обе относятся к классу GPT-4, а вот Gemini 1.0 Pro — нет). Хотя выход первых моделей, явно превосходящих GPT-4, ожидается в ближайшие месяцы, одно мы усвоили точно: мы и близко не исчерпали возможности даже уже существующих ИИ.
In fact, it is often very hard to know what these models can’t do, because most people stop experimenting when an approach doesn’t work. Yet careful prompting can often make an AI do something that seemed impossible. For example, this weekend, programmer Victor Taelin made a bet. He argued that "GPTs will NEVER solve the A::B problem" because they can’t learn how to reason over new information. He offered $10,000 to anyone who could get an AI to solve the problem in the image below (he called it a “braindead question that most children should be able to read, learn and solve in a minute,” though I am not sure it is that simple, but you should try it.)
На самом деле часто очень трудно понять, чего эти модели не могут, потому что большинство людей прекращают эксперименты, как только подход не срабатывает. А ведь грамотный промптинг нередко способен заставить ИИ сделать то, что казалось невозможным. Например, в эти выходные программист Victor Taelin заключил пари. Он утверждал, что «GPT НИКОГДА не решат задачу A::B», потому что они не способны научиться рассуждать над новой информацией. Он предложил $10 000 любому, кто сможет заставить ИИ решить задачу с картинки ниже (он назвал её «безмозглым вопросом, который большинство детей должны уметь прочитать, понять и решить за минуту», хотя я не уверен, что всё так просто, но вам стоит попробовать).
Multiple people figured out how to get AI to solve the problem within the day using prompts alone. I had a bit of a similar experience where I could not make an AI solve the New York Times crossword, and, after sharing my belief that this was a hard problem, Prof. Arvind Narayanan showed it was doable by GPT-4.
Несколько человек в тот же день придумали, как заставить ИИ решить эту задачу, используя одни лишь промпты. У меня был похожий опыт: я не смог заставить ИИ решить кроссворд New York Times, и после того как я поделился своим убеждением, что это сложная задача, профессор Arvind Narayanan показал, что это под силу GPT-4.
In fact, even the creators of the LLMs do not really know what these systems are capable of. Here, for example, is a three-page prompt we developed that turns GPT-4 or Claude 3 into a negotiation simulator, complete with grading and integrated lessons (we have a lot more educational prompts coming soon in a new paper, but you can find this one, like our previous prompts, in our prompt library, released under creative commons license or try it as a GPT). We have demonstrated this, and similar prompts, to people within the major AI labs who did not realize their own models were capable of such sophisticated interactions from a prompt alone.
На самом деле даже создатели LLM толком не знают, на что способны эти системы. Вот, например, трёхстраничный промпт, который мы разработали и который превращает GPT-4 или Claude 3 в симулятор переговоров — с оценками и встроенными уроками (вскоре у нас выйдет ещё много образовательных промптов в новой статье, но этот, как и наши прежние промпты, вы можете найти в нашей библиотеке промптов, выпущенной под лицензией Creative Commons, или попробовать в виде GPT). Мы демонстрировали этот и похожие промпты сотрудникам крупных ИИ-лабораторий, которые не подозревали, что их собственные модели способны на такие сложные взаимодействия по одному лишь промпту.
This doesn’t mean the systems are capable of every human task, of course, but merely that it is hard to prove that they don’t do something well from simple experiments. At the same time, there is no single best way to prompt AIs (researchers keep discovering new techniques and approaches), making trying to show that AI can do something dependent on a mix of art, skill, and motivation. And this doesn’t even include the added element of tool use - when you give AI access to things like Google search, the systems can actually outperform humans at fact-checking, an area where AIs without tools are notoriously weak.
Это, разумеется, не означает, что системы способны на любую человеческую задачу, — лишь то, что трудно доказать на простых экспериментах, будто они чего-то не умеют хорошо. При этом нет единственно верного способа промптить ИИ (исследователи продолжают открывать новые приёмы и подходы), так что попытка показать, что ИИ что-то умеет, зависит от сочетания искусства, навыка и мотивации. И это даже без учёта дополнительного фактора — использования инструментов: когда вы даёте ИИ доступ к таким вещам, как поиск Google, системы способны превзойти людей в проверке фактов — в области, где ИИ без инструментов славятся своей слабостью.
More Signs of “Superhuman Performance” at Human Tasks
Всё больше признаков «сверхчеловеческой эффективности» в человеческих задачах
Indeed, over the past few months we have begun to see more careful papers indicating that AIs can exceed human performance at very human tasks, a phenomenon some researchers call “superhuman performance.” To be fair, it isn’t exactly clear what “superhuman” performance is where AIs are concerned (better than the average human? better than the best human?) but it at least suggests capabilities that begin to have radical impacts.
Действительно, за последние несколько месяцев начали появляться более тщательные работы, указывающие на то, что ИИ способны превосходить человека в очень человеческих задачах — явление, которое некоторые исследователи называют «сверхчеловеческой эффективностью». Справедливости ради, не вполне ясно, что такое «сверхчеловеческая» эффективность применительно к ИИ (лучше среднего человека? лучше лучшего человека?), но это по крайней мере указывает на возможности, которые начинают оказывать радикальное воздействие.
Famously, Sam Altman mentioned that AI may be capable of superhuman persuasion in the near future. New research suggests he might be right already.
Как известно, Sam Altman упомянул, что в ближайшем будущем ИИ может оказаться способным к сверхчеловеческому убеждению. Новые исследования намекают, что он, возможно, уже прав.
In a randomized, controlled, pre-registered study GPT-4 was better able to change people’s minds during a conversational debate than other humans, at least when it is given access to personal information about the person it is debating (people given the same information were not more persuasive). The effects were significant: the AI increased the chance of someone changing their mind by 87% over a human debater. This might be why a second paper found that GPT-4 could accomplish a famously difficult conversational task: arguing with conspiracy theorists. That controlled trial found that a three-round debate, with GPT-4 arguing the other side, robustly lowers conspiracy theory beliefs. Even more surprisingly, the effects persist over time, even for true believers.
В рандомизированном, контролируемом, предварительно зарегистрированном исследовании GPT-4 лучше людей умел менять мнение собеседника в ходе дискуссии — по крайней мере, когда ему давали доступ к личной информации о человеке, с которым он спорит (люди, получившие ту же информацию, убедительнее не становились). Эффект был значительным: ИИ повышал вероятность того, что человек изменит своё мнение, на 87% по сравнению с человеком-оппонентом. Возможно, именно поэтому вторая работа обнаружила, что GPT-4 справляется со знаменито сложной разговорной задачей — спором с конспирологами. Это контролируемое исследование показало, что трёхраундовая дискуссия, в которой GPT-4 отстаивает противоположную сторону, устойчиво снижает веру в теории заговора. Что ещё удивительнее, эффект сохраняется со временем — даже у убеждённых сторонников.
Lowering conspiratorial beliefs might be a good use of AI persuasion, but the high levels of AI persuasiveness also suggest some concerns about what AIs might be able to talk humans into doing. As Altman wrote, highly persuasive bots “may lead to some very strange outcomes,” which might be an understatement. I suspect major changes in the world of marketing, at a minimum. After all, it is now trivial to build a vending machine that can engage you in discussion and be very persuasive about it.
Снижение конспирологических убеждений, возможно, и есть хорошее применение убеждающей силы ИИ, но высокий уровень убедительности ИИ также вызывает опасения по поводу того, к чему ИИ могут склонить людей. Как писал Altman, чрезвычайно убедительные боты «могут привести к весьма странным последствиям» — и это, пожалуй, преуменьшение. Я подозреваю, что как минимум произойдут крупные перемены в мире маркетинга. В конце концов, теперь не составляет труда сделать торговый автомат, который втянет вас в беседу и будет весьма убедителен.
Persuasion is not the only area that AI competes with humans. In the book, I discuss business, legal, and medical uses for LLMs, and the evidence for the value of AI in these spaces continues to accumulate. AI seem to do all sorts of specialized tasks that it was not necessarily trained for at very high levels. Claude 3, for example, was given this test which was designed to be particularly challenging for AIs. It is really hard for humans as well. PhDs with access to the internet and unlimited time got 34% of the questions outside their specialty right on the exam and typically scored 65%-75% on the questions in their field. Yet Claude 3 gets 60% overall.
Убеждение — не единственная область, где ИИ соперничает с человеком. В книге я обсуждаю применение LLM в бизнесе, юриспруденции и медицине, и доказательства ценности ИИ в этих сферах продолжают накапливаться. ИИ, похоже, выполняет самые разные специализированные задачи, которым его не обязательно специально обучали, на очень высоком уровне. Claude 3, например, прошёл этот тест, который был специально разработан, чтобы быть особенно трудным для ИИ. Для людей он тоже по-настоящему сложен. Доктора наук с доступом к интернету и неограниченным временем верно отвечали лишь на 34% вопросов вне своей специальности и обычно набирали 65–75% по вопросам в своей области. А Claude 3 набирает 60% в целом.
These results are also occurring outside of tests, in real-world settings. A new study in JAMA Internal Medicine finds that AI was better than physicians in processing medical data and doing clinical reasoning on real patient cases. That doesn’t mean that AI can replace doctors, of course, but it does suggest something else that is very important. To quote from one of the paper authors, the research shows “that LLMs are capable of mimicking some of the powerful processes that we use to make diagnoses — processes that, until basically last year, we physicians thought were unique to us.”
Эти результаты возникают и за пределами тестов, в реальных условиях. Новое исследование в JAMA Internal Medicine обнаружило, что ИИ лучше врачей справлялся с обработкой медицинских данных и клиническими рассуждениями по реальным случаям пациентов. Это, конечно, не означает, что ИИ может заменить врачей, но указывает на кое-что иное, очень важное. Цитируя одного из авторов работы, исследование показывает, что «LLM способны имитировать некоторые из мощных процессов, которые мы используем для постановки диагнозов, — процессов, которые буквально до прошлого года мы, врачи, считали присущими лишь нам».
I think it is worth paying attention to that conclusion, because you are going to see it in many places: things that we thought were uniquely human a year ago are going to be done by machines in the coming years, often at a “superhuman” level. We need to be ready for that to occur, while also watching out for the biases and weaknesses of these systems that might be hidden by their seemingly impressive abilities (for example, GPT-4 has many biases when asked to evaluate candidates for hiring). Professions that begin to prepare for this future (I like this self-reflective study by professors of data science as an example) will do better than those that ignore the coming change.
Думаю, на этот вывод стоит обратить внимание, потому что вы будете встречать его во многих местах: то, что год назад мы считали исключительно человеческим, в ближайшие годы будут делать машины, причём нередко на «сверхчеловеческом» уровне. Нам нужно быть готовыми к тому, что это произойдёт, и при этом следить за предвзятостями и слабостями этих систем, которые могут скрываться за их кажущимися впечатляющими способностями (например, у GPT-4 есть множество предвзятостей, когда его просят оценить кандидатов при найме). Профессии, которые начнут готовиться к этому будущему (в качестве примера мне нравится это рефлексивное исследование профессоров науки о данных), будут чувствовать себя лучше тех, кто игнорирует грядущие перемены.
Agents and Everything After
Агенты и всё, что за ними
Agents are AI systems given the ability to plan and use tools, allowing them to act autonomously. I mention them in the book but was not expecting them to advance as rapidly as they have. Agents like Devin “the software developer” and open-source alternatives suggest that we are close to a new paradigm of AI use than I thought a few months ago.
Агенты — это системы ИИ, наделённые способностью планировать и использовать инструменты, что позволяет им действовать автономно. Я упоминаю их в книге, но не ожидал, что они будут развиваться так стремительно, как это произошло. Агенты вроде Devin — «разработчика ПО» — и их опенсорсные аналоги намекают, что мы ближе к новой парадигме использования ИИ, чем я думал ещё несколько месяцев назад.
I increasingly suspect that agents may also be a key to integrating AIs with organizations, at least in the short term. Organizations are often reluctant to empower their workers to use AI, but agents fit more naturally into the existing structure of organizations. Because you assign them tasks, like humans, they can work as “AI contract workers” who are delegated jobs. Agents also represent the first break away from the chatbot and copilot models for interacting with AI. There is something compelling about assigning a task to an agent like Devin, and then not worrying about it again because you know it is on it and will message you if it has any questions.
Я всё больше склоняюсь к мысли, что агенты, возможно, окажутся ключом к интеграции ИИ в организации — по крайней мере, в краткосрочной перспективе. Организации зачастую неохотно дают своим сотрудникам полномочия использовать ИИ, но агенты органичнее вписываются в существующую структуру организаций. Поскольку вы поручаете им задачи, как людям, они могут работать как «ИИ-подрядчики», которым делегируют работу. Агенты также представляют собой первый отход от моделей чат-бота и копилота во взаимодействии с ИИ. Есть что-то притягательное в том, чтобы поручить задачу агенту вроде Devin и затем больше о ней не беспокоиться, зная, что он за неё взялся и напишет вам, если возникнут вопросы.
But the human-like way in which you interact with agents also suggests bigger changes ahead. I asked the Devin AI agent to go on Reddit and offer to build websites for people. Over the next couple hours, it did that, solving numerous problems along the way, including navigating the complex social rules associated with posting on a Reddit forum.
Но та человекоподобная манера, в которой вы взаимодействуете с агентами, тоже намекает на более крупные перемены впереди. Я попросил ИИ-агента Devin зайти на Reddit и предложить людям создание сайтов. В течение следующей пары часов он это делал, решая по ходу множество проблем, в том числе ориентируясь в сложных социальных правилах публикации на форуме Reddit.
Here is what it posted… you can see it pretended to be a person and spontaneously decided to charge for its work! The agent was already starting to respond to some posters and was figuring out ways to help them when I took the posting down (I was worried it would actually start billing people).
Вот что он опубликовал… можно увидеть, что он выдал себя за человека и спонтанно решил брать плату за свою работу! Агент уже начинал отвечать некоторым авторам постов и придумывал способы им помочь, когда я снял публикацию (я опасался, что он и правда начнёт выставлять людям счета).
To be clear, I know that Devin would not have been able to actually complete all of the tasks it was taking on. The system makes mistakes and gets stuck often. It is not yet close to human performance. Devin’s limits are ultimately the capabilities of the GPT-4 class models that power them. If AI development pauses at this level, agents will be useful, but limited in their ability to truly act autonomously. One of the biggest questions about the current state of AI is whether the next generation of models are going to significantly improve over the existing ones. I suspect we will know the answer soon.
Уточню: я понимаю, что Devin на самом деле не смог бы выполнить все задачи, за которые брался. Система ошибается и часто застревает. Она пока далека от человеческого уровня. Пределы Devin в конечном счёте — это возможности моделей класса GPT-4, которые им управляют. Если развитие ИИ остановится на этом уровне, агенты будут полезны, но ограничены в своей способности действовать по-настоящему автономно. Один из важнейших вопросов о нынешнем состоянии ИИ — станет ли следующее поколение моделей существенно лучше нынешних. Подозреваю, что ответ мы узнаем скоро.
If new AIs are much better than current ones, the three threads I have outlined - unclear upper capabilities, “superhuman” abilities in some areas, and autonomous agents - begin to matter a lot. Entrepreneurs can deploy agents as virtual employees, creating large companies with few real people. Criminals can use agents to conduct mass scams, relying on their abilities to convince their marks at low cost. And that is just the start. If these trends continue, superhumanly persuasive vending machines will be one of the least weird consequences of AI.
Если новые ИИ окажутся намного лучше нынешних, то три обозначенные мной линии — неясные верхние пределы способностей, «сверхчеловеческие» навыки в некоторых областях и автономные агенты — начнут иметь огромное значение. Предприниматели смогут развёртывать агентов в роли виртуальных сотрудников, создавая крупные компании при немногих реальных людях. Преступники смогут использовать агентов для массовых мошенничеств, полагаясь на их способность убеждать жертв при низких издержках. И это лишь начало. Если эти тенденции сохранятся, сверхчеловечески убедительные торговые автоматы окажутся одним из наименее странных последствий ИИ.
