Acceleration.

Acceleration.

Ускорение.

7 days of new AI technologies shows us that everything is happening very fast.

7 дней новых ИИ-технологий показывают нам, что всё происходит очень быстро.

I honestly can’t believe that the pace of generative AI continues to accelerate. Within the past week alone, significant progress has been made in the realm of AI tools - tools which are already accessible to the general public. And, with those tools, we are beginning to see, however blurred, the outlines of how our work and lives might change with AI.

Честно говоря, я не могу поверить, что темп развития генеративного ИИ продолжает ускоряться. Только за последнюю неделю был достигнут значительный прогресс в области ИИ-инструментов — инструментов, которые уже доступны широкой публике. И с помощью этих инструментов мы начинаем видеть, пусть и размыто, очертания того, как наша работа и жизнь могут измениться с приходом ИИ.

There is a lot to discuss, so, rather than this being a deep post, it will be a shallow, but broad, one. I want to outline what has happened in the last week or so, and, more importantly, what has changed about how we should think about our AI era. Consider it a preview of future discussions.

Обсудить нужно многое, поэтому вместо глубокого поста это будет пост поверхностный, но широкий. Я хочу обрисовать, что произошло за последнюю неделю или около того, и, что важнее, что изменилось в том, как нам следует думать о нашей ИИ-эпохе. Считайте это анонсом будущих обсуждений.

What happened?

Что произошло?

So, first what happened in the last seven days? Two major new AI models were released to the public (one mind-blowing, on disappointing); the world of AI image creation leapt forward; and a whole lot of large companies put out specialized products that would have been absolutely disruptive just a few weeks ago, but which are barely noticeable with the background buzz of accelerating technology.

Итак, сначала — что произошло за последние семь дней? Две крупные новые ИИ-модели были выпущены для публики (одна сногсшибательная, другая разочаровывающая); мир ИИ-генерации изображений совершил скачок вперёд; и множество крупных компаний выпустили специализированные продукты, которые ещё несколько недель назад были бы абсолютно революционными, но сейчас едва заметны на фоне гула ускоряющихся технологий.

Lets start with the disappointing model first. That would be Google’s long-awaited Bard. I have had access for 24 hours, but so far it is… not great. It it seems to both hallucinate (make up information) more than other AIs and provide worse initial answers. Take a look at the comparison between Google’s Bard and Microsoft’s Bing AI (based on GPT-4, as we learned last week, more on this in a minute), answering the prompt: Read the PDF of New Modes of Learning Enabled by AI Chatbots: Three Methods and Assignments and perform a draft critique of it. Bard, which Google says is supplemented by searches, gets everything wrong. Bing gives a solid and even thoughtful-feeling critique, and provides sources (though these can be hit or miss, and Bing still hallucinates, just less often)

Начнём с разочаровывающей модели. Это долгожданный Bard от Google. У меня есть доступ к нему уже 24 часа, но пока что он… не очень. Похоже, он одновременно и галлюцинирует (выдумывает информацию) больше, чем другие ИИ, и даёт худшие первоначальные ответы. Взгляните на сравнение Google Bard и Microsoft Bing AI (работающего на GPT-4, как мы узнали на прошлой неделе, об этом чуть позже), отвечающих на запрос: Прочитай PDF «New Modes of Learning Enabled by AI Chatbots: Three Methods and Assignments» и сделай черновой критический разбор. Bard, который, по словам Google, дополнен поиском, ошибается во всём. Bing даёт основательный и даже кажущийся вдумчивым разбор и приводит источники (хотя они бывают как точными, так и нет, и Bing всё ещё галлюцинирует, просто реже).

Again, Bard was just released, so I may not have figured out the secrets of working with it yet. But Bard also fails at generating ideas, at poetry, at helping learn and explain things, at finding interesting connections, etc. I can’t find a use case for this tool yet, it feels incredibly far behind ChatGPT and its competitors. I am not sure why Bard is so mediocre. Google has a lot of talent and many models, so maybe this is just the start.

Опять же, Bard только что выпущен, так что, возможно, я ещё не разгадал секреты работы с ним. Но Bard также не справляется с генерацией идей, с поэзией, с помощью в обучении и объяснении вещей, с поиском интересных связей и так далее. Я пока не могу найти ни одного сценария применения этого инструмента — он кажется невероятно сильно отстающим от ChatGPT и его конкурентов. Я не уверен, почему Bard настолько посредственный. У Google много талантов и множество моделей, так что, может быть, это только начало.

So lets turn the big competitor - GPT-4, from OpenAI. If you have been using ChatGPT since November, you have been using GPT-3.5. As of last week, paying customers have access to the newest model, GPT-4. It is incredibly impressive. It also turns out that Bing was running on GPT-4 all along1, so you may want to look at the list of surprising things Bing does in order to get a sense of GPT-4’s capabilities. I will dive a lot more into GPT-4 in the future, but as one example of its power, I have been using it to write programs in Python and Unity (programming languages I literally do not know at all!) by just telling it what I want in words: "I need to create an Amazon Echo skill that will flash my hue lights green and blue when I yell party. Can you create it?" It did, and now my lights flash blue and green.

Так что давайте обратимся к большому конкуренту — GPT-4 от OpenAI. Если вы пользуетесь ChatGPT с ноября, то вы пользовались GPT-3.5. С прошлой недели платным клиентам доступна новейшая модель — GPT-4. Она невероятно впечатляет. Также оказалось, что Bing всё это время работал на GPT-41, так что вы, возможно, захотите взглянуть на список удивительных вещей, которые делает Bing, чтобы получить представление о возможностях GPT-4. Я гораздо подробнее погружусь в GPT-4 в будущем, но в качестве одного примера его мощи: я использовал его, чтобы писать программы на Python и Unity (языках программирования, которых я вообще совершенно не знаю!), просто рассказывая ему словами, чего я хочу: «Мне нужно создать навык для Amazon Echo, который будет мигать моими лампами hue зелёным и синим, когда я кричу „вечеринка“. Можешь его создать?» Он создал, и теперь мои лампы мигают синим и зелёным.

Also, it appears to pass the Bar, LSAT, SAT, the Medical Licensing Exam…

Кроме того, похоже, он сдаёт экзамен на адвоката (Bar), LSAT, SAT, медицинский лицензионный экзамен…

The third major updated product is Midjourney, the image generation AI. It now generates photo-realistic pictures with a simple sentence. Here’s “a woman climbing a hill towards the camera.” It takes effort to see that it isn’t real.

Третий крупный обновлённый продукт — Midjourney, ИИ для генерации изображений. Теперь он генерирует фотореалистичные картинки по простому предложению. Вот «женщина, поднимающаяся на холм навстречу камере». Нужно постараться, чтобы заметить, что это ненастоящее.

And this isn’t even the end of what happened this week: Microsoft rolled out a new coding companion (the original, primitive, one already cut programming time in half in one controlled study), learning companies like Duolingo and Khan academy are teaching with ChatGPT tutors, Adobe released AI creative tools, and lots more. Each of these moves are interesting, but, for this post, lets move to the bigger questions:

И это даже не конец того, что произошло на этой неделе: Microsoft выпустил нового помощника для написания кода (исходный, примитивный, уже сократил время программирования вдвое в одном контролируемом исследовании), обучающие компании вроде Duolingo и Khan Academy преподают с помощью репетиторов на ChatGPT, Adobe выпустила творческие ИИ-инструменты и многое другое. Каждый из этих шагов интересен, но в этом посте давайте перейдём к более крупным вопросам:

What does it mean?

Что это значит?

Here are a few thoughts on initial implications after experiencing these new tools:

Вот несколько мыслей о первоначальных последствиях после знакомства с этими новыми инструментами:

Even if AI technology did not advance past today, it would be enough for transformation. GPT-4 is more than capable of automating, or assisting with, vast amounts of highly-skilled work without any additional upgrades or improvements. Programmers, analysts, marketing writers, and many other jobs will find huge benefits to working with AI, and huge risks if they do not learn to use these tools. We will need to rethink testing and certification, with AI already able to pass many of our most-challenging tests. Education will need to evolve. A lot is going to change, and these tools are still improving.

Даже если бы ИИ-технологии не продвинулись дальше сегодняшнего дня, этого было бы достаточно для трансформации. GPT-4 более чем способен автоматизировать огромные объёмы высококвалифицированной работы или помогать с ней без каких-либо дополнительных обновлений или улучшений. Программисты, аналитики, авторы маркетинговых текстов и многие другие профессии обнаружат огромную пользу от работы с ИИ и огромные риски, если не научатся пользоваться этими инструментами. Нам придётся переосмыслить тестирование и сертификацию, ведь ИИ уже способен сдавать многие из наших самых сложных экзаменов. Образованию придётся эволюционировать. Многое изменится, а эти инструменты всё ещё совершенствуются.

Some of the risks of highly-capable AIs is becoming clear. OpenAI released a white paper showing how GPT-4 was capable of some dangerous acts, from giving accurate advice on money laundering to writing threatening messages to people, if it wasn’t stopped by the system’s internal guardrails. GPT-4 was even able to develop, and order online, chemicals that it built to matched the properties of known compounds. And better image generation makes fakes easy - you really can’t trust any photo or video anymore. For a lighter take on how easy this is, below is a picture I generated of an iPhone photo of the Loch Ness monster, but it also works for political figures and more. We are not ready for the disruption that AIs, especially those that can create realistic deepfake images and videos, will bring, and those capabilities are already here.

Некоторые риски высокоспособных ИИ становятся очевидны. OpenAI опубликовала доклад, показывающий, как GPT-4 был способен на некоторые опасные действия — от точных советов по отмыванию денег до написания угрожающих сообщений людям, если бы его не остановили внутренние ограничители системы. GPT-4 даже смог разработать, и заказать онлайн, химические вещества, которые он подобрал так, чтобы они соответствовали свойствам известных соединений. А более качественная генерация изображений делает подделки лёгким делом — вы действительно больше не можете доверять ни одной фотографии или видео. В качестве более лёгкого примера того, насколько это просто, ниже — сгенерированная мной картинка с фотографией Лох-Несского чудовища на iPhone, но это также работает и для политических фигур, и не только. Мы не готовы к потрясениям, которые принесут ИИ, особенно те, что могут создавать реалистичные дипфейк-изображения и видео, а эти возможности уже здесь.

Things are not slowing down. If we had hoped for a breather to absorb all of this new technology, it isn’t going to happen. Too many organizations are incentivized to release AI products to imagine anything slowing down. Likely, between the time I send this email and you read it, Microsoft will have added image generation capabilities to Bing, continuing the blistering pace of AI development. And, while there may be limits to the AI technologies like Large Language Models, we haven’t reached them yet. And there there is this extraordinary new paper by Microsoft researchers, full of examples, in which they conclude, rather mind-blowingly, that GPT-4 “could reasonably be viewed as an early (yet still incomplete) version of an artificial general intelligence (AGI) system.” I don’t think anyone knows what the next few years of technology will look like.

Всё не замедляется. Если мы надеялись на передышку, чтобы усвоить все эти новые технологии, то этого не случится. Слишком много организаций заинтересованы в выпуске ИИ-продуктов, чтобы можно было представить хоть какое-то замедление. Скорее всего, между тем моментом, когда я отправлю это письмо, и тем, когда вы его прочитаете, Microsoft добавит в Bing возможности генерации изображений, продолжая бешеный темп развития ИИ. И хотя у таких ИИ-технологий, как большие языковые модели (LLM), могут быть пределы, мы их ещё не достигли. А ещё есть эта выдающаяся новая статья исследователей Microsoft, полная примеров, в которой они приходят к довольно сногсшибательному выводу, что GPT-4 «вполне обоснованно можно рассматривать как раннюю (но всё ещё неполную) версию системы общего искусственного интеллекта (AGI)». Не думаю, что кто-либо знает, как будут выглядеть технологии следующих нескольких лет.

This wasn’t supposed to be an AI-focused Substack. My original idea was that I would write about a different management paper every post (“One Useful Thing”), not a single topic. And that is what I did until the end of November, when ChatGPT turned me from an AI-skeptic to an AI-believer. I have only come to believe more fervently that the world is about to change in complex ways, both good and bad. And I think the only way to prepare for the future is to get as comfortable as possible with the AIs available today. Everyone should practice using them for work and personal tasks, so that you can understand their uses and limits. Things are only going to accelerate further from here.

Этот Substack не задумывался как ориентированный на ИИ. Моя изначальная идея состояла в том, что я буду писать в каждом посте о новой статье по менеджменту («Одна полезная вещь»), а не на одну тему. Именно так я и делал до конца ноября, когда ChatGPT превратил меня из ИИ-скептика в ИИ-сторонника. Я лишь стал ещё более горячо убеждён, что мир вот-вот изменится сложным образом — и к лучшему, и к худшему. И я думаю, что единственный способ подготовиться к будущему — это максимально освоиться с ИИ, доступными сегодня. Каждому стоит практиковаться в их использовании для рабочих и личных задач, чтобы понять их возможности и пределы. Дальше всё будет только ускоряться.

Share

Поделиться

My guide to the weirdness that is Bing.

Мой гид по странностям Bing.