newsmode
search
Меню
arrow_back Назад

An Opinionated Guide to Which AI to Use: ChatGPT Anniversary Edition

auto_awesomeКраткое саммари

Эта-н Моллик публикует обновлённое руководство по выбору ИИ к годовщине ChatGPT: его главный и предельно простой совет — получить доступ к GPT-4 от OpenAI и перестать пользоваться бесплатным ChatGPT на базе GPT-3.5. По его словам, GPT-4 уже около года остаётся непревзойдённым: модели уровня GPT-3.5 (Google Bard на Gemini Pro, Grok Маска, Anthropic Claude 2.1, Pi от Inflection) догнали GPT-3.5, но не GPT-4, а именно на уровне GPT-4 ИИ становится по-настоящему выдающимся — повышает реальную продуктивность и генерирует идеи лучше большинства людей. Поскольку подписку ChatGPT Plus за $20/мес временно не продают, лучшим бесплатным способом доступа к GPT-4 он называет Microsoft Bing в режиме Creative или Precise (но не Balanced); альтернативы — Perplexity и Poe за $20/мес. Моллик также кратко разбирает open-source LLM, Claude 2.1 с большим контекстным окном, «социальный» чат-бот Pi, Grok и Google Bard на Gemini Pro, отмечая, что Google обещает в январе выпустить Gemini Ultra — первую модель, превосходящую GPT-4. Он подчёркивает, что нынешнее положение временно: ИИ проникает в приложения, а сегодняшние модели — худшие из тех, что вы когда-либо будете использовать.

An Opinionated Guide to Which AI to Use: ChatGPT Anniversary Edition

Субъективное руководство по выбору ИИ: выпуск к годовщине ChatGPT

A simple answer, and then a less simple one.

Простой ответ, а затем не такой простой.

Update: March 8, 2024: There are now 3 GPT-4 class models to pick from: GPT-4, Google’s Gemini Advanced, and Claude 3. The arguments for using GPT-4 apply to them as well.

Обновление: 8 марта 2024 г.: теперь на выбор есть 3 модели класса GPT-4: GPT-4, Google Gemini Advanced и Claude 3. Аргументы в пользу GPT-4 применимы и к ним.

The world of generative AI seems very confusing, with tons of Large Language Models released in just the past few months, including a major new announcement from Google. So, given all of this, a lot of people ask me which AI they should actually try. I want to give you an answer from the perspective of an individual user who wants to experiment with AI, either to experience what AI is like, or because they want to put it to a specific use - teaching, boosting creativity, improving work performance, or just for fun.

Мир генеративного ИИ кажется крайне запутанным: всего за последние несколько месяцев вышла масса больших языковых моделей, включая крупный новый анонс от Google. Поэтому многие спрашивают меня, какой ИИ им стоит попробовать. Я хочу дать ответ с точки зрения индивидуального пользователя, который хочет поэкспериментировать с ИИ — либо чтобы понять, что такое ИИ, либо потому что хочет применить его для конкретной цели: преподавания, развития креативности, повышения эффективности работы или просто ради удовольствия.

The advice that I have for most people who want to use AI is incredibly simple. Of course, once I tell you the simple answer I will complicate it a bit, and then complicate it a bit more, but let’s start with the easy stuff: get GPT-4. And stop using free ChatGPT.

Совет, который у меня есть для большинства желающих использовать ИИ, невероятно прост. Конечно, как только я дам простой ответ, я его немного усложню, а потом усложню ещё чуть больше, но давайте начнём с лёгкого: получите GPT-4. И перестаньте пользоваться бесплатным ChatGPT.

The Easy Answer

Простой ответ

If you are at all interested in generative AI and understanding what it can do and why it matters, you should just get access to OpenAI’s GPT-4 in as unadulterated and direct way as possible. Everything else comes after that.

Если вас хоть сколько-нибудь интересует генеративный ИИ и понимание того, на что он способен и почему это важно, вам стоит просто получить доступ к GPT-4 от OpenAI как можно более прямым и неискажённым способом. Всё остальное — потом.

GPT-4 is at least a year old. But, in that year, despite billions of dollars of investment, no company has managed to match the general capabilities of this model, for reasons that are not completely clear. Google just announced that their new Gemini Ultra model beats GPT-4 (by relatively small margins), but it isn’t available yet, so I have not tried it.

GPT-4 как минимум год от роду. Но за этот год, несмотря на миллиарды долларов инвестиций, ни одной компании не удалось сравниться с общими возможностями этой модели — по причинам, которые не до конца ясны. Google только что объявила, что её новая модель Gemini Ultra превосходит GPT-4 (с относительно небольшим отрывом), но она ещё недоступна, так что я её не пробовал.

Now, to be clear, this is not the free ChatGPT, which uses GPT-3.5. In the last year, many companies have caught up with GPT-3.5: Google’s new Bard that has actually been released, powered by a system called Gemini Pro, is around GPT-3.5 level. Elon Musk’s Grok is around GPT-3.5 level. Anthropic’s Claude 2.1 is a bit better than GPT-3.5, as is Inflection’s model which powers the Pi Chatbot. A number of open source solutions are close to that level as well. But none of them, as of right now, beat GPT-4. Why is that important? Because at the GPT-4 level, AIs start becoming truly extraordinary.

Сразу уточню: это не бесплатный ChatGPT, который работает на GPT-3.5. За последний год многие компании догнали GPT-3.5: новый Bard от Google, который действительно был выпущен и работает на системе под названием Gemini Pro, примерно на уровне GPT-3.5. Grok Илона Маска — примерно на уровне GPT-3.5. Claude 2.1 от Anthropic немного лучше GPT-3.5, как и модель Inflection, на которой работает чат-бот Pi. Ряд open-source-решений тоже близок к этому уровню. Но ни одно из них на данный момент не превосходит GPT-4. Почему это важно? Потому что именно на уровне GPT-4 ИИ начинает становиться по-настоящему выдающимся.

There are lots of ways of trying to describe the big gap between GPT-3.5-class AIs and GPT-4. As you can see below, GPT-4 is much better at test scores, but tests are a hard way to judge AI. So, consider that, at the level of GPT-4, AI has real-world impact: we found that GPT-4 boosts real work performance, and other researchers have shown that it generates better ideas than most humans. GPT-4 also just feels smarter, you are more likely to get the weird illusion of sentience from it than any other model. In many ways, that general vibe is actually the most important difference - using GPT-4, you can get a sense of the future of AIs.

Есть много способов описать большой разрыв между ИИ класса GPT-3.5 и GPT-4. Как вы видите ниже, GPT-4 гораздо лучше справляется с тестами, но тесты — плохой способ судить об ИИ. Так что учтите: на уровне GPT-4 ИИ оказывает реальное влияние на практике — мы обнаружили, что GPT-4 повышает эффективность реальной работы, а другие исследователи показали, что он генерирует идеи лучше, чем большинство людей. GPT-4 к тому же просто ощущается умнее: от него с большей вероятностью возникает странная иллюзия разумности, чем от любой другой модели. Во многих отношениях именно это общее ощущение и есть самое важное отличие — пользуясь GPT-4, вы можете почувствовать будущее ИИ.

It also helps that GPT-4 is the most full-featured model. It has access to web browsing (so it is no longer stuck with just the knowledge it had at training), it is multimodal (which means it can “see” and listen to speech), it can create images, it can code and do data analysis, and it can talk back to you (at least in the phone app). There are lots of other nice features, like the option for a privacy mode that doesn’t share your data. It also has enough memory (its “context window”) that it can do pretty complex tasks:

Помогает и то, что GPT-4 — самая полнофункциональная модель. У неё есть доступ к веб-поиску (так что она больше не ограничена лишь теми знаниями, что были на момент обучения), она мультимодальна (то есть может «видеть» и слушать речь), может создавать изображения, писать код и выполнять анализ данных, а также может отвечать вам голосом (по крайней мере, в приложении для телефона). Есть масса других приятных возможностей, например опция режима приватности, который не передаёт ваши данные. У неё также достаточно памяти (её «контекстного окна»), чтобы выполнять довольно сложные задачи:

Look up the reasons why someone should choose GPT-4 compared to other LLMs. Take the information and summarize it in a poem, the first stanza in English and the second in Latin. Then make an inspirational poster about GPT-4. Then do something with code to demonstrate your capabilities. In the results, you can see how it browses the web (including citing sources), writes a poem in a couple of languages, makes a poster, and then writes and executes code, all in a prompt or two.

Найди причины, почему стоит выбрать GPT-4 по сравнению с другими LLM. Возьми эту информацию и обобщи её в стихотворении: первая строфа на английском, вторая — на латыни. Затем сделай вдохновляющий постер про GPT-4. Затем сделай что-нибудь с кодом, чтобы продемонстрировать свои возможности. В результатах вы можете увидеть, как он ищет в интернете (в том числе со ссылками на источники), пишет стихотворение на паре языков, делает постер, а затем пишет и выполняет код — и всё это за один-два запроса.

When I speak in front of groups and ask them to raise their hands if they used the free version of ChatGPT, almost every hand goes up. When I ask the same group how many use GPT-4, almost no one raises their hand. I increasingly think the decision of OpenAI to make the “bad” AI free is causing people to miss why AI seems like such a huge deal to a minority of people that use advanced systems and elicits a shrug from everyone else.

Когда я выступаю перед группами и прошу поднять руку тех, кто пользовался бесплатной версией ChatGPT, поднимаются почти все руки. Когда я спрашиваю ту же группу, кто пользуется GPT-4, руку почти никто не поднимает. Я всё больше склоняюсь к мысли, что решение OpenAI сделать «плохой» ИИ бесплатным приводит к тому, что люди не понимают, почему ИИ кажется чем-то грандиозным для того меньшинства, которое пользуется продвинутыми системами, и вызывает лишь равнодушное пожатие плечами у всех остальных.

Use GPT-4.

Используйте GPT-4.

The more complicated answer: how do I get GPT-4?

Более сложный ответ: как мне получить GPT-4?

The ideal way to experiment with GPT-4 was pretty clear until a couple of weeks ago. You could pay $20 a month and buy access to ChatGPT Plus through OpenAI. That gave you access to the latest version of ChatGPT running GPT-4, including all of the features I discussed above. Once you had it, I suggested trying to use it for everything, from work tasks (ask it to help you innovate, summarize documents, write emails, give advice) to fun (use it instead of Google, write fun stories, play games). Using chat bots effectively is always a little weird, and there is no instruction manual, but I found that after around 10 hours of using ChatGPT people get it. You goal is to hit those 10 hours, and ChatGPT Plus was the easiest way to do it.

Идеальный способ поэкспериментировать с GPT-4 был вполне очевиден ещё пару недель назад. Можно было платить $20 в месяц и купить доступ к ChatGPT Plus через OpenAI. Это давало доступ к последней версии ChatGPT на GPT-4, включая все возможности, о которых я говорил выше. Получив его, я предлагал пробовать использовать его для всего — от рабочих задач (попросите помочь придумать новое, обобщить документы, написать письма, дать совет) до развлечений (используйте его вместо Google, пишите забавные истории, играйте в игры). Эффективно пользоваться чат-ботами всегда немного странно, и инструкции к ним нет, но я заметил, что примерно после 10 часов работы с ChatGPT у людей наступает озарение. Ваша цель — набрать эти 10 часов, и ChatGPT Plus был самым лёгким способом это сделать.

Three things have happened in the past couple of weeks: ChatGPT Plus subscriptions are temporarily not being sold, ChatGPT seems to be suffering from performance issues and frequent outages, and a bunch of new ways of using the system has become available. I would still recommend getting Plus, but you can’t.

За последние пару недель произошли три вещи: подписки ChatGPT Plus временно не продаются, ChatGPT, похоже, страдает от проблем с производительностью и частых сбоев, и появилась куча новых способов пользоваться системой. Я бы всё равно рекомендовал получить Plus, но это невозможно.

Fortunately, there is a whole universe of ways of getting access to the GPT-4, but they all are a bit weird. The best way right now is free, and available in 169 countries around the world, and that is Microsoft Bing. Yes, the search engine from Microsoft.

К счастью, существует целая вселенная способов получить доступ к GPT-4, но все они немного странные. Лучший способ прямо сейчас — бесплатный и доступный в 169 странах мира, и это Microsoft Bing. Да, поисковик от Microsoft.

Bing has a Chat mode that gives you direct access to GPT-4, but only if you pick the right option - you have to select Precise or Creative Mode. Balanced mode, which is both the default, and, as the CEO of Bing revealed, by far the most popular mode, does not use GPT-4. The other two do. Precise Mode produces less interesting, but more accurate answers that makes it good for search. If you are doing anything other than web search, just use Creative Mode - the purple one.

У Bing есть режим чата, дающий прямой доступ к GPT-4, но только если выбрать правильную опцию — нужно выбрать режим Precise или Creative. Режим Balanced, который одновременно и стоит по умолчанию, и, как раскрыл глава Bing, является самым популярным с большим отрывом, не использует GPT-4. А два других — используют. Режим Precise выдаёт менее интересные, но более точные ответы, что делает его хорошим для поиска. Если вы делаете что-то иное, кроме веб-поиска, просто используйте режим Creative — фиолетовый.

Bing has most of the features of GPT Plus (the final missing one, Code Interpreter, is coming soon), but it is also a little weird. In the effort to make it act like a search engine, the standard GPT-4 has been given some extra commands, limitations, and abilities by Microsoft. Sometimes that is good (it is quite solid at search), but it can make the AI experience a little more erratic and require some playing around to make it work well. Overall, though, this is the best option for most people. And, again, it is free, meaning billions of people around the world have access to the best AI on the planet - something I have written about before.

У Bing есть большинство возможностей GPT Plus (последняя из недостающих, Code Interpreter, скоро появится), но он тоже немного странный. Стремясь заставить его вести себя как поисковик, Microsoft наделила стандартный GPT-4 некоторыми дополнительными командами, ограничениями и способностями. Иногда это хорошо (он весьма надёжен в поиске), но это может сделать работу с ИИ чуть более непредсказуемой и требует поэкспериментировать, чтобы добиться хорошего результата. Тем не менее в целом это лучший вариант для большинства людей. И, повторюсь, он бесплатный — а значит, у миллиардов людей по всему миру есть доступ к лучшему ИИ на планете, о чём я уже писал ранее.

Bing will do a McKinsey-style report, but not a McKinsey report.

If you don’t want to use Bing, or you have specialized needs, there are a couple more ways to get GPT-4. If you want an AI optimized for search, a service called Perplexity offers GPT-4 access that costs $20/month. I have only used the service a bit, and found it to be pretty impressive for information gathering, but I have heard from many people who seem to like it. Another option is Poe, a service that offers access to multiple different AIs, including GPT-4, for, you guessed it, $20/month.

Если вы не хотите пользоваться Bing или у вас специфические потребности, есть ещё пара способов получить GPT-4. Если вам нужен ИИ, оптимизированный под поиск, сервис под названием Perplexity предлагает доступ к GPT-4 за $20/месяц. Я пользовался этим сервисом совсем немного и нашёл его весьма впечатляющим для сбора информации, но я слышал от многих людей, что он им, похоже, нравится. Ещё один вариант — Poe, сервис, предлагающий доступ к множеству разных ИИ, включая GPT-4, за, как вы уже догадались, $20/месяц.

For most people, using Bing is the right choice, at least until ChatGPT Plus reopens.

Для большинства людей правильный выбор — использовать Bing, по крайней мере до тех пор, пока снова не откроется ChatGPT Plus.

The most complicated answer: what about everything else?

Самый сложный ответ: а как насчёт всего остального?

Of course, there are many other LLMs. I put together an opinionated cheat sheet about them below.

Конечно, существует множество других LLM. Ниже я составил субъективную шпаргалку по ним.

Despite all these options, the reason I suggest GPT-4 is that mostly, as an individual user, you want to use the “smartest” model you can get your hands on. The smartest models are also the largest models, thanks to a scaling law that currently suggests that the bigger your model is, the “smarter” it gets. And the “smarter” the model, the more it outperforms smaller, more specialized models - GPT-4 beats specialized medical models (and doctors) in medical tasks, even though GPT-4 was not built for medicine! These giant models are expensive to build and operate, as well as relatively slow in producing output. They are also proprietary, owned by a couple of companies that can afford to build and operate them.

Несмотря на все эти варианты, причина, по которой я предлагаю GPT-4, в том, что в основном, как индивидуальному пользователю, вам хочется использовать самую «умную» модель, какую только можно заполучить. Самые умные модели — это и самые большие модели, благодаря закону масштабирования, который на сегодня предполагает: чем больше ваша модель, тем «умнее» она становится. И чем «умнее» модель, тем сильнее она превосходит меньшие, более специализированные модели — GPT-4 обходит специализированные медицинские модели (и врачей) в медицинских задачах, хотя GPT-4 не создавалась для медицины! Эти гигантские модели дороги в создании и эксплуатации, а также относительно медленны в выдаче результата. К тому же они проприетарны и принадлежат паре компаний, которые могут позволить себе их строить и эксплуатировать.

As an alternative, there are open source LLMs, which are free for anyone to use and are generally fast and cheap. They are also not as “smart” as the commercial models, though there is lots of debate over when, and if, they can catch. If you are considering building your own AI solution, these are worth trying. It is also somewhat amazing that anyone can download an LLM with one click and run a pretty solid AI with vision on their home computer, for free, forever, with no internet connection. I did this myself using llama.cpp, and you can, too.

В качестве альтернативы есть open-source LLM, которые бесплатны для любого пользователя и, как правило, быстры и дёшевы. Они также не настолько «умны», как коммерческие модели, хотя ведётся много споров о том, когда и смогут ли они их догнать. Если вы подумываете о создании собственного ИИ-решения, их стоит попробовать. К тому же отчасти поразительно, что любой может в один клик скачать LLM и запустить вполне приличный ИИ со зрением на своём домашнем компьютере — бесплатно, навсегда, без подключения к интернету. Я сам сделал это с помощью llama.cpp, и вы тоже можете.

Aside from Open Source, you may want to use other models in certain circumstances. Anthropic’s Claude 2.1 is especially interesting and offers some free access. Claude is most notable for having a very large context window - essentially the memory of the LLM. Claude can hold an entire book, or many PDFs, in memory. It has been built to be less likely to act maliciously than other Large Language Models, but otherwise works a lot like GPT-4, although it is slightly less “smart.” That makes it a good GPT-4 alternative to experiment with, and to use for a second opinion.

Помимо open source, в некоторых случаях вам может захотеться использовать другие модели. Claude 2.1 от Anthropic особенно интересна и предлагает определённый бесплатный доступ. Claude примечательнее всего тем, что у неё очень большое контекстное окно — по сути, память LLM. Claude может держать в памяти целую книгу или множество PDF-файлов. Она была создана так, чтобы с меньшей вероятностью действовать злонамеренно, чем другие большие языковые модели, но в остальном работает во многом как GPT-4, хотя и немного менее «умна». Это делает её хорошей альтернативой GPT-4 для экспериментов и для получения второго мнения.

If you want to try a “social” AI, you should experiment with Pi, another free chatbot built by Inflection. Pi is optimized for conversation, and really, really wants to be your friend (seriously, try it to see what I mean). Be ready for emojis, but it is absolutely worth using at least once to experience what an AI optimized for chat is like, especially in voice mode.

Если вы хотите попробовать «социальный» ИИ, стоит поэкспериментировать с Pi — ещё одним бесплатным чат-ботом, созданным Inflection. Pi оптимизирован под беседу и очень-очень хочет стать вашим другом (серьёзно, попробуйте, чтобы понять, о чём я). Будьте готовы к эмодзи, но его абсолютно стоит попробовать хотя бы раз, чтобы прочувствовать, каков ИИ, оптимизированный под общение, особенно в голосовом режиме.

I don’t have anything much to say about Elon Musk’s Grok. I haven’t used it, but it is currently a GPT-3.5 class model that is mostly notable for live access to Twitter and the fact that it is, ostensibly, less “censored” than other AIs. It is only available to Twitter users who pay extra.

Про Grok Илона Маска мне особо нечего сказать. Я им не пользовался, но сейчас это модель класса GPT-3.5, примечательная в основном живым доступом к Twitter и тем, что она, как заявляется, менее «цензурирована», чем другие ИИ. Она доступна только пользователям Twitter, которые доплачивают.

Finally, lets talk Google. Google has been testing its own AI for consumer use, which they call Bard, but which is powered by a variety of AI models. Until recently that was an AI called PaLM 2, and it was bad. As of today, it has been replaced with a model called Gemini Pro, which I have been using. It is much more capable, but still around the level of ChatGPT. While the search interface and features of Bard are very exciting and slick, I would generally be careful with this model, since it does not perform as well as the GPT-4 powered Bing. Supposedly, in January, Google will release the first model to beat GPT-4, called Gemini Ultra. I will certainly write about that when it happens, but the current version of Gemini is perfectly fine, if not state-of-the-art.

Наконец, поговорим про Google. Google тестирует собственный ИИ для потребительского использования, который они называют Bard, но который работает на различных ИИ-моделях. До недавнего времени это был ИИ под названием PaLM 2, и он был плох. На сегодня его заменили моделью под названием Gemini Pro, которой я пользовался. Она гораздо более способна, но всё ещё примерно на уровне ChatGPT. Хотя поисковый интерфейс и возможности Bard очень впечатляющие и стильные, с этой моделью я бы в целом был осторожен, поскольку она работает не так хорошо, как Bing на базе GPT-4. Предположительно, в январе Google выпустит первую модель, превосходящую GPT-4, под названием Gemini Ultra. Я обязательно напишу об этом, когда это случится, но нынешняя версия Gemini вполне неплоха, пусть и не на острие прогресса.

A temporary state of affairs

Временное положение дел

Next time I write this guide, this are going to be different, because chatbots will not be the only way to access advanced AI. AI is creeping into applications (I already have early access to Microsoft Copilot, which brings AI to your Office apps, more on that soon) and applications are creeping into AI (Google’s Bard already connects to your email and other applications in interesting ways). AI will keep getting better, but there may be many ways to “speak” to them.

В следующий раз, когда я буду писать это руководство, всё будет иначе, потому что чат-боты перестанут быть единственным способом доступа к продвинутому ИИ. ИИ проникает в приложения (у меня уже есть ранний доступ к Microsoft Copilot, который привносит ИИ в ваши приложения Office, — об этом подробнее скоро), а приложения проникают в ИИ (Bard от Google уже интересным образом подключается к вашей почте и другим приложениям). ИИ продолжит становиться лучше, но способов «общаться» с ним может быть множество.

It is also entirely possible that, in the coming months, an AI will beat the level set by GPT-4 and Google Ultra. Every major AI company in the chart above is training new models, and, of course, so is OpenAI. We don’t know what a major advance past GPT-4 looks like, but I expect we may find out in 2024.

Также вполне возможно, что в ближайшие месяцы какой-нибудь ИИ превзойдёт планку, заданную GPT-4 и Google Ultra. Каждая крупная ИИ-компания на диаграмме выше обучает новые модели, и, разумеется, то же делает OpenAI. Мы не знаем, как будет выглядеть крупный прорыв за пределы GPT-4, но, думаю, мы можем это узнать в 2024 году.

So, keep in mind that the AIs in this guide are the worst you will ever use, and start experimenting now so you can get a sense of the future when it arrives, very soon.

Так что помните: ИИ из этого руководства — худшие из тех, которыми вы когда-либо будете пользоваться, и начинайте экспериментировать уже сейчас, чтобы прочувствовать будущее, когда оно наступит, — а наступит оно совсем скоро.

This post is licensed under a Creative Commons Attribution-NonCommercial 4.0 International License.

Этот пост распространяется по лицензии Creative Commons Attribution-NonCommercial 4.0 International License.