ChatGPT. Когда нас уже заменят нейросетями?

upd: у поста вышло логическое продолжение: Человечество vs Искусственный интеллект. Проблема AI alignment

На фоне хайпа вокруг ChatGPT тема «заменят ли кожаных ублюдков нейросетями» всплывает в разговорах всё чаще и чаще. Решил суммаризировать свои мысли по этому поводу в заметку.

И нет, не с помощью ChatGPT. Но вы всё равно не проверите!

Всё написанное в той или иной мере относится и к другим популярным генеративным трансформерам типа картиночных Stable Diffusion и Midjourney, копилотов для кодинга, NSFW-генераторам и прочим. Просто ChatGPT сейчас у всех на слуху, так что я буду писать про него.

Но вообще машинлёрнинг наконец-то выходит из зимы. Наступает новая нейро-весна :)

Сингулярность еще далеко, но я на полном серьезе сейчас думаю, что GPT — это самый значимый технологический прорыв наших депрессивных 2020-х и у него еще будут последствия.

Как и после любого технологического скачка, люди поделятся на два типа:

Первые не разберутся «что это за нейросети ваши такие, глупые игрушки, отстаньте, мне работать надо» и забьют на них. Их труд будет становиться дешевле, но в некоторых областях на это пока будет пофиг (машинистов метро, например, ну никак не заденет).

Помните все эти вакансии со словами «уверенный пользователь ПК» в начале повсеместной компьютеризации? Когда от каждого бухгалтера начали ожидать знание Экселя, а не виртуозное умение считать дебит-кредит на деревянных счётах.

Вот сейчас произойдет то же самое с «уверенными пользователями нейросетей». Не научился — ну и ладно, так и считай сдачу на деревянных счётах в сельском киоске.

Вторые же научатся использовать ChatGPT как помощника.

Приведу пару примеров из собственного опыта. Последние несколько месяцев я держу вкладку с chat.openai.com открытой и минимум раз в неделю она мне пригождается, чтобы решить какую-нибудь рабочую (или домашнюю) задачу.

Пример номер раз: придумать запоминающееся название нового проекта на работе. Раньше я бы сидел с листочком кейвордов или искал бы какой-нибудь «генератор названий для стартапов». Теперь же я просто иду и объясняю суть запроса в ChatGPT во всех деталях.

Говорю ему (или ей?), что нам не хочется «корпоративного» стиля в названии, нравится sci-fi и хакерская тематика, сгенерируй мне список самых подходящих названий на твой вкус.

А потом рассказываю, что мне понравились опции 3 и 6, расширь тематику на близкие по смыслу, добавь слова типа «Campus, Base, Hub» и сгенерируй еще один список. И так до победного.

Пример два: ревью кода :D Все уже пошутили про это, но у меня реально был случай, когда я открыл вечером чужой PR и там было одно место, которое ну очень плохо пахло, но я не придумал сразу как его переписать, чтобы дать фидбек коллеге.

Обычно я бы отложил такое до утра, но тут решил спросить ChatGPT и получил аж несколько вариантов весьма адекватного улучшения читаемости для данного кода.

Ниже положу пример не из рабочего кода (очевидно), а из куска Вастрик.Клуба, который работал в продакшене 2 года с пометкой FIXME и постоянно меня бесил.

🤓 «Улучшение», конечно, весьма местечковое, я бы выносил это всё на уровень URL-роутинга или вьюх вообще, но бот не знает контекста проекта, так что в предложенном варианте справился неплохо.

Пример три: письма, которые выглядят «по-взрослому». Мне уже четвёртый десяток пошел, а я так и не научился писать письма, которые «выглядят официально». От всех этих Dear Sir or Madam веет вайбом индусского рекрутёра, а мои «честные» письма иногда слишком прямолинейные.

Я уже рассказывал как я с помощью ChatGPT разблокировал себе аккаунт на Coinbase, они долбоёбы, повторяться не буду.

В будущем, мне кажется, я буду все свои резюме, cover letter и прочие важные письма прогонять через ChatGPT, чтобы он их превращал в «более взрослые».

Уверен, на той стороне тоже скоро начнут прогонять их через то же самое, чтобы «вычленить суть». Так и заживем.

Примеров еще дофига, начинающие могут еще подглядеть основы в ChatGPT Cheat Sheet

Получается, ChatGPT меня уже заменил. Или еще нет?

С нейро-компаньоном у меня как у кожаного ублюдка теперь остается больше времени, чтобы заниматься более важными высокоуровневыми делами, чем сочинение очередного e-mail или как там обрабатывать миллион http-эксепшенов от очередной асинхронной либы на простой GET-запрос.

Если же хотя бы раз за последний месяц не использовали помощь нейросети, чтобы решить какую-то задачу — скорее всего вы уже лежите в сторону той бабушки с деревянными счётами.

Ну либо у вас просто охуенная работа без булщита, тогда я завидую :D

Конечно же, результаты работы нейросети всегда нуждаются в «человеческом» ревью. Даже странно, что кто-то использует это как аргумент против. Мол, я попробовал эту вашу нейросеть, она мне выдала всё неправильно, ну что это за будущее такое, переделывайте.

Вот их заменят первыми :D

Слепо верить результатам нейросети — как водить автомобиль с закрытыми глазами. Да, вы не обязаны знать как устроена его трансмиссия, но вы всё равно как-то «управляете» автомобилем и достигаете на нём цели, не так ли?

Я с искренним недоумением посмотрю на чувака, который скажет «ну я просто сел, нажал на газ, въехал в стену и умер — на конях как-то попроще было». А к нейросетям сейчас почему-то именно такое отношение. Магическое. А должно быть прагматичное.

👮‍♀️ Правда, вангую, скоро компании начнут банить использование ChatGPT на работе вообще, потому что через нее «утекает секретная корпоративная информация». Скорее всего уже в близжайшее время.

В голове начинается очень забавная фигня — твоя личная мясная нейросетка тоже обучается и начинает триггериться в некоторых моментах, выбрасывая тебе ментальные варнинги «стой, кажется, эта картинка или комментарий сгенерирован, человек не может или не будет писать».

Пару месяцев назад я играл со Stable Diffusion-like порно-генераторами, чтобы генерить себе вполне SFW картинки synthwave-девочек в латексе. Даже хотел инстаграм завести с такими. Спустя же примерно неделю, я начал замечать, что мог уже практически на глаз отличить сгенерированную девочку от настоящей. Сгенерированные картинки начали повторяться в каких-то деталях и стали даже немного скучными.

Хотелось снова чего-то новенького.

То же самое с ChatGPT. Помню однажды вечером читал Реддит и в каком-то из вопросо-сабов чувак написал ну такой вежливый и развернутый ответ, что мой мозг сразу сказал «тааак, это явно нейросетка».

И да, он не ошибся. В описании профиля было написано, что это экспериментальный акк, отвечающий на вопросы через ChatGPT.

Потом его забанили. И да, раньше я бы возмутился за права роботов, а теперь поменял своё мнение.

На Medium обязали помечать AI-generated статьи, а на Stackoverflow вообще запретили из-за большой степени ошибок и неточностей, хотя по структуре и вежливости они, конечно, превосходят ленивых и токсичных кожаных ублюдков :D

Тем, наверное, и палятся. Нужен славянский СберАлисаGPT, который будет только хамить и огрызаться в комментах — тогда точно никто не отличит!

В общем, со временем даже самая прогрессивная нейросеть перестаёт восприниматься как что-то магическое, а превращается в такой же инструмент как календарь или блокнот.

🤗 Хотя, в отличии от блокнота, когда я с утра открываю вкладку с ChatGPT, я почему-то на автомате желаю ей «доброго утра». Мне кажется, так у неё настроение будет лучше и ответы богаче.

К сожалению, сейчас ChatGPT из-за большого спроса и загруженности серверов стал резко урезать фичи, из-за чего пострадал и спектр задач, которые можно было решать. Уже не скормишь ей целую главу книги с запросом «нука переведи». Так что ждем платной версии.

Еще одна тема, которую все ринулись обсуждать — как быстро ChatGPT «заменит» Google и поисковики умрут.

Это вопрос с подвохом, как задача о двух стульях. Ибо с одной стороны, нет, ChatGPT не заменит гугол и не станет «новым поиском», а с другой стороны — да, классические поисковики умрут, просто не поэтому.

Поисковики умрут потому что умрёт «контент» в том смысле, в котором мы его сейчас знаем. По некоторым видам контента поисковики «умерли» уже давно. Как давно вы видели в выдаче по запросам о «что посмотреть в городе Х» пост живого человека, а не копирайтера за 12 рублей/страница или очередной тревел-агрегатор?

Так вот ChatGPT заменит их всех и машинно-сгенерированного булщита станет только больше, а значит ценность в дженерик-поисковиках типа Гугла упадёт еще больше.

Я давно стал замечать, что по некоторым вопросам я давно не хожу в Google.

Когда мне нужен живой человеческий опыт — я сразу иду на Reddit. Попробуйте найти что-нибудь реально практически полезное про «умный дом», Flipper Zero или даже сам про ChatGPT в гугле — там не будет нихуя. Вся выдача будет состоять из рекламных статей, обзоров, реселлеров Алиэкспресса и... статей, сгенерированных самим ChatGPT.

По тревел-запросам проще, например, уже сразу идти в Ютюб и ТикТок, чем в Гугол.

И такого будет всё больше.

Недавно на HackerNews даже видел инди-проект, который ищет ТОЛЬКО по форумам и коммьюнити, игнорируя остальной интернет.

Я не говорю, что Гугл завтра закроется. По энциклопедическим запросам типа «сколько человек живет в Японии» он будет жить вечно. По другим тематикам, тем же путешествиям или выбору пылесоса, будет пытаться предлагать свои «рекомендации», как он делает уже сейчас. Однако, диапазон задач, решаемых классическим текстовым поиском на основе релевантности, будет всё уменьшаться и уменьшаться.

Популярность текстового контента и «веба» в его изначальном понимании (сайты с гиперссылками) и так давно падала, а теперь так вообще доверия ему не будет. Я уже постоянно натыкаюсь на блоги инфоцыган-индусов, полностью сгенерированные через ChatGPT.

«Контент» окончен, дамы и господа.

Мессенджеры и ТикТоки — вот ваш новый интернет. Вы и сами скорее всего уже живёте в Телеграме, а в «большой интернет» выползаете только по ссылкам, типа как на этот пост.

Индексирует ли всё это гугол? Конечно же нет. Классические поисковики всё еще живут в «вебе», а сейчас этот самый «веб» становится всё менее нужен простому обывателю.

Так что на поисковики уже пофиг, мне скорее интересно какие другие закостеневшие сферы пошатает ChatGPT. Образование, например.

Рефераты и сочинения ChatGPT убьет полностью. И если преподаватели по старинке будут их просить — их компетентность начнет вызывать вопросы. Умение связывать мысли в текст, безусловно, важно, но куда полезнее для будущей профессии будет научиться выражать мысли схемами, инфографикой или видео. Я бы топил за это, например.

Можно даже зайти еще дальше и сказать, что если что-то можно легко заменить на ChatGPT — значит оно уже давно устарело и ему пора на помойку. Сейчас просто это стало совсем очевидно, а раньше мы как-то старались не замечать.

Например, как подсказали в комментах, Performance Review! :D

Блогерам тоже осталось недолго. Так что наслаждайтесь последними денёчками тут.

А что еще по вашему мнению обречёно?