Why AI Will Save the World | Andreessen Horowitz

Почему ИИ спасёт мир

Эра искусственного интеллекта наступила, и люди, мягко говоря, в панике.

К счастью, я здесь, чтобы принести хорошую новость: ИИ не уничтожит мир и, вполне возможно, спасёт его.

Для начала — краткое описание того, что такое ИИ: применение математики и программного кода для обучения компьютеров пониманию, синтезу и генерации знаний способами, схожими с человеческими. ИИ — это компьютерная программа, как и любая другая: она запускается, принимает входные данные, обрабатывает их и выдаёт результат. Результаты работы ИИ полезны в самых разных областях — от программирования до медицины, от юриспруденции до творчества. Он принадлежит людям и контролируется людьми, как и любая другая технология.

Ещё более краткое описание того, чем ИИ не является: программа-убийца и роботы, которые оживут и решат уничтожить человечество или иным образом всё испортить, как показывают в фильмах.

И совсем краткое описание того, чем ИИ мог бы стать: способом сделать лучше всё, что нам дорого.

Почему ИИ может сделать лучше всё, что нам дорого

Наиболее подтверждённый вывод социальных наук за многие десятилетия и тысячи исследований состоит в том, что человеческий интеллект улучшает очень широкий спектр жизненных результатов. Более умные люди добиваются лучших результатов практически во всех сферах деятельности: академическая успеваемость, профессиональная эффективность, карьерный статус, доход, креативность, физическое здоровье, продолжительность жизни, освоение новых навыков, управление сложными задачами, лидерство, предпринимательский успех, разрешение конфликтов, понимание прочитанного, принятие финансовых решений, понимание точки зрения других людей, творчество, воспитание детей и удовлетворённость жизнью.

Более того, человеческий интеллект — это рычаг, с помощью которого мы тысячелетиями создавали мир, в котором живём сегодня: наука, технологии, математика, физика, химия, медицина, энергетика, строительство, транспорт, коммуникации, искусство, музыка, культура, философия, этика, мораль. Без применения интеллекта во всех этих областях мы до сих пор жили бы в глиняных хижинах, с трудом добывая пропитание натуральным хозяйством. Вместо этого мы использовали свой интеллект, чтобы поднять уровень жизни примерно в 10 000 раз за последние 4 000 лет.

ИИ даёт нам возможность радикально усилить человеческий интеллект, чтобы все эти плоды разума — а также многие другие, от создания новых лекарств до решения проблемы изменения климата и технологий для полётов к звёздам — стали намного, намного лучше.

Усиление человеческого интеллекта с помощью ИИ уже началось — ИИ уже окружает нас в виде компьютерных систем управления самого разного рода, сейчас стремительно набирает обороты благодаря большим языковым моделям вроде ChatGPT и будет ускоряться дальше — если мы позволим.

В нашу новую эру ИИ:

У каждого ребёнка будет ИИ-репетитор — бесконечно терпеливый, бесконечно сочувствующий, бесконечно знающий, бесконечно готовый помочь. ИИ-репетитор будет рядом с каждым ребёнком на каждом этапе его развития, помогая раскрыть потенциал с машинной версией безграничной любви. У каждого человека будет ИИ-ассистент/коуч/наставник/тренер/советник/терапевт — бесконечно терпеливый, бесконечно сочувствующий, бесконечно знающий и бесконечно готовый помочь. ИИ-ассистент будет сопровождать на протяжении всех жизненных возможностей и трудностей, максимизируя результаты каждого человека. У каждого учёного будет ИИ-ассистент/соратник/партнёр, который значительно расширит масштаб научных исследований и достижений. Каждый художник, каждый инженер, каждый предприниматель, каждый врач, каждый опекун получит то же самое в своих сферах. Каждый лидер — CEO, чиновник, президент некоммерческой организации, спортивный тренер, учитель — получит то же самое. Эффект усиления от лучших решений лидеров, транслируемый на всех их подчинённых, огромен, поэтому это усиление интеллекта может оказаться самым важным из всех. Рост производительности во всей экономике резко ускорится, стимулируя экономический рост, создание новых отраслей, новых рабочих мест и рост зарплат, что приведёт к новой эре повышенного материального благополучия по всей планете. Научные прорывы, новые технологии и лекарства резко умножатся, поскольку ИИ поможет нам ещё глубже расшифровать законы природы и обратить их себе на пользу. Творческие искусства вступят в золотой век, поскольку художники, музыканты, писатели и кинематографисты, усиленные ИИ, получат возможность воплощать свои замыслы гораздо быстрее и в гораздо большем масштабе, чем когда-либо прежде. Я даже считаю, что ИИ улучшит ведение войн, когда они неизбежны, резко сократив число жертв. Каждая война характеризуется ужасными решениями, принятыми под сильным давлением и при крайне ограниченной информации очень ограниченными человеческими лидерами. Теперь у военных командиров и политических лидеров будут ИИ-советники, которые помогут принимать значительно лучшие стратегические и тактические решения, минимизируя риски, ошибки и ненужное кровопролитие. Короче говоря, всё, что люди делают сегодня с помощью своего природного интеллекта, может быть сделано гораздо лучше с ИИ, и мы сможем взяться за новые задачи, которые без ИИ были невозможны, — от излечения всех болезней до межзвёздных путешествий. И дело не только в интеллекте! Пожалуй, самое недооценённое качество ИИ — то, насколько он может быть человечным. ИИ-искусство даёт людям, у которых нет технических навыков, свободу создавать и делиться своими творческими идеями. Разговор с эмпатичным ИИ-другом действительно улучшает способность справляться с трудностями. А медицинские ИИ-чатботы уже проявляют больше эмпатии, чем их коллеги-люди. Вместо того чтобы делать мир жёстче и механистичнее, бесконечно терпеливый и сочувствующий ИИ сделает мир теплее и добрее.

Ставки высоки. Возможности грандиозны. ИИ, вполне возможно, — самое важное и лучшее, что когда-либо создавала наша цивилизация, наравне с электричеством и микрочипами, а скорее всего, и превосходит их.

Развитие и распространение ИИ — отнюдь не риск, которого стоит бояться, — это моральный долг перед нами самими, нашими детьми и нашим будущим.

Мы должны жить в гораздо лучшем мире благодаря ИИ, и теперь мы можем.

Так откуда паника?

В противовес этому позитивному взгляду, публичная дискуссия об ИИ сейчас пронизана истерическим страхом и паранойей.

Мы слышим утверждения, что ИИ поочерёдно уничтожит нас всех, разрушит наше общество, отберёт все рабочие места, породит сокрушительное неравенство и позволит плохим людям творить ужасные вещи.

Чем объясняется это расхождение в возможных исходах — от почти утопии до ужасающей антиутопии?

Исторически каждая значимая новая технология — от электрического освещения до автомобилей, от радио до интернета — порождала моральную панику — социальную заразу, убеждающую людей, что новая технология уничтожит мир, общество или и то и другое. Замечательные ребята из Pessimists Archive задокументировали эти технологические моральные паники за десятилетия; их история наглядно демонстрирует закономерность. Оказывается, нынешняя паника — даже не первая для ИИ.

Безусловно, многие новые технологии приводили к негативным последствиям — зачастую те же самые технологии, которые в остальном были чрезвычайно полезны для нашего благополучия. Так что само по себе наличие моральной паники не означает, что беспокоиться не о чем.

Но моральная паника по самой своей природе иррациональна — она берёт то, что может быть обоснованным беспокойством, и раздувает его до уровня истерии, которая по иронии судьбы затрудняет решение действительно серьёзных проблем.

И вот у нас сейчас полномасштабная моральная паника вокруг ИИ.

Эта моральная паника уже используется различными игроками как движущая сила для требования политических мер — новых ограничений, регулирования и законов в сфере ИИ. Эти игроки, которые делают крайне драматичные публичные заявления об опасностях ИИ — подпитывая и ещё сильнее разжигая моральную панику, — все представляют себя самоотверженными борцами за общественное благо.

Но так ли это?

И правы они или нет?

«Баптисты» и «бутлегеры» ИИ

Экономисты отметили давно существующую закономерность в реформаторских движениях подобного рода. Участники таких движений делятся на две категории — «баптисты» и «бутлегеры» — по аналогии с историческим примером сухого закона в США в 1920-х годах:

«Баптисты»

«Баптисты» — это искренне убеждённые социальные реформаторы, которые искренне чувствуют — глубоко и эмоционально, если не рационально, — что новые ограничения, регулирование и законы необходимы для предотвращения общественной катастрофы. В случае сухого закона это зачастую были буквально набожные христиане, считавшие, что алкоголь разрушает моральную ткань общества. В случае рисков ИИ это истинно верующие в тот или иной экзистенциальный риск ИИ — подключите их к полиграфу, они действительно так считают.

«Бутлегеры»

«Бутлегеры» — это корыстные оппортунисты, которые могут финансово выиграть от введения новых ограничений, регулирования и законов, ограждающих их от конкурентов. В случае сухого закона это были буквально бутлегеры, сколотившие состояния на продаже нелегального алкоголя американцам, когда легальная продажа была запрещена. В случае рисков ИИ это CEO, которые заработают больше, если регуляторные барьеры создадут картель одобренных государством поставщиков ИИ, защищённых от конкуренции со стороны новых стартапов и открытого кода — программная версия банков «слишком больших, чтобы обанкротиться».

Циник предположил бы, что некоторые мнимые «баптисты» на самом деле являются «бутлегерами» — а именно те, кому платят за атаки на ИИ их университеты, аналитические центры, активистские группы и СМИ. Если вам платят зарплату или выделяют гранты за нагнетание паники вокруг ИИ… вы, вероятно, «бутлегер».

Проблема с «бутлегерами» в том, что они побеждают. «Баптисты» — наивные идеалисты, «бутлегеры» — циничные дельцы, и результат реформаторских движений подобного рода часто таков, что «бутлегеры» получают желаемое — регуляторный захват, защиту от конкуренции, формирование картеля — а «баптисты» остаются в недоумении, почему их стремление к социальному улучшению пошло так наперекосяк.

Мы только что прошли через поразительный пример этого — банковскую реформу после мирового финансового кризиса 2008 года. «Баптисты» говорили нам, что нужны новые законы и нормы, чтобы разделить банки, «слишком большие, чтобы обанкротиться», и не допустить повторения такого кризиса. Конгресс принял закон Додда-Фрэнка 2010 года, который преподносился как реализация цели «баптистов», но в реальности был присвоен «бутлегерами» — крупными банками. Результат: те самые банки, которые были «слишком большими, чтобы обанкротиться» в 2008 году, теперь значительно, значительно крупнее.

Так что на практике, даже когда «баптисты» искренни — и даже когда «баптисты» правы — их используют как прикрытие манипулятивные и продажные «бутлегеры» ради собственной выгоды.

Именно это и происходит сейчас в стремлении к регулированию ИИ.

Однако недостаточно просто определить игроков и поставить под сомнение их мотивы. Нам следует рассмотреть аргументы и «баптистов», и «бутлегеров» по существу.

Риск ИИ №1: Уничтожит ли ИИ нас всех?

Первый и исходный алармистский риск ИИ — что ИИ решит буквально уничтожить человечество.

Страх, что технология нашего собственного создания восстанет и уничтожит нас, глубоко заложен в нашей культуре. Греки выразили этот страх в мифе о Прометее — Прометей принёс разрушительную силу огня, а шире — технологии (techne), людям, за что был приговорён богами к вечным мукам. Позже Мэри Шелли дала нам, людям нового времени, собственную версию этого мифа в романе «Франкенштейн, или Современный Прометей», в котором мы создаём технологию вечной жизни, а она восстаёт и пытается нас уничтожить. И, конечно, ни одна алармистская газетная статья об ИИ не обходится без кадра сверкающего красноглазого робота-убийцы из фильмов Джеймса Кэмерона «Терминатор».

Предполагаемая эволюционная цель этой мифологии — побудить нас серьёзно задуматься о потенциальных рисках новых технологий: огонь, в конце концов, действительно можно использовать для сожжения целых городов. Но подобно тому, как огонь стал фундаментом современной цивилизации, помогая нам согреваться и оставаться в безопасности в холодном и враждебном мире, эта мифология игнорирует гораздо бо́льшую пользу большинства — всех? — новых технологий и на практике разжигает деструктивные эмоции, а не взвешенный анализ. Только потому что первобытный человек так паниковал, нам не обязательно делать то же самое; мы можем применить рациональность.

Я считаю, что идея о том, что ИИ решит буквально уничтожить человечество, представляет собой глубокую категориальную ошибку. ИИ — это не живое существо, подготовленное миллиардами лет эволюции к участию в борьбе за выживание, как животные и как мы. Это математика — код — компьютеры, созданные людьми, принадлежащие людям, используемые людьми, контролируемые людьми. Идея о том, что в какой-то момент ИИ обретёт собственный разум и решит, что у него есть мотивы, побуждающие его попытаться нас убить, — это суеверная отмашка.

Короче говоря, ИИ не хочет, у него нет целей, он не хочет вас убить, потому что он не живой. ИИ — это машина, и он не оживёт точно так же, как не оживёт ваш тостер.

Разумеется, существуют истинно верующие в ИИ-убийцу — «баптисты», — которые внезапно получили колоссальное медийное внимание за свои пугающие предупреждения, некоторые из них утверждают, что изучали эту тему десятилетиями и теперь напуганы до смерти тем, что узнали. Некоторые из этих истинно верующих — даже настоящие создатели этой технологии. Эти игроки выступают за различные причудливые и экстремальные ограничения ИИ — от запрета на разработку ИИ вплоть до авиаударов по дата-центрам и ядерной войны. Они утверждают, что поскольку такие люди, как я, не могут исключить будущие катастрофические последствия ИИ, мы должны придерживаться принципа предосторожности, который может потребовать масштабного физического насилия и гибели людей ради предотвращения потенциального экзистенциального риска.

Мой ответ: их позиция ненаучна. Какова проверяемая гипотеза? Что могло бы её опровергнуть? Как мы узнаем, что входим в зону опасности? Эти вопросы в основном остаются без ответа, кроме «Вы не можете доказать, что этого не случится!» На самом деле позиция этих «баптистов» настолько ненаучна и настолько экстремальна — теория заговора о математике и коде — и уже призывает к физическому насилию, что я сделаю то, чего обычно не делаю, и поставлю под сомнение также их мотивы.

Конкретно, я считаю, что здесь происходят три вещи:

Во-первых, вспомните, что Джон фон Нейман ответил на знаменитые терзания Роберта Оппенгеймера по поводу его роли в создании ядерного оружия — которое помогло завершить Вторую мировую войну и предотвратить Третью — словами: «Некоторые признаются в грехе, чтобы присвоить себе заслугу за него». Каков самый эффектный способ заявить о значимости своей работы, не звуча при этом откровенно хвастливо? Это объясняет расхождение между словами и действиями «баптистов», которые на самом деле создают и финансируют ИИ — следите за их действиями, а не за словами. (Трумэн был жёстче после встречи с Оппенгеймером: «Больше не пускайте сюда этого плаксу».)

Во-вторых, некоторые «баптисты» на самом деле являются «бутлегерами». Существует целая профессия — «эксперт по безопасности ИИ», «специалист по этике ИИ», «исследователь рисков ИИ». Им платят за то, чтобы быть алармистами, и к их заявлениям стоит относиться соответственно.

В-третьих, Калифорния заслуженно знаменита тысячами своих культов — от EST до Народного храма, от «Врат Рая» до семьи Мэнсона. Многие, хотя и не все, из этих культов безвредны и, возможно, даже выполняют функцию для отчуждённых людей, находящих в них пристанище. Но некоторые действительно очень опасны, и культам, как известно, трудно удержаться на грани, за которой — насилие и смерть.

И реальность, очевидная всем в Области залива, но, вероятно, не за её пределами, состоит в том, что тема «рисков ИИ» превратилась в культ, который внезапно вышел на свет глобального медийного внимания и публичной дискуссии. Этот культ вовлёк не только маргинальных персонажей, но и настоящих отраслевых экспертов, а также немалое число состоятельных доноров — включая, до недавнего времени, Сэма Бэнкмана-Фрида. И у него развился полный набор культовых поведенческих паттернов и верований.

Именно этот культ объясняет, почему ряд ИИ-алармистов звучат так экстремально — дело не в том, что у них есть тайное знание, делающее их экстремизм логичным, а в том, что они довели себя до исступления и действительно являются… крайне экстремальными.

Оказывается, этот тип культа не нов — в западной традиции давно существует милленаризм, порождающий апокалиптические культы. Культ рисков ИИ обладает всеми признаками милленаристского апокалиптического культа. Из Википедии, с моими дополнениями:

«Милленаризм — это вера группы или движения [ИИ-алармисты] в грядущую фундаментальную трансформацию общества [появление ИИ], после которой всё изменится [ИИ-утопия, антиутопия и/или конец света]. Только драматические события [запреты ИИ, авиаудары по дата-центрам, ядерные удары по нерегулируемому ИИ] способны изменить мир [предотвратить ИИ], и ожидается, что перемены будут осуществлены или пережиты группой преданных и самоотверженных. В большинстве милленаристских сценариев за грядущей катастрофой или битвой [ИИ-апокалипсис или его предотвращение] последует новый, очищенный мир [запреты ИИ], в котором верующие будут вознаграждены [или, по крайней мере, признаны правыми]».

Этот паттерн апокалиптического культа настолько очевиден, что я удивлён, почему больше людей его не замечают.

Не поймите меня неправильно: о культах интересно слышать, их литература часто креативна и увлекательна, а их члены — интересные собеседники на ужинах и в телеэфире. Но их экстремальные убеждения не должны определять будущее законов и общества — разумеется, нет.

Риск ИИ №2: Разрушит ли ИИ наше общество?

Второй широко обсуждаемый риск ИИ заключается в том, что ИИ разрушит наше общество, генерируя настолько «вредоносные» результаты — если использовать терминологию алармистов этого типа, — что они нанесут глубокий ущерб человечеству, даже если нас буквально не убьют.

Коротко: если роботы-убийцы нас не достанут, то разжигание ненависти и дезинформация — точно.

Это относительно недавняя алармистская тема, ответвившаяся от описанного мной выше движения «рисков ИИ» и в некоторой степени его вытеснившая. Фактически терминология рисков ИИ недавно сменилась с «безопасности ИИ» (AI safety) — термина, используемого людьми, которые боятся, что ИИ буквально нас убьёт, — на «согласование ИИ» (AI alignment) — термин тех, кто беспокоится об общественном «вреде». Приверженцы изначальной концепции безопасности ИИ разочарованы этим сдвигом, хотя не знают, как вернуть джинна в бутылку, — теперь они предлагают переименовать настоящую тему рисков ИИ в «ИИ-неубейвсехизм» (AI notkilleveryoneism), что пока не получило широкого распространения, но по крайней мере звучит ясно.

Подсказка к природе утверждений о социальных рисках ИИ кроется в самом термине «согласование ИИ». Согласование с чем? С человеческими ценностями. С чьими человеческими ценностями? А вот тут начинаются сложности.

Так получилось, что я наблюдал аналогичную ситуацию из первого ряда — войны вокруг «доверия и безопасности» в социальных сетях. Как сейчас очевидно, социальные сети годами находились под мощным давлением со стороны правительств и активистов с требованиями запретить, ограничить, цензурировать и иным образом подавить широкий спектр контента. И те же самые опасения по поводу «разжигания ненависти» (и его математического аналога — «алгоритмической предвзятости») и «дезинформации» напрямую переносятся из контекста социальных сетей на новый рубеж «согласования ИИ».

Мои главные уроки из войн за социальные сети таковы:

С одной стороны, абсолютистской позиции свободы слова не существует. Во-первых, каждая страна, включая Соединённые Штаты, запрещает хотя бы некоторые виды контента. Во-вторых, есть определённые виды контента, такие как детская порнография и призывы к реальному насилию, которые практически единодушно признаются недопустимыми — законодательно или нет — почти в любом обществе. Так что любая технологическая платформа, которая распространяет или генерирует контент — то есть речь, — будет иметь какие-то ограничения.

С другой стороны, скользкий склон — это не заблуждение, а неизбежность. Как только создана система ограничений даже для вопиюще ужасного контента — например, для разжигания ненависти — конкретное оскорбительное слово, или для дезинформации — заведомо ложные утверждения вроде «Папа Римский умер», — шокирующе широкий спектр государственных ведомств, активистских групп давления и негосударственных организаций начинают требовать всё более высоких уровней цензуры и подавления любой речи, которую они считают угрозой для общества и/или их личных предпочтений. Они делают это вплоть до способов, которые являются откровенными уголовными преступлениями. Этот цикл на практике может продолжаться бесконечно при восторженной поддержке авторитарных надзирателей, расставленных по всей нашей элитной властной структуре. Это нарастает уже десять лет в социальных сетях и, за некоторыми исключениями, становится только яростнее.

Именно такая динамика сложилась сейчас вокруг «согласования ИИ». Его сторонники претендуют на мудрость конструировать ИИ-генерируемую речь и мысли, которые полезны для общества, и запрещать ИИ-генерируемую речь и мысли, которые вредны для общества. Их оппоненты утверждают, что полиция мысли поразительно самонадеянна и самоуверенна — и зачастую откровенно преступна, по крайней мере в США, — и на самом деле стремится стать новой формой сращённой государственно-корпоративно-академической авторитарной речевой диктатуры, сошедшей прямо со страниц романа Джорджа Оруэлла «1984».

Поскольку сторонники и «доверия и безопасности», и «согласования ИИ» сосредоточены в очень узком сегменте мирового населения, характерном для американских прибрежных элит — в число которых входят многие из тех, кто работает в технологической индустрии и пишет о ней, — многие из моих читателей могут обнаружить, что готовы утверждать: для спасения общества нужны жёсткие ограничения на выходные данные ИИ. Я не буду пытаться вас разубедить прямо сейчас — просто отмечу, что такова природа этого требования, и большинство людей в мире не разделяют вашу идеологию и не хотят видеть вашу победу.

Если вы не разделяете преобладающую нишевую мораль, насаждаемую в социальных сетях и ИИ через всё ужесточающиеся речевые кодексы, вам также стоит осознать, что борьба за то, что ИИ может говорить/генерировать, будет даже более важной — значительно более важной, — чем борьба с цензурой в социальных сетях. С высокой вероятностью ИИ станет управляющим слоем для всего в мире. То, как ему будет позволено работать, будет иметь значение, возможно, большее, чем что-либо другое за всю историю. Вам следует знать, как небольшая и изолированная клика партийных социальных инженеров пытается определить это прямо сейчас, прикрываясь вечным утверждением, что они вас защищают.

Короче говоря, не позволяйте полиции мысли подавить ИИ.

Риск ИИ №3: Отберёт ли ИИ все рабочие места?

Страх потери рабочих мест из-за механизации, автоматизации, компьютеризации или ИИ — повторяющаяся паника на протяжении сотен лет, с момента появления первых машин, таких как механический ткацкий станок. Несмотря на то что каждая крупная новая технология на протяжении всей истории приводила к увеличению количества рабочих мест с более высокой оплатой, каждая волна этой паники сопровождается заявлениями, что «на этот раз всё иначе» — вот сейчас это наконец произойдёт, вот эта технология наконец нанесёт сокрушительный удар по человеческому труду. И тем не менее этого никогда не происходит.

В недавнем прошлом мы прошли через два таких цикла технологической паники вокруг безработицы — паника аутсорсинга в 2000-х и паника автоматизации в 2010-х. Несмотря на многочисленных экспертов, комментаторов и даже руководителей технологических компаний, на протяжении обоих десятилетий стучавших кулаком по столу с заявлениями о близкой массовой безработице, к концу 2019 года — прямо перед началом COVID — в мире было больше рабочих мест с более высокой оплатой, чем когда-либо в истории.

Тем не менее это заблуждение не желает умирать.

И конечно же, оно вернулось.

На этот раз у нас наконец есть технология, которая заберёт все рабочие места и сделает человеческих работников ненужными — настоящий ИИ. Уж на этот-то раз история не повторится, и ИИ вызовет массовую безработицу — а не быстрый экономический рост, рост занятости и зарплат — верно?

Нет, этого не произойдёт — и на самом деле ИИ, если ему позволить развиваться и распространяться по экономике, может вызвать самый масштабный и устойчивый экономический бум в истории с соответствующим рекордным ростом занятости и зарплат — прямую противоположность страхам. И вот почему.

Ключевая ошибка, которую алармисты «автоматизация убивает рабочие места» совершают раз за разом, называется заблуждением о фиксированном объёме труда. Это ошибочное представление о том, что в экономике в любой момент существует фиксированный объём работы, и её выполняют либо машины, либо люди — а если машины, то людям работы не останется.

Заблуждение о фиксированном объёме труда естественно вытекает из наивной интуиции, но наивная интуиция здесь ошибается. Когда технология применяется в производстве, мы получаем рост производительности — увеличение выпуска при сокращении затрат. Результат — снижение цен на товары и услуги. По мере снижения цен мы платим за них меньше, а значит, у нас появляется дополнительная покупательная способность для приобретения других вещей. Это увеличивает спрос в экономике, что стимулирует создание нового производства — включая новые продукты и новые отрасли, — которое затем создаёт новые рабочие места для людей, замещённых машинами на прежних позициях. Результат — более крупная экономика с более высоким материальным благосостоянием, большим количеством отраслей, продуктов и рабочих мест.

Но хорошие новости на этом не заканчиваются. Мы также получаем более высокие зарплаты. Это связано с тем, что на уровне отдельного работника рынок устанавливает компенсацию как функцию предельной производительности работника. Работник в технологически оснащённом бизнесе будет продуктивнее, чем работник в традиционном. Работодатель либо заплатит этому работнику больше, поскольку тот теперь продуктивнее, либо это сделает другой работодатель — из чистого корыстного интереса. В результате внедрение технологий в отрасль, как правило, не только увеличивает количество рабочих мест, но и повышает зарплаты.

Подводя итог: технология расширяет возможности людей быть более продуктивными. Это приводит к снижению цен на существующие товары и услуги и к росту зарплат. Это, в свою очередь, стимулирует экономический рост и рост занятости, одновременно мотивируя создание новых рабочих мест и новых отраслей. Если рыночной экономике позволить нормально функционировать и технологиям позволить свободно внедряться, это станет непрерывным восходящим циклом, который никогда не заканчивается. Ведь, как заметил Милтон Фридман, «Человеческие желания и потребности бесконечны» — мы всегда хотим больше, чем имеем. Технологически насыщенная рыночная экономика — это способ приблизиться к тому, чтобы дать каждому всё мыслимое, но никогда не дойти до конца. Вот почему технологии не уничтожают рабочие места и никогда не уничтожат.

Эти идеи настолько ошеломляющи для тех, кто с ними не сталкивался, что вам может понадобиться время, чтобы их осмыслить. Но клянусь, я их не выдумываю — вы можете прочитать обо всём этом в стандартных учебниках по экономике. Рекомендую главу «Проклятие машин» из книги Генри Хэзлитта «Экономика за один урок», а также сатирическую «Петицию свечных мастеров» Фредерика Бастиа с требованием заслонить солнце из-за его нечестной конкуренции с осветительной промышленностью — вот её модернизированная версия для нашего времени.

Но на этот раз всё иначе, думаете вы. На этот раз, с ИИ, у нас есть технология, способная заменить ВЕСЬ человеческий труд.

Но, используя описанные мной принципы, подумайте, что означало бы буквальное замещение всего существующего человеческого труда машинами.

Это означало бы взрывной рост производительности экономики, совершенно беспрецедентный в истории. Цены на существующие товары и услуги по всем направлениям упали бы практически до нуля. Потребительское благосостояние взлетело бы. Покупательная способность потребителей взлетела бы. Новый спрос в экономике взорвался бы. Предприниматели создавали бы головокружительное множество новых отраслей, продуктов и услуг, нанимая как можно больше людей и ИИ как можно быстрее, чтобы удовлетворить весь новый спрос.

Допустим, ИИ снова заместит этот труд? Цикл повторится, подняв потребительское благосостояние, экономический рост, занятость и зарплаты ещё выше. Это была бы прямая спираль вверх к материальной утопии, о которой ни Адам Смит, ни Карл Маркс не осмеливались мечтать.

Нам бы так повезло.

Риск ИИ №4: Приведёт ли ИИ к катастрофическому неравенству?

Раз уж зашла речь о Карле Марксе, опасения по поводу потери рабочих мест из-за ИИ плавно переходят к следующему заявленному риску: хорошо, Марк, допустим, ИИ действительно заберёт все рабочие места — к худшему или к лучшему. Разве это не приведёт к массовому и сокрушительному имущественному неравенству, когда владельцы ИИ соберут все экономические плоды, а обычные люди не получат ничего?

Как оказалось, это было центральным утверждением марксизма: владельцы средств производства — буржуазия — неизбежно присвоят всё общественное богатство у тех, кто выполняет реальную работу, — пролетариата. Это ещё одно заблуждение, которое просто отказывается умирать, сколько бы раз его ни опровергала реальность. Но давайте всё же вобьём ему осиновый кол.

Изъян этой теории в том, что владельцу технологии невыгодно оставлять её себе — наоборот, ему выгодно продать её максимальному количеству покупателей. Крупнейший рынок в мире для любого продукта — это весь мир, все 8 миллиардов человек. И поэтому в реальности каждая новая технология — даже те, что начинают с продаж в разреженном воздухе крупных платёжеспособных компаний или состоятельных потребителей — быстро распространяется, пока не окажется в руках максимально широкого массового рынка, то есть в конечном счёте у каждого на планете.

Классический пример — так называемый «секретный план» Илона Маска для Tesla 2006 года, который он, естественно, опубликовал открыто:

Шаг 1: Создать [дорогой] спортивный автомобиль. Шаг 2: Использовать эти деньги для создания доступного автомобиля. Шаг 3: Использовать эти деньги для создания ещё более доступного автомобиля.

…что он, разумеется, и сделал, став в результате самым богатым человеком в мире.

Последний пункт — ключевой. Был бы Илон ещё богаче, если бы сегодня продавал автомобили только богатым людям? Нет. Был бы он ещё богаче, если бы делал автомобили только для себя? Разумеется, нет. Нет, он максимизирует собственную прибыль, продавая на максимально возможном рынке — всему миру.

Короче говоря, технология достаётся каждому — как мы уже видели в прошлом не только с автомобилями, но и с электричеством, радио, компьютерами, интернетом, мобильными телефонами и поисковыми системами. Создатели таких технологий крайне мотивированы снижать цены, пока каждый человек на планете не сможет их себе позволить. Именно это уже происходит с ИИ — вот почему вы можете использовать генеративный ИИ последнего поколения не просто по низкой цене, а даже бесплатно в виде Microsoft Bing и Google Bard — и именно это будет продолжаться. Не потому что такие компании глупы или щедры, а именно потому что они жадны — они хотят максимизировать размер своего рынка, что максимизирует их прибыль.

Таким образом, происходит противоположность централизации богатства благодаря технологиям — наделяются правами и возможностями индивидуальные потребители технологии, в конечном счёте включая каждого на планете, которые присваивают бо́льшую часть созданной стоимости. Как и с предыдущими технологиями, компании, создающие ИИ, — при условии, что они функционируют в свободном рынке, — будут яростно конкурировать, чтобы это произошло.

Маркс ошибался тогда и ошибается сейчас.

Это не значит, что неравенство не является проблемой в нашем обществе. Является, просто его причина — не технологии, а прямо противоположное: секторы экономики, которые наиболее устойчивы к новым технологиям, в которых государственное вмешательство сильнее всего препятствует внедрению новых технологий вроде ИИ — а именно жильё, образование и здравоохранение. Реальный риск ИИ и неравенства не в том, что ИИ усугубит неравенство, а в том, что мы не позволим ИИ быть использованным для сокращения неравенства.

Риск ИИ №5: Позволит ли ИИ плохим людям творить плохие дела?

До сих пор я объяснял, почему четыре из пяти наиболее часто называемых рисков ИИ в реальности не существуют — ИИ не оживёт и не убьёт нас, ИИ не разрушит наше общество, ИИ не вызовет массовую безработицу, и ИИ не вызовет разрушительный рост неравенства. Но давайте обратимся к пятому — с которым я действительно согласен: ИИ облегчит плохим людям совершение плохих дел.

В каком-то смысле это тавтология. Технология — это инструмент. Инструменты, начиная с огня и камней, можно использовать для хороших дел — готовить еду и строить дома — и для плохих — жечь людей и забивать их. Любая технология может быть использована во благо или во зло. Справедливо. И ИИ облегчит преступникам, террористам и враждебным правительствам совершение плохих дел, без сомнения.

Это заставляет некоторых предлагать: ну, раз так, давайте не будем рисковать, давайте запретим ИИ прямо сейчас, пока этого не произошло. К сожалению, ИИ — это не какой-то эзотерический физический материал, который трудно достать, вроде плутония. Всё наоборот: это самый доступный материал в мире — математика и код.

ИИ-джинн, очевидно, уже выпущен из бутылки. Вы можете научиться создавать ИИ на тысячах бесплатных онлайн-курсов, из книг, статей и видео, а выдающиеся реализации с открытым исходным кодом множатся ежедневно. ИИ подобен воздуху — он будет повсюду. Уровень тоталитарного подавления, необходимый для того, чтобы это остановить, был бы настолько драконовским — мировое правительство, контролирующее все компьютеры? громилы в чёрных вертолётах, конфискующие нелегальные GPU? — что нам нечего было бы защищать.

Поэтому существуют два вполне очевидных способа решить проблему плохих людей, совершающих плохие дела с помощью ИИ, и именно на них мы должны сосредоточиться.

Во-первых, у нас уже есть законы, криминализирующие большинство плохих дел, которые кто-либо может совершить с помощью ИИ. Взломать Пентагон? Это преступление. Украсть деньги из банка? Это преступление. Создать биологическое оружие? Это преступление. Совершить теракт? Это преступление. Мы можем просто сосредоточиться на предотвращении этих преступлений, когда можем, и на их преследовании, когда не можем. Нам даже не нужны новые законы — мне не известно ни одного реального вредоносного применения ИИ, которое не было бы уже незаконным. А если будет выявлено новое вредоносное применение, мы его запретим.

Но вы заметили, что я вставил кое-что: я сказал, что мы должны сосредоточиться прежде всего на предотвращении преступлений с помощью ИИ, прежде чем они произойдут — но разве такое предотвращение не означает запрет ИИ? Есть и другой способ предотвратить такие действия — использовать ИИ как оборонительный инструмент. Те же возможности, которые делают ИИ опасным в руках злоумышленников с дурными целями, делают его мощным в руках хороших людей с благими целями — в частности тех, чья работа — предотвращать плохие вещи.

Например, если вас беспокоит, что ИИ генерирует поддельных людей и поддельные видео, ответ — создать новые системы, в которых люди смогут верифицировать себя и подлинный контент с помощью криптографических подписей. Цифровое создание и изменение как реального, так и поддельного контента существовало и до ИИ; ответ — не в запрете текстовых редакторов и Photoshop — или ИИ, — а в использовании технологий для создания системы, которая действительно решает проблему.

И, во-вторых, давайте приложим серьёзные усилия для использования ИИ в хороших, легитимных, оборонительных целях. Давайте задействуем ИИ в киберзащите, в биологической защите, в охоте на террористов и во всём остальном, что мы делаем для обеспечения безопасности — своей, наших сообществ и нашей страны.

Уже есть много умных людей в правительстве и за его пределами, которые делают именно это — но если мы направим все усилия и интеллектуальные ресурсы, которые сейчас зациклены на бесплодной идее запрета ИИ, на использование ИИ для защиты от плохих людей, совершающих плохие дела, я думаю, нет сомнений, что мир, пропитанный ИИ, будет гораздо безопаснее того мира, в котором мы живём сегодня.

Реальный риск отказа от максимально быстрого и мощного развития ИИ

Есть один последний и реальный риск ИИ, который, пожалуй, самый пугающий из всех:

ИИ разрабатывается не только в относительно свободных обществах Запада, но и Коммунистической партией Китайской Народной Республики.

У Китая совершенно иное видение ИИ, чем у нас — они рассматривают его как механизм авторитарного контроля над населением, и точка. Они даже не скрывают этого, они говорят об этом открыто и уже реализуют свою повестку. И они не намерены ограничивать свою ИИ-стратегию Китаем — они намерены распространить её по всему миру, везде, где они разворачивают сети 5G, везде, где выдают кредиты «Пояса и пути», везде, где предоставляют дружелюбные потребительские приложения вроде TikTok, служащие фронтендом для их централизованного командно-контрольного ИИ.

Единственный величайший риск ИИ — что Китай завоюет глобальное доминирование в ИИ, а мы — Соединённые Штаты и Запад — нет.

Я предлагаю простую стратегию — собственно, ту же, которую президент Рональд Рейган использовал для победы в первой холодной войне с Советским Союзом.

«Мы побеждаем, они проигрывают».

Вместо того чтобы позволять необоснованным паникам вокруг ИИ-убийцы, «вредоносного» ИИ, ИИ, уничтожающего рабочие места, и ИИ, порождающего неравенство, загнать нас в оборону, мы в Соединённых Штатах и на Западе должны вложиться в ИИ так сильно, как только возможно.

Мы должны стремиться выиграть гонку за глобальное технологическое превосходство в ИИ и не допустить, чтобы его добился Китай.

Попутно мы должны внедрять ИИ в нашу экономику и общество как можно быстрее и интенсивнее, чтобы максимизировать его вклад в экономическую производительность и человеческий потенциал.

Это лучший способ как нейтрализовать реальные риски ИИ, так и гарантировать, что наш образ жизни не будет вытеснен гораздо более мрачным китайским видением.

Что делать?

Я предлагаю простой план:

Крупным ИИ-компаниям следует позволить развивать ИИ как можно быстрее и агрессивнее — но не позволять им осуществлять регуляторный захват, не позволять им создавать защищённый государством картель, изолированный от рыночной конкуренции на основании ложных утверждений о рисках ИИ. Это максимизирует технологическую и социальную отдачу от потрясающих возможностей этих компаний, которые являются жемчужинами современного капитализма. Стартапам в сфере ИИ следует позволить развивать ИИ так же быстро и агрессивно, как они могут. Они не должны сталкиваться ни с государственной защитой крупных компаний, ни получать государственную помощь. Им просто нужно позволить конкурировать. Если и когда стартапы не добиваются успеха, их присутствие на рынке тем не менее непрерывно мотивирует крупные компании работать на пределе возможностей — наши экономики и общества выигрывают в любом случае. Открытому ИИ следует позволить свободно распространяться и конкурировать как с крупными ИИ-компаниями, так и со стартапами. Не должно быть вообще никаких регуляторных барьеров для открытого кода. Даже когда открытый код не побеждает компании, его широкая доступность — благо для студентов по всему миру, желающих научиться создавать и использовать ИИ, чтобы стать частью технологического будущего, и обеспечивает доступ к ИИ каждому, кто может от него выиграть, независимо от того, кто он и сколько у него денег. Для нейтрализации риска злоупотреблений ИИ правительства в партнёрстве с частным сектором должны энергично работать в каждой области потенциального риска, используя ИИ для максимального усиления оборонительных возможностей общества. Это не должно ограничиваться рисками, связанными с ИИ, но охватывать и более общие проблемы — недоедание, болезни и климат. ИИ может быть невероятно мощным инструментом решения проблем, и мы должны принять его как таковой. Для предотвращения риска глобального доминирования Китая в ИИ мы должны использовать всю мощь нашего частного сектора, нашего научного сообщества и наших правительств сообща, чтобы обеспечить абсолютное глобальное доминирование американского и западного ИИ, в конечном счёте включая сам Китай. Мы побеждаем, они проигрывают.

Вот так мы используем ИИ, чтобы спасти мир.

Время строить.

Легенды и герои

В заключение — два простых утверждения.

Разработка ИИ началась в 1940-х годах, одновременно с изобретением компьютера. Первая научная статья о нейронных сетях — архитектуре ИИ, который мы имеем сегодня, — была опубликована в 1943 году. Целые поколения учёных в области ИИ за последние 80 лет родились, учились, работали и во многих случаях ушли из жизни, так и не увидев плодов, которые мы пожинаем сейчас. Они — легенды, каждый из них.

Сегодня растущие ряды инженеров — многие из которых молоды и, возможно, имели дедушек или даже прадедушек, причастных к созданию идей, лежащих в основе ИИ, — работают над тем, чтобы сделать ИИ реальностью, противостоя стене нагнетания страха и алармизма, которая пытается изобразить их безрассудными злодеями. Я не считаю их безрассудными или злодеями. Они — герои, каждый из них. Наша фирма и я рады поддержать стольких из них, скольких мы сможем, и мы будем стоять рядом с ними и их работой на все 100%.

Marc Andreessen

— сооснователь и генеральный партнёр венчурной фирмы Andreessen Horowitz.

AI Canon

ИИ индустриализирует открытия

ИИ, глубокое обучение и машинное обучение: введение

Экспертные новости от a16z

Мы создали сеть экспертов, глубоко погружённых в технологии и их влияние на наше будущее. Подпишитесь на наши рассылки, чтобы получать их экспертные мнения.

Мнения, выраженные в «постах» (включая подкасты, видео и социальные сети), принадлежат конкретным сотрудникам a16z, процитированным в них, и не являются мнениями a16z Capital Management, L.L.C. («a16z») или её аффилированных лиц. a16z Capital Management является инвестиционным консультантом, зарегистрированным в Комиссии по ценным бумагам и биржам. Регистрация в качестве инвестиционного консультанта не подразумевает каких-либо особых навыков или подготовки. Посты не адресованы каким-либо инвесторам или потенциальным инвесторам и не являются предложением о продаже — или запросом предложения о покупке — каких-либо ценных бумаг, и на них нельзя полагаться при оценке достоинств какой-либо инвестиции.

Содержимое данного ресурса — а также доступное на любых связанных платформах распространения и любых публичных аккаунтах a16z в социальных сетях, платформах и сайтах (совместно именуемых «каналами распространения контента») — не должно рассматриваться или использоваться каким-либо образом как инвестиционная, юридическая, налоговая или иная консультация. Вам следует обращаться к собственным консультантам по юридическим, деловым, налоговым и другим вопросам, связанным с любой инвестицией. Любые прогнозы, оценки, предположения, цели, перспективы и/или мнения, выраженные в настоящих материалах, могут быть изменены без уведомления и могут отличаться от мнений, выраженных другими лицами, или противоречить им. Любые графики, представленные здесь или на каналах распространения контента a16z, предназначены только для информационных целей и не должны использоваться при принятии инвестиционных решений. Определённая информация, содержащаяся здесь, получена из сторонних источников, в том числе от портфельных компаний фондов, управляемых a16z. Хотя она взята из источников, считающихся надёжными, a16z не проводила независимую проверку такой информации и не делает заявлений о долгосрочной точности информации или её уместности для данной ситуации. Кроме того, посты могут содержать рекламу третьих сторон; a16z не рассматривала такую рекламу и не одобряет какое-либо рекламное содержание в ней. Весь контент актуален только на указанную дату.

Ни при каких обстоятельствах посты или иная информация, представленная на данном сайте — или на связанных каналах распространения контента — не должна рассматриваться как предложение о покупке или продаже какой-либо ценной бумаги или доли в каком-либо объединённом инвестиционном инструменте, спонсируемом, обсуждаемом или упоминаемом сотрудниками a16z. Также она не должна рассматриваться как предложение предоставить услуги инвестиционного консультирования; предложение инвестировать в управляемый a16z объединённый инвестиционный инструмент будет сделано отдельно и исключительно посредством конфиденциальных документов предложения конкретных объединённых инвестиционных инструментов — которые должны быть прочитаны в полном объёме — и только тем лицам, которые, помимо прочих требований, соответствуют определённым квалификационным критериям в соответствии с федеральным законодательством о ценных бумагах. Такие инвесторы, определяемые как аккредитованные инвесторы и квалифицированные покупатели, как правило, считаются способными оценить достоинства и риски потенциальных инвестиций и финансовых вопросов.

Не может быть никаких гарантий того, что инвестиционные цели a16z будут достигнуты или инвестиционные стратегии будут успешными. Любая инвестиция в инструмент, управляемый a16z, сопряжена с высокой степенью риска, включая риск потери всей вложенной суммы. Любые упомянутые, указанные или описанные инвестиции или портфельные компании не являются репрезентативными для всех инвестиций в инструменты, управляемые a16z, и не может быть никаких гарантий того, что инвестиции будут прибыльными или что иные инвестиции, осуществлённые в будущем, будут иметь аналогичные характеристики или результаты. Список инвестиций, осуществлённых фондами под управлением a16z, доступен по адресу: https://a16z.com/investments/. Прошлые результаты инвестиций a16z, объединённых инвестиционных инструментов или инвестиционных стратегий не обязательно являются показателем будущих результатов. Из данного списка исключены инвестиции (и определённые публично торгуемые криптовалюты/цифровые активы), по которым эмитент не предоставил a16z разрешение на публичное раскрытие. Что касается инвестиций в криптовалютные или токен-проекты, a16z действует в собственных финансовых интересах, не обязательно в интересах других держателей токенов. a16z не имеет особой роли ни в одном из этих проектов и не обладает полномочиями по их управлению. a16z не обязуется продолжать какое-либо участие в этих проектах, кроме как в качестве инвестора и держателя токенов, и другие держатели токенов не должны ожидать или полагаться на какое-либо особое участие с её стороны.

В отношении фондов, управляемых a16z и зарегистрированных в Японии, a16z предоставит любому представителю японской общественности копии тех документов, которые должны быть публично доступны в соответствии со статьёй 63 Закона о финансовых инструментах и биржах Японии. Для запроса таких документов обращайтесь по адресу compliance@a16z.com.

С другими условиями использования сайта можно ознакомиться здесь. Дополнительная важная информация об a16z, включая форму ADV Part 2A Brochure, доступна на сайте SEC: http://www.adviserinfo.sec.gov.