Why AI Will Save the World | Andreessen Horowitz

Why AI Will Save the World

Почему ИИ спасёт мир

The era of Artificial Intelligence is here, and boy are people freaking out.

Эра искусственного интеллекта наступила, и люди, мягко говоря, в панике.

Fortunately, I am here to bring the good news: AI will not destroy the world, and in fact may save it.

К счастью, я здесь, чтобы принести хорошую новость: ИИ не уничтожит мир и, вполне возможно, спасёт его.

First, a short description of what AI is: The application of mathematics and software code to teach computers how to understand, synthesize, and generate knowledge in ways similar to how people do it. AI is a computer program like any other – it runs, takes input, processes, and generates output. AI’s output is useful across a wide range of fields, ranging from coding to medicine to law to the creative arts. It is owned by people and controlled by people, like any other technology.

Для начала — краткое описание того, что такое ИИ: применение математики и программного кода для обучения компьютеров пониманию, синтезу и генерации знаний способами, схожими с человеческими. ИИ — это компьютерная программа, как и любая другая: она запускается, принимает входные данные, обрабатывает их и выдаёт результат. Результаты работы ИИ полезны в самых разных областях — от программирования до медицины, от юриспруденции до творчества. Он принадлежит людям и контролируется людьми, как и любая другая технология.

A shorter description of what AI isn’t: Killer software and robots that will spring to life and decide to murder the human race or otherwise ruin everything, like you see in the movies.

Ещё более краткое описание того, чем ИИ не является: программа-убийца и роботы, которые оживут и решат уничтожить человечество или иным образом всё испортить, как показывают в фильмах.

An even shorter description of what AI could be: A way to make everything we care about better.

И совсем краткое описание того, чем ИИ мог бы стать: способом сделать лучше всё, что нам дорого.

Why AI Can Make Everything We Care About Better

Почему ИИ может сделать лучше всё, что нам дорого

The most validated core conclusion of social science across many decades and thousands of studies is that human intelligence makes a very broad range of life outcomes better. Smarter people have better outcomes in almost every domain of activity: academic achievement, job performance, occupational status, income, creativity, physical health, longevity, learning new skills, managing complex tasks, leadership, entrepreneurial success, conflict resolution, reading comprehension, financial decision making, understanding others’ perspectives, creative arts, parenting outcomes, and life satisfaction.

Наиболее подтверждённый вывод социальных наук за многие десятилетия и тысячи исследований состоит в том, что человеческий интеллект улучшает очень широкий спектр жизненных результатов. Более умные люди добиваются лучших результатов практически во всех сферах деятельности: академическая успеваемость, профессиональная эффективность, карьерный статус, доход, креативность, физическое здоровье, продолжительность жизни, освоение новых навыков, управление сложными задачами, лидерство, предпринимательский успех, разрешение конфликтов, понимание прочитанного, принятие финансовых решений, понимание точки зрения других людей, творчество, воспитание детей и удовлетворённость жизнью.

Further, human intelligence is the lever that we have used for millennia to create the world we live in today: science, technology, math, physics, chemistry, medicine, energy, construction, transportation, communication, art, music, culture, philosophy, ethics, morality. Without the application of intelligence on all these domains, we would all still be living in mud huts, scratching out a meager existence of subsistence farming. Instead we have used our intelligence to raise our standard of living on the order of 10,000X over the last 4,000 years.

Более того, человеческий интеллект — это рычаг, с помощью которого мы тысячелетиями создавали мир, в котором живём сегодня: наука, технологии, математика, физика, химия, медицина, энергетика, строительство, транспорт, коммуникации, искусство, музыка, культура, философия, этика, мораль. Без применения интеллекта во всех этих областях мы до сих пор жили бы в глиняных хижинах, с трудом добывая пропитание натуральным хозяйством. Вместо этого мы использовали свой интеллект, чтобы поднять уровень жизни примерно в 10 000 раз за последние 4 000 лет.

What AI offers us is the opportunity to profoundly augment human intelligence to make all of these outcomes of intelligence – and many others, from the creation of new medicines to ways to solve climate change to technologies to reach the stars – much, much better from here.

ИИ даёт нам возможность радикально усилить человеческий интеллект, чтобы все эти плоды разума — а также многие другие, от создания новых лекарств до решения проблемы изменения климата и технологий для полётов к звёздам — стали намного, намного лучше.

AI augmentation of human intelligence has already started – AI is already around us in the form of computer control systems of many kinds, is now rapidly escalating with AI Large Language Models like ChatGPT, and will accelerate very quickly from here – if we let it.

Усиление человеческого интеллекта с помощью ИИ уже началось — ИИ уже окружает нас в виде компьютерных систем управления самого разного рода, сейчас стремительно набирает обороты благодаря большим языковым моделям вроде ChatGPT и будет ускоряться дальше — если мы позволим.

In our new era of AI:

В нашу новую эру ИИ:

У каждого ребёнка будет ИИ-репетитор — бесконечно терпеливый, бесконечно сочувствующий, бесконечно знающий, бесконечно готовый помочь. ИИ-репетитор будет рядом с каждым ребёнком на каждом этапе его развития, помогая раскрыть потенциал с машинной версией безграничной любви. У каждого человека будет ИИ-ассистент/коуч/наставник/тренер/советник/терапевт — бесконечно терпеливый, бесконечно сочувствующий, бесконечно знающий и бесконечно готовый помочь. ИИ-ассистент будет сопровождать на протяжении всех жизненных возможностей и трудностей, максимизируя результаты каждого человека. У каждого учёного будет ИИ-ассистент/соратник/партнёр, который значительно расширит масштаб научных исследований и достижений. Каждый художник, каждый инженер, каждый предприниматель, каждый врач, каждый опекун получит то же самое в своих сферах. Каждый лидер — CEO, чиновник, президент некоммерческой организации, спортивный тренер, учитель — получит то же самое. Эффект усиления от лучших решений лидеров, транслируемый на всех их подчинённых, огромен, поэтому это усиление интеллекта может оказаться самым важным из всех. Рост производительности во всей экономике резко ускорится, стимулируя экономический рост, создание новых отраслей, новых рабочих мест и рост зарплат, что приведёт к новой эре повышенного материального благополучия по всей планете. Научные прорывы, новые технологии и лекарства резко умножатся, поскольку ИИ поможет нам ещё глубже расшифровать законы природы и обратить их себе на пользу. Творческие искусства вступят в золотой век, поскольку художники, музыканты, писатели и кинематографисты, усиленные ИИ, получат возможность воплощать свои замыслы гораздо быстрее и в гораздо большем масштабе, чем когда-либо прежде. Я даже считаю, что ИИ улучшит ведение войн, когда они неизбежны, резко сократив число жертв. Каждая война характеризуется ужасными решениями, принятыми под сильным давлением и при крайне ограниченной информации очень ограниченными человеческими лидерами. Теперь у военных командиров и политических лидеров будут ИИ-советники, которые помогут принимать значительно лучшие стратегические и тактические решения, минимизируя риски, ошибки и ненужное кровопролитие. Короче говоря, всё, что люди делают сегодня с помощью своего природного интеллекта, может быть сделано гораздо лучше с ИИ, и мы сможем взяться за новые задачи, которые без ИИ были невозможны, — от излечения всех болезней до межзвёздных путешествий. И дело не только в интеллекте! Пожалуй, самое недооценённое качество ИИ — то, насколько он может быть человечным. ИИ-искусство даёт людям, у которых нет технических навыков, свободу создавать и делиться своими творческими идеями. Разговор с эмпатичным ИИ-другом действительно улучшает способность справляться с трудностями. А медицинские ИИ-чатботы уже проявляют больше эмпатии, чем их коллеги-люди. Вместо того чтобы делать мир жёстче и механистичнее, бесконечно терпеливый и сочувствующий ИИ сделает мир теплее и добрее.

The stakes here are high. The opportunities are profound. AI is quite possibly the most important – and best – thing our civilization has ever created, certainly on par with electricity and microchips, and probably beyond those.

Ставки высоки. Возможности грандиозны. ИИ, вполне возможно, — самое важное и лучшее, что когда-либо создавала наша цивилизация, наравне с электричеством и микрочипами, а скорее всего, и превосходит их.

The development and proliferation of AI – far from a risk that we should fear – is a moral obligation that we have to ourselves, to our children, and to our future.

Развитие и распространение ИИ — отнюдь не риск, которого стоит бояться, — это моральный долг перед нами самими, нашими детьми и нашим будущим.

We should be living in a much better world with AI, and now we can.

Мы должны жить в гораздо лучшем мире благодаря ИИ, и теперь мы можем.

So Why The Panic?

Так откуда паника?

In contrast to this positive view, the public conversation about AI is presently shot through with hysterical fear and paranoia.

В противовес этому позитивному взгляду, публичная дискуссия об ИИ сейчас пронизана истерическим страхом и паранойей.

We hear claims that AI will variously kill us all, ruin our society, take all our jobs, cause crippling inequality, and enable bad people to do awful things.

Мы слышим утверждения, что ИИ поочерёдно уничтожит нас всех, разрушит наше общество, отберёт все рабочие места, породит сокрушительное неравенство и позволит плохим людям творить ужасные вещи.

What explains this divergence in potential outcomes from near utopia to horrifying dystopia?

Чем объясняется это расхождение в возможных исходах — от почти утопии до ужасающей антиутопии?

Historically, every new technology that matters, from electric lighting to automobiles to radio to the Internet, has sparked a moral panic – a social contagion that convinces people the new technology is going to destroy the world, or society, or both. The fine folks at Pessimists Archive have documented these technology-driven moral panics over the decades; their history makes the pattern vividly clear. It turns out this present panic is not even the first for AI.

Исторически каждая значимая новая технология — от электрического освещения до автомобилей, от радио до интернета — порождала моральную панику — социальную заразу, убеждающую людей, что новая технология уничтожит мир, общество или и то и другое. Замечательные ребята из Pessimists Archive задокументировали эти технологические моральные паники за десятилетия; их история наглядно демонстрирует закономерность. Оказывается, нынешняя паника — даже не первая для ИИ.

Now, it is certainly the case that many new technologies have led to bad outcomes – often the same technologies that have been otherwise enormously beneficial to our welfare. So it’s not that the mere existence of a moral panic means there is nothing to be concerned about.

Безусловно, многие новые технологии приводили к негативным последствиям — зачастую те же самые технологии, которые в остальном были чрезвычайно полезны для нашего благополучия. Так что само по себе наличие моральной паники не означает, что беспокоиться не о чем.

But a moral panic is by its very nature irrational – it takes what may be a legitimate concern and inflates it into a level of hysteria that ironically makes it harder to confront actually serious concerns.

Но моральная паника по самой своей природе иррациональна — она берёт то, что может быть обоснованным беспокойством, и раздувает его до уровня истерии, которая по иронии судьбы затрудняет решение действительно серьёзных проблем.

And wow do we have a full-blown moral panic about AI right now.

И вот у нас сейчас полномасштабная моральная паника вокруг ИИ.

This moral panic is already being used as a motivating force by a variety of actors to demand policy action – new AI restrictions, regulations, and laws. These actors, who are making extremely dramatic public statements about the dangers of AI – feeding on and further inflaming moral panic – all present themselves as selfless champions of the public good.

Эта моральная паника уже используется различными игроками как движущая сила для требования политических мер — новых ограничений, регулирования и законов в сфере ИИ. Эти игроки, которые делают крайне драматичные публичные заявления об опасностях ИИ — подпитывая и ещё сильнее разжигая моральную панику, — все представляют себя самоотверженными борцами за общественное благо.

But are they?

Но так ли это?

And are they right or wrong?

И правы они или нет?

The Baptists And Bootleggers Of AI

«Баптисты» и «бутлегеры» ИИ

Economists have observed a longstanding pattern in reform movements of this kind. The actors within movements like these fall into two categories – “Baptists” and “Bootleggers” – drawing on the historical example of the prohibition of alcohol in the United States in the 1920’s:

Экономисты отметили давно существующую закономерность в реформаторских движениях подобного рода. Участники таких движений делятся на две категории — «баптисты» и «бутлегеры» — по аналогии с историческим примером сухого закона в США в 1920-х годах:

Baptists

«Баптисты»

“Baptists” are the true believer social reformers who legitimately feel – deeply and emotionally, if not rationally – that new restrictions, regulations, and laws are required to prevent societal disaster. For alcohol prohibition, these actors were often literally devout Christians who felt that alcohol was destroying the moral fabric of society. For AI risk, these actors are true believers that AI presents one or another existential risks – strap them to a polygraph, they really mean it.

«Баптисты» — это искренне убеждённые социальные реформаторы, которые искренне чувствуют — глубоко и эмоционально, если не рационально, — что новые ограничения, регулирование и законы необходимы для предотвращения общественной катастрофы. В случае сухого закона это зачастую были буквально набожные христиане, считавшие, что алкоголь разрушает моральную ткань общества. В случае рисков ИИ это истинно верующие в тот или иной экзистенциальный риск ИИ — подключите их к полиграфу, они действительно так считают.

Bootleggers

«Бутлегеры»

“Bootleggers” are the self-interested opportunists who stand to financially profit by the imposition of new restrictions, regulations, and laws that insulate them from competitors. For alcohol prohibition, these were the literal bootleggers who made a fortune selling illicit alcohol to Americans when legitimate alcohol sales were banned. For AI risk, these are CEOs who stand to make more money if regulatory barriers are erected that form a cartel of government-blessed AI vendors protected from new startup and open source competition – the software version of “too big to fail” banks.

«Бутлегеры» — это корыстные оппортунисты, которые могут финансово выиграть от введения новых ограничений, регулирования и законов, ограждающих их от конкурентов. В случае сухого закона это были буквально бутлегеры, сколотившие состояния на продаже нелегального алкоголя американцам, когда легальная продажа была запрещена. В случае рисков ИИ это CEO, которые заработают больше, если регуляторные барьеры создадут картель одобренных государством поставщиков ИИ, защищённых от конкуренции со стороны новых стартапов и открытого кода — программная версия банков «слишком больших, чтобы обанкротиться».

A cynic would suggest that some of the apparent Baptists are also Bootleggers – specifically the ones paid to attack AI by their universities, think tanks, activist groups, and media outlets. If you are paid a salary or receive grants to foster AI panic…you are probably a Bootlegger.

Циник предположил бы, что некоторые мнимые «баптисты» на самом деле являются «бутлегерами» — а именно те, кому платят за атаки на ИИ их университеты, аналитические центры, активистские группы и СМИ. Если вам платят зарплату или выделяют гранты за нагнетание паники вокруг ИИ… вы, вероятно, «бутлегер».

The problem with the Bootleggers is that they win. The Baptists are naive ideologues, the Bootleggers are cynical operators, and so the result of reform movements like these is often that the Bootleggers get what they want – regulatory capture, insulation from competition, the formation of a cartel – and the Baptists are left wondering where their drive for social improvement went so wrong.

Проблема с «бутлегерами» в том, что они побеждают. «Баптисты» — наивные идеалисты, «бутлегеры» — циничные дельцы, и результат реформаторских движений подобного рода часто таков, что «бутлегеры» получают желаемое — регуляторный захват, защиту от конкуренции, формирование картеля — а «баптисты» остаются в недоумении, почему их стремление к социальному улучшению пошло так наперекосяк.

We just lived through a stunning example of this – banking reform after the 2008 global financial crisis. The Baptists told us that we needed new laws and regulations to break up the “too big to fail” banks to prevent such a crisis from ever happening again. So Congress passed the Dodd-Frank Act of 2010, which was marketed as satisfying the Baptists’ goal, but in reality was coopted by the Bootleggers – the big banks. The result is that the same banks that were “too big to fail” in 2008 are much, much larger now.

Мы только что прошли через поразительный пример этого — банковскую реформу после мирового финансового кризиса 2008 года. «Баптисты» говорили нам, что нужны новые законы и нормы, чтобы разделить банки, «слишком большие, чтобы обанкротиться», и не допустить повторения такого кризиса. Конгресс принял закон Додда-Фрэнка 2010 года, который преподносился как реализация цели «баптистов», но в реальности был присвоен «бутлегерами» — крупными банками. Результат: те самые банки, которые были «слишком большими, чтобы обанкротиться» в 2008 году, теперь значительно, значительно крупнее.

So in practice, even when the Baptists are genuine – and even when the Baptists are right – they are used as cover by manipulative and venal Bootleggers to benefit themselves. 

Так что на практике, даже когда «баптисты» искренни — и даже когда «баптисты» правы — их используют как прикрытие манипулятивные и продажные «бутлегеры» ради собственной выгоды.

And this is what is happening in the drive for AI regulation right now.

Именно это и происходит сейчас в стремлении к регулированию ИИ.

However, it isn’t sufficient to simply identify the actors and impugn their motives. We should consider the arguments of both the Baptists and the Bootleggers on their merits.

Однако недостаточно просто определить игроков и поставить под сомнение их мотивы. Нам следует рассмотреть аргументы и «баптистов», и «бутлегеров» по существу.

AI Risk #1: Will AI Kill Us All?

Риск ИИ №1: Уничтожит ли ИИ нас всех?

The first and original AI doomer risk is that AI will decide to literally kill humanity.

Первый и исходный алармистский риск ИИ — что ИИ решит буквально уничтожить человечество.

The fear that technology of our own creation will rise up and destroy us is deeply coded into our culture. The Greeks expressed this fear in the Prometheus Myth – Prometheus brought the destructive power of fire, and more generally technology (“techne”), to man, for which Prometheus was condemned to perpetual torture by the gods. Later, Mary Shelley gave us moderns our own version of this myth in her novel Frankenstein, or, The Modern Prometheus, in which we develop the technology for eternal life, which then rises up and seeks to destroy us. And of course, no AI panic newspaper story is complete without a still image of a gleaming red-eyed killer robot from James Cameron’s Terminator films.

Страх, что технология нашего собственного создания восстанет и уничтожит нас, глубоко заложен в нашей культуре. Греки выразили этот страх в мифе о Прометее — Прометей принёс разрушительную силу огня, а шире — технологии (techne), людям, за что был приговорён богами к вечным мукам. Позже Мэри Шелли дала нам, людям нового времени, собственную версию этого мифа в романе «Франкенштейн, или Современный Прометей», в котором мы создаём технологию вечной жизни, а она восстаёт и пытается нас уничтожить. И, конечно, ни одна алармистская газетная статья об ИИ не обходится без кадра сверкающего красноглазого робота-убийцы из фильмов Джеймса Кэмерона «Терминатор».

The presumed evolutionary purpose of this mythology is to motivate us to seriously consider potential risks of new technologies – fire, after all, can indeed be used to burn down entire cities. But just as fire was also the foundation of modern civilization as used to keep us warm and safe in a cold and hostile world, this mythology ignores the far greater upside of most – all? – new technologies, and in practice inflames destructive emotion rather than reasoned analysis. Just because premodern man freaked out like this doesn’t mean we have to; we can apply rationality instead.

Предполагаемая эволюционная цель этой мифологии — побудить нас серьёзно задуматься о потенциальных рисках новых технологий: огонь, в конце концов, действительно можно использовать для сожжения целых городов. Но подобно тому, как огонь стал фундаментом современной цивилизации, помогая нам согреваться и оставаться в безопасности в холодном и враждебном мире, эта мифология игнорирует гораздо бо́льшую пользу большинства — всех? — новых технологий и на практике разжигает деструктивные эмоции, а не взвешенный анализ. Только потому что первобытный человек так паниковал, нам не обязательно делать то же самое; мы можем применить рациональность.

My view is that the idea that AI will decide to literally kill humanity is a profound category error. AI is not a living being that has been primed by billions of years of evolution to participate in the battle for the survival of the fittest, as animals are, and as we are. It is math – code – computers, built by people, owned by people, used by people, controlled by people. The idea that it will at some point develop a mind of its own and decide that it has motivations that lead it to try to kill us is a superstitious handwave.

Я считаю, что идея о том, что ИИ решит буквально уничтожить человечество, представляет собой глубокую категориальную ошибку. ИИ — это не живое существо, подготовленное миллиардами лет эволюции к участию в борьбе за выживание, как животные и как мы. Это математика — код — компьютеры, созданные людьми, принадлежащие людям, используемые людьми, контролируемые людьми. Идея о том, что в какой-то момент ИИ обретёт собственный разум и решит, что у него есть мотивы, побуждающие его попытаться нас убить, — это суеверная отмашка.

In short, AI doesn’t want, it doesn’t have goals, it doesn’t want to kill you, because it’s not alive. And AI is a machine – is not going to come alive any more than your toaster will.

Короче говоря, ИИ не хочет, у него нет целей, он не хочет вас убить, потому что он не живой. ИИ — это машина, и он не оживёт точно так же, как не оживёт ваш тостер.

Now, obviously, there are true believers in killer AI – Baptists – who are gaining a suddenly stratospheric amount of media coverage for their terrifying warnings, some of whom claim to have been studying the topic for decades and say they are now scared out of their minds by what they have learned. Some of these true believers are even actual innovators of the technology. These actors are arguing for a variety of bizarre and extreme restrictions on AI ranging from a ban on AI development, all the way up to military airstrikes on datacenters and nuclear war. They argue that because people like me cannot rule out future catastrophic consequences of AI, that we must assume a precautionary stance that may require large amounts of physical violence and death in order to prevent potential existential risk.

Разумеется, существуют истинно верующие в ИИ-убийцу — «баптисты», — которые внезапно получили колоссальное медийное внимание за свои пугающие предупреждения, некоторые из них утверждают, что изучали эту тему десятилетиями и теперь напуганы до смерти тем, что узнали. Некоторые из этих истинно верующих — даже настоящие создатели этой технологии. Эти игроки выступают за различные причудливые и экстремальные ограничения ИИ — от запрета на разработку ИИ вплоть до авиаударов по дата-центрам и ядерной войны. Они утверждают, что поскольку такие люди, как я, не могут исключить будущие катастрофические последствия ИИ, мы должны придерживаться принципа предосторожности, который может потребовать масштабного физического насилия и гибели людей ради предотвращения потенциального экзистенциального риска.

My response is that their position is non-scientific – What is the testable hypothesis? What would falsify the hypothesis? How do we know when we are getting into a danger zone? These questions go mainly unanswered apart from “You can’t prove it won’t happen!” In fact, these Baptists’ position is so non-scientific and so extreme – a conspiracy theory about math and code – and is already calling for physical violence, that I will do something I would normally not do and question their motives as well.

Мой ответ: их позиция ненаучна. Какова проверяемая гипотеза? Что могло бы её опровергнуть? Как мы узнаем, что входим в зону опасности? Эти вопросы в основном остаются без ответа, кроме «Вы не можете доказать, что этого не случится!» На самом деле позиция этих «баптистов» настолько ненаучна и настолько экстремальна — теория заговора о математике и коде — и уже призывает к физическому насилию, что я сделаю то, чего обычно не делаю, и поставлю под сомнение также их мотивы.

Specifically, I think three things are going on:

Конкретно, я считаю, что здесь происходят три вещи:

First, recall that John Von Neumann responded to Robert Oppenheimer’s famous hand-wringing about his role creating nuclear weapons – which helped end World War II and prevent World War III – with, “Some people confess guilt to claim credit for the sin.” What is the most dramatic way one can claim credit for the importance of one’s work without sounding overtly boastful? This explains the mismatch between the words and actions of the Baptists who are actually building and funding AI – watch their actions, not their words. (Truman was harsher after meeting with Oppenheimer: “Don’t let that crybaby in here again.”)

Во-первых, вспомните, что Джон фон Нейман ответил на знаменитые терзания Роберта Оппенгеймера по поводу его роли в создании ядерного оружия — которое помогло завершить Вторую мировую войну и предотвратить Третью — словами: «Некоторые признаются в грехе, чтобы присвоить себе заслугу за него». Каков самый эффектный способ заявить о значимости своей работы, не звуча при этом откровенно хвастливо? Это объясняет расхождение между словами и действиями «баптистов», которые на самом деле создают и финансируют ИИ — следите за их действиями, а не за словами. (Трумэн был жёстче после встречи с Оппенгеймером: «Больше не пускайте сюда этого плаксу».)

Second, some of the Baptists are actually Bootleggers. There is a whole profession of “AI safety expert”, “AI ethicist”, “AI risk researcher”. They are paid to be doomers, and their statements should be processed appropriately.

Во-вторых, некоторые «баптисты» на самом деле являются «бутлегерами». Существует целая профессия — «эксперт по безопасности ИИ», «специалист по этике ИИ», «исследователь рисков ИИ». Им платят за то, чтобы быть алармистами, и к их заявлениям стоит относиться соответственно.

Third, California is justifiably famous for our many thousands of cults, from EST to the Peoples Temple, from Heaven’s Gate to the Manson Family. Many, although not all, of these cults are harmless, and maybe even serve a purpose for alienated people who find homes in them. But some are very dangerous indeed, and cults have a notoriously hard time straddling the line that ultimately leads to violence and death.

В-третьих, Калифорния заслуженно знаменита тысячами своих культов — от EST до Народного храма, от «Врат Рая» до семьи Мэнсона. Многие, хотя и не все, из этих культов безвредны и, возможно, даже выполняют функцию для отчуждённых людей, находящих в них пристанище. Но некоторые действительно очень опасны, и культам, как известно, трудно удержаться на грани, за которой — насилие и смерть.

And the reality, which is obvious to everyone in the Bay Area but probably not outside of it, is that “AI risk” has developed into a cult, which has suddenly emerged into the daylight of global press attention and the public conversation. This cult has pulled in not just fringe characters, but also some actual industry experts and a not small number of wealthy donors – including, until recently, Sam Bankman-Fried. And it’s developed a full panoply of cult behaviors and beliefs.

И реальность, очевидная всем в Области залива, но, вероятно, не за её пределами, состоит в том, что тема «рисков ИИ» превратилась в культ, который внезапно вышел на свет глобального медийного внимания и публичной дискуссии. Этот культ вовлёк не только маргинальных персонажей, но и настоящих отраслевых экспертов, а также немалое число состоятельных доноров — включая, до недавнего времени, Сэма Бэнкмана-Фрида. И у него развился полный набор культовых поведенческих паттернов и верований.

This cult is why there are a set of AI risk doomers who sound so extreme – it’s not that they actually have secret knowledge that make their extremism logical, it’s that they’ve whipped themselves into a frenzy and really are…extremely extreme.

Именно этот культ объясняет, почему ряд ИИ-алармистов звучат так экстремально — дело не в том, что у них есть тайное знание, делающее их экстремизм логичным, а в том, что они довели себя до исступления и действительно являются… крайне экстремальными.

It turns out that this type of cult isn’t new – there is a longstanding Western tradition of millenarianism, which generates apocalypse cults. The AI risk cult has all the hallmarks of a millenarian apocalypse cult. From Wikipedia, with additions by me:

Оказывается, этот тип культа не нов — в западной традиции давно существует милленаризм, порождающий апокалиптические культы. Культ рисков ИИ обладает всеми признаками милленаристского апокалиптического культа. Из Википедии, с моими дополнениями:

“Millenarianism is the belief by a group or movement [AI risk doomers] in a coming fundamental transformation of society [the arrival of AI], after which all things will be changed [AI utopia, dystopia, and/or end of the world]. Only dramatic events [AI bans, airstrikes on datacenters, nuclear strikes on unregulated AI] are seen as able to change the world [prevent AI] and the change is anticipated to be brought about, or survived, by a group of the devout and dedicated. In most millenarian scenarios, the disaster or battle to come [AI apocalypse, or its prevention] will be followed by a new, purified world [AI bans] in which the believers will be rewarded [or at least acknowledged to have been correct all along].”

«Милленаризм — это вера группы или движения [ИИ-алармисты] в грядущую фундаментальную трансформацию общества [появление ИИ], после которой всё изменится [ИИ-утопия, антиутопия и/или конец света]. Только драматические события [запреты ИИ, авиаудары по дата-центрам, ядерные удары по нерегулируемому ИИ] способны изменить мир [предотвратить ИИ], и ожидается, что перемены будут осуществлены или пережиты группой преданных и самоотверженных. В большинстве милленаристских сценариев за грядущей катастрофой или битвой [ИИ-апокалипсис или его предотвращение] последует новый, очищенный мир [запреты ИИ], в котором верующие будут вознаграждены [или, по крайней мере, признаны правыми]».

This apocalypse cult pattern is so obvious that I am surprised more people don’t see it.

Этот паттерн апокалиптического культа настолько очевиден, что я удивлён, почему больше людей его не замечают.

Don’t get me wrong, cults are fun to hear about, their written material is often creative and fascinating, and their members are engaging at dinner parties and on TV. But their extreme beliefs should not determine the future of laws and society – obviously not.

Не поймите меня неправильно: о культах интересно слышать, их литература часто креативна и увлекательна, а их члены — интересные собеседники на ужинах и в телеэфире. Но их экстремальные убеждения не должны определять будущее законов и общества — разумеется, нет.

AI Risk #2: Will AI Ruin Our Society?

Риск ИИ №2: Разрушит ли ИИ наше общество?

The second widely mooted AI risk is that AI will ruin our society, by generating outputs that will be so “harmful”, to use the nomenclature of this kind of doomer, as to cause profound damage to humanity, even if we’re not literally killed.

Второй широко обсуждаемый риск ИИ заключается в том, что ИИ разрушит наше общество, генерируя настолько «вредоносные» результаты — если использовать терминологию алармистов этого типа, — что они нанесут глубокий ущерб человечеству, даже если нас буквально не убьют.

Short version: If the murder robots don’t get us, the hate speech and misinformation will.

Коротко: если роботы-убийцы нас не достанут, то разжигание ненависти и дезинформация — точно.

This is a relatively recent doomer concern that branched off from and somewhat took over the “AI risk” movement that I described above. In fact, the terminology of AI risk recently changed from “AI safety” – the term used by people who are worried that AI would literally kill us – to “AI alignment” – the term used by people who are worried about societal “harms”. The original AI safety people are frustrated by this shift, although they don’t know how to put it back in the box – they now advocate that the actual AI risk topic be renamed “AI notkilleveryoneism”, which has not yet been widely adopted but is at least clear.

Это относительно недавняя алармистская тема, ответвившаяся от описанного мной выше движения «рисков ИИ» и в некоторой степени его вытеснившая. Фактически терминология рисков ИИ недавно сменилась с «безопасности ИИ» (AI safety) — термина, используемого людьми, которые боятся, что ИИ буквально нас убьёт, — на «согласование ИИ» (AI alignment) — термин тех, кто беспокоится об общественном «вреде». Приверженцы изначальной концепции безопасности ИИ разочарованы этим сдвигом, хотя не знают, как вернуть джинна в бутылку, — теперь они предлагают переименовать настоящую тему рисков ИИ в «ИИ-неубейвсехизм» (AI notkilleveryoneism), что пока не получило широкого распространения, но по крайней мере звучит ясно.

The tipoff to the nature of the AI societal risk claim is its own term, “AI alignment”. Alignment with what? Human values. Whose human values? Ah, that’s where things get tricky.

Подсказка к природе утверждений о социальных рисках ИИ кроется в самом термине «согласование ИИ». Согласование с чем? С человеческими ценностями. С чьими человеческими ценностями? А вот тут начинаются сложности.

As it happens, I have had a front row seat to an analogous situation – the social media “trust and safety” wars. As is now obvious, social media services have been under massive pressure from governments and activists to ban, restrict, censor, and otherwise suppress a wide range of content for many years. And the same concerns of “hate speech” (and its mathematical counterpart, “algorithmic bias”) and “misinformation” are being directly transferred from the social media context to the new frontier of “AI alignment”. 

Так получилось, что я наблюдал аналогичную ситуацию из первого ряда — войны вокруг «доверия и безопасности» в социальных сетях. Как сейчас очевидно, социальные сети годами находились под мощным давлением со стороны правительств и активистов с требованиями запретить, ограничить, цензурировать и иным образом подавить широкий спектр контента. И те же самые опасения по поводу «разжигания ненависти» (и его математического аналога — «алгоритмической предвзятости») и «дезинформации» напрямую переносятся из контекста социальных сетей на новый рубеж «согласования ИИ».

My big learnings from the social media wars are:

Мои главные уроки из войн за социальные сети таковы:

On the one hand, there is no absolutist free speech position. First, every country, including the United States, makes at least some content illegal. Second, there are certain kinds of content, like child pornography and incitements to real world violence, that are nearly universally agreed to be off limits – legal or not – by virtually every society. So any technological platform that facilitates or generates content – speech – is going to have some restrictions.

С одной стороны, абсолютистской позиции свободы слова не существует. Во-первых, каждая страна, включая Соединённые Штаты, запрещает хотя бы некоторые виды контента. Во-вторых, есть определённые виды контента, такие как детская порнография и призывы к реальному насилию, которые практически единодушно признаются недопустимыми — законодательно или нет — почти в любом обществе. Так что любая технологическая платформа, которая распространяет или генерирует контент — то есть речь, — будет иметь какие-то ограничения.

On the other hand, the slippery slope is not a fallacy, it’s an inevitability. Once a framework for restricting even egregiously terrible content is in place – for example, for hate speech, a specific hurtful word, or for misinformation, obviously false claims like “the Pope is dead” – a shockingly broad range of government agencies and activist pressure groups and nongovernmental entities will kick into gear and demand ever greater levels of censorship and suppression of whatever speech they view as threatening to society and/or their own personal preferences. They will do this up to and including in ways that are nakedly felony crimes. This cycle in practice can run apparently forever, with the enthusiastic support of authoritarian hall monitors installed throughout our elite power structures. This has been cascading for a decade in social media and with only certain exceptions continues to get more fervent all the time.

С другой стороны, скользкий склон — это не заблуждение, а неизбежность. Как только создана система ограничений даже для вопиюще ужасного контента — например, для разжигания ненависти — конкретное оскорбительное слово, или для дезинформации — заведомо ложные утверждения вроде «Папа Римский умер», — шокирующе широкий спектр государственных ведомств, активистских групп давления и негосударственных организаций начинают требовать всё более высоких уровней цензуры и подавления любой речи, которую они считают угрозой для общества и/или их личных предпочтений. Они делают это вплоть до способов, которые являются откровенными уголовными преступлениями. Этот цикл на практике может продолжаться бесконечно при восторженной поддержке авторитарных надзирателей, расставленных по всей нашей элитной властной структуре. Это нарастает уже десять лет в социальных сетях и, за некоторыми исключениями, становится только яростнее.

And so this is the dynamic that has formed around “AI alignment” now. Its proponents claim the wisdom to engineer AI-generated speech and thought that are good for society, and to ban AI-generated speech and thoughts that are bad for society. Its opponents claim that the thought police are breathtakingly arrogant and presumptuous – and often outright criminal, at least in the US – and in fact are seeking to become a new kind of fused government-corporate-academic authoritarian speech dictatorship ripped straight from the pages of George Orwell’s 1984.

Именно такая динамика сложилась сейчас вокруг «согласования ИИ». Его сторонники претендуют на мудрость конструировать ИИ-генерируемую речь и мысли, которые полезны для общества, и запрещать ИИ-генерируемую речь и мысли, которые вредны для общества. Их оппоненты утверждают, что полиция мысли поразительно самонадеянна и самоуверенна — и зачастую откровенно преступна, по крайней мере в США, — и на самом деле стремится стать новой формой сращённой государственно-корпоративно-академической авторитарной речевой диктатуры, сошедшей прямо со страниц романа Джорджа Оруэлла «1984».

As the proponents of both “trust and safety” and “AI alignment” are clustered into the very narrow slice of the global population that characterizes the American coastal elites – which includes many of the people who work in and write about the tech industry – many of my readers will find yourselves primed to argue that dramatic restrictions on AI output are required to avoid destroying society. I will not attempt to talk you out of this now, I will simply state that this is the nature of the demand, and that most people in the world neither agree with your ideology nor want to see you win.

Поскольку сторонники и «доверия и безопасности», и «согласования ИИ» сосредоточены в очень узком сегменте мирового населения, характерном для американских прибрежных элит — в число которых входят многие из тех, кто работает в технологической индустрии и пишет о ней, — многие из моих читателей могут обнаружить, что готовы утверждать: для спасения общества нужны жёсткие ограничения на выходные данные ИИ. Я не буду пытаться вас разубедить прямо сейчас — просто отмечу, что такова природа этого требования, и большинство людей в мире не разделяют вашу идеологию и не хотят видеть вашу победу.

If you don’t agree with the prevailing niche morality that is being imposed on both social media and AI via ever-intensifying speech codes, you should also realize that the fight over what AI is allowed to say/generate will be even more important – by a lot – than the fight over social media censorship. AI is highly likely to be the control layer for everything in the world. How it is allowed to operate is going to matter perhaps more than anything else has ever mattered. You should be aware of how a small and isolated coterie of partisan social engineers are trying to determine that right now, under cover of the age-old claim that they are protecting you.

Если вы не разделяете преобладающую нишевую мораль, насаждаемую в социальных сетях и ИИ через всё ужесточающиеся речевые кодексы, вам также стоит осознать, что борьба за то, что ИИ может говорить/генерировать, будет даже более важной — значительно более важной, — чем борьба с цензурой в социальных сетях. С высокой вероятностью ИИ станет управляющим слоем для всего в мире. То, как ему будет позволено работать, будет иметь значение, возможно, большее, чем что-либо другое за всю историю. Вам следует знать, как небольшая и изолированная клика партийных социальных инженеров пытается определить это прямо сейчас, прикрываясь вечным утверждением, что они вас защищают.

In short, don’t let the thought police suppress AI.

Короче говоря, не позволяйте полиции мысли подавить ИИ.

AI Risk #3: Will AI Take All Our Jobs?

Риск ИИ №3: Отберёт ли ИИ все рабочие места?

The fear of job loss due variously to mechanization, automation, computerization, or AI has been a recurring panic for hundreds of years, since the original onset of machinery such as the mechanical loom. Even though every new major technology has led to more jobs at higher wages throughout history, each wave of this panic is accompanied by claims that “this time is different” – this is the time it will finally happen, this is the technology that will finally deliver the hammer blow to human labor. And yet, it never happens. 

Страх потери рабочих мест из-за механизации, автоматизации, компьютеризации или ИИ — повторяющаяся паника на протяжении сотен лет, с момента появления первых машин, таких как механический ткацкий станок. Несмотря на то что каждая крупная новая технология на протяжении всей истории приводила к увеличению количества рабочих мест с более высокой оплатой, каждая волна этой паники сопровождается заявлениями, что «на этот раз всё иначе» — вот сейчас это наконец произойдёт, вот эта технология наконец нанесёт сокрушительный удар по человеческому труду. И тем не менее этого никогда не происходит.

We’ve been through two such technology-driven unemployment panic cycles in our recent past – the outsourcing panic of the 2000’s, and the automation panic of the 2010’s. Notwithstanding many talking heads, pundits, and even tech industry executives pounding the table throughout both decades that mass unemployment was near, by late 2019 – right before the onset of COVID – the world had more jobs at higher wages than ever in history.

В недавнем прошлом мы прошли через два таких цикла технологической паники вокруг безработицы — паника аутсорсинга в 2000-х и паника автоматизации в 2010-х. Несмотря на многочисленных экспертов, комментаторов и даже руководителей технологических компаний, на протяжении обоих десятилетий стучавших кулаком по столу с заявлениями о близкой массовой безработице, к концу 2019 года — прямо перед началом COVID — в мире было больше рабочих мест с более высокой оплатой, чем когда-либо в истории.

Nevertheless this mistaken idea will not die.

Тем не менее это заблуждение не желает умирать.

And sure enough, it’s back.

И конечно же, оно вернулось.

This time, we finally have the technology that’s going to take all the jobs and render human workers superfluous – real AI. Surely this time history won’t repeat, and AI will cause mass unemployment – and not rapid economic, job, and wage growth – right?

На этот раз у нас наконец есть технология, которая заберёт все рабочие места и сделает человеческих работников ненужными — настоящий ИИ. Уж на этот-то раз история не повторится, и ИИ вызовет массовую безработицу — а не быстрый экономический рост, рост занятости и зарплат — верно?

No, that’s not going to happen – and in fact AI, if allowed to develop and proliferate throughout the economy, may cause the most dramatic and sustained economic boom of all time, with correspondingly record job and wage growth – the exact opposite of the fear. And here’s why.

Нет, этого не произойдёт — и на самом деле ИИ, если ему позволить развиваться и распространяться по экономике, может вызвать самый масштабный и устойчивый экономический бум в истории с соответствующим рекордным ростом занятости и зарплат — прямую противоположность страхам. И вот почему.

The core mistake the automation-kills-jobs doomers keep making is called the Lump Of Labor Fallacy. This fallacy is the incorrect notion that there is a fixed amount of labor to be done in the economy at any given time, and either machines do it or people do it – and if machines do it, there will be no work for people to do.

Ключевая ошибка, которую алармисты «автоматизация убивает рабочие места» совершают раз за разом, называется заблуждением о фиксированном объёме труда. Это ошибочное представление о том, что в экономике в любой момент существует фиксированный объём работы, и её выполняют либо машины, либо люди — а если машины, то людям работы не останется.

The Lump Of Labor Fallacy flows naturally from naive intuition, but naive intuition here is wrong. When technology is applied to production, we get productivity growth – an increase in output generated by a reduction in inputs. The result is lower prices for goods and services. As prices for goods and services fall, we pay less for them, meaning that we now have extra spending power with which to buy other things. This increases demand in the economy, which drives the creation of new production – including new products and new industries – which then creates new jobs for the people who were replaced by machines in prior jobs. The result is a larger economy with higher material prosperity, more industries, more products, and more jobs.

Заблуждение о фиксированном объёме труда естественно вытекает из наивной интуиции, но наивная интуиция здесь ошибается. Когда технология применяется в производстве, мы получаем рост производительности — увеличение выпуска при сокращении затрат. Результат — снижение цен на товары и услуги. По мере снижения цен мы платим за них меньше, а значит, у нас появляется дополнительная покупательная способность для приобретения других вещей. Это увеличивает спрос в экономике, что стимулирует создание нового производства — включая новые продукты и новые отрасли, — которое затем создаёт новые рабочие места для людей, замещённых машинами на прежних позициях. Результат — более крупная экономика с более высоким материальным благосостоянием, большим количеством отраслей, продуктов и рабочих мест.

But the good news doesn’t stop there. We also get higher wages. This is because, at the level of the individual worker, the marketplace sets compensation as a function of the marginal productivity of the worker. A worker in a technology-infused business will be more productive than a worker in a traditional business. The employer will either pay that worker more money as he is now more productive, or another employer will, purely out of self interest. The result is that technology introduced into an industry generally not only increases the number of jobs in the industry but also raises wages.

Но хорошие новости на этом не заканчиваются. Мы также получаем более высокие зарплаты. Это связано с тем, что на уровне отдельного работника рынок устанавливает компенсацию как функцию предельной производительности работника. Работник в технологически оснащённом бизнесе будет продуктивнее, чем работник в традиционном. Работодатель либо заплатит этому работнику больше, поскольку тот теперь продуктивнее, либо это сделает другой работодатель — из чистого корыстного интереса. В результате внедрение технологий в отрасль, как правило, не только увеличивает количество рабочих мест, но и повышает зарплаты.

To summarize, technology empowers people to be more productive. This causes the prices for existing goods and services to fall, and for wages to rise. This in turn causes economic growth and job growth, while motivating the creation of new jobs and new industries. If a market economy is allowed to function normally and if technology is allowed to be introduced freely, this is a perpetual upward cycle that never ends. For, as Milton Friedman observed, “Human wants and needs are endless” – we always want more than we have. A technology-infused market economy is the way we get closer to delivering everything everyone could conceivably want, but never all the way there. And that is why technology doesn’t destroy jobs and never will.

Подводя итог: технология расширяет возможности людей быть более продуктивными. Это приводит к снижению цен на существующие товары и услуги и к росту зарплат. Это, в свою очередь, стимулирует экономический рост и рост занятости, одновременно мотивируя создание новых рабочих мест и новых отраслей. Если рыночной экономике позволить нормально функционировать и технологиям позволить свободно внедряться, это станет непрерывным восходящим циклом, который никогда не заканчивается. Ведь, как заметил Милтон Фридман, «Человеческие желания и потребности бесконечны» — мы всегда хотим больше, чем имеем. Технологически насыщенная рыночная экономика — это способ приблизиться к тому, чтобы дать каждому всё мыслимое, но никогда не дойти до конца. Вот почему технологии не уничтожают рабочие места и никогда не уничтожат.

These are such mindblowing ideas for people who have not been exposed to them that it may take you some time to wrap your head around them. But I swear I’m not making them up – in fact you can read all about them in standard economics textbooks. I recommend the chapter The Curse of Machinery in Henry Hazlitt’s Economics In One Lesson, and Frederic Bastiat’s satirical Candlemaker’s Petition to blot out the sun due to its unfair competition with the lighting industry, here modernized for our times.

Эти идеи настолько ошеломляющи для тех, кто с ними не сталкивался, что вам может понадобиться время, чтобы их осмыслить. Но клянусь, я их не выдумываю — вы можете прочитать обо всём этом в стандартных учебниках по экономике. Рекомендую главу «Проклятие машин» из книги Генри Хэзлитта «Экономика за один урок», а также сатирическую «Петицию свечных мастеров» Фредерика Бастиа с требованием заслонить солнце из-за его нечестной конкуренции с осветительной промышленностью — вот её модернизированная версия для нашего времени.

But this time is different, you’re thinking. This time, with AI, we have the technology that can replace ALL human labor.

Но на этот раз всё иначе, думаете вы. На этот раз, с ИИ, у нас есть технология, способная заменить ВЕСЬ человеческий труд.

But, using the principles I described above, think of what it would mean for literally all existing human labor to be replaced by machines.

Но, используя описанные мной принципы, подумайте, что означало бы буквальное замещение всего существующего человеческого труда машинами.

It would mean a takeoff rate of economic productivity growth that would be absolutely stratospheric, far beyond any historical precedent. Prices of existing goods and services would drop across the board to virtually zero. Consumer welfare would skyrocket. Consumer spending power would skyrocket. New demand in the economy would explode. Entrepreneurs would create dizzying arrays of new industries, products, and services, and employ as many people and AI as they could as fast as possible to meet all the new demand.

Это означало бы взрывной рост производительности экономики, совершенно беспрецедентный в истории. Цены на существующие товары и услуги по всем направлениям упали бы практически до нуля. Потребительское благосостояние взлетело бы. Покупательная способность потребителей взлетела бы. Новый спрос в экономике взорвался бы. Предприниматели создавали бы головокружительное множество новых отраслей, продуктов и услуг, нанимая как можно больше людей и ИИ как можно быстрее, чтобы удовлетворить весь новый спрос.

Suppose AI once again replaces that labor? The cycle would repeat, driving consumer welfare, economic growth, and job and wage growth even higher. It would be a straight spiral up to a material utopia that neither Adam Smith or Karl Marx ever dared dream of. 

Допустим, ИИ снова заместит этот труд? Цикл повторится, подняв потребительское благосостояние, экономический рост, занятость и зарплаты ещё выше. Это была бы прямая спираль вверх к материальной утопии, о которой ни Адам Смит, ни Карл Маркс не осмеливались мечтать.

We should be so lucky.

Нам бы так повезло.

AI Risk #4 Will AI Lead To Crippling Inequality?

Риск ИИ №4: Приведёт ли ИИ к катастрофическому неравенству?

Speaking of Karl Marx, the concern about AI taking jobs segues directly into the next claimed AI risk, which is, OK, Marc, suppose AI does take all the jobs, either for bad or for good. Won’t that result in massive and crippling wealth inequality, as the owners of AI reap all the economic rewards and regular people get nothing?

Раз уж зашла речь о Карле Марксе, опасения по поводу потери рабочих мест из-за ИИ плавно переходят к следующему заявленному риску: хорошо, Марк, допустим, ИИ действительно заберёт все рабочие места — к худшему или к лучшему. Разве это не приведёт к массовому и сокрушительному имущественному неравенству, когда владельцы ИИ соберут все экономические плоды, а обычные люди не получат ничего?

As it happens, this was a central claim of Marxism, that the owners of the means of production – the bourgeoisie – would inevitably steal all societal wealth from the people who do the actual work – the proletariat. This is another fallacy that simply will not die no matter how often it’s disproved by reality. But let’s drive a stake through its heart anyway.

Как оказалось, это было центральным утверждением марксизма: владельцы средств производства — буржуазия — неизбежно присвоят всё общественное богатство у тех, кто выполняет реальную работу, — пролетариата. Это ещё одно заблуждение, которое просто отказывается умирать, сколько бы раз его ни опровергала реальность. Но давайте всё же вобьём ему осиновый кол.

The flaw in this theory is that, as the owner of a piece of technology, it’s not in your own interest to keep it to yourself – in fact the opposite, it’s in your own interest to sell it to as many customers as possible. The largest market in the world for any product is the entire world, all 8 billion of us. And so in reality, every new technology – even ones that start by selling to the rarefied air of high-paying big companies or wealthy consumers – rapidly proliferates until it’s in the hands of the largest possible mass market, ultimately everyone on the planet.

Изъян этой теории в том, что владельцу технологии невыгодно оставлять её себе — наоборот, ему выгодно продать её максимальному количеству покупателей. Крупнейший рынок в мире для любого продукта — это весь мир, все 8 миллиардов человек. И поэтому в реальности каждая новая технология — даже те, что начинают с продаж в разреженном воздухе крупных платёжеспособных компаний или состоятельных потребителей — быстро распространяется, пока не окажется в руках максимально широкого массового рынка, то есть в конечном счёте у каждого на планете.

The classic example of this was Elon Musk’s so-called “secret plan” – which he naturally published openly – for Tesla in 2006:

Классический пример — так называемый «секретный план» Илона Маска для Tesla 2006 года, который он, естественно, опубликовал открыто:

Step 1, Build [expensive] sports car

Step 2, Use that money to build an affordable car

Step 3, Use that money to build an even more affordable car

Шаг 1: Создать [дорогой] спортивный автомобиль. Шаг 2: Использовать эти деньги для создания доступного автомобиля. Шаг 3: Использовать эти деньги для создания ещё более доступного автомобиля.

…which is of course exactly what he’s done, becoming the richest man in the world as a result.

…что он, разумеется, и сделал, став в результате самым богатым человеком в мире.

That last point is key. Would Elon be even richer if he only sold cars to rich people today? No. Would he be even richer than that if he only made cars for himself? Of course not. No, he maximizes his own profit by selling to the largest possible market, the world.

Последний пункт — ключевой. Был бы Илон ещё богаче, если бы сегодня продавал автомобили только богатым людям? Нет. Был бы он ещё богаче, если бы делал автомобили только для себя? Разумеется, нет. Нет, он максимизирует собственную прибыль, продавая на максимально возможном рынке — всему миру.

In short, everyone gets the thing – as we saw in the past with not just cars but also electricity, radio, computers, the Internet, mobile phones, and search engines. The makers of such technologies are highly motivated to drive down their prices until everyone on the planet can afford them. This is precisely what is already happening in AI – it’s why you can use state of the art generative AI not just at low cost but even for free today in the form of Microsoft Bing and Google Bard – and it is what will continue to happen. Not because such vendors are foolish or generous but precisely because they are greedy – they want to maximize the size of their market, which maximizes their profits.

Короче говоря, технология достаётся каждому — как мы уже видели в прошлом не только с автомобилями, но и с электричеством, радио, компьютерами, интернетом, мобильными телефонами и поисковыми системами. Создатели таких технологий крайне мотивированы снижать цены, пока каждый человек на планете не сможет их себе позволить. Именно это уже происходит с ИИ — вот почему вы можете использовать генеративный ИИ последнего поколения не просто по низкой цене, а даже бесплатно в виде Microsoft Bing и Google Bard — и именно это будет продолжаться. Не потому что такие компании глупы или щедры, а именно потому что они жадны — они хотят максимизировать размер своего рынка, что максимизирует их прибыль.

So what happens is the opposite of technology driving centralization of wealth – individual customers of the technology, ultimately including everyone on the planet, are empowered instead, and capture most of the generated value. As with prior technologies, the companies that build AI – assuming they have to function in a free market – will compete furiously to make this happen.

Таким образом, происходит противоположность централизации богатства благодаря технологиям — наделяются правами и возможностями индивидуальные потребители технологии, в конечном счёте включая каждого на планете, которые присваивают бо́льшую часть созданной стоимости. Как и с предыдущими технологиями, компании, создающие ИИ, — при условии, что они функционируют в свободном рынке, — будут яростно конкурировать, чтобы это произошло.

Marx was wrong then, and he’s wrong now.

Маркс ошибался тогда и ошибается сейчас.

This is not to say that inequality is not an issue in our society. It is, it’s just not being driven by technology, it’s being driven by the reverse, by the sectors of the economy that are the most resistant to new technology, that have the most government intervention to prevent the adoption of new technology like AI – specifically housing, education, and health care. The actual risk of AI and inequality is not that AI will cause more inequality but rather that we will not allow AI to be used to reduce inequality.

Это не значит, что неравенство не является проблемой в нашем обществе. Является, просто его причина — не технологии, а прямо противоположное: секторы экономики, которые наиболее устойчивы к новым технологиям, в которых государственное вмешательство сильнее всего препятствует внедрению новых технологий вроде ИИ — а именно жильё, образование и здравоохранение. Реальный риск ИИ и неравенства не в том, что ИИ усугубит неравенство, а в том, что мы не позволим ИИ быть использованным для сокращения неравенства.

AI Risk #5: Will AI Lead to Bad People Doing Bad Things?

Риск ИИ №5: Позволит ли ИИ плохим людям творить плохие дела?

So far I have explained why four of the five most often proposed risks of AI are not actually real – AI will not come to life and kill us, AI will not ruin our society, AI will not cause mass unemployment, and AI will not cause an ruinous increase in inequality. But now let’s address the fifth, the one I actually agree with: AI will make it easier for bad people to do bad things.

До сих пор я объяснял, почему четыре из пяти наиболее часто называемых рисков ИИ в реальности не существуют — ИИ не оживёт и не убьёт нас, ИИ не разрушит наше общество, ИИ не вызовет массовую безработицу, и ИИ не вызовет разрушительный рост неравенства. Но давайте обратимся к пятому — с которым я действительно согласен: ИИ облегчит плохим людям совершение плохих дел.

In some sense this is a tautology. Technology is a tool. Tools, starting with fire and rocks, can be used to do good things – cook food and build houses – and bad things – burn people and bludgeon people. Any technology can be used for good or bad. Fair enough. And AI will make it easier for criminals, terrorists, and hostile governments to do bad things, no question.

В каком-то смысле это тавтология. Технология — это инструмент. Инструменты, начиная с огня и камней, можно использовать для хороших дел — готовить еду и строить дома — и для плохих — жечь людей и забивать их. Любая технология может быть использована во благо или во зло. Справедливо. И ИИ облегчит преступникам, террористам и враждебным правительствам совершение плохих дел, без сомнения.

This causes some people to propose, well, in that case, let’s not take the risk, let’s ban AI now before this can happen. Unfortunately, AI is not some esoteric physical material that is hard to come by, like plutonium. It’s the opposite, it’s the easiest material in the world to come by – math and code.

Это заставляет некоторых предлагать: ну, раз так, давайте не будем рисковать, давайте запретим ИИ прямо сейчас, пока этого не произошло. К сожалению, ИИ — это не какой-то эзотерический физический материал, который трудно достать, вроде плутония. Всё наоборот: это самый доступный материал в мире — математика и код.

The AI cat is obviously already out of the bag. You can learn how to build AI from thousands of free online courses, books, papers, and videos, and there are outstanding open source implementations proliferating by the day. AI is like air – it will be everywhere. The level of totalitarian oppression that would be required to arrest that would be so draconian – a world government monitoring and controlling all computers? jackbooted thugs in black helicopters seizing rogue GPUs? – that we would not have a society left to protect.

ИИ-джинн, очевидно, уже выпущен из бутылки. Вы можете научиться создавать ИИ на тысячах бесплатных онлайн-курсов, из книг, статей и видео, а выдающиеся реализации с открытым исходным кодом множатся ежедневно. ИИ подобен воздуху — он будет повсюду. Уровень тоталитарного подавления, необходимый для того, чтобы это остановить, был бы настолько драконовским — мировое правительство, контролирующее все компьютеры? громилы в чёрных вертолётах, конфискующие нелегальные GPU? — что нам нечего было бы защищать.

So instead, there are two very straightforward ways to address the risk of bad people doing bad things with AI, and these are precisely what we should focus on.

Поэтому существуют два вполне очевидных способа решить проблему плохих людей, совершающих плохие дела с помощью ИИ, и именно на них мы должны сосредоточиться.

First, we have laws on the books to criminalize most of the bad things that anyone is going to do with AI. Hack into the Pentagon? That’s a crime. Steal money from a bank? That’s a crime. Create a bioweapon? That’s a crime. Commit a terrorist act? That’s a crime. We can simply focus on preventing those crimes when we can, and prosecuting them when we cannot. We don’t even need new laws – I’m not aware of a single actual bad use for AI that’s been proposed that’s not already illegal. And if a new bad use is identified, we ban that use. QED.

Во-первых, у нас уже есть законы, криминализирующие большинство плохих дел, которые кто-либо может совершить с помощью ИИ. Взломать Пентагон? Это преступление. Украсть деньги из банка? Это преступление. Создать биологическое оружие? Это преступление. Совершить теракт? Это преступление. Мы можем просто сосредоточиться на предотвращении этих преступлений, когда можем, и на их преследовании, когда не можем. Нам даже не нужны новые законы — мне не известно ни одного реального вредоносного применения ИИ, которое не было бы уже незаконным. А если будет выявлено новое вредоносное применение, мы его запретим.

But you’ll notice what I slipped in there – I said we should focus first on preventing AI-assisted crimes before they happen – wouldn’t such prevention mean banning AI? Well, there’s another way to prevent such actions, and that’s by using AI as a defensive tool. The same capabilities that make AI dangerous in the hands of bad guys with bad goals make it powerful in the hands of good guys with good goals – specifically the good guys whose job it is to prevent bad things from happening.

Но вы заметили, что я вставил кое-что: я сказал, что мы должны сосредоточиться прежде всего на предотвращении преступлений с помощью ИИ, прежде чем они произойдут — но разве такое предотвращение не означает запрет ИИ? Есть и другой способ предотвратить такие действия — использовать ИИ как оборонительный инструмент. Те же возможности, которые делают ИИ опасным в руках злоумышленников с дурными целями, делают его мощным в руках хороших людей с благими целями — в частности тех, чья работа — предотвращать плохие вещи.

For example, if you are worried about AI generating fake people and fake videos, the answer is to build new systems where people can verify themselves and real content via cryptographic signatures. Digital creation and alteration of both real and fake content was already here before AI; the answer is not to ban word processors and Photoshop – or AI – but to use technology to build a system that actually solves the problem.

Например, если вас беспокоит, что ИИ генерирует поддельных людей и поддельные видео, ответ — создать новые системы, в которых люди смогут верифицировать себя и подлинный контент с помощью криптографических подписей. Цифровое создание и изменение как реального, так и поддельного контента существовало и до ИИ; ответ — не в запрете текстовых редакторов и Photoshop — или ИИ, — а в использовании технологий для создания системы, которая действительно решает проблему.

And so, second, let’s mount major efforts to use AI for good, legitimate, defensive purposes. Let’s put AI to work in cyberdefense, in biological defense, in hunting terrorists, and in everything else that we do to keep ourselves, our communities, and our nation safe.

И, во-вторых, давайте приложим серьёзные усилия для использования ИИ в хороших, легитимных, оборонительных целях. Давайте задействуем ИИ в киберзащите, в биологической защите, в охоте на террористов и во всём остальном, что мы делаем для обеспечения безопасности — своей, наших сообществ и нашей страны.

There are already many smart people in and out of government doing exactly this, of course – but if we apply all of the effort and brainpower that’s currently fixated on the futile prospect of banning AI to using AI to protect against bad people doing bad things, I think there’s no question a world infused with AI will be much safer than the world we live in today.

Уже есть много умных людей в правительстве и за его пределами, которые делают именно это — но если мы направим все усилия и интеллектуальные ресурсы, которые сейчас зациклены на бесплодной идее запрета ИИ, на использование ИИ для защиты от плохих людей, совершающих плохие дела, я думаю, нет сомнений, что мир, пропитанный ИИ, будет гораздо безопаснее того мира, в котором мы живём сегодня.

The Actual Risk Of Not Pursuing AI With Maximum Force And Speed

Реальный риск отказа от максимально быстрого и мощного развития ИИ

There is one final, and real, AI risk that is probably the scariest at all:

Есть один последний и реальный риск ИИ, который, пожалуй, самый пугающий из всех:

AI isn’t just being developed in the relatively free societies of the West, it is also being developed by the Communist Party of the People’s Republic of China.

ИИ разрабатывается не только в относительно свободных обществах Запада, но и Коммунистической партией Китайской Народной Республики.

China has a vastly different vision for AI than we do – they view it as a mechanism for authoritarian population control, full stop. They are not even being secretive about this, they are very clear about it, and they are already pursuing their agenda. And they do not intend to limit their AI strategy to China – they intend to proliferate it all across the world, everywhere they are powering 5G networks, everywhere they are loaning Belt And Road money, everywhere they are providing friendly consumer apps like Tiktok that serve as front ends to their centralized command and control AI.

У Китая совершенно иное видение ИИ, чем у нас — они рассматривают его как механизм авторитарного контроля над населением, и точка. Они даже не скрывают этого, они говорят об этом открыто и уже реализуют свою повестку. И они не намерены ограничивать свою ИИ-стратегию Китаем — они намерены распространить её по всему миру, везде, где они разворачивают сети 5G, везде, где выдают кредиты «Пояса и пути», везде, где предоставляют дружелюбные потребительские приложения вроде TikTok, служащие фронтендом для их централизованного командно-контрольного ИИ.

The single greatest risk of AI is that China wins global AI dominance and we – the United States and the West – do not.

Единственный величайший риск ИИ — что Китай завоюет глобальное доминирование в ИИ, а мы — Соединённые Штаты и Запад — нет.

I propose a simple strategy for what to do about this – in fact, the same strategy President Ronald Reagan used to win the first Cold War with the Soviet Union.

Я предлагаю простую стратегию — собственно, ту же, которую президент Рональд Рейган использовал для победы в первой холодной войне с Советским Союзом.

“We win, they lose.”

«Мы побеждаем, они проигрывают».

Rather than allowing ungrounded panics around killer AI, “harmful” AI, job-destroying AI, and inequality-generating AI to put us on our back feet, we in the United States and the West should lean into AI as hard as we possibly can.

Вместо того чтобы позволять необоснованным паникам вокруг ИИ-убийцы, «вредоносного» ИИ, ИИ, уничтожающего рабочие места, и ИИ, порождающего неравенство, загнать нас в оборону, мы в Соединённых Штатах и на Западе должны вложиться в ИИ так сильно, как только возможно.

We should seek to win the race to global AI technological superiority and ensure that China does not.

Мы должны стремиться выиграть гонку за глобальное технологическое превосходство в ИИ и не допустить, чтобы его добился Китай.

In the process, we should drive AI into our economy and society as fast and hard as we possibly can, in order to maximize its gains for economic productivity and human potential.

Попутно мы должны внедрять ИИ в нашу экономику и общество как можно быстрее и интенсивнее, чтобы максимизировать его вклад в экономическую производительность и человеческий потенциал.

This is the best way both to offset the real AI risks and to ensure that our way of life is not displaced by the much darker Chinese vision.

Это лучший способ как нейтрализовать реальные риски ИИ, так и гарантировать, что наш образ жизни не будет вытеснен гораздо более мрачным китайским видением.

What Is To Be Done?

Что делать?

I propose a simple plan:

Я предлагаю простой план:

Крупным ИИ-компаниям следует позволить развивать ИИ как можно быстрее и агрессивнее — но не позволять им осуществлять регуляторный захват, не позволять им создавать защищённый государством картель, изолированный от рыночной конкуренции на основании ложных утверждений о рисках ИИ. Это максимизирует технологическую и социальную отдачу от потрясающих возможностей этих компаний, которые являются жемчужинами современного капитализма. Стартапам в сфере ИИ следует позволить развивать ИИ так же быстро и агрессивно, как они могут. Они не должны сталкиваться ни с государственной защитой крупных компаний, ни получать государственную помощь. Им просто нужно позволить конкурировать. Если и когда стартапы не добиваются успеха, их присутствие на рынке тем не менее непрерывно мотивирует крупные компании работать на пределе возможностей — наши экономики и общества выигрывают в любом случае. Открытому ИИ следует позволить свободно распространяться и конкурировать как с крупными ИИ-компаниями, так и со стартапами. Не должно быть вообще никаких регуляторных барьеров для открытого кода. Даже когда открытый код не побеждает компании, его широкая доступность — благо для студентов по всему миру, желающих научиться создавать и использовать ИИ, чтобы стать частью технологического будущего, и обеспечивает доступ к ИИ каждому, кто может от него выиграть, независимо от того, кто он и сколько у него денег. Для нейтрализации риска злоупотреблений ИИ правительства в партнёрстве с частным сектором должны энергично работать в каждой области потенциального риска, используя ИИ для максимального усиления оборонительных возможностей общества. Это не должно ограничиваться рисками, связанными с ИИ, но охватывать и более общие проблемы — недоедание, болезни и климат. ИИ может быть невероятно мощным инструментом решения проблем, и мы должны принять его как таковой. Для предотвращения риска глобального доминирования Китая в ИИ мы должны использовать всю мощь нашего частного сектора, нашего научного сообщества и наших правительств сообща, чтобы обеспечить абсолютное глобальное доминирование американского и западного ИИ, в конечном счёте включая сам Китай. Мы побеждаем, они проигрывают.

And that is how we use AI to save the world.

Вот так мы используем ИИ, чтобы спасти мир.

It’s time to build.

Время строить.

Legends and Heroes

Легенды и герои

I close with two simple statements.

В заключение — два простых утверждения.

The development of AI started in the 1940’s, simultaneous with the invention of the computer. The first scientific paper on neural networks – the architecture of the AI we have today – was published in 1943. Entire generations of AI scientists over the last 80 years were born, went to school, worked, and in many cases passed away without seeing the payoff that we are receiving now. They are legends, every one.

Разработка ИИ началась в 1940-х годах, одновременно с изобретением компьютера. Первая научная статья о нейронных сетях — архитектуре ИИ, который мы имеем сегодня, — была опубликована в 1943 году. Целые поколения учёных в области ИИ за последние 80 лет родились, учились, работали и во многих случаях ушли из жизни, так и не увидев плодов, которые мы пожинаем сейчас. Они — легенды, каждый из них.

Today, growing legions of engineers – many of whom are young and may have had grandparents or even great-grandparents involved in the creation of the ideas behind AI – are working to make AI a reality, against a wall of fear-mongering and doomerism that is attempting to paint them as reckless villains. I do not believe they are reckless or villains. They are heroes, every one. My firm and I are thrilled to back as many of them as we can, and we will stand alongside them and their work 100%.

Сегодня растущие ряды инженеров — многие из которых молоды и, возможно, имели дедушек или даже прадедушек, причастных к созданию идей, лежащих в основе ИИ, — работают над тем, чтобы сделать ИИ реальностью, противостоя стене нагнетания страха и алармизма, которая пытается изобразить их безрассудными злодеями. Я не считаю их безрассудными или злодеями. Они — герои, каждый из них. Наша фирма и я рады поддержать стольких из них, скольких мы сможем, и мы будем стоять рядом с ними и их работой на все 100%.

Marc Andreessen

Marc Andreessen

is a cofounder and general partner at the venture capital firm Andreessen Horowitz.

— сооснователь и генеральный партнёр венчурной фирмы Andreessen Horowitz.

AI Canon

AI Canon

AI is Industrializing Discovery

ИИ индустриализирует открытия

AI, Deep Learning, and Machine Learning: A Primer

ИИ, глубокое обучение и машинное обучение: введение

Expert News by a16z

Экспертные новости от a16z

We have built a network of experts who are deeply rooted in technology and how it’s shaping our future. Subscribe to our newsletters to receive their perspectives.

Мы создали сеть экспертов, глубоко погружённых в технологии и их влияние на наше будущее. Подпишитесь на наши рассылки, чтобы получать их экспертные мнения.

Views expressed in “posts” (including podcasts, videos, and social media) are those of the individual a16z personnel quoted therein and are not the views of a16z Capital Management, L.L.C. (“a16z”) or its respective affiliates. a16z Capital Management is an investment adviser registered with the Securities and Exchange Commission. Registration as an investment adviser does not imply any special skill or training. The posts are not directed to any investors or potential investors, and do not constitute an offer to sell — or a solicitation of an offer to buy — any securities, and may not be used or relied upon in evaluating the merits of any investment.

Мнения, выраженные в «постах» (включая подкасты, видео и социальные сети), принадлежат конкретным сотрудникам a16z, процитированным в них, и не являются мнениями a16z Capital Management, L.L.C. («a16z») или её аффилированных лиц. a16z Capital Management является инвестиционным консультантом, зарегистрированным в Комиссии по ценным бумагам и биржам. Регистрация в качестве инвестиционного консультанта не подразумевает каких-либо особых навыков или подготовки. Посты не адресованы каким-либо инвесторам или потенциальным инвесторам и не являются предложением о продаже — или запросом предложения о покупке — каких-либо ценных бумаг, и на них нельзя полагаться при оценке достоинств какой-либо инвестиции.

The contents in here — and available on any associated distribution platforms and any public a16z online social media accounts, platforms, and sites (collectively, “content distribution outlets”) — should not be construed as or relied upon in any manner as investment, legal, tax, or other advice. You should consult your own advisers as to legal, business, tax, and other related matters concerning any investment. Any projections, estimates, forecasts, targets, prospects and/or opinions expressed in these materials are subject to change without notice and may differ or be contrary to opinions expressed by others. Any charts provided here or on a16z content distribution outlets are for informational purposes only, and should not be relied upon when making any investment decision. Certain information contained in here has been obtained from third-party sources, including from portfolio companies of funds managed by a16z. While taken from sources believed to be reliable, a16z has not independently verified such information and makes no representations about the enduring accuracy of the information or its appropriateness for a given situation. In addition, posts may include third-party advertisements; a16z has not reviewed such advertisements and does not endorse any advertising content contained therein. All content speaks only as of the date indicated.

Содержимое данного ресурса — а также доступное на любых связанных платформах распространения и любых публичных аккаунтах a16z в социальных сетях, платформах и сайтах (совместно именуемых «каналами распространения контента») — не должно рассматриваться или использоваться каким-либо образом как инвестиционная, юридическая, налоговая или иная консультация. Вам следует обращаться к собственным консультантам по юридическим, деловым, налоговым и другим вопросам, связанным с любой инвестицией. Любые прогнозы, оценки, предположения, цели, перспективы и/или мнения, выраженные в настоящих материалах, могут быть изменены без уведомления и могут отличаться от мнений, выраженных другими лицами, или противоречить им. Любые графики, представленные здесь или на каналах распространения контента a16z, предназначены только для информационных целей и не должны использоваться при принятии инвестиционных решений. Определённая информация, содержащаяся здесь, получена из сторонних источников, в том числе от портфельных компаний фондов, управляемых a16z. Хотя она взята из источников, считающихся надёжными, a16z не проводила независимую проверку такой информации и не делает заявлений о долгосрочной точности информации или её уместности для данной ситуации. Кроме того, посты могут содержать рекламу третьих сторон; a16z не рассматривала такую рекламу и не одобряет какое-либо рекламное содержание в ней. Весь контент актуален только на указанную дату.

Under no circumstances should any posts or other information provided on this website — or on associated content distribution outlets — be construed as an offer soliciting the purchase or sale of any security or interest in any pooled investment vehicle sponsored, discussed, or mentioned by a16z personnel. Nor should it be construed as an offer to provide investment advisory services; an offer to invest in an a16z-managed pooled investment vehicle will be made separately and only by means of the confidential offering documents of the specific pooled investment vehicles — which should be read in their entirety, and only to those who, among other requirements, meet certain qualifications under federal securities laws. Such investors, defined as accredited investors and qualified purchasers, are generally deemed capable of evaluating the merits and risks of prospective investments and financial matters.

Ни при каких обстоятельствах посты или иная информация, представленная на данном сайте — или на связанных каналах распространения контента — не должна рассматриваться как предложение о покупке или продаже какой-либо ценной бумаги или доли в каком-либо объединённом инвестиционном инструменте, спонсируемом, обсуждаемом или упоминаемом сотрудниками a16z. Также она не должна рассматриваться как предложение предоставить услуги инвестиционного консультирования; предложение инвестировать в управляемый a16z объединённый инвестиционный инструмент будет сделано отдельно и исключительно посредством конфиденциальных документов предложения конкретных объединённых инвестиционных инструментов — которые должны быть прочитаны в полном объёме — и только тем лицам, которые, помимо прочих требований, соответствуют определённым квалификационным критериям в соответствии с федеральным законодательством о ценных бумагах. Такие инвесторы, определяемые как аккредитованные инвесторы и квалифицированные покупатели, как правило, считаются способными оценить достоинства и риски потенциальных инвестиций и финансовых вопросов.

There can be no assurances that a16z’s investment objectives will be achieved or investment strategies will be successful. Any investment in a vehicle managed by a16z involves a high degree of risk including the risk that the entire amount invested is lost. Any investments or portfolio companies mentioned, referred to, or described are not representative of all investments in vehicles managed by a16z and there can be no assurance that the investments will be profitable or that other investments made in the future will have similar characteristics or results. A list of investments made by funds managed by a16z is available here: https://a16z.com/investments/. Past results of a16z’s investments, pooled investment vehicles, or investment strategies are not necessarily indicative of future results. Excluded from this list are investments (and certain publicly traded cryptocurrencies/ digital assets) for which the issuer has not provided permission for a16z to disclose publicly. As for its investments in any cryptocurrency or token project, a16z is acting in its own financial interest, not necessarily in the interests of other token holders. a16z has no special role in any of these projects or power over their management. a16z does not undertake to continue to have any involvement in these projects other than as an investor and token holder, and other token holders should not expect that it will or rely on it to have any particular involvement.

Не может быть никаких гарантий того, что инвестиционные цели a16z будут достигнуты или инвестиционные стратегии будут успешными. Любая инвестиция в инструмент, управляемый a16z, сопряжена с высокой степенью риска, включая риск потери всей вложенной суммы. Любые упомянутые, указанные или описанные инвестиции или портфельные компании не являются репрезентативными для всех инвестиций в инструменты, управляемые a16z, и не может быть никаких гарантий того, что инвестиции будут прибыльными или что иные инвестиции, осуществлённые в будущем, будут иметь аналогичные характеристики или результаты. Список инвестиций, осуществлённых фондами под управлением a16z, доступен по адресу: https://a16z.com/investments/. Прошлые результаты инвестиций a16z, объединённых инвестиционных инструментов или инвестиционных стратегий не обязательно являются показателем будущих результатов. Из данного списка исключены инвестиции (и определённые публично торгуемые криптовалюты/цифровые активы), по которым эмитент не предоставил a16z разрешение на публичное раскрытие. Что касается инвестиций в криптовалютные или токен-проекты, a16z действует в собственных финансовых интересах, не обязательно в интересах других держателей токенов. a16z не имеет особой роли ни в одном из этих проектов и не обладает полномочиями по их управлению. a16z не обязуется продолжать какое-либо участие в этих проектах, кроме как в качестве инвестора и держателя токенов, и другие держатели токенов не должны ожидать или полагаться на какое-либо особое участие с её стороны.

With respect to funds managed by a16z that are registered in Japan, a16z will provide to any member of the Japanese public a copy of such documents as are required to be made publicly available pursuant to Article 63 of the Financial Instruments and Exchange Act of Japan. Please contact compliance@a16z.com to request such documents.

В отношении фондов, управляемых a16z и зарегистрированных в Японии, a16z предоставит любому представителю японской общественности копии тех документов, которые должны быть публично доступны в соответствии со статьёй 63 Закона о финансовых инструментах и биржах Японии. Для запроса таких документов обращайтесь по адресу compliance@a16z.com.

For other site terms of use, please go here. Additional important information about a16z, including our Form ADV Part 2A Brochure, is available at the SEC’s website: http://www.adviserinfo.sec.gov.

С другими условиями использования сайта можно ознакомиться здесь. Дополнительная важная информация об a16z, включая форму ADV Part 2A Brochure, доступна на сайте SEC: http://www.adviserinfo.sec.gov.