The Present Future: AI's Impact Long Before Superintelligence

The Present Future: AI's Impact Long Before Superintelligence

Настоящее будущее: влияние ИИ задолго до сверхинтеллекта

You can start to see the outlines of an AI future, for better and worse

Контуры будущего с ИИ уже проступают — и в хорошем, и в плохом

The AI Labs are absolutely confident that larger, more powerful AI models are coming soon, ones that will enable autonomous agents and systems smarter than human PhDs. You can see this confidence in two separate essays by the CEOs of two of the leading AI Labs, Sam Altman of OpenAI and Dario Amodei of Anthropic, that discuss the coming age of super-intelligent machines.

ИИ-лаборатории абсолютно уверены, что более крупные и мощные модели ИИ появятся в ближайшее время — такие, которые сделают возможными автономных агентов и системы умнее людей с докторскими степенями. Эта уверенность видна в двух отдельных эссе руководителей двух ведущих ИИ-лабораторий — Сэма Альтмана из OpenAI и Дарио Амодеи из Anthropic, — где обсуждается грядущая эра сверхинтеллектуальных машин.

But these are not uncontroversial assertions, and we do not know if they are right. Yet, in many ways, we do not need super-powerful AIs for the transformation of work. We already have more capabilities inherent in today’s Gen2/GPT-4 class systems than we have fully absorbed. Even if AI development stopped today, we would have years of change ahead of us integrating these systems into our world.

Однако эти утверждения не бесспорны, и мы не знаем, окажутся ли они верными. Тем не менее во многих отношениях для трансформации работы сверхмощный ИИ и не нужен. Возможности нынешних систем класса Gen2/GPT-4 уже превышают то, что мы успели освоить. Даже если бы развитие ИИ остановилось сегодня, нас ждали бы годы перемен, связанных с интеграцией этих систем в нашу жизнь.

Today’s AI models are already multimodal, able to process and generate various types of media, like text, images, and sound. They can write code, operate computers, access the internet, and more. The pieces are all there, and we are starting to see them come together. They do not do any of this flawlessly and remain inconsistent and prone to hallucination. But there are many fields where AI abilities, flawed as they are, are already useful. Areas where perfect accuracy is not expected, or where having a second opinion is helpful, or where there would otherwise be no one to help, or where the Best Available Human performs worse than the best available AI.

Современные модели ИИ уже мультимодальны — они способны обрабатывать и генерировать различные типы медиа: текст, изображения и звук. Они умеют писать код, управлять компьютерами, выходить в интернет и многое другое. Все кирпичики на месте, и мы начинаем видеть, как они складываются воедино. Ни одна из этих задач не выполняется безупречно — модели по-прежнему непоследовательны и склонны к галлюцинациям. Но есть немало областей, где способности ИИ, при всех их недостатках, уже полезны: там, где идеальная точность не ожидается, где полезно второе мнение, где иначе помощи просто не было бы, или где лучший доступный человек справляется хуже лучшего доступного ИИ.

AI as Manager, Coach, or Panopticon

ИИ как менеджер, наставник или паноптикум

Consider, for example, the combination of the ability to AI to both process images and “reason” over them. It means that you can add intelligence to any video feed by just giving it to an AI, doing what was previously impossible.

Возьмём, к примеру, сочетание способности ИИ обрабатывать изображения и «рассуждать» над ними. Это означает, что любому видеопотоку можно добавить интеллект, просто передав его ИИ, — и сделать то, что раньше было невозможно.

For example, I gave Claude a YouTube video of a construction site and prompted: You can see a video of a construction site, please monitor the site and look for issues with safety, things that could be improved, and opportunities for coaching. There is no special training here, just the native ability of Claude 3.5 Sonnet with computer use, taking screenshots every few seconds and “studying” them. You can see the (sped up) video of the system at work below. In the video, Claude analyzes various aspects of the construction site: workers' protective equipment usage, placement of materials, work patterns, and potential hazards - making note of each.

Например, я передал Claude видео со стройплощадки с YouTube и дал промпт: Перед вами видео со стройплощадки, пожалуйста, проведите мониторинг объекта и обратите внимание на проблемы с безопасностью, на то, что можно улучшить, и на возможности для обучения персонала. Здесь нет никакого специального обучения — только встроенные возможности Claude 3.5 Sonnet с функцией управления компьютером: система делает скриншоты каждые несколько секунд и «изучает» их. Ниже вы можете увидеть ускоренное видео работы системы. На записи Claude анализирует различные аспекты стройплощадки: использование защитного снаряжения рабочими, размещение материалов, рабочие процессы и потенциальные опасности, фиксируя каждый момент.

These observations are interesting, but the system can go further. I then asked What did you conclude, write up your observations as a punch list. The AI created a spreadsheet summarizing what it observed in a few seconds, something that would have taken humans far longer. Note how it took all of the many issues it spotted across the video and applied “reasoning” to them: breaking them down by priority order, making logical inferences about how to address them, and more.

Эти наблюдения интересны, но система способна на большее. Затем я попросил: Какие выводы вы сделали? Оформите наблюдения в виде чек-листа. ИИ за несколько секунд создал таблицу с обобщением увиденного — на это у человека ушло бы куда больше времени. Обратите внимание, как система собрала все многочисленные проблемы, замеченные на протяжении видео, и применила к ним «рассуждение»: разбила по приоритетам, выстроила логические выводы о способах их устранения и многое другое.

Then Claude asked me a question: Would you like to create a tracking system for completion verification? That seemed like a good idea! So, I agreed and it made one, purposefully including fake names as an example of the data I had to fill in.

Затем Claude задал мне вопрос: Хотите создать систему отслеживания для контроля выполнения? Это показалось отличной идеей! Я согласился, и система создала такой трекер, намеренно включив вымышленные имена в качестве примера данных, которые мне предстояло заполнить.

The results seem good from reviewing the video, but I am not an expert, and I would be surprised if there were not serious hallucinations mixed in. For this and many other reasons, I would never want this system to be used to punish or reward people. Yet consider a case where there would otherwise be no one monitoring a potentially dangerous environment, or where mentorship or advice is lacking. Then, an AI who could flag a human to dig into a potential issue or opportunity could be a useful asset.

Результаты выглядят хорошо при сопоставлении с видео, но я не эксперт и был бы удивлён, если бы среди них не оказалось серьёзных галлюцинаций. По этой и многим другим причинам я категорически не хотел бы, чтобы такая система использовалась для наказания или поощрения людей. Но представьте ситуацию, когда потенциально опасную среду иначе вообще никто не контролирует, или когда не хватает наставничества и советов. Тогда ИИ, способный обратить внимание человека на потенциальную проблему или возможность, может оказаться полезным инструментом.

I improvised this system with a couple of prompts. With more work, the error rates and costs of AI monitoring will drop, even if no new models are released. These systems will get better. Organizations will be tempted to deploy AI observers everywhere. Governments may follow suit. What could be a mentor and safety check could become a panopticon where everyone is watched and judged by AI. The choices companies make, and the rules put in place by governments, will determine whether AI is used to help or to monitor us - one of many complex adjustments we will need to make to an AI-filled world. But observation is only one area where AI is already showing high levels of capability.

Я собрал эту систему на ходу, с помощью пары промптов. При дополнительной доработке частота ошибок и стоимость ИИ-мониторинга снизятся, даже если новые модели не появятся. Эти системы будут становиться лучше. У организаций возникнет соблазн развернуть ИИ-наблюдателей повсюду. Правительства могут последовать их примеру. То, что могло бы быть наставником и инструментом контроля безопасности, рискует превратиться в паноптикум, где каждый находится под наблюдением и оценкой ИИ. Выбор компаний и правила, установленные правительствами, определят, будет ли ИИ использоваться для помощи или для слежки — это лишь одна из множества сложных адаптаций, которые потребует мир, наполненный ИИ. Но наблюдение — лишь одна из областей, где ИИ уже демонстрирует высокий уровень возможностей.

Using our tools and rules

Использование наших инструментов и правил

The digital world in which most knowledge work is done involves using a computer—navigating websites, filling forms, and completing transactions. Modern AI systems can now perform these same tasks, effectively automating what was previously human-only work. This capability extends beyond simple automation to include qualitative assessment and problem identification. Here I asked Claude: Go to the Walmart web page and test it like a naive user trying to buy something. Then go to Amazon and do the same thing. write up your findings in a report in a document...” Again, you can see in the sped-up video that the AI goes to each website and roleplays a user searching for and buying products.

Цифровой мир, в котором выполняется большая часть интеллектуальной работы, предполагает использование компьютера — навигацию по сайтам, заполнение форм и проведение транзакций. Современные системы ИИ теперь способны выполнять те же задачи, фактически автоматизируя то, что раньше мог делать только человек. Эта возможность выходит за рамки простой автоматизации и включает качественную оценку и выявление проблем. Я попросил Claude: Зайди на сайт Walmart и протестируй его как неопытный пользователь, пытающийся что-то купить. Затем зайди на Amazon и сделай то же самое. Оформи результаты в виде отчёта в документе… На ускоренном видео снова видно, как ИИ заходит на каждый сайт и разыгрывает роль пользователя, который ищет и покупает товары.

It then wrote up two reports - a narrative and a testing report.

Затем система подготовила два отчёта — описательный и отчёт о тестировании.

There were no hallucinations I spotted, and, while they are not the most insightful reports I have ever seen, they were quite solid. The AI is already a reasonable intern, that, when given an assignment, executes it quickly and well, using “judgement” to solve problems along the way. As models get better, and these systems get less complicated to use, it is easy to imagine managers using teams of AI agents to do analysis and repetitive tasks in the near future.

Галлюцинаций я не заметил, и, хотя отчёты нельзя назвать самыми глубокими из тех, что я видел, они были вполне добротными. ИИ уже сейчас — вполне приличный стажёр, который, получив задание, быстро и качественно его выполняет, используя «суждение» для решения возникающих проблем. По мере совершенствования моделей и упрощения работы с этими системами легко представить, как менеджеры в ближайшем будущем будут использовать команды ИИ-агентов для аналитики и рутинных задач.

Getting Weirder

Всё страннее

We saw how multimodal inputs and tool use transform how AIs interact with the world, but it gets stranger still when we add multimodal outputs. Here, I invited an AI avatar (made by HeyGen) into a Zoom call. The avatar is completely AI-powered from the voice to the image to the behavior - in fact, I prompted the avatar to act in the most stereotypical and corporate possible way for a Zoom meeting. This is what happened (sound on):

Мы видели, как мультимодальные входные данные и использование инструментов меняют взаимодействие ИИ с миром, но всё становится ещё необычнее, когда добавляются мультимодальные выходные данные. Здесь я пригласил ИИ-аватар (созданный HeyGen) в Zoom-звонок. Аватар полностью работает на ИИ — от голоса до изображения и поведения. Более того, я дал аватару промпт вести себя максимально стереотипно и корпоративно для Zoom-встречи. Вот что получилось (включите звук):

While the "uncanny valley"—that unsettling feeling we get from almost-but-not-quite-human representations—is obvious in the slightly unnatural voice and visual glitches like the changing shirt, the interaction fundamentally mirrors a typical Zoom call. This is a first-generation tool, and it actually works. I would not be surprised if many people are fooled by virtual avatars in the very near future.

Хотя «зловещая долина» — то тревожное ощущение от почти-но-не-совсем-человеческого образа — очевидна в слегка неестественном голосе и визуальных артефактах вроде меняющейся рубашки, само взаимодействие в целом повторяет типичный Zoom-звонок. Это инструмент первого поколения, и он действительно работает. Я не удивлюсь, если в самом ближайшем будущем виртуальные аватары будут вводить в заблуждение многих людей.

These capabilities demand immediate attention to both policy and practice. Even as imperfect as they are, current AI systems are already reshaping fundamental aspects of work—from how we monitor safety to how we conduct meetings. The choices organizations make today about AI deployment will set precedents that could echo for a long time. Will AI-powered monitoring be used to mentor and protect workers, or to impose algorithmic control? Will AI assistants augment human capability, or gradually replace human judgment?

Эти возможности требуют немедленного внимания как на уровне политики, так и на уровне практики. Даже при всём своём несовершенстве нынешние системы ИИ уже перестраивают фундаментальные аспекты работы — от мониторинга безопасности до проведения совещаний. Решения, которые организации принимают сегодня в отношении внедрения ИИ, создадут прецеденты, последствия которых могут ощущаться очень долго. Будет ли ИИ-мониторинг использоваться для наставничества и защиты работников — или для установления алгоритмического контроля? Будут ли ИИ-ассистенты расширять человеческие возможности — или постепенно вытеснять человеческое суждение?

Organizations need to move beyond viewing AI deployment as purely a technical challenge. Instead, they must consider the human impact of these technologies. Long before AIs achieve human-level performance, their impact on work and society will be profound and far-reaching. The examples I showed —from construction site monitoring to virtual avatars—are just the beginning. The urgent task before us is ensuring these transformations enhance rather than diminish human potential, creating workplaces where technology serves to elevate human capability rather than replace it. The decisions we make now, in these early days of AI integration, will shape not just the future of work, but the future of human agency in an AI-augmented world.

Организациям необходимо перестать воспринимать внедрение ИИ исключительно как техническую задачу. Вместо этого они должны учитывать влияние этих технологий на людей. Задолго до того, как ИИ достигнет уровня человеческих способностей, его воздействие на работу и общество будет глубоким и масштабным. Примеры, которые я показал — от мониторинга стройплощадки до виртуальных аватаров, — лишь начало. Насущная задача перед нами — обеспечить, чтобы эти трансформации усиливали, а не подавляли человеческий потенциал, создавая рабочие места, где технологии служат развитию человеческих возможностей, а не их замене. Решения, которые мы принимаем сейчас, на ранних этапах интеграции ИИ, определят не только будущее работы, но и будущее человеческой самостоятельности в мире, дополненном искусственным интеллектом.

Share

Поделиться