Detecting the Secret Cyborgs
Итан Моллик утверждает, что LLM уже резко повышают индивидуальную производительность (по ранним исследованиям — экономия 20-70% времени), но пока плохо масштабируются на уровне организаций. Сотрудники тайно используют ИИ из-за корпоративных запретов, страха выглядеть нечестно (особенно при использовании «Кнопки» в Gmail и Office) и риска обучить собственную замену — автор называет их «тайными киборгами». Опрос в Twitter показал, что более половины пользователей генеративного ИИ скрывают это хотя бы иногда. Традиционные централизованные подходы (ИТ-отдел, консультанты, инновационные комитеты) не работают: только сами работники-эксперты знают, как применить ИИ к своим задачам. Чтобы раскрыть киборгов, нужны: широкое обучение, гарантии отсутствия увольнений и психологическая безопасность, крупные награды (вплоть до годовой зарплаты, повышений, удалёнки навсегда), а также быстрые решения по перестройке процессов и управлению рисками галлюцинаций и IP.
Detecting the Secret Cyborgs
Обнаружить тайных киборгов
The AI Trap for Organizations
Ловушка ИИ для организаций
It sounds like a science fiction setup: companies are at risk from disruption from AI unless they can convince their secret cyborgs to reveal themselves. But I think it is an accurate summary of the dilemma facing organizations.
Звучит как завязка научно-фантастического романа: компании рискуют быть разрушены ИИ, если не сумеют убедить своих тайных киборгов раскрыться. Но, по-моему, это точное описание дилеммы, перед которой стоят организации.
To understand what I mean, and why it is so important, we need to start with a basic premise. Large Language Models are a breakthrough technology for individual productivity, but not (yet) for organizations.
Чтобы понять, что я имею в виду и почему это так важно, начнём с базовой посылки. Large Language Models — прорывная технология для индивидуальной производительности, но (пока) не для организаций.
The initial evidence suggests that AI can have huge impacts on individual productivity. Early controlled studies have suggested time savings of anywhere from 20% to 70% for many tasks, with higher quality output than if AI wasn’t used. Yet, the current state of AI primarily helps individuals become more productive, not so much helping organizations as a whole. That is because AI makes terrible software. It is inconsistent and prone to error, and generally doesn’t behave in the way that IT is supposed to behave. So, right now, AI doesn’t scale well. But, as a personal productivity tool, when operated by someone in their area of expertise it is pretty amazing.
Первые данные говорят, что ИИ способен сильно влиять на индивидуальную производительность. Ранние контролируемые исследования показали экономию времени от 20% до 70% во многих задачах при более высоком качестве результата, чем без ИИ. Однако сегодняшнее состояние ИИ помогает прежде всего отдельным людям становиться продуктивнее, а не организациям в целом. Дело в том, что ИИ — плохое программное обеспечение. Он непоследователен, склонен к ошибкам и в целом ведёт себя не так, как полагается ИТ-системе. Поэтому прямо сейчас ИИ плохо масштабируется. Но как инструмент личной продуктивности в руках эксперта в своей области он впечатляет.
Today, billions of people have access to Large Language Models and the productivity benefits that they bring. And, from decades of research in innovation studying everyone from plumbers to librarians to surgeons, we know that, when given access to general purpose tools, people figure out ways to use them to make their jobs easier and better. The results are often breakthrough inventions, ways of using AI that could transform a business entirely. People are streamlining tasks, taking new approaches to coding, and automating time-consuming and tedious parts of their jobs. But the inventors aren’t telling their companies about their discoveries; they are the secret cyborgs, machine-augmented humans who keep themselves hidden.
Сегодня миллиарды людей имеют доступ к Large Language Models и тем выгодам для производительности, которые те приносят. И из десятилетий исследований инноваций — от сантехников до библиотекарей и хирургов — мы знаем: получив доступ к универсальным инструментам, люди находят способы сделать свою работу легче и лучше. Результатом часто становятся прорывные изобретения — способы применения ИИ, способные полностью преобразить бизнес. Люди упрощают задачи, по-новому подходят к программированию, автоматизируют утомительные и трудоёмкие части своей работы. Но эти изобретатели не рассказывают своим компаниям о своих открытиях; они и есть тайные киборги — люди, дополненные машиной, которые остаются в тени.
Shadows of AI
Тени ИИ
There are at least three reasons these cyborgs stay secret. But they all boil down to the same thing: people don’t want to get in trouble.
Есть как минимум три причины, по которым эти киборги хранят свою тайну. Но все они сводятся к одному: люди не хотят попасть в неприятности.
The problems start with organizational policy. Many companies have banned ChatGPT use, often because of legal concerns that remain somewhat vague, based on uncertainty over the technology and regulatory worries. And, while these legal teams are doing their job, there is a growing gap between the rumors (AI will steal your data! AI is illegal to use!) and the attempts by AI companies to make their tools usable by companies by not stealing data and meeting legal requirements. For example, Anthropic’s Claude AI is HIPAA compliant, while OpenAI and Microsoft have announced a focus on security and compliance as well. To the extent that large-scale AI prohibitions are warranted, it is likely to be a temporary matter, and companies should focus on starting to build targeted policies focusing on specific types of use, rather than blanket bans.
Проблемы начинаются с корпоративной политики. Многие компании запретили использовать ChatGPT, часто из-за юридических опасений, остающихся довольно размытыми, на фоне неопределённости вокруг технологии и тревог относительно регулирования. И хотя юристы делают свою работу, разрыв между слухами (ИИ украдёт ваши данные! ИИ нелегально использовать!) и попытками самих ИИ-компаний сделать свои инструменты пригодными для бизнеса — не воровать данные и соответствовать требованиям закона — растёт. Например, Claude AI от Anthropic соответствует HIPAA, а OpenAI и Microsoft также объявили о фокусе на безопасности и комплаенсе. Если масштабные запреты ИИ и оправданы, то, скорее всего, это временное явление, и компаниям стоит сосредоточиться на построении точечных политик по конкретным сценариям использования, а не на тотальных запретах.
But these bans are having a big effect… they are causing employees to bring their phones into work and access AI from personal devices. While data is hard to come by, I have already met many people at companies where AI is banned who are using this workaround - and those are just the ones willing to admit it! This type of Shadow IT use is common in organizations, but it makes using AI in violation of company policies, and therefore something to keep hidden.
Но эти запреты дают побочный эффект… они вынуждают сотрудников приносить телефоны на работу и пользоваться ИИ с личных устройств. Достоверных данных мало, но я уже встречал немало людей в компаниях, где ИИ запрещён, использующих этот обходной приём — и это лишь те, кто готов в этом признаться! Такой Shadow IT распространён в организациях, но из-за него использование ИИ нарушает корпоративные правила и потому скрывается.
And that isn’t the only reason that AI users fear revealing that they are cyborgs. Much of the value of AI use comes from people not knowing you are using it. The ability of AI to write in ways that seem human is very powerful, but only if people think it is coming from an actual human. A couple of weeks ago, I discussed The Button, the write-it-for-me option that will soon be available in every Office and Google application. I now have access to it in Gmail, and, as you can see below, it does an excellent job at generating credible content about complicated and sensitive issues. Everyone is going to be using The Button. We know from research, that when people learn they are receiving AI-created content, they judge it differently than if they assume it comes from a human. Another good reason to keep use secret. Unsurprisingly, when I conducted a bit of an unscientific Twitter poll, over half of generative AI users reported using the technology without telling anyone, at least some of the time.
И это не единственная причина, по которой пользователи ИИ боятся раскрыть свою киборгскую сущность. Значительная часть ценности ИИ возникает именно тогда, когда окружающие не знают, что вы им пользуетесь. Способность ИИ писать так, что текст выглядит человеческим, очень сильна — но только если люди думают, что текст и впрямь написан человеком. Пару недель назад я писал про Кнопку — опцию «напиши за меня», которая скоро будет в каждом приложении Office и Google. У меня уже есть к ней доступ в Gmail, и, как видно ниже, она прекрасно справляется с генерацией убедительного содержания на сложные и деликатные темы. Все будут пользоваться Кнопкой. Исследования показывают, что когда люди узнают, что получают контент, созданный ИИ, они оценивают его иначе, чем если бы предполагали человеческое авторство. Ещё одна веская причина держать использование в секрете. Неудивительно, что когда я провёл небольшой ненаучный опрос в Twitter, более половины пользователей генеративного ИИ сообщили, что используют технологию никому об этом не говоря, по крайней мере иногда.
All of this shadow use leads to the final concern, the justified worry that workers might be training their own replacement by figuring out how to work with AI. If someone has figured out how to automate 90% of a particular job, and they tell their boss, will the company fire 90% of their coworkers? Better to keep usage secret, and avoid any risk.
Всё это теневое использование ведёт к последнему опасению — обоснованному страху, что работники, разобравшись, как работать с ИИ, обучают собственную замену. Если кто-то понял, как автоматизировать 90% некоторой работы, и расскажет об этом начальству, не уволит ли компания 90% его коллег? Лучше держать всё в тайне и избежать любого риска.
Revealing the cyborgs
Раскрывая киборгов
All of the usual ways in which organizations try to respond new technologies don’t work well for AI. They are all far too centralized and far too slow. The IT department cannot easily build an in-house AI model, and certainly not one that competes with one of the major LLMs (and also: AI doesn’t work like software). Consultants and system integrators have no special knowledge about how to make AI work for a particular company, or even the best ways to use AI overall. The innovation groups and strategy councils inside organizations can dictate policy, but they can’t figure out how to use AI to actually get work, only the workers, experts at their own jobs, know that.
Все привычные способы, какими организации реагируют на новые технологии, плохо работают применительно к ИИ. Они слишком централизованы и слишком медленны. ИТ-отдел не может легко построить собственную ИИ-модель — и тем более такую, которая конкурировала бы с одной из крупных LLM (плюс: ИИ работает не так, как ПО). У консультантов и системных интеграторов нет особого знания о том, как заставить ИИ работать в конкретной компании или даже о лучших способах использовать ИИ в целом. Инновационные группы и стратегические советы внутри организаций могут диктовать политику, но не могут понять, как именно применить ИИ для реальной работы — это знают только сами работники, эксперты в своих профессиях.
So, at least for now, the only way for an organization to benefit from AI is to get the help of their cyborgs, while encouraging more workers to use AI. And that is going to require a major change in how organizations operate.
Поэтому, по крайней мере сейчас, единственный способ организации извлечь пользу из ИИ — заручиться помощью своих киборгов, одновременно подталкивая всё больше сотрудников использовать ИИ. А это потребует серьёзных изменений в том, как организации работают.
First, they need to recognize that the employees who are figuring out how to best use AI might be at any level of the organization, with any sort of history or past performance record. No company hired employees based on their AI skills, so AI skills might be anywhere. Right now, there is some evidence that the workers with the lowest skill levels are actually benefiting most from AI, and so might have the most experience in using it, but the picture is still not clear. As a result, companies need to include as much of their organization as possible into their AI agenda. And that means that will need to provide broad training to their workers, as well as building the tools needed for them to share what they have learned, such as crowd-sourced prompt libraries.
Во-первых, нужно признать, что сотрудники, лучше всех осваивающие ИИ, могут находиться на любом уровне организации и иметь любую историю или прошлые результаты. Ни одна компания не нанимала людей за их навыки работы с ИИ, так что эти навыки могут оказаться где угодно. Сейчас есть отдельные свидетельства того, что больше всех от ИИ выигрывают работники с самым низким уровнем квалификации, и потому у них может быть больше всего опыта работы с ним, — но картина пока неясна. Поэтому компаниям следует вовлекать в свою ИИ-повестку максимально широкие слои организации. А это значит — давать сотрудникам массовое обучение и создавать инструменты для обмена находками, например краудсорсные библиотеки промптов.
Second, leaders need to figure out a way to decrease the fear associated with revealing AI use. They can offer guarantees that no employees will be laid off as a result of AI use, or promise that workers can use the time they free up using AI to work on more interesting projects, or even end work early. Early studies suggest that workers can find themselves happy to use AI because it removes boring work, so this incentive might be appealing. And this where organizations with high degrees of trust and good cultures will have an advantage. If your employees don’t believe that you care about them, they will keep their AI use hidden. Psychological safety can help mitigate employee concerns.
Во-вторых, руководителям нужно придумать, как снизить страх, связанный с раскрытием факта использования ИИ. Можно дать гарантии, что никто не будет уволен из-за применения ИИ, либо пообещать, что освободившееся благодаря ИИ время сотрудники смогут потратить на более интересные проекты или даже раньше уходить с работы. Ранние исследования говорят, что работники с удовольствием используют ИИ, потому что он избавляет их от скучной работы, так что такой стимул может быть привлекательным. И здесь преимущество получат организации с высокой степенью доверия и хорошей культурой. Если сотрудники не верят, что вы о них заботитесь, они будут скрывать использование ИИ. Психологическая безопасность может ослабить эти опасения.
Third, organizations should highly incentivize cyborgs to come forward, and expand the number of people using AI to create new ones. That means not just permitting AI use, but also offering substantial rewards tp people finding substantial opportunities for AI to help. Think cash prizes that cover a year’s salary. Promotions. Corner offices. The ability to work from home forever. With the potential productivity gains possible due to LLMs, these are small prices to pay for truly breakthrough innovation. And large incetives also show that the organization is serious about this issue.
В-третьих, организациям следует сильно стимулировать киборгов раскрываться и расширять круг пользователей ИИ, создавая новых. Это означает не просто разрешать применение ИИ, но и предлагать существенные награды тем, кто находит крупные возможности для его применения. Подумайте о денежных премиях размером с годовую зарплату. Повышениях. Угловых кабинетах. Возможности работать из дома навсегда. С учётом потенциального роста производительности благодаря LLM это небольшая цена за по-настоящему прорывные инновации. А крупные стимулы показывают, что организация относится к этому всерьёз.
Finally, companies need to act quickly on some basic questions: what do you do with the productivity gains you might achieve? How do you reorganize work and kill processes that are made hollow or useless by AI (if your cyborgs are automating their performance reviews, what purpose do they serve)? How do you manage and control work that might include risks of AI-driven hallucination and potential IP concerns? There no easy answers, but AI is here, and already having an impact in many industries and fields. Putting off considering these concerns will only result in worse long-term outcomes. So, prepare to meet your cyborgs, and start to work with them to create a new, and better, organization for our AI-haunted age.
Наконец, компаниям нужно быстро ответить на ряд базовых вопросов: что вы делаете с возможным приростом производительности? Как реорганизовать работу и упразднить процессы, которые ИИ делает пустыми или ненужными (если ваши киборги автоматизируют свои собственные performance review, какой в них вообще смысл)? Как управлять и контролировать работу, в которой есть риски ИИ-галлюцинаций и потенциальные проблемы с IP? Простых ответов нет, но ИИ уже здесь и уже влияет на многие отрасли и области. Откладывать рассмотрение этих вопросов — значит обречь себя на худшие долгосрочные результаты. Так что приготовьтесь встретить своих киборгов и начать вместе с ними строить новую — и лучшую — организацию для нашей эпохи, в которой ИИ стал её призраком.
