Detecting the Secret Cyborgs
Итан Моллик утверждает, что LLM уже резко повышают индивидуальную производительность (по ранним исследованиям — экономия 20-70% времени), но пока плохо масштабируются на уровне организаций. Сотрудники тайно используют ИИ из-за корпоративных запретов, страха выглядеть нечестно (особенно при использовании «Кнопки» в Gmail и Office) и риска обучить собственную замену — автор называет их «тайными киборгами». Опрос в Twitter показал, что более половины пользователей генеративного ИИ скрывают это хотя бы иногда. Традиционные централизованные подходы (ИТ-отдел, консультанты, инновационные комитеты) не работают: только сами работники-эксперты знают, как применить ИИ к своим задачам. Чтобы раскрыть киборгов, нужны: широкое обучение, гарантии отсутствия увольнений и психологическая безопасность, крупные награды (вплоть до годовой зарплаты, повышений, удалёнки навсегда), а также быстрые решения по перестройке процессов и управлению рисками галлюцинаций и IP.
Обнаружить тайных киборгов
Ловушка ИИ для организаций
Звучит как завязка научно-фантастического романа: компании рискуют быть разрушены ИИ, если не сумеют убедить своих тайных киборгов раскрыться. Но, по-моему, это точное описание дилеммы, перед которой стоят организации.
Чтобы понять, что я имею в виду и почему это так важно, начнём с базовой посылки. Large Language Models — прорывная технология для индивидуальной производительности, но (пока) не для организаций.
Первые данные говорят, что ИИ способен сильно влиять на индивидуальную производительность. Ранние контролируемые исследования показали экономию времени от 20% до 70% во многих задачах при более высоком качестве результата, чем без ИИ. Однако сегодняшнее состояние ИИ помогает прежде всего отдельным людям становиться продуктивнее, а не организациям в целом. Дело в том, что ИИ — плохое программное обеспечение. Он непоследователен, склонен к ошибкам и в целом ведёт себя не так, как полагается ИТ-системе. Поэтому прямо сейчас ИИ плохо масштабируется. Но как инструмент личной продуктивности в руках эксперта в своей области он впечатляет.
Сегодня миллиарды людей имеют доступ к Large Language Models и тем выгодам для производительности, которые те приносят. И из десятилетий исследований инноваций — от сантехников до библиотекарей и хирургов — мы знаем: получив доступ к универсальным инструментам, люди находят способы сделать свою работу легче и лучше. Результатом часто становятся прорывные изобретения — способы применения ИИ, способные полностью преобразить бизнес. Люди упрощают задачи, по-новому подходят к программированию, автоматизируют утомительные и трудоёмкие части своей работы. Но эти изобретатели не рассказывают своим компаниям о своих открытиях; они и есть тайные киборги — люди, дополненные машиной, которые остаются в тени.
Тени ИИ
Есть как минимум три причины, по которым эти киборги хранят свою тайну. Но все они сводятся к одному: люди не хотят попасть в неприятности.
Проблемы начинаются с корпоративной политики. Многие компании запретили использовать ChatGPT, часто из-за юридических опасений, остающихся довольно размытыми, на фоне неопределённости вокруг технологии и тревог относительно регулирования. И хотя юристы делают свою работу, разрыв между слухами (ИИ украдёт ваши данные! ИИ нелегально использовать!) и попытками самих ИИ-компаний сделать свои инструменты пригодными для бизнеса — не воровать данные и соответствовать требованиям закона — растёт. Например, Claude AI от Anthropic соответствует HIPAA, а OpenAI и Microsoft также объявили о фокусе на безопасности и комплаенсе. Если масштабные запреты ИИ и оправданы, то, скорее всего, это временное явление, и компаниям стоит сосредоточиться на построении точечных политик по конкретным сценариям использования, а не на тотальных запретах.
Но эти запреты дают побочный эффект… они вынуждают сотрудников приносить телефоны на работу и пользоваться ИИ с личных устройств. Достоверных данных мало, но я уже встречал немало людей в компаниях, где ИИ запрещён, использующих этот обходной приём — и это лишь те, кто готов в этом признаться! Такой Shadow IT распространён в организациях, но из-за него использование ИИ нарушает корпоративные правила и потому скрывается.
И это не единственная причина, по которой пользователи ИИ боятся раскрыть свою киборгскую сущность. Значительная часть ценности ИИ возникает именно тогда, когда окружающие не знают, что вы им пользуетесь. Способность ИИ писать так, что текст выглядит человеческим, очень сильна — но только если люди думают, что текст и впрямь написан человеком. Пару недель назад я писал про Кнопку — опцию «напиши за меня», которая скоро будет в каждом приложении Office и Google. У меня уже есть к ней доступ в Gmail, и, как видно ниже, она прекрасно справляется с генерацией убедительного содержания на сложные и деликатные темы. Все будут пользоваться Кнопкой. Исследования показывают, что когда люди узнают, что получают контент, созданный ИИ, они оценивают его иначе, чем если бы предполагали человеческое авторство. Ещё одна веская причина держать использование в секрете. Неудивительно, что когда я провёл небольшой ненаучный опрос в Twitter, более половины пользователей генеративного ИИ сообщили, что используют технологию никому об этом не говоря, по крайней мере иногда.
Всё это теневое использование ведёт к последнему опасению — обоснованному страху, что работники, разобравшись, как работать с ИИ, обучают собственную замену. Если кто-то понял, как автоматизировать 90% некоторой работы, и расскажет об этом начальству, не уволит ли компания 90% его коллег? Лучше держать всё в тайне и избежать любого риска.
Раскрывая киборгов
Все привычные способы, какими организации реагируют на новые технологии, плохо работают применительно к ИИ. Они слишком централизованы и слишком медленны. ИТ-отдел не может легко построить собственную ИИ-модель — и тем более такую, которая конкурировала бы с одной из крупных LLM (плюс: ИИ работает не так, как ПО). У консультантов и системных интеграторов нет особого знания о том, как заставить ИИ работать в конкретной компании или даже о лучших способах использовать ИИ в целом. Инновационные группы и стратегические советы внутри организаций могут диктовать политику, но не могут понять, как именно применить ИИ для реальной работы — это знают только сами работники, эксперты в своих профессиях.
Поэтому, по крайней мере сейчас, единственный способ организации извлечь пользу из ИИ — заручиться помощью своих киборгов, одновременно подталкивая всё больше сотрудников использовать ИИ. А это потребует серьёзных изменений в том, как организации работают.
Во-первых, нужно признать, что сотрудники, лучше всех осваивающие ИИ, могут находиться на любом уровне организации и иметь любую историю или прошлые результаты. Ни одна компания не нанимала людей за их навыки работы с ИИ, так что эти навыки могут оказаться где угодно. Сейчас есть отдельные свидетельства того, что больше всех от ИИ выигрывают работники с самым низким уровнем квалификации, и потому у них может быть больше всего опыта работы с ним, — но картина пока неясна. Поэтому компаниям следует вовлекать в свою ИИ-повестку максимально широкие слои организации. А это значит — давать сотрудникам массовое обучение и создавать инструменты для обмена находками, например краудсорсные библиотеки промптов.
Во-вторых, руководителям нужно придумать, как снизить страх, связанный с раскрытием факта использования ИИ. Можно дать гарантии, что никто не будет уволен из-за применения ИИ, либо пообещать, что освободившееся благодаря ИИ время сотрудники смогут потратить на более интересные проекты или даже раньше уходить с работы. Ранние исследования говорят, что работники с удовольствием используют ИИ, потому что он избавляет их от скучной работы, так что такой стимул может быть привлекательным. И здесь преимущество получат организации с высокой степенью доверия и хорошей культурой. Если сотрудники не верят, что вы о них заботитесь, они будут скрывать использование ИИ. Психологическая безопасность может ослабить эти опасения.
В-третьих, организациям следует сильно стимулировать киборгов раскрываться и расширять круг пользователей ИИ, создавая новых. Это означает не просто разрешать применение ИИ, но и предлагать существенные награды тем, кто находит крупные возможности для его применения. Подумайте о денежных премиях размером с годовую зарплату. Повышениях. Угловых кабинетах. Возможности работать из дома навсегда. С учётом потенциального роста производительности благодаря LLM это небольшая цена за по-настоящему прорывные инновации. А крупные стимулы показывают, что организация относится к этому всерьёз.
Наконец, компаниям нужно быстро ответить на ряд базовых вопросов: что вы делаете с возможным приростом производительности? Как реорганизовать работу и упразднить процессы, которые ИИ делает пустыми или ненужными (если ваши киборги автоматизируют свои собственные performance review, какой в них вообще смысл)? Как управлять и контролировать работу, в которой есть риски ИИ-галлюцинаций и потенциальные проблемы с IP? Простых ответов нет, но ИИ уже здесь и уже влияет на многие отрасли и области. Откладывать рассмотрение этих вопросов — значит обречь себя на худшие долгосрочные результаты. Так что приготовьтесь встретить своих киборгов и начать вместе с ними строить новую — и лучшую — организацию для нашей эпохи, в которой ИИ стал её призраком.
