Понедельник. Менеджер по продажам отправляет клиенту коммерческое предложение. В нём — цифра, которой нет ни в одном внутреннем документе. Модель её «посчитала», менеджер не стал перепроверять. Клиент, к счастью, тоже.

Среда. Марина из HR открывает почту и видит двенадцать сопроводительных писем. Одинаковых, как под копирку. Одно и то же первое предложение, одна и та же интонация — будто двенадцать человек сегодня утром разделили одну голову.

Пятница. Аналитик вставляет текст NDA в публичный чат-бот. «Переведи, там английский». Вместе с NDA в чат уезжают имена, суммы и условия сделки, которую компания ещё не объявляла.

Три человека, три ошибки, один и тот же инструмент. Забавный парадокс: ИИ во всех трёх случаях работал ровно так, как ему сказали. Ломались не нейроны — ломались привычки вокруг них. Вот эти десять привычек, от смешных до по-настоящему дорогих, и способ с каждой распрощаться. Если узнали свою команду — не беда, все десять лечатся: я помогаю компаниям с такими проблемами.

Десять ошибок

1. Просить невнятно. «Напиши письмо клиенту» — и получи письмо, похожее на все письма сразу: вежливое, ровное, пустое. Теперь представьте, что таких писем сорок — клиент открывает третье подряд, видит знакомое первое предложение и перестаёт читать. Не обижается, не жалуется. Просто перестаёт. А тот же запрос с контекстом — кто клиент, что за сделка, как мы пишем обычно, плюс прошлое письмо как образец — возвращает текст, который отличается от шаблона ровно настолько, насколько ваш бизнес отличается от среднего по рынку. Копнуть глубже поможет русскоязычный перевод руководства Google по промпт-инжинирингу — с техниками, примерами и настройками модели.

2. Бросать после первого ответа. Первый черновик слабый — и внутри щёлкает: «ну всё, игрушка». Это как нанять дизайнера и уволить его после первого эскиза: деньги заплачены, смысла ноль. А между тем дальше начинается самое интересное. «Сделай короче. Теперь строже. Добавь возражение клиента. А теперь покритикуй собственный ответ». Пять минут такого разговора — и вместо воды на руках черновик, который не стыдно отправить. Про итерации подробно — всё в том же руководстве Google.

3. Считать модель всезнающей. «Посмотри, что в CRM написал клиент». Модель не подключена к CRM и честно об этом говорит. Но сотрудник уже обиделся — и весь отдел к обеду знает, что «это ваш ИИ не работает». Репутация инструмента губится ни за что. А ведь достаточно приложить выгрузку переписки — и за минуту модель найдёт в ней то, на что у человека ушёл бы час внимательного чтения. Нет доступа — поделитесь данными сами. Как выглядит ассистент, у которого доступ действительно есть, я показывал на примере помощника для генерального директора.

4. Верить на слово. Самая дорогая привычка. Адвокаты в США подали в суд бриф со ссылками на судебные решения — уверенные, гладкие, существующие только в воображении модели. Судья попросил тексты этих решений. Их не нашлось ни в одной базе. Дело Mata v. Avianca стало учебником на тему automation bias, а фамилии юристов — примечанием в судебном приказе. Обидно вдвойне: проверить прецеденты можно было за один вечер. Две минуты сверки с первоисточником — и цифра из презентации существует не только в голове у нейросети. Как контроль превращается в церемонию, я разбирал в статье про риски личных ИИ-помощников.

5. Отправлять как есть. Опытный HR открывает сопроводительное и читает первое предложение. «Увлечён возможностью присоединиться к вашей команде». Всё, можно закрывать: письмо писал не человек, и не сегодня. Если текст можно отправить без единой правки — такой же текст в эту минуту отправляет конкурент. А вот черновик, в который добавлен ваш опыт, ваша цифра и ваша интонация, перестаёт быть средним. Он начинает отвечать. Где текст решает, а где — нет, я писал в статье про ИИ для работы, а не для демо.

6. Скармливать секреты. Инженеры Samsung вставляли в публичный чат-бот код и протоколы совещаний — пока компания не ввела жёсткий запрет. У нас правила ещё серьёзнее: персональные данные граждан РФ не должны утекать в зарубежные сервисы, и 152-ФЗ объясняет почему. Выход простой и немудрёный: «клиент А», «компания Б», суммы в условных единицах — и спокойный перевод. А компании пора бы поднять корпоративный контур, чтобы сотрудникам не приходилось выбирать между удобством и безопасностью.

7. Прятаться в личных аккаунтах. «У нас ИИ запрещён», — говорит руководитель на планёрке. В это самое время сорок сотрудников в соседних вкладках переписывают отчёты в личных чат-ботах. Так работает почти каждый второй офис, и запрет тут бессилен: удобство всегда побеждает бумажку. Работает другое — корпоративный доступ. Люди перестают прятаться, служба безопасности видит логи, данные остаются дома. Одна из корпоративных альтернатив в российском контуре — GigaChat для бизнеса.

8. Прятаться за ИИ. «Откуда цифра?» — «ChatGPT выдал». На совещании это звучит как признание. А в суде — как приговор себе: Air Canada попыталась сослаться на свой же чат-бот, который выдумал правило возврата билетов, и обязана была вернуть клиенту деньги. Суд лаконичен: компания отвечает за слова своего бота. Значит, и спрашивать будут с человека — с того, кто нажал «отправить». Проверил источник заранее — и отвечаешь на встрече «по данным квартального отчёта», а не «мне так сказали». Кстати, статья 16 того же 152-ФЗ прямо говорит о праве человека оспорить решение, принятое машиной.

9. Выдавать ключи без инструкции. Лицензии куплены, доступы выданы, все ждут чуда. Через квартал тишина: пробовали, ничего не поняли, забили. Деньги потрачены, энтузиасты сломаны, эффекта — ноль. А ведь всё решалось за день: час практикума на задачах конкретного отдела, внутренняя база удачных промптов, человек, к которому можно подойти. Команды, которых научили, выигрывают в разы больше команд, которым просто выдали пароль. С чего начать обучение себе и команде — подскажет подборка бесплатных курсов по ИИ на Stepik.

10. Запрещать вместо управлять. Итог запретов всегда один и тот же: теневая работа, а за ней — утечка, о которой компания узнаёт из новостей. Управлять же можно и нужно: распределить сценарии по степени автономии, вести логи, проверять результат, а не количество логинов. Скорость при этом никуда не девается — она просто перестаёт пугать. Четыре уровня автономии и контроль под каждый я разбирал в статье про личных ИИ-помощников.

Что почитать

Коротко

ИИ прощает неточный вопрос, но не прощает безответственности с ответом. Ошибается редко инструмент — чаще привычки вокруг него.

Если вы узнали в этих историях свою компанию — это лечится. Я помогаю командам работать с ИИ без этих десяти ошибок: регламенты, обучение, корпоративный контур, аудит. Напишите — разберём ваш случай.