Риски использования ИИ в компании: где нейросеть не нужна и чем она опасна для данных

В апреле 2023 года инженер Samsung вставил в ChatGPT исходный код и попросил найти в нём ошибку. За 20 дней таких случаев набралось три: ещё один фрагмент кода и расшифровка внутреннего совещания. Через месяц Samsung запретила сотрудникам генеративные нейросети на рабочих устройствах.

С тех пор компании внедряют ИИ быстрее, а правила пишут реже. Я вижу это на консультациях: руководитель спрашивает, какую нейросеть купить. Какие данные в неё уйдут и нужна ли она этой задаче, не спрашивает никто.

Моя позиция простая: внедрение ИИ начинается с безопасности, а не с выбора сервиса. В этой статье разберём риски использования ИИ в компании: утечки, дыры в самих сервисах, ИИ-агентов, закон и пустые траты. Покажу, как с этим работают крупные компании в России и за рубежом, когда нейросеть не нужна вовсе и с чего начать, чтобы потом не пришлось всё запрещать.

Риски использования ИИ в цифрах: 2025–2026

Четыре исследования, которые стоит знать руководителю.

• ГК «Солар», февраль 2026. За 2025 год из российских компаний через ИИ-сервисы утекло в 30 раз больше конфиденциальных данных, чем годом ранее. Аналитики разобрали трафик 150 компаний. Главная причина: сотрудники загружают в чат-боты рабочие документы. У 60% организаций нет правил работы с ИИ.
• IBM, Cost of a Data Breach 2025. 20% компаний пережили утечку через «теневой ИИ», то есть через сервисы, о которых не знает ИТ-отдел. Такая утечка обошлась в среднем на $670 тыс. дороже обычной. У 97% компаний, где случился инцидент с ИИ, не было контроля доступа к нейросетям.
• MIT, июль 2025. 95% корпоративных пилотов генеративного ИИ не дали измеримого эффекта на прибыль. Компании вложили в них $30–40 млрд.
• UserGate, январь 2026. Опрос 335 топ-менеджеров российских компаний с выручкой от 100 млн рублей: 97% уже используют ИИ, тестируют его или собираются внедрять. 54% не видят в нём ценности.

Получается две проблемы сразу: данные уходят наружу, а польза не появляется. Ниже разберём, откуда берётся каждая.

Пять рисков использования ИИ в компании

1. Сотрудники сами отдают данные нейросетям

Это главный канал утечек. Менеджер загружает договор в ChatGPT, чтобы найти спорные пункты. Бухгалтер вставляет выгрузку с зарплатами, чтобы построить сводную таблицу. Никто не взламывает компанию: человек сам отправляет файл на чужой сервер и считает, что сэкономил час.

Такое использование нейросетей в обход ИТ-отдела называют теневым ИИ. Обычные системы защиты от утечек его почти не видят: для них это обычный запрос к известному сайту, как работа в облачном диске.

Наталья Касперская (InfoWatch) на ЦИПР-2026 предупредила: если компания не переносит нейросеть внутрь своего периметра, данные рискуют утечь. InfoWatch продаёт отечественные решения, у компании есть свой интерес. Но цифры «Солара» и IBM говорят о том же.

2. Сервис может выложить ваш диалог в открытый доступ

Летом 2025 года в поиске Google нашли около 100 000 диалогов с ChatGPT. Пользователи делились ссылкой на чат и ставили галочку «сделать доступным для поиска», не понимая последствий. В диалогах лежали договоры, адреса почты и данные о здоровье. OpenAI убрала эту функцию и вместе с Google удалила страницы из поиска.

В августе того же года история повторилась с Grok. Кнопка «Поделиться» открывала диалог поисковикам без предупреждения, в поиск попали от 300 до 370 тыс. чатов. Среди них были медицинские вопросы и пароли.

Вывод: даже если сотрудник пишет в нейросеть осторожно, одна кнопка в интерфейсе может превратить рабочую переписку в публичную страницу.

3. ИИ-агент с доступом к почте работает на того, кто ему напишет

ИИ-агент — нейросеть, которая сама выполняет действия: читает почту, ищет файлы, отправляет запросы. Чем больше у агента прав, тем выше риск.

В июне 2025 года исследователи Aim Security показали уязвимость EchoLeak в Microsoft 365 Copilot. Злоумышленник присылал сотруднику письмо со скрытыми инструкциями. Сотрудник ничего не открывал и не нажимал, а Copilot сам читал письмо, находил внутренние файлы компании и отправлял их наружу. Уязвимости присвоили 9,3 балла из 10 по шкале опасности. Microsoft её закрыла.

Британский программист Саймон Уиллисон описал, почему так происходит, и назвал это «смертельной троицей». Агент уязвим, если у него одновременно есть три вещи:

• доступ к закрытым данным компании;
• чужой текст на входе: письма, сайты, документы от клиентов;
• возможность отправить что-то наружу.

Если все три условия совпали, агента можно заставить слить данные текстом внутри письма. Никакие настройки модели от этого не спасают. Некоммерческий проект OWASP ставит такие атаки на первое место в списке угроз для нейросетей в 2025 году.

4. Закон: персональные данные и передача за рубеж

Зарубежные нейросети обрабатывают запросы на серверах за пределами России. Если сотрудник отправил туда данные клиентов, компания передала персональные данные за рубеж. По 152-ФЗ об этом нужно уведомлять Роскомнадзор, а за нарушение правил локализации штраф для юрлица при повторном нарушении доходит до 18 млн рублей.

Государство тоже ужесточает требования. С 1 марта 2026 года действует приказ ФСТЭК № 117. Он запрещает передавать разработчикам нейросетей информацию ограниченного доступа из государственных систем и допускает только доверенные ИИ-технологии. Приказ обязателен для госсистем и их подрядчиков. Остальным компаниям он показывает, куда движется регулирование. Банк России выпустил для банков, страховщиков и платёжных систем рекомендации по безопасному применению ИИ, в них больше 20 мер защиты.

5. Деньги уходят на ИИ там, где он не нужен

Этот риск не про утечки, но стоит не меньше. Кроме данных MIT про 95% пилотов без эффекта:

• Gartner ожидает, что к концу 2027 года компании отменят больше 40% проектов с ИИ-агентами из-за затрат, неясной пользы и слабого контроля рисков;
• RAND в исследовании 2024 года приводит оценки, по которым проваливаются больше 80% ИИ-проектов. Это вдвое больше, чем у обычных ИТ-проектов.

Причины RAND называет организационные, а не технические: компания не понимает, какую задачу решает, и у неё нет данных для решения.

Как крупные компании снижают риски использования ИИ

В 2023 году первой реакцией стали запреты. Apple ограничила сотрудникам ChatGPT и похожие сервисы. JPMorgan Chase запретила ChatGPT во всех подразделениях. Verizon закрыла доступ к нему из корпоративной сети. Ограничения ввели также Goldman Sachs, Accenture и Deutsche Bank.

Запрет даёт время, но не решает проблему. Задачи остаются, и сотрудник открывает нейросеть на личном телефоне. Теневой ИИ от запретов только растёт.

Поэтому компании переходят ко второму шагу: дают сотрудникам безопасную замену.

• Корпоративные тарифы. В ChatGPT Enterprise и Business данные клиента по умолчанию не идут на обучение моделей. Но хранятся они на серверах OpenAI за рубежом.
• Российские модели с данными в России. У GigaChat и YandexGPT есть корпоративные версии, данные в них остаются в российских дата-центрах, а крупным клиентам предлагают отдельный контур.
• Своя модель на своём сервере. Открытые модели ставят внутри компании, и данные не выходят за её периметр.

Регуляторы идут туда же: ФСТЭК и Банк России требуют держать закрытые данные внутри контура и контролировать, что уходит в нейросеть.

Подробнее о настройках облачных сервисов — в статье как бизнесу защитить данные при работе с облачными нейросетями.

Когда нейросеть компании не нужна

На консультациях я регулярно отговариваю клиентов от нейросети. Чаще всего задачу закрывают порядок в процессах и обычная автоматизация. Они дешевле, предсказуемее и не отправляют данные наружу.

Четыре признака, что ИИ вам пока не нужен:

• Процесса нет. Заявки живут в Excel, у каждого менеджера своя таблица, никто не знает, где сделка. Нейросеть поверх хаоса ускорит хаос.
• Задачу решает правило «если — то». Распределить заявку по региону, напомнить клиенту о счёте, поставить задачу после звонка. Это умеет CRM без всякого ИИ, и она не ошибается.
• Ошибка стоит дорого, а проверить ответ некому. Нейросеть ошибается уверенно. Если результат уходит клиенту или в налоговую без проверки человеком, риск выше экономии.
• Данные нельзя выносить, а свой сервер пока не по карману. Тогда сначала решаем вопрос с контуром, потом внедряем.

Пример из практики. К нам пришла оптовая компания по продаже электроники. Заявки терялись, менеджеры работали в разрозненных таблицах, руководитель не видел, что происходит в продажах. Запрос звучал как «внедрить ИИ». Нейросеть мы внедрять не стали. За два месяца собрали воронку продаж в CRM, подключили к ней телефонию, мессенджеры и почту, настроили напоминания и распределение заявок. Заявки перестали теряться, а руководитель видит работу отдела продаж.

→ Подробный кейс: оптимизация продаж без использования ИИ

Нейросеть уместна поверх порядка, а не вместо него. Как понять, готов ли бизнес к ИИ, разобрали в статье о проблемах внедрения ИИ.

Как внедрить ИИ и снизить риски: пять шагов

Шаг 1. Разделите данные на три группы

• Открытые: тексты с сайта, публичные прайсы, общие вопросы. Их можно отправлять в любой сервис.
• Внутренние: регламенты, переписка, отчёты без персональных данных. Только корпоративный тариф или российский сервис с договором.
• Закрытые: данные клиентов и сотрудников, коммерческая тайна, исходный код, финансы. Только нейросеть внутри компании или никуда.

Этот список составляют за один день. Он снимает большую часть рисков использования ИИ ещё до выбора сервиса.

Шаг 2. Напишите правила работы с ИИ на одну страницу

Какие сервисы разрешены, какие данные в какой сервис можно отправлять, кто отвечает за нарушение, что делать, если данные уже ушли. Одной страницы хватит, если её прочитали все. У 60% российских компаний, по данным «Солара», нет и её.

Шаг 3. Выберите, где будет работать нейросеть

Что советую я. Малому бизнесу хватает российского корпоративного тарифа для внутренних задач, а закрытые данные в нейросеть лучше не отправлять совсем. Компаниям, которые работают с персональными данными клиентов или с коммерческой тайной, под эти задачи нужна своя модель внутри компании.

Шаг 4. Проверьте, нужна ли задаче нейросеть

Три вопроса до покупки: сколько часов в месяц уходит на задачу, решается ли она правилом «если — то», кто проверит ответ нейросети. Если часов мало, правило есть, а проверять некому, ИИ не нужен.

Шаг 5. Запустите пилот с измеримой целью

Одна задача, одна метрика до и после, срок 4–6 недель. ИИ-агенту давайте минимум прав. Не собирайте у одного агента все три условия «смертельной троицы»: закрытые данные, чужие письма на входе и выход наружу.

Пример из практики. Производственная компания хотела понимать, как менеджеры говорят с клиентами, но не хотела нанимать человека на прослушивание звонков. Условие было жёсткое: записи разговоров не уходят за пределы компании, потому что в них имена клиентов, суммы и условия сделок. Мы развернули расшифровку и анализ звонков на открытых моделях на сервере компании. Руководитель видит качество работы отдела продаж без ручного прослушивания, а записи никуда не отправляются.

→ Подробный кейс: анализ звонков, данные остаются внутри компании

Три ошибки при работе с рисками ИИ

Запретить всё

Сотрудники уходят с задачами в личные телефоны, и компания теряет контроль полностью. Вместо запрета дайте разрешённый сервис и правила: что туда можно, а что нельзя.

Купить подписку всем и на этом остановиться

Подписка без разделения данных и правил — тот же теневой ИИ, только за счёт компании. Сначала шаги 1 и 2, потом подписка.

Дать ИИ-агенту доступ ко всей почте и базе

История EchoLeak показывает: одного письма хватает, чтобы агент с широкими правами отправил файлы наружу. Давайте агенту доступ только к тем данным, которые нужны для его задачи.

Что делать

Два варианта.

Вариант 1. Начать самостоятельно. Разделите данные на три группы и напишите правила работы с ИИ на одну страницу. Это займёт день и закроет главный канал утечек. В Telegram-канале разбираю, что из ИИ работает в компаниях, а что нет.

Вариант 2. Разобрать вашу ситуацию, консультация от 15 000 рублей. Посмотрим ваши процессы и данные, покажем, где нейросеть окупится, где её лучше не внедрять и какую схему выбрать, чтобы данные не ушли наружу.

Меня зовут Виктор Холостяков, компания ГодКод. Разбираю, что из ИИ работает в бизнесе, а что продают под видом работы. Подписывайтесь на Telegram-канал.

Источники

• CNews: исследование ГК «Солар» об утечках через ИИ-сервисы, 04.02.2026
• IBM: Cost of a Data Breach 2025
• Forbes о докладе MIT NANDA «The GenAI Divide», 26.08.2025
• Anti-Malware.ru: опрос UserGate, 12.02.2026
• Forbes: Samsung запрещает ChatGPT после утечки кода, 02.05.2023
• TechCrunch: чаты Grok в поиске Google, 20.08.2025
• The Hacker News: уязвимость EchoLeak в Microsoft 365 Copilot, июнь 2025
• Simon Willison: The lethal trifecta for AI agents, 16.06.2025
• OWASP Top 10 for LLM Applications 2025
• ФСТЭК России: требования, приказ № 117 от 11.04.2025
• Gartner: прогноз по проектам с ИИ-агентами, 25.06.2025
• RAND: The Root Causes of Failure for AI Projects, 2024
• OpenAI: Enterprise privacy