50,5% компаний подозревают утечки через ИИ: что делать CPO
Компании активно внедряют ИИ, но вместе с эффективностью растут и риски. Почему защиты данных уже недостаточно и как меняется роль CPO.
Искусственный интеллект перестал быть экспериментом и стал частью повседневной работы продуктовых команд. С его помощью анализируют поведение пользователей, ищут причины изменения метрик, формируют гипотезы развития продукта и готовят материалы для принятия решений. Вместе с этим меняется и природа рисков. Если ещё год назад основное внимание уделялось защите персональных данных, то сегодня руководителям приходится решать более сложную задачу — как использовать ИИ при работе с продуктовой аналитикой так, чтобы не терять контроль ни над данными, ни над качеством решений. Остро этот вопрос стоит перед компаниями с развитыми цифровыми продуктами — сайтами, мобильными приложениями и онлайн-сервисами, где продуктовые решения регулярно принимаются на основании пользовательских данных.
Исследование УЦСБ и ГК «Солар» показывает, что 50,5% российских организаций подозревают утечки конфиденциальной информации через ИИ или уже сталкивались с подобными случаями. При этом подтверждённые инциденты выявили лишь 8,1% компаний, тогда как у 42,4% остаются только подозрения. Сам по себе этот разрыв заслуживает внимания: отсутствие зарегистрированных инцидентов далеко не всегда означает отсутствие проблемы. Скорее, он свидетельствует о том, что многие компании пока не обладают достаточными инструментами контроля использования генеративного ИИ.
Что именно теряет компания
Обсуждение безопасности ИИ чаще всего сводится к защите персональных данных. Однако для продуктовых команд главным активом являются вовсе не имена пользователей или номера телефонов.
Гораздо большую ценность представляет внутренний контекст бизнеса: показатели продуктовой воронки, причины изменения конверсии, результаты A/B-тестов, выводы аналитиков, планы релизов, коммерческие метрики и взаимосвязь между действиями пользователей и выручкой.
Именно эти данные ежедневно используются при работе с языковыми моделями. Сотрудник может попросить ИИ объяснить почему пользователи стали реже возвращаться, предложить гипотезы роста конверсии или интерпретировать результаты очередного эксперимента. Формально запрос может не содержать персональных данных, однако фактически он описывает внутреннее устройство продукта.
Для самой компании такой контекст может быть чувствительным: по нему можно понять, какие проблемы компания считает приоритетными, где находятся слабые места продукта и какие направления развития рассматриваются в ближайшей перспективе. Для конкурентов это сведения, напротив, могут представлять практическую ценность.
Передача данных — только половина проблемы
Однако вопрос безопасности не ограничивается самим фактом передачи информации.
ИИ всё чаще становится участником процесса принятия продуктовых решений. Его используют для поиска причин изменения метрик, оценки гипотез, подготовки рекомендаций и даже формирования приоритетов развития продукта.
В результате появляется второй, менее очевидный риск.
Если модель получила неполный контекст, неверно интерпретировала данные или построила ошибочную причинно-следственную связь, последствия проявятся уже не в области информационной безопасности, а в самом бизнесе. Команда может сосредоточиться на проверке ложных гипотез, изменить приоритеты разработки или инвестировать ресурсы в направления, которые не окажут заметного влияния на ключевые показатели продукта.
Таким образом, ИИ начинает влиять не только на скорость работы команды, но и на качество управленческих решений.
Новая зона ответственности Chief Product Officer (CPO)
Для руководителей, отвечающих за развитие цифрового продукта и его бизнес-результата, это означает изменение самой модели управления.
Если раньше достаточно было контролировать доступ сотрудников к аналитическим данным, то теперь необходимо управлять двумя взаимосвязанными процессами одновременно:
- какие данные получает модель;
- насколько обоснованным является ответ модели, если он становится основой продуктового решения.
Фактически речь идёт о появлении нового элемента корпоративного управления — управления взаимодействием человека и искусственного интеллекта.
Почему регламентов уже недостаточно
Согласно исследованию, 63,6% компаний называют главным неудовлетворённым запросом обучение сотрудников и разработку внутренних политик использования ИИ.
Это закономерная реакция рынка. Большинство организаций начинают именно с разработки рекомендаций: что можно передавать внешним сервисам, какие данные запрещено использовать и как необходимо работать с генеративными моделями.
Однако подобный подход имеет очевидное ограничение.
Даже при наличии подробного регламента сотрудник самостоятельно принимает решение, какие данные включить в запрос, достаточно ли они обезличены и можно ли доверять полученному ответу. Контроль остаётся на уровне отдельного человека, а не становится частью самого рабочего процесса.
По мере роста использования ИИ такой подход начинает масштабироваться всё хуже.
От запретов — к архитектуре работы
Поэтому всё больше компаний рассматривают другой подход — перенос взаимодействия с ИИ непосредственно внутрь корпоративной аналитической среды.
В этом случае сотрудник работает не с универсальным внешним чат-ботом, а с ассистентом, который использует уже собранные аналитические данные. При необходимости персональные данные и сведения, позволяющие идентифицировать компанию, автоматически маскируются, а для организаций с повышенными требованиями к безопасности система может быть полностью развернута внутри корпоративного контура.
Не менее важно, что ответ модели строится на фактическом контексте продукта, а не на предположениях, основанных исключительно на тексте пользовательского запроса.
Что это меняет
- данные не приходится вручную переносить во внешний чат;
- правила обработки задаются один раз на уровне системы, а не принимаются заново каждым сотрудником;
- при работе с внешней моделью могут маскироваться персональные данные и сведения, напрямую связывающие запрос с компанией;
- при необходимости ИИ полностью работает внутри контура компании;
- вывод строится на актуальных продуктовых данных и связан с тем аналитическим контекстом, в котором принимает решения команда.
В «Динамике» такая архитектура реализована в ИИ-ассистенте «Дина». Сама платформа разворачивается в контуре клиента, а режим ИИ-модели компания выбирает отдельно. Во внешнюю модель передаётся обезличенный продуктовый контекст без персональных данных и сведений, идентифицирующих компанию; при повышенных требованиях модель работает полностью внутри контура. Основание ответа остаётся в интерфейсе платформы, поэтому команда может проверить данные и расчёты до принятия решения.
Профессиональный вызов для бизнеса в целом и для CPO в частности — не внедрение искусственного интеллекта, а управление его использованием. Пока работа с внешними моделями строится как множество независимых действий отдельных сотрудников, контроль над данными и качеством решений остаётся фрагментарным.
Следующий этап зрелости использования ИИ
История корпоративного ИИ постепенно перестаёт быть исключительно историей информационной безопасности.
Сегодня ключевой вопрос звучит иначе: каким образом встроить искусственный интеллект в процессы компании так, чтобы он одновременно ускорял работу команды, не создавал дополнительных рисков для бизнеса и не снижал качество принимаемых решений.
Компании, которые смогут выстроить такую архитектуру взаимодействия раньше остальных, получат преимущество не только в скорости разработки продуктов, но и в качестве управленческих решений. Именно этот фактор, вероятно, станет одним из ключевых критериев зрелости продуктовых организаций в ближайшие годы.
