Как не отправлять персональные данные во внешнюю модель?
- Как маскировать ПДн перед отправкой в LLM?
- Что делать с персональными данными в промптах?
Сначала понять, какие данные вообще уходят в модель: промпт, история, найденные документы, результаты инструментов. Затем минимизировать (не передавать то, что не нужно для ответа) и маскировать: заменить ФИО, телефоны, паспорта, адреса, номера карт на заглушки вида [ИМЯ_1] перед отправкой и вернуть их в ответ после. Поиск ПДн — правилами (регулярные выражения для номеров) и моделью распознавания именованных сущностей.
- Маскирование лучше делать централизованно — в шлюзе к моделям
- Логи и трассы тоже содержат ПДн — их маскируют и ограничивают доступ
- Таблица соответствия заглушек хранится только у вас и только на время запроса
А ещё Если без ПДн задачу не решить — нужна модель в контуре компании или провайдер с подходящим договором
Подробно
Инвентаризация. Пройти путь запроса и отметить, где появляются данные клиентов: ввод пользователя, CRM, документы базы знаний, ответы инструментов.
Маскирование:
- правила для структурированных данных: телефоны, email, номера документов и карт;
- NER-модель для имён, адресов, организаций;
- устойчивые заглушки внутри диалога ([КЛИЕНТ_1] везде один и тот же), чтобы модель понимала связи;
- обратная подстановка в ответ.
Ограничения. Распознавание не идеально: часть данных проскочит. Поэтому маскирование — один слой, вместе с выбором провайдера, договором и минимизацией данных.
Что хотят услышать
- Инвентаризация потоков данных.
- Минимизация и маскирование с обратной подстановкой.
- Правила и NER, неидеальность распознавания.
- Логи тоже содержат ПДн.
Проверьте себя
Один верный вариант. Подумайте, потом откройте ответ.
Показать варианты и ответ
- ✗Попросить модель в системном промпте не запоминать персональные данные
- ✗Шифровать весь промпт перед отправкой провайдеру
- ✓Минимизировать ПДн в запросе и заменять их заглушками с обратной подстановкой
- ✗Маскировать данные только в логах, в запросы к модели отправлять как есть
Связанные вопросы
Разбор собеседования с sotto
После собеседования sotto разбирает разговор: оценка, каждый вопрос — хорошо, частично или слабо, чего не хватило в ответе и над чем поработать к следующему разу. Первые 30 минут бесплатно.