Вопрос с собеседования · AI и LLM

Что проверить в условиях провайдера LLM о данных?

MiddleLLM в продакшене
Ещё спрашивают так:
  • Обучается ли провайдер на моих запросах?
  • Сколько провайдер хранит запросы к модели?
Коротко

Проверить: используются ли запросы для обучения моделей (часто по умолчанию нет для API и да для бесплатных чат-интерфейсов), сколько хранятся запросы и ответы (например, 30 дней для контроля злоупотреблений) и можно ли отказаться от хранения, где физически обрабатываются данные, кто из субподрядчиков имеет доступ, есть ли договор обработки данных и сертификаты.

  • Условия API и потребительского чата у одного провайдера обычно разные
  • Сотрудники, вставляющие данные в бесплатный чат, — частый канал утечки
  • Условия меняются — их пересматривают при продлении и смене модели

А ещё Для чувствительных данных выбирают тариф или провайдера без хранения и с данными в нужной стране

Подробно

Список вопросов:

  • Используются ли входы и выходы для обучения? Можно ли отключить?
  • Срок хранения и цель (контроль злоупотреблений, отладка).
  • Доступен ли режим без хранения (zero data retention)?
  • Регион обработки и хранения.
  • Субподрядчики и их страны.
  • Договор обработки данных, поручение, ответственность.
  • Шифрование, разграничение доступа, аудит.

Практика в компании. Разрешённый список провайдеров и тарифов, корпоративный доступ вместо личных аккаунтов сотрудников, шлюз с логированием и маскированием.

Что хотят услышать

  • Обучение на данных, сроки хранения, регион.
  • Разница API и потребительских продуктов.
  • Корпоративные правила использования.

Проверьте себя

Несколько верных вариантов. Подумайте, потом откройте ответ.

Показать варианты и ответ
  • ✗Число параметров модели и её место в публичных рейтингах качества
  • ✓Идут ли запросы в обучение и можно ли это отключить
  • ✗Поддерживает ли провайдер стриминг ответов и вызов инструментов
  • ✓Срок хранения запросов и режим без хранения
  • ✓Регион обработки данных и субподрядчики

Связанные вопросы

Партнёр платформы

Разбор собеседования с sotto

После собеседования sotto разбирает разговор: оценка, каждый вопрос — хорошо, частично или слабо, чего не хватило в ответе и над чем поработать к следующему разу. Первые 30 минут бесплатно.

Разбор собеседования