Что важно знать
- Сначала — как собирались данные и что значит строка.
- Пропуски: случайные или нет; выбросы: ошибка или реальность.
- Корреляция не означает причинность.
- Хороший график отвечает на один вопрос.
Качество данных, распределения, связи, выбросы и графики, которые помогают принять решение.
Практика. Провести EDA открытого датасета и оформить ноутбук с 10 выводами и графиками.
Практика. Подготовить для заказчика 5-слайдовую презентацию выводов из EDA с рекомендациями.
Войдите, чтобы пройти тест: сданный тест отмечает тему пройденной на карте и в ИПР.
Цель EDA — понять данные до модели: структура (строки, столбцы, типы, единицы, что такое одна строка), качество (пропуски, дубли, выбросы, ошибки ввода), распределения признаков и целевой переменной, связи между признаками и с целевой, время (тренды…
Полный разборСначала понять, почему значение пропущено: технический сбой, «не применимо» (нет второго адреса), пользователь не захотел указывать. Пропуск часто несёт информацию. Варианты: исключить строки (если пропусков мало и они случайны), заполнить (медианой…
Полный разборСначала понять природу выброса: ошибка данных (тестовый заказ, бот, сбой трекинга, неверные единицы) — исправить или исключить; реальное редкое значение (оптовый клиент) — часть распределения, удалять нельзя, но можно ограничить влияние: медиана, логарифм…
Полный разборКорреляция — совместное изменение величин; причинность — изменение одной вызывает изменение другой. Корреляция возникает и без причинности: общая причина (конфаундер), обратная причинность, отбор данных, случайность. Причинность надёжно устанавливает…
Полный разборНачинать с вопросов и решений, которые дашборд должен поддерживать, и с аудитории: руководителю — несколько ключевых метрик с динамикой и сравнением с планом, команде — детализация и разрезы. Каждой метрике — определение, сравнение (с прошлым периодом…
Полный разборПосле собеседования sotto разбирает разговор: оценка, каждый вопрос — хорошо, частично или слабо, чего не хватило в ответе и над чем поработать к следующему разу. Первые 30 минут бесплатно.