Практикум по кластеризации

Вычисление евклидова расстояния

Напишите функцию euclidean_distance(p1, p2), которая принимает две точки [x, y] и возвращает расстояние между ними.Проверяются разные случаи: классический треугольник 3-4-5, …

Когда масштаб признаков мешает

Проверьте, понимаете ли вы, как масштаб признаков влияет на расстояния и почему нормализация является частью постановки задачи.

Min-max нормализация признака

Напишите функцию minmax_scale(values), которая принимает список чисел и возвращает список значений, приведенных к диапазону от 0 до 1.Если все значения …

Назначение к ближайшему центру

Напишите функцию nearest_centroid_label(point, centroids). Словарь centroids хранит названия кластеров и координаты центров. Верните название ближайшего к точке центра.Это минимальная версия …

Алгоритмы разбиения (Partitioning) Решить

Определение геометрии данных

В этом задании нужно связать форму данных с ограничениями алгоритмов, которые используют центр кластера и прямое расстояние.

Геометрия как сигнал риска

Научитесь видеть по форме данных, где простые центроидные методы могут дать красивый, но неправильный результат.

Итоговый кейс: спроектировать первую кластеризацию

Финальная проверка первого модуля. Представьте, что вы готовите первую кластеризацию клиентов для аналитического отчета: нужно выбрать признаки, подготовить расстояния, оценить …

Кластеризация Решить

Что показывает инерция

Разберитесь, что означает целевая функция K-Means и чего она не гарантирует.

Посчитать инерцию разбиения

Напишите функцию total_inertia(points, centroids, labels). Она должна вернуть сумму квадратов расстояний от каждой точки до центроида назначенного ей кластера.

Elbow и силуэт при выборе K

Проверьте, почему при выборе числа кластеров полезно смотреть не только на инерцию.

Коэффициент силуэта Решить

Когда DBSCAN уместен

Оцените ситуации, где плотностный подход особенно полезен.

Выбор иерархического критерия

Выберите разумный linkage-критерий или метод под практическую ситуацию.

Выбор метода пятого модуля

Выберите метод под задачу и ограничения данных.

Итоговый кейс пятого модуля

Финальный кейс: сравните методы пятого модуля и выберите корректную интерпретацию.

Выбрать метод под ситуацию

Финальная задача на сопоставление формы данных, цели анализа и подходящего семейства алгоритмов.

Итоговый аудит кластеризации

Проведите финальную диагностику результата: метрики, параметры, интерпретация и ограничения.

Модуль 2. Центроидные методы

Центроиды, инерция, выбор числа кластеров и масштабируемые варианты.

Можно проходить 0%

целевая функция выбор числа кластеров масштабируемые варианты

Теория

Силуэт: близко к своим, далеко от чужих Метод K-средних (K-Means) Целевая функция K-Means и инерция Инициализация и ограничения K-Means k-means++: аккуратная инициализация центров Выбор числа кластеров K Выбор K: elbow и силуэт Форма, размер и масштаб кластеров MiniBatch K-Means Bisecting K-Means K-Means как сжатие данных Когда применять иерархические методы Когда выбирать методы пятого модуля Внутренние индексы: CH и DB Итоговый выбор метода

Симулятор

K-Means MiniBatch K-Means Bisecting K-Means

Шаги алгоритма K-Means

Проверьте, понимаете ли вы, что именно происходит на итерации K-Means.

Назначить точки ближайшим центроидам

Напишите функцию assign_points(points, centroids). Она должна вернуть список номеров ближайших центроидов для каждой точки. Нумерация центроидов начинается с нуля.

Пересчитать центроид кластера

Напишите функцию compute_centroid(points), которая возвращает среднее положение точек кластера. Точки могут быть двумерными или многомерными.

Одна итерация K-Means

Напишите функцию kmeans_step(points, centroids). Нужно назначить точки ближайшим центроидам и вернуть новые центроиды в том же порядке.

Посчитать ошибку кластера

Напишите функцию cluster_sse(points, centroid), которая считает сумму квадратов расстояний от точек до центроида.

Когда K-Means ошибается

Выберите ситуации, где результат K-Means нужно проверять особенно внимательно.

Инициализация и локальный оптимум

Разберите, почему один запуск K-Means не всегда достаточно надежен.

Веса выбора k-means++

В k-means++ следующая стартовая точка выбирается с вероятностью, пропорциональной квадрату расстояния до ближайшего уже выбранного центра. Напишите функцию kmeanspp_weights(points, centers), …

MiniBatch K-Means: скорость и точность

Проверьте, когда MiniBatch K-Means полезнее полного K-Means.

MiniBatch K-Means Решить

Обновить центроид по мини-батчу

Напишите функцию minibatch_update(old_centroid, batch_points, learning_rate). Сначала найдите среднее мини-батча, затем сдвиньте старый центроид по формуле old + learning_rate * (batch_mean …

MiniBatch K-Means Решить

Логика Bisecting K-Means

Проверьте, чем Bisecting K-Means отличается от обычного K-Means.

Bisecting K-Means Решить

Выбрать кластер для разбиения

Напишите функцию choose_split_cluster(sse_values), которая получает список ошибок кластеров и возвращает индекс кластера с максимальной ошибкой.

Bisecting K-Means Решить

Итоговый кейс: выбрать вариант K-Means

Выберите подходящий вариант алгоритма для разных ситуаций.

Что показывает инерция

Разберитесь, что означает целевая функция K-Means и чего она не гарантирует.

Посчитать инерцию разбиения

Выбор K по кривой ошибки

Оцените несколько значений K по динамике инерции.

Число кластеров (k) Решить

Elbow и силуэт при выборе K

Проверьте, почему при выборе числа кластеров полезно смотреть не только на инерцию.

Коэффициент силуэта Решить

Найти самый сильный спад ошибки

Напишите функцию best_drop_k(inertias). Список содержит инерцию для K=1,2,3,... Верните значение K, при переходе к которому ошибка упала сильнее всего.

Число кластеров (k) Решить

Форма и размеры кластеров

Проверьте, какие геометрические структуры подходят K-Means, а какие требуют осторожности.

Выпуклая геометрия Решить

Масштабируемость K-Means

Выберите подходящий вариант K-Means с учетом размера данных.

Векторное квантование (Сокращение данных) Решить

K-Means как сжатие данных

Проверьте, понимаете ли вы применение K-Means как набора прототипов.

Векторное квантование (Сокращение данных) Решить

Заменить точки центроидами

Напишите функцию replace_with_centroids(labels, centroids). Она должна вернуть список центроидов, соответствующих меткам объектов.

Выбор иерархического критерия

Выберите разумный linkage-критерий или метод под практическую ситуацию.

Выбор метода пятого модуля

Выберите метод под задачу и ограничения данных.

Итоговый кейс пятого модуля

Финальный кейс: сравните методы пятого модуля и выберите корректную интерпретацию.

Масштабируемость методов

Выберите метод с учетом размера данных и вычислительной стоимости.

Выбрать метод под ситуацию

Финальная задача на сопоставление формы данных, цели анализа и подходящего семейства алгоритмов.

Итоговый аудит кластеризации

Проведите финальную диагностику результата: метрики, параметры, интерпретация и ограничения.

Модуль 3. Плотностные методы

Окрестности, локальная плотность, шумовые точки и кластеры сложной формы.

Можно проходить 0%

окрестность и плотность ядро, граница и шум радиусные параметры расширения плотностного подхода

Центроидная или плотностная идея

Проверьте, понимаете ли вы отличие плотностных методов от центроидных.

Плотностные алгоритмы Решить

Термины DBSCAN

Сопоставьте параметры и типы точек в DBSCAN с их смыслом.

DBSCAN Решить

Найти ε-соседей точки

Напишите функцию epsilon_neighbors(index, points, eps). Она должна вернуть индексы всех точек, расстояние от которых до точки points[index] не больше eps. …

Размер окрестности ($\epsilon$) Решить

Определить ядровые точки

Напишите функцию core_point_indices(points, eps, min_pts), которая возвращает индексы ядровых точек DBSCAN. Точка является ядровой, если в ее ε-окрестности, включая саму …

Мин. объектов (MinPts) Решить

Как параметры меняют DBSCAN

Выберите, как изменение параметров влияет на результат DBSCAN.

Размер окрестности ($\epsilon$) Решить

Выделить шумовые точки

В DBSCAN шумовые точки часто помечают меткой -1. Напишите функцию noise_point_indices(labels), которая возвращает индексы всех шумовых точек.

Поиск аномалий и удаление шума Решить

Ядро, граница или шум

Напишите функцию dbscan_point_role(neighbor_count, min_pts, is_neighbor_of_core). Если число соседей не меньше min_pts, верните 'core'. Если точка не ядровая, но лежит в …

DBSCAN Решить

Когда DBSCAN уместен

Оцените ситуации, где плотностный подход особенно полезен.

Расстояние до k-го соседа

Для подбора ε полезно смотреть расстояния до k-го ближайшего соседа. Напишите функцию k_distance_squared_values(points, k), которая для каждой точки находит квадрат …

Как движется ФОРЭЛЬ

Проверьте понимание механики алгоритма ФОРЭЛЬ.

Алгоритм ФОРЭЛЬ Решить

Один сдвиг центра FOREL

Напишите функцию forel_shift(center, points, radius). Она должна взять все точки внутри радиуса от текущего центра и вернуть новый центр как …

Алгоритм ФОРЭЛЬ Решить

Семейство плотностных методов

Сравните методы третьего модуля: какие идеи лежат в основе DBSCAN, ФОРЭЛЬ, Mean Shift, OPTICS и HDBSCAN.

Плотностные алгоритмы Решить

Один шаг Mean Shift

Напишите функцию mean_shift_step(center, points, bandwidth). Она должна выбрать точки на расстоянии не больше bandwidth от текущего центра и вернуть новый …

Mean-shift Решить

Зачем нужен OPTICS

OPTICS в этом модуле рассматривается как расширение идеи DBSCAN для данных, где один глобальный радиус плохо описывает все кластеры.

OPTICS Решить

Расстояние достижимости

В упрощенной форме reachability-distance — это максимум из core-distance текущей точки и расстояния до соседней точки. Напишите функцию reachability_distance(core_distance, point_distance).

OPTICS Решить

Идея HDBSCAN

HDBSCAN в этом модуле рассматривается как современное расширение плотностного подхода: важно понять идею устойчивых кластеров разной плотности, а не детали …

HDBSCAN Решить

Выбор плотностного метода

Выберите метод под описание данных. Основные методы модуля — DBSCAN и ФОРЭЛЬ; OPTICS и HDBSCAN используются как расширения для случаев …

Плотностные алгоритмы Решить

Выделение множества микро-кластеров Решить

Диагностика плотностной кластеризации

Финальный кейс модуля: оцените результат плотностного алгоритма и выберите разумное действие.

Single linkage

Напишите функцию single_linkage_distance(cluster_a, cluster_b, distance_matrix). Она должна вернуть минимальное попарное расстояние между объектами двух кластеров.

Эффект цепи

Single linkage может объединять группы через цепочку близких точек. Проверьте, понимаете ли вы этот риск.

Модуль 4. Иерархические методы

Агломеративная кластеризация, критерии связи, метод Уорда и дендрограммы.

Можно проходить 0%

иерархия кластеров агломеративное объединение критерии связи метод Уорда

Теория

Расстояния и близость объектов Масштаб признаков и расстояния Целевая функция K-Means и инерция Иерархическая кластеризация: вложенные группы Агломеративный алгоритм Расстояния между кластерами: linkage Формула Ланса-Уильямса Метод Уорда Как читать дендрограмму Когда применять иерархические методы Когда выбирать методы пятого модуля Итоговый выбор метода

Симулятор

Agglomerative Clustering Ward

Вычисление евклидова расстояния

Когда масштаб признаков мешает

Min-max нормализация признака

Что показывает инерция

Разберитесь, что означает целевая функция K-Means и чего она не гарантирует.

Посчитать инерцию разбиения

Расстояние до k-го соседа

Что строит иерархический метод

Проверьте, чем иерархическая кластеризация отличается от одного фиксированного разбиения.

Найти ближайшую пару

В агломеративном алгоритме на каждом шаге выбирается ближайшая пара кластеров. Напишите функцию closest_pair(distance_matrix), которая получает квадратную матрицу расстояний и возвращает …

Agglomerative clustering Решить

Шаги агломеративного алгоритма

Выберите правильные утверждения о порядке работы агломеративной кластеризации.

Agglomerative clustering Решить

Single linkage

Complete linkage

Напишите функцию complete_linkage_distance(cluster_a, cluster_b, distance_matrix). Она должна вернуть максимальное попарное расстояние между объектами двух кластеров.

Average linkage

Напишите функцию average_linkage_distance(cluster_a, cluster_b, distance_matrix). Она должна вернуть среднее попарное расстояние между объектами двух кластеров.

Какой linkage выбрать

Проверьте, как разные правила расстояния между кластерами влияют на результат.

Эффект цепи

Single linkage может объединять группы через цепочку близких точек. Проверьте, понимаете ли вы этот риск.

Пересчет Ланса-Уильямса

Напишите функцию lance_williams_distance(d_ac, d_bc, d_ab, alpha_a, alpha_b, beta, gamma), которая считает расстояние от объединенного кластера A∪B до кластера C по …

Зачем нужна формула пересчета

Проверьте смысл общей формулы пересчета расстояний в агломеративных методах.

Стоимость объединения Уорда

Напишите функцию ward_merge_cost(size_a, size_b, squared_centroid_distance). Она должна вернуть увеличение критерия Уорда: size_a * size_b / (size_a + size_b) * squared_centroid_distance.

Ward hierarchical clustering Решить

Метод Уорда и компактность

Проверьте, чем метод Уорда отличается от простых linkage-критериев.

Ward hierarchical clustering Решить

Дана дендрограмма в виде списка высот объединений. Напишите функцию cluster_count_at_height(n_objects, merge_heights, cut_height), которая возвращает число кластеров после горизонтального разреза на …

Чтение дендрограммы

Проверьте, правильно ли вы интерпретируете высоты объединений и разрез дендрограммы.

Выбор иерархического критерия

Выберите разумный linkage-критерий или метод под практическую ситуацию.

Итоговый кейс по дендрограмме

Финальный кейс модуля: выберите корректную интерпретацию результата иерархической кластеризации.

Выбор метода пятого модуля

Выберите метод под задачу и ограничения данных.

Итоговый кейс пятого модуля

Финальный кейс: сравните методы пятого модуля и выберите корректную интерпретацию.

Выбрать метод под ситуацию

Финальная задача на сопоставление формы данных, цели анализа и подходящего семейства алгоритмов.

Итоговый аудит кластеризации

Проведите финальную диагностику результата: метрики, параметры, интерпретация и ограничения.

Модуль 5. Вероятностные и графовые методы

Вероятностные модели, EM-алгоритм, граф сходства и методы представителей.

Можно проходить 0%

гауссовские смеси EM-алгоритм граф сходства представители и микрокластеры

Теория

Целевая функция K-Means и инерция Когда применять иерархические методы Gaussian Mixture Models: мягкая кластеризация EM-алгоритм для GMM Spectral Clustering: кластеризация через граф Affinity Propagation: представители через сообщения BIRCH: микрокластеры и CF-дерево Когда выбирать методы пятого модуля Итоговый выбор метода

Симулятор

GMM Spectral Clustering Affinity Propagation BIRCH

Что показывает инерция

Разберитесь, что означает целевая функция K-Means и чего она не гарантирует.

Посчитать инерцию разбиения

Масштабируемость K-Means

Выберите подходящий вариант K-Means с учетом размера данных.

Выбор иерархического критерия

Выберите разумный linkage-критерий или метод под практическую ситуацию.

Мягкая принадлежность GMM

Проверьте, чем мягкая кластеризация отличается от жесткого назначения объектов.

Нормировать ответственности

На E-шаге EM сырые оценки компонент нормируют так, чтобы их сумма для объекта была равна 1. Напишите функцию normalize_responsibilities(scores), которая …

M-шаг: взвешенное среднее

Напишите функцию weighted_mean_1d(values, weights), которая возвращает взвешенное среднее. Это упрощенная версия пересчета среднего компоненты на M-шаге EM.

Жесткие метки из вероятностей

Иногда мягкие вероятности переводят в обычные метки по максимальной ответственности. Напишите функцию hard_labels(responsibilities), которая для каждой строки возвращает индекс максимального …

E-шаг и M-шаг

Проверьте, правильно ли вы понимаете логику EM-алгоритма.

GMM против K-Means

Сравните вероятностную смесь и центроидный подход.

Идея спектральной кластеризации

Проверьте, зачем спектральная кластеризация строит граф похожести.

Spectral clustering Решить

RBF-похожесть

Напишите функцию rbf_similarity(squared_distance, gamma), которая возвращает exp(-gamma * squared_distance). Это простая формула веса ребра в графе похожести.

Spectral clustering Решить

Степени вершин графа похожести

Напишите функцию graph_degrees(adjacency), которая возвращает сумму весов ребер для каждой вершины графа.

Графовое расстояние Решить

Параметры графа похожести

Проверьте, как параметры графа влияют на spectral clustering.

Spectral clustering Решить

Представители Affinity Propagation

Проверьте, чем представители Affinity Propagation отличаются от центроидов.

Affinity propagation Решить

Выбрать лучшего представителя

Упрощенно exemplar можно выбрать как объект с наибольшей суммарной похожестью к другим объектам. Напишите функцию best_exemplar(similarity_matrix), которая возвращает индекс строки …

Affinity propagation Решить

BIRCH и микрокластеры

Проверьте, зачем BIRCH сжимает данные в микрокластеры.

BIRCH Решить

CF-запись микрокластера

Напишите функцию cf_entry(points), которая возвращает словарь {'n': N, 'ls': LS, 'ss': SS}. LS — покоординатная сумма, SS — покоординатная сумма …

BIRCH Решить

Выбор метода пятого модуля

Выберите метод под задачу и ограничения данных.

Итоговый кейс пятого модуля

Финальный кейс: сравните методы пятого модуля и выберите корректную интерпретацию.

Масштабируемость методов

Выберите метод с учетом размера данных и вычислительной стоимости.

Выбрать метод под ситуацию

Финальная задача на сопоставление формы данных, цели анализа и подходящего семейства алгоритмов.

Итоговый аудит кластеризации

Проведите финальную диагностику результата: метрики, параметры, интерпретация и ограничения.

Модуль 6. Оценка и выбор метода

Метрики качества, условия применения и выбор алгоритма под структуру данных.

Можно проходить 0%

внутренние метрики внешние метрики диагностика параметров выбор алгоритма

Теория

Целевая функция K-Means и инерция Когда применять иерархические методы Когда выбирать методы пятого модуля Алгоритм, параметр и применение Индуктивный и трансдуктивный взгляд Метрики качества кластеризации Внешняя оценка и эталонные метки Внутренние индексы: CH и DB Расстояния и параметры как источник ошибок Итоговый выбор метода

Симулятор

K-Means diagnostics DBSCAN diagnostics GMM diagnostics Spectral diagnostics BIRCH diagnostics

Что показывает инерция

Разберитесь, что означает целевая функция K-Means и чего она не гарантирует.

Посчитать инерцию разбиения

Масштабируемость K-Means

Выберите подходящий вариант K-Means с учетом размера данных.

Выбор иерархического критерия

Выберите разумный linkage-критерий или метод под практическую ситуацию.

Выбор метода пятого модуля

Выберите метод под задачу и ограничения данных.

Итоговый кейс пятого модуля

Финальный кейс: сравните методы пятого модуля и выберите корректную интерпретацию.

Алгоритм, параметр или применение

Разделите базовые элементы постановки задачи: метод, настройку метода и цель применения.

Алгоритм кластеризации Решить

Индуктивный и трансдуктивный сценарий

Проверьте, понимаете ли вы, когда кластеризация работает как исследование одной выборки, а когда нужна модель для новых объектов.

Тип вывода (Inference Type) Решить

Внутренняя или внешняя метрика

Определите, какие метрики можно применять без эталонных меток, а какие требуют внешней разметки.

Метрика качества кластеризации Решить

Когда можно использовать внешнюю оценку

Проверьте условие применения внешних метрик качества.

Известны истинные метки классов Решить

Согласованность с эталонным разбиением Решить

Согласованность пар объектов

Напишите функцию pair_agreement_counts(true_labels, pred_labels). Она должна вернуть список из четырех чисел: пары вместе в обоих разбиениях, вместе только в истинных …

Скорректированный индекс Рэнда

Реализуйте adjusted_rand_index(true_labels, pred_labels) для небольших списков меток. Верните значение, округленное до трех знаков.

Скорректированный индекс Рэнда Решить

Как читать ARI

Проверьте смысл значений скорректированного индекса Рэнда.

Скорректированный индекс Рэнда Решить

Индекс Калински-Харабаша для 1D

Напишите функцию calinski_harabasz_1d(values, labels) для одномерных данных. Верните значение, округленное до трех знаков.

Индекс Калински-Харабаша Решить

Индекс Дэвиса-Болдина для двух групп

Напишите функцию davies_bouldin_1d(values, labels) для двух одномерных кластеров. Разброс кластера считайте как среднее абсолютное отклонение от центра. Верните значение, округленное …

Индекс Дэвиса-Болдина Решить

Условие применения метрики качества Решить

Когда метрики спорят

Выберите корректную стратегию, если разные метрики качества дают разные рекомендации.

Диагональное расстояние Махаланобиса

Напишите функцию mahalanobis_diag_distance(x, y, variances). Для диагональной ковариации используйте формулу sqrt(sum((x_i-y_i)^2 / variance_i)). Верните результат, округленный до трех знаков.

Расстояние Махаланобиса Решить

Готовая матрица расстояний

Проверьте, когда полезна произвольная попарная матрица расстояний.

Любая попарная матрица расстояний Решить

Следующий центр по максимину

Напишите функцию maximin_next_center(points, centers) для одномерных точек. Нужно вернуть точку, у которой расстояние до ближайшего уже выбранного центра максимально.

Алгоритм Максимина Решить

Параметр как причина ошибки

Определите, какой параметр вероятнее всего нужно проверить при типичной ошибке результата.

Параметры Решить

Число кластеров по порогу расстояния

В агломеративной иерархии есть n исходных объектов и список высот объединения merge_distances. Напишите clusters_by_threshold(n, merge_distances, threshold): объединения с расстоянием не …

Порог расстояния (Threshold) Решить

Bandwidth, damping и branching factor

Сопоставьте параметры с алгоритмами и типичными эффектами.

Ширина окна (Bandwidth) Решить

Оценить число листьев CF-дерева

Напишите функцию estimate_birch_leaves(subclusters, branching_factor), которая возвращает минимальное число листьев, если в каждом листе помещается не больше branching_factor микрокластеров.

Фактор ветвления Решить

Масштабируемость методов

Выберите метод с учетом размера данных и вычислительной стоимости.

Выбрать метод под ситуацию

Финальная задача на сопоставление формы данных, цели анализа и подходящего семейства алгоритмов.

Итоговый аудит кластеризации

Проведите финальную диагностику результата: метрики, параметры, интерпретация и ограничения.