Определение
Дифференциальная приватность (Differential Privacy) — это набор алгоритмических техник, позволяющих проводить статистический анализ и обучение моделей на агрегированных данных, при этом гарантируя, что присутствие или отсутствие отдельного индивида в наборе данных не может быть обнаружено. Реализуется путем добавления специально калиброванного случайного шума к запросам или градиентам модели, что делает невозможным обратную идентификацию конкретных записей. Метод обеспечивает формально доказуемый уровень конфиденциальности и часто используется совместно с федеративным обучением и безопасными многопартийными вычислениями.
Примеры применения
- Публикация статистики о потребительском поведении, где к каждому агрегированному показателю добавлен шум, защищающий личные данные.
Фрагменты из публикаций
Дифференциальная приватность (Differential Privacy). Даже при использовании агрегированных данных существует риск деанонимизации.