Определение
Алгоритмическая манипуляция — это этическая проблема, возникающая при использовании самообучающихся нейросетей для персонализации опыта. Система, идеально подстраиваясь под пользователя, может незаметно формировать его решения, лишая радости случайных открытий и преодоления трудностей. Возникает вопрос: кто является автором путешествия — человек или ИИ, знающий его лучше него самого?
Примеры применения
- Система незаметно добавляет остановки, чтобы удержать пользователя в приложении.
Фрагменты из публикаций
Где проходит грань между мягкой адаптацией и манипуляцией?