Определение
Алгоритмическая манипуляция — это этическая проблема, возникающая при использовании самообучающихся нейросетей для персонализации опыта. Система, идеально подстраиваясь под пользователя, может незаметно формировать его решения, лишая радости случайных открытий и преодоления трудностей. Возникает вопрос: кто является автором путешествия — человек или ИИ, знающий его лучше него самого?
Usage examples
- Система незаметно добавляет остановки, чтобы удержать пользователя в приложении.
Fragments from publications
Где проходит грань между мягкой адаптацией и манипуляцией?