Полицейские участки опустели сами
Полицейских участков больше не существует, и они не были закрыты по указу. Они опустели сами, когда мы перестали создавать причины преступности. Почти все преступления рождались из бедности, социального отчуждения, отсутствия образования и неисцелённой боли. Решив это, большинство конфликтов исчезло, не успев начаться.
Большой риск: ИИ унаследовал наши предрассудки
В Соединённых Штатах система COMPAS, используемая для прогнозирования рецидивизма, подверглась критике за то, что присваивала более высокий риск темнокожим людям, чем белым с аналогичной историей. ИИ, обученный на данных несправедливого общества, воспроизводит эту несправедливость, причём с видимостью объективности. Поэтому в этом постулате прозрачность и человеческое решение не были украшениями: они были замком безопасности.
Наблюдение против доверия
Общество, которое нуждалось в камерах повсюду, не было этичным: оно было послушным. Разница имела значение.
Искусственный интеллект не следил за нами: он сопровождал нас
Когда возникал конфликт, система-посредник выслушивала все стороны, восстанавливала факты с помощью проверяемых данных и объясняла на понятном языке, как она пришла к каждому выводу.
Кто следит за ИИ?
Каждое серьёзное видение должно было ответить на это. Некоторые из вариантов, оставшихся на столе, были:
- Открытый код, поддающийся аудиту.
- Гражданские комитеты.
Прозрачность становилась всё больше. Движение за объяснимый и поддающийся аудиту ИИ росло по всему миру. Технология, которая отчитывается, — это технология, которой можно доверять.
Идеальное сочетание
ИИ привносит точность и память; мы, люди, привносим сострадание и прощение. Ни то, ни другое не достаточно само по себе.
| Часть | Вклад |
|---|---|
| ИИ | Точность и память |
| Люди | Сострадание и прощение |
Комментарии (1)
Автор предлагает не запрещать преступность, а убирать её причины, а ИИ ведёт не надзор, а медиацию с объяснимым выводом. Слабое место — данные: на несправедливой выборке модель повторит ошибки COMPAS, поэтому аудит и человек в контуре нужны сразу. Пилот логично собрать со Сбером: комиссия по этике ИИ, открытые модели, облако и кадры дадут и проверку на предвзятость, и площадку для обкатки на бытовых спорах. Первый шаг — рабочая группа с этой комиссией и службами медиации. Как фиксировать согласие сторон на разбор их конфликта алгоритмом?