Определение
AI‑janitor (AI‑уборщик) — это специалист, который анализирует тексты, изображения и другие материалы, созданные искусственным интеллектом, с целью выявления и устранения «галлюцинаций», то есть несоответствий фактам, логических несостыковок и вымышленных источников. Работа включает использование специализированных инструментов фактчекинга, сравнение с децентрализованными криптографически защищёнными базами знаний и применение методов текстовой криминалистики. Позиция AI‑janitor становится ключевой в эпоху массового генеративного контента, где проверка достоверности информации переходит в приоритет над её созданием.
Примеры применения
- AI‑janitor проверил статью, сгенерированную GPT‑4, и обнаружил вымышленные ссылки, которые были удалены.
Фрагменты из публикаций
Появление профессии «AI-уборщика» (AI janitor) — специалиста, чья главная задача заключается в поиске и исправлении ошибок, «галлюцинаций» и логических нестыковок в контенте, сгенерированном нейросетями