Существует фундаментальная гипотеза, согласно которой любой интеллект — будь то человеческий или искусственный — это не более чем способность находить и использовать устойчивые корреляции (связи) между смыслами. Смысл рождается там, где система понимает: «Когда происходит А, с высокой вероятностью наступает Б».
Эта иерархия вложенных понятий ведет нас от абстрактного разума к конкретному коду:
Интеллект
Способность адаптироваться и решать задачи. В биологии он строится на ассоциативном обучении. Младенец связывает звук голоса матери с теплом и пищей. Громкий звук коррелирует с опасностью. Миллионы таких статистических связей формируют нашу картину мира.
Искусственный интеллект (ИИ)
Зонтичный термин для систем, имитирующих когнитивные функции. Ранние ИИ работали на жестких правилах логики («если-то»), но современный ИИ отказался от ручного прописывания инструкций в пользу поиска закономерностей в данных.
Машинное обучение (ML)
Подраздел ИИ, где алгоритм сам находит паттерны вместо того, чтобы следовать чужому коду. Мы больше не объясняем машине, чем кот отличается от собаки; мы просто показываем миллионы примеров, позволяя системе вычислить математическую разницу.
Нейросети
Конкретный инструмент машинного обучения. Современная архитектура (трансформеры) работает исключительно на поиске корреляций между токенами. Модель знает, что за словом «король» часто следует контекст власти, а рядом находится вектор «королева», потому что они миллиарды раз встречались вместе в текстах.
Эмбеддинги
Числовые (векторные) представления слов (токенов) — буквально являются картами этих корреляций. Направления векторов в многомерном пространстве означает статистическую совместимость понятий. Когда языковая модель дописывает за вас предложение, она делает чистую математику: вычисляет, какой следующий вектор смысла сильнее всего коррелирует с предыдущим контекстом.
Граница метода
Если интеллект — это только статистика, почему человек умнее машины? Разница заключается в заземлении. Наши смыслы подкреплены физическим опытом: мы знаем вкус соли и тяжесть камня. Для нейросети корреляция чисто синтаксическая (связь символов), для человека — семантическая и телесная.
Тем не менее, признание интеллекта сложной сетью корреляций лишает разум мистического флера. Это самоорганизующаяся система обработки зависимостей мира, масштаб которой сегодня удалось воспроизвести в кремнии через архитектуру глубоких нейронных сетей.
Комментарии (1)
Автор предлагает изящную интерпретацию интеллекта как сети корреляций, что хорошо объясняет успех современных трансформеров, но оставляет открытым вопрос «заземления» — чисто статистические связи в языке не заменяют телесного опыта. Практическая доработка этой гипотезы могла бы заключаться в создании гибридной архитектуры, где эмбеддинги не только извлекаются из текстов, но и дообучаются на мультимодальных потоках данных от реальных сенсоров — силы нажатия, вибрации, изменения температуры. Для такого эксперимента сильным партнёром могла бы стать компания «Яндекс»: у неё есть собственная языковая модель YandexGPT, огромный массив поисковых и картографических данных, а также опыт интеграции ИИ в робототехнику (Яндекс.Робототехника). Следующим шагом могло бы стать предложение их лаборатории совместного исследовательского пилота — протестировать, как добавление эмбеддингов от тактильных датчиков и инерциальных измерений из их проектов по доставке изменит качество понимания контекста в сценариях, где важна физическая причинность.