🤖🔮👨🦰 Что чат-боты знают о вас? Ещё недавно они воспринимали каждый диалог как первый, а сейчас нейросети могут за доли секунды найти релевантную информацию в прошлых диалогах.Недавно такая функция появилась и в Алисе, а работает она на базе векторного поиска в YDB, который сегодня стал доступен для компаний. Рассказываем, как это устроено.Как устроена память нейросетей?У нейросетей, как и у человеческого мозга, есть:🔸долгосрочная память — всё, что модель освоила во время своего обучения (эти данные остаются неизменными на этапе разработки).🔸краткосрочная память, или контекст — информация, которую нейросеть «держит в голове» прямо сейчас для выполнения текущей задачи.В первое время сервисы вроде ChatGPT не знали о пользователе ничего за пределами текущего диалога. В прошлом году некоторые чат-боты стали получать функцию, которая сохраняет отдельные факты о пользователе, например имя питомца или любимый жанр кино, чтобы по мере необходимости использовать эти данные в беседе.С тех пор что-то изменилось? В чат-ботах начали использовать технологию на базе векторного поиска. В ChatGPT её добавили к уже имеющейся, а в Алисе сразу внедрили более продвинутую версию. Вот как это устроено:🔸Специальная нейросеть превращает каждый диалог в вектор — эмбеддинг. Это сжатое представление диалога, сохраняющее его смысл. Главное свойство таких векторов — их можно сравнивать между собой. Например, у двух диалогов про собак будут похожие векторы, а у диалога на другую тему он будет сильно отличаться.🔸 При новом запросе Алиса в реальном времени делает векторный поиск по своей базе, чтобы найти подходящие фрагменты прошлых диалогов. Функция имеет доступ к тем диалогам, которые произошли начиная с момента её активации.🔸 С помощью другой языковой модели релевантные фрагменты группируются в темы. Например, семья, домашние животные, работа, учёба.🔸 Алиса использует факты о пользователе в ответе, чтобы беседа была более персонализированной. Например, если сказать Алисе, что вы идёте покупать корм для собаки, она может ответить: «Конечно! Для Коржика».Если Алиса использует о вас неверный или неактуальный факт, можно попросить её удалить этот факт или уточнить его (работает только с колонкой). Функция уже доступна в чате с Алисой для залогиненных пользователей Про (кроме режима рассуждения).⭐️ Если у вас оформлен Telegram Premium, поддержите наш канал по ссылкеПодписывайтесь 👉 @techno_yandex
Оставить комментарий/отзыв