Эмбеддинг
Числовое представление текста, изображения или другого объекта в виде вектора, где смысловая близость объектов отражается в близости их векторов. Используется для поиска похожих документов и лежит в основе RAG и векторных баз данных.
Смотрите также
Контекстное окно
Максимальный объём текста (измеряется в токенах), который модель может «видеть» одновременно — включая сам запрос, историю диалога и вложенные файлы. Чем больше окно, тем длиннее документы модель может обрабатывать за раз.
Токен (в ИИ)
Минимальная единица текста, с которой работает языковая модель — обычно часть слова, целое слово или знак препинания. Стоимость использования большинства ИИ-моделей рассчитывается именно за количество токенов на входе и выходе.
Инференс
Процесс использования уже обученной модели для получения ответа на новый запрос — в отличие от обучения (training), когда модель настраивает свои параметры. Именно инференс происходит каждый раз, когда вы отправляете сообщение чат-боту.
ИИ-агент
Система на основе LLM, которая может не только отвечать на вопросы, но и самостоятельно планировать шаги, вызывать внешние инструменты (поиск, код, API) и выполнять многошаговые задачи для достижения цели с минимальным участием человека.
Мультимодальный ИИ
Модель, способная одновременно понимать и/или генерировать разные типы данных — текст, изображения, аудио и видео — а не только текст. Например, может проанализировать фото и ответить на вопрос о нём текстом.
RLHF (обучение с подкреплением на основе обратной связи людей)
Метод дообучения модели, при котором люди оценивают качество её ответов, а модель корректируется так, чтобы чаще выдавать ответы, которые люди оценивают выше. Ключевой этап в том, чтобы сделать ИИ-модель полезной и безопасной, а не только технически рабочей.