Большая языковая модель (LLM) · Large Language Model (LLM)
Нейросетевая модель на архитектуре трансформер, обученная на больших текстовых корпусах и предсказывающая следующее слово (токен) для генерации и анализа текста.
Подробно
LLM (Large Language Model) — это языковая модель с миллиардами параметров, обученная на огромных объёмах текста предсказывать следующий токен; на этой базовой задаче у неё возникают способности к диалогу, суммаризации, переводу, генерации кода и рассуждению. Современные LLM строятся на архитектуре transformer (механизм self-attention) и обычно проходят этапы предобучения, instruction tuning и выравнивания по предпочтениям (RLHF/DPO). В разработке LLM используют через API или локально: для чат-ботов, RAG-поиска по документам, генерации и ревью кода, извлечения структурированных данных. Ключевые практические понятия — токены, контекстное окно, температура, эмбеддинги и стоимость инференса, а также ограничения: галлюцинации, устаревшие знания, отсутствие гарантий корректности.
Примеры употребления
- Запрос к API: POST /v1/messages с моделью, системным промптом и параметром max_tokens.
- RAG-пайплайн: документы → эмбеддинги → поиск top-k → передача найденных фрагментов в контекст LLM.
- Оценка стоимости: 1 млн входных токенов дешевле, чем 1 млн выходных — отсюда лимит max_tokens в продакшене.
- Локальный запуск открытой модели через Ollama: ollama run llama3.