LLM (большая языковая модель) · Large Language Model
Нейросеть на архитектуре трансформер, обученная на больших текстовых корпусах предсказывать следующий токен и потому способная генерировать связный текст, код и ответы на вопросы.
Подробно
LLM (Large Language Model, большая языковая модель) — это модель машинного обучения с миллиардами параметров, обычно построенная на архитектуре трансформера с механизмом self-attention. Она обучается в два этапа: предобучение на предсказание следующего токена по огромным корпусам текста, затем выравнивание (instruction tuning, RLHF/DPO) под диалоговые и прикладные задачи. LLM применяется для генерации и суммаризации текста, написания и объяснения кода, перевода, извлечения структурированных данных, работы ассистентов и RAG-систем. На практике модель используют через облачный API (OpenAI, Anthropic, Google) либо запускают локально через llama.cpp, Ollama или vLLM, а её качество на задаче повышают промпт-инжинирингом, few-shot-примерами и fine-tuning'ом. Ключевые ограничения — галлюцинации, ограниченное контекстное окно, стоимость инференса и недетерминированность ответов.
Примеры употребления
- response = client.chat.completions.create(model="gpt-4o", messages=[{"role": "user", "content": "Суммаризируй этот тикет"}])
- ollama run llama3.1 — запуск локальной LLM одной командой
- Контекстное окно этой LLM — 128k токенов, поэтому длинные PDF придётся чанкить
- Мы вынесли вызовы LLM в отдельный сервис, чтобы кэшировать ответы и считать токены