LLM · Large Language Model
Большая языковая модель — нейросеть на трансформерах, обученная на огромных текстовых корпусах для генерации и понимания текста.
Подробно
LLM (Large Language Model) — класс нейросетевых моделей на архитектуре трансформер, обученных на текстах большого объёма сначала предсказанию следующего токена, а затем выравненных по инструкциям (instruction tuning, RLHF/DPO). Они умеют вести диалог, суммировать, переводить текст, писать и объяснять код, извлекать структурированные данные. В разработке LLM применяются через API (OpenAI, Anthropic, Google) или локально (Ollama, vLLM); типовые сценарии — ассистенты, RAG-поиск по документам, генерация и ревью кода, классификация обращений. Ключевые ограничения — галлюцинации, контекстное окно, стоимость инференса и задержки, что требует оценки качества на собственных наборах данных.
Примеры употребления
- curl https://api.openai.com/v1/chat/completions -H "Authorization: Bearer $KEY" -d '{"model":"gpt-4o","messages":[{"role":"user","content":"Суммаризируй текст"}]}'
- RAG-пайплайн: чанки документов → эмбеддинги → векторный поиск → промпт с контекстом в LLM
- Локальный запуск модели: ollama run llama3
- Оценка качества модели на eval-наборе: точность ответов и доля галлюцинаций