Коротко
LLM — это модель, обученная предсказывать следующее слово в тексте на огромном массиве данных. Из этого простого механизма выросло умение писать письма, объяснять код, вести диалог и обобщать документы. Никакого понимания происходящего внутри нет — есть статистика, подкреплённая миллиардами примеров.
Для бизнеса это означает конкретную вещь: LLM — не оракул и не база данных. Это генератор правдоподобного текста, который иногда прав, а иногда уверенно ошибается. Разница между полезным внедрением и провалом почти всегда не в модели, а в том, как её обвязали данными, регламентами и проверкой человеком.
Как это работает, без формул
Модель училась на текстах — статьях, книгах, коде, форумах. В процессе она не запоминала факты как энциклопедия. Она усваивала закономерности: какое слово обычно идёт после какого, как строится аргумент, как выглядит вежливый отказ, как форматируется акт сверки. Когда вы отправляете запрос, модель разбивает его на токены — куски слова или слова целиком — и генерирует ответ токен за токеном, каждый раз выбирая наиболее вероятное продолжение с учётом всего, что было сказано раньше.
Отсюда два практических следствия. Первое: модель не «смотрит в интернет» и не «знает сегодняшний курс тенге», если её отдельно не подключили к внешним данным. Второе: чем длиннее и запутаннее диалог, тем выше шанс, что модель потеряет нить или начнёт домысливать.
Контекст, токены и почему это не абстракция
Контекстное окно — это объём текста, который модель видит одновременно: системный промпт, история переписки, загруженные документы, вопрос пользователя. Всё считается в токенах, и токен — это примерно 3-4 символа для русского текста (для английского чуть больше на слово). У современных моделей окно от 100 тысяч до миллиона токенов, это уже сотни страниц. Звучит много, но на практике окно заполняется быстрее, чем кажется: длинный чат с менеджером, три приложенных PDF и таблица с остатками легко съедают половину лимита.
Для бизнеса это значит: если вы грузите в модель весь архив переписки с клиентом за два года и ждёте точного ответа про один пункт из письма 2024 года — модель может его не заметить, даже если технически он «в окне». Чем длиннее контекст, тем важнее его структурировать, а не просто вываливать всё подряд.
Файнтюнинг простыми словами
Файнтюнинг — это дообучение готовой модели на ваших примерах: как ваша компания отвечает клиентам, какой у вас формат актов, какая терминология в отрасли. Это не то же самое, что «загрузить документы». Файнтюнинг меняет саму модель, требует размеченного датасета и инфраструктуры, и обычно нужен, только если вам нужен устойчивый стиль или узкий формат ответа на большом потоке запросов.
В девяти случаях из десяти бизнесу файнтюнинг не нужен на старте. Нужнее RAG — когда модель на каждый запрос подтягивает актуальные документы компании и отвечает по ним, а не по тому, что запомнила при обучении. Мы разбирали это подробно в статье о том, как работает RAG и почему одних векторных embeddings недостаточно. Файнтюнинг решает задачу стиля и формата, RAG решает задачу актуальных фактов. Часто нужны оба, но начинать почти всегда стоит с RAG — он дешевле, быстрее и его проще откатить, если не сработало.
Откуда берутся галлюцинации
Галлюцинация — это когда модель выдаёт неверный факт с той же уверенностью, что и верный. Она не «врёт» и не «извиняется потом» — она статистически достраивает наиболее вероятное продолжение, и иногда самое вероятное продолжение фактически неверно. Классический публичный случай — чат-бот Air Canada придумал политику возврата денег в случае тяжёлой утраты, которой не существовало, и канадский суд обязал компанию эту выдумку соблюдать.
Для компании это не теоретический риск. Модель может уверенно назвать несуществующий пункт договора, придумать номер накладной, который никогда не выпускался, или сослаться на регламент, которого нет в базе. Снижают галлюцинации три вещи: подключение модели к проверенным источникам вместо надежды на «память» (тот самый RAG), чёткие инструкции отвечать «не знаю» вместо угадывания, и человек в контуре там, где цена ошибки высокая — деньги, договорные обязательства, медицинские или юридические советы.
Что LLM умеет хорошо
Обобщать длинный текст в короткую выжимку. Искать ответ по загруженным документам, если база актуальна и структурирована. Переписывать текст под нужный тон — деловой, разговорный, для аудитории без техфона. Классифицировать обращения: жалоба, вопрос по оплате, техническая проблема. Черновики писем, описаний, скриптов для колл-центра. Разбор кода и объяснение логики. Работа с несколькими языками одновременно — для казахстанского бизнеса это отдельный плюс: модель нормально держит смешанные сообщения на русском, казахском и шала-казахском.
Что LLM делает плохо или не должно делать
Точные вычисления без инструмента — калькулятор надёжнее модели для сложной арифметики. Финальные решения с юридическими или медицинскими последствиями. Работу с актуальными фактами без подключения к источнику — модель не знает, что случилось на этой неделе, если её не подключили к поиску или базе. Роль единственной проверки перед тем, как деньги уйдут со счёта или договор уйдёт клиенту на подпись. И, что менее очевидно: LLM плохо признаёт «я не уверен» без специальной настройки — по умолчанию она склонна отвечать уверенно даже там, где стоило бы остановиться.
Где это применимо в компании
Первая линия поддержки клиентов в WhatsApp и Telegram, где модель отвечает на типовые вопросы и передаёт сложные случаи человеку. Внутренний ассистент по регламентам и должностным инструкциям — вместо того чтобы сотрудник искал ответ в закрытой папке на сервере. Обработка входящих документов: счета, акты, заявки — модель вытаскивает данные, но финальную проверку делает бухгалтер. Черновики коммерческих предложений и писем для отдела продаж. Аналитика обращений — что чаще всего спрашивают клиенты за месяц, какие жалобы повторяются.
Тестировать эти сценарии до продакшена стоит через отдельный набор проверочных примеров, а не полагаться на то, что «модель умная, разберётся». Про это подробно писали в статье зачем AI-проекту evals.
Топ поисковой выдачи по LLM в Казахстане — и почему это не помогает
Если погуглить «что такое LLM» из Казахстана, в топе окажутся страницы SAP, AWS и Wikipedia — качественные, но написанные для глобального читателя без привязки к местным реалиям. Там не будет ответа на вопрос, как модель справится со смешанным русско-казахским сообщением от клиента, как подключить её к 1С или к базе на Kaspi, кто в компании должен проверять её ответы перед тем, как они уйдут клиенту. Общий текст объясняет, что такое LLM. Он не объясняет, что делать с этим знанием в конкретной компании с конкретными процессами. Здесь и начинается разница между теорией и внедрением.
Как запустить первый пилот с LLM
Возьмите один узкий процесс — не «автоматизируем всю поддержку», а «отвечаем на вопросы про статус заказа в Kaspi Chat». Соберите 50-100 реальных обращений и посмотрите, какую долю модель закрывает без ошибок. Подключите её к актуальному источнику данных, а не к общим знаниям. Оставьте человека в контуре на первые недели — не для видимости, а чтобы реально ловить ошибки. Замерьте долю случаев, где модель ответила верно, долю эскалаций к человеку и время ответа. Через месяц у вас будут цифры, а не ощущения, и на этих цифрах можно решать, расширять пилот или нет.
FAQ
LLM и ChatGPT — это одно и то же?
Нет. ChatGPT — это продукт с интерфейсом от OpenAI, построенный поверх LLM (сейчас на моделях линейки GPT). LLM — это класс технологии; конкретных моделей десятки, от GPT и Claude до открытых Llama и Qwen.
Можно ли доверять ответам LLM без проверки?
Для низкорисковых задач — черновик письма, пересказ статьи — да, с быстрым просмотром. Для решений, где ошибка стоит денег или репутации, нужна проверка человеком или подключение к проверенным данным через RAG.
Нужна ли компании своя LLM или хватит готовой модели?
В большинстве случаев хватает готовой модели (GPT, Claude, Gemini) через API, обвязанной вашими данными. Своя модель с нуля — дорогая история, которая редко оправдана для типового бизнеса.
Сколько стоит внедрить LLM в компании?
Диапазон сильно зависит от сложности сценария — от простого ассистента по документам до агента с интеграциями в 1С и CRM. Ориентиры и порядок цифр разбирали в статье сколько стоит внедрение ИИ в Казахстане.
Если нужен разбор конкретно под ваши процессы — с чего начать, что подключать первым и как измерить результат, — можно обсудить на корпоративном AI-обучении или сразу перейти к интеграции GPT в существующие системы.