Kimi K3: анализ больших документов с контекстом 1M

# 1. Почему контекст 1M токенов меняет правила игры

До Kimi K3 работа с большими документами выглядела как бесконечный цикл «загрузи кусок → получи ответ → загрузи следующий». Контекстное окно в 1 000 000 токенов устраняет этот bottleneck.

Один токен ≈ 0.75 английского слова или 1.5 символа кириллицы. Миллион токенов — это ~750 000 слов или 1 500 страниц текста. «Война и мир» — 580 000 слов. Гражданский кодекс РФ — ~200 000 слов. Кодовая база среднего микросервиса — 50-150K строк (300K-900K токенов).

# 2. Начало работы: API и веб-интерфейс

Kimi K3 доступна через веб-интерфейс kimi.moonshot.cn и REST API. Бесплатный tier: 50 запросов/день, контекст до 128K. Pro ($20/мес): 500 запросов/день, контекст 1M.

API-запрос на Python:

import requests

API_KEY = "sk-your-key"
headers = {"Authorization": f"Bearer {API_KEY}"}

with open("codebase.txt") as f:
    full_codebase = f.read()  # 300K строк, ~800K токенов

payload = {
    "model": "kimi-k3",
    "messages": [{
        "role": "system",
        "content": "Ты senior инженер. Найди все нарушения SOLID."
    }, {
        "role": "user",
        "content": full_codebase
    }],
    "max_tokens": 16000,
    "temperature": 0.3
}

resp = requests.post(
    "https://api.moonshot.cn/v1/chat/completions",
    headers=headers, json=payload
)
print(resp.json()["choices"][0]["message"]["content"])

⚠️ Для контекстов >128K нужен Pro-аккаунт. Бесплатный tier молча обрежет до 128K.

# 3. Стратегии промптинга для сверхдлинного контекста

На длинном контексте модель может «потерять» инструкцию. Правило трёх инструкций: дублируйте ключевые указания в НАЧАЛЕ и КОНЦЕ промпта:

## ИНСТРУКЦИЯ
Ты анализируешь юрдокумент. Найди:
1. Противоречия между разделами
2. Неоднозначные пункты
3. Таблицу рисков

## ДОКУМЕНТ
{300 страниц текста}

## НАПОМИНАНИЕ
Повторяю: 1) Противоречия 2) Неоднозначные пункты 3) Таблица рисков
Формат: строго JSON.

Структурирование вывода: всегда требуйте JSON, Markdown-таблицы или нумерованные списки. На 1M контексте модель может сгенерировать огромный ответ — структура снижает галлюцинации и улучшает читаемость.

# 4. Мультимодальный анализ: PDF, аудио, видео

Kimi K3 принимает PDF (до 100MB), аудио (MP3/WAV до 4ч), видео (MP4 до 2ч) и изображения. Модель автоматически делает OCR и транскрибирует аудио.

# Загрузка PDF через API
file_resp = requests.post(
    "https://api.moonshot.cn/v1/files",
    headers=headers,
    files={"file": open("report.pdf", "rb")}
)
file_id = file_resp.json()["id"]

payload = {
    "model": "kimi-k3",
    "messages": [{"role": "user", "content": [
        {"type": "text", "text": "Найди аномалии в Q3"},
        {"type": "file", "file_id": file_id}
    ]}]
}

# 5. Ограничения и обходы

# 6. Реальный кейс: миграция монолита на микросервисы

Задача: монолит 180K строк Python (Django) → 12 микросервисов.

## ЗАДАЧА
Ты архитектор. Проанализируй кодовую базу и построй план миграции.

## КОДОВАЯ БАЗА
{180K строк Django — загружены полностью}

## ОЖИДАЕМЫЙ РЕЗУЛЬТАТ
1. Bounded Contexts (доменные границы) на основе импортов
2. Service Design — таблица на 12 микросервисов:
   - Модели/views, внешние зависимости, стек (БД/кэш/очередь)
3. Migration Sequence: порядок выделения сервисов
4. Risk Matrix: стратегия, риски, откат для каждого шага

Формат: Markdown-документ.

Модель загружает весь монолит (~900K токенов) и за 4-6 минут генерирует план миграции — работа, которая вручную заняла бы 2-3 недели.