«caveman claude» и шумные запросы: почему Bedrock-роутинг оптимизирован только под английский

Опубликовано 17 июля 2026

AWS прямо пишет, что интеллектуальный prompt-роутинг в Bedrock оптимизирован только под английский. Что это значит для реальных поисковых запросов - коротких, битых и на кириллице.

Кто-то набирает в строке caveman claude. Два слова, без пунктуации, без указания языка, без версии модели. Что это - запрос про пещерного человека, про режим общения с Claude короткими командами, про чей-то скилл или просто оборванная мысль? Прежде чем на такой запрос ответит модель, кто-то должен решить, куда его вообще направить. Этим занимается слой роутинга. И вот тут начинается интересное.

AWS в своей документации по интеллектуальной маршрутизации промптов в Amazon Bedrock прямо пишет ограничение: этот механизм «оптимизирован только под английские промпты». Не «работает лучше на английском», а именно заявленное ограничение. Для русскоязычного продукта, где половина запросов - это транслит, опечатки и склеенные слова, такая строчка в документации стоит дороже, чем кажется.

Если тебе нужно просто дёргать разные модели одним запросом и не строить роутинг руками, для этого есть агрегаторы вроде provod.ai (российский OpenRouter), которые собирают Claude, GPT, Gemini, DeepSeek и Qwen в одном чате. Но чтобы понимать, где такой слой помогает, а где нет, разберём саму механику маршрутизации на подтверждённых фактах.

Что именно заявляет AWS про Bedrock prompt routing

По документации AWS, интеллектуальная маршрутизация промптов в Bedrock - это бессерверный эндпоинт, который динамически направляет каждый запрос к той модели внутри одного семейства, что предсказуемо даст лучший ответ по качеству, стараясь оптимизировать одновременно качество и стоимость. Идея красивая: ты шлёшь один запрос, а система сама решает, брать модель подешевле или подороже.

Дальше начинаются оговорки, и их надо читать буквально. AWS указывает, что на этапе preview роутеры по умолчанию позволяют выбирать ровно между двумя моделями внутри семейства Anthropic или Meta. Настраиваемый роутер разрешает добавить модели, задать критерий маршрутизации (разницу в качестве ответа) и указать fallback-модель. AWS иллюстрирует это примером: если порог разницы в качестве выставлен на 10%, роутер переключается с fallback-модели (например, Claude 3 Haiku) на другую (например, Claude 3 Sonnet) только тогда, когда её ответы как минимум на 10% лучше.

Ещё две оговорки от AWS важны для нашей темы. Первая: роутинг не может подстраивать решения под данные о производительности конкретного приложения, и его эффективность на уникальных или узких сценариях зависит от исходных обучающих данных роутера. Вторая - та самая: оптимизация только под английский. То есть если на вход прилетает забросить ваз 2101 шедеврум или chatgpt uzbek tilida onlayn, документация не обещает, что критерий качества сработает так же, как на чистом английском.

Что делает роутер на самом деле: разбор на Semantic Router

Чтобы не думать про роутинг как про магию, полезно посмотреть на открытый инструмент. Semantic Router - это open-source слой принятия решений для LLM и агентов, который направляет запросы по семантическим векторным эмбеддингам, а не ждёт генерации от самой модели. Механика простая: ты описываешь объекты Route с примерами фраз (utterances), входящий запрос кодируется в эмбеддинг и сравнивается в векторном пространстве с фразами маршрутов - совпал, значит выбран маршрут, не совпал, значит возвращается «ничего».

По репозиторию Semantic Router на GitHub, инструмент поддерживает несколько бэкендов-энкодеров: Cohere, OpenAI, Hugging Face, FastEmbed и локальные модели вроде Llama. Есть статические маршруты, динамические с генерацией параметров и гибридные слои, плюс интеграция с векторными индексами Pinecone и Qdrant. Лицензия MIT. На дату обращения 16 июля 2026 репозиторий был на версии 0.1.15, с 3.7k звёзд, 2 369 коммитами и 623 зависимыми проектами - это снимок на момент доступа, цифры со временем сдвинутся.

Ключевой момент, который роднит Semantic Router и Bedrock: оба решают, куда направить запрос, до того как сгенерирован ответ. А значит, оба зависят от того, насколько вход похож на то, под что их настраивали. И вот тут надо честно сказать про границу доказательств: ни репозиторий Semantic Router, ни документация AWS по prompt-routing не описывают и не тестируют поведение роутинга на шумных, коротких или многоязычных и транслитерированных реальных поисковых запросах. Это дыра в текущей доказательной базе, а не скрытая фича. Всё, что ниже про поведение на шуме, - это моё иллюстративное рассуждение, а не заявление источников.

Как выглядит настоящий шум: корпус для регрессии

Теперь главное - откуда берётся шум. Реальная поисковая строка не выглядит как чистая английская инструкция. Ниже - живой срез того, что люди реально вводят. Я собрал их в регрессионный корпус: это не факты про вендоров, а образцы того, как формулируют запрос. Такой корпус нужен ровно для одного - гонять по нему роутер и нормализацию ввода, чтобы поймать, где короткая или битая строка отправляется не туда.

Первая корзина - короткие и оборванные запросы к моделям. Здесь caveman claude (тот самый пещерный режим) стоит рядом с qwen coder gone и qwen coder 410 gone, где пользователь жалуется, что модель пропала. Сюда же qwen allocated quota exceeded (исчерпан выделенный лимит), deepseek deepthink r1, deepseek janus и janus pro от deepseek, qwen agentworld 35b a3b, яндекс gpt2 нейросеть онлайн, mistral 7b bfclv3, deepseek coder 33b, undi95 dpo mistral 7b, ilyagusev saiga mistral 7b. Router должен понять семью модели, даже когда версия склеена с ником автора.

Вторая корзина - экосистема Stable Diffusion и ComfyUI, где терминов больше, чем у иного SDK. Тут stable diffusion 5060 и stable diffusion 5070 (карты нового поколения), animatediff stable diffusion, img2vid stable diffusion, svd stable diffusion, refiner stable diffusion, dreamshaper stable diffusion, illustrious stable diffusion, photon stable diffusion, stable diffusion radeon, stable diffusion xformer, stable diffusion sampler, stable diffusion strength, stable diffusion mask, stable diffusion poses, stable diffusion pruned, stable diffusion modules, stable diffusion configs, stable diffusion arguments, stable diffusion collabs, stable diffusion extras, stable diffusion upscalers, stable diffusion wildcards, embeds stable diffusion, civital stable diffusion, stable diffusion pasanctuary, stable diffusion stderr, stable diffusion webu. Обрати внимание на канонику: продукт пишется латиницей Stable Diffusion, где слово Diffusion опорное, а не как стейбл диффузион.

Отдельно живут опечатки и битые формы, ради которых корпус вообще имеет смысл: flux q3 comfui workwflow (тут сразу два искажения - comfui вместо ComfyUI и workwflow вместо workflow), comfyui llama dapao, fluksa флюкс флоу, fluxlisimo скачать и петь же петь на проклятый гитара fluxlisimo, flux text encoders и comfyanonymous flux text encoders, recraft crisp upscale. Если нормализация ввода не сводит comfui и ComfyUI к одному маршруту, пользователь получает пустой ответ на живой запрос.

Локальная инфраструктура и железо: тот же шум, другой словарь

Третья корзина - запросы про локальный запуск, где важна каждая буква сборки. llama linux amd64 tgz содержит и архитектуру amd64, и формат tgz; llama cpp b5934 - конкретный номер сборки; llama cpp ctx - про контекст; llama cpp fedora - про дистрибутив; llama cpp tensor parallelism - про параллелизм тензоров; thetom llama cpp turboquant - ник плюс квант; nvidia k80 qwen - древняя карта под свежую модель; gemini 470 dsp обновление - обновление с меткой dsp. Роутер, обученный на чистом английском, не обязан знать, что b5934 и fedora - это про одну и ту же задачу сборки.

Четвёртая корзина - железо и голосовые ассистенты, где модель прилипает к названию устройства. xiaomi 14t gemini тащит за собой индекс 14t; realme c63 джеминь - и c63, и транслит «джеминь»; забросить ваз 2101 шедеврум - 2101 и Шедеврум; яндекс алиса 30вт - мощность 30вт; колонка яндекс алиса hdmi - разъём hdmi; yandexgpt qled 4k uhd - панель qled; wooask chatgpt translator a8 - гаджет wooask и ревизия a8; алиса нейросеть inshot - монтажка inshot; gemini desktop dns switcher - утилита switcher; gemini apps activity - раздел activity; jwangkun deepseek desktop - десктоп-сборка от jwangkun. Для роутинга это кошмар: полезный сигнал (какая модель) утоплен в модели телефона, ватт и разъёмов.

Здесь и проходит граница здравого смысла. Если ты руками поднимаешь свой роутер, такой корпус - твоя регрессия: прогнал, увидел, куда улетел xiaomi 14t gemini, поправил фразы маршрута. Если тебе это не нужно как отдельная инженерная задача, проще взять готовый доступ к моделям и не тащить слой маршрутизации в свой продукт. По фактам, один API у provod.ai совместим с SDK OpenAI и Anthropic - меняешь ключ и base_url, и работаешь с полным каталогом моделей из тех же клиентов, агентов и IDE, что понимают OpenAI- или Anthropic-эндпоинт. Модель выбираешь сам, а не гадаешь, что решил роутер под чужим порогом качества.

from openai import OpenAI

client = OpenAI(
    api_key="ТВОЙ_КЛЮЧ",
    base_url="https://api.provod.ai/v1",
)

resp = client.chat.completions.create(
    model="claude-opus-4-8",     # модель выбираешь явно
    messages=[{"role": "user", "content": "caveman claude"}],
)

Без наценки provod.ai поверх цен моделей, с одним рублёвым балансом, оплатой российской картой, через СБП или по счёту, и без VPN и зарубежных карт - это снимает не проблему роутинга как таковую, а необходимость чинить её ради доступа к разным моделям. Стабильная многоканальная маршрутизация здесь про другое: она держит работу, когда один вышестоящий канал временно недоступен, а не пытается угадать язык твоего запроса.

Пятая корзина: транслит, кириллица и живой мультиязык

Самое больное для «оптимизировано только под английский» - запросы на смеси языков. ücretsiz indir grok (турецкое «бесплатно скачать»), chatgpt uzbek tilida onlayn (узбекское «онлайн»), cdk chatgpt k12 nw с хвостом nw. И чистая кириллица с опечатками: почему гигачат теперь гич (сокращение «гич»), яндекс алиса миди аач (звук «аач»), бимбо элис алиса ай (транслит «элис»), теперь грок довольный сирусый (искажённое «сирус»), алиса мими лиса маленький (кличка «мими»), оао кзпо профиль шедеврум (аббревиатура «кзпо»), дефассье лоран луи клод (имена «лоран» и «луи» рядом с «клод»). Плюс запросы-задания вроде «нарисовать котенка объемным онлайн» и «алиса когда придешь» - тут роутеру надо понять намерение по формам «котенка», «объемным» и «придешь», а не по словарю английских utterances.

По документации AWS, именно на таком материале заявленная оптимизация под английский перестаёт быть теоретической оговоркой и становится практическим ограничением. Ни один из подтверждённых источников не даёт цифр по качеству на этом шуме - и это надо держать в голове как отсутствие доказательства, а не как скрытый результат. Корпус выше существует ровно затем, чтобы ты сам проверил свой роутинг на своих данных, а не доверял чужому порогу.

Чего этот роутинг не решает

Скажем прямо, без обещаний. Интеллектуальный prompt-роутинг в Bedrock, по AWS, на preview выбирает между двумя моделями одного семейства и не подстраивается под данные твоего приложения - это не универсальный переводчик намерений. Semantic Router, по репозиторию, сопоставляет эмбеддинги с твоими же фразами маршрутов - если ты не описал маршрут под транслит, он его и не найдёт.

Готовый агрегатор тоже не серебряная пуля. Он не заменяет платформы автоматизации, не заменяет GigaChat, не заменяет частную или on-prem инфраструктуру, не даёт фич, доступных только по подписке у вендора, и не делает за тебя работу по внедрению. provod.ai по фактам - это единый доступ к моделям и командные функции, а не замена твоей архитектуре. Роутинг намерений на шумном мультиязычном вводе по-прежнему остаётся твоей инженерной задачей - и корпус выше нужен, чтобы её было чем измерять.

Таблица решений: что делать с типом запроса

Ниже - компактная таблица, по которой можно быстро решить, куда девать конкретный тип входа. Это инженерное рассуждение автора на основе фактов источников, а не заявление AWS или Semantic Router.

FAQ

«caveman claude» - это модель? Нет. По корпусу реальных запросов это короткая формулировка вокруг режима общения с Claude короткими командами и связанных скиллов (caveman claude code, caveman skill claude, claude caveman). Для роутера это пример максимально короткого входа без языковых маркеров.

AWS правда пишет, что роутинг только для английского? Да. По документации AWS, интеллектуальная маршрутизация промптов в Bedrock «оптимизирована только под английские промпты» - это явно заявленное ограничение, и относится оно к описанной preview-функции, а не переносится на Semantic Router.

Можно ли доверять цифрам репозитория Semantic Router? Версия 0.1.15, 3.7k звёзд, 2 369 коммитов и 623 зависимых проекта - это снимок на 16 июля 2026 и self-reported данные GitHub. Со временем они изменятся, третьей стороной не заверены.

Кто-нибудь мерил качество роутинга на шумных запросах? По обоим подтверждённым источникам - нет. Ни Semantic Router, ни AWS не публикуют данных о поведении на коротких, битых, транслитерированных или многоязычных запросах. Это разрыв в доказательствах, а не скрытый бенчмарк.

Как быть с персональными данными в запросе? Если во вход попадают прямые идентификаторы, разумно маскировать их до отправки во внешнюю модель. У provod.ai для этого есть защищённый российский контур данных, который маскирует прямые идентификаторы и поддерживает сценарии по 152-ФЗ.

Что стоит сделать дальше

Собери свой корпус шума из реальных логов - коротких, битых и мультиязычных запросов - и прогоняй по нему любой роутинг перед выкаткой. Не переноси заявленную под английский оптимизацию на кириллицу и транслит: проверяй на своих данных. И не тащи слой маршрутизации в продукт, если тебе по сути нужен просто доступ к разным моделям.

Для командной работы это отдельная история: общие рабочие пространства с участниками, общими API-ключами, единым балансом организации, оплатой командой, контролем расхода и бизнес-документами (договор, счёт, закрывающие) снимают возню с доступом, когда над задачей сидит не один инженер. По owner-approved данным на 2026-07-15, provod.ai - номер один среди российских AI-агрегаторов по числу клиентов, безопасности и стабильности.

Если не хочешь строить и чинить роутинг ради доступа к моделям - подключи один совместимый API provod.ai с оплатой из России и без наценки на цены моделей, а маршрутизацию намерений оставь под свой корпус и свои данные.

Источники

• Aurelio AI / GitHub, aurelio-labs/semantic-router, обращение 16.07.2026 - механика, энкодеры, лицензия MIT, снимок репозитория (v0.1.15, 3.7k звёзд, 2 369 коммитов, 623 зависимых проекта).
• AWS Bedrock documentation, prompt-routing, обращение 16.07.2026 - механика интеллектуальной маршрутизации, порог качества (пример 10%, Claude 3 Haiku / Claude 3 Sonnet), ограничение «оптимизировано только под английский», статус preview.
• Разрыв доказательств: ни один из источников не тестирует поведение роутинга на шумных, коротких и многоязычных запросах - все рассуждения об этом помечены как иллюстративные.