• Зачем нужен FreeLLMAPI
• Поддерживаемые провайдеры
• Совместимые CLI и программирующие агенты
• Сравнение с альтернативами
• Возможности
• Быстрый запуск
• Приложение для компьютера
• OpenAI-совместимые клиенты
• Языки интерфейса
• Premium и оперативный каталог
• Использование API
• Скриншоты
• Принцип работы
• Частые вопросы
• Ограничения
• Как помочь проекту
• Отказ от гарантий

Руководства: Установка и развёртывание · Справочник API · Клиенты и агенты · Сжатие промптов · Архитектура · Указатель документации · Руководство для участников

Крупные разработчики ИИ предлагают бесплатные тарифы: иногда это миллионы токенов в месяц и тысячи запросов в день. У каждого отдельно квота невелика, но в совокупности получается около 7,4 миллиарда токенов в месяц для 474 семейств моделей и 635 эндпоинтов провайдеров, от небольших быстрых моделей до более мощных.

Управлять таким количеством сервисов вручную неудобно: 34 SDK, 34 набора ограничений и столько же потенциальных точек отказа. FreeLLMAPI объединяет всё в одном OpenAI-совместимом API. Достаточно направить клиентскую библиотеку OpenAI на локальный сервер, и запросы будут распределяться между провайдерами, для которых вы добавили ключи.

Бесплатные тарифы постоянно меняются: модели появляются и исчезают, ограничения корректируются. FreeLLMAPI автоматически загружает подписанный каталог с freellmapi.co, поэтому данные обновляются без git pull. О различиях в скорости обновления рассказывается в разделе Premium и оперативный каталог.

Google	Groq	Cerebras	OpenCode Zen
Mistral	OpenRouter	Cloudflare	Cohere
Z.ai (Zhipu)	NVIDIA	HuggingFace
ModelScope Qwen3 · DeepSeek V4 · GLM-5 (требуется привязка Aliyun CN)

… и ещё 22 бесплатных провайдера

Дополнительно можно подключить собственного провайдера: указать на странице Keys любой OpenAI-совместимый эндпоинт для чата, эмбеддингов, изображений или аудио, включая llama.cpp, LM Studio, vLLM, локальный Ollama или внешний шлюз.

Полный актуальный список моделей с ограничениями скорости, размерами контекста и бюджетами бесплатных токенов находится на freellmapi.co/models.

Claude Code	Codex CLI	Gemini CLI	Cursor
Cline	Roo Code	OpenCode	Aider

… а также Continue, Goose, Qwen Code, Kilo Code, Crush, Zed, JetBrains AI, DeepSeek Harness, MiMo Code, AtomCode, OpenClaw, Hermes Agent, Pi, Reasonix и любые OpenAI-, Anthropic-, Gemini- или Ollama-совместимые клиенты

Большинство агентов можно настроить одной командой. Она читает актуальный каталог, сохраняет резервную копию текущих настроек и объединяет их с новыми:

npx freellmapi setup-claude --url http://localhost:3001 --api-key <unified-key>

Все поддерживаемые агенты и команды настройки → · Инструкции для инструментов, MCP-сервер и URL-токены →

Сравнение основано на открытой документации по состоянию на июль 2026 года. Исправления приветствуются.

• Все основные эндпоинты OpenAI: /v1/chat/completions, /v1/responses (используется Codex CLI), /v1/completions (автодополнение кода), /v1/images/generations, /v1/videos/generations, /v1/audio/speech, /v1/audio/transcriptions, /v1/embeddings и /v1/models. Поддерживаются потоковый и обычный режимы, официальные SDK и OpenAI-совместимые клиенты. Справочник API →
• Anthropic Messages API: /v1/messages принимает формат Anthropic и передаёт запросы тому же маршрутизатору, поэтому Claude Code и официальные Anthropic SDK могут работать с объединённым набором бесплатных провайдеров. Подробности →
• Нативные интерфейсы Gemini и Ollama: Gemini CLI может обращаться к /v1beta (generateContent, потоковая передача, подсчёт токенов, модели). Дополнительно можно включить эмуляцию Ollama с NDJSON для чата и генерации, списком моделей, метаданными и эмбеддингами для Zed, JetBrains и других клиентов.
• Fusion, синтез ответов нескольких моделей: запрос к виртуальной модели fusion параллельно отправляется нескольким бесплатным моделям; затем модель-арбитр объединяет черновики в единый ответ. Подробности →
• Генерация изображений, видео и речи: соответствующие /v1/images/generations, /v1/videos/generations и /v1/audio/speech маршрутизируются между провайдерами с медиа-моделями. Для изображений и речи доступны и пользовательские OpenAI-совместимые эндпоинты. Задачи генерации видео приводятся к общему формату, независимо от синхронного или отложенного выполнения, с возвратом готового MP4.
• Вызовы инструментов и структурированные ответы: поддерживаются OpenAI-совместимые tools, преобразование текстовых вызовов в tool_calls, а также response_format, seed, logprobs, штрафы и другие параметры генерации с учётом возможностей провайдера.
• Умная маршрутизация, шесть стратегий: выбор модели на основании актуальных оценок скорости, возможностей и надёжности. При ответах 429/5xx выполняются переход к следующей модели, временная блокировка проблемного ключа и ротация ключей. Как работает маршрутизация →
• Единые модели и профили: одинаковая модель у разных провайдеров отображается одной записью со строгим переключением внутри группы. Именованные профили цепочек (например, для кода или изображений) выбираются на панели или в запросе через auto:<profile>. Пользовательские цепочки можно переименовывать в менеджере.
• Учёт ограничений каждого ключа: счётчики RPM/RPD/TPM/TPD для сочетаний (platform, model, key) учитывают опубликованные провайдером лимиты, чтобы маршрутизация соблюдала квоты.
• Автообновляемый каталог моделей: маршрутизатор дважды в день синхронизирует подписанный каталог freellmapi.co с новыми моделями, изменениями квот и исправлениями совместимости. Бесплатные установки используют ежемесячный снимок с задержкой 30 дней, Premium получает изменения в день публикации. Premium →
• Закрепление сессии и передача контекста: диалог остаётся на одной модели в течение 30 минут. При переключении в ходе разговора можно передавать краткую сводку для сохранения контекста. Подробности →
• Необязательное сжатие промптов: общий отказоустойчивый конвейер может удалять повторы, фильтровать вывод инструментов, уплотнять повторяющийся JSON и обрезать устаревший контекст до проверки кеша и маршрутизации. Подробности →
• Шифрование ключей и один токен для клиента: ключи провайдеров хранятся в SQLite с шифрованием AES-256-GCM и расшифровываются в памяти во время запроса. Приложению передаётся только единый Bearer-токен freellmapi-….
• Панель управления и аналитика: интерфейс React позволяет управлять ключами, менять порядок резервной цепочки, тестировать модели в Playground, смотреть статистику p50/p95/TTFT за периоды от 24 часов до 90 дней; есть авторизация, светлая и тёмная темы и 60 языков.
• MCP-сервер для ChatGPT и интерактивная документация: ChatGPT и другие MCP-клиенты могут отправлять запросы к FreeLLMAPI, получать список моделей, сведения о состоянии провайдеров, использовании, кеше и маршрутизации, а также управлять стратегией через /mcp. Просмотрщик OpenAPI доступен по /v1/docs. ChatGPT и программирующие агенты →
• Дополнительные средства эксплуатации: необязательный кеш ответов, зашифрованные резервные копии БД, регулярная проверка ключей, массовый импорт/экспорт, конфигурация запуска. Установка и развёртывание →
• Работает везде, где доступен Node.js 20+: Windows, macOS, Linux-серверы и одноплатные ARM-компьютеры, включая Raspberry Pi. Потребление оперативной памяти в простое около 40 МБ RSS при использовании PM2, systemd или другого менеджера процессов.

Функциональность проекта намеренно ограничена определёнными задачами. См. список того, что пока не поддерживается.

Установка одной командой (требуется Docker): создаёт ~/freellmapi, генерирует ключ шифрования, загружает образ и запускает контейнер.

curl -fsSL https://freellmapi.co/install.sh | bash

Не хотите выполнять удалённый скрипт без предварительного просмотра? Посмотрите его исходный код. Повторный запуск безопасен: существующие .env и ключ шифрования сохраняются, а контейнер обновляется до :latest.

Откройте http://localhost:3001, добавьте ключи провайдеров на странице Keys, настройте порядок Fallback Chain и скопируйте единый API-ключ из заголовка страницы Keys. Именно его следует указывать в OpenAI SDK.

Для Windows проще всего скачать установщик .exe из Releases. Для Android существует экспериментальное руководство по Termux.

Другие варианты, включая Docker Compose, локальную разработку, конфигурацию запуска, production-сборки, сетевой доступ и резервное копирование, описаны в руководстве по установке.

Нативное приложение расположено в desktop/: маршрутизатор и панель управления запускаются локально, а в системном трее доступно всплывающее окно со статистикой запросов.

Скачать из Releases. К каждому выпуску прикладываются .dmg для macOS и .exe для Windows. Регистрация и отдельный пароль не требуются: необходим только единый API-ключ, доступный во всплывающем окне трея. Сборка из исходников и пути хранения данных: docs/en/install/01-install.md#desktop-app.

Для macOS 12 Monterey и новее выберите arm64 (Apple Silicon) или x64 (Intel). Обе версии для Mac также доступны в ZIP.

Поддерживается любой клиент, которому можно задать OpenAI-совместимый базовый URL: укажите http://localhost:3001/v1 и единый ключ с панели управления. Все генераторы конфигураций поддерживают --dry-run. Команды npx freellmapi launch (Claude Code) и launch-codex (Codex) позволяют не сохранять учётные данные в конфигурационных файлах. Маршрутизатор также работает как MCP-сервер, который агенты могут опрашивать во время сессии.

ChatGPT подключается к тому же локальному маршрутизатору через приватный Secure MCP Tunnel. MCP-инструмент ask_freellmapi отправляет задачу ChatGPT через /v1/chat/completions и возвращает ответ с метаданными обслужившей модели, резервной маршрутизации, кеша, выполнения и токенов. Базовый URL и Bearer-аутентификация задаются в настройках клиента туннеля. Модель по умолчанию настраивается через MCP_INFERENCE_DEFAULT_MODEL (при отсутствии значения используется auto). Нельзя размещать ключ в Git или URL MCP. Настройка ChatGPT →

Ключами провайдеров можно управлять и из терминала с токеном сессии панели (FREELLMAPI_DASHBOARD_TOKEN или --token): npx freellmapi keys add|list|remove|test <platform>. Команда keys test повторно проверяет сохранённые ключи. См. cli/README.md.

FreeLLMAPI рассчитан прежде всего на локальное использование одним пользователем. Ключи провайдеров остаются в вашей SQLite-базе, зашифрованы на диске, а запросы отправляются с вашего компьютера непосредственно выбранным внешним сервисам.

Панель управления поддерживает 60 языков, меню приложения в трее доступно на шести. При первом запуске язык определяется по настройкам системы или браузера, затем его можно изменить в ⋯ → Settings. Выбор сохраняется. Для языков с письмом справа налево (العربية, עברית, فارسی, اردو) интерфейс автоматически меняет направление. Загружается только словарь активного языка, остальные не расходуют трафик.

Полный список языков находится в client/src/i18n/locale-config.ts.

Первые шесть переводов прошли проверку людьми. Новые локализации были созданы машинным переводом и постепенно улучшаются благодаря исправлениям носителей языка. Даже PR с исправлением одной строки будет полезен.

Файлы переводов находятся в client/src/i18n/locales/ и имеют плоскую структуру JSON. Для исправления строки измените значение соответствующего ключа в JSON своего языка. Для добавления языка скопируйте en.json, переведите значения и зарегистрируйте язык в client/src/i18n/locale-config.ts (а для строк меню трея также в desktop/src/i18n.ts). Команда npm test проверяет совпадение ключей и плейсхолдеров. PR приветствуются.

Маршрутизатор поддерживает каталог моделей в актуальном состоянии: дважды в день скачивает подписанный каталог с freellmapi.co и обновляет локальную БД новыми моделями, изменениями квот и исправлениями особенностей провайдеров. Ваши настройки включения/отключения моделей и пользовательские провайдеры остаются нетронутыми. Каждая загрузка перед применением проверяется закреплённым ключом Ed25519.

В каталоге представлены 34 провайдера, 474 семейства моделей, 635 бесплатных сочетаний провайдер/модель (584 для чата, 41 для эмбеддингов, 7 для транскрибации и 3 для видео), а заявленная общая бесплатная ёмкость составляет примерно 7,4 миллиарда токенов в месяц. Полный список: freellmapi.co/models.

Бесплатные установки получают тот же подписанный каталог, но из ежемесячного снимка. Новая модель появляется там спустя 30 дней после оперативного каталога, поэтому бесплатная версия сейчас отстаёт примерно на 303 модели. Ничего не отключается и не истекает: обновления просто приходят позже.

Premium поддерживает оперативный каталог на всех ваших маршрутизаторах. Когда провайдер запускает бесплатную мощную модель, незаметно снижает квоту или меняет формат API, пользователи оперативного каталога получают соответствующее обновление в тот же день, когда оно выпущено.

Подключить оперативный каталог на freellmapi.co →

• $19 в год либо однократный платёж $49 за бессрочный доступ. Оплата через Stripe; подписку можно самостоятельно отменить в любой момент.
• Один ключ fla_ действует для всех ваших экземпляров маршрутизатора: на компьютере, домашнем сервере или Raspberry Pi.
• Активация выполняется на панели управления в разделе Premium. Управление оплатой и подпиской: freellmapi.co/manage.
• Сам маршрутизатор распространяется под лицензией MIT и остаётся бесплатным. Premium оплачивает только доступ к оперативному каталогу, финансируя ежедневные проверки моделей и сопровождение каталога.

Сервер каталога не получает ваши промпты, ответы моделей или ключи провайдеров. Маршрутизатор в любом случае остаётся размещённым на вашем оборудовании.

from openai import OpenAI

client = OpenAI(
    base_url="http://localhost:3001/v1",
    api_key="freellmapi-your-unified-key",
)

resp = client.chat.completions.create(
    model="auto",  # let the router pick; or "auto:fast", "auto:smart", a profile, or a model id
    messages=[{"role": "user", "content": "Summarise the fall of Rome in one sentence."}],
)
print(resp.choices[0].message.content)
print("Routed via:", resp.headers.get("x-routed-via"))

Потоковая передача, стратегии auto:*, вызовы инструментов, входные изображения (Vision), подтверждение ответов Google Search в Gemini, эмбеддинги и Anthropic Messages API с примерами curl и Python описаны в справочнике API. Каждый ответ содержит заголовок X-Routed-Via: <platform>/<model>, показывающий, какой провайдер фактически обработал запрос.

Выберите стратегию маршрутизации и наблюдайте, как используется общий месячный бюджет токенов у всех провайдеров. Для каждой модели показаны актуальные показатели надёжности, скорости и качества. Порядок моделей соответствует текущему порядку обработки запросов.

Управляйте учётными данными провайдеров и получайте единый API-ключ для своих приложений. Для каждого ключа отображаются состояние и время последней проверки.

Отправьте запрос через маршрутизатор и посмотрите, какой провайдер ответил: в сообщении отображаются идентификатор модели и задержка. Файлы можно прикреплять кнопкой, перетаскиванием или вставкой. Изображения PNG/JPEG/WebP/GIF при необходимости уменьшаются в браузере и отправляются как части сообщения модели с поддержкой Vision. Текстовые файлы TXT/MD/CSV/JSON/LOG включаются в промпт как блоки кода.

Количество запросов, доля успешных ответов, входные и выходные токены, средняя задержка и детализация по провайдерам за 24 часа, 7, 30 или 90 дней.

Один запрос поступает на вход, подходящая бесплатная модель отвечает: маршрутизатор выбирает модель с наивысшим приоритетом, действующим ключом и доступной квотой, расшифровывает ключ в памяти и вызывает API провайдера. При ошибках 429/5xx ключ временно исключается и запрос повторяется на следующей модели цепочки. Компоненты, алгоритмы маршрутизации и эксплуатационные сведения описаны в документации по архитектуре.

Нужен ли пароль? Для настольного приложения нет: вход в панель выполняется автоматически через скрытую локальную учётную запись. Откройте панель через значок в трее → Open Dashboard. В серверных установках (Docker, установка одной командой, npm run dev) используется учётная запись с адресом электронной почты и паролем.

Забыли пароль от серверной установки? Нажмите Forgot password? на странице входа. Поскольку рассылка писем не настроена, одноразовый код печатается в журнале сервера. Его можно прочитать через docker compose logs -f freellmapi, в терминале работающего сервера или в журнале настольного приложения и ввести в форму сброса. Код действителен 15 минут.

Где находятся логи? Для Docker в журнале контейнера, при запуске из исходников в терминале, для настольной версии в <data dir>/logs/freeapi.log. Открыть каталог логов также можно через Open Logs Folder в меню трея.

Как удалить программу? Удалите приложение (Корзина в macOS, Параметры → Приложения в Windows или docker compose down -v для Docker), затем при необходимости удалите каталог данных: %APPDATA%\FreeLLMAPI\, ~/Library/Application Support/FreeLLMAPI/ либо ~/.config/FreeLLMAPI/. Само удаление приложения не очищает эти каталоги.

Более подробные ответы для каждого способа установки: docs/en/install/01-install.md#faq-passwords-logs-uninstall.

Объединение бесплатных тарифов имеет недостатки: нет гарантированного доступа к передовым моделям, задержки нестабильны, отсутствует SLA. К концу суток качество доступного набора моделей может снижаться, когда наиболее мощные варианты исчерпывают дневные лимиты; квоты восстанавливаются в полночь по UTC. Перед использованием в серьёзном проекте прочитайте подробное описание ограничений.

Новые участники приветствуются! В CONTRIBUTING.md описаны порядок разработки, требования к PR и правила для изменений с помощью ИИ/LLM. Кратко: такие изменения допускаются, но должны соответствовать тем же требованиям качества. Идеи для первого PR:

• Добавить провайдера: использовать server/src/providers/openai-compat.ts как шаблон, зарегистрировать адаптер в server/src/providers/index.ts, добавить модели в server/src/db/index.ts и тест в server/src/__tests__/providers/.
• Добавить эндпоинт: реализовать дополнительные OpenAI-совместимые интерфейсы, например /v1/realtime. Базовый класс провайдера может получить новые методы, адаптеры указывают поддерживаемые возможности.
• Улучшить маршрутизатор: учитывать цену, работоспособность и скорость моделей, совершенствовать приоритет по задержке и привязку к региону.
• Улучшить панель управления: графики аналитики, интерфейс ротации ключей, массовый импорт из .env.
• Улучшить документацию: примеры, фрагменты кода для Go/Rust и других языков, инструкции для Docker или Fly.

Команда npm install && npm run dev запускает сервер на порту :3001 и панель на :5173 с горячей перезагрузкой. Для воспроизводимой настройки используйте ./scripts/dev-bootstrap.sh в Bash или .\scripts\dev-bootstrap.ps1 в PowerShell. Оба скрипта сохраняют существующий .env. Для PR нужны тесты, успешный запуск имеющегося набора (npm test) и соблюдение существующих .editorconfig / tsconfig. Работа с миграциями БД и полный процесс участия описаны в CONTRIBUTING.md.

Проект предназначен для личных экспериментов и обучения, а не для production-систем. Бесплатные тарифы позволяют разработчикам экспериментировать с API, но не гарантируют стабильную работу сервиса и поддержку. Если вы создаёте на основе FreeLLMAPI продукт для реальных пользователей, перед выпуском перейдите на платный API. Использование каждого внешнего провайдера регулируется условиями, принятыми вами при регистрации: проксирование через FreeLLMAPI не отменяет эти правила, и вы несёте ответственность за их соблюдение.

Вопросы соответствия личного однопользовательского прокси условиям отдельных провайдеров, рассмотренные в мае 2026 года, описаны в проверке условий использования.

MIT