Модели
42GPU предоставляет доступ к моделям от разных провайдеров через единый API.
Получение списка моделей
/v1/modelsВозвращает список доступных моделей.
curl https://api.42gpu.ru/v1/models \
-H "Authorization: Bearer sk-air-your-api-key"1from openai import OpenAI23client = OpenAI(4 base_url="https://api.42gpu.ru/v1",5 api_key="sk-air-your-api-key"6)78models = client.models.list()9for model in models.data:10 print(model.id){
"object": "list",
"data": [
{
"id": "gpt-4-turbo",
"object": "model",
"created": 1706745600,
"owned_by": "openrouter",
"permission": [...],
"root": "gpt-4-turbo",
"parent": null
},
{
"id": "claude-3-sonnet",
"object": "model",
"created": 1706745600,
"owned_by": "openrouter",
"permission": [...],
"root": "claude-3-sonnet",
"parent": null
},
...
]
}Провайдеры
OpenRouter
Доступ к моделям OpenAI, Anthropic, Google и других провайдеров через единый API
gpt-4-turbogpt-4gpt-3.5-turboclaude-3-opusclaude-3-sonnetgemini-proYandexGPT
Нативная российская модель с отличным пониманием русского языка
yandexgptyandexgpt-liteGigaChat
Языковая модель от Сбера для работы с русским языком
gigachatgigachat-proLocal Models
Локально размещённые open-source модели на наших GPU серверах
llama-3-70bllama-3-8bmistral-7bcodellama-34bТаблица моделей
| Модель | Провайдер | Контекст | Input (RUB/1M) | Output (RUB/1M) | Возможности |
|---|---|---|---|---|---|
gpt-4-turbo | OpenRouter | 128K | 1000 | 3000 | chatfunctionvision |
gpt-4 | OpenRouter | 8K | 3000 | 6000 | chatfunction |
gpt-3.5-turbo | OpenRouter | 16K | 50 | 150 | chatfunction |
claude-3-opus | OpenRouter | 200K | 1500 | 7500 | chatvision |
claude-3-sonnet | OpenRouter | 200K | 300 | 1500 | chatvision |
claude-3-haiku | OpenRouter | 200K | 25 | 125 | chatvision |
yandexgpt | YandexGPT | 8K | 100 | 200 | chat |
yandexgpt-lite | YandexGPT | 8K | 40 | 80 | chat |
gigachat | GigaChat | 8K | 80 | 160 | chat |
gigachat-pro | GigaChat | 32K | 200 | 400 | chat |
llama-3-70b | Local | 8K | 70 | 90 | chat |
llama-3-8b | Local | 8K | 20 | 20 | chat |
mistral-7b | Local | 32K | 15 | 15 | chat |
codellama-34b | Local | 16K | 40 | 50 | chatcode |
Возможности моделей
Базовая генерация текста через API чата. Поддерживается всеми моделями.
Вызов функций и инструментов. Модель может возвращать структурированные данные.
Анализ изображений. Можно передавать картинки в сообщениях.
Оптимизировано для генерации и анализа программного кода.
Как выбрать модель
Для сложных задач
Используйте gpt-4-turbo или claude-3-opus для сложных рассуждений, анализа и генерации кода.
Для простых задач
gpt-3.5-turbo или claude-3-haiku - быстрые и дешёвые варианты для простых чат-ботов.
Для русского языка
yandexgpt и gigachat - оптимизированы для работы с русским языком.
Для экономии
Локальные модели типа llama-3-8b или mistral-7b - самые доступные по цене.