
Запустите Kimi-K2.5, DeepSeek, Qwen, Gemma и сотни других локально
Ollama — самый популярный инструмент для локального запуска больших языковых моделей. Одна команда для скачивания и запуска любой модели из библиотеки: Llama 3, DeepSeek, Qwen, Gemma, Mistral. API, совместимое с OpenAI, встроенная GPU-акселерация. 172K звёзд на GitHub.
curl -fsSL https://ollama.com/install.sh | sh
ollama pull llama3.2
ollama pull deepseek-r1:8b
ollama run deepseek-r1:8b
# API на http://localhost:11434