Официальный сайт Ollama: где скачать и как установить — инструкция для новичка

Что такое Ollama и зачем ей официальный сайт

Ollama (олама) — программа для запуска языковых моделей на вашем компьютере или сервере. Скачивать её нужно на официальном сайте ollama.com. В блоге мы разбираем такие инструменты по шагам, чтобы вы не искали установщик на сомнительных страницах.

LLM (large language model, большая языковая модель) — нейросеть, которая понимает и генерирует текст. Обычно к ней обращаются через облачный сервис. Ollama запускает такую модель у вас, поэтому запросы и ответы остаются на вашей машине. Программа бесплатная, с открытым кодом под лицензией MIT и работает на Windows, macOS и Linux.

Официальный сайт важен, потому что на нём лежат установщики, каталог моделей и ссылка на документацию. Платить за скачивание или «ключ» не нужно, а страница с такой просьбой — повод насторожиться. Первая проверка занимает около 10 минут: установка, команда ollama run llama3.2 и загрузка модели размером около 2 ГБ.

Ollama пригодится тем, кто хочет работать с моделями без облачных сервисов. Вот типичные ситуации:

• вам нужны модели без подписок и без отправки текста во внешний сервис;
• вы пишете скрипты или приложения, которым нужен локальный API на порту 11434;
• вы пробуете модели на ноутбуке: для 7B (7 млрд параметров) обычно нужно не меньше 8 ГБ оперативной памяти (ОЗУ);
• вы думаете о запуске на VPS — тогда пригодятся советы по выбору Linux для сервера и понимание того, что такое хостинг.

Как понять, что вы на официальном сайте Ollama

Настоящий сайт Ollama работает на домене ollama.com. Программа бесплатная, с открытым кодом под лицензией MIT (разрешительная открытая лицензия), поэтому платить за скачивание или «ключ» не нужно. Установщики для Windows и macOS лежат на странице ollama.com/download, команда для Linux указана там же.

Код и релизы проекта находятся в репозитории github.com/ollama/ollama, ссылка на него есть на сайте. Документация открывается по адресу docs.ollama.com, каталог моделей — по адресу ollama.com/library. Подделки копируют дизайн, но обычно не ведут на эти страницы.

Проверка занимает около 1 минуты. Смотрите на домен в адресной строке, а не на заголовок вкладки. Как устроены сертификаты, объясняет материал разберите, что такое сертификат сайта.

Перед скачиванием пройдите по пунктам:

• В адресе ровно ollama.com, без дефисов и добавок вроде «download» или «free».
• Слева от адреса есть значок замка, а адрес начинается с https:// (HTTPS — защищённое соединение, порт 443).
• В сведениях о сертификате, которые открываются по клику на замок, указан домен ollama.com.
• На сайте есть ссылка на GitHub-репозиторий ollama/ollama.
• Загрузка не требует оплаты, карты, телефона и «ключа активации».
• Установщик не лежит на стороннем зеркале или в файлообменнике.

Что есть на сайте ollama.com: разделы и ссылки

Всё нужное для старта лежит в трёх местах: на ollama.com, на поддомене docs.ollama.com и в репозитории на GitHub. Установщики и каталог моделей находятся на основном сайте, документация вынесена отдельно, а исходный код и релизы хранятся на GitHub. Знание этой раскладки экономит время: вы сразу идёте туда, где лежит ответ.

В каталоге у каждой модели есть своя страница с размером загрузки в гигабайтах и списком тегов версий. Тег пишется после двоеточия, например llama3.2:3b, и обозначает число параметров или вариант сжатия. Если тег не указать, Ollama возьмёт версию по умолчанию. Для llama3.2 на 3 млрд параметров загрузка занимает около 2 ГБ.

Если сомневаетесь, как читать адреса и поддомены, загляните в материал про DNS-адреса. А если планируете запускать модели на сервере, сначала разберитесь, что такое хостинг.

Чтобы выбрать нужный раздел, сверьтесь с таблицей:

Как скачать и установить Ollama с официального сайта

Все установщики лежат на одной странице: ollama.com/download. Программа бесплатная, лицензия MIT, платить за скачивание или «ключ» не нужно. Установка занимает около 5 минут, а вместе с первой моделью весь путь укладывается примерно в 10 минут.

На Windows и macOS вы запускаете обычный установщик, на Linux хватит одной команды. Если Linux работает на удалённом сервере, сначала подключитесь к нему по SSH (Secure Shell, защищённое удалённое подключение) через порт 22. Подходящую программу подберёт материал выберите SSH-клиент для подключения к серверу.

Сервера ещё нет? Подготовьте систему по инструкции установите Debian на сервер или узнайте ответы на частые вопросы о VPS (виртуальном частном сервере).

Порядок действий одинаков для всех систем, различается только третий шаг:

1. Откройте в браузере страницу ollama.com/download.
2. Выберите свою систему: Windows, macOS или Linux.
3. Установите программу под вашу систему:
   • Windows: скачайте файл установщика, запустите его и нажмите Install.
   • macOS: откройте скачанный архив и перенесите приложение Ollama в папку «Программы».
   • Linux: выполните команду curl -fsSL https://ollama.com/install.sh | sh.
4. Дождитесь окончания установки: обычно это 1–3 минуты.
5. Откройте терминал: PowerShell в Windows, «Терминал» в macOS, консоль с SSH-сессией в Linux.
6. Введите команду ollama --version и нажмите Enter.
7. Убедитесь, что в ответ выводится номер версии. Если так, программа установлена, и можно переходить к запуску модели.

Как запустить первую модель и проверить API на порту 11434

Откройте терминал и выполните ollama run llama3.2. Ollama скачает модель llama3.2 на 3 млрд параметров, это около 2 ГБ. Когда загрузка закончится, появится приглашение >>>: введите вопрос и нажмите Enter. Выйти из диалога можно командой /bye.

Теперь проверьте сервер. Откройте в браузере http://localhost:11434: страница ответит «Ollama is running». Это значит, что API (программный интерфейс) работает на порту 11434 и доступен только с вашего компьютера. Если Ollama стоит на удалённом сервере, зайдите на него по SSH, как описано в материале как пользоваться PuTTY, и проверяйте адрес прямо там.

Запрос к API из терминала выглядит так: curl http://localhost:11434/api/generate -d '{"model":"llama3.2","prompt":"Привет","stream":false}'. В ответ придёт JSON с текстом модели в поле response. Чтобы открыть API снаружи, задают OLLAMA_HOST=0.0.0.0:11434, но без файрвола и авторизации так делать нельзя; что означает адрес 0.0.0.0, объясняет материал что значит 0.0.0.0.

Для управления моделями хватит четырёх команд:

• ollama list — показывает установленные модели и их размер;
• ollama pull llama3.2 — скачивает или обновляет модель без запуска диалога;
• ollama rm llama3.2 — удаляет модель и освобождает место на диске;
• ollama serve — запускает сервер вручную, если он не стартовал сам.

Вся проверка — установка, загрузка модели, первый диалог и запрос к API — занимает около 10 минут при нормальном канале.

Сколько памяти и места нужно для моделей Ollama

Потребление памяти зависит от размера модели, то есть от числа параметров (B означает миллиарды). Точные цифры меняются от модели к модели и от квантования (сжатия весов с небольшой потерей точности), поэтому все значения ниже — ориентиры, которые бывают «обычно», а не гарантии.

Место на диске считайте отдельно. Одна модель занимает от 2 ГБ: например, llama3.2 на 3B загружается примерно на 2 ГБ. Несколько моделей быстро занимают десятки гигабайт, поэтому смотрите список командой ollama list и удаляйте лишнее через ollama rm.

На скорость ответа влияет процессор. На CPU (центральный процессор) модель отвечает заметно медленнее, на GPU (графический процессор) быстрее, если модель помещается в его видеопамять. Для первых проверок на сервере хватит малых моделей, а про подходящие конфигурации читайте в материалах про VDS-сервер и аренду виртуального сервера.

Ориентиры по оперативной памяти (ОЗУ) для моделей разного размера:

Частые ошибки при установке и запуске Ollama

Большинство проблем возникает в первые 10 минут: после установки, при запуске первой модели или при проверке API (программного интерфейса). Ниже пять частых случаев с причиной и решением.

Сначала найдите свой случай в списке:

• команда ollama не найдена;
• порт 11434 занят или служба не работает;
• модель не помещается в память;
• API недоступен с другого компьютера;
• установщик скачан не с ollama.com.

«ollama: command not found» после установки

Терминал был открыт до установки и не знает о новом пути. Закройте его и откройте заново, затем выполните echo $PATH и проверьте, что в списке есть каталог с ollama.

Порт 11434 занят или служба не запущена

Страница http://localhost:11434 не отвечает «Ollama is running». Запустите ollama serve в отдельном окне. Если пишет, что адрес занят, служба уже работает: найдите процесс и не запускайте второй.

Модель не помещается в память или отвечает медленно

Для модели 7B обычно нужно от 8 ГБ ОЗУ (оперативной памяти). Возьмите меньшую версию, например llama3.2 на 3 млрд параметров, загрузка около 2 ГБ.

API недоступен с другого компьютера

По умолчанию API слушает только localhost. Задайте OLLAMA_HOST=0.0.0.0:11434 и разрешите порт в файрволе. Заранее разберитесь, как настроить проброс портов, и защитите сервер через Fail2ban.

Установщик скачан не с ollama.com

Файл со стороннего сайта может содержать вредоносный код. Удалите его и скачайте установщик со страницы ollama.com/download. Если сомневаетесь в ресурсе, проверьте сайт на безопасность.

Почти все сбои устраняются перезапуском терминала, проверкой службы или выбором меньшей модели, а остальное сводится к настройке сети.

Когда Ollama стоит ставить на VPS, а когда нет

VPS (виртуальный сервер) работает круглосуточно и не занимает ваш компьютер: модель доступна из любой точки, а ноутбук не греется и не тратит память. Для редких запросов, бота или личного ассистента это удобно. Подобрать тариф помогут ответы на вопросы о VPS.

Минусы тоже есть. На обычном VPS нет GPU (графического процессора), поэтому модели на 3–7 млрд параметров работают на CPU (процессоре) и отвечают медленно. Для модели 7B нужно от 8 ГБ ОЗУ, для 13B — от 16 ГБ. Если вам нужны модели на 33B и больше, а мощной видеокарты нет, сервер не подойдёт: потребуется от 32 ГБ памяти и заметно более быстрое железо.

Если ставите Ollama на сервер, закройте API (программный интерфейс) от посторонних. Запускать программу можно и в контейнере, как описано в материале про установку Docker на VPS. Выберите способ доступа:

• оставьте адрес по умолчанию 127.0.0.1:11434 и не задавайте OLLAMA_HOST=0.0.0.0;
• подключайтесь по SSH-туннелю: ssh -L 11434:localhost:11434 user@server;
• для доступа извне настройте обратный прокси с HTTPS на порту 443 и авторизацией, подробнее — в статье про порт 443 и HTTPS.