Osaurus: локальные и облачные модели ИИ на Mac с открытым исходным кодом

Платформа для персонального искусственного интеллекта

Стартап Osaurus представил сервер для больших языковых моделей с открытым исходным кодом, предназначенный исключительно для экосистемы Apple. Решение позволяет пользователям гибко переключаться между различными локальными и облачными моделями ИИ, сохраняя при этом все файлы и инструменты на собственном оборудовании.

Проект вырос из идеи настольного ИИ-компаньона Dinoki, который сооснователь Osaurus Теренс Пэ описал как «ИИ-версию помощника Clippy». Вопросы клиентов о необходимости дополнительной оплаты токенов подтолкнули его к разработке полностью локального решения.

Гибридный подход к моделям ИИ

Сегодня Osaurus может работать как с моделями, размещёнными локально на Mac, так и подключаться к облачным провайдерам, включая OpenAI, Anthropic, Gemini и xAI/Grok. Пользователи самостоятельно выбирают модель для каждой задачи, сохраняя контекст, память модели и доступ к инструментам на своём оборудовании.

Такая архитектура превращает Osaurus в своеобразный «контрольный слой» — единый интерфейс для подключения различных моделей ИИ, инструментов и рабочих процессов. В отличие от аналогичных решений вроде OpenClaw, ориентированных на разработчиков, эта платформа предлагает удобный интерфейс для обычных пользователей.

Безопасность и системные требования

Для обеспечения безопасности все операции выполняются в аппаратно-изолированной виртуальной песочнице, что ограничивает доступ ИИ к системе и данным.

Локальный запуск моделей всё ещё требует значительных ресурсов. Для работы с локальными моделями системе необходимо как минимум 64 ГБ оперативной памяти. Для более крупных моделей, таких как DeepSeek v4, разработчики рекомендуют Mac с 128 ГБ RAM.

Теренс Пэ, ранее работавший инженером в Tesla и Netflix, уверен, что требования к оборудованию со временем снизятся: «Интеллект на ватт мощности — ключевой показатель для локального ИИ — растёт значительными темпами. В прошлом году локальный ИИ с трудом заканчивал предложения, а сегодня уже может запускать инструменты, писать код, получать доступ к браузеру и делать заказы на Amazon».

Поддерживаемые модели и возможности

Osaurus поддерживает локальный запуск моделей MiniMax M2.5, Gemma 4, Qwen3.6, GPT-OSS, Llama, DeepSeek V4, собственные фреймворк-модели Apple, а также семейство on-device моделей Liquid AI LFM. В качестве облачных провайдеров доступны OpenAI, Anthropic, Gemini, xAI/Grok, Venice AI, OpenRouter, Ollama и LM Studio.

Как полноценный сервер Model Context Protocol (MCP), система предоставляет доступ к инструментам любому MCP-совместимому клиенту. В комплект уже входят более 20 нативных плагинов для работы с Почтой, Календарём, Vision, macOS Use, XLSX, PPTX, Браузером, Музыкой, Git, файловой системой, поиском и другими функциями. В последнем обновлении также появилась поддержка голосовых возможностей.

Перспективы развития

За почти год с момента запуска проект скачали более 112 000 раз. Основатели Osaurus, включая соучредителя Сэма Ю, сейчас участвуют в нью-йоркском стартап-акселераторе Alliance и рассматривают возможности выхода на корпоративный рынок.

Перспективными направлениями считаются юридическая и медицинская сферы, где локальный запуск больших языковых моделей может решить проблемы конфиденциальности данных. Разработчики верят, что рост мощности локальных моделей ИИ в перспективе снизит нагрузку на облачные дата-центры.

«Вместо того чтобы полагаться на облако, компании могут развернуть Mac Studio на своей территории, и это потребует существенно меньше энергии. Вы сохраните все возможности облака, но не будете зависеть от работы удалённых дата-центров», — отметил Теренс Пэ.