Компания Perplexity, разрабатывающая поисковую систему с ИИ, представила новую технологию, которая превращает персональные устройства в распределённые вычислительные узлы. В июле в её продукт Perplexity Computer, агент, работающий с файлами, приложениями и интернетом, будет добавлена гибридная система, автоматически распределяющая задачи между устройством пользователя и облачными серверами.
Система сама разбивает сложный запрос на части и решает, какие из них можно обработать локально, с помощью небольшой модели ИИ на устройстве, а какие требуют отправки к более мощным «фронтирным» моделям в облаке. По словам разработчиков, пользователям не придётся вручную выбирать между локальным и облачным режимами.
Безопасность и эффективность
Локальное выполнение предназначено для работы с конфиденциальными данными и рутинными операциями, такими как анализ финансовых отчётов, медицинской информации или личных файлов. Это позволяет сохранять приватные данные на устройстве и не отправлять их в облако. Более сложные задачи, требующие продвинутых возможностей крупных моделей, будут по-прежнему выполняться на серверах.
Такое разделение, по заявлению Perplexity, не только повышает безопасность, но и оптимизирует использование вычислительных ресурсов. Повседневные запросы не будут потреблять дорогие мощности дата-центров, которые нужны для действительно сложных вычислений.
Платформенная независимость
В настоящее время Perplexity Computer доступен в приложении для Mac, которое расширяет возможности базового агента Computer, добавляя редактирование локальных файлов, управление компьютером и веб-сёрфинг через браузер Comet. Компания также анонсировала скорый релиз версии для Windows.
Perplexity позиционирует свою гибридную технологию как кросс-платформенное решение. Система была представлена совместно с Intel, и, как утверждается, её архитектура работает на различном локальном оборудовании, включая платформу Nvidia RTX Spark.
