Компания Perplexity анонсировала важное нововведение для своей платформы Perplexity Computer — возможность разделять задачи между локальными и облачными моделями ИИ.
Это новшество позволит пользователям переключаться между ИИ, работающим на устройстве, и более мощными серверными моделями в зависимости от специфики выполняемой задачи.
Идея заключается в том, что одна система сможет обрабатывать чувствительные данные локально, одновременно получая доступ к мощным облачным моделям для более сложных задач.
Perplexity объяснила, почему разрабатывает эту новую гибридную функцию: «Гибридная агентная интерпретация важна для работы с такими данными, как финансовые отчеты, медицинская информация и личные файлы». Компактная модель будет функционировать локально на вашем устройстве, определяя, когда чувствительные данные должны оставаться там.
Тем временем задачи, требующие полной мощности облачной модели, будут обрабатываться на сервере. Большинство реальных задач представляют собой смесь, поэтому Perplexity Computer будет разделять их и координировать выполнение. В отличие от инструментов, которые требуют выбора между локальным или облачным решением заранее, это происходит автоматически, задача за задачей.
Perplexity сообщает, что функция гибридной оркестрации ИИ станет доступна для Perplexity Computer в июле этого года.
Фото обложки: Adi Goldstein / Unsplash