Osaurus – это сервер на основе открытого исходного кода для работы с большими языковыми моделями в экосистемах Apple, который позволяет без проблем переключаться между локальными и облачными ИИ-моделями при одновременном сохранении данных на устройстве. Созданный бывшим инженером Tesla и Netflix Теренсом Паем, этот инструмент решает проблемы, связанные с конфиденциальностью данных и высокими затратами на облачные сервисы. Osaurus поддерживает локальное развертывание и подключение к таким сервисам, как OpenAI, обеспечивая безопасную среду для выполнения моделей. Для его работы требуется не менее 64 ГБ оперативной памяти; для более сложных моделей рекомендуется использовать не менее 128 ГБ памяти. Благодаря более чем 112 000 загрузок Osaurus помогает предприятиям использовать локальное оборудование, что может снизить их зависимость от энергоемких облачных центров обработки данных.