Средний

Обзор Yogurt: приватный ИИ-помощник для встреч

Алексей Кузнецов
Алексей Кузнецов
Системный администратор13 ноября 2026 г.15 мин чтения

Разбираем Yogurt — open-source приложение для транскрибации и суммаризации встреч с использованием локальных моделей ИИ для обеспечения полной приватности да...

Обзор Yogurt: приватный ИИ-помощник для встреч

Разбираем Yogurt — open-source приложение для транскрибации и суммаризации встреч с использованием локальных моделей ИИ для обеспечения полной приватности данных.

Возможности Yogurt для работы с аудио

Транскрибация и создание резюме

Основная задача Yogurt — превратить сырой аудиопоток в структурированный текст. С практической точки зрения это работает в два этапа: сначала модель распознавания речи (ASR) переводит звуковые волны в текст, а затем языковая модель (LLM) анализирует полученный массив данных, чтобы выделить главное.

В отличие от облачных сервисов, где ваши разговоры улетают на сторонние серверы, Yogurt позволяет развернуть весь цикл обработки внутри вашей домашней лаборатории. Это критически важно, если на встречах обсуждаются архитектурные решения или навыки для реальных инженеров, которые не должны покидать периметр компании.

Для транскрибации приложение использует семейство моделей Whisper. Если у вас есть доступ к GPU, процесс будет быстрым. Если же вы запускаете всё на процессоре (например, на старом сервере вроде моего «Пятачка»), стоит подготовить систему к повышенной нагрузке.

Чтобы Yogurt работал предсказуемо, я рекомендую запускать его через Docker Compose. Это гарантирует, что зависимости для работы с аудиодрайверами не конфликтуют с основной системой. Пример базового конфига для запуска с поддержкой NVIDIA Container Toolkit:

yaml
services:
  yogurt:
    image: yogurt-ai/app:latest
    container_name: yogurt-service
    runtime: nvidia # Используем GPU для ускорения транскрибации
    ports:
      - "3000:3000"
    volumes:
      - ./data:/app/data # Храним записи и индексы локально
      - ./models:/app/models # Путь к скачанным моделям Whisper и LLM
    environment:
      - DEVICE=cuda
      - MODEL_SIZE=medium # Выбор размера модели: tiny, base, small, medium, large
    restart: unless-stopped

После того как текст готов, Yogurt применяет суммаризацию. Вместо того чтобы перечитывать часовую запись, вы получаете краткое резюме: список принятых решений, назначенные задачи (action items) и ключевые тезисы. Это избавляет от необходимости вручную вести протокол встречи.

Интерактивный чат с записями встреч

Вторая важная возможность — это работа с контекстом через чат. Это не просто поиск по ключевым словам, а полноценный RAG (Retrieval-Augmented Generation). Система индексирует транскрипты, что позволяет вам «общаться» со своими прошлыми созвонами.

Представьте ситуацию: вы помните, что три недели назад на встрече обсуждали проблему безопасности, но не помните деталей. Вместо того чтобы переслушивать аудио, вы задаете вопрос чату: «Какие опасения высказывались по поводу уязвимостей в ядре?». Если в тот период обсуждались патчи для ядра Linux, Yogurt найдет нужный фрагмент и выдаст выжимку.

С технической точки зрения это работает так:

  1. Аудио превращается в текст.
  2. Текст разбивается на фрагменты (chunks) и преобразуется в векторные представления (embeddings).
  3. Эти векторы сохраняются в локальной векторной базе данных.
  4. При вашем вопросе система ищет наиболее релевантные фрагменты и передает их LLM для формирования ответа.

Для обеспечения приватности я всегда проверяю, чтобы векторная база также располагалась на моем оборудовании. Если вы используете Yogurt в связке с локальными моделями через Ollama, вы получаете полный контроль над данными.

Чтобы проверить, как система справляется с нагрузкой при индексации большого архива встреч, можно запустить процесс в фоновом режиме через systemd. Это позволит избежать обрывов сессии, если вы работаете через SSH:

bash
# Создаем unit-файл для фоновой обработки архива
sudo nano /etc/systemd/system/yogurt-indexer.service

Пример содержимого сервиса:

ini
[Unit]
Description=Yogurt Background Indexer
After=docker.service

[Service]
Type=simple
ExecStart=/usr/bin/docker exec yogurt-service /app/scripts/index_all.sh
Restart=on-failure

[Install]
WantedBy=multi-user.target

Такой подход обеспечивает предсказуемость: вы точно знаете, когда начнется обработка и что она не прервется при закрытии терминала. В итоге вы получаете не просто архив звуковых файлов, а полноценную базу знаний, к которой можно обращаться в любой момент.

Приватность и локальная обработка данных

Приватность и локальная обработка данных

Когда речь заходит о записи рабочих встреч, главный риск — это утечка контекста. Обсуждение стратегии компании, финансовых показателей или технических уязвимостей в облачном сервисе транскрибации превращает ваши данные в актив сторонней корпорации. Yogurt решает эту проблему фундаментально: он переносит вычислительную нагрузку с удалённых API на ваше собственное оборудование.

Использование on-device моделей

В отличие от коммерческих решений, которые отправляют аудиопоток на серверы OpenAI или Google, Yogurt использует архитектуру, где нейросети работают непосредственно на вашем устройстве. Для транскрибации (перевода речи в текст) приложение опирается на семейство моделей Whisper, а для суммаризации — на локальные LLM.

С практической точки зрения это означает, что вам не нужно беспокоиться о качестве интернет-соединения или стоимости токенов. Однако стоит учитывать, что локальная обработка требует ресурсов. Если вы планируете запускать Yogurt на домашнем сервере, например, в Docker-контейнере, важно правильно пробросить ресурсы GPU, чтобы процесс не превратился в бесконечное ожидание.

Если вы используете NVIDIA GPU, ваш docker-compose.yml должен включать поддержку nvidia-container-runtime. Пример настройки для обеспечения предсказуемой производительности:

yaml
services:
  yogurt:
    image: yogurt-app:latest
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: 1 # Используем одну видеокарту для ускорения инференса
              capabilities: [gpu]
    environment:
      - DEVICE=cuda # Указываем использовать CUDA вместо CPU
      - WHISPER_MODEL=medium # Выбор модели: base, small, medium или large
    volumes:
      - ./models:/app/models # Храним веса моделей локально

Выбор модели — это всегда компромисс между скоростью и точностью. Модель large-v3 даст отличный результат, но на слабом железе она будет работать медленнее, чем вы успеете допить кофе. Для большинства задач транскрибации на домашней лаборатории вполне достаточно уровня medium.

Отсутствие передачи данных на внешние серверы

Главный принцип Yogurt — архитектурная изоляция. Приложение спроектировано так, что сетевой стек практически не задействован в процессе обработки аудио. Весь цикл «аудиофайл $\rightarrow$ текст $\rightarrow$ резюме» замыкается внутри локального контура.

Это критически важно для инженеров, которые привыкли контролировать каждый пакет в своей сети. Вы можете проверить это, запустив приложение в изолированном окружении или просто промониторив сетевую активность. Если вы строите защищённую инфраструктуру, рекомендую ознакомиться с навыками для реальных инженеров, чтобы лучше понимать принципы построения безопасных систем.

Чтобы убедиться, что приложение не пытается «стучаться» на внешние эндпоинты, можно использовать iptables или настроить правила в вашем сетевом шлюзе, разрешив приложению доступ только к локальным ресурсам.

С точки зрения системного администрирования, такая модель работы делает Yogurt предсказуемым. Вы точно знаете, что данные не покинут пределы вашей домашней лаборатории или корпоративного сегмента сети. Это избавляет от необходимости проводить аудит безопасности сторонних облачных провайдеров и гадать, где именно хранятся ваши записи.

Технические особенности проекта

Лицензия MIT и открытый исходный код

Первое, на что я всегда обращаю внимание при анализе любого инструмента для работы с конфиденциальной информацией, — это прозрачность его устройства. Если мы говорим о приложении, которое слушает ваши рабочие созвоны, мы не можем полагаться на «честное слово» разработчика.

Yogurt распространяется под лицензией MIT. С практической точки зрения это означает максимальную свободу: вы можете изучать код, модифицировать его под свои нужды и разворачивать в закрытых контурах без юридических рисков. Для инженера это прежде всего возможность провести аудит безопасности. Вы можете убедиться, что данные не уходят на сторонние API, а обработка происходит именно там, где заявлено.

Открытый исходный код позволяет не только проверить безопасность, но и адаптировать проект под специфическое железо. Например, если вы используете навыки для реальных инженеров, вы понимаете, что универсального решения под любое «железо» не существует. Возможность допилить интеграцию с конкретным драйвером GPU или оптимизировать использование памяти под ваш сервер — это то, что дает open source.

Архитектура десктопного приложения

Архитектура Yogurt построена на принципе максимальной изоляции процесса обработки данных. Вместо того чтобы отправлять аудиопоток в облако, приложение использует локальные движки для транскрибации (обычно на базе Whisper) и суммаризации.

Если рассматривать структуру приложения, можно выделить три ключевых уровня:

  1. Уровень захвата (Capture Layer): отвечает за перехват аудиопотока из системных источников. Здесь важно, чтобы приложение корректно взаимодействовал с ALSA или PulseAudio/PipeWire в Linux.
  2. Уровень инференса (Inference Engine): сердце системы. Именно здесь работают нейросети. Приложение старается максимально эффективно использовать доступные вычислительные ресурсы — будь то CPU или дискретная видеокарта.
  3. Уровень хранения (Storage Layer): локальная база данных, где хранятся транскрипты и результаты суммаризации.

С точки зрения предсказуемости системы, важно понимать, как Yogurt взаимодействует с ресурсами. При запуске тяжелых моделей нагрузка на систему может резко возрастать. Чтобы контролировать этот процесс в Linux, я рекомендую использовать systemd-run для запуска процесса в изолированном cgroup, если вы решите развернуть это как фоновый сервис, или просто следить за потреблением ресурсов через htop.

Для проверки того, какие именно библиотеки и зависимости подтягивает приложение (что критично для безопасности, особенно если вы следите за актуальностью патчей ядра Linux), полезно изучить дерево процессов.

Если вы запускаете приложение через контейнер или изолированную среду, убедитесь, что у него есть доступ к аудиоустройствам. Пример базового флага для Docker, если бы мы запускали подобный движок в контейнере, выглядел бы так:

bash
# Проброс аудиоустройства для работы с микрофоном
docker run -it --device /dev/snd:/dev/snd yogurt-app

Такой подход гарантирует, что приложение не получит лишних привилегий в системе, ограничиваясь только необходимым оборудованием. Это создает тот уровень контроля, который необходим при работе с чувствительными данными.

Сравнение с проприетарными решениями

Yogurt против Granola

Когда мы говорим о записи и анализе рабочих встреч, рынок сейчас разделен на два лагеря. С одной стороны — удобные, но «закрытые» сервисы вроде Granola. С другой — инструменты, которые дают полный контроль над данными, такие как Yogurt.

Granola работает по классической модели SaaS: вы записываете встречу, аудио отправляется на сторонние серверы, там обрабатывается нейросетью, и вы получаете результат. С точки зрения пользовательского опыта это удобно, но с точки зрения безопасности — это риск. Если вы обсуждаете архитектуру нового проекта или финансовые показатели компании, отправлять эти данные в облако проприетарного сервиса — значит добровольно увеличивать поверхность атаки.

Yogurt работает иначе. Его архитектура построена на принципе локальной обработки. Вместо того чтобы доверять свои записи стороннему облаку, вы разворачиваете среду для работы моделей прямо на своём оборудовании. Это требует больше ресурсов, но обеспечивает предсказуемость: ваши данные не покинут пределы вашей домашней лаборатории или корпоративного контура.

Если вы привыкли к строгому контролю над инфраструктурой, как мы обсуждали в материале про навыки для реальных инженеров, то подход Yogurt вам будет гораздо ближе.

Преимущества открытого подхода

Главное отличие Yogurt от коммерческих аналогов — это прозрачность. В проприетарном софте вы не знаете, как именно работает алгоритм суммаризации и куда именно уходят метаданные. В open-source проекте вы можете проверить код и убедиться в отсутствии скрытых запросов к внешним API.

С практической точки зрения, использование Yogurt позволяет интегрировать процесс транскрибации в ваш существующий стек. Например, вы можете запустить его в Docker-контейнере на выделенной ноде. Это избавляет от необходимости устанавливать кучу зависимостей напрямую в систему, сохраняя чистоту ОС.

Для развертывания Yogurt на базе Docker Compose можно использовать следующий пример конфигурации. Обратите внимание, что для качественной работы моделей (например, Whisper) вам потребуется доступ к GPU.

yaml
version: '3.8'

services:
  yogurt-app:
    image: yogurt/app:latest
    container_name: yogurt-service
    restart: unless-stopped
    volumes:
      - ./data:/app/data # Папка для хранения аудиозаписей и логов
      - ./config:/app/config # Конфигурационные файлы
    environment:
      - DEVICE=cuda # Используем NVIDIA GPU для ускорения транскрибации
      - MODEL_SIZE=medium # Выбор размера модели Whisper
    ports:
      - "8080:8080"
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: 1
              capabilities: [gpu]

Во-первых, такой подход гарантирует, что даже если в библиотеках, используемых приложением, обнаружится уязвимость (что случается регулярно, как мы видели в новостях про патчи для ядра Linux), вы сможете оперативно изолировать контейнер или обновить его, не затрагивая основную систему.

Во-вторых, открытый код позволяет тонко настраивать параметры моделей под конкретные задачи. Если вам нужна максимальная точность в технической терминологии, вы можете подменить стандартный промпт или использовать специфическую весовую модель, что практически невозможно в закрытых решениях вроде Granola.

В конечном счете, выбор между Yogurt и коммерческими сервисами — это выбор между удобством «из коробки» и полным суверенитетом над своими данными. Для инженера, который ценит предсказуемость и безопасность, второй вариант всегда будет приоритетным.

Заключение

Итоговая оценка решения

Если смотреть на Yogurt с точки зрения системного инженера, это попытка решить классическую дилемму: как получить удобство облачных AI-сервисов, не отдавая при этом конфиденциальные данные третьим лицам. Проблема транскрибации встреч всегда упиралась в то, что аудиозапись — это огромный массив чувствительной информации. Использование локальных моделей через Ollama или подобные движки снимает этот риск, превращая процесс из «отправки данных в облако» в «вычисления на своём железе».

С практической точки зрения, Yogurt — это не «волшебная кнопка», а инструмент, требующий ресурсов. Если вы планируете запускать его на слабом одноплатнике вроде Raspberry Pi, транскрибация будет идти медленнее, чем сама встреча. Для предсказуемой работы я рекомендую выделять под него отдельную ноду или контейнер с доступом к GPU.

Когда стоит внедрять

Yogurt будет эффективен в сценариях, где приватность стоит выше скорости:

  1. Корпоративные совещания. Когда обсуждаются архитектурные решения, бюджеты или стратегии, которые не должны покидать периметр вашей домашней лаборатории или офисной сети.
  2. Личная база знаний. Если вы записываете свои лекции или рабочие созвоны для последующего анализа.
  3. Обучение системному подходу. Как часть процесса освоения навыков для реальных инженеров, развёртывание такого стека помогает понять, как связывать воедино аудио-движки, LLM и интерфейсы управления.

Когда решение не подходит

Есть ситуации, когда лучше остаться на классических облачных решениях:

  • Отсутствие выделенного железа. Если у вас нет возможности выделить сервер с приличным объёмом оперативной памяти и видеокартой, локальная обработка превратится в бесконечное ожидание.
  • Необходимость мгновенного результата. Локальные модели (особенно при использовании Whisper для транскрибации) требуют времени. Если вам нужен итог встречи через секунду после её завершения, облачные API справятся быстрее.
  • Сложные требования к точности. Хотя open-source модели стремительно развиваются, топовые проприетарные модели всё ещё удерживают лидерство в понимании специфического контекста или сложных технических терминов.

Рекомендации по развёртыванию

Чтобы избежать проблем с производительностью, я советую сразу разворачивать Yogurt через Docker Compose, разделив сервисы. Это позволит гибко управлять ресурсами.

Пример базового конфига для запуска в изолированной среде:

yaml
services:
  yogurt-app:
    image: yogurt/yogurt:latest
    restart: unless-stopped
    ports:
      - "3000:3000"
    environment:
      - OLLAMA_HOST=http://ollama-service:11434
    depends_on:
      - ollama-service

  ollama-service:
    image: ollama/ollama:latest
    restart: unless-stopped
    # Если есть NVIDIA GPU, пробрасываем его для ускорения
    deploy:
      resources:
        reservations:
          devices:
            - driver: nvidia
              count: 1
              capabilities: [gpu]

Перед запуском убедитесь, что в системе установлены необходимые драйверы для работы с GPU, иначе нагрузка ляжет на CPU, и время обработки вырастет в разы. Также не забывайте следить за состоянием системы: если вы используете дистрибутивы вроде Ubuntu, всегда проверяйте актуальность обновлений безопасности, чтобы не столкнуться с уязвимостями, о которых часто пишут в новостях про патчи для ядра Linux.

FAQ

Нужен ли интернет для работы Yogurt?

Нет, для базового цикла работы — записи, транскрибации и суммаризации — интернет не требуется. Это ключевое преимущество архитектуры приложения: все вычисления происходят локально на вашем оборудовании.

С точки зрения безопасности это означает, что аудиопоток вашей встречи не покидает пределы вашей домашней лаборатории или корпоративного контура. Интернет может понадобиться только один раз: чтобы скачать веса моделей при первом запуске или для обновления самого приложения. Если вы планируете развертывание в полностью изолированной среде (air-gapped), вам нужно будет заранее подготовить образы контейнеров и файлы моделей.

Какие модели ИИ используются внутри приложения?

Yogurt опирается на проверенные open-source решения, которые обеспечивают предсказуемость результата. Для перевода речи в текст (ASR) используется семейство моделей Whisper от OpenAI. Для анализа текста и создания кратких сводок (LLM) приложение задействует модели, оптимизированные для работы на потребительском железе, например, семейства Llama или Mistral через движок llama.cpp.

Вы можете переключаться между моделями в конфигурационном файле, чтобы найти баланс между скоростью и качеством. Например, если вам нужна высокая точность, выберите модель large-v3, но помните о требованиях к видеопамяти:

yaml
# Пример части конфигурации yogurt.yaml
transcription:
  model: "whisper-large-v3" # Максимальная точность, требует много VRAM
  device: "cuda"            # Использование GPU NVIDIA

summarization:
  model: "mistral-7b-instruct" # Оптимальный баланс для суммаризации
  context_window: 4096

Как обеспечить максимальную производительность на слабом железе?

Если ваш сервер — это не мощная рабочая станция с RTX 4090, а, скажем, старый Dell PowerEdge или Raspberry Pi, нужно снижать требования к ресурсам. Основной способ — использование квантованных моделей (формат GGUF). Квантование уменьшает точность весов, но позволяет запускать тяжелые модели на обычном процессоре (CPU) с использованием инструкций AVX/AVX2.

Для оптимизации работы в Docker-контейнере на слабом железе, ограничьте использование ресурсов, чтобы процесс транскрибации не «положил» всю систему:

bash
# Запуск контейнера с ограничением по памяти и CPU
docker run -d \
  --name yogurt-worker \
  --memory="8g" \
  --cpus="4" \
  yogurt/app:latest

Также рекомендую использовать облегчённые версии Whisper, такие как tiny или base. Они работают значительно быстрее, хотя и чаще допускают ошибки в сложных терминах.

Можно ли использовать Yogurt в корпоративной среде?

Да, Yogurt подходит для корпоративного использования именно благодаря модели размещения на своём оборудовании. В отличие от облачных сервисов, где данные проходят через сторонние API, здесь вы полностью контролируете жизненный цикл информации.

С практической точки зрения, для внедрения в компании стоит обратить внимание на два аспекта:

  1. Мониторинг: как и в любом серьёзном сервисе, Yogurt нужно обвязывать системой сбора метрик (например, Prometheus), чтобы понимать, не упирается ли транскрибация в лимиты CPU.
  2. Безопасность ОС: убедитесь, что хостовая система обновлена. Хотя проблемы с патчами в Linux могут замедлить процесс обновления безопасности, регулярная проверка системы — это база.

Для масштабирования в компании лучше всего разворачивать Yogurt через Docker Compose или Kubernetes, что обеспечит предсказуемость работы при росте количества одновременно идущих встреч.

Часто задаваемые вопросы

Какое оборудование нужно для комфортной работы Yogurt

Для быстрой транскрибации желательно наличие дискретной видеокарты NVIDIA с поддержкой CUDA. Если использовать только центральный процессор, процесс обработки длинных записей может занять значительно больше времени, чем длилась сама встреча. С практической точки зрения, для стабильной работы лучше ориентироваться на сервер с объёмом оперативной памяти от 16 ГБ, чтобы хватило места для загрузки моделей Whisper и LLM.

Можно ли использовать Yogurt без интернета

Да, это одно из главных преимуществ архитектуры приложения. После того как вы один раз скачаете необходимые веса моделей Whisper и языковой модели, весь цикл обработки — от распознавания речи до создания резюме — будет происходить локально. Это обеспечивает предсказуемость: ваши данные не покинут периметр вашей домашней лаборатории или корпоративной сети.

Как выбрать размер модели Whisper для транскрибации

Выбор зависит от баланса между скоростью и точностью. Модели размером tiny или base работают очень быстро даже на слабом железе, но могут допускать ошибки в сложных терминах. Если вам важна высокая точность, особенно при наличии технического сленга, лучше использовать medium или large, но для этого потребуется наличие GPU.

Где хранятся аудиозаписи и текстовые расшифровки

Все данные хранятся локально в директории, которую вы укажете в секции volumes вашего Docker Compose файла. В примере выше это папка ./data. Рекомендую настроить регулярное резервное копирование этого раздела на отдельный сетевой накопитель или использовать ZFS для создания мгновенных снимков состояния данных.

Поделиться:TelegramX / TwitterVK

Читайте также