Инструменты-разработчика для реальной инженерной работы
Практическое руководство по профессиональным инструментам для инженера. На основе опыта Алексея Кузнецова — домашняя лаборатория на Proxmox и Docker. Описаны шаги по настройке кластеров, автоматизации и мониторингу инфраструктуры.
Профессиональные инструменты
Инструменты выбираю не по новизне, а по предсказуемости. Если конфиг можно отредактировать вручную — я буду править его вручную. GUI оставляю тем, кто не помнит, где лежит конфиг. Ниже разберу два стека, которые использую дома и на клиентских проектах: Docker Compose для отдельных сервисов и Kubernetes, когда одного хоста уже недостаточно.
Docker и контейнеризация
Docker Compose — это как IKEA для мебели: всё собирается из стандартных деталей, но свои нюансы есть всегда. Я не запускаю контейнеры голым «docker run» в продакшене, даже на домашнем сервере. compose-файл — это документация, которая не враньё.
Пример. На сервере «Винни-Пух» у меня стоит стек для личного облака: Nextcloud, PostgreSQL, Redis и Caddy на входе. compose-файл выглядит так:
yamlversion: "3.8"
services:
db:
image: postgres:15-alpine
restart: unless-stopped
environment:
POSTGRES_DB: nextcloud
POSTGRES_USER: nextcloud
POSTGRES_PASSWORD_FILE: /run/secrets/db_password
volumes:
- nextcloud_db:/var/lib/postgresql/data
secrets:
- db_password
redis:
image: redis:7-alpine
restart: unless-stopped
command: redis-server --appendonly yes
volumes:
- nextcloud_redis:/data
app:
image: nextcloud:stable-apache
restart: unless-stopped
depends_on:
- db
- redis
environment:
- MYSQL_PASSWORD_FILE=/run/secrets/db_password
- MYSQL_DATABASE: nextcloud
- MYSQL_USER: nextcloud
- MYSQL_HOST: db
volumes:
- nextcloud_data:/var/www/html
secrets:
- db_password
caddy:
image: caddy:2-alpine
restart: unless-stopped
ports:
- "80:80"
- "443:443"
volumes:
- ./Caddyfile:/etc/caddy/Caddyfile:ro
- caddy_data:/data
- caddy_config:/config
depends_on:
- app
volumes:
nextcloud_db:
nextcloud_redis:
nextcloud_data:
caddy_data:
caddy_config:
secrets:
db_password:
file: ./secrets/db_password
Пароли не лежат в репозитории. db_password читается из файла, а значение я генерирую отдельно и кладу в ./secrets/ с правами 600. Это базовая гигиена, которую часто пропускают дома.
Чтобы стек поднимался после перезагрузки без лишних телодвижений, я оборачиваю docker compose в systemd-юнит. systemd — лучшее, что случилось с Linux после самого Linux, и я готов это аргументировать.
ini[Unit]
Description=Nextcloud stack on Vinni-Pukh
Requires=docker.service
After=docker.service
[Service]
Type=oneshot
RemainAfterExit=yes
WorkingDirectory=/opt/stacks/nextcloud
ExecStart=/usr/bin/docker compose up -d
ExecStop=/usr/bin/docker compose down
TimeoutStartSec=0
[Install]
WantedBy=multi-user.target
Юнит включаю один раз: systemctl enable --now nextcloud-stack.service. После этого сервис стартует вместе с системой, а логи собираются в journald. Если что-то упадёт, journalctl -u nextcloud-stack.service покажет, почему.
Kubernetes и кластеризация
Когда сервисов становится больше одного хоста, Docker Compose перестаёт быть удобным. Пять лет назад я собрал кластер из трёх нод на Proxmox — серверы назвал «Винни-Пух», «Пятачок» и «Сова». На них крутится k3s, лёгкий дистрибутив Kubernetes, который не требует отдельных нод управления.
Использую официальный скрипт установки k3s. На первой ноде:
bashcurl -sfL https://get.k3s.io | sh -s - server \ --cluster-init \ --tls-san 192.168.1.10 \ --write-kubeconfig-mode 644
На остальных:
bashcurl -sfL https://get.k3s.io | K3S_URL=https://192.168.1.10:6443 \
K3S_TOKEN=$(cat /var/lib/rancher/k3s/server/node-token) \
sh -
Токен беру с первой ноды и не пересылаю по открытому каналу. Кластер работает, но я не разворачиваю в нём всё подряд. Kubernetes оправдан, когда нужна автоматическая перезагрузка контейнеров, балансировка нагрузки или декларативное описание состояния. Для одного блога или файлового хранилища это избыточно.
Пример манифеста: простой Deployment с Nginx и сервисом перед ним.
yamlapiVersion: apps/v1
kind: Deployment
metadata:
name: home-app
labels:
app: home-app
spec:
replicas: 2
selector:
matchLabels:
app: home-app
template:
metadata:
labels:
app: home-app
spec:
containers:
- name: web
image: nginx:1.25-alpine
ports:
- containerPort: 80
resources:
requests:
memory: "64Mi"
cpu: "100m"
limits:
memory: "128Mi"
cpu: "250m"
---
apiVersion: v1
kind: Service
metadata:
name: home-app
spec:
selector:
app: home-app
ports:
- protocol: TCP
port: 80
targetPort: 80
type: ClusterIP
Ресурсы я ограничиваю всегда. Без лимитов один утекающий контейнер съест всю память ноды, и кластер перестанет отвечать. Это не страшилка, а проверенный опыт.
Для постоянных данных использую NFS-шару с TrueNAS. Подключаю через PersistentVolume:
yamlapiVersion: v1
kind: PersistentVolume
metadata:
name: pv-nfs-config
spec:
capacity:
storage: 5Gi
volumeMode: Filesystem
accessModes:
- ReadWriteMany
persistentVolumeReclaimPolicy: Retain
nfs:
server: 192.168.1.50
path: /mnt/tank/k8s/config
ReadWriteMany позволяет нескольким подам читать и писать в одну папку, что важно для конфигов и логов.
Автоматизацию настройки нод делаю через Ansible, но только для конфигурации ОС: пользователи, SSH, брандмауэр. Развёртывание приложений оставляю Kubernetes. Смешивать инструменты не стоит — каждый должен делать своё.
Кластер работает стабильно, потому что я не лезу в него лишний раз. Предсказуемость конфигураций важнее количества функций.
Инфраструктура на домашнем уровне
Инфраструктура на домашнем уровне
Proxmox и виртуализация
Домашний сервер начинается не с покупки железа, а с понимания, что на нём будет работать. Я собрал первый «нормальный» сервер пять лет назад на бывшем в употреблении Dell PowerEdge R730. Сегодня это кластер из трёх нод на Proxmox VE, и каждый узел назван в честь персонажей советских мультфильмов: Винни-Пух — мастер-нода, Пятачок и Сова — вычислительные.
Proxmox объединяет два гипервизора: KVM для полноценных виртуальных машин и LXC для лёгких контейнеров. С практической точки зрения, это разделение полезно. Если нужно запустить полноценную ОС с собственным ядром — берём KVM. Если достаточно изолированной среды для одного приложения — LXC потребляет меньше ресурсов и стартует быстрее.
Если мы посмотрим на архитектуру кластера, то видно: мастер-нода хранит общую конфигурацию, а вычислительные ноды запускают машины и хранят их диски.
Установка Proxmox не отличается от установки Debian: загрузочный флеш-накопитель, мастер-нода, выбор файловой системы. Я всегда ставлю ZFS. Контрольные суммы на уровне файловой системы дают предсказуемость, которой нет у ext4, когда диск начинает молча гнить.
После установки настраиваем сеть. Proxmox создаёт сетевой мост vmbr0, через который ходят все виртуальные машины. Статический адрес прописываем в /etc/network/interfaces:
bashauto vmbr0 iface vmbr0 inet static address 192.168.1.10/24 gateway 192.168.1.1 bridge-ports eno1 bridge-stp off bridge-fd 0
Сначала убедитесь, что интерфейс называется eno1, а не eth0. Имена сетевых карт в современном Debian зависят от железа, и опечатка здесь лишит доступа к серверу.
Создание контейнера LXC — один из частых сценариев. Например, под Nextcloud или собственное приложение:
bashpct create 100 local:vztmpl/ubuntu-22.04-standard_22.04-1_amd64.tar.zst \
-storage local-zfs \
-memory 2048 -cores 2 \
-net0 name=eth0,bridge=vmbr0,ip=192.168.1.50/24,gw=192.168.1.1 \
-rootfs local-zfs:8 \
-onboot 1
pct start 100
Параметр -onboot 1 гарантирует, что контейнер поднимется вместе с хостом. Без него после перезагрузки Proxmox придётся запускать всё вручную.
Для полноценной виртуальной машины используем qm. Вот как я разворачиваю Debian под сервер приложений:
bashqm create 200 --name "Сова" --memory 4096 --cores 2 \
--net0 virtio,bridge=vmbr0 \
--scsihw virtio-scsi-pci --scsi0 local-zfs:32 \
--ide2 local:iso/debian-12.iso \
--boot order=scsi0
qm start 200
Когда узлов становится больше одного, объединяем их в кластер. На второй ноде выполняем:
bashpvecm add 192.168.1.10
После этого все три сервера видят общие хранилища и могут мигрировать запущенные машины без простоя и т. д. Миграция работает только если сетевые мосты и имена хранилищ совпадают на всех нодах — это проверяю перед первым pvecm add.
Конфигурация Proxmox живёт в /etc/pve. Это кластерная файловая система, и править её вручную — не страшно, если понимаешь, что делаешь. GUI удобен для быстрого взгляда, но я правлю конфиги руками: так легче достичь предсказуемости и не гадать, какая галочка где стоит.
Зеркалирование и резервное копирование
Хранение данных — это то, где ошибка стоит дороже простоя сервера. Домашний сторадж на TrueNAS с 48 ТБ полезного объёма построен на ZFS. Я использую зеркала (mirror) вместо RAIDZ: при выходе из строя одного диска заменяю его, и пул восстанавливается быстрее, чем при чётырёхуровневой избыточности.
Создание пула с двумя зеркалами:
bashzpool create tank mirror /dev/sda /dev/sdb mirror /dev/sdc /dev/sdd
zfs set compression=lz4 tank
zfs set atime=off tank
Сжатие lz4 не заметно по процессору, но экономит место. Отключение atime снижает количество записи на диск при каждом чтении файла.
Снимки ZFS делаю регулярно:
bashzfs snapshot tank/backups@2024-01-15
Если нужно отправить снимок на другой сервер:
bashzfs send tank/backups@2024-01-15 | ssh 192.168.1.20 zfs receive tank/backups-replica
Это работает только если целевой пул уже существует и имеет такую же структуру. Для репликации между узлами кластера Proxmox использую встроенное резервное копирование.
Proxmox Backup Server или обычный vzdump — выбор зависит от масштаба. Для трёх нод достаточно vzdump с сохранением на NFS-шару TrueNAS:
bashvzdump 100 --mode snapshot --storage backups --compress zstd --remove 0
Параметр --remove 0 отключает автоматическое удаление старых бэкапов. Я управляю ротацией вручную, чтобы не остаться без копии из-за ошибки в правиле очистки.
Хранилище бэкапов подключаю через веб-интерфейс Proxmox: Datacenter → Storage → Add → NFS. Указываю IP TrueNAS и путь к датасету. Важно: NFS-экспорт должен разрешать запись с адресов кластера, иначе бэкап упадёт с ошибкой прав доступа.
Правило 3-2-1 работает и дома: три копии данных, на двух разных носителях, одна вне дома. У меня третья копия лежит на внешнем диске, который раз в месяц увозится к родителям. Без этого любой пожар или наводнение в подъезде аннулирует все остальные меры.
Самое важное — проверять восстановление. Бэкап без тестового развёртывания — это просто место на диске, которое создаёт иллюзию безопасности. Раз в квартал я поднимаю виртуальную машину из последнего снимка и проверяю, что службы стартуют.
Документация TrueNAS Руководство по ZFS
Автоматизация и DevOps
Автоматизация и DevOps
Ansible и конфигурация
Я использую Ansible только для конфигурации, никогда не для деплоя приложений. Для деплоя есть Docker Compose и systemd, а Ansible должен приводить сервер к заданному состоянию и ничего больше. В моей домашней лаборатории четыре хоста — Винни-Пух, Пятачок, Сова и Кролик — и каждый из них должен быть настроен одинаково: SSH, брандмауэр, Docker, базовые пакеты. Если я вручную поправлю конфиг на одном узле и забуду про остальные, через месяц никто не вспомнит, где именно лежит исключение. Предсказуемость конфигураций — это не роскошь, а необходимость.
Во-первых, инвентарь. Я веду его в одном файле, без динамических скриптов и лишней магии:
ini[proxmox_nodes]
vinni-pukh ansible_host=192.168.1.10
piglet ansible_host=192.168.1.11
owl ansible_host=192.168.1.12
rabbit ansible_host=192.168.1.13
[proxmox_nodes:vars]
ansible_user=alexey
ansible_ssh_private_key_file=~/.ssh/id_ed25519
Потом playbook. Ничего сложного — обновление пакетов, установка Docker, копирование конфига sshd:
yaml---
- name: Базовая настройка узлов Proxmox
hosts: proxmox_nodes
become: yes
tasks:
- name: Обновить кэш apt и установить базовые пакеты
apt:
name:
- curl
- gnupg
- ca-certificates
state: present
update_cache: yes
- name: Добавить официальный ключ Docker
ansible.builtin.apt_key:
url: https://download.docker.com/linux/debian/gpg
state: present
- name: Добавить репозиторий Docker
ansible.builtin.apt_repository:
repo: "deb [arch=amd64] https://download.docker.com/linux/debian bookworm stable"
state: present
- name: Установить Docker Engine
apt:
name:
- docker-ce
- docker-ce-cli
- containerd.io
state: present
- name: Добавить пользователя в группу docker
user:
name: "{{ ansible_user }}"
groups: docker
append: yes
- name: Скопировать конфиг sshd
copy:
src: files/sshd_config
dest: /etc/ssh/sshd_config
owner: root
group: root
mode: '0644'
notify: Перезапустить sshd
handlers:
- name: Перезапустить sshd
service:
name: sshd
state: restarted
С практической точки зрения, handler здесь важен: sshd перезапустится только если конфиг действительно изменился. Если я запущу playbook второй раз, ничего не произойдёт — это и есть идемпотентность, и именно за неё я терплю Ansible.
GUI для конфигурации не использую. Если мне нужно изменить порт SSH или добавить правило в ufw, я правил source-файл и прогоняю playbook. Так проще откатиться: достаточно посмотреть в git, что именно поменялось в коммите.
Мониторинг и логирование
Мониторинг должен работать даже когда я сплю. В домашней лаборатории я использую стек Prometheus + Grafana + Alertmanager, а для логов — Loki. Все компоненты запущены в Docker Compose на отдельном узле, который я называю Сова. Сбор метрик с хостов — через node_exporter, с контейнеров — через cAdvisor.
Во-первых, docker-compose.yml:
yamlversion: "3.8"
services:
prometheus:
image: prom/prometheus:latest
container_name: prometheus
restart: unless-stopped
volumes:
- ./prometheus/prometheus.yml:/etc/prometheus/prometheus.yml:ro
- prometheus-data:/prometheus
command:
- --config.file=/etc/prometheus/prometheus.yml
- --storage.tsdb.path=/prometheus
- --web.console.libraries=/etc/prometheus/console_libraries
ports:
- "9090:9090"
grafana:
image: grafana/grafana-oss:latest
container_name: grafana
restart: unless-stopped
environment:
- GF_SECURITY_ADMIN_PASSWORD=admin
volumes:
- grafana-data:/var/lib/grafana
ports:
- "3000:3000"
loki:
image: grafana/loki:latest
container_name: loki
restart: unless-stopped
ports:
- "3100:3100"
command: -config.file=/etc/loki/local-config.yaml
promtail:
image: grafana/promtail:latest
container_name: promtail
restart: unless-stopped
volumes:
- ./promtail/config.yaml:/etc/promtail/config.yaml:ro
- /var/log:/var/log:ro
command: -config.file=/etc/promtail/config.yaml
volumes:
prometheus-data:
grafana-data:
Конфиг Prometheus простой — скребет себя, ноды и Loki:
yamlglobal:
scrape_interval: 15s
scrape_configs:
- job_name: prometheus
static_configs:
- targets: ["localhost:9090"]
- job_name: node
static_configs:
- targets:
- "vinni-pukh:9100"
- "piglet:9100"
- "owl:9100"
- "rabbit:9100"
- job_name: loki
static_configs:
- targets: ["loki:3100"]
Логи я собираю journald и файлы nginx через Promtail, чтобы не лезть на каждый хост по SSH, когда что-то ломается. С практической точки зрения, достаточно одного запроса в Grafana Loki, чтобы понять, на каком из четырёх серверов упал контейнер.
Alertmanager настроен на отправку в Telegram. Без алертов мониторинг — это просто красивые графики, которые никто не смотрит до инцидента. Я не использую сложные правила: если CPU выше 90 % в течение пяти минут или диск заполнен на 85 %, приходит сообщение. Больше не нужно.
Каждое 1 апреля я отключаю мониторинг на своём сервере и смотрю, сколько пройдёт, пока кто-нибудь не заметит. Рекорд — 14 часов. «Это не шутка», а способ проверить, действительно ли алерты работают, или я просто забыл про них после настройки.
Люблю systemd, и в этом контексте он важен: все контейнеры мониторинга запущены через systemd-units с Restart=always. Если демон упадёт, система поднимет его без моего участия. Предсказуемость — снова на первом месте.
Часто задаваемые вопросы
Почему вы правите конфиги вручную, а не используете панели управления?
GUI скрывает, где лежит конфиг, и через полгода вы не вспомните, почему параметр изменён. Я правлю файлы вручную, потому что compose-файл или /etc/nginx/nginx.conf — это документация, которая не враньё. Если что-то сломается, проще открыть конфиг и найти строку, чем копаться в меню панели.
Можно ли запускать контейнеры голым docker run вместо Docker Compose?
Можно, но не стоит на сервере, который перезагружается. compose-файл фиксирует версии образов, переменные окружения и зависимости между сервисами, поэтому после перезагрузки всё поднимается предсказуемо. Голой командой легко забыть флаг restart или volume, и данные окажутся внутри контейнера, а не на диске.
Когда стоит переходить с Docker Compose на Kubernetes?
Когда на одном хосте уже не хватает ресурсов или нужно автоматически перезапускать сервис на другой ноде после отказа. С практической точки зрения, Kubernetes оправдан в кластере из трёх и более серверов, где важно самовосстановление подов. Для одного «Винни-Пуха» или пары Raspberry Pi Compose будет проще и надёжнее.
Как организовать бэкапы в домашней лаборатории?
На сервере «Винни-Пух» тома Docker с Nextcloud и PostgreSQL смонтированы на отдельный раздел ZFS. Раз в неделю скрипт делает снимок и копирует его на TrueNAS через NFS, а критичные конфиги хранятся в приватном Git-репозитории. Без проверки восстановления бэкап не считается готовым, поэтому я тестирую его раз в квартал.
Нужен ли мониторинг для пары контейнеров дома?
Да, иначе вы узнаете о проблеме от домочадцев, когда перестанет открываться Plex или Nextcloud. Я поднимаю Prometheus с Grafana на отдельной ноде и настраиваю Alertmanager, чтобы при падении сервиса приходило уведомление. Предсказуемость инфраструктуры начинается с того, что вы знаете о поломке раньше пользователей.