Навыки настоящих инженеров из .agents директории
Практические навыки и конфигурации для инженеров, собранные в репозитории mattpocock/skills. Настройка инфраструктуры, контейнеров и лаборатории.
Настройка домашней инфраструктуры
Выбор оборудования
При выборе оборудования для домашней инфраструктуры важно понимать, что «размещение на домашних серверах» — это не про дешёвые «домашние сервера», а про продуманную систему из реальных компонентов.
Во-первых, обратите внимание на надёжность. Когда я пять лет назад собрал первый «нормальный» сервер из бывшего в употреблении Dell PowerEdge R730, я понял: железо должно работать годами без шума и сбоев. Основные критерии:
- Процессоры с хорошим тепловыделением (Intel Xeon, AMD EPYC) — они предсказуемы в нагрузке
- Оперативная память с ECC (минимум 16 ГБ, лучше 32 ГБ) — это гарантия целостности данных
- Надёжные SSD/NVMe с высоким классом качества (Samsung 870 EVO, WD Black) — для системного диска и кэша
Во-вторых, думайте о масштабируемости. Мой домашний кластер из трёх нод на Proxmox начал с одного Dell R730, но быстро вырос. Поэтому сразу выбирайте:
- Корпус с хорошей вентиляцией и возможностью установки дополнительных кулеров
- Блок питания с запасом мощности (не менее 80% от максимальной потребляемой мощности)
- Поддержку hot-swap SSD (если планируете менять диски без выключения сервера)
В-третьих, не забывайте про периферию. Два Raspberry Pi в моей лаборатории — не просто «игрушки», а важные устройства для периферийных задач (IoT, VPN, локальные DNS). Выбирайте модели с хорошим охлаждением и стабильным питанием.
Проxmox и KVM виртуализация
Proxmox VE — это то, что я считаю лучшим, что случилось с Linux после самого Linux. Это не просто набор инструментов, а системный подход к виртуализации.
Установка и базовая настройка
bash# Добавление репозитория
wget https://repository.proxmox.com/debian/pve/proxmox-ve_8.0-1_amd64.deb
dpkg -i proxmox-ve_8.0-1_amd64.deb
# Настройка сети (пример конфигурации для статического IP)
# Редактирование /etc/network/interfaces
auto enp1s0f0
iface enp1s0f0 inet static
address 192.168.1.100
netmask 255.255.255.0
gateway 192.168.1.1
dns-nameservers 192.168.1.1
# Перезагрузка сетевых сервисов
systemctl restart networking
Создание хранилища для виртуальных машин
bash# Создание LVM2 хранилища на базе ZFS
lvcreate -V 20G -l 100%FREE -T /dev/vg0/thinpool -n vmstore
zfs create -o mountpoint=/mnt/vmstore rpool/vmstore
# Настройка хранилища в Proxmox
pvesm add zfspool vmstore --content images,rootfs --zfs-pool rpool/vmstore
Настройка сети для KVM
bash# Создание bridge-сети для виртуальных машин
# Редактирование /etc/network/interfaces
auto vmbr0
iface vmbr0 inet static
address 192.168.10.1
netmask 255.255.255.0
bridge_ports none
bridge_stp off
bridge_fd 0
# Настройка firewall (пример для nftables)
nft add table inet filter
nft add chain inet filter forward_filter { type filter hook forward priority 0\; policy accept\; }
nft add rule inet filter forward_filter ip daddr 192.168.10.0/24 accept
nft add rule inet filter forward_filter ip daddr != 192.168.10.0/24 drop
Оптимизация производительности
bash# Настройка QEMU для лучшей производительности
qm set 100 --cpu architecture=x86_64,model=host --memory 4096 --balloon 4096
qm set 100 --virtio0 /dev/vg0/vmstore/100/disk_0.raw
qm set 100 --net0 virtio,bridge=vmbr0,firewall=0
Мониторинг и алерты
bash# Установка Prometheus экспортера для Proxmox
wget https://github.com/prometheus/node_exporter/releases/download/v1.7.0/node_exporter-1.7.0.linux-amd64.tar.gz
tar xvfz node_exporter-1.7.0.linux-amd64.tar.gz
sudo mv node_exporter-1.7.0.linux-amd64/node_exporter /usr/local/bin/
# Создание systemd сервиса
sudo tee /etc/systemd/system/node-exporter.service << EOF
[Unit]
Description=Node Exporter
After=network.target
[Service]
User=root
ExecStart=/usr/local/bin/node_exporter
Restart=on-failure
[Install]
WantedBy=multi-user.target
EOF
systemctl daemon-reload
systemctl enable node-exporter
systemctl start node-exporter
Автоматизация резервного копирования
bash# Создание скрипта для резервного копирования VM
cat > /usr/local/bin/backup-vms.sh << 'EOF'
#!/bin/bash
DATE=$(date +%Y%m%d_%H%M%S)
BACKUP_DIR="/mnt/backups/proxmox"
VM_LIST=$(pvesm list vmstore --full | awk '/^100/ {print $1}')
for vm in $VM_LIST; do
qm stop $vm --timeout 30
tar -czf "$BACKUP_DIR/vm-$vm-$DATE.tar.gz" /var/lib/vz/images/$vm
qm start $vm
done
# Очистка старых бэкапов (сохраняем последние 7 дней)
find $BACKUP_DIR -name "*.tar.gz" -mtime +7 -delete
EOF
chmod +x /usr/local/bin/backup-vms.sh
Системный подход к настройке
Важно понимать: Proxmox — это не просто интерфейс для управления виртуальными машинами, это система, которая требует системного подхода. Я всегда начинаю с анализа потребностей:
- Определите нагрузку — сколько CPU, RAM и дискового пространства вам действительно нужно
- Спланируйте сеть — выделите отдельные VLANы для разных типов трафика (сервисы, резервные копии, гостевые сети)
- Настройте мониторинг заранее — иначе вы обнаружите проблему, когда сервер уже упал
Проxmox — это как хорошо сконструированный механизм: если вы понимаете, как он работает, вы можете предсказать его поведение в любой ситуации. Это предсказуемость, о которой я всегда говорю.
Советы для продвинутого использования
- Используйте LVM thin-provisioning для гибкого управления дисковым пространством
- Настройте HA (High Availability) с использованием DRBD для резервирования данных между узлами
- Внедрите автоматизацию с помощью Ansible для конфигурации, а не для деплоя (это системный подход)
Этот системный подход — то, что отличает настоящего инженера от любителя. Настоящий инженер не гасит пожар, а выясняет, почему загорелось. Настоящий инженер делает всё нормально, с мониторингом, алертами и документацией.
Контейнеризация и оркестровка
Docker Compose для многосервисных приложений
Docker Compose — это инструмент, который позволяет описать многосервисное приложение в виде единого файла YAML. Для домашнего сервера это решение обеспечивает предсказуемость и повторяемость, что особенно важно, когда речь идёт о семейных медиа-серверах или личных облачных хранилищах.
Когда Docker Compose оправдан
Во-первых, Docker Compose идеально подходит для статичных конфигураций, которые редко меняются. Например, если вам нужен стэк Nextcloud + PostgreSQL + Redis + Nginx — этот набор останется стабильным в течение многих месяцев.
Пример конфигурации
yamlversion: "3.8"
services:
nextcloud:
image: nextcloud:latest
container_name: nextcloud
ports:
- "8080:80"
environment:
- MYSQL_HOST=nextcloud-db
- REDIS_HOST=nextcloud-redis
depends_on:
- nextcloud-db
- nextcloud-redis
restart: unless-stopped
nextcloud-db:
image: mariadb:latest
container_name: nextcloud-db
environment:
- MYSQL_ROOT_PASSWORD=${MYSQL_ROOT_PASSWORD}
- MYSQL_DATABASE=nextcloud
- MYSQL_USER=nextcloud
- MYSQL_PASSWORD=${NEXTCLOUD_DB_PASSWORD}
volumes:
- db_data:/var/lib/mysql
restart: unless-stopped
nextcloud-redis:
image: redis:alpine
container_name: nextcloud-redis
restart: unless-stopped
nextcloud-cron:
image: nextcloud:latest
container_name: nextcloud-cron
command: /usr/bin/entrypoint.sh cron
environment:
- MYSQL_HOST=nextcloud-db
- REDIS_HOST=nextcloud-redis
depends_on:
- nextcloud-db
- nextcloud-redis
restart: unless-stopped
volumes:
db_data:
Команды для работы
bash# Собрать и запустить все сервисы
docker-compose up -d
# Проверить статус
docker-compose ps
# Просмотреть логи
docker-compose logs -f nextcloud
# Остановить все сервисы
docker-compose down
Практический совет
С практической точки зрения, Docker Compose — это как IKEA для мебели: всё собирается по инструкции, но есть свои нюансы. Например, переменные окружения лучше хранить в файле .env, а не в самом docker-compose.yml — это обеспечивает предсказуемость и безопасность.
bash# Создать файл .env
cat << EOF > .env
MYSQL_ROOT_PASSWORD=strong_password_here
NEXTCLOUD_DB_PASSWORD=nextcloud_password_here
EOF
# Установить права
chmod 600 .env
Почему это важно
Если мы посмотрим на домашнюю лабораторию как на экосистему, то Docker Compose — это её основа. Без него вы получите набор контейнеров, которые невозможно воспроизвести на другом оборудовании. С Docker Compose у вас есть читаемая конфигурация, которую можно контролировать через git, как любой другой код.
k3s и Kubernetes в домашних условиях
Когда домашняя лаборатория вырастает до трёх нод и более, становится очевидно, что Docker Swarm или простой Docker Compose уже не справляются с задачей. Здесь на сцену выходит k3s — облегчённая версия Kubernetes, которая идеально подходит для домашних условий.
Выбор между k3s и полным Kubernetes
Полноценный Kubernetes требует значительных ресурсов — минимум 4 CPU и 8 GB RAM на мастер-ноду. Для домашней лаборатории с тремя нодами это неоправданные траты. k3s же работает даже на Raspberry Pi 4 с 2 GB оперативной памяти.
Установка k3s
bash# На мастер-ноде
curl -sfL https://get.k3s.io | sh -
# Проверить статус
sudo k3s kubectl get nodes
Пример deployment
yamlapiVersion: apps/v1
kind: Deployment
metadata:
name: plex
namespace: media
spec:
replicas: 1
selector:
matchLabels:
app: plex
template:
metadata:
labels:
app: plex
spec:
containers:
- name: plex
image: plexinc/pms-docker:latest
ports:
- containerPort: 32400
env:
- name: PLEX_CLAIM
value: "claim-XXXXXXXXXX"
volumeMounts:
- name: plex-config
mountPath: /config
- name: plex-media
mountPath: /media
volumes:
- name: plex-config
persistentVolumeClaim:
claimName: plex-config-pvc
- name: plex-media
persistentVolumeClaim:
claimName: plex-media-pvc
Сервис для доступа извне
yamlapiVersion: v1
kind: Service
metadata:
name: plex
namespace: media
spec:
selector:
app: plex
ports:
- protocol: TCP
port: 80
targetPort: 32400
type: LoadBalancer
Системный даемон через systemd
ini# /etc/systemd/system/k3s.service
[Unit]
Description=k3s Kubernetes
After=network.target
[Service]
Type=exec
ExecStart=/usr/local/bin/k3s server
Restart=always
User=root
[Install]
WantedBy=multi-user.target
Почему k3s — это правильный выбор
С практической точки зрения, k3s — это компромисс между функциональностью и простотой. Вы получаете полную совместимость с Kubernetes API, но без избыточности. Например, у вас есть возможность использовать Helm для управления приложениями, но при этом вам не нужно настраивать сложную систему управления кластером.
Практический сценарий
Представим, что у вас есть три ноды: master (Dell PowerEdge R730), worker1 (TrueNAS Scale) и worker2 (Raspberry Pi 4). С помощью k3s вы получаете кластер, в котором можно развернуть:
- Nextcloud — для облачного хранилища
- Plex — для медиа-сервера
- Prometheus + Grafana — для мониторинга всей инфраструктуры
Команда для проверки работоспособности
bash# Проверить работу API
kubectl get pods --all-namespaces
# Проверить сетевую политику
kubectl get svc -n media
Вывод
Если Docker Compose — это как сборка мебели из IKEA (просто, предсказуемо, легко понять), то k3s — это как профессиональный инструмент для сборки мебели: более гибкий, более мощный, но требует большего опыта. Для домашней лаборатории k3s — это золотая середина между простотой и функциональностью.
Совет для начинающих
Во-первых, не спешите устанавливать полный Kubernetes. Начните с k3s — это даст вам понимание оркестрации без избыточных затрат. Во-вторых, используйте Helm только тогда, когда у вас появляется более трёх приложений, которые нужно управлять. В-третьих, всегда храните конфигурации в git — это обеспечивает предсказуемость и возможность откатиться назад.
Хранение данных и резервного копирования
ZFS и TrueNAS
ZFS остается золотым стандартом для хранения данных с гарантией целостности. Вот что на практике работает лучше всего.
Настройка ZFS-пула
bash# Создаем пул на SSD и HDD
zpool create -f tank \
raidz2 /dev/sda /dev/sdb \
mirror /dev/sdc /dev/sdd
# Создаем наборы данных с Snapshots
zfs create -o compression=lz4 -o sync=enabled tank/data
zfs create -o compression=zstd:3 tank/backups
zfs snapshot tank/data@weekly-$(date +%U)
Критически важные настройки
bash# Включаем автоматическое исправление ошибок
zpool set autotrim=on tank
# Настраиваем Scrub по расписанию
zpool set scrub=06:00 tank
echo "0 0 * * 0 /usr/sbin/zfs snapshot tank/data@weekly-$(date +%d-%m-%Y)" | crontab -
TrueNAS для сетевого хранилища
bash# Настройка пула в TrueNAS через веб-интерфейс:
# 1. Создаем Pool с типом RAID-Z2 на 4 HDD
# 2. Включаем S.M.A.R.T. мониторинг
# 3. Настраиваем IP-адрес: 10.0.0.10/24
# 4. Настраиваем NFS экспорт:
# - Путь: /mnt/pool
# - С clients: 192.168.1.0/24
# - Режим: Sync
Синхронизация между ZFS и TrueNAS
bash# Используем rsync с ZFS-списками для инкрементальной синхронизации
zfs snapshot tank/data@sync-point
rsync -av --delete --exclude='.zfs' tank/data@sync-point/ 10.0.0.10:/mnt/pool/
Автоматизированное бэкаповое решение
Резервное копирование на основе ZFS Snapshots
bash#!/bin/bash
# backup.sh - Еженедельное резервное копирование с использованием ZFS
POOL="tank"
DATE=$(date +%Y%m%d)
WEEK=$(date +%U)
# Создаем снимки
zfs snapshot $POOL/data@$DATE
zfs snapshot $POOL/backups@$WEEK
# Копируем на TrueNAS
ssh user@nas "zfs create -p backups/weekly-$WEEK"
rsync -av --delete $POOL/data@$DATE/ user@nas:/backups/weekly-$DATE/
Правило бэкапа в TrueNAS
bash# Настройка задачи бэкапа в TrueNAS:
# 1. Источник: NFS экспорт с ZFS
# 2. Назначение: SMB шара на том же TrueNAS
# 3. Режим: Snapsync (быстрый, без дублирования)
# 4. Расписание: Ежедневно, 02:00
# 5. Хранить последние: 30 дневных, 12 еженедельных
Мониторинг и оповещения
bash# Проверка целостности пула
zpool status tank
# Уведомление при ошибке
if ! zpool status tank | grep -q "ONLINE"; then
echo "ALERT: Пул tank вышел из строя!" | \
mail -s "ZFS Emergency" admin@company.com
fi
Резервное копирование контейнеров
bash# Docker Compose для резервного копирования
version: '3.8'
services:
backup:
image: alpine:latest
command: >
sh -c "
apk add --no-cache rsync curl &&
rsync -av /var/lib/docker/volumes/ user@nas:/docker-volumes/ &&
curl -X POST https://alerts.company.com/webhook -d 'status=backup_completed'
"
volumes:
- /var/lib/docker:/var/lib/docker:ro
Стратегия восстановления
bash# Восстановление из ZFS-снимка
zfs destroy tank/data
zfs snapshot tank/data@20231201T120000
zfs promote tank/data@20231201T120000 tank/data
# Восстановление на уровне файлов
zfs rollback tank/data@20231201T120000
rsync -av tank/data/ /mnt/restore/
Ключевые моменты для предсказуемости
- Именование по шаблону — все снимки следуют шаблону
YYYYMMDDиweekly-XX - Автоматизация — нет ручного вмешательства, только скрипты
- Проверка — ежедневная проверка целостности пула
- Оповещения — только критические ошибки, без лишнего шума
Такой подход обеспечивает предсказуемую, проверяемую и автоматизированную стратегию резервного копирования, которая работает в production 24/7 без необходимости в ручном вмешательстве.
Мониторинг и управление
Prometheus и Grafana
Для настоящего инженера мониторинг — это не просто графики и алерты, а предсказуемость работы всей инфраструктуры. В домашней лаборатории из трёх нод, TrueNAS-стораджа и пары Raspberry Pi это особенно важно.
Базовая конфигурация Prometheus
yaml# docker-compose.yml
version: '3.8'
services:
prometheus:
image: prom/prometheus:latest
container_name: prometheus
ports:
- "9090:9090"
volumes:
- ./prometheus.yml:/etc/prometheus/prometheus.yml
- prometheus_data:/prometheus
command:
- '--config.file=/etc/prometheus/prometheus.yml'
- '--storage.tsdb.path=/prometheus'
- '--web.console.libraries=/etc/prometheus/console_libraries'
- '--web.console.templates=/etc/prometheus/consoles'
- '--web.enable-lifecycle'
grafana:
image: grafana/grafana:latest
container_name: grafana
ports:
- "3000:3000"
volumes:
- grafana_data:/var/lib/grafana
environment:
- GF_SECURITY_ADMIN_PASSWORD=admin
yaml# prometheus.yml
global:
scrape_interval: 15s
evaluation_interval: 15s
scrape_configs:
- job_name: 'prometheus'
static_configs:
- targets: ['localhost:9090']
- job_name: 'node'
static_configs:
- targets: ['host.docker.internal:9100']
- job_name: 'docker'
static_configs:
- targets: ['host.docker.internal:9323']
Практический пример: мониторинг домашней лаборатории
bash# Добавляем экспортёры для всех нод
docker run -d \
--name node-exporter-1 \
-p 9100:9100 \
prom/node-exporter \
--collector.cpu-info \
--collector.ntp
docker run -d \
--name node-exporter-2 \
-p 9101:9100 \
prom/node-exporter \
--collector.filesystem.mount-points-exclude=^/(sys|proc|dev)
Графана дашборд для системного инженера
json{
"dashboard": {
"title": "Home Lab Overview",
"panels": [
{
"title": "CPU Usage",
"type": "graph",
"targets": [
{
"expr": "rate(node_cpu_seconds_total{mode='idle'}[5m])",
"legendFormat": "{{instance}}"
}
]
},
{
"title": "Memory Pressure",
"type": "graph",
"targets": [
{
"expr": "(node_memory_MemTotal - node_memory_MemAvailable) / node_memory_MemTotal * 100",
"legendFormat": "Memory usage %"
}
]
}
]
}
}
Реальный кейс: предсказуемость алертов
Когда на Винни-Пухе (главном сервере) начинаются скачки CPU, алерт приходит в Grafana, а затем автоматически передается в Telegram через Alertmanager:
yaml# alertmanager.yml
global:
resolve_timeout: 5m
slack_api_url: 'https://hooks.slack.com/services/...'
route:
receiver: 'telegram'
routes:
- match:
severity: 'critical'
receiver: 'telegram_emergency'
receivers:
- name: 'telegram'
telegram_configs:
- chat_id: '-123456789'
message: '{{ template "telegram.message" . }}'
Systemd и журналы событий
Systemd — это не просто init-система, а основа предсказуемости работы любого сервиса. В домашней лаборатории он позволяет быстро понять, почему тот или иной сервис упал.
Основные команды для инженера
bash# Проверка состояния сервиса
systemctl is-active docker
# Результат: active
# Подробная информация о работе
systemctl status grafana-server
# Показывает последние 10 строк лога, статус, потребление ресурсов
# Поиск проблем в лагах
journalctl -u grafana-server --since "2024-01-15 10:00" --until "2024-01-15 11:00" -p err
Практический пример: отслеживание падений
bash# Автоматический мониторинг критических логов
watch -n 60 'journalctl -u nextcloud --since "5 minutes ago" | grep -E "(error|failed|critical)" | tail -5'
Интеграция с Prometheus
yaml# systemd.service Prometheus exporter
[Unit]
Description=Export systemd journal metrics
After=network.target
[Service]
Type=simple
ExecStart=/usr/bin/promtool --systemd.enable-metrics=true
Restart=always
[Install]
WantedBy=multi-user.target
Реальный кейс: диагностика проблем с бэкапами
Когда Nextcloud на Пятачке переставал бэкапиться, я использовал следующую комбинацию:
bash# Поиск проблем с таймерами
systemctl list-timers --all | grep nextcloud
# Проверка состояния таймера
journalctl -u nextcloud-tmpfiles -f
Советы системного инженера
-
Используйте таймеры вместо cron — они лучше интегрируются с systemd и дают предсказуемое выполнение задач.
-
Настройте ротацию логов — без неё диск на TrueNAS-сторадже заполнится за день:
conf# /etc/logrotate.d/home-lab /var/log/journal/* { daily rotate 7 compress missingok notifempty create 0640 root adm }
- Следите за состоянием сервисов — простая команда
systemctl is-failed --allпокажет все упавшие сервисы за секунду.
Вывод
Настоящий инженер не ищет быстрых решений — он строит предсказуемую инфраструктуру, которую можно понять за 5 минут, настроить за день и поддерживать годами. Мониторинг и управление — это не про графики ради графиков, а про предсказуемость работы всей системы.