* new subdir lang to hold the language specific code * introduce german README.md
dsnap-sync
Über
dsnap-sync ist konzipiert, um Backups für btrfs formatierte Dateisysteme
durchzuführen. Es bedient sich der von btrfs bereitgestellten Snapshot
Funktionalität und kombiniert diese mit den Management-Funktionen von
snapper.
dsnap-sync erstellt die Sicherungen als btrfs-Snapshots auf einem Ziel-Gerät.
Hierzu muss das Gerät zunächst mit btrfs formatiert werden. Anschließend wird
es im Betriebssystem bereitgestellt. Das unterstützte Ziel-Medium ist entweder
eine USB Festplatte, oder auch ein automatisch eingelinktes RAID System auf
einem entfernten Host.
Wenn möglich wird der Sicherungs-Prozess nur die inkrementellen Veränderungen
im Snapshot auf das Ziel-Gerät übertragen. Bei Sicherungen auf einem entfernten
Host wird die Übertragung mittels ssh gesichert.
Mit Blick auf Portabilität und Ressourcen-Schonung wurde dsnap-syncals Posix
Shell Script implementiert (dash). Es unterstützt sowohl interaktive als auch
zeitgesteuerte Sicherungs-Prozesse. Zeitgesteuerte Sicherungen sollten als
systemd Einheiten (service- und timer-units) implementiert werden.
Für Details wird auf den Beispiel-Abschnitt
verweisen.
Sicherungs-Prozess
Für einen Sicherungs-Prozess dsnap-sync wird in der Standardkonfiguration
alle definierten snapper Konfigurationen des Quell-Systems einbeziehen.
Wenn Sie individuelle Sicherungs-Prozesse je snapper Konfiguration
preferieren, können sie eigenständige systemd-units definieren, oder
dsnap-sync interaktiv aufrufen und nur auf die gewünschte snapper
Konfiguration referenzieren (Option: -c oder --config).
Für jede ausgewählte snapper Konfiguration wird dsnap-sync
- die Ziel-Geräte Informationen anzeigen/auswählen
- die eigentliche Sicherung ausführen (Verarbeitung für backupdir, snapper Strukturen, btrfs send / btrfs recieve)
- abschließende Sicherungs-Arbeiten ausführen (Aktualisierung der snapper Metadata für jeden Quell- und Ziel-Snapshot)
- abschließende Aufräumarbeiten
Üblicherweise beschreiben artverwandte Tools diesen Prozess als
Disk to Disk (d2d) Sicherung. Wenn möglich wird dsnap-sync die
btrfs send / btrfs recieve Funktionen nutzen, um nur Veränderungen des
Snapshots zur übertragen. Dabei vergleicht es Snapshot-Daten des Quell
Systems mit Snapshot-Daten des Ziel Systems. Existiert eine gemeinsame
Snapshot-ID auf beiden Systemen, wird dsnap-sync die
btrfs send / btrfs receive Pipe vorbereiten und die Daten transferieren.
Im Vergleich zu einer klassischen Voll-Sicherung verkürzt dies die
benötigte Übertragungszeit erheblich.
Interaktive Sicherungen
Ein interkativer Sicherungsprozess wird Ihnen die Auswahl eines Ziel-Gerätes anbieten. Sie können dieses Ziel-Gerät mit Kommando-Zeilen Parametern vorauswählen. Um eine eindeutige Zuordung eines Ziel-Gerätes sicherzustellen, müssen sie entweder
- ein Paar aus btrfs UUID und SUBVOLID
- ein Target (hier: 'mount point')
auswählen. Damit ist dsnap-sync in der Lage Sicherungsprozesse zu
unterscheiden, die als Quelle den gleichen Snapshot haben, jedoch
auf unterschiedliche Ziele gesichert werden sollen. Als Beispiel sei
angeführt, dass Projektdaten redundant auf voneinander unabhängige
Ziel-Medien (Festplatten, Bänder) gesichert werden müssen.
Bevor dsnap-sync das eigentliche Backup durchführt, wird es Ihnen
die Möglichkeit anbieten, einen Backup-Pfad (backudir) auszuwählen.
Darüber hinaus werden Quell und Ziel Informationen ausgewiesen.
Sie können die Aufforderung zur Bestätigung der Parameter über
Kommandozeilen-Parameter unterdrücken (z.B --noconfirm, --batch).
Zeitgesteuerte Sicherungen
Eine zeitliche Steuerung von Sicherungs-Prozessen sollte über
systemd-units definiert werden. Innerhalb der systemd.service
Definition wird in der [Service] Sektion der ExecStart Parameter
als dsnap-sync Aufruf mit allen gewünschten Optionen eingestellt.
In Verbindung mit einer zugehörigen systemd.timer Definition sind
sie in der Lage, unterschiedliche Ausführungszeiten mit selektierten
Optionen umzusetzen. Für Details wird auf den
Beispiel-Abschnitt verweisen.
Anforderungen
Neben der eigentlichen Posix Shell (e.g. dash), bedient sich
dsnap-sync externer Tools, um die gewünschte Funktionalität
bereitzustellen. Deren Verfügbarkeit wird zur Laufzeit überprüft.
Folgende Tools werden verwendet:
- awk
- btrfs
- findmnt
- sed
- snapper
Optional können interaktive Rückmeldungen mit foldenen Tools ergänzt werden:
- notify-send
- pv
Installation
Aus den Quellen
dsnap-sync ist ein Shell Script. Daher ist keine Kompilierung
erforderlich. Über ein Makefile wird die Installation an den
richtigen Ziel-Pfad gesteuert.
# make install
Sollte Ihr System einen unüblichen Speicherort für die snapper
Konfigurationen verwenden, kann der Pfad in einer Umgebungs-Variable
für die Installation einbezogen werden (SNAPPER_CONFIG).
Arch Linux/Fedora/Gentoo:
# make SNAPPER_CONFIG=/etc/conf.d/snapper install
Debian/Ubuntu:
# make SNAPPER_CONFIG=/etc/default/snapper install
Die lokalen snapper Konfiguration werden um ein neues Template
'dsnap-sync' ergänzt.
Verwendung eines Distributions-Pakets
Wenn verfügbar können sie dsnap-sync als vorkonfiguriertes Paket
installieren. Bitte verwenden sie hierzu den Betriebssystem eigenen
Software Paket Manager.
Optionen
Usage: dsnap-sync [options]
Options:
-a, --automount <path> start automount for given path to get a valid target mountpoint.
-b, --backupdir <prefix> backupdir is a relative path that will be appended to target backup-root
-d, --description <desc> Change the snapper description. Default: "latest incremental backup"
--label-finished <desc> snapper description tagging successful jobs. Default: "dsnap-sync backup"
--label-running <desc> snapper description tagging active jobs. Default: "dsnap-sync in progress"
--label-synced <desc> snapper description tagging last synced jobs.
Default: "dsnap-sync last incremental"
--color Enable colored output messages
-c, --config <config> Specify the snapper configuration to use. Otherwise will perform for each snapper
configuration. Can list multiple configurations within quotes, space-separated
(e.g. -c "root home").
--config-postfix <name> Specify a postfix that will be appended to the destination snapper config name.
-n, --noconfirm Do not ask for confirmation for each configuration. Will still prompt for backup
--batch directory name on first backup"
--nonotify Disable graphical notification (via dbus)
--nopv Disable graphical progress output (disable pv)
-r, --remote <address> Send the snapshot backup to a remote machine. The snapshot will be sent via ssh.
You should specify the remote machine's hostname or ip address. The 'root' user
must be permitted to login on the remote machine.
-p, --port <port> The remote port.
-s, --subvolid <subvlid> Specify the subvolume id of the mounted BTRFS subvolume to back up to. Defaults to 5.
-u, --uuid <UUID> Specify the UUID of the mounted BTRFS subvolume to back up to. Otherwise will prompt."
If multiple mount points are found with the same UUID, will prompt user."
-t, --target <target> Specify the mountpoint of the BTRFS subvolume to back up to.
--remote <address> Send the snapshot backup to a remote machine. The snapshot will be sent via ssh. You
should specify the remote machine's hostname or ip address. The 'root' user must be
permitted to login on the remote machine.
--dry-run perform a trial run where no changes are made.
-v, --verbose Be more verbose on what's going on.
--version show program version
Erster Sicherungslauf
Haben Sie bisher noch niemals auf ein Ziel-Gerät gesichert (first run), wird
dsnap-sync für die Erstellung der notwendigen Ziel Dateisystem-Strukturen
sorgen. Folgende Sicherungstypen werden unterschieden:
-
btrfs-snapshots
Dieser Sicherungstyp ist der Systemstandard. Bei einem btrfs-snapshot wird
dsnap-syncverwendet, um bestehendesnapperKonfigurationen der Quelle auf ein Ziel-Gerät zu synchronisieren. Auf dem Ziel-Gerät wird einesnapperStruktur falls erforderlich neu erstellt. Dies beinhaltet die Erstellung von Ziel-Dateisystem Pfaden, als auch die Erstellung der snapper Konfiguraktion unter Verwendung eines Templates (/etc/snapper/config-templates/dsnap-sync). Um eindeutige Namen bei der Nutzung von Konfiguration sicherzustellen, wirddsnap-syncden Host-Namen des Quell-Systems an den Konfigurationsname auf dem Ziel-System anhängen. Sie können dieses Verhalten durch eine Konfigurations-Option anpassen (--config-postfix).Folgende Parameter werden vom Template
dsnap-syncan die aktive Konfiguration vererbt:- Neue Snapshots als Type 'single' markieren
- Neue Snapshots mit dem Clean-Algorithmus 'timeline' markieren
- die Konfigurationsoption 'CONFIG-TYPE=child' setzen
- die Konfigurationsoption 'TIMELINE_CREATE=no' setzen
- die Konfigurationsoption 'TIMELINE_CLEANUP=yes' setzen
Bitte passen sie diese Einstellungen auf Ihre Bedürfnisse an.
-
btrfs-clone
Dieser Sicherungstyp ermöglicht die Duplizierung einer bereits existierenden
snapperKonfiguration innerhalb eines Quell-Systems. Sinnvoll ist dies Funktionalität, wenn die auf dem Quell-System die gewähltesnapperKonfiguration auf externe Festplatten archiviert werden sollen (disk-2-disk-2-disk). Auch diese Clone-Konfiguration kann anschließend über diesnapperManagement-Tools verwaltet werden. Das Ziel-Gerät muss daher zwingend ein btrfs Dateisystem bereitstellen. -
btrfs-archive
Stellt das Ziel-Gerät kein btrfs Dateisystem bereit (e.g. ext4, xfs, ltofs tapes), kann der Sicherungstpy btrfs-archive angewendet werden.
dsnap-syncwird anhand der Quell Snapshot-ID die Daten in ein gewöhnliches Unterverzeichnis kopieren. Dieses Stamm-Verzeichnis befindet sich unterhalb des Backup-Verzeichnisses auf dem Ziel-Gerät (target-subdirectory). Unterhalb des 'target-subdirectory' erstelltdsnap-syncin Analogie zursnapperStruktur:- der aktuelle btrfs Stream wird im Unterverzeichnis
snapshotabgelegt - die Metadaten des Prozesses werden in der Datei
info.xmlabgelegt
Steht
ltfszur Verfügung, ist ein Backup auf Bänder möglich. Hierbei wird ein Band durch ltfs vorbereitet und kann anschließend in das Dateisystem unter einem definierten Pfad eingebunden werden ('mount-point'). Einedsnap-syncSicherung auf diesen Pfad erfolgt über den Sicherungstypbtrfs-archive. - der aktuelle btrfs Stream wird im Unterverzeichnis
Automounter
dsnap-sync stellt alle verwendbaren btrfs Dateisysteme als Prozess-
Ziele bereit. Da Festplatten mit großen Speicher-Kapazitäten heutzutage
sehr preiswert angeboten werden, sind externe Festplatten als zusätzliche
Sicherungsziele üblich. Werden dies externen Festplatten aber nicht
während des Boot-Prozesses oder über dynamische Regeln eingebunden,
können sie von dsnap-sync nicht in der Auswahl-Funktion angeboten senden.
Es ist darüber hinaus durchaus sinnvoll, solche Festplatten nicht permanent
einzubinden (z.B. um die Risiken eines Malware-Angriffs zu minimieren, der
erreichbare Pfade verschlüsselt.)
Um externe Festplatten dynamisch mit einer persistenten Namens Syntax
einzubinden, können sie als 'automountbare Geräte' definiert werden.
Aktiviert wird der Automount-Prozess vor der Ziel-Auswahl zu aktivieren,
kannn der 'Mount-Point' als Option beim dsnap-sync Aufruf übergeben
werden (z.B: --automount /var/backups/archive-disk1).
Der Abschnitt Automount
des Beispiel Dokuments enthält weitere Details.
Mitarbeit
Hilfe ist sehr willkommen! Gerne könnt Ihr das Projekt forken und PR's einreichen, um neue Funktion zu implementieren oder Fehler zu bereinigen. Wenn Ihr an neuen Funktionen arbeiten wollt, schaut bitte auch in das TODO Dokument. Vielleicht findet Ihr dort auch Anregungen.
Ähnliche Projekte
dsnap-sync basiert auf dem ursprünglichen Code von Wes Barnetts. Als open-source war
meine Intention, die Erweiterungen in das Projekt zurückfliessen zu lassen.
Neben der Tatsache, dass diese Version bashisms eleminiert hat, sieht Wes sich leider
zeitlich ausser Stande, den neuen Code in angemessener Art und Weise zu prüfen um ihn
anschließende in snap-sync einzubinden. Jeder ist willkommen dies zu tun.
Bis dahin habe ich mich entschlossen, die Ergebnisse als Fork unter dem Namen dsnap-sync
zu veröffentlichen. Die Namensämderung soll mögliche Verwechslungen vermeinden.
Lizenz
Diese Arbeit ist unter der Creative Common License 4.0 lizensiert.
© 2016, 2017 James W. Barnett; © 2017 - 2018 Ralf Zerres
