Komplettsicherung von VMs (FC, iSCSI oder NAS?)

[mr.sarge]

Hallo!

in unserer Firma haben wir mittlerweile alle kritischen Server virtualisiert (Exchange, Oracle, einen DC, Fileserver, SharePoint, SQL). Die Daten (Systemstate, Files, Datenbanken usw.) sichern wir zur Zeit mit Symantec Backup Exec 12.5. Nun möchten wir auch die gesamten virtuellen Maschinen sichern und möglichst extern irgendwo unterbringen (z.B. Band oder eine kleine NAS). Im Falle eines Totalausfalls sollte die Möglichkeit bestehen schnellstmöglichst die virtuellen Maschinen neu aufzusetzen und die Daten zurückzusichern

Im Moment tu ich mich schwer eine passende Lösung zu finden bei der Speicherplatzbedarf, Performance und Aufwand zusammenpassen. Wäre sehr froh wenn mir jemand ein paar Lösungsvorschläge machen könnte.

Unsere Umgebung ist wie folgt aufgebaut:
SAN: MSA 2000 (FC)
Blade-Server für VMs (FC)
3 ESX Server 3.5 U4 (geplant ist auf vShpere 4 aufzurüsten)

Als Backupserver setzen wir einen Windows 2003 Server mit einem 200/400 Ultrium-Bandlaufwerk ein. Der Server ist zur zeit NICHT an die SAN mit FC angebunden.

Problem:
Auf den Bändern kann ich die virtuellen Maschinen nicht sichern da der Speicherplatz nicht mehr ausreicht. Habe deshalb an eine Sicherung auf einem anderen Speichermedium gedacht, z.B. NAS.

Möglicher Lösungsansatz:
- Einbau einer FC-Karte in den Backupserver
- Anbindung der NAS über das normale LAN
- Sicherung der VMs mittels VCB via FC auf die NAS

Wäre ein solches Szenario denkbar oder scheidet es aus Performancegründen (zu langsam, zu großer Overhead?) im Vornherein aus?
Eine andere Möglichkeit wäre vielleicht die Sicherung über iSCSI auf die NAS. Hierfür werden aber wiederum separate iSCSI Switches benötigt richtig?

Wäre super wenn mir jemand ein paar Tips geben könnte.

mfg,

Sarge

[e-e-e]

Hallo,

von welcher Größenordnung (GB) sprechen wir hier?

[mr.sarge]

Hallo!

zur Zeit Sichern wir ca.400GB an Nettodaten, also Files, Datenbanken usw. mittels Backup Exec 12.5.
Die VMs haben zusammen eine Größe von ca. 700GB, geplant sind weitere Virtualisierungen, die Größe der VMs wird dann ca. 1TB betragen.

viele Grüße,

Sarge

[mr.sarge]

hat niemand ein paar Lösungsvorschläge? Wäre für jeden Tip dankbar!


mfg,

Sarge

[irix]

Hier werden taeglich auserwaehlte VMs als FullVM per VCB gesichert auf einen Backup Server aka HoldingTank. Diese stehen in einem 2. Brandabschnitt.

Bei der VCB Sicherung werden teilweise Dienste gestoppt oder aber auch ganze VMs heruntergefahren und hinterher wieder gestartet. Das ganze geschieht automatisch.

Einige VMs haben einen Backup Agent (hier ARCserve) installiert oder aber es kommt MS DPM zum Einsatz. Letzteres ist vom Konzept her eine schoene Sache zumind. was den "kurzfristigen" Schutz angeht. Alles andere muss sich bei dem Produkt noch entwickeln.

Zum WE werden alle VMs per VCB gesichert was ca. 25h dauert. Hier ist nur ein Backup Server inwollviert obwohl schon ein 2. bereit steht der Teile der VCB Tagessicherung uebernehmen soll damit der Platz besser ausgenutzt werden kann.

Die Wochensicherung teilt sich in mehrere Jobs auf welche teilweise parallel laufen. Das geschieht nicht aus Performance Gruenden sondern ist dem Umstand zuverdanken das sich bestimmte Dienste zu definierten Zeiten "beenden" soll.

2x SAP mit je 600GB
1x Exchange 2003 1.2TB
1x Netware 4.11 20GB
1x 61 VMs mit 3.4TB

Durch die VCB Optimierung werden nur die Nutzdaten gespeichert so das weniger Platz benoeitgt wird. Durch komprimierung koennte man nochmal 60% herausholen was aber im Moment nicht gemacht wird.

Der Hauptjob sind die 61 VMs in 25h. Die anderen Jobs laufen versetzt innerhalb dieser Zeitspanne.

Hier wird das Konzept Backup To Disk To Tape verfolgt was beduetet das nur Wochen und Monatssicherung aufs Band geschrieben werden und das als "lokale" Daten vom Backup Server aus. Die Tages. und im Falle von MS DPM "Minuten- Sicherungen" liegen nur auf Disk vor.


Restore geschieht als komplette VM oder auserwaehlte vDisks mittels
1. Konverter
2. Ueber ein gemountetes NFS Share in das COS eines ESX unter Verwendung von "vcbMounter" auf Basis der Catalog Datei. Dies kann parallel auf allen beteiligten ESX Server laufen
3. Sofern Windows VMs bertoffen sind lassen sich diese VMDKs auf dem Backup Server mounten um gezielt Dateien heraus zuholen.

Jeder Backup Job wird protokolliert und als E-Mail verschickt. Extra Lizenzen oder aber eine Anbindung von VCB an ein $BackupProgramm haben wir nicht gemacht.

Gruss
Joerg

[mr.sarge]

Hallo Joerg,

danke für die Infos wie das bei euch gehandhabt wird. Noch eine Frage dazu: welchen Storage nutzt ihr für den Backup-Server um die VMs zu sichern? Die Datenmenge ist ja beträchtlich, die lokalen Platten im Backup-Server werden da sicher nicht ausreichen..

mfg,

Sarge

Hier werden taeglich auserwaehlte VMs als FullVM per VCB gesichert auf einen Backup Server aka HoldingTank. Diese stehen in einem 2. Brandabschnitt.

Bei der VCB Sicherung werden teilweise Dienste gestoppt oder aber auch ganze VMs heruntergefahren und hinterher wieder gestartet. Das ganze geschieht automatisch.

Einige VMs haben einen Backup Agent (hier ARCserve) installiert oder aber es kommt MS DPM zum Einsatz. Letzteres ist vom Konzept her eine schoene Sache zumind. was den "kurzfristigen" Schutz angeht. Alles andere muss sich bei dem Produkt noch entwickeln.

Zum WE werden alle VMs per VCB gesichert was ca. 25h dauert. Hier ist nur ein Backup Server inwollviert obwohl schon ein 2. bereit steht der Teile der VCB Tagessicherung uebernehmen soll damit der Platz besser ausgenutzt werden kann.

Die Wochensicherung teilt sich in mehrere Jobs auf welche teilweise parallel laufen. Das geschieht nicht aus Performance Gruenden sondern ist dem Umstand zuverdanken das sich bestimmte Dienste zu definierten Zeiten "beenden" soll.

2x SAP mit je 600GB
1x Exchange 2003 1.2TB
1x Netware 4.11 20GB
1x 61 VMs mit 3.4TB

Durch die VCB Optimierung werden nur die Nutzdaten gespeichert so das weniger Platz benoeitgt wird. Durch komprimierung koennte man nochmal 60% herausholen was aber im Moment nicht gemacht wird.

Der Hauptjob sind die 61 VMs in 25h. Die anderen Jobs laufen versetzt innerhalb dieser Zeitspanne.

Hier wird das Konzept Backup To Disk To Tape verfolgt was beduetet das nur Wochen und Monatssicherung aufs Band geschrieben werden und das als "lokale" Daten vom Backup Server aus. Die Tages. und im Falle von MS DPM "Minuten- Sicherungen" liegen nur auf Disk vor.


Restore geschieht als komplette VM oder auserwaehlte vDisks mittels
1. Konverter
2. Ueber ein gemountetes NFS Share in das COS eines ESX unter Verwendung von "vcbMounter" auf Basis der Catalog Datei. Dies kann parallel auf allen beteiligten ESX Server laufen
3. Sofern Windows VMs bertoffen sind lassen sich diese VMDKs auf dem Backup Server mounten um gezielt Dateien heraus zuholen.

Jeder Backup Job wird protokolliert und als E-Mail verschickt. Extra Lizenzen oder aber eine Anbindung von VCB an ein $BackupProgramm haben wir nicht gemacht.

Gruss
Joerg

[irix]

Hallo Joerg,

danke für die Infos wie das bei euch gehandhabt wird. Noch eine Frage dazu: welchen Storage nutzt ihr für den Backup-Server um die VMs zu sichern? Die Datenmenge ist ja beträchtlich, die lokalen Platten im Backup-Server werden da sicher nicht ausreichen..

Die Holding Tanks haben lokalen Storage, sprich viele SATA 1TB Platten, denn anders laesst sich ein BackupToDisk nicht realisieren Hier kommt oftmals alte Hardware zum Zuge welche nach der Konsolidierung uebergeblieben ist. Diese werden dann Auf- und Umgeruestet und die LTO Changer sind hier angeschlossen.

Da durch das wenige Grosse Dateien gesichert werden erreicht ein LTO 3|4 4000MB/min was sich noch steigern wuerde waere die CPU schneller.

Wir haben auch kleine Installation wo sich auf diese weise 2 ESX ueber Kreuz sichern per VCB. Die ESX haben 6-8 interne Platten und bei den VMs handelt es sich um viele kleine Dienste oder Legacy Anwendungen. Hier landen die Daten also in einer oder mehren grossen VMDKs. Bei dieser Konstellation steht eher Disaster Revocery im Focus und nicht die taegliche Sicherung von Daten. Das koennte man natuerlich auch auf ein NAS herausschreiben welches in die VCB Proxy VMs eingehaengt wird. Allerdings gibs keine kleinen NAS welche eine annehmbare Performance liefern. (>=25MB/s)

Gruss
Joerg

[Nepokat]

Hallo Sarge,

ich sicher auf zwei NAS Systemen von Promis (NS4300N) (günstig und bis dato sehr Zuverlässig) mittels Trilead VM Explorer.
Der Vorteil liegt ganz klar auf der Hand, man kann das NAS direkt auf dem ESXi als Datastore und unter Windows zugleich einbinden.
Somit ist es möglich mit einem Click, die VM wiederherzustellen.

Ich habe einen Virtuellen Server, der mit zwei NAS Systemen verbunden ist (also als Netzlaufwerk), auf dem Automatisiert einmal die Woche ein Backup mit dem Trilead VM Explorer erstellt wird.
Alle Backups die alter als 14 Tage sind, werden mit Delage.exe vom NAS gelöscht, somit läuft der Storage nicht voll.

Wenn es wirklich mal zum Absturz kommen sollte und ich keine Zeit habe, lasse ich die VM auf dem NAS laufen.
Wenn ich zeit habe, kann ich die VM einfach per click auf einen anderen (schnellen Storage, oder ESX) verschieben.

Ich sichere auf dem NAS dazu noch die Konfiguration der einzelnen ESXi Server, damit diese auch Wiederhergestellt werden können.
Alle unsere ESXi Server starten von einem USB Stick und das wirklich schnell, zuverlässig, billig und vor allem sicherer als Festplatten.



Grüße und viel Erfolg

[mr.sarge]

Hallo Nepokat,

vielen Dank für die Infos. Die Software und die NAS werde ich mir auf jeden Fall mal genauer anschauen. Sicherung auf NAS wäre auch deshalb für uns interessant da wir dann die Möglichkeit haben eine NAS extern unterzubringen und uns die Sicherung auf ein Tape (Library) sparen. Was erreichst du ca. für einen Datendurchsatz wenn du über GBit auf die NAS sicherst?
Es gibt ja auch verschiedene NAS-Systeme mit iSCSI Unterstützung (z.B. QNAP), vielleicht wäre die Performance dann etwas besser. Allerdings werden dann wahrscheinlich separate iSCSI-Switches benötigt oder?

mfg,

Sarge

Hallo Sarge,

ich sicher auf zwei NAS Systemen von Promis (NS4300N) (günstig und bis dato sehr Zuverlässig) mittels Trilead VM Explorer.
Der Vorteil liegt ganz klar auf der Hand, man kann das NAS direkt auf dem ESXi als Datastore und unter Windows zugleich einbinden.
Somit ist es möglich mit einem Click, die VM wiederherzustellen.

Ich habe einen Virtuellen Server, der mit zwei NAS Systemen verbunden ist (also als Netzlaufwerk), auf dem Automatisiert einmal die Woche ein Backup mit dem Trilead VM Explorer erstellt wird.
Alle Backups die alter als 14 Tage sind, werden mit Delage.exe vom NAS gelöscht, somit läuft der Storage nicht voll.

Wenn es wirklich mal zum Absturz kommen sollte und ich keine Zeit habe, lasse ich die VM auf dem NAS laufen.
Wenn ich zeit habe, kann ich die VM einfach per click auf einen anderen (schnellen Storage, oder ESX) verschieben.

Ich sichere auf dem NAS dazu noch die Konfiguration der einzelnen ESXi Server, damit diese auch Wiederhergestellt werden können.
Alle unsere ESXi Server starten von einem USB Stick und das wirklich schnell, zuverlässig, billig und vor allem sicherer als Festplatten.


Grüße und viel Erfolg

[Nepokat]

Hallo Sarge,

die Geschwindigkeit ist wie gesagt langsam ca. 8 MB/sec, was aber zum sichern mehr als reicht und zum Notfallbetrieb auch.
Ich sicher hier ca. 55 Virtuelle Server und jeder Server hat 2 Stunden Zeit bzw. die komplette Bandbreite des GBit Netzwerk zum sichern.
Vorher haben wir Buffalo iSCSI Storage Systeme eingesetzt, diese sind wohl etwas schneller, aber unterstützen halt nur das iSCSI Protokoll und dadurch war ich immer auf den Microsoft iSCSI Initiator angewiesen (Unter Windows)
Leider konnte ich bei der Buffalo Variante auch immer nur ein iSCSI Storage mit einem ESXi oder Windows PC verbinden (vielleicht ist das aber auch schon gefixt worden).
Aber um ehrlich zu sein kann ich nur von den Teilen abraten.
Das NAS hingegen verbindet sich auf den ESXi (oder Linux PC) mittels NFS und auf den Windows via. SMB. (FTP etc. würde auch gehen)

Es gibt aber sicher iSCSI Systeme die das auch können, hierzu bin ich aber leider der falsche Ansprechpartner (findet sich aber sicher hier auch noch einer).

Zum Netzwerk muss ich dir Zustimmen, wenn die Sicherung einmal läuft ist die Leitung dicht.
Ich habe hier drei Physikalisch getrennte Netze (WAN = 100 MBit/s, LAN = 1000 MBit/s, ESX = 1000 MBit/s) dadurch bekommt keiner Bandbreiten Probleme.

mfg,

Nepokat

[mr.sarge]

Hallo Nepokat,

die 55 virtuellen Server sicherst du dann zeitgesteuert bzw. parallel über dein Netzwerk ode? Ich werde mal meine (private) NAS (QNAP TS-439Pro) via NFS bzw. iSCSI versuchen anzubinden und die Performance vergleichen.
Das Programm "Trilead VM Explorer" schaut schon mal vielversprechend aus, habe vorhin ein Backup/Restore auf einem ESXi Testserver gemacht, verlief alles problemlos. Zudem ist es im Vergleich zu anderen Backuplösungen (vRanger) wesentlich kostengünstiger.

viele Grüße,

Sarge

[peterknies]

Versuch dochmal das Produkt VMWare DataRecovery. Kommt darauf an welche Lizenz zu hast. Ich glaube man darf das Produkt mit der Foundation Lizenz benutzen.

VMWare Data Recovery kann online sicherung auf den ganzen Tag verteilt und arbeitet mit Snapshots und Diff Sicherung (spart sehr viel Speicherplatz). Test es gerade scheint vielversprechend zu sein.

[mr.sarge]

Hallo,

fange auch gerade an das Produkt zu testen. Wir planen ein Upgrade auf Vmware Essentials Plus, da ist eine Lizenz für DR mit dabei.

mfg,

Sarge

Versuch dochmal das Produkt VMWare DataRecovery. Kommt darauf an welche Lizenz zu hast. Ich glaube man darf das Produkt mit der Foundation Lizenz benutzen.

VMWare Data Recovery kann online sicherung auf den ganzen Tag verteilt und arbeitet mit Snapshots und Diff Sicherung (spart sehr viel Speicherplatz). Test es gerade scheint vielversprechend zu sein.

[irix]

.
Es gibt aber sicher iSCSI Systeme die das auch können, hierzu bin ich aber leider der falsche Ansprechpartner (findet sich aber sicher hier auch noch einer).

Nein wird es nicht geben da per iSCSI immer ein Blockdevice angeboten werden welches vom Host, der sich das holt, mit seinem eigenem FileSystem beschreiben wird. Das bedeutet das Storage Array weis garnicht was es an Daten beherbergt. Im Falle vom ESX waere das VMFS. Aus diesem Grunde braucht eine iSCSI Software welche ein Target dastellt auf dem Host auch immer einen Container oder aber Volume fuer sich und nicht nur einfach freien Speicherplatz auf dem Host. Man denke mal an Starwind und oder Open-E/FreeNAS/Openfiler.

Das ist bei einem NAS, welches intern ein EXT3 oder XFS verwendet, und dann dieses ueber die Netzwerkprotokolle CIFS, FTP oder NFS als Share exportiert, ganz anders. Dies kann parallel geschehen sofern sich alle einigen nicht an 2 Dateien gleichzeitig zuaendern.

Unsere Backup Server bieten die Sicherungverzeichnisse (ReadOnly) auch als NFS und CIFS Shares an. Beim Server 2008 ist eine entsprechende Rolle dabei und man kommt mit Bordmitteln aus.
Die optimierten VCB Sicherungen lassen sich wahr mit dem VMware Player z.b direkt starten aber nicht vom ESX weil dieser das Sparse Format nicht kann. Ich muesste mal schauen wenn ich das ausschalte obs dann geht.

Zum Thema QNAP. Wir hatten ein 409|449 PRO oder so aehnlich hier und sind nicht ueber 10MB/s heraus gekommen. Je nach Protokoll waren es auch weniger! Die Auswahl der RAID Level machte keinen Unterschied und ich bin der Meinung das die Dinger gerade mal dazutaugen um Privat ein paar Fotos oder MP3s abzulegen.

Gruss
Joerg

[MikeDelta]

Versuch dochmal das Produkt VMWare DataRecovery. Kommt darauf an welche Lizenz zu hast. Ich glaube man darf das Produkt mit der Foundation Lizenz benutzen.

VMWare Data Recovery kann online sicherung auf den ganzen Tag verteilt und arbeitet mit Snapshots und Diff Sicherung (spart sehr viel Speicherplatz). Test es gerade scheint vielversprechend zu sein.

Moin!
Wie wird DR denn installiert? Wir haben die Enterprise Plus Edition und ich sehe das Plugin im VC weder unter den installierten, noch unter den zur Verfügung stehenden Plugins und auf der DVD finde ich auch kein Installationspaket...

[Edit] Gefunden...muss ich erstmal als eigenes Paket runterladen von der VMware Seite...

Gruß!
Michael