Kopieren auf Datastore extrem langsam

[MarroniJohny]

Hi
Musste meinen ESXi 5.1 neu aufsetzen, und seither habe ich folgendes Problem:

Ich habe eine Windows 7 VM, an die eine Festplatte angehängt ist, die per Bitlocker verschlüsselt ist. Die Festplatte liegt normal im Datastore des ESXi, also nicht per RDM oder gar VT-d durchgereicht. Die Festplatte ist am onboard Controller angehängt.

Wenn ich nun innerhalb der VM etwas auf diese Festplatte kopiere, dann komme ich auf eine Schreibleistung von ca. 120 MByte/s. Wenn ich nun aber vom Netzwerk (Windows Freigabe, VM sowie Client an einem DC) auf die Platte schreiben möchte, komme ich auf irgendwie 6-10 MByte/s. Als ich den ESXi neu aufgesetzt habe, musste ich innerhalb von der VM die Übertragungsrate der vNIC auf 1 Gbit/s setzen, die war auf 100 Mbit/s. Im VSphere Client werden die NICs alle mit 1000 Voll angezeigt, also so, wie es sollte.

Auch die Virenscanner der VM sowie des Desktops, von dem aus ich kopiere, habe ich testweise deaktiviert. Das Problem besteht bei Backups, kleinen sowie grossen Dateien. Seit ich den ESXi neu aufgesetzt habe. Die Partition ist gerade mal halb voll, 150 GByte sind (unter Windows) noch nicht zugeordnet. Allerdings ist unter VSphere auf der Platte nur noch 18 GByte frei, das war aber bis anhin kein Problem.

Netzwerk schliesse ich aus, habe alles an einem Zyxel Switch und kann auch schneller downloaden über den ESXi. Ist alles mit Cat 7 Kabeln verkabelt. Da gabs auch keine Änderungen.

Hat einer ne Idee, was das sein könnte?

[pirx]

Ich würde das Netz nicht von Anfang an ausschließen. Einfach mal einen Test mit z.B. iperf/netio zwischen 2 VMs machen. Zusätzlich dann noch von einem Rechner außerhalb des ESXi Netzes.

[mbreidenbach]

Als ich den ESXi neu aufgesetzt habe, musste ich innerhalb von der VM die Übertragungsrate der vNIC auf 1 Gbit/s setzen, die war auf 100 Mbit/s.

Was innerhalb einer VM da an Link Speed angezeigt wird ist eigentlich irrelevant. Da finden Speicherkopieroperationen statt.

Ich bin auch für eine Messung mit einem Tool wie iperf.

[MarroniJohny]

Hi

Danke für die Antworten!

Ich habe nun mal ein OpenNAS auf einer eigenen Platte aufgesetzt (normaler DS). Zwei Partitionen habe ich auf der Platte eingerichtet: Eine 8 GByte fürs OS, und den Rest für die Freigabe. Selbes Ergebnis. Anfangs wird mit 50 MByte/s geschrieben, dann sackt die Übertragung massiv ein. Sowohl innerhalb des Hosts als auch vom Desktop aus.

Dann habe ich die vNICs von E1000 auf VMXNET 2 umgeschaltet, brachte auch keine Besserung,... Ausserdem habe ich alle VMs runtergefahren, die für die Kopieraktion nicht nötig waren.

Dazu muss ich sagen, dass alle VMs auf einer Platte sind. Diese lassen sich jedoch alle flüssig bedienen. Der DS, auf den/von dem kopiert werden soll, liegen jeweils auf anderen Platten, bzw. es wird übers Netzwerk kopiert.

Auf dem Host sind zwei Firewalls virtualisiert, an jeder hängt je eine 4 Port NIC. Diese Karten sind nicht per VT-d durchgereicht.

Ich habe den Host neu aufgesetzt, seither besteht das Problem. Weil ich nicht wusste, wie man bestehende VMs in einem neu aufgesetzten Host wieder einbindet, habe ich jeweils eine neue VM erstellt, die vorhandenen virtuellen Festplatten dort angegeben und die Netzwerkgeräte neu angehängt. Nun habe ich im DS neue Verzeichnisse, die jeweils so um die 1 GByte gross sind. Die Daten der VMs liegen aber mutmasslich noch in den "alten" Verzeichnissen. Vielleicht liegts daran?

In vSphere sowie im Switch als auch am Desktop werden alle Verbindungen mit 1 GBit/s angezeigt. Auch kann ich am Desktop mit konstant 150 MBit/s über die im ESXi laufenden Firewalls runter laden.

iperf werde ich morgen dann mal testen.

[irix]

Die Verzeichnisgroesse von 1GB kommt daher das im $Homedir einer VM die Swapdatei erstellt wird beim Start der VM. Das ist normal und so gewollt.

Das wiedereinbinden einer VM geht folgendermassen:
- Datastorebrowser aufmachen in dem man auf einen DS klickt
- Verzeichnis ausfindig machen hineinwechseln
- Rechtklick auf die *.vmx und "Add to Inventory" auswaehlen

Gruss
Joerg

[mbreidenbach]

Beim kopieren von Dateien mißt man alles mögliche aber niemals nur die Netzwerkperformance.

Deswegen sollte man ein Tool wie iperf verwenden da werden keine Daten von Platte gelesen oder geschrieben.

[MarroniJohny]

Hi

Also, habe mit jperf mal den Durchsatz zwischen 2 VMs, und der betreffenden VM zu dem Desktop gemessen.

Zwischen VM und Desktop komme ich auf ca. 300 MBit/s, zwischen den VM's auf 200 - 400 MBit/s. Da scheint also wirklich beim ESXi im Netzwerk was nicht zu stimmen.

Kann es sein, dass ich zuviele vCores vergeben habe? Ich weiss, man sollte immer möglichst wenig vCores vergeben. Aber z.B. bei den Firewalls muss ich schon 3 vCores vergeben, damit ich auf einen vernüftigen Durchsatz komme. Wenn ich nur 2 vCores vergebe, komme ich gerade mal auf 50 MBits/s. auch wenn ich alle anderen VM's abschalte.

Dem Filer und dem DC habe ich deshalb 3 vCores vergeben, Gameserver 2, Teamspeak nochmals 2. Im Gesamten komme ich also auf 20 vCores, habe einen Intel 6 Kerner mit HT (i7 3930k). Ausserdem war es vor dem neu aufsetzen auch so, und da hats wunderbar funktioniert, mit der Konfiguration,...

Edit: Habe nun testweise sämtliche VMs, die nicht nötig waren, herunter gefahren. Selbes Ergebnis. Daher sollte es nicht an der Anzahl vCores liegen.

[mbreidenbach]

Wenn einer VM 3 Kerne zugewiesen werden dann müssen damit die VM laufen kann auch 3 Kerne frei sein - und die können in der Zeit nicht für andere VMs genutzt werden.

Das müßte sich an schlechten CPU Ready Werten zeigen. Eine VM kann entweder auf I/O warten, auf eine freie CPU warten (CPU Ready) oder laufen.

Ein DC braucht normalerweise nur einen Kern. Ein Fileserver sollte mit ein bis zwei Kernen auskommen.

[MarroniJohny]

Hi

Habe nun alle VMs nochmals raus gehauen, und neu angebunden via Datastore Browser. Ausserdem habe ich alle Netzwerk Adapter gelöscht und neu angehängt. Diejenigen, die das unterstützten, habe ich als VMXNET 3 konfiguriert, die von der Firewall als flexibel.

Testweise habe ich nur die betreffenden VMs mit jeweils einem virtuellen Adapter laufen gelassen. Ich komme zwischen den VMs auf 600 Mbit/s, das fällt aber rapide zusammen. Und an den angeschlossenen Desktop komme ich auf höchstens 300 Mbit/s. Wer Server bzw. Client ist, spielt keine Rolle. Ausserdem habe ich verschiedene NICs ausprobiert, obwohl ich mir davon nicht viel neues erhoffte, da das Problem anscheinend beim ESXi liegt. Zwischen den VMs müsste ich ja auf ein paar Gbit/s kommen,...

Gemessen habe ich mit jperf 2.0.2.

VMware Tools sind aktuell, Build ist 5.1 U1 1065491.

Ich weiss echt nicht mehr weiter.