Seite 1 von 1

Extrem lahmes VMFS/Disks

Verfasst: 28.10.2014, 15:31
von jpuschmann
Hello,
Ich habe bei mehreren neuen IBM Servern ein seltsames Problem:
Ich habe Schreib/Leseraten von knapp 2MB/s
time dd if=/dev/zero of=test bs=1M count=512
real 2m 33.03s
user 0m 1.23s
sys 0m 0.00s
Disklatenzen gehen auch durch die Decke -> bis zu 300ms

Systeme sind IBM 7914 mit einen Serveraid H1110 mit 2 SAS-Disken im Raid 1
Firmware und ESXi sind aktuell.

Treiber:
vmkload_mod -s mpt2sas
vmkload_mod module information
input file: /usr/lib/vmware/vmkmod/mpt2sas
Version: Version 19.00.00.00.1vmw, Build: 1331820, Interface: 9.2 Built on: Mar 18 2014

Auf diesen Server laufen derzeit noch keine VMs.

Witzigerweise bekomme ich mit einer Linux-CD beim selben dd Befehl > 130MB/S
Irgendwer eine Idee, wass das sein kann?

lg
Johannes

Verfasst: 28.10.2014, 15:33
von stahly
Hast Du mir dem Vmware-IBM-ISO installiert?

http://www-03.ibm.com/systems/x/os/vmware/

Verfasst: 28.10.2014, 15:36
von jpuschmann
Ja.
Filename:
ESXi-5.5u1-1746018-IBM_20140522.iso

Zum Test habe ich mal die originale ESXi-Iso genommen -> Selber effekt.

Verfasst: 28.10.2014, 15:44
von JustMe
Ich kann jetzt wirklich nicht fuer IBM-Server sprechen, aber:

Die primaere Aufgabe der ESXi-Shell ist nicht das Benchmarken.

Erstell' doch mal eine VM, boote die mit der Linux-CD, und benchmarke die virtuelle Disk dieser VM, die selbstverstaendlich Eager-Zeroed Thick angelegt sein sollte.

Wie sehen dann die Ergebnisse aus?

Verfasst: 28.10.2014, 16:52
von Martin
Der Serveraid H1110 ist ein simpler Raid 0/1 Controller ohne Cache (LSI SAS2004). Ich würde hier auch aus einer VM heraus keine besonder Performance erwarten.

Verfasst: 29.10.2014, 20:15
von Dayworker
Jep, ohne Write-Cache ist der Plattendurchsatz immer unterirdisch. Wenn du jedoch eine USV vor den ESXi schaltest, könntest du aber ggf zumindest den Plattencache wieder reaktivieren und somit zumindest etwas an Performance zurückgewinnen. Dafür muß der Raid-Controller das Reaktivieren aber auch unterstützen.

Das der Bench in der Busybox so lahm ist, ist auch normal. Die Busybox erhält nur einen Bruchteil der verfügbaren Rechenleistung, da sie nur für rudimentäre Dinge verwendet werden kann. Den Rest hat VMware über diverse APIs angebunden. Ohne Controller-Cache sind im Normalfall unter Windows/Linux aber auch nur Werte um 15MiB/s bei sequentiellen Zugriffen zu erwarten und wenn du viele kleine Daten wegzuschreiben hast, mußt du dich sogar mit drastischen Schreibperformance-Einbrüchen auf Werte von 1MiB/s einrichten.

Verfasst: 30.10.2014, 09:55
von leo
Je nach Speicherbedarf würde ich über SSD's nachdenken, diese haben auch ohne Cache eine gute Schreibperformance. Von der Performance her gesehen, besonders bei Server-typischen Anwendungen, ersetzt eine SSD die Leistungsfähigkeit von 5-10 rotierenden Festplatten. Für den Stromausfall gibt es Enterprise-SSD's mit Puffer-Kondensatoren.

Verfasst: 02.11.2014, 15:59
von Dayworker
Das SSDs auch ohne Cache eine gute Schreibperformance erreichen, halte ich für einen Irrtum. Gerade aufgrund des Caches läßt sich die stark variierende Schreibperformance der Flash-Zellen verstecken.

Verfasst: 03.11.2014, 11:01
von leo
Meine Erfahrung ist folgende, bei SSD's macht es keinen Unterschied, ob der Cache aktiviert ist oder nicht. Bei HDD's hingegen ist das ein Riesenunterschied.

Ich erkläre mir das so, dass die SSD die Daten immer über einen internen Cache laufen lässt, bevor sie die Daten endgültig in den Flash schreibt. Diesen Cache kann man von außen nicht deaktivieren, dann wäre die ganze SSD nicht mehr funktionsfähig. Deshalb ist es auch wichtig, dass eine Enterprise-SSD den Cache puffert, damit bei Unterbrechung der Stromzufuhr die Daten innerhalb der SSD konsistenz bleiben.

Ich weiß nicht, wie der IBM-Server mit SSD's funktioniert, aber ich würde es auf jeden Fall mal testen. Ich arbeite mittlerweile für lokalen Storage nur noch mit SSD's, große Datenmengen kommen auf externe Speichersysteme.