Schlechte Netzperformance: Tx/Rx sehr unterschiedlich
Verfasst: 11.03.2009, 12:03
Hallo Zusammen,
vielleicht erstmal ein wenig Vorgeschichte:
Wir haben vor einiger Zeit auf einem Dell T300 ESXi installiert (aktuelles Patchlevel). Wir hatten zu diesem Zeitpunkt erhebliche Performance-Probleme. Die Festplatten haben mit ca. 8Mb/sek gearbeitet. Der Vmware-Support hat auf "unglückliche" gesharte IRQs hingewiesen. Über das BIOS konnte das nicht aufgelöst werden. Dell sagte "nicht unser Problem" und VMware sagt "nicht unser Problem" => also mein Problem und keine Lösung ... Abhilfe haben wir uns nun durch diverse Hardware Änderungen geschafft. (deaktivieren diverser Geräte, deaktivieren interner NICs, einbau PCI NICs (intel Pro, BCM5721), fleißiges Umstecken der PCI-Karten und testen ...).
Dadurch haben wir dann endlich eine "annehmbare" Performance erhalten. hdparm -tT kommt bei den SAS Platten auf 85Mb/s und bei dem eSata 65MB/s - sicher noch immer nicht optimal (ohne ESXi mit Knoppix und dd kommen wir bei den SAS auf 120MB/s) aber wir haben leiden gelernt und können damit erstmal arbeiten. <= gerne auch hierzu nochmal Tipps, aktuell teilen sich nur noch Video und der SAS Controller einen IRQ, sowie diverse USBs unter sich.
Nun zum aktuellen Problem (die Ergbnisse haben natürlich Auswirkungen auf das normale Arbeiten und sind nicht nur theoretischer Natur ...):
Wenn ich mit netio die Netzperformance messe dann erhalte ich auf einer Gigabit Fullduplex in die eine Richtung ca. 85MB/s und in die andere Richtung ca. 12MB/s. Stecke ich das Ganze an einen 100MBit Switch dann erhalte ich in beide Richtung ca. 12MB/s - dann also eigentlich den vollen Duchsatz.
Im Detail:
netio Server auf ESXi-Gast und netio Client auf einem externen System:
TX ~85MB/s und RX ~12MB/s
netio Client auf ESXi-Gast und netio Server auf einem externen System
TX ~12MB/s und RX ~85MB/s
Ich erhalte das selbe Ergebnis, egal welcher Art der Gast ist (SLES,Ubuntu, Windows), oder auch das externe System.
Ein Netzwerkproblem schließe ich aus, da ich die gleichen Tests unter den externen Systemen und auch zwischen gespiegelten Gast-Systemen auf einem Backup ESXi Server (andere Hardware) gemacht habe. Dort erhalte ich in beide Richtungen die ca. 85MB/s (alles im selben Netz und am selben Switch).
Wie Ihr der Vorgeschichte vermutlich entnehmt habe ich das Ganze auch schon auf den verschiedensten Netzwerkkarten inkl. NIC-Teaming usw. versucht - es ist immer das gleiche Ergebnis. Das Problem muss also auf dem ESXi selbst zu suchen sein.
Hat jemand ein ähnliches Problem oder hat einen Tipp wo ich suchen kann? ESXi Parameter habe ich noch nicht verstellt.
Welche Informationen kann ich noch zur Verfügung stellen, die noch helfen könnten?
... und gerne nehme ich auch noch Tipps bez. der allgemeinen Performance des Servers entgegen. Wir haben zwar damit Leben gelernt, aber eigentlich ist es kein Zustand, dass der deutlich kleinere Backupserver schneller ist als sein großer Bruder (leider ist der aber hardwaretechnisch nicht so redundant ausgelegt und fällt daher als Hauptserver aus).
Vielen Dank für alle Tipps!
Arne
vielleicht erstmal ein wenig Vorgeschichte:
Wir haben vor einiger Zeit auf einem Dell T300 ESXi installiert (aktuelles Patchlevel). Wir hatten zu diesem Zeitpunkt erhebliche Performance-Probleme. Die Festplatten haben mit ca. 8Mb/sek gearbeitet. Der Vmware-Support hat auf "unglückliche" gesharte IRQs hingewiesen. Über das BIOS konnte das nicht aufgelöst werden. Dell sagte "nicht unser Problem" und VMware sagt "nicht unser Problem" => also mein Problem und keine Lösung ... Abhilfe haben wir uns nun durch diverse Hardware Änderungen geschafft. (deaktivieren diverser Geräte, deaktivieren interner NICs, einbau PCI NICs (intel Pro, BCM5721), fleißiges Umstecken der PCI-Karten und testen ...).
Dadurch haben wir dann endlich eine "annehmbare" Performance erhalten. hdparm -tT kommt bei den SAS Platten auf 85Mb/s und bei dem eSata 65MB/s - sicher noch immer nicht optimal (ohne ESXi mit Knoppix und dd kommen wir bei den SAS auf 120MB/s) aber wir haben leiden gelernt und können damit erstmal arbeiten. <= gerne auch hierzu nochmal Tipps, aktuell teilen sich nur noch Video und der SAS Controller einen IRQ, sowie diverse USBs unter sich.
Nun zum aktuellen Problem (die Ergbnisse haben natürlich Auswirkungen auf das normale Arbeiten und sind nicht nur theoretischer Natur ...):
Wenn ich mit netio die Netzperformance messe dann erhalte ich auf einer Gigabit Fullduplex in die eine Richtung ca. 85MB/s und in die andere Richtung ca. 12MB/s. Stecke ich das Ganze an einen 100MBit Switch dann erhalte ich in beide Richtung ca. 12MB/s - dann also eigentlich den vollen Duchsatz.
Im Detail:
netio Server auf ESXi-Gast und netio Client auf einem externen System:
TX ~85MB/s und RX ~12MB/s
netio Client auf ESXi-Gast und netio Server auf einem externen System
TX ~12MB/s und RX ~85MB/s
Ich erhalte das selbe Ergebnis, egal welcher Art der Gast ist (SLES,Ubuntu, Windows), oder auch das externe System.
Ein Netzwerkproblem schließe ich aus, da ich die gleichen Tests unter den externen Systemen und auch zwischen gespiegelten Gast-Systemen auf einem Backup ESXi Server (andere Hardware) gemacht habe. Dort erhalte ich in beide Richtungen die ca. 85MB/s (alles im selben Netz und am selben Switch).
Wie Ihr der Vorgeschichte vermutlich entnehmt habe ich das Ganze auch schon auf den verschiedensten Netzwerkkarten inkl. NIC-Teaming usw. versucht - es ist immer das gleiche Ergebnis. Das Problem muss also auf dem ESXi selbst zu suchen sein.
Hat jemand ein ähnliches Problem oder hat einen Tipp wo ich suchen kann? ESXi Parameter habe ich noch nicht verstellt.
Welche Informationen kann ich noch zur Verfügung stellen, die noch helfen könnten?
... und gerne nehme ich auch noch Tipps bez. der allgemeinen Performance des Servers entgegen. Wir haben zwar damit Leben gelernt, aber eigentlich ist es kein Zustand, dass der deutlich kleinere Backupserver schneller ist als sein großer Bruder (leider ist der aber hardwaretechnisch nicht so redundant ausgelegt und fällt daher als Hauptserver aus).
Vielen Dank für alle Tipps!
Arne