VMware-Forum

Seit der Intel Ivy Bridge CPU wird SMEP (Supervisor Mode Execution Protection) endlich im Linux-Kernel unterstützt. Ansich ein nützliches Feature, da dies die Ausführung von als Userland-getaggten Code im Kernel Modus verhindert. Dieses Feature sorgt jedoch bei vielen älteren Virtualisierungsprodukten für einigen Ärger, da die VM reproduzierbar abstürzt.

Im VMTN-Thread Can't boot any Linux 3.x kernels in WS7/Player3 on Intel i5. Any ideas? wird von "JMattson" auch erwähnt, daß die WS7 (und somit auch der Player3) keine Ahnung von "leaf 7" hat und deshalb auch nicht maskiert werden kann. Somit fallen ebenfalls alle älteren VT-Produkte raus.

Die auf einigen Webseiten erwähnten Einträge in die VMX-Datei smep = "0" oder den GRUB-Bootloader nosmep sind bisher auch ohne Erfolg geblieben. Ausgehend von http://git.kernel.org/cgit/linux/kernel/git/torvalds/linux.git/commit/?id=de5397ad5b9ad22e2401c4dacdf1bb3b19c05679 wurde das Feature bereits im Mai 2011 implementiert und mit Kernel-Version 3.1 scharfgeschaltet. Wann Winzigweich da nachzieht, scheint immer noch in den Sternen zu stehen.



Jetzt stellt sich die Frage, welche von VMware unterstützten Produkte überhaupt damit zurechtkommen...
Hat da jemand mehr Informationen

Anscheinend bin ich wirklich nicht auf dem laufenden, denn selbst Windows 8 ist inzwischen SMEP-capable. Darauf weist der KB-Eintrag Windows 8, Windows 2012 and Mac OS X systems running on SMEP-capable Intel Ivy bridge CPUs freeze when running Windows XP and earlier Windows guests (2035575) für Fusion 5.X und die WS-Ausführungen der Version 9.X für Linux und Windows hin.
Falls also wieder einmal der Host bei der Ausführung älterer Gäste komplett einfriert, könnte es auch daran liegen.


Wenn man von http://blog.ptsecurity.com/2012/09/intel-smep-overview-and-partial-bypass.html oder http://blog.ptsecurity.com/2012/09/bypassing-intel-smep-on-windows-8-x64.html ausgeht, erklärt das auch einige bereits früher gesehene, leicht merkwürdige Einträge im "vmware.log":

Sep 30 13:13:50: vcpu-0| CPL0-only op=108 count=0 0x1b:0x600147f3
Sep 30 13:13:52: vcpu-0| CPL0-only op=108 count=1 0x1b:0x600147f3
Sep 30 13:13:52: vcpu-0| CPL0-only op=108 count=2 0x1b:0x600147f3
Sep 30 13:13:53: vcpu-0| CPL0-only op=108 count=3 0x1b:0x600147f3
Sep 30 13:13:55: vcpu-0| CPL0-only op=108 count=4 0x1b:0x600147f3
Sep 30 13:13:55: vcpu-0| CPL0-only op=108 count=5 0x1b:0x600147f3
Sep 30 13:13:57: vcpu-0| CPL0-only op=108 count=6 0x1b:0x600147f3
Sep 30 13:13:58: vcpu-0| CPL0-only op=108 count=7 0x1b:0x600147f3
Sep 30 13:13:59: vcpu-0| CPL0-only op=108 count=8 0x1b:0x600147f3
Sep 30 13:14:00: vcpu-0| CPL0-only op=108 count=9 0x1b:0x600147f3