Der Hostname kann einfach über die Webgui geändert werden unter Admingui > Netzwerk > TCP/IP Stack > Standard TCP/IP Stack > Bearbeiten.
Damit das Zertifikat jedoch den neuen Namen aufweist, muss man sich auf der Shell vom ESXI (dazu die Dienste unter Server > Aktionen > Dienste > SSH aktivieren auswählen und per SSH Client wie z.B. Putty verbinden) einloggen und mit dem folgenden Befehl ein neues Zertifikat generieren:
/sbin/generate-certificates
Quelle: http://www.ntweekly.com/2017/02/22/how-to-change-an-esxi-6-5-hostname-using-the-web-client/
Informationen falls sie ein vorhandenes iLO anpassen könnten finden hier.