Hardware

Ich habe gerade beim Testen das "stabile" Solaris gecrashed: bei der Installtion einiger JES Komponenten habe ich auch den Sun Cluster ausgewählt. Ich habe es fertig bekommen den Cluster als eine Single Node Komponente zu installieren, jedoch war hinterher meine LAN Connectivity weg, weil das routing zerschossen war.

Meine Vermutung war, dass der scinstall des cluster nicht richtig auf die Settings mittels DHCP vorbereitet war, und er hat dann bei der Konfiguration von zusätzlichen internen Addressen und virtuellen Interfaces das Gateway und die Netzmaske vermasselt. Dank ALOM nicht weiter schlimm, ich komme ja über das Netz an die Console, aber wie löst man das Problem? Wie stellt man bei einer Solaris Kiste die Konfiguration auf statische Addressen um?

Ich hab keine bessere Lösung gefunden als die Initialkonfiguration noch einmal durchzuführen. Dazu ruft man "sys-uninstall" auf, und rebootet.

Nun gut, der Ansatz war prinzipiell nicht schlecht, das Setup hat mich tatsächlich nach den neuen Netzwerk Settings gefragt. Es hätte nur die Finger von dem neuen virtuellen Netzwerk interconnect Interface lassen sollen, das der Sun Cluster installiert hat. Denn plötzlich brach der Kernel mit einem Stacktrace weg, in dem die Komponente vorkam:

Diese Woche war ein wenig zu hektisch für viel Sun-Server bloggen, deswegen will ich die Ereignisse jetzt mal im Nachgang dokumentieren. Diese Woche hat mich mein Try und Buy Ansprechpartner von Sun angerufen, um sich zu erkundigen wie der Test vorangeht (und an welchem Tag das System angeliefert wurde).

Ansonsten habe ich das System auch schon hochgefahren: mit den beiligenden Kabeln die ALOM Management Ports an's Netz und die Serielle Schnittstelle meines Linux Rechners angeschlossen, die serielle angeschlossen und das System eingeschaltet:

ecki@calista:~# cu -l /dev/ttyS0 dir
Connected.

SC Alert: Host System has Reset
0:0>
0:0>@(#)Sun Fire[TM] T1000 POST 4.20.0 2005/12/15 17:21
/export/delivery/delivery/4.20/4.20.0/post4.20.0/Niagara/erie/integrated (root)
0:0>Copyright © 2005 Sun Microsystems, Inc. All rights reserved
SUN PROPRIETARY/CONFIDENTIAL.
Use is subject to license terms.
0:0>VBSC selecting POST MAX Testing.
0:0>VBSC enabling threads: ffffff
0:0>VBSC setting verbosity level 2
0:0>Start Selftest.....
0:0>Master CPU Tests Basic....Done
0:0>L2 Tests....Done
0:0>Test Memory Basic....Done
0:0>Test Slave Threads Basic....Done
0:0>Extended CPU Tests....Done
0:0>Scrub Memory....Done
0:0>Functional CPU Tests....Done
0:0>Extended Memory Tests....Done
0:0>IO-Bridge Tests....Done
0:0>INFO:
0:0> POST Passed all devices.
0:0>POST: Return to VBSC.
0:0>Master set ACK for vbsc runpost command and spin...

SC Alert: Host system has shut down.

SC Alert: Host System has Reset
...

nach diesem Ausgiegigen Selbsttest hat das System dann gebooted:

Ich entschuldige mich für meine vielen Sun Posts in letzter Zeit, aber die Hardware Seite der Company macht einfach viel von sich reden.

Apropos Entschuldigung: in seinem Blog schreibt der Sun CEO Jonathan Schwartz auch eine Entschuldigung:

And yes, we will be including Thumper in our Try and Buy program. And I'd like to personally apologize to all those poor UPS, DHL and FedEx drivers...

Dabei redet er von Sun Fire X4500 x64 Server: Codename Thumber, 4HE Gerät mit 4 Cores, 24TB Festplattenkapazität und 170lb:

Nach meinem Rant, dass in einem Sun Fire T1000 Server genügend Platz für zwei Platten sei hat mir ein Vögelchen gezwitschert, dass es ab Morgen die Sun Fire T1000 Modelle auch mit einer Dual-Disk Konfiguration geben soll. Neugierig geworden habe ich etwas herumgesucht, und tatsächlich gibt es im Sun Israelischen Katalog schon eine Konfiguration mit 2 x 2.5" 10k RPM SAS Drives: T10Z108A-16GA2F ($15.162).

T10Z108A-16GA2F
Sun Fire T1000 Server, 8 x Core 1.0 GHz UltraSPARC T1 processor,16 GB DDR2 memory (8 x 2 GB DIMMs),2 x 73 GB 2.5-inch 10000 RPM SAS disk drive, 1 x power supply, 4 x 10/100/1000 Mb/s Ethernet ports, 1 x serial port, 1 x PCI-E slot, Solaris 10 and Java Enterprise System Software Pre-installed, RoHS-5 Compliant

Es bleibt nur anzumerken, dass eine No-Disk NFS-Boot oder FC-Boot Konfiguration sicherlich Sinnvoller ist, wenn es darum geht Frontend/Display Server-Farmen aufzuziehen.

Nachdem ich bisher nur "Urlaubsbilder" veröffentlich hatte hier ein mal ein Bericht zum Auspacken der T1000 Teststellung von Sun: in der kleineren Kiste befindet sich ein Kaltgerätekabel... die Schachtel ist nur ein ganz klein wenig überdimmensioniert (aber das kennt man ja von Hardware Lieferanten).

Der 1HE Server selbst ist in einer 2-stöckigen Verpackung. Oben auf findet sich 19" Installationsmaterial und eine Schachtel mit Seriellem Adapterkabel. Lustigerweise findet sich in der Schachtel auch ein Einweg Erdungsband fürs Handgelenk (laut Pictogramm für den Tausch von Einsteckkarten und Modulen).

Das Gerät ist sehr Servicefreundlich: gut beschriftet, sehr aufgeräumt (keine fiegenden Kabel). Das T1000 System ist für Front-End Server gedacht die in größeren Stückzahlen vorhanden sind, so findet sich keine Redundanz für Netzteil oder Systemplatte. Bei der eingebauten Platte handelt es sich um eine Hitachi Deskstar 7.2k SATA 80GB. Das Motherboard hat noch einen zweiten SATA Anschluss, aber trotz massig Luft im Gehäuse läßt sich keine zweite einbauen.



Hier noch ein wenig mehr Geek Pr0n (in der Mitte des Motherboards ist der Kühlkörper des T1 Prozessors zu erkennen und die 8GB Rams zu beiden Seiten):




Die ganze Story zum Sun Try&Buy:

• Part I - Die Online Registrierung
• Part II - Der Sales Anruf
• Part III - Willkommen
• Part IV - Frightening Freight
• Part V - Out of Office

Einige meiner Punkte die ich durch die Tests der T1000 herausfinden möchte sind:

• Wie ist die IO-Performance der internen Platte
• Wie stark macht sich die geringe Takt-Frequenz bei Single-Thread Nutzung bemerkbar
• Wie gut lassen sich Java Anwendungen parallelisieren
• Wieviele Hidden Floating Point Operatione finden sich in Java

Allerdings werden Sie sich noch etwas gedulden müssen, da ich noch auf Dienstreise in Göteborg bin.

Übrigens haben sich in der Zwischenzeit schon mehrere Sun Mitarbeiter gemeldet, um mich Willkommen zu heissen. Sie haben mir Pre-Sales Unterstützung angeboten, auf Resourcen hingewiesen und mich zum bloggen meiner Erfarungen auf dem Systemhelden.de Blog eingeladen. Ich habe dort jetzt auch ein HELDENProfil.

Die ganze Story zum sun Try&Buy:

• Part I - Die Online Registrierung
• Part 2 - Der Sales Anruf
• Part III - Willkommen
• Part IV - Frightening Freight

Aber genug von der Arbeit, hier ein paar Impressionen aus Göteborg:


Fotos aufgenommen von einer Fähre die mit 24h Nahverkerskarte (50,- SKR) als Hafenrundfahrt benutzt werden kann.

Hallo aus Göteborg.

Ich habe ja schon davon berichtet, dass mir Sun eine Lieferung in zwei Wochen angekündigt hat, und ich dann nach meiner Rückkehr darauf eingestellt war mich mit der Spedition in Verbindung zu setzen. Nun ja, was soll ich sagen, Sun ist sehr optimistisch was die Anlieferung von Servern angeht, und so stehen jetzt in Deutschland zwei Kisten mit einer T1000 die darauf warten benutzt zu werden. Und ich muss hier stattdessen am Pier in der Sonne sitzen und dem Möven beim fliegen zusehen...

Nun ja, da habe ich wenigstens einen Grund nach Hause zu kommen. (Nur um Missverständnissen vorzubeugen: meine Frau ist natürlich auch ein Grund nach Hause zu kommen, aber sie wird am Freitag sowieso bei mir sein :)

• Part I - Die Online Registrierung
• Part 2 - Der Sales Anruf
• Part III - Willkommen

Damit bekommt Sun schon mal eine 2+ von mir: von der Testbestellung bis zur Lieferung nur 8 Arbeitstage. Und das mit nur einem Sales Anruf, keinen Nachfragen und vor allem keiner finanziellen Vorleistung! Nun gut, zum Glück war jemand zuhause, aber dass kann die Spedition ja nicht wissen dass es auch Menschen gibt die das Haus nicht verlassen (oder gar die Tür nicht öffnen wenn unangekündigt Morgens um 9:00 es an der Tür läutet).

Offensichtich wurde das Teil im März in Thailand endgefertigt...

Heute kam wieder eine E-Mail von Sun wegen meiner Anmeldung für das Try und Buy Programm. Seltsam, eigentlich habe ich noch auf den Rückruf eines Mitarbeiters gewartet der meine meine Kreditkarten-Informationen abfragt (um den Kauf Pre-Authorisieren zu lassen). Entweder man liest bei Sun mein Blog und möchte mich milde stimmen, oder ich habe auf den Sales Mitarbeiter einen so vertrauenserweckenden Eindruck gemacht oder aber bei Sun hat man die Prozesse nicht im Griff. Jedenfalls hat man mit die Auslieferung des Systems in zwei Wochen angekündigt.

Naja, so ist mir das deutlich lieber. Ich bin jetzt genau zwei Wochen in Schweden unterwegs, ich hoffe also bei der Anlieferung gibt es keine Probleme. Die Spannung und Vorfreude steigt.

Wie ich gelesen habe legt Sun inzwischen auch Adapter Kabel für die serielle Console bei, und wie Tobias Frech berichtet hat ist auch die Stromversorgung kein Thema.

• Part I - Die Online Registrierung
• Part 2 - Der Sales Anruf

Bei Jörg Möllenkamp ergänzt in seinem Kommentar zu Virtualisierungslösungen den Artikel von Ingo Wiedermann. Es ist immer wieder mal gut aus der guten alten Unix Sicht auf die IT Hype Themen zu blicken.

PS: Ich weiss, das VMware gerne genutzt wird, um viele Windows-Server zusammenzufassen, die bisher vor sich hinidlen. Meine Meinung dazu ist aber, das ein Betriebsystem, das sich zwar Multiuser/Multitaskingfähig schimpft, für das aber immer noch die Best-Practice gilt "Nur ein Service pro System" andere Probleme hat. Und die lassen sich auch nicht durch Virtualisierung loesen.

Via EDV - Ende der Vernunft.

Heute Morgen hat mich ein netter deutschsprachiger Sun Mitarbeiter angerufen(!). Er hat sich versichert, dass ich das Gerät privat bestellen möchte. In diesem Fall sei als Kaution eine Pre-Authorisierung des Kaufbetrags via Kreditkarte notwendig. Das würde dann aber ein Kollege übernehmen, der sich noch bei mir meldet.

Schnelle Reaktion und kein lästiges Ausfragen, was ich denn mit dem System vorhabe. Würde ich das ganze auf eine Firma bestellen, so müsste ich keine Pre-Autoriseirung vornehmen, dafür aber den Registerauszug.

Alles in allem ist bisher die Aktion schnell und sauber verlaufen. Ich spreche jetzt mal mit meiner Bank, bis sich Sun wieder meldet. Vermutlich wieder telefonisch während ich noch im Bett liege....

• Part I - Die Online Registrierung

Nachdem Jonathan Schwartz (Sun CEO) in seinem Blog wieder einmal auf das Sun Try&Buy Programm hingewiesen hat konnte ich nicht länger widerstehen. Die ganze Zeit war mir der Aufwand zu groß in meiner Firma ein entsprechenden Beschaffungsantrag durchzubekommen. Jetzt habe ich es mir einfach gemacht, und privat ein entsprechendes System bestellt.

Ich möchte hier in loser Folge über die ganze Aktion bloggen. Wer weiss, eventuell bekomme ich ja vom Sun Product Management Team auch meine Reviews anerkannt, und darf das Gerät kostenlos behalten. Übrigens: der Wettbewerb in dem es darum geht Benchmark Ergebnisse zu veröffentlichen beschreibt zwar, dass man auch negative Performance Zahlen einreichen kann, bei der Auswahl der Gewinner spielt aber eine Rolle wer die besten Ergebnisse liefert... hmm...

Als Ablösung für meine betagten Strom-Fresser PCs würde es sich auf jeden Fall gut eignen. Zumal es mit 1HE nicht viel Platz benötigt und dank 4 Netzwerk Schnittstellen auch gut als Router in meinem Netz eingesetzt werden kann.

Sun Cluster ist Suns Produktname für eine Reihe von Technologien, die unter Solaris den Betrieb von Failover oder Loadbalancing Clustern erlauben. Dazu gehrt insbesondere ein Cluster Manager der Nodes und Resourcen verwalten kann. Es gehrt auch eine IP Loadbalancing Technik dazu (vergleichbar mit Windows Network Load Balancing). Sun Cluster 3.1 ist Teil der Java Availability Suite (Das Wort Java ist nur ein cooles Tag, darunter fallen auch Non-Java Dienste) und kostenfrei mit Solaris erhältlich.

Ich war beim Design und der Umsetzung eines HA Agents für eine unserer Anwendungen (Sun nennt diese Data Service) beteiligt. Im wesentlichen gehts es darum ein Solaris Package zu erstellen, das dem Cluster Manager einen neuen Resource Typen bekannt macht. Der Cluster Manager selbst ist ausgereift, und die Erstellung der Agents dank ausführlicher Doku und umfangreichen Schnittstellen ist auch kein großes Problem.

Allerdings ist die zu erstellende Software unnötig komplex. Gerade bei Dingen wie Systemmonitoring ist dies Fatal, da robustes Verhalten oberstes Gebot ist. Meine Detailerfahrungen will ich hier mal in lockerer Folge festhalten.

Was mir zuerst aufgefallen ist war, dass sich der Resource Manager des Sun Clusters nicht in den Bereich Restart und Failover einmischt.

Der Manager startet Resourcen ("Data Services" genannt) in vordefinierter Reihenfolge (dank einer Reihe von unterschiedlichen Dependencies). Danach startet der Manager einen Monitor Prozess. Was der Cluster aber nicht tut sind irgendwelche Überwachungen, auch nicht vom Monitor Prozess.

Der Monitor Prozess ist dafür verantwortlich die Anwendung zu monitoren (z.B. oder der Prozess noch läuft oder ob dieser erreichbar ist). So weit so gut, aber was der Monitoring Prozess ebenso tun muss ist die Anwendung neu zu starten oder die Entscheidung zu treffen, ob der Cluster Manager einen Failover auslösen soll.

Jesper Johanson (Senior Security Strategist in the Security Technology Unit at Microsoft) hat einen Blog Artikel über die neue Windows Firewall in Vista geschrieben. Alles in allem sind das interessante Features, und es wird klar, dass Microsoft weiterhin nicht in den Bereich der Snake-Oil Desktop Firewalls vorstossen will, die ausgehende Verbindungen filtern.

In dem Zusammenhang ist übrigens auch Intel's vPro Desktop Technologie interessant. Die Dekstop Rechner kommen mit einem Hypervisor, der es erlaubt neben dem Haupt Betriebsystem genau eine weitere eingeschränkte Betriebystem Partition zu betreiben. Symantec ist hier einer der ersten Anbieter, die in dieser Isolation eine Security Lösung anbieten wollen. Ich halte aber den Ansatz relativ kurz gegriffen nur 2 Betriebsystem-Partitionen vorhalten zu wollen.

Ich kann mir z.b. vorstellen:

• General Purpose Partition (Desktop OS)
• secured data (Banking, Passwords, HR files)
• insecure Browser
• firewall

Von daher ist eine generelle Unterstützung von Virtualisierung und Partitionierung im Chipset deutlich praktischer als dieser halbherzige Intel Ansatz. Es ist auch sehr interessant dass AMD und Intel in diesem Bereich ihre eigenen Süppchen kochen, da muss früher oder später einer von beiden verlieren. Und IMHO hat AMD hier den besseren Ansatz.

Gerade kommt über die OCFS2 User Mailingliste die Ankündigung herein, dass OCFS2 1.2.1 released wurde, und im Zusammenspiel mit RHEL4 auf x86 Linux von Oracle Database 10gR2 für den Produktiveinsatz freigegeben wurde.

Gerade in letzter Zeit häuften sich Probleme mit instabilen Treibern (SAN, Firewire, iSCSI), so dass es ziemlich klar ist, dass es sehr leichtsinnig wäre ein OCFS2 Cluster zu betreiben ohne sich strikt an zertifizierte Kernels (und Hardware) zu halten.

In vielen Fehlersituationen schaltet OCFS2 Knoten ab um den Konflikt zu lösen (z.B. wenn die Netzwerkverbindung abbricht, oder kein konstanter Kontakt mit den Platten vorhanden ist). Dieses Fencing (abtrennen vom Zugriff auf das Shared Storage durch Shutdown) macht das Debuggen nicht einfacher. Es empfiehlt sich also bei sporadischem Shutdown eine Netconsole zu betreiben, um Post-Mortem die Diagnose-Meldungen der Kernel Module zu erhalten.

Update: Interessanterweise ist in den Oracle Blogs nichts zu dem Thema zu finden: Search: ocfs2, auch die Blogsphere ist sehr verhalten: Technorati: ocfs2

Bei AMD64DevX gibt es einen zweiteiligen Artikel (P1, P2) zur Konfiguration von LargePages für Java. Dabei wird für die BEA, IBM und Sun VM beschrieben wie Anwendungen mit großem Heap dieses Betriebsstem Feature (bei Linux und Windows) nutzen können.

Am Ende des Artikels findet sich einen Verweis auf das AMD's CodeAnalyst performance analyzer der es ermöglicht genau zu sehen wieviele TLB Cache Misses die Anwendung für die Datensegmente noch hat.