Werbung

Mehrere WRF-Modelle für die Schweiz

Alles zu (Un)wetter und Klima relevant für die Schweiz
Michael (Dietikon)
 
Beiträge: 913
Registriert: Mo 25. Feb 2002, 00:49
Wohnort: 8953 Dietikon

Mehrere WRF-Modelle für die Schweiz

Beitragvon Michael (Dietikon) » Fr 22. Dez 2017, 19:55

Hallo zusammen,

ich plane seit einiger Zeit, zweimal am Tag mehrere WRF-Modelle für die Schweiz zu rechnen. Die Modellrechnungen würde ich innerhalb meiner Firma meteoPRIME GmbH durchführen, allerdings würde ich die Modellkarten und ev. auch die Modelldaten für den Privatgebrauch frei verfügbar machen. Über Letzteres muss ich mir noch Gedanken machen. Das Projekt sollte einigermassen selbsttragend sein, da meine Firma bisher v. a. ein teures Hobby war. Die Rechenleistung würde meine Firma und die Arbeitszeit meine Wenigkeit zur Verfügung stellen, allerdings rechne ich bei einer professionellen Lösung mit Serverhousing, USV, Kühlung etc. zusätzlich mit laufenden Kosten von rund 1'000 Fr./Monat, die irgendwie beglichen werden müssten. Vielleicht hat jemand von euch eine Idee, wie man das bewerkstelligen könnte.

Geplant sind WRF-Modellrechnungen in 4 verschiedenen Konfigurationen mit unterschiedlichen Parametrisierungen, alle angetrieben mit GFS. Die räumliche Auflösung, Vorhersagezeit und Häufigkeit der Modellrechnungen hängen von der verfügbaren Rechenleistung ab. Ich denke, es sollte Pi mal Daumen möglich sein, die Modelle alle 12 Stunden (00 und 12 UTC) mit einer Vorhersagezeit von 3-5 Tagen und einer räumlichen Auflösung von 3-5 km zu rechnen. Die Modellrechnungen würde ich dann von Zeit zu Zeit validieren und Modelle mit schlechter Vorhersageleistung durch neue Konfigurationen ersetzen. Ziel ist es, eine oder mehrere optimale WRF-Konfigurationen für den Alpenraum zu finden. Anschliessend könnte man die besten Modelle auch in einer höheren räumlichen Auflösung rechnen.

Und jetzt bin ich gespannt auf eure Meinungen und Ideen zu dem Projekt.

Beste Grüsse,
Michael
Dietikon ZH 405 m ü. M.

Benutzeravatar
Willi
Administrator
 
Beiträge: 6381
Registriert: Fr 10. Aug 2001, 16:16
Wohnort: 8143 Sellenbüren

Re: Mehrere WRF-Modelle für die Schweiz

Beitragvon Willi » Fr 22. Dez 2017, 20:50

Hallo Michael

Das liest sich interessant. Nach dem Ende von wrf-model.ch wäre dies bestimmt eine tolle Sache. Etwas erstaunt bin ich über die hohen Server-Kosten von Fr. 1'000/Monat. Es gibt ganz valable Root-Server ab ca. Fr. 50/Monat, wobei das Housing, USV, Netzwerkanbindung etc. vom Provider angeboten wird. Liegt der Unterschied bei der erforderlichen Rechenkapazität?

Wenn sich dein Angebot gut positionieren kann und auch in der Breite ankommt, liesse sich mit Werbebanner wieder etwas reinholen. Aber es braucht wohl einen langen Atem, bis die Besucherzahl eine kritische Masse überschreitet.

Gruss Willi

Benutzeravatar
Tajno
 
Beiträge: 16
Registriert: Do 12. Jun 2014, 12:37
Wohnort: Rümlang (8153)

Re: Mehrere WRF-Modelle für die Schweiz

Beitragvon Tajno » Sa 23. Dez 2017, 00:32

Michael (Dietikon) hat geschrieben:Hallo zusammen,

ich plane seit einiger Zeit, zweimal am Tag mehrere WRF-Modelle für die Schweiz zu rechnen. Die Modellrechnungen würde ich innerhalb meiner Firma meteoPRIME GmbH durchführen, allerdings würde ich die Modellkarten und ev. auch die Modelldaten für den Privatgebrauch frei verfügbar machen. Über Letzteres muss ich mir noch Gedanken machen. Das Projekt sollte einigermassen selbsttragend sein, da meine Firma bisher v. a. ein teures Hobby war. Die Rechenleistung würde meine Firma und die Arbeitszeit meine Wenigkeit zur Verfügung stellen, allerdings rechne ich bei einer professionellen Lösung mit Serverhousing, USV, Kühlung etc. zusätzlich mit laufenden Kosten von rund 1'000 Fr./Monat, die irgendwie beglichen werden müssten. Vielleicht hat jemand von euch eine Idee, wie man das bewerkstelligen könnte.


Muss es den ein Housing sein? Bei einem Housing hängt natürlich alles an dir. Ich arbeite bei einem grösseren Linux-Hoster drum kenn ich mich da ein wenig aus. Wie Willi erwähnt gibt es vRoot Server ab 50.-. Aber das sind eben wiederum virtuelle Systeme - so wie ich das einschätze brauchst du vor allem Rechenpower, weshalb du ein dedizierter Server benötigst. Aber die kriegst du auch ab 200-500.- (je nach benötigter Power). Und die sind dabei noch dual powered, der Provider tauscht den Server bei EOL/Defekt aus usw. - du mietest quasi den Server, kümmerst dich aber nicht um die Versorgung.

Nun halt die Frage, was bedeutet für Dich "Rechenleistung" - kannst du das quantifizieren?
Wieviele Server benötigst du?

Gerade bei solchen Ausgangslagen kann sich je nachdem auch ein AWS Setup rentieren - einfach weil du da bezahlst, was du beziehst. Storage scheint ja zb. eher nebensächlich zu sein (Geschwindikeit&Verfügbarkeit . Objekstorage reicht wohl aus) - geht primär um Rechenzyklen.

Theoretisch lässt sich sowas auch zuhause in einem Keller o.ä. betreiben - nebenher ein Loadbalancer (Cloudsystem ab 11.- im Monat z.b. mit 1 CPU/1GB RAM - der kann dann z.b. auch gleich Monitoring übernehmen oder das Frontend stellen) damit sich die IP der Sites nicht ändert und einfach failovert sobald sich eine IP des Backends changed etc... Du musst ja ansich nur alle 12 Stunden den Content pushen können - der Rest kann woanders laufen. Einfach als zusätzliche Idee.

Möglichkeiten gibt es eigtl. einige - aber es braucht spezifischere Angaben. Kannst mich sonst gern auch mal per PN anschreiben wenn du eine Frage hast :).
Zuletzt geändert von Tajno am Sa 23. Dez 2017, 00:35, insgesamt 3-mal geändert.

helios
 
Beiträge: 232
Registriert: So 10. Mär 2013, 20:31

Re: Mehrere WRF-Modelle für die Schweiz

Beitragvon helios » Sa 23. Dez 2017, 01:02

Wäre es möglich, die Modelle im Rahmen eines Distributed-Computing Projektes (z.B. via BOINC) rechnen zu lassen? Ich bin mir sicher, es würden sich genügend viele Freiwillige finden, die etwas Rechenzeit spenden.

Microwave
 
Beiträge: 797
Registriert: Mo 2. Aug 2010, 22:31
Wohnort: 8640 Rapperswil

Re: Mehrere WRF-Modelle für die Schweiz

Beitragvon Microwave » Sa 23. Dez 2017, 06:41

helios hat geschrieben:Ich bin mir sicher, es würden sich genügend viele Freiwillige finden, die etwas Rechenzeit spenden.

Finde ich um Grössenordnungen sinnvoller, als
- Nach Ausserirdischen zu suchen
- Coins aller Art zu minen
...

Beste Grüsse
Successful corepunches during (GA) chasing:
5, 3, 0
5, 0

Michael (Dietikon)
 
Beiträge: 913
Registriert: Mo 25. Feb 2002, 00:49
Wohnort: 8953 Dietikon

Re: Mehrere WRF-Modelle für die Schweiz

Beitragvon Michael (Dietikon) » Sa 23. Dez 2017, 09:22

Tajno hat geschrieben:Muss es den ein Housing sein? Bei einem Housing hängt natürlich alles an dir. Ich arbeite bei einem grösseren Linux-Hoster drum kenn ich mich da ein wenig aus. Wie Willi erwähnt gibt es vRoot Server ab 50.-. Aber das sind eben wiederum virtuelle Systeme - so wie ich das einschätze brauchst du vor allem Rechenpower, weshalb du ein dedizierter Server benötigst. Aber die kriegst du auch ab 200-500.- (je nach benötigter Power). Und die sind dabei noch dual powered, der Provider tauscht den Server bei EOL/Defekt aus usw. - du mietest quasi den Server, kümmerst dich aber nicht um die Versorgung.

Nun halt die Frage, was bedeutet für Dich "Rechenleistung" - kannst du das quantifizieren?
Wieviele Server benötigst du?

Gerade bei solchen Ausgangslagen kann sich je nachdem auch ein AWS Setup rentieren - einfach weil du da bezahlst, was du beziehst. Storage scheint ja zb. eher nebensächlich zu sein (Geschwindikeit&Verfügbarkeit . Objekstorage reicht wohl aus) - geht primär um Rechenzyklen.

Theoretisch lässt sich sowas auch zuhause in einem Keller o.ä. betreiben - nebenher ein Loadbalancer (Cloudsystem ab 11.- im Monat z.b. mit 1 CPU/1GB RAM - der kann dann z.b. auch gleich Monitoring übernehmen oder das Frontend stellen) damit sich die IP der Sites nicht ändert und einfach failovert sobald sich eine IP des Backends changed etc... Du musst ja ansich nur alle 12 Stunden den Content pushen können - der Rest kann woanders laufen. Einfach als zusätzliche Idee.


Die Hardware hätte ich und sie wird momentan nicht für andere Zwecke benötigt, darum habe ich an eine Housing-Lösung gedacht. Es handelt sich um einen Cluster mit 4 Nodes mit jeweils 2 Xeon-Prozessoren (6 Cores) und 32 GB Arbeitsspeicher. Der Rechner ist zwar schon etwas älter mit 4 Jahren auf dem Buckel, aber ich denke, die Leistung kriegt man auch heute nicht so günstig. An die Kellervariante, mit der man die Kosten sicher noch einiges drücken könnte, habe ich auch gedacht, aber da fehlt mir eine geeignete Räumlichkeit. Zudem produziert der Rechner unter Volllast ziemlich viel Wärme - je nach Raum kann das ein Problem werden und wenn man den Raum klimatisieren muss, wird's schnell wieder teuer.
Dietikon ZH 405 m ü. M.

Michael (Dietikon)
 
Beiträge: 913
Registriert: Mo 25. Feb 2002, 00:49
Wohnort: 8953 Dietikon

Re: Mehrere WRF-Modelle für die Schweiz

Beitragvon Michael (Dietikon) » Sa 23. Dez 2017, 09:43

Willi hat geschrieben:Hallo Michael

Das liest sich interessant. Nach dem Ende von wrf-model.ch wäre dies bestimmt eine tolle Sache. Etwas erstaunt bin ich über die hohen Server-Kosten von Fr. 1'000/Monat. Es gibt ganz valable Root-Server ab ca. Fr. 50/Monat, wobei das Housing, USV, Netzwerkanbindung etc. vom Provider angeboten wird. Liegt der Unterschied bei der erforderlichen Rechenkapazität?

Wenn sich dein Angebot gut positionieren kann und auch in der Breite ankommt, liesse sich mit Werbebanner wieder etwas reinholen. Aber es braucht wohl einen langen Atem, bis die Besucherzahl eine kritische Masse überschreitet.

Gruss Willi


Hallo Willi

Das Ganze wird schnell teuer, da hohe Rechenleistung mit einem hohen Stromverbrauch einhergeht. Dadurch steigen die Kosten bei eine Housing-Lösung, bei der man die Hardware selber bereitstellt, rasch an. Ich war selber überrascht und habe darum viele verschiedene Angebote verglichen, aber unter der Strich kam ich in jedem Fall auf rund 1'000 Fr./Monat, wovon einige 100 Fr. allein für den Stromverbrauch für Rechner und Kühlung eingerechnet werden müssen.

Ich habe mir auch überlegt, einen Teil der Kosten über Werbeeinnahmen wieder reinzuholen, aber kann überhaupt nicht einschätzen, wie viel Traffic ich erwarten kann und was das in etwa einbringt. Ich denke aber, es wird wohl schwierig sein, die Kosten allein mit Werbeeinnahmen zu decken.

Gruss, Michael
Dietikon ZH 405 m ü. M.

Michael (Dietikon)
 
Beiträge: 913
Registriert: Mo 25. Feb 2002, 00:49
Wohnort: 8953 Dietikon

Re: Mehrere WRF-Modelle für die Schweiz

Beitragvon Michael (Dietikon) » Sa 23. Dez 2017, 09:45

helios hat geschrieben:Wäre es möglich, die Modelle im Rahmen eines Distributed-Computing Projektes (z.B. via BOINC) rechnen zu lassen? Ich bin mir sicher, es würden sich genügend viele Freiwillige finden, die etwas Rechenzeit spenden.


Das muss ich mal abklären, aber ist ein spannender Vorschlag. Danke an alle für eure Rückmeldungen!

Gruss, Michael
Dietikon ZH 405 m ü. M.

Benutzeravatar
Dominic Kurz
 
Beiträge: 798
Registriert: Mo 8. Jul 2013, 10:31
Wohnort: 5106 Veltheim AG

Re: Mehrere WRF-Modelle für die Schweiz

Beitragvon Dominic Kurz » Mo 25. Dez 2017, 08:20

Hallo Michael

Ich habe mir ein solches Projekt auch schon überlegt. An der Infrastruktur liegt es allerdings nicht, denn ich habe nach langem Suchen etwas günstiges gefunden.
Meine Serverkonfiguration ist wie folgt:
8 CPU Kerne (erweiterbar auf 12), 32GB RAM (erweiterbar auf 64GB), 950GB SSD NAS Speicher, 500Mbit/Sek. Up- und Downloadgeschwindigkeit.
Es ist ein Root-Server mit Linux und kostet mich in der obigen Konfiguration lediglich 80 Euro pro Monat. Für diese Konfigurationen ist das fast geschenkt, denn es lässt sich jederzeit ein Up- oder Downgrade machen.

Ich selbst habe mich mal versucht mit WRF-UEMS V15.99, was dann irgendwie nicht so richtig klappen wollte (für Debian eine Herausforderung), und nun bin ich lediglich WRF-ARW am installieren.
Dies klappt gut, jedoch die Run's noch nicht. Es ist nicht einfach das ganze aufzubauen denke ich, aber wenn die Grundlage mal gelegt ist und so ein System einwandfrei läuft, kann man darauf aufbauen.

Gruss
Dominic

Michael (Dietikon)
 
Beiträge: 913
Registriert: Mo 25. Feb 2002, 00:49
Wohnort: 8953 Dietikon

Re: Mehrere WRF-Modelle für die Schweiz

Beitragvon Michael (Dietikon) » Do 22. Feb 2018, 10:30

Hallo zusammen

Vielen Dank nochmals für alle eure Rückmeldungen!

Ich bin nun endlich dazugekommen, mir die neuste WRF-Version 3.9.1.1 zu installieren, zu konfigurieren und erste Tests durchzuführen. Der Output sieht vielversprechend aus. ;) Zudem habe ich wohl eine Cloud-Lösung gefunden, bei welcher die Kosten im Rahmen bleiben sollten. Derzeit ist WRF zu Testzwecken aber noch lokal auf meinem Desktop-PC installiert. Nun bin ich dabei eine gute Lösung für das Postprocessing bzw. die Visualisierung zu suchen. Ich tendiere da allerdings zu NCL, da dieses bereits viele Tools für den WRF-Output bereitstellt und mir damit einiges an Arbeit abnimmt. Schliesslich bin ich immer noch auf der Suche nach einer geeigneten und kostengünstigen Speicherlösung, da ich den generierten Output archivieren möchte und die Cloud dafür nicht in Frage kommt. Den Speicherplatz hätte ich.

Einige Angaben zur WRF-Konfiguration: Die innerste Domain umfasst den gesamten Alpenbogen und hat eine Auflösung von 3.33 km. Ev. kann ich in der Cloud noch sogar höher hinauf gehen, da WRF in dieser Auflösung auf meinem Desktop-PC (i7 mit 8 GB RAM) problemlos und schnell läuft. Als dynamischen Solver verwende ich ARW, aber werde später für Tests sicher auch noch NMM dazunehmen. Angetrieben wird WRF von GFS. Derzeit ist alles (WRF sowie notwendige Tools und zugehörige Bibliotheken) mit der GNU Compiler Collection kompiliert, aber vermutlich kann man mit dem neusten Intel Compiler und Compileroptimierungen noch einmal einiges an Geschwindigkeit rausholen.

Das wäre mal der aktuelle Stand. Ich halte euch gerne weiter auf dem Laufenden. :)

Beste Grüsse,
Michael
Dietikon ZH 405 m ü. M.

Nächste

Zurück zu Allgemein Schweiz und Umgebung

Wer ist online?

Mitglieder in diesem Forum: 0 Mitglieder