Werbung
Mehrere WRF-Modelle für die Schweiz
- MeteoLukas
- Beiträge: 71
- Registriert: Mi 16. Sep 2009, 20:54
- Geschlecht: männlich
- Wohnort: Widnau(SG)
- Hat sich bedankt: 31 Mal
- Danksagung erhalten: 118 Mal
- Kontaktdaten:
Re: Mehrere WRF-Modelle für die Schweiz
Hallo Michael
Cooles Projekt, würde mich auch reizen
Da du mit 3.33 km die grossen Alpinen Täler noch nicht auflösen kannst (im WRF werden Prozesse der Grössenordnung 5 bis 6 * delta x aufgelöst), wie wärs wenn du ICON-Nest von etwa 7km als Eingangsdaten und Randwerte verwenden würdest? dann kannst du das Modell z.B. mit 7/5=1.4km Auflösung betreiben, oder? Icon-Nest oder Icon-EU gibts hier: https://opendata.dwd.de/test/weather/icon/eu_nest/grib/
Der Aufwand ist bestimmt grösser als mit GFS, aber vielleicht lohnt es sich ja?
Von Icon kommen jedenfalls bessere Daten wie Schneebedeckung, Wassertemperaturen, etc. als von GFS.
Gruss Lukas
Cooles Projekt, würde mich auch reizen
Da du mit 3.33 km die grossen Alpinen Täler noch nicht auflösen kannst (im WRF werden Prozesse der Grössenordnung 5 bis 6 * delta x aufgelöst), wie wärs wenn du ICON-Nest von etwa 7km als Eingangsdaten und Randwerte verwenden würdest? dann kannst du das Modell z.B. mit 7/5=1.4km Auflösung betreiben, oder? Icon-Nest oder Icon-EU gibts hier: https://opendata.dwd.de/test/weather/icon/eu_nest/grib/
Der Aufwand ist bestimmt grösser als mit GFS, aber vielleicht lohnt es sich ja?
Von Icon kommen jedenfalls bessere Daten wie Schneebedeckung, Wassertemperaturen, etc. als von GFS.
Gruss Lukas
-
- Beiträge: 1071
- Registriert: Mo 25. Feb 2002, 00:49
- Geschlecht: männlich
- Wohnort: 8953 Dietikon
- Hat sich bedankt: 709 Mal
- Danksagung erhalten: 468 Mal
- Kontaktdaten:
Re: Mehrere WRF-Modelle für die Schweiz
Hallo Lukas
Danke für den Hinweis auf ICON. Wäre sicherlich interessant WRF mit ICON anzutreiben, aber dürfte wohl ein ziemlich grosser Aufwand sein, da man für das Preprocessing ein eigenes Tool schreiben müsste. Bei GFS oder ECMWF ist das schon mitgeliefert. Dafür ist ECMWF (noch?) nicht frei verfügbar, falls ich richtig informiert bin.
@all: WRF ist nun in der Cloud installiert. Ich führe derzeit letzte Tests durch. Wenn alles klappt, dürfte ab morgen alle 12 Stunden vollautomatisch ein WRF mit 10 km resp. 3.33 km Auflösung gerechnet werden. Nachdem ein Lauf fertiggestellt wurde, werden die Daten auf meinen Webserver gepusht. Man findet sie für einige Tage unter: http://www.meteoprime.ch/wrf/wrf1/data/. Sie sind für die nichtkommerzielle Nutzung freigegeben, allerdings ist bei Weiterverbreitung die Namensnennung der Firma meteoPRIME notwendig. Sobald ich dazukomme, werde ich auch Plots erstellen mit NCL. Diese findet man dann unter http://www.meteoprime.ch/wrf/wrf1/plots.
Gruss, Michael
Topographie der inneren (3.33 km) und äusseren (10 km) Domain
Innere Domain
Danke für den Hinweis auf ICON. Wäre sicherlich interessant WRF mit ICON anzutreiben, aber dürfte wohl ein ziemlich grosser Aufwand sein, da man für das Preprocessing ein eigenes Tool schreiben müsste. Bei GFS oder ECMWF ist das schon mitgeliefert. Dafür ist ECMWF (noch?) nicht frei verfügbar, falls ich richtig informiert bin.
@all: WRF ist nun in der Cloud installiert. Ich führe derzeit letzte Tests durch. Wenn alles klappt, dürfte ab morgen alle 12 Stunden vollautomatisch ein WRF mit 10 km resp. 3.33 km Auflösung gerechnet werden. Nachdem ein Lauf fertiggestellt wurde, werden die Daten auf meinen Webserver gepusht. Man findet sie für einige Tage unter: http://www.meteoprime.ch/wrf/wrf1/data/. Sie sind für die nichtkommerzielle Nutzung freigegeben, allerdings ist bei Weiterverbreitung die Namensnennung der Firma meteoPRIME notwendig. Sobald ich dazukomme, werde ich auch Plots erstellen mit NCL. Diese findet man dann unter http://www.meteoprime.ch/wrf/wrf1/plots.
Gruss, Michael
Topographie der inneren (3.33 km) und äusseren (10 km) Domain
Innere Domain
Dietikon ZH 405 m ü. M.
www.meteoprime.ch
www.meteoprime.ch
- MeteoLukas
- Beiträge: 71
- Registriert: Mi 16. Sep 2009, 20:54
- Geschlecht: männlich
- Wohnort: Widnau(SG)
- Hat sich bedankt: 31 Mal
- Danksagung erhalten: 118 Mal
- Kontaktdaten:
Re: Mehrere WRF-Modelle für die Schweiz
Hallo Michael
So ist es, ECMWF ist nicht frei verfügbar, oder nur wenige Parameter. Ja die Schnittstelle zwischen Icon und WRF müsste erst einmal geschrieben werden, da habe ich grad auch noch nichts herumliegen
Cool dass es läuft, jetzt steht vermutlich noch fine-tuning an? Eigentlich könnte man noch viele Daten assimilieren, gerade die Wassertemperaturen des GFS sind mir ein Dorn im Auge. Super dass du den Output online hast, im NetCDF file sind einige Parameter, die nie jemand brauche wird, wärs möglich diese wegzulassen? Damit könntest du den Speicherplatz drastisch reduzieren...
Viel Erfolg!
Lukas
So ist es, ECMWF ist nicht frei verfügbar, oder nur wenige Parameter. Ja die Schnittstelle zwischen Icon und WRF müsste erst einmal geschrieben werden, da habe ich grad auch noch nichts herumliegen
Cool dass es läuft, jetzt steht vermutlich noch fine-tuning an? Eigentlich könnte man noch viele Daten assimilieren, gerade die Wassertemperaturen des GFS sind mir ein Dorn im Auge. Super dass du den Output online hast, im NetCDF file sind einige Parameter, die nie jemand brauche wird, wärs möglich diese wegzulassen? Damit könntest du den Speicherplatz drastisch reduzieren...
Viel Erfolg!
Lukas
-
- Beiträge: 1071
- Registriert: Mo 25. Feb 2002, 00:49
- Geschlecht: männlich
- Wohnort: 8953 Dietikon
- Hat sich bedankt: 709 Mal
- Danksagung erhalten: 468 Mal
- Kontaktdaten:
Re: Mehrere WRF-Modelle für die Schweiz
Hallo Lukas
Ja, scheint noch ein paar Bugs zu geben. Es läuft zwar alles durch (noch etwas zu langsam), aber am Ende bricht mir der Datentransfer via scp aus irgendwelchen Gründen ab ("broken pipe") und dann fährt die virtuelle Maschine in der Cloud aus unerfindlich Gründen nicht automatisch herunter. Sollte sie bei einem Fehler immer automatisch machen. Werde wohl noch ein paar Stunden basteln müssen, aber im Grunde ist alles da. Das mit dem Datentransfer muss ich mir ohnehin nochmals im Detail überlegen. Die Files sind im Moment sehr sperrig (der Output der inneren Domain hat 5 GB), da kann man wie Du sagst, sicher noch etwas abspecken. Ev. werde ich schon ein Postprocessing in der Cloud machen. UPP könnte für WRF Sinn machen, da es auch mit dem NMM-Output umgehen kann, allerdings schreibt es nur im GRIB-Format heraus. Muss mal schauen, was es da so für Tools gibt.
Danke und Gruss,
Michael
PS. Der komplette 00z-Lauf von WRF ist nun übrigens auf dem Webserver.
Ja, scheint noch ein paar Bugs zu geben. Es läuft zwar alles durch (noch etwas zu langsam), aber am Ende bricht mir der Datentransfer via scp aus irgendwelchen Gründen ab ("broken pipe") und dann fährt die virtuelle Maschine in der Cloud aus unerfindlich Gründen nicht automatisch herunter. Sollte sie bei einem Fehler immer automatisch machen. Werde wohl noch ein paar Stunden basteln müssen, aber im Grunde ist alles da. Das mit dem Datentransfer muss ich mir ohnehin nochmals im Detail überlegen. Die Files sind im Moment sehr sperrig (der Output der inneren Domain hat 5 GB), da kann man wie Du sagst, sicher noch etwas abspecken. Ev. werde ich schon ein Postprocessing in der Cloud machen. UPP könnte für WRF Sinn machen, da es auch mit dem NMM-Output umgehen kann, allerdings schreibt es nur im GRIB-Format heraus. Muss mal schauen, was es da so für Tools gibt.
Danke und Gruss,
Michael
PS. Der komplette 00z-Lauf von WRF ist nun übrigens auf dem Webserver.
Zuletzt geändert von Michael (Dietikon) am Sa 3. Mär 2018, 17:20, insgesamt 1-mal geändert.
Dietikon ZH 405 m ü. M.
www.meteoprime.ch
www.meteoprime.ch
-
- Beiträge: 1071
- Registriert: Mo 25. Feb 2002, 00:49
- Geschlecht: männlich
- Wohnort: 8953 Dietikon
- Hat sich bedankt: 709 Mal
- Danksagung erhalten: 468 Mal
- Kontaktdaten:
Re: Mehrere WRF-Modelle für die Schweiz
Hallo zusammen
Weiss jemand von euch, warum es beim Ausführen von scp zu folgender Meldung kommt? Ich nutze den Befehl, um den WRF-Output aus der Cloud zu meinem Webhost (Hostpoint) zu pushen. Wenn ich es manuell ausführe, funktioniert es, aber in meinem automatisch ausgeführten bash-Skript bricht der Upload jedesmal mit folgender Fehlermeldung ab und die Datei wird nur unvollständig geschrieben.
"packet_write_wait: Connection to 217.xx.xx.xx port 22: Broken pipe"
"lost connection"
Ich werde beim nächsten Run wohl mit scp noch ein ServerKeepAlive-Signal mitsenden, aber bin nicht sicher, ob das hilft.
Danke und Gruss,
Michael
Weiss jemand von euch, warum es beim Ausführen von scp zu folgender Meldung kommt? Ich nutze den Befehl, um den WRF-Output aus der Cloud zu meinem Webhost (Hostpoint) zu pushen. Wenn ich es manuell ausführe, funktioniert es, aber in meinem automatisch ausgeführten bash-Skript bricht der Upload jedesmal mit folgender Fehlermeldung ab und die Datei wird nur unvollständig geschrieben.
"packet_write_wait: Connection to 217.xx.xx.xx port 22: Broken pipe"
"lost connection"
Ich werde beim nächsten Run wohl mit scp noch ein ServerKeepAlive-Signal mitsenden, aber bin nicht sicher, ob das hilft.
Danke und Gruss,
Michael
Dietikon ZH 405 m ü. M.
www.meteoprime.ch
www.meteoprime.ch
-
- Beiträge: 418
- Registriert: So 10. Mär 2013, 20:31
- Geschlecht: männlich
- Hat sich bedankt: 438 Mal
- Danksagung erhalten: 356 Mal
Re: Mehrere WRF-Modelle für die Schweiz
Das "broken pipe" kommt wohl von der bash, bzw. der shell worin du den Befehl ausführst und nicht vom scp selber. Daher wäre es interessant zu wissen, wie du das scp auslöst.
-
- Beiträge: 1071
- Registriert: Mo 25. Feb 2002, 00:49
- Geschlecht: männlich
- Wohnort: 8953 Dietikon
- Hat sich bedankt: 709 Mal
- Danksagung erhalten: 468 Mal
- Kontaktdaten:
Re: Mehrere WRF-Modelle für die Schweiz
Ich habe einen kleine virtuelle Maschine, die via crontab einen ssh-Befehl ausführt, der auf einer anderen (grösseren) virtuellen Maschine ein bash-Skript anstösst. Innerhalb von diesem bash-Skript wird auch scp aufgerufen. Komischerweise ist jetzt alles korrekt durchgelaufen, ohne dass ich etwas geändert habe. Das neuste WRF (00z) wäre also vorhanden. Die Rechenzeit des WRF-Modells beträgt rund 6 Stunden, allerdings benötigt der Download und das Preprocessing einiges an Zeit. Allein der Download von GFS hat über eine Stunde gedauert.
Gruss, Michael
Gruss, Michael
Zuletzt geändert von Michael (Dietikon) am So 4. Mär 2018, 12:24, insgesamt 1-mal geändert.
Dietikon ZH 405 m ü. M.
www.meteoprime.ch
www.meteoprime.ch
-
- Beiträge: 1071
- Registriert: Mo 25. Feb 2002, 00:49
- Geschlecht: männlich
- Wohnort: 8953 Dietikon
- Hat sich bedankt: 709 Mal
- Danksagung erhalten: 468 Mal
- Kontaktdaten:
Re: Mehrere WRF-Modelle für die Schweiz
Hallo zusammen,
ihr findet nun die ersten Plots (2m Temperatur, 10m Wind, Niederschlag) unter: http://www.meteoprime.ch/wrf/wrf1/plots/20180305_00/ . Gerne könnt ihr mir Verbesserungsvorschläge machen. Die Plots sollten nun für jeden Lauf automatisch gerechnet werden. Ich werde versuchen möglichst schnell weitere interessante Felder hinzuzufügen, aber alles braucht seine Zeit.
Gruss, Michael
ihr findet nun die ersten Plots (2m Temperatur, 10m Wind, Niederschlag) unter: http://www.meteoprime.ch/wrf/wrf1/plots/20180305_00/ . Gerne könnt ihr mir Verbesserungsvorschläge machen. Die Plots sollten nun für jeden Lauf automatisch gerechnet werden. Ich werde versuchen möglichst schnell weitere interessante Felder hinzuzufügen, aber alles braucht seine Zeit.
Gruss, Michael
Zuletzt geändert von Michael (Dietikon) am Mo 5. Mär 2018, 20:24, insgesamt 1-mal geändert.
Dietikon ZH 405 m ü. M.
www.meteoprime.ch
www.meteoprime.ch
- MeteoLukas
- Beiträge: 71
- Registriert: Mi 16. Sep 2009, 20:54
- Geschlecht: männlich
- Wohnort: Widnau(SG)
- Hat sich bedankt: 31 Mal
- Danksagung erhalten: 118 Mal
- Kontaktdaten:
Re: Mehrere WRF-Modelle für die Schweiz
Hoi Michael,
wenn du noch am Anfang der Visualisierung stehst, möchte ich dir folgendes Paper zu Farbskalen (im BAMS) empfehlen: https://journals.ametsoc.org/doi/pdf/10 ... 13-00155.1
Denn oft suggerieren die Farbgradienten falsche Informationen, in Theta-E z.B. Fronten dies gar nicht gibt, ebenso sind die meisten Karten für Leute mit Farbschwäche schwer zu lesen. Als Beispiel einer GFS-Visualisierung: http://ertel2.uibk.ac.at, die Karten sind nur auf den ersten Blick gewöhnungsbedürftig
Gruss Lukas
wenn du noch am Anfang der Visualisierung stehst, möchte ich dir folgendes Paper zu Farbskalen (im BAMS) empfehlen: https://journals.ametsoc.org/doi/pdf/10 ... 13-00155.1
Denn oft suggerieren die Farbgradienten falsche Informationen, in Theta-E z.B. Fronten dies gar nicht gibt, ebenso sind die meisten Karten für Leute mit Farbschwäche schwer zu lesen. Als Beispiel einer GFS-Visualisierung: http://ertel2.uibk.ac.at, die Karten sind nur auf den ersten Blick gewöhnungsbedürftig
Gruss Lukas
Zuletzt geändert von Willi am Di 6. Mär 2018, 07:19, insgesamt 1-mal geändert.
Grund: Link korrigiert
Grund: Link korrigiert
-
- Beiträge: 1071
- Registriert: Mo 25. Feb 2002, 00:49
- Geschlecht: männlich
- Wohnort: 8953 Dietikon
- Hat sich bedankt: 709 Mal
- Danksagung erhalten: 468 Mal
- Kontaktdaten:
Re: Mehrere WRF-Modelle für die Schweiz
Hoi Lukas,
danke für den Hinweis. Von dem Paper habe ich auch schon gehört. Ich sollte solche Sachen auch bei wissenschaftlichen Publikationen mehr berücksichtigen. In NCL müssten eigentlich optimierte Farbtabellen für solche Zwecke vorhanden sein.
@alle: Es gibt wohl noch einige Probleme bei der Konfiguration des Modells. So produziert es derzeit noch deutlich zu viel Niederschlag. Der Grund dafür ist wohl das Mikrophysikschema. Werde das WRF darum vorübergehend nur um 00z laufen lassen, solange bis ich eine bessere Konfiguration gefunden habe.
Gruss, Michael
danke für den Hinweis. Von dem Paper habe ich auch schon gehört. Ich sollte solche Sachen auch bei wissenschaftlichen Publikationen mehr berücksichtigen. In NCL müssten eigentlich optimierte Farbtabellen für solche Zwecke vorhanden sein.
@alle: Es gibt wohl noch einige Probleme bei der Konfiguration des Modells. So produziert es derzeit noch deutlich zu viel Niederschlag. Der Grund dafür ist wohl das Mikrophysikschema. Werde das WRF darum vorübergehend nur um 00z laufen lassen, solange bis ich eine bessere Konfiguration gefunden habe.
Gruss, Michael
Dietikon ZH 405 m ü. M.
www.meteoprime.ch
www.meteoprime.ch