FinWX Foorumi

Yleiset keskustelualueet => EWN - European Weather Network => Aiheen aloitti: weatherc - perjantai, 11.12.2015, 23:02

Otsikko: EWN ennuste
Kirjoitti: weatherc - perjantai, 11.12.2015, 23:02
Kehityksessä on uusi datakeruu/laskenta-skripti ennusteelle, eli se joka hakee datat mysql-kannasta, hakee XML-filut YR:ltä sekä FMI:ltä sekä laskee ennusteen. Syy tähän on settä vanha on paisunut kun pullataikina ja se tekee aivan älyttömän määrän mysql-hakuja (noin 7000 per ennuste), eli on purkkakoodia parhaimmillaan  ;D :P No se ei rasita dediä koska nuo tehdään dataserverillä mutta silti.
Syy siihen on aika simppeli, sen jälkeen kun tuo skripti kehiteltiin on siihen lisätty uusia juttuja kuten PoP (sateen mahdollisuus-laskenta) sekä uusia säämalleja. Uusi skripti tekee "vain" reilut 300 kyselyä.

Samalla siihen on tehty joitain muutoksia kuten että se käyttää ennusteiden tilastoja (siellä missä niitä on saatavilla) painoarvojen laatimiseen. Oletus-arvot antaa enemmän painoa FMI:lle sekä YR:lle pohjoiseen sekä DWD:lle sekä KNMI:lle etelään.

Samalla kun tuon impletoi voisi tarkistaa että onko jotain muutosta itse ennusteen ulostulossa jota tarvis muuttaa. Eli ideoita/toivomuksia?

- Eräs toivomus joka on tullut on että käppyrät tulisi takaisin esim 72h ja 15 päivän taulukoiden yhteyteen.

- Itsellä käynyt mielessä että miten olis jos löis nuo 2 taulukkoa yhteen kuten WU:lla, ja tekis "päivävalinnan" eli että pytyisi valitsemaan päivän kerralla. Näin ei taulukosta tulisi niin pirun pitkä.

- Jos katselee FMI:n sivua niin heillä on myös lähimmän sääaseman datat samalla sivulla, olisko se jotain?
Otsikko: Vs: EWN ennuste
Kirjoitti: weatherc - perjantai, 01.01.2016, 23:23
Tuore versio ennusteesta kasassa :)
Toistaiseksi käytössä vain nordicweatherin ennusteessa: http://nordicweather.net/ewnennuste.php

Suurimmat muutokset:

- Käyrä nostettu framille eli on valikon yläpuolella.
- Käyrään lisätty lämpötilan vaihteluväli (mallien alin ja ylin) sekä sateen maksimi. Ajatuksena oli yhdistää pääkäyrä ja ukkosarvot mutta siitä tuli niin sekava joten se idea kuopattiin.
- Sääasemalistaan lisätty tuulen nopeus
- 2 karttalaatikkoa lisätty, tutkat sekä minikartta ennustekartoista (tämä on itse asiassa täytekartta koska siihen jäi tyhjä kolo, mutta toisaalta siihen saatiin linkki suoraan karttoihin ;)).
- Ukkosarvoihin lisätty ukkosriski sekä rajuilmaindeksi. Ukkosriski on itse laskettu ukkosriksi, rajuilmaindeksi on sama kun Estofex-tasot
- Uudistettu paikkansapitävyys & vertailu-tabi. Paikkansapitävyys näytetään nyt sekä lähimmälle tarkistuspaikkakunnalle että mallien keskiarvot (kts lisää alla).
- Aurinkotiedoissa fixaus kaamokselle/yöttömälle yölle.
- Löysin sääikoni-fontin ja sieltä tuli napattua pari ikonia

Paikkansapitävyys-seuranta
Vanha versio seurasi vain max-lämpötilaa mutta alkoi tuntumaan että se ei välttämättä kertonut ihan totuutta. Näin UK Metofficen sivuilla että he seuraavat myös 3 tunnin välein joten viritystä kehiin. Ensinnäkin otettiin tuore listaus EWN:ssä olevista metlaitos-asemista pl. Sveitsin sekä Itävallan asemat Alppien takia. Tulos on noin 900 asemaa Suomesta, Norjasta, Ruotsista, Tanskasta, Saksasta, Hollannista sekä UK:stä.
1. Noin klo 18 UTC (20 Suomen talviaikaa) tallennetaan ennuste seuravaan päivää varten
2. Kolmen tunnin välein (00,03,06 jne UTC) vertaillaan ennusteen lämpötilaa sekä havaintoa.

Tulokset ovat vähintäänkin mielenkiintoiset. Tosin vielä on vain viikon verran dataa kehissä kun ajatus on että keskiarvot olisi viime 30 päivän arvot mutta kuitenkin. Se ei liene yllätys että pakkasjaksot tuottavat ongelmia kaikille mutta se kuinka rajusti ne menevät puihin onkin jo hitusen, siellä on nimittäin reilusti yli 5 asteen heittoja ihan yleisellä tasolla, ei vain jonkun yksittäisen paikkakunnan tasolla. Suurin ero jonka nähnyt taitaa olla jossain 15 asteen korvilla. Näinollen, varsinkin Lapin osuma-prosentit ovat ainakin toistaiseksi todella matalat mutta nousenevat kunhan keli tasoittuu ja dataa tulee enemmän.

EWN-ennusteen laskenta

EWN-ennuste sai uuden datakeruu-skriptin mutta myös laskenta sai pientä päivitystä. Vanhassa versiossa oli painot nuijittu kiveen mutta se ei välttämättä tuottanut ihan optimaalista tulosta, FMI ja YR kun jyräävät täällä pohjoisessa kun taas DWD jyrää Saksassa. Mutta myös paikallisesti on eroja. Joten painot lasketaan nyt paikkansapitävyys-datasta, siten että jos löytyy paikkakunta riittävän läheltä käytetään sen datoja, muutoin mallien yhteenlaskettuja keskiarvoja.

Laita yv:tä jos haluat testata zippiä ennenkun laitan sen jakoon. ;)
Otsikko: Vs: EWN ennuste
Kirjoitti: weatherc - sunnuntai, 03.01.2016, 19:57
Päivitetty zippi löytyy jäsenalueelta.  :)
Otsikko: Vs: EWN ennuste
Kirjoitti: weatherc - perjantai, 08.01.2016, 12:48
Jopa yli 10° eroja eri säämallien välillä tällä hetkellä. Tämä näkyy ennusteessa ihmellisinä pomppuina kohdissa jossa mallit loppuvat.

Paikkansapitävyydessä tuli myös todella suuret erot, suurimmat ovat 25° luokkaa ja niitä löytyy kaikista malleista. Yksi syy lienee mallien resoluutio joka ei kykene saamaan nuo (Lapin) pakkas-kohdat täysin oikein. Mutu-tuntumalla vaikutti Saksan DWD olevan kylmempi kun muut (eli lähimpänä totuutta).
Otsikko: Vs: EWN ennuste
Kirjoitti: Leka - perjantai, 08.01.2016, 20:16
Ei toiminut "Out Of Box" marraskuussa julkaistu EWN skripti Leuvenissa, eikä edes kohtalaisella säätämiselläkään joka ei ollut Leuvenin tapauksessa mitään uutta ;D Täytynee jossain välissä paneutua asiaan paremmalla ajalla.

Jokatapauksessa oman sääaseman etusivulla oleva EWN:n lyhyt sääennuste joka toimi "plug&play" tyyliin näyttää pitävän paremmin paikkaansa kuin edellinen EWN ennuste :)
Otsikko: Vs: EWN ennuste
Kirjoitti: weatherc - lauantai, 09.01.2016, 19:35
LainaaJokatapauksessa oman sääaseman etusivulla oleva EWN:n lyhyt sääennuste joka toimi "plug&play" tyyliin näyttää pitävän paremmin paikkaansa kuin edellinen EWN ennuste

Tässä uudessa on hitusen eri laskentatapa joka ottaa huomioon paikkansapitävyys-laskennan tietoja joten pientä eroa on vanhan ja uuden välillä.  :)

Katsotaanpa jos saisin lisättyä WXSIM paikkansapitävyys-laskentaan. :)
Lisäsin muutama kymmenen EWN-asemaa jolta löytyi EWN-kannassa WXSIM-osoite laskentakantaan jolloin ennusteen dataan tulee myös WXSIM-data ja siten saadaan nekin talteen. Ennustehan käyttää WXSIMin dataa vain jos se löytyy riittävän läheltä ja koehaku käyttämällä vain metlaitos-asemia antoi 2 osumaa, 1 UK:ssä ja 1 Hollannissa.
Otsikko: Vs: EWN ennuste
Kirjoitti: weatherc - sunnuntai, 10.01.2016, 12:41
Js haluat WXSIM:in ennuste-seurantaan niin tarkista että
- URL wxsim-filuihin on laitettu jäsenalueella
- lastret.txt generoituu and uppautuu serverille

Kunhan wxsim-osa on toiminnassa tulee tulokset näkymään niiden paikkakuntien ennusteiden "paikkanasapitävyys & vertaile"-tabin alla jotka ovat +- 0.1° sääasemasta.
Otsikko: Vs: EWN ennuste
Kirjoitti: weatherc - perjantai, 15.01.2016, 21:53
Zippi kasassa jossa tuota paikkansapitävyys-osiota ruuvattu pikkasen, mm. käyrä vaihdettu Highstockiin jotta tulee nuo valintanamiskat jolla saa 1,3 tai 6 kk datat näkösälle. Nyt toimii myös WXSIM-osa testistä.
Otsikko: Vs: EWN ennuste
Kirjoitti: Zalama - perjantai, 22.01.2016, 12:01
Kumpiko on tällä hetkellä "parempi":

http://euweather.eu/index.php?lang=fi
vai
http://nordicweather.net/ewnennuste.php?fl=FI&lang=fi&geoid=655194&city=Jyv%E4skyl%E4

Ylempi ennustaa ensi viikon tiistaille klo 20 +1 astetta ja alempi samalle ajalle -5 astetta.
Otsikko: Vs: EWN ennuste
Kirjoitti: weatherc - perjantai, 22.01.2016, 13:08
LainaaKumpiko on tällä hetkellä "parempi":

Jäänee nähtäväksi  ;D

http://euweather.eu/index.php?lang=fi taitaa käyttää vanhaa laskuskriptiä (unohtanut vaihtaa etusivulle uutta) kun taas http://nordicweather.net/ewnennuste.php?fl=FI&lang=fi&geoid=655194&city=Jyv%E4skyl%E4 käyttää uutta.
Otsikko: Vs: EWN ennuste
Kirjoitti: Leka - perjantai, 22.01.2016, 19:53
No nyt toimii viimeisin versio Leuven templatessakin vähällä vaivalla :) Tuulianimaatio ei tosin toimi jostain syystä, oilisko Henkalla ideaa mistä kiikastaa? Ennustekartta (http://www.saahiisi.com/weather2/index.php?p=46&lang=fi)
Otsikko: Vs: EWN ennuste
Kirjoitti: weatherc - perjantai, 22.01.2016, 21:26
LainaaTuulianimaatio ei tosin toimi jostain syystä, oilisko Henkalla ideaa mistä kiikastaa?

Polku ewn_proxy.php:n on väärä (puskee 404:sta). Sen asetus on $path_to_ewn. Toinen keinohan on että lataa sen siihen mistä se koittaa etsiä sitä (http://www.saahiisi.com/weather2/ewn/)  ;)
Otsikko: Vs: EWN ennuste
Kirjoitti: Leka - lauantai, 23.01.2016, 09:45
Lainaus käyttäjältä: weatherc - perjantai, 22.01.2016, 21:26
Polku ewn_proxy.php:n on väärä (puskee 404:sta). Sen asetus on $path_to_ewn.

No näinhän se oli, kiitokset :) Olin näköjään räpelöinyt vähän muitakin polkuja pieleen joihin ei olisi tarvinnut edes koskea >:( ;D
Otsikko: Vs: EWN ennuste
Kirjoitti: angle - lauantai, 02.07.2016, 11:33
EWN enusteessa tuo KNMI laittaa aika poikkeavia sade ennusteita, ainakin täällä tänään ja taitaa sekoittua EWN ennusteeseen myös. Onko noita lähteitä itse mahdollista kytkeä päälle/pois?
Otsikko: Vs: EWN ennuste
Kirjoitti: weatherc - lauantai, 02.07.2016, 14:38
Lainaus käyttäjältä: angle - lauantai, 02.07.2016, 11:33
EWN enusteessa tuo KNMI laittaa aika poikkeavia sade ennusteita, ainakin täällä tänään ja taitaa sekoittua EWN ennusteeseen myös. Onko noita lähteitä itse mahdollista kytkeä päälle/pois?

Ei ole. Kun katselen tämän hetken ennustetta niin se on MeteoFrance joka latelee noita 10+ millejä pari kertaa. Tosin ne eivät näytä pahemmin sekoittavan itse EWN:än lukemaa vaan näkyy ainoastaan käyrässä jossa näkyy vaaleansinisellä maksimilukema kaikeista malleista

Mutta...
KNMI ja MF ovat osoittautuneet todella epävakaaksi datahaun puolella eli sieltä tulee dataa jos tulee ja välillä jää tunteja pois. Ainakin MF on lyönyt jarrun päälle latausnopeudessa jolloin nopeus on liki olematon mikä ei ole kovin viisasta kun kyseesä on 100+ GB filut. Sen lisäksi lataus saattaa katketa noin vain. Taka-ajatushan tuossa todennäköisesti on että porukka ostais niiden maksullista palvelua ja tuollahan ne voivat sanoa että "data on saatavilla myös ilmaiseksi"  ;D

Vertailuna, FMI:lläkin on näyttää olevan nopeuskatto ainakin GRIB-filuissa mutta se on suht kohtalainen eli filut tulevat sentään jossain ajassa (latausaika on itse asiassa hyvin ennakoitavissa tuon katon takia) ja datan tulo on vakaata. Siitä propsit heille.

EWN-ennusteeseen on suunnitteilla muutos jossa mm. napsin pois nuo epvakaat mallit sekä muutenkin muutan pikkasen sitä että mitä malleja käytetään koska esmex tällä hetkellä se tahtoo näyttää liikaa sadetta.
Tämä on vielä vain ajatus-tasolla, joskin pientä alkua tehtynä, mutta alkuajatus on että käyttäisin ensisijaisesti FMI, YR, SMHI-dataa täällä pohjolassa (kaikista saa ulos myös ukkoset säätila-ikonin kautta), ja lisänä DWD sekä valikoidusti forecast.io. GFS/WRF on tiputuslistalla joskin GFS-data tulee olemaan mukana ainakin vertailudatassa. Se jää nähtäväksi että käytänkö sitä myös pidemmälle menevässä, eli 4-10 päivän, osassa ennustetta vaiko luotanko YR-, eli ECMWF-dataan siinä.

Yksi tavoite on myös että itse ennuste latautusi nopeammin koska tällä hetkellä se latautuu armottoman hitaasti. Tämä johtunee sekä tausta- että websivu-häkkyröistä.