X-Git-Url: https://git.auder.net/?p=talweg.git;a=blobdiff_plain;f=reports%2FExperiments.gj;fp=reports%2FExperiments.gj;h=0f102ad7afbbc87872e14718d51d95200b576b55;hp=0000000000000000000000000000000000000000;hb=4d376294a6286ca1548d978055731dac175ffa3a;hpb=b4bb50591a237f0510087e8bb9a2825b68037b47
diff --git a/reports/Experiments.gj b/reports/Experiments.gj
new file mode 100644
index 0000000..0f102ad
--- /dev/null
+++ b/reports/Experiments.gj
@@ -0,0 +1,255 @@
+-----
+# Résultats numériques
+
+Cette partie montre les résultats obtenus avec des variantes de l'algorithme décrit au
+chapitre , en utilisant le package présenté à la section 3. Cet algorithme est
+systématiquement comparé à deux approches naïves :
+
+ * la moyenne des lendemains des jours "similaires" dans tout le passé, c'est-à -dire
+prédiction = moyenne de tous les mardis passés si le jour courant est un lundi.
+ * la persistence, reproduisant le jour courant ou allant chercher le lendemain de la
+dernière journée "similaire" (même principe que ci-dessus ; argument "same\_day").
+
+Concernant l'algorithme principal à voisins, trois variantes sont étudiées dans cette
+partie :
+
+ * avec simtype="mix" et raccordement "Neighbors" dans le cas "non local", i.e. on va
+chercher des voisins n'importe où du moment qu'ils correspondent au premier élément d'un
+couple de deux jours consécutifs sans valeurs manquantes.
+ * avec simtype="endo" + raccordement "Neighbors" puis simtype="none" + raccordement
+"Zero" (sans ajustement) dans le cas "local" : voisins de même niveau de pollution et
+même saison.
+
+Pour chaque période retenue $-$ chauffage, épandage, semaine non polluée $-$ les erreurs
+de prédiction sont d'abord affichées, puis quelques graphes de courbes réalisées/prévues
+(sur le jour "en moyenne le plus facile" Ã gauche, et "en moyenne le plus difficile" Ã
+droite). Ensuite plusieurs types de graphes apportant des précisions sur la nature et la
+difficulté du problème viennent compléter ces premières courbes. Concernant les graphes
+de filaments, la moitié gauche du graphe correspond aux jours similaires au jour courant,
+tandis que la moitié droite affiche les lendemains : ce sont donc les voisinages tels
+qu'utilisés dans l'algorithme.
+<%
+list_titles = ['Pollution par chauffage','Pollution par épandage','Semaine non polluée']
+list_indices = ['indices_ch', 'indices_ep', 'indices_np']
+%>
+-----r
+library(talweg)
+
+P = ${P} #instant de prévision
+H = ${H} #horizon (en heures)
+
+ts_data = read.csv(system.file("extdata","pm10_mesures_H_loc_report.csv",
+ package="talweg"))
+exo_data = read.csv(system.file("extdata","meteo_extra_noNAs.csv",
+ package="talweg"))
+# NOTE: 'GMT' because DST gaps are filled and multiple values merged in
+# above dataset. Prediction from P+1 to P+H included.
+data = getData(ts_data, exo_data, input_tz = "GMT", working_tz="GMT",
+ predict_at=P)
+
+indices_ch = seq(as.Date("2015-01-18"),as.Date("2015-01-24"),"days")
+indices_ep = seq(as.Date("2015-03-15"),as.Date("2015-03-21"),"days")
+indices_np = seq(as.Date("2015-04-26"),as.Date("2015-05-02"),"days")
+% for i in range(3):
+-----
+##
${list_titles[i]}
+${"##"} ${list_titles[i]}
+-----r
+p1 = computeForecast(data, ${list_indices[i]}, "Neighbors", "Neighbors", horizon=H,
+ simtype="mix", local=FALSE)
+p2 = computeForecast(data, ${list_indices[i]}, "Neighbors", "Neighbors", horizon=H,
+ simtype="endo", local=TRUE)
+p3 = computeForecast(data, ${list_indices[i]}, "Neighbors", "Zero", horizon=H,
+ simtype="none", local=TRUE)
+p4 = computeForecast(data, ${list_indices[i]}, "Average", "Zero", horizon=H)
+p5 = computeForecast(data, ${list_indices[i]}, "Persistence", "Zero", horizon=H,
+ same_day=${'TRUE' if loop.index < 2 else 'FALSE'})
+-----r
+e1 = computeError(data, p1, H)
+e2 = computeError(data, p2, H)
+e3 = computeError(data, p3, H)
+e4 = computeError(data, p4, H)
+e5 = computeError(data, p5, H)
+options(repr.plot.width=9, repr.plot.height=7)
+plotError(list(e1, e5, e4, e2, e3), cols=c(1,2,colors()[258],4,6))
+
+# noir: Neighbors non-local (p1), bleu: Neighbors local endo (p2),
+# mauve: Neighbors local none (p3), vert: moyenne (p4),
+# rouge: persistence (p5)
+
+sum_p123 = e1$abs$indices + e2$abs$indices + e3$abs$indices
+i_np = which.min(sum_p123) #indice de (veille de) jour "facile"
+i_p = which.max(sum_p123) #indice de (veille de) jour "difficile"
+-----
+% if i == 0:
+L'erreur absolue deÌpasse 20 sur 1 aÌ 2 jours suivant les modeÌles (graphe en haut aÌ
+droite). Sur cet exemple le modeÌle aÌ voisins "contraint" (local=TRUE) utilisant des
+pondeÌrations baseÌes sur les similariteÌs de forme (simtype="endo") obtient en moyenne les
+meilleurs reÌsultats, avec un MAPE restant en geÌneÌral infeÌrieur aÌ 30% de 8h aÌ 19h (7+1 aÌ
+7+12 : graphe en bas aÌ gauche).
+% elif i == 1:
+Il est difficile dans ce cas de deÌterminer une meÌthode meilleure que les autres : elles
+donnent toutes de plutoÌt mauvais reÌsultats, avec une erreur absolue moyenneÌe sur la
+journeÌe deÌpassant presque toujours 15 (graphe en haut aÌ droite).
+% else:
+Dans ce cas plus favorable les intensiteÌ des erreurs absolues ont clairement diminueÌ :
+elles restent souvent en dessous de 5. En revanche le MAPE moyen reste au-delaÌ de 20%, et
+meÌme souvent plus de 30%. Comme dans le cas de l'eÌpandage on constate une croissance
+globale de la courbe journalieÌre d'erreur absolue moyenne (en haut aÌ gauche) ; ceci peut
+eÌtre duÌ au fait que l'on ajuste le niveau du jour aÌ preÌdire en le recollant sur la
+dernieÌre valeur observeÌe.
+% endif
+-----r
+options(repr.plot.width=9, repr.plot.height=4)
+par(mfrow=c(1,2))
+
+plotPredReal(data, p1, i_np); title(paste("PredReal p1 day",i_np))
+plotPredReal(data, p1, i_p); title(paste("PredReal p1 day",i_p))
+
+plotPredReal(data, p2, i_np); title(paste("PredReal p2 day",i_np))
+plotPredReal(data, p2, i_p); title(paste("PredReal p2 day",i_p))
+
+plotPredReal(data, p3, i_np); title(paste("PredReal p3 day",i_np))
+plotPredReal(data, p3, i_p); title(paste("PredReal p3 day",i_p))
+
+# Bleu : prévue ; noir : réalisée
+-----
+% if i == 0:
+Le jour "facile aÌ preÌvoir", aÌ gauche, se deÌcompose en deux modes : un leÌger vers 10h
+(7+3), puis un beaucoup plus marqueÌ vers 19h (7+12). Ces deux modes sont retrouveÌs par
+les trois variantes de l'algorithme aÌ voisins, bien que l'amplitude soit mal preÌdite.
+Concernant le jour "difficile aÌ preÌvoir" (Ã droite) il y a deux pics en tout deÌbut et
+toute fin de journeÌe (aÌ 9h et 23h), qui ne sont pas du tout anticipeÌs par les méthodes ;
+la grande amplitude de ces pics explique alors l'intensiteÌ de l'erreur observeÌe.
+% elif i == 1:
+Dans le cas d'un jour "facile" aÌ preÌdire $-$ aÌ gauche $-$ la forme est plus ou moins
+retrouveÌe, mais le niveau moyen est trop bas (courbe en bleu). Concernant le jour
+"difficile" aÌ droite, non seulement la forme n'est pas anticipeÌe mais surtout le niveau
+preÌdit est treÌs infeÌrieur au niveau de pollution observeÌ. Comme on le voit ci-dessous
+cela deÌcoule d'un manque de voisins au comportement similaire.
+% else:
+La forme est raisonnablement retrouveÌe pour les meÌthodes "locales", l'autre version
+lissant trop les preÌdictions. Le biais reste cependant important, surtout en fin de
+journeÌe sur la courbes "difficile à prévoir".
+% endif
+-----r
+par(mfrow=c(1,2))
+f_np1 = computeFilaments(data, p1, i_np, plot=TRUE)
+ title(paste("Filaments p1 day",i_np))
+f_p1 = computeFilaments(data, p1, i_p, plot=TRUE)
+ title(paste("Filaments p1 day",i_p))
+
+f_np2 = computeFilaments(data, p2, i_np, plot=TRUE)
+ title(paste("Filaments p2 day",i_np))
+f_p2 = computeFilaments(data, p2, i_p, plot=TRUE)
+ title(paste("Filaments p2 day",i_p))
+-----
+% if i == 0:
+Les voisins du jour courant (peÌriode de 24h allant de 8h aÌ 7h le lendemain) sont afficheÌs
+avec un trait d'autant plus sombre qu'ils sont proches. On constate dans le cas non
+contraint (en haut) une grande variabiliteÌ des lendemains, treÌs nette sur le graphe en
+haut aÌ droite. Ceci indique une faible correÌlation entre la forme d'une courbe sur une
+peÌriode de 24h et la forme sur les 24h suivantes ; **cette observation est la source des
+difficulteÌs rencontreÌes par l'algorithme sur ce jeu de donneÌes.**
+% elif i == 1:
+Les observations sont les meÌmes qu'au paragraphe preÌceÌdent : trop de variabiliteÌ des
+lendemains (et meÌme des voisins du jour courant).
+% else:
+Les graphes de filaments ont encore la meÌme allure, avec une assez grande variabiliteÌ
+observeÌe. Cette observation est cependant trompeuse, comme l'indique plus bas le graphe
+de variabiliteÌ relative.
+% endif
+-----r
+par(mfrow=c(1,2))
+plotFilamentsBox(data, f_np1); title(paste("FilBox p1 day",i_np))
+plotFilamentsBox(data, f_p1); title(paste("FilBox p1 day",i_p))
+
+# En pointilleÌs la courbe du jour courant + lendemain (aÌ preÌdire)
+-----
+% if i == 0:
+Sur cette boxplot fonctionnelle (voir la fonction fboxplot() du package R "rainbow") on
+constate essentiellement deux choses : le lendemain d'un voisin "normal" peut se reÌveÌler
+eÌtre une courbe atypique, fort eÌloigneÌe de ce que l'on souhaite preÌdire (courbes bleue et
+rouge aÌ gauche) ; et, dans le cas d'une courbe aÌ preÌdire atypique (aÌ droite) la plupart
+des voisins sont trop eÌloigneÌs de la forme aÌ preÌdire et forcent ainsi un aplatissement de
+la preÌdiction.
+% elif i == 1:
+On constate la preÌsence d'un voisin au lendemain compleÌtement atypique avec un pic en
+deÌbut de journeÌe (courbe en vert aÌ gauche), et d'un autre pheÌnomeÌne semblable avec la
+courbe rouge sur le graphe de droite. AjouteÌ au fait que le lendemain aÌ preÌvoir est
+lui-meÌme un jour "hors norme", cela montre l'impossibiliteÌ de bien preÌvoir une courbe en
+utilisant l'algorithme aÌ voisins.
+% else:
+On peut reÌappliquer les meÌmes remarques qu'auparavant sur les boxplots fonctionnels :
+lendemains de voisins atypiques, courbe aÌ preÌvoir elle-meÌme leÌgeÌrement "hors norme".
+% endif
+-----r
+par(mfrow=c(1,2))
+plotRelVar(data, f_np1); title(paste("StdDev p1 day",i_np))
+plotRelVar(data, f_p1); title(paste("StdDev p1 day",i_p))
+
+plotRelVar(data, f_np2); title(paste("StdDev p2 day",i_np))
+plotRelVar(data, f_p2); title(paste("StdDev p2 day",i_p))
+
+# Variabilité globale en rouge ; sur les voisins (+ lendemains) en noir
+-----
+% if i == 0:
+Ces graphes viennent confirmer l'impression visuelle apreÌs observation des filaments. En
+effet, la variabiliteÌ globale en rouge (eÌcart-type heure par heure sur l'ensemble des
+couples "aujourd'hui/lendemain"du passeÌ) devrait rester nettement au-dessus de la
+variabiliteÌ locale, calculeÌe respectivement sur un voisinage d'une soixantaine de jours
+(pour p1) et d'une dizaine de jours (pour p2). Or on constate que ce n'est pas du tout le
+cas sur la peÌriode "lendemain", sauf en partie pour p2 le jour 4 $-$ mais ce n'est pas
+suffisant.
+% elif i == 1:
+Comme preÌceÌdemment les variabiliteÌs locales et globales sont confondues dans les parties
+droites des graphes $-$ sauf pour la version "locale" sur le jour "facile"; mais cette
+bonne proprieÌteÌ n'est pas suffisante si l'on ne trouve pas les bons poids aÌ appliquer.
+% else:
+Cette fois la situation ideÌale est observeÌe : la variabiliteÌ globale est nettement
+au-dessus de la variabiliteÌ locale. Bien que cela ne suffise pas aÌ obtenir de bonnes
+preÌdictions de forme, on constate au moins l'ameÌlioration dans la preÌdiction du niveau.
+% endif
+-----r
+par(mfrow=c(1,2))
+plotSimils(p1, i_np); title(paste("Weights p1 day",i_np))
+plotSimils(p1, i_p); title(paste("Weights p1 day",i_p))
+
+plotSimils(p2, i_np); title(paste("Weights p2 day",i_np))
+plotSimils(p2, i_p); title(paste("Weights p2 day",i_p))
+-----
+% if i == 0:
+Les poids se concentrent preÌs de 0 dans le cas "non local" (p1), et se reÌpartissent assez
+uniformeÌment dans [ 0, 0.2 ] dans le cas "local" (p2). C'est ce que l'on souhaite
+observer pour eÌviter d'effectuer une simple moyenne.
+% elif i == 1:
+En comparaison avec le pragraphe preÌceÌdent on retrouve le meÌme (bon) comportement des
+poids pour la version "non locale". En revanche la feneÌtre optimiseÌe est trop grande sur
+le jour "facile" pour la meÌthode "locale" (voir affichage ci-dessous) : il en reÌsulte des
+poids tous semblables autour de 0.084, l'algorithme effectue donc une moyenne simple $-$
+expliquant pourquoi les courbes mauve et bleue sont treÌs proches sur le graphe d'erreurs.
+% else:
+Concernant les poids en revanche, deux cas a priori mauvais se cumulent :
+
+ * les poids dans le cas "non local" ne sont pas assez concentreÌs autour de 0, menant aÌ
+un lissage trop fort $-$ comme observeÌ sur les graphes des courbes reÌaliseÌes/preÌvues ;
+ * les poids dans le cas "local" sont trop semblables (aÌ cause de la trop grande feneÌtre
+optimiseÌe par validation croiseÌe, cf. ci-dessous), reÌsultant encore en une moyenne simple
+$-$ mais sur moins de jours, plus proches du jour courant.
+% endif
+-----r
+# Fenêtres sélectionnées dans ]0,7] :
+# "non-local" 2 premières lignes, "local" ensuite
+p1$getParams(i_np)$window
+p1$getParams(i_p)$window
+
+p2$getParams(i_np)$window
+p2$getParams(i_p)$window
+% endfor
+-----
+${"##"} Bilan
+
+Nos algorithmes aÌ voisins ne sont pas adapteÌs aÌ ce jeu de donneÌes ouÌ la forme varie
+consideÌrablement d'un jour aÌ l'autre. Toutefois, un espoir reste permis par exemple en
+aggreÌgeant les courbes spatialement (sur plusieurs stations situeÌes dans la meÌme
+agglomeÌration ou dans une meÌme zone).