updated report for 01/03

diff --git a/reports/report_2017-03-01.ipynb b/reports/report_2017-03-01.ipynb
index 4eecb50..22e7dc4 100644 (file)
--- a/reports/report_2017-03-01.ipynb
+++ b/reports/report_2017-03-01.ipynb
@@ -27,7 +27,19 @@
    "cell_type": "markdown",
    "metadata": {},
    "source": [
-    "## Pollution par chauffage"
+    "## Introduction\n",
+    "\n",
+    "J'ai fait quelques essais dans différentes configurations pour la méthode \"Neighbors\" (la seule dont on a parlé).<br>Il semble que le mieux soit\n",
+    "\n",
+    " * simtype=\"mix\" : on utilise les similarités endogènes et exogènes (fenêtre optimisée par VC)\n",
+    " * same_season=FALSE : les indices pour la validation croisée ne tiennent pas compte des saisons\n",
+    " * mix_strategy=\"mult\" : on multiplie les poids (au lieu d'en éteindre)\n",
+    "\n",
+    "J'ai systématiquement comparé à deux autres approches : la persistence et la moyenne de tous les futurs des jours similaires du passé ; à chaque fois sans prédiction du saut (sauf pour Neighbors : prédiction basée sur les poids calculés).\n",
+    "\n",
+    "Ensuite j'affiche les erreurs, quelques courbes prévues/mesurées, quelques filaments puis les histogrammes de quelques poids. Concernant les graphes de filaments, la moitié gauche du graphe correspond aux jours similaires au jour courant, tandis que la moitié droite affiche les lendemains : ce sont donc les voisinages tels qu'utilisés dans l'algorithme.\n",
+    "\n",
+    "<h2 style=\"color:blue;font-size:2em\">Pollution par chauffage</h2>"
    ]
   },
   {
@@ -58,7 +70,16 @@
     "e_ch_pz = getError(data, p_ch_pz, 17)\n",
     "e_ch_az = getError(data, p_ch_az, 17)\n",
     "options(repr.plot.width=9, repr.plot.height=6)\n",
-    "plotError(list(e_ch_nn, e_ch_pz, e_ch_az), cols=c(1,2,colors()[258]))"
+    "plotError(list(e_ch_nn, e_ch_pz, e_ch_az), cols=c(1,2,colors()[258]))\n",
+    "\n",
+    "#Noir: neighbors, rouge: persistence, vert: moyenne"
+   ]
+  },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "La méthode Neighbors fait assez nettement mieux qu'une simple moyenne dans ce cas."
    ]
   },
   {
@@ -72,7 +93,16 @@
     "par(mfrow=c(1,2))\n",
     "options(repr.plot.width=9, repr.plot.height=4)\n",
     "plotPredReal(data, p_ch_nn, 3)\n",
-    "plotPredReal(data, p_ch_nn, 4)"
+    "plotPredReal(data, p_ch_nn, 4)\n",
+    "\n",
+    "#Bleu: prévue, noir: réalisée"
+   ]
+  },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "Prédictions d'autant plus lisses que le jour à prévoir est atypique (pollué)."
    ]
   },
   {
@@ -88,6 +118,13 @@
     "plotFilaments(data, p_ch_nn$getIndexInData(4))"
    ]
   },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "Beaucoup de courbes similaires dans le cas peu pollué, très peu pour un jour pollué."
+   ]
+  },
   {
    "cell_type": "code",
    "execution_count": null,
@@ -99,14 +136,36 @@
     "par(mfrow=c(1,3))\n",
     "plotSimils(p_ch_nn, 3)\n",
     "plotSimils(p_ch_nn, 4)\n",
-    "plotSimils(p_ch_nn, 5)"
+    "plotSimils(p_ch_nn, 5)\n",
+    "\n",
+    "#Non pollué à gauche, pollué au milieu, autre pollué à droite"
    ]
   },
   {
    "cell_type": "markdown",
    "metadata": {},
    "source": [
-    "## Pollution par épandage"
+    "La plupart des poids très proches de zéro ; pas pour le jour 5 : autre type de jour, cf. ci-dessous."
+   ]
+  },
+  {
+   "cell_type": "code",
+   "execution_count": null,
+   "metadata": {
+    "collapsed": false
+   },
+   "outputs": [],
+   "source": [
+    "par(mfrow=c(1,2))\n",
+    "plotPredReal(data, p_ch_nn, 5)\n",
+    "plotFilaments(data, p_ch_nn$getIndexInData(5))"
+   ]
+  },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "<h2 style=\"color:blue;font-size:2em\">Pollution par épandage</h2>"
    ]
   },
   {
@@ -137,7 +196,16 @@
     "e_ep_pz = getError(data, p_ep_pz, 17)\n",
     "e_ep_az = getError(data, p_ep_az, 17)\n",
     "options(repr.plot.width=9, repr.plot.height=6)\n",
-    "plotError(list(e_ep_nn, e_ep_pz, e_ep_az), cols=c(1,2,colors()[258]))"
+    "plotError(list(e_ep_nn, e_ep_pz, e_ep_az), cols=c(1,2,colors()[258]))\n",
+    "\n",
+    "#Noir: neighbors, rouge: persistence, vert: moyenne"
+   ]
+  },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "Cette fois les deux méthodes naïves font en moyenne moins d'erreurs que Neighbors. Prédiction trop difficile ?"
    ]
   },
   {
@@ -150,8 +218,15 @@
    "source": [
     "par(mfrow=c(1,2))\n",
     "options(repr.plot.width=9, repr.plot.height=4)\n",
-    "plotPredReal(data, p_ep_nn, 3)\n",
-    "plotPredReal(data, p_ep_nn, 4)"
+    "plotPredReal(data, p_ep_nn, 4)\n",
+    "plotPredReal(data, p_ep_nn, 6)"
+   ]
+  },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "À gauche un jour \"bien\" prévu, à droite le pic d'erreur (jour 6)."
    ]
   },
   {
@@ -163,8 +238,8 @@
    "outputs": [],
    "source": [
     "par(mfrow=c(1,2))\n",
-    "plotFilaments(data, p_ep_nn$getIndexInData(3))\n",
-    "plotFilaments(data, p_ep_nn$getIndexInData(4))"
+    "plotFilaments(data, p_ep_nn$getIndexInData(4))\n",
+    "plotFilaments(data, p_ep_nn$getIndexInData(6))"
    ]
   },
   {
@@ -175,10 +250,16 @@
    },
    "outputs": [],
    "source": [
-    "par(mfrow=c(1,3))\n",
-    "plotSimils(p_ep_nn, 3)\n",
+    "par(mfrow=c(1,2))\n",
     "plotSimils(p_ep_nn, 4)\n",
-    "plotSimils(p_ep_nn, 5)"
+    "plotSimils(p_ep_nn, 6)"
+   ]
+  },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "Même observation concernant les poids : concentrés près de zéro pour les prédictions avec peu de voisins."
    ]
   },
   {
@@ -216,7 +297,16 @@
     "e_np_pz = getError(data, p_np_pz, 17)\n",
     "e_np_az = getError(data, p_np_az, 17)\n",
     "options(repr.plot.width=9, repr.plot.height=6)\n",
-    "plotError(list(e_np_nn, e_np_pz, e_np_az), cols=c(1,2,colors()[258]))"
+    "plotError(list(e_np_nn, e_np_pz, e_np_az), cols=c(1,2,colors()[258]))\n",
+    "\n",
+    "#Noir: neighbors, rouge: persistence, vert: moyenne"
+   ]
+  },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "Performances des méthodes \"Average\" et \"Neighbors\" comparables ; mauvais résultats pour la persistence."
    ]
   },
   {
@@ -230,7 +320,14 @@
     "par(mfrow=c(1,2))\n",
     "options(repr.plot.width=9, repr.plot.height=4)\n",
     "plotPredReal(data, p_np_nn, 3)\n",
-    "plotPredReal(data, p_np_nn, 4)"
+    "plotPredReal(data, p_np_nn, 6)"
+   ]
+  },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "Les \"bonnes\" prédictions (à gauche) sont tout de même trop lissées."
    ]
   },
   {
@@ -243,7 +340,14 @@
    "source": [
     "par(mfrow=c(1,2))\n",
     "plotFilaments(data, p_np_nn$getIndexInData(3))\n",
-    "plotFilaments(data, p_np_nn$getIndexInData(4))"
+    "plotFilaments(data, p_np_nn$getIndexInData(6))"
+   ]
+  },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "Jours \"typiques\", donc beaucoup de voisins."
    ]
   },
   {
@@ -257,7 +361,25 @@
     "par(mfrow=c(1,3))\n",
     "plotSimils(p_np_nn, 3)\n",
     "plotSimils(p_np_nn, 4)\n",
-    "plotSimils(p_np_nn, 5)"
+    "plotSimils(p_np_nn, 6)"
+   ]
+  },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "Répartition idéale des poids : quelques uns au-delà de 0.3-0.4, le reste très proche de zéro."
+   ]
+  },
+  {
+   "cell_type": "markdown",
+   "metadata": {},
+   "source": [
+    "## Bilan\n",
+    "\n",
+    "Problème difficile : on ne fait guère mieux qu'une naïve moyenne des lendemains des jours similaires dans le passé.\n",
+    "\n",
+    "Comment améliorer la méthode ?"
    ]
   }
  ],