Return to search

The effect of sampling noise in ensemble-based Kalman filters

Ensemble-based Kalman filters have drawn a lot of attention in the atmospheric and ocean scientific community because of their potential to be used as a data assimilation tool for numerical prediction in a strongly nonlinear context at an affordable cost. However, many studies have noted practical problems in their implementation. Indeed, being Monte-Carlo methods, the useful parameters are estimated from a sample of limited size of independent realizations of the process. As a consequence, the unavoidable sampling noise impacts the quality of the analysis. An idealized perfect model context is considered in which the analytical expression for the analysis accuracy and reliability as a function of the ensemble size is established, from a second-order moment perspective. It is proved that one can analytically explain the general tendency for ensemble-based Kalman filters to underestimate, on average, the analysis variance and therefore the likeliness for these filters to diverge. Performance of alternative methods, designed to reduce or eliminate sampling error effects, such as the double ensemble Kalman filter or covariance inflation are also analytically explored. For methods using perturbed observations, it is shown that the covariance inflation is the easiest and least expensive method to obtain the most accurate and reliable analysis. These analytical results agreed well with means over a large number of experiments using a perfect, low-resolution, and quasi-geostrophic barotropic model, in a series of observation system simulation experiments of single analysis cycles as well as in a simulated forecast system. In one-analysis cycle experiments with rank histograms, non-perturbed-observation methods show a lack of reliability regardless of the number of members. For small ensemble sizes, sampling error effects are dominant but have a smaller impact than in the perturbed observation method, making non / La possibilité pour les filtres de Kalman d'ensemble d'être mis en œuvre à un coût non prohibitif comme outil d'assimilation de données dans les modèles de prévision numérique du temps, et donc dans un contexte hautement non-linéaire, a suscité l'attention de la communauté scientifique au cours des dernières années. De nombreuses études ont cependant montré les limites pratiques de leur implémentation. En effet, en tant que méthode de Monte-Carlo, ils requièrent l'utilisation d'un échantillon limité de réalisations indépendantes du processus étudié. Les inévitables erreurs d'échantillonnage engendrées conduisent à une détérioration de la qualité de l'analyse. L'expression théorique donnant la précision et la fiabilité de l'analyse en fonction de la taille de l'ensemble est établie dans un contexte idéalisé impliquant un modèle parfait, en se bornant aux moments de second ordre des distributions statistiques des erreurs. La tendance générale des filtres de Kalman d'ensemble à sous-estimer en moyenne la variance de l'analyse, et donc leur propension à diverger, est ici prouvée théoriquement. Les comportements de méthodes alternatives construites pour réduire ou éliminer les effets de l'erreur d'échantillonage font également l'objet d'une étude théorique. Le filtre de Kalman d'ensemble double et l'inflation des covariances sont étudiés. Dans le cas des méthodes utilisant des observations perturbées, la méthode d'inflation des covariances apparaît comme la plus facile et la moins coûteuse à mettre en œuvre. Les résultats théoriques obtenus sont en accord avec les moyennes effectuées sur un grand nombre de réalisations d'expériences utilisant un modèle barotrope parfait, de faible résolution et quasi-géostrophique. Ces expériences-jumelles ont d'abord été effectuées sur un seul cycle d'analyse, puis dans un système de prévision numéri

Identiferoai:union.ndltd.org:LACETR/oai:collectionscanada.gc.ca:QMM.66769
Date January 2009
CreatorsSacher, William
ContributorsPeter Bartello (Supervisor)
PublisherMcGill University
Source SetsLibrary and Archives Canada ETDs Repository / Centre d'archives des thèses électroniques de Bibliothèque et Archives Canada
LanguageEnglish
Detected LanguageFrench
TypeElectronic Thesis or Dissertation
Formatapplication/pdf
CoverageDoctor of Philosophy (Department of Atmospheric and Oceanic Sciences)
RightsAll items in eScholarship@McGill are protected by copyright with all rights reserved unless otherwise indicated.
RelationElectronically-submitted theses.

Page generated in 0.002 seconds