Parametric and Non-Parametric System Modelling

Henrik Aalborg Nielsen

AbstractThe present thesis consists of ten research papers published in the period 1996-1999 together with a summary report. The thesis deals with different aspects of mathematical modelling of systems using data and, if possible, partial knowledge about the systems.

In the first part of the thesis the focus is on combinations of parametric and non-parametric methods of regression. This combination can be in terms of additive models where e.g. one or more non-parametric term is added to a linear regression model. It can also be in terms of conditional parametric models where the coefficients of a linear model are estimated as functions of some explanatory variable(s). Also, software for handling the estimation is presented. The software runs under S-PLUS and R and contains also a number of tools useful when doing model diagnostics or interpreting the results.

Adaptive estimation is also considered. It is shown that adaptive estimation in conditional parametric models can be performed by combining the well known methods of local polynomial regression and recursive least squares with exponential forgetting. The approach used for estimation in conditional parametric models also highlights how recursive least squares with exponential forgetting can be generalized and improved by approximating the time-varying parameters with polynomials locally in time.

In one of the papers well known tools for structural identification of linear time series are generalized to the non-linear time series case. For this purpose non-parametric methods together with additive models are suggested. Also, a new approach specifically designed to detect non-linearities is introduced. Confidence intervals are constructed by use of bootstrapping.

As a link between non-parametric and parametric methods a paper dealing with neural networks is included. In this paper, neural networks are used for predicting the electricity production of a wind farm. The results are compared with results obtained using an adaptively estimated ARX-model. Finally, two papers on stochastic differential equations are included. In the first paper, among other aspects, the properties of a method for parameter estimation in stochastic differential equations is considered within the field of heat dynamics of buildings. In the second paper a lack-of-fit test for stochastic differential equations is presented. The test can be applied to both linear and non-linear stochastic differential equations.

Some applications are presented in the papers. In the summary report references are made to a number of other applications.

Resumé på dansk:

Nærværende afhandling består af ti artikler publiceret i perioden 1996-1999 samt et sammendrag og en perspektivering heraf. I afhandlingen behandles aspekter af matematisk modellering af systemer vha. data og, såfremt det er muligt, delvis viden om disse systemer.

Den første del af artiklerne fokuserer på kombinationer af parametriske og ikke-parametriske regressionsmetoder. Sådanne kombinationer kan være additive, hvor f.eks. et eller flere ikke-parametriske led adderes til en lineær regressionsmodel. En anden mulighed er betinget parametriske modeller, hvor koefficienterne i en lineær model estimeres som funktioner af en eller flere forklarende variable. Endvidere præsenteres et EDB-program til håndtering af og estimation i sådanne modeller. Programmet er en udvidelse til S-PLUS og R. Programmet inkluderer også en række værktøjer, der er nyttige i forbindelse med diagnostik og fortolkning af resultater.

Endvidere behandles adaptiv estimation. Det vises, at der ved at kombinere adaptiv estimation i lineære modeller med lokal polynomiel regression, som begge er velkendte metoder, fås en metode, der kan håndtere adaptiv estimation i betinget parametriske modeller. Den anvendte metode til estimation i betinget parametriske modeller tydeliggør også, hvorledes den rekursive mindste kvadraters metode med eksponentiel glemsel kan generaliseres og forbedres ved at approksimere de tidsvarierende parametre med polynomier, der er lokale i tid.

Ikke-parametriske metoder bruges sammen med additive modeller til at generalisere velkendte metoder til strukturel identifikation af ineære tidsrækker. Således opnås nye metoder, der kan håndtere ikke-lineære tidsrækker. Endvidere introduceres et nyt værktøj specifikt designet til at detektere ikke-lineariteter. Konfidensintervaller konstrueres vha. bootstrapping.

Som et forbindelsesled mellem ikke-parametriske og parametriske metoder er der inkluderet en artikel vedr. neurale netværk. Her bruges neurale netværk til at forudsige elproduktionen i en vindmøllepark, og der sammenlignes med prædiktioner på basis af en adaptivt estimeret ARX-model. Til slut er to artikler vedr. stokastiske differentialligninger inkluderet. Den første artikel vedrører varmedynamik for bygninger. Her undersøges bl.a. egenskaberne for en metode til estimation af parametrene i stokastiske differentialligninger. I den anden artikel præsenteres et test for lack-of-fit af stokastiske differentialligninger. Metoden kan benyttes i forbindelse med både lineære og ikke-lineære systemer.

I den første del af afhandlingen refereres der til en række anvendelser. Desuden præsenteres andre anvendelser i artiklerne.
TypePh.D. thesis [Academic thesis]
Year1999
PublisherInformatics and Mathematical Modelling, Technical University of Denmark, DTU
AddressRichard Petersens Plads, Building 321, DK-2800 Kgs. Lyngby
SeriesIMM-PHD-1999-70
Electronic version(s)[pdf] [ps]
BibTeX data [bibtex]
IMM Group(s)Mathematical Statistics


Back  ::  IMM Publications