Inverse Transformation

Inverse Laplace- Transformation
Wir hatten im Zusammenhang mit unserem mathematischen Steilkurs die inverse Laplace- Transformation bereits ausgiebig diskutiert. Angewendet auf den hier vorliegenden Fall ergibt sich folgende Situation.

Wir nehmen an, daß aus Messungen eines Experimentes alle logarithmischen Momente $h_{\nu}$ gemessen worden sind. Dann ist die logarithmisch erzeugende Funktion:

$$H_{x}(v) = \sum_{\nu=1}^{\infty} \frac{h_{\nu}}{\nu !} v^{\nu}.$$ (1)

Die logarithmischen Momente können wiederum aus irdendeinem anderen Satz von Momenten berechnet werden. Oder aber, und dieses ist die zweite häufig vorkommende Situation, wir haben die logarithmisch erzeugende Funktion von einer Summe unabhängiger zufälliger Veränderlicher mit Hilfe einer Faltung bestimmt. Den letzteren Fall hatten wir ausgiebig im vorherigen Unterkapitel diskutiert. In beiden Fällen können wir davon ausgehen, daß eine analytische Form der logarithmisch erzeugenden Funktion $H_{x}(v)$ bekannt ist. Die Beziehung zwischen der logarithmisch erzeugenden und der normalen erzeugenden Funktion (Laplace- Transformation) lautete:

$$H_{x}(v) = ln M_{x}(v) = ln \int_{-\infty}^{\infty} dx e^{vx} p(x).$$ (2)

Wendet man hierauf die inverse Laplace- Transformation an, so erhält man:

$$p(x) = \frac{1}{2\pi i} \int_{v_{0}-i\infty}^{v_{0}+\infty} dv e^{-vx + H_{x}(v)},$$ (3)

wobei das Integral auf einer Geraden parallel zur imaginären Achse berechnet werden muß und die reelle Zahl $v_{0}$ so gewählt werden muß, daß das Integral existiert. Die Lösung dieses Integrals könnte auch mit Hilfe des gesamten Formalismus der Residuen- Theorie vorgenommen werden. Für die Form des Integral (3) gibt es aber eine wesentlich einfachere Lösung, das sogenannte Sattelpunkt- Verfahren.

Das Sattelpunkt- Verfahren
Die Herleitung des Sattelpunkt- Verfahrens ist mit relativ viel Rechenarbeit verbunden und wird daher im Rahmen dieses Lehrgangs nicht durchgeführt. Für den interessierten Leser skizzieren wir nur kurz den Gang der Herleitung. Wir machen den Ansatz

$$p(x) = p^{(*)}(x) [ 1- c_{0}(x)].$$

In dieser Entwicklung ist $p^{(*)}(x)$ die erste Näherung des Sattelpunkt- Verfahrens:

$$p^{(*)}(x) = \frac{1}{\sqrt{2\pi H_{x}''(v)}} e^{H_{x}(v)-vH_{x}'(v)} ,$$ (4)

wobei $v(x)$ eine Funktion der zufälligen Veränderlichen $x$ ist und aus der Gleichung

$$H_{x}'(v) = x$$ (5)

bestimmt werden muß. Seien $M_{x}(v)$ und $M_{x}^{(*)}(v)$ die erzeugenden Funktionen von $p(x)$ und $p^{(*)}(x)$,

$$M_{x}(v) = \int dx e^{vx} p(x)$$

$$M_{x}^{(*)}(v) = \int dx e^{vx} p^{(*)}(x).$$

Man kann nun zeigen, daß

$$M_{x}^{(*)}(v) = M_{x}(v) [ 1 + C_{0}(v) ]$$

mit

$$C_{0}(v) = \frac{5 H_{x}^{(3) 2}(v) - 3 H_{x}^{(4)}(v) H_{x}^{(2)}(v)} {24 H_{x}^{(2) 3}(v)} + ........$$

Rücktransformation in den Originalraum liefert die zweite verbesserte Näherung

$$p^{(**)}(x) = p^{(*)}(x) \left[ 1 - \frac{5H_{x}^{(3) 2}(v)-3H_{x}^{(4)}(v) H_{x}^{(2)}(v)}{24 H_{x}^{(2) 3}(v)} \right] ,$$ (6)

wobei wiederum $v(x)$ aus Gleichung (5) bestimmt werden muß.

Dieses Verfahren läßt sich beliebig fortsetzen und liefert in jedem Iterationsschritt eine verbesserte Näherung

$$p^{(n*)}(x) = p^{((n-1)*)}(x) [ 1 \pm c_{n}(x) ].$$

Wir werden uns aber im folgenden mit der ersten (4) und der zweiten (6) Näherung begnügen. Im allgemeinen liefert die erste Näherung bereits hervorragende Resultate, die zweite Näherung dient dann hauptsächlichst zur Abschätzung des Konvergenzverhaltens der Iteration.

Dieses Verfahren ist für die Simulation von Bedeutung, da, wie wir oben erwähnt haben, die Dichtefunktion häufig nicht in analytischer Form, sondern in Form einer der erzeugenden Funktionen bzw in Form irgendeines Satzes ihrer Momente gegeben ist.

Beispiel. Die einfache zentrale Normalverteilung lautete:

$$p(x) = \frac{1}{\sqrt{2\pi} \sigma} e^{-(x-<x>)^{2}/2 \sigma^{2}}.$$

Die Laplace- Transformierte ist

$$M_{x}(v) = \int_{-\infty}^{\infty} d\xi e^{v \xi} p(\xi) = e^{<x>v + \frac{1}{2} \sigma^{2} v^{2}}.$$

Die logarithmisch erzeugende Funktion schließlich ist

$$H_{x}(v) = ln M_{x}(v) = <x>v + \frac{1}{2} \sigma^{2} v^{2}.$$

Die logarithmischen Momente sind daher

$$h_{1} = <x>$$

$$h_{2} = \sigma^{2}$$

$$h_{\nu} = 0 \; \; \; f''ur \; \; \; \nu \geq 3.$$

Erhält man also bei einer Messung der höheren Momente das Ergebnis, daß nur die beiden ersten logarithmischen Momente signifikant von Null verschieden sind, so weiß man bereits, daß die zugehörige Dichtefunktion eine Normalverteilung oder eine Verteilung ähnlich der Normalverteilung ist.

Zur Rücktransformation lösen wir zunächst die Bestimmungsgleichung für $v(x)$,

$$H_{x}'(v) = <x> + \sigma^{2} v = x,$$

mit der Lösung

$$v(x) = \frac{1}{\sigma^{2}} ( x-<x>).$$

Diesen Ausdruck setzen wir in die erste Näherung $p^{(*)}(x)$ ein. Wegen

$$H_{x}''(v) = \sigma^{2}$$

erhält man nach kurzer Rechnung

$$H_{x}(v)-vH_{x}'(v) = -\frac{1}{2} \sigma^{2} v^{2}$$

$$\sqrt{2\pi H_{x}''(v)} = \sqrt{2\pi} \sigma.$$

Einsetzen von $v(x)$ ergibt dann tatsächlich

$$p^{(*)}(x) = \frac{1}{\sqrt{2\pi} \sigma} e^{-(x-<x>)^{2}/2\sigma^{2}}.$$

Bei einer Normalverteilung ergibt also die erste Näherung $p^{(*)}(x)$ bereits das exakte Resultat. Die zweite Näherung ergibt keine Änderung, da alle $H_{x}^{(l)}(v) = 0$ für $l \geq 3$.

Beispiel. Als zweites Beispiel betrachten wir die Dichtefunktion

$$p(x) = x^{n} \frac{e^{-x}}{n!}.$$

Die logarithmisch erzeugende Funktion ist

$$H_{x}(v) = -(n+1) ln(1-v),$$

mit den Ableitungen

$$H_{x}^{(\nu)}(v) = (-1)^{\nu} (\nu -1)! \frac{n+1}{(1-v)^{\nu}}.$$

Daraus ergeben sich die logarithmischen Momente

$$h_{\nu} = H_{x}^{(\nu)}(v=0) = (-1)^{\nu} (\nu -1)! (n+1).$$

Für die Rücktransformation bestimmen wir zunächst $v(x)$ als Funktion von $x$,

$$v(x) = 1 - \frac{n+1}{x}.$$

Nach einiger Rechnung folgt die erste Näherung

$$p^{(*)}(x) = x^{n} e^{-x} \frac{n+1}{(\frac{n+1}{e})^{n+1}\sqrt{2\pi(n+1)}}.$$

Wir erkennen auf der rechten Seite die Stirlingsche Formel wieder,

$$n! \approx (\frac{n}{e})^{n} \sqrt{2\pi n},$$

sodaß wir setzen können

$$p^{(*)}(x) \approx x^{n} e^{-x} \frac{n+1}{(n+1)!} = x^{n} \frac{e^{-x}}{n!}.$$

Wir sehen also, daß auch in diesem Fall bereits mit der ersten Näherung die richtige Dichtefunktion erhalten wird, sofern nur $n$ groß ist und damit die Stirlingsche Formel angewendet werden kann.

Die zweite Näherung ergibt:

$$p^{(**)}(x) = p^{(*)}(x) \frac{1}{(1+\frac{1}{12(n+1)})}.$$

Die Korrektur auf der rechten Seite ist hierbei aber nichts anderes als die Korrektur der Stirlingschen Formel für kleine $n$:

$$n! \approx (\frac{n}{e})^{n} \sqrt{2\pi n} (1 + \frac{1}{12 n} + \frac{1}{288 n^{2}} + .....).$$

Beispiel. Als weiteres Beispiel betrachten wir die Poisson Verteilung der diskreten Veränderlichen $k$:

$$P(k) = e^{-a} \frac{a^{k}}{k!}.$$

Die erzeugende Funktion ist

$$M_{k}(v) = \sum_{k=0}^{\infty} e^{vk} P(k) = e^{a(e^{v}-1)},$$

und die logarithmisch erzeugende Funktion wird zu

$$H_{k}(v) = a(e^{v}-1).$$

Die Ableitungen sind einfach und ergeben

$$H_{k}^{(l)}(v) = a e^{v} \; \; \; f''ur \; \; \; l \geq 1.$$

Die logaritmischen Momente sind

$$h_{l} = H_{k}^{(l)}(v=0) = a \; \; \; f''ur \; \; \; l \geq 1.$$

und daher

$$H_{k}(v) = a \sum_{\nu=1}^{\infty} \frac{v^{\nu}}{\nu !} .$$

Aus der ersten Ableitung erhalten wir

$$e^{v} = \frac{k}{a}$$

$$v = ln\left[ \frac{k}{a} \right].$$

Man rechnet leicht nach, daß

$$H_{k}(v) - v H_{k}'(v) = (k-1) ln \left[ (\frac{a}{k})^{k} \right]$$

$$H_{k}''(v) = \sqrt{2\pi k}$$

und daher

$$P^{(*)}(k) = \frac{1}{\sqrt{2\pi k} (\frac{k}{e})^{k}} a^{k} e^{-a}.$$

Anwendung der Stirlingschen Formel ergibt dann wieder

$$P^{(*)}(k) \approx P(k) = e^{-a} \frac{a^{k}}{k!}.$$

Wir sehen also, daß auch bei diskreten Veränderlichen die erste Näherung eine hervorragende Approximation darstellt, sofern nur $k$ groß ist. Für kleine $k$ muß die zweite Näherung berechnet werden. Dieses ergibt

$$P^{(**)}(k) = P^{(*)}(k) \frac{1}{(1-\frac{1}{12k})}.$$

Dieses ist wiederum nichts anderes als die Korrektur der Stirlingschen Formel für kleine $k$. Wir sehen aber, und darauf wollten wir in diesem Beispiel noch einmal ausdrücklich hinweisen, daß wir in keiner Näherung einen Wert für $k=0$ erhalten. Auch für $k=1,2,3$ sind die Approximationen noch ziemlich ungenau. Erst für $k \geq 4$ erhält man eine befriedigende Übereinstimmung zwischen der exakten und der approximativen Wahrscheinlichkeitsverteilung. Dieses gilt allgemein für diskrete Veränderliche.

Existenz des Sattelpunkt- Verfahrens
In Formel (4) steht die zweite Ableitung $H_{x}''(v)$ unter dem Wurzelzeichen. $H_{x}''(v)$ muß daher stets größer als Null sein. Dieses zeigt man folgendermaßen. Wir drücken die logarithmisch erzeugende Funktion durch die normale erzeugende Funktion aus:

$$H_{x}''(v) = \frac{M_{x}''(v) M_{x}(v) - M_{x}'^{2}(v)}{M_{x}^{2}(v)}.$$

Wegen

$$M_{x}^{(l)}(v) = \int dx x^{l} e^{vx} p(x)$$

finden wir

$$H_{x}''(v) = \frac{\frac{1}{2} \int dx dy (x-y)^{2} e^{v(x+y)} p(x)p(y)} {M_{x}^{2}(v)}$$

Das Integral auf der rechten Seite ist offensichtlich immer größer als Null. Wir schließen daher:
Die zweite Ableitung $H_{x}''(v)$ der logarithmisch erzeugenden Funktion irgendeiner Dichtefunktion $p(x)$ ist immer eine positiv definite Funktion.

Weiterhin muß die Gleichung

$$H_{x}'(v) = x$$ (7)

mindestens eine reelle Lösung besitzen. Wir schreiben die Gleichung wieder durch die normale erzeugende Funktion. Wegen

$$H_{x}(v) = ln M_{x}(v)$$

gilt:

$$H_{x}'(v) = \frac{M_{x}'(v)}{M_{x}(v)}.$$

Wegen (7) können wir daher auch schreiben

$$M_{x}'(v) - x M_{x}(v) = 0.$$

Einsetzen der Integraldefinition der Laplace- Transformation führt auf

$$\int d\xi (\xi - x) e^{v\xi} p(\xi) = 0.$$

Diese Gleichung ist dann und nur dann erfüllt, wenn $x$ aus dem Wertebereich der zufälligen Veränderlichen $\xi$ mit der Dichtefunktion $p(\xi)$ entnommen wurde. Mit anderen Worten, für alle $x$, für die die Dichtefunktion $p(x)$ definiert ist, existiert eine Lösung der Gleichung (7).

Dichtefunktion aus höheren Momenten
Wir nehmen an, daß alle logaritmischen Momente $h_{\nu}$ einer zufälligen Veränderlichen $x$ gemessen wurden. Die logarithmisch erzeugende Funktion ist dann

$$H_{x}(v) = \sum_{\nu=1}^{\infty} \frac{h_{\nu}}{\nu !} v^{\nu}.$$ (8)

Die ersten und zweiten Ableitungen sind

$$H_{x}'(v) = \sum_{\nu =1}^{\infty} \frac{h_{\nu}}{(\nu -1)!} v^{\nu -1},$$ (9)

$$H_{x}''(v) = \sum_{\nu =2}^{\infty} \frac{h_{\nu}}{(\nu -2)!} v^{\nu -2}.$$ (10)

Wir bilden den Logarithmus der ersten Näherung des Sattelpunkts- Verfahrens,

$$ln p^{(*)}(x) = \sum_{\nu =1}^{\infty} (1-\nu) \frac{h_{\nu}... ...\sum_{\nu =2}^{\infty} \frac{h_{\nu}}{(\nu -2)!} v^{\nu -2}],$$ (11)

mit

$$\sum_{\nu =1}^{n} \frac{h_{\nu}}{(\nu -1)!} v^{\nu} = x.$$ (12)

Bei welchem Index $\nu$ die Summenbildungen abgebrochen werden dürfen, muß in jedem Fall einzeln entschieden werden. Zu beachten ist hierbei, daß die zweite Ableitung stets positiv sein muß. Das Problem bei dieser Methode besteht offensichtlich in der Lösung der Gleichung (12), zumindest für große $n$.

Falls die Reihen langsame Konvergenz zeigen, führt häufig folgendes Verfahren zum Ziel. Wir setzen

$$H_{x}(v) = H_{1,x}(v) + H_{2,x}(v),$$ (13)

wobei $H_{1,x}(v)$ die Reihenentwicklung einer analytisch bekannten Funktion ist. $H_{1,x}(v)$ muß hierbei so gewählt werden, daß $H_{2,x}(v)$ eine schnell konvergierende Reihe wird.

Beispiel. Als Beispiel seien die folgenden logarithmischen Momente einer diskreten Veränderlichen $k$ gegeben:

$$h_{1} = a + a_{1},$$

$$h_{2} = a + a_{2},$$

$$h_{\nu} \approx a \; \; f''ur \; \nu \geq 3.$$

Die dritte Gleichung soll bedeuten, daß innerhalb der Meßfehler alle höheren Momente mit dem Wert $a$ verträglich sind. Wir wissen, daß die logarithmischen Momente der Poisson- Verteilung durch

$$h_{P,\nu} = a \; \; \; f''ur \; \; \; \nu \geq 1$$

und die logarithmisch erzeugende Funktion durch

$$H_{P,k}(v) = a(e^{v}-1)$$

gegeben sind. Folglich setzen wir

$$h_{1} = h_{P,1} + a_{1}$$

$$h_{2} = h_{P,2} + a_{2}$$

$$h_{\nu} = h_{P,\nu} \; \; \; f''ur \; \; \; \nu \geq 3.$$

Die logarithmisch erzeugende Funktion wird zu

$$H_{k}(v) = a(e^{v}-1) + a_{1} v + \frac{1}{2} a_{2} v^{2},$$

mit den Ableitungen

$$H_{k}'(v) = a e^{v} + a_{1} + a_{2} v,$$

$$H_{k}''(v) = a e^{v} + a_{2},$$

$$H_{k}^{(\nu)}(v) = a e^{v} \; \; \; f''ur \; \; \; \nu \geq 3.$$

Die erste Näherung des Sattelpunkt- Verfahrens lautet:

$$P^{(*)}(k) = \frac{1}{\sqrt{2 \pi (a e^{v} + a_{2})}} e^{ae^{v} (1-v) - \frac{1}{2} a_{2} v^{2} -a},$$ (14)

mit $v(k)$ als Lösung der Gleichung

$$a e^{v} + a_{2} v + a_{1} = k.$$ (15)

Die zweite Näherung ist

$$P^{(**)}(k) = P^{(*)}(k) \left[ 1 - \frac{ae^{v} (2 ae^{v} -3 a_{2})}{24 (ae^{v}+ a_{2})^{3}} \right] .$$

Faltung von $n$ Gleichverteilungen
Wir hatten bereits gelernt, daß die Summe $y=x_{1}+x_{2}+...+x_{n}$ von $n$ unabhängigen gleichverteilten Zufallszahlen $x_{\nu}$ aus dem Intervall $[-\frac{1}{2},+\frac{1}{2}]$ durch die logarithmisch erzeugende Funktion

$$H_{y}(v) = \frac{n}{24} v^{2} - \frac{n}{2880} v^{4} + .....$$

angenähert werden kann. Bei alleiniger Berücksichtigung des ersten Gliedes der Reihe ergibt die Rücktransformation eine Normalverteilung mit Erwartungswert $<y>=0$ und Varianz $\sigma_{y} = \sqrt{n/12}$. Wir fragen jetzt nach der Korrektur bei Berücksichtigung des zweiten Gliedes der Reihenentwicklung. Hierzu bemerken wir, daß

$$H_{y}'(v) = \frac{n}{12} v - \frac{n}{720} v^{3}$$

$$H_{y}''(v) = \frac{n}{12} - \frac{n}{240} v^{2}$$

$$H_{y}^{(3)}(v) = -\frac{n}{120} v$$

$$H_{y}^{(4)}(v) = -\frac{n}{120} .$$

Die Bestimmungsgleichung für $v(x)$ ist

$$H_{y}'(v) = x.$$

Einsetzen der Ableitung ergibt nach einiger Umformungen die kubische Gleichung

$$v^{3} - 60 v + \frac{720}{n} x = 0.$$

Diese Gleichung besitzt eine reelle und zwei komplexe Lösungen. Im folgenden betrachten wir nur die reelle Lösung. Mit Hilfe der Cardanischen Formel finden wir

$$v(x) = v_{1}(x) + v_{2}(x)$$

mit

$$v_{1,2}(x) = \sqrt[3]{-q \pm \sqrt{q^{2}+p^{3}}}$$

und

$$p = -20, \; \; \; \; \; q = \frac{360}{n} x.$$

Die erste Näherung des Sattelpunkt- Verfahrens läßt sich dann schreiben als

$$p^{(*)}(x) = \frac{1}{\sqrt{\frac{\pi n}{6} (1-\frac{v^{2}(x)}{20})}} e^{\frac{n}{12} v(x) (1 - \frac{v^{2}(x)}{60})}.$$

Für die zweite Näherung erhält man entsprechend

$$p^{(**)}(x) = p^{(*)}(x) \left[ 1 - \frac{3-\frac{13}{20} v^{2}(x)}{20n(1-\frac{v^{2}(x)}{20})^{3}} \right] .$$