\heading[1]{Neuronale Netze}
\comment{Neuronale Netze einführen und hier benutzten Terminus kl"aren.}
\heading[2]{Neuron/Unit}
\begin{itemize}
\item $n$ Eing"ange $x_i$ mit Gewichten $w_i$
\item 1 Ausgang $y$
\item $y = g\left(\sum_{i=1}^{n} x_i \cdot w_i \right)$
\item Aktivierungsfunktion $g$, z.B.: semi-linear, sigmoid, tanh
\refa{fig:actfun}
\Picture{Aktivierungsfunktionen: semi-linear, sigmoid, tanh (von links nach rechts)}{fig:actfun}{
  \RotScale[w]{0.3}{\includegraphics{Graphics/semilinear}}\hspace{-2cm}
  \RotScale[w]{0.3}{\includegraphics{Graphics/sigmoid}}\hspace{-2cm}
  \RotScale[w]{0.3}{\includegraphics{Graphics/tanh}}
}
\end{itemize}
\heading[2]{Feedforward Netzwerke}
\begin{itemize}
\item Verbund von Neuronen
\item Eingeteilt in Schichten/Layer
\item Eingangs Schicht(en) mit Eingangsneuronen / Input units 
\item Ausgangs Schicht(en) mit Ausgangsneuronen / Output units
\item Zwischen Schicht(en) mit Zwischenneuronen / Hidden Units
\item Bias: Ruhepotential, realisiert durch Neuron mit konstanten Ausgang
\end{itemize}
\slidebreak
\sv{\Picture{Feed Forward Netzwerk}{fig:ffnetwork}{\RotScale{1.0}{\includegraphics{Graphics/network.png}}}}


\heading[2]{Input units}
\begin{itemize}
\item Input units werden machmal weggelassen und direkt durch die Eingänge ersetzt
\item Hier: normale Neuronen mit linearer Aktivierungsfunktion
\end{itemize}

\heading[1]{Lernen mit Lehrer}
im engl. Supervised learning
\heading[2]{Szenario}
\begin{itemize}
\item Input space \Set{X}
\item Output space \Set{Y}
\item Netzwerk $\L:\Set{X} \mapsto \Set{Y}$
\end{itemize}
\heading[2]{Lernaufgabe}
\begin{itemize}
\item Lernaufgabe: Gutes mapping von Eing"angen $x \in \Set{X}$
zu Ausg"angen $y \in \Set{Y}$
\item Minimierung der Fehlerfunktion: 
  \begin{align*}
    E &= \sum_{i\in I}(y_i-\hat{y_i})^2,
  \end{align*}
wobei $\hat{y_i} = \L(x_i)$ und $I$ die Indexmenge aller Paare (Pattern) ist
\item Unterscheidung in Trainingsmenge $S_{Train}$, Validationsmenge $S_{Val}$ und Testmenge $S_{Test}$
\item Normalerweise gilt Disjuktheit:  
  \begin{align*}
      S_i \cap S_j &= \emptyset \qquad \forall i,j\in \{Train,Val,Test\},\ i\not=j
  \end{align*}
\end{itemize}
\Comment{Maße für Erfolg. Trainingsschema, Classifikation und Regression}

\heading[2]{Feierabend?}
Wann soll ein Trainingsvorgang beendet werden?

Abhängig von der Art der Lernaufgabe. 
\heading[3]{Perfekt}
z.B. XOR oder Encoder
\begin{itemize}
\item Klassifikation: keine Fehlklassifikation 
\Comment{d.h. maximaler Fehler aller output units $<$ Schwellwert}
\item Regression: E $<$ Schwellwert
\end{itemize}

\heading[3]{Real World/Verrauscht mit Ausreißern}
Zu langes Training f"uhrt zu Overfitting $\to$ early stopping

Generalisierungsverlust absch"atzen durch Fehlerverlauf mit Validierungsmenge.
\Comment{Nach jeder Trainingsepoche Validierung mit Validierungsmenge durchf"uhren. Bei Minimum aufh"oren. Nicht trivial, da Zukunft unbekannt.}

\heading[2]{Aktives lernen}
\begin{itemize}
\item Junges Forschungsgebiet (seit 1990)
\item Warum?
  \begin{itemize}
  \item Beschleunigung des Lernprozesses
    \comment{, da mit zunehmender Zeit die Wahrscheinlichkeit sinkt ein informatives Pattern zu erhalten.}
  \item Verkleinerung der Trainingsmengen 
    \comment{z.B.: wenn Labeling teuer}
  \item Besseres Explorationsverhalten  \checkmark
  \item Neue Verhaltenseffekte \checkmark
  \end{itemize}
\item Sch"uler nimmt aktive Rolle ein
\Picture{Architektur f"ur aktives Lernen}{fig:arch:act}
 {\RotScale{0.8}{\includegraphics{Graphics/architectureactive}}}
\item Aktionen $a$ werden ausgef"uhrt zur Auswahl informativer Pattern
\item Gegenstand der Untersuchungen: 
  \begin{itemize}
  \item Was hei"st informativ und wie kann man das ausrechnen?
  \item Wie sollten die Pattern ausgew"ahlt werden?
  \end{itemize}
\end{itemize}
\heading[3]{Absch"atzung des Informationgewinns}
\heading[4]{Heuristisch}
Ausnutzung interner Parameter des Sch"ulers $\to$ abh"angig von dessen Architektur

Beispiel Klassifikation:
\begin{itemize}
\item Punkte nahe der Klassifikationslinie sind informativ
\end{itemize}

Neuronale Netze: 
\begin{itemize}
\item Auftretender Fehler: $|y-\hat y|$
\item Reaktivit"at/Response: $\Delta y = \L(x)-\L(x+d)$, $d$: St"orung
\item Shift (Vorgriff)
\end{itemize}

\slidebreak
\heading[4]{Optimierung}
Lernprozess als Optimierungsproblem.

Abh"angig von:
\begin{itemize}
  \item Erwartetet Informationgewinn
  \item Reduzierung des Generalisierungsfehlers
\end{itemize}
Beispiele:
\begin{itemize}
\item Query by Committee \Comment{Ist das wirklich Optimierung?!}
\item Bayesian Framework
\end{itemize}

