Center for Scalable Data Analytics and Artificial Intelligence

Grobe Idee eines neuronalen Netzwerkes

• Eine Funktion bildet Elemente einer Menge auf eine andere Menge ab.
• f(x) = y
• Mengen können alles beinhalten: Zahlen, Bilder, Personen, ...

—

Wie funktionieren künstliche Intelligenzen?

• f() = Katze
• Neuronale Netze sind Funktionsapproximatoren

—

Einfaches Beispiel

• Wir wollen die Funktion f(x) = x + 1 approximieren. Dafür generieren wir einige Daten im CSV-Format:

• Eingabe -> Ausgabe
  0 -> 1
  1 -> 2
  2 -> 3
  3 -> 4
  4 -> 5
  ...5 -> 6
  

• x -> x + 1

• Neuronale Netze sind Funktionsapproximatoren

—

Ein Neuron

Ein Neuron eines neuronalen Netzes. In Wahrheit führt es nur die Funktion f(X) = k * X + B aus, während k der Kernel und B der Bias ist.
Mathematisch sieht das etwa so aus: \text{Layer 0 (dense):} \qquad h_{\text{Shape: }[3]} = \mathrm{\underbrace{elu}_{\mathrm{Activation}}}\left(\underbrace{\begin{pmatrix} x_{0}\ x_{1} \end{pmatrix}}_{\mathrm{Input}} \times \underbrace{\begin{pmatrix} 0.057 & -0.827 & -0.049\\ 0.266 & -0.732 & -0.406 \end{pmatrix}}_{\mathrm{\text{Gewichtungsmatrix}^{2 \times 3}}} + \underbrace{\begin{pmatrix} 0 \\ 0 \\ 0 \end{pmatrix}}_{\mathrm{Bias}} \right)

Von Neuronen zu Netzen

Von diesen Neuronen schaltet man sehr viele hintereinander.

Aktivierungsfunktionen

Funktionen, die aktivieren

Aktivierungsfunktionen

• RELU
• SoftMax
  
  • \mathrm{softmax}([3, 5, 17])
  • 3 + 5 + 17 = 25
  • 1. Ausgabewert: \frac{3}{25} = 0.12
  • 1. Ausgabewert: \frac{5}{25} = 0.2
  • 1. Ausgabewert: \frac{17}{25} = 0.69
  • \mathrm{softmax}([3, 5, 17]) = [0.12, 0.2, 0.68]

—

Bilderkennung

Pixel

Bilderkennung

Bilder

Bilderkennung

Tensoren

Bilderkennung

divide and conquer

Bilderkennung

Convolutions

Bilderkennung

Dimensionsreduktion

Bilderkennung

Erkannte Muster

Bilderkennung

Flatten

Bilderkennung

Zusammenschalten

Bilderkennung

Daten ausgeglichen

Fragen?

Bei Fragen, wenden Sie sich an norman.koch@tu-dresden.de.