Grundlagen in Kürze

Ein neuronales Netzwert ist sozusagen:

Ein "siebenmaliges" Durchsieben von Informationen, wobei jede Sieb die Information etwas anders sortiert, bis am Ende nur das durchkommt, was am wahrscheinlichsten passt. Dies ist auch als "Swiss Cheese Model" bekannt:

(Effektiv hat es in einer modernen KI 400 oder Layers, mit je 50 - 200 Millionen Parametern)

Wie werden Informationen gespeichert? - In Vektor-Datenbanken, ähnlich wie im Gehirn:

       biologisch/elektronisch                                                        visuell        --------------->      digital

                                                                                                                  Data                                   Vector Embeddings/Vector Data

Ein Large Language Model (LLM) verarbeitet Text nicht in ganzen Wörtern, sondern in Tokens (Wortfragmenten). Der Prozess funktioniert wie folgt:

1. Tokenisierung: Dein Text wird in kleine Einheiten (Tokens) zerlegt und in mathematische Vektoren umgewandelt.

2. Wahrscheinlichkeitsrechnung: Die KI analysiert den Kontext und berechnet für jedes mögliche Token in ihrem Vokabular eine Wahrscheinlichkeit.

3. Vorhersage: Sie wählt das wahrscheinlichste nächste Token aus und fügt es der Antwort hinzu.

4. Autoregression: Dieser Vorgang wiederholt sich iterativ (mehrmals): Das neue Token wird Teil des Inputs, um das darauf folgende Token zu bestimmen, bis die Antwort fertig ist.

Hier ist ein einfaches Beispiel, wie eine KI die Wahrscheinlichkeiten für das nächste Token berechnet.

Ein Satz Satz beginnt mit: "Der Himmel ist..."

Hier sieht man, wie ein LLM diese Wörter in Tokens zerlegt:

„Du läufst schnell.“

Die KI sieht den Satz oft so zerstückelt:

• Du (einzelnes Token)

• lä + ufst (das Verb wird in Stamm und Endung getrennt: zwei Token)

• schnell (einzelnes Token)

• . (Satzzeichen sind oft eigene Tokens)

Ein KI-Bildgenerator wie Nano Banana verwendet komplexe Algorithmen, oft basierend auf tiefen neuronalen Netzen. Diese Modelle werden mit riesigen Datensätzen von Bildern und deren Beschreibungen trainiert.

Im Wesentlichen lernt die KI, Muster, Stile und Merkmale in diesen Daten zu erkennen. Wenn du eine Textbeschreibung eingibst, interpretiert die KI diese und erzeugt ein völlig neues Bild, das zu deiner Beschreibung passt, indem sie die gelernten Muster kreativ kombiniert.

Hier ist eine Illustration dazu:

Text-Input                                passende Elemente werden gesucht                    Bild wird daraus erstellt