Zitat-Kontexte und Marker — Verifikations-Log

Zweck: Zentrales Verifikations-Log für die Belegtreue-Doku der Abgabe. Alle Belegstellen chronologisch nach Manuskript sortiert. Bei jedem \beleg → \cite-Übergang wird der Eintrag mit ✓ und Datum gestempelt und die Detail-Elemente (Originalwortlaut, Deutsche Übersetzung, Begründung) eingetragen.

Konventionen

  • Status ✓ — Cite verifiziert am angegebenen Datum, Belegtreue durch Autor persönlich geprüft (PDF-Highlight gesetzt, Passung ✓).
  • Status ⧗ — Belegstelle noch als \beleg im Manuskript, nicht verifiziert. Bei Cite-Finalisierung wird der Status auf ✓ gesetzt.
  • \cite-Eintrag (Status ✓) enthält: Manuskript-Aussage, Zitatmarker, Originalwortlaut, Deutsche Übersetzung, Begründung der Passung. Gleiches Schema wie in den Zusammenfassungen unter D_fachwissen/lernmaterial/.
  • \beleg-Eintrag (Status ⧗) enthält: Manuskript-Aussage, Beleg-Kürzel, Link zur passenden Zusammenfassung.
  • Marker-Nummerierung fortlaufend pro Buch-Seite: M1 = erste Markierung auf dieser Seite, M2 = zweite auf derselben Seite usw.
  • LaTeX-Syntax: \cite[S.~<Buch-Seite>, M<Nr>]{BibKey} bei mehreren pro Seite, sonst \cite[S.~<Buch-Seite>]{BibKey}.
  • Zwei Sortierungen des gleichen Inhalts:
    • Diese Datei = chronologisch nach Manuskript-Reihenfolge (Lese-Reihenfolge der Arbeit)
    • D_fachwissen/lernmaterial/<quelle>-zusammenfassung.md = chronologisch nach Quelle (Vertiefung pro Primärquelle)
    • Kompakte Übersicht/Arbeitstabelle: zitat-index

Detail-Kette

[[zitat-index]]hier (zitat-kontexte)[[D_fachwissen/lernmaterial/<quelle>-zusammenfassung]]


Kap. 2 — Grundlagen

Änderung 2026-08-05: Der zuvor hier stehende Sha48-Cite (\cite{Sha48} im Zeitstrahl Kap. 2.4 Z. 316) wurde entfernt. Sha48 wird in dieser Arbeit nicht als Primärquelle gelesen und daher gar nicht mehr zitiert (Verteidigungs-Ökonomie: keine ungelesenen Werke im Literaturverzeichnis). Die Zeitstrahl-Nennung „1948 --- Shannon” bleibt als historischer Ankerpunkt ohne \cite, analog zu Corrado Gini 1912. Der Sha48-Eintrag wurde auch aus literatur.bib entfernt.

✓ Kap. 2.2 Z. 67 — Binäre Split-Form (verifiziert 2026-08-02)

Manuskript-Aussage: „Insbesondere die CART-Verfahren und die darauf aufbauenden Ensembleverfahren beschränken sich auf die binäre Form, bei der jeder innere Knoten genau zwei ausgehende Kanten hat und der Test als Ja-Nein-Entscheidung formuliert ist.”

Zitatmarker: \cite[S.~28\,f.]{BFOS84}

Originalwortlaut:

„The four elements needed in the initial tree growing procedure were

  1. A set of binary questions of the form ,
  2. A goodness of split criterion that can be evaluated for any split of any node
  3. A stop-splitting rule
  4. A rule for assigning every terminal node to a class

The set of binary questions generates a set of splits of every node . Those cases in answering ‚yes’ go to the left descendant node and those answering ‚no’ to the right descendant . In fact, if the question is , then and , where is the complement of in . At each intermediate node , the split selected is that split which maximizes .”

Deutsche Übersetzung:

„Die vier Elemente, die im Anfangs-Baumwachstumsverfahren benötigt werden, waren:

  1. Eine Menge binärer Fragen der Form ,
  2. Ein Split-Güte-Kriterium , das für jeden Split jedes Knotens auswertbar ist
  3. Eine Stop-Splitting-Regel
  4. Eine Regel, die jedem terminalen Knoten eine Klasse zuweist

Die Menge binärer Fragen erzeugt für jeden Knoten eine Menge von Splits . Datenpunkte in , die mit ‚ja’ antworten, gehen zum linken Kindknoten , die mit ‚nein’ antworten zum rechten Kindknoten . Konkret: Wenn die Frage lautet, dann ist und , wobei das Komplement von in ist. An jedem inneren Knoten wird derjenige Split gewählt, der maximiert.”

Begründung Passung: Item 1 der vier Elemente definiert Splits strukturell als binäre Fragen ( mit Ja-Nein-Antwort). Der Folgeabsatz verstärkt den Beleg operativ: Die binäre Frage erzeugt genau zwei Kindknoten und . Damit ist die Behauptung „jeder innere Knoten hat genau zwei ausgehende Kanten und der Test als Ja-Nein-Entscheidung formuliert ist” auf beiden Ebenen belegt — strukturell (Item 1) und operativ (Zwei-Kind-Zerlegung im Folgeabsatz). Der Zusatz „S.~28,f.” ist notwendig, weil die Aufzählung mit Items 3+4 und der Folgeabsatz sich auf S. 29 fortsetzen.

Detail-Zusammenfassung: bfos84-zusammenfassung

✓ Kap. 2.4 Z. 305 — Bibliografische Nennung BFOS84 (verifiziert 2026-08-02)

Manuskript-Aussage: Bibliografische Nennung von Breiman et al. 1984 (CART) im Zeitstrahl. Zitatmarker: \cite{BFOS84} Originalwortlaut: — (bibliografische Nennung) Deutsche Übersetzung:Begründung Passung: Reine bibliografische Nennung im Zeitstrahl-Kontext. Detail-Zusammenfassung: bfos84-zusammenfassung

Kap. 2.4 Z. 311 — Bibliografische Nennung Bre96b (Heuristics)

Manuskript-Aussage: Bibliografische Nennung von Breiman 1996 (Heuristics of Instability and Stabilization in Model Selection) im Zeitstrahl. Zitatmarker: \cite{Bre96b} Originalwortlaut:Deutsche Übersetzung:Begründung Passung: Reine bibliografische Nennung im Zeitstrahl-Kontext. Konzeptuelle Vorstufe zu Bagging (Perturbation + Aggregation als Stabilisierungs-Heuristik). Detail-Zusammenfassung: bre96b-zusammenfassung

✓ Kap. 2.4 Z. 318 — Bibliografische Nennung Bre96a (Bagging, verifiziert 2026-08-02, tex-Zeile 2026-08-08 aktualisiert)

Manuskript-Aussage: Bibliografische Nennung von Breiman 1996 (Bagging Predictors) im Zeitstrahl. Zitatmarker: \cite{Bre96a} Originalwortlaut:Deutsche Übersetzung:Begründung Passung: Reine bibliografische Nennung im Zeitstrahl-Kontext. Detail-Zusammenfassung: bre96a-zusammenfassung

✓ Kap. 2.4 Z. 323 — Bibliografische Nennung Bre01 (verifiziert 2026-08-02, tex-Zeile 2026-08-08 aktualisiert)

Manuskript-Aussage: Bibliografische Nennung von Breiman 2001 (Random Forests) im Zeitstrahl. Zitatmarker: \cite{Bre01} Originalwortlaut:Deutsche Übersetzung:Begründung Passung: Reine bibliografische Nennung im Zeitstrahl-Kontext. Detail-Zusammenfassung: bre01-zusammenfassung

Kap. 2.4 Z. 330 — Bibliografische Nennung CBHK02 (SMOTE)

Manuskript-Aussage: Bibliografische Nennung von Chawla, Bowyer, Hall, Kegelmeyer 2002 (SMOTE) im Zeitstrahl. Zitatmarker: \cite{CBHK02} Originalwortlaut:Deutsche Übersetzung:Begründung Passung: Reine bibliografische Nennung im Zeitstrahl-Kontext. Standardbaustein bei unbalancierten Klassifikationsaufgaben mit Random Forests. Detail-Zusammenfassung: cbhk02-zusammenfassung

✓ Kap. 2.4 Z. 337 — Bibliografische Nennung PNRB15 (verifiziert 2026-08-02, tex-Zeile 2026-08-08 aktualisiert)

Manuskript-Aussage: Bibliografische Nennung von Prytz et al. 2015 (Fallstudie) im Zeitstrahl. Zitatmarker: \cite{PNRB15} Originalwortlaut:Deutsche Übersetzung:Begründung Passung: Reine bibliografische Nennung im Zeitstrahl-Kontext. Detail-Zusammenfassung: pnrb15-zusammenfassung


Kap. 3 — Funktionsprinzipien

3.1 Rekursive Partitionierung

✓ Kap. 3.1 (Absatz 2) — Reinheits-Zunahme als Split-Ziel in CART (verifiziert 2026-08-02)

Manuskript-Aussage: „Breiman et al. formulieren als Ziel jeder Zerlegung, dass die Klassenverteilung in den entstehenden Teilmengen reiner ist als im Elternknoten.”

Zitatmarker: \cite[S.~23]{BFOS84}

Originalwortlaut:

„The first problem in tree construction is how to use to determine the binary splits of into smaller and smaller pieces. The fundamental idea is to select each split of a subset so that the data in each of the descendant subsets are ‚purer’ than the data in the parent subset.”

Deutsche Übersetzung:

„Das erste Problem bei der Baum-Konstruktion ist, wie sich nutzen lässt, um die binären Splits von in immer kleinere Teile zu bestimmen. Die grundlegende Idee ist, jeden Split einer Teilmenge so zu wählen, dass die Daten in den entstehenden Kind-Teilmengen ‚reiner’ sind als die Daten in der Elternteilmenge.”

Begründung Passung: Breimans Formulierung „the data in each of the descendant subsets are ‚purer’ than the data in the parent subset” ist wortgetreu die Reinheits-Zunahme als Ziel jeder Zerlegung. Der Fließtext-Halbsatz „reiner ist als im Elternknoten” übersetzt „purer than … the parent subset” direkt. Der einleitende Satz („smaller and smaller pieces”) liefert zudem den iterativen Charakter der Zerlegung.

Detail-Zusammenfassung: bfos84-zusammenfassung

✓ Kap. 3.1 Abs. 3 — CART-Klassifikations-Blattmarkierung (Plurality Rule) (verifiziert 2026-08-02)

Manuskript-Aussage: „Breiman et al.\ bestimmen für CART bei Klassifikationsaufgaben die Klasse eines Blatts durch die Plurality Rule: das Blatt erhält die häufigste Klasse der zugeordneten Trainingsdatenpunkte.”

Zitatmarker: \cite[S.~26, M2]{BFOS84} (rückwirkend M2 vergeben 2026-08-02 wegen zweitem Zitat auf S. 26 — Auswahlregel M1 steht physisch davor)

Originalwortlaut (S. 26):

„The class character of a terminal node was determined by the plurality rule. Specifically, if then was designated as a class terminal node.”

Deutsche Übersetzung:

„Der Klassencharakter eines terminalen Knotens wurde durch die Plurality Rule bestimmt. Konkret: wenn dann wurde als Klasse--terminaler-Knoten bezeichnet.”

Begründung Passung: Breiman formuliert die Plurality Rule explizit: der terminale Knoten wird der Klasse mit maximaler bedingter Wahrscheinlichkeit zugewiesen — also der häufigsten Klasse der zum Knoten gehörenden Trainingsdatenpunkte. Damit ist die Fließtext-Aussage „durch die Plurality Rule … die häufigste Klasse der zugeordneten Trainingsdatenpunkte” wortgetreu belegt.

Zur Imperfekt-Form: BFOS84 nutzt hier den narrativ-beschreibenden Stil („was determined”, „was designated”). Anders als die direkt darüberstehende β-Threshold-Terminierungsregel („was simple and unsatisfactory”, explizit als überholt markiert) wird die Plurality Rule nirgends widerrufen; sie bleibt die Standard-Klassifikationsregel in CART.

Detail-Zusammenfassung: bfos84-zusammenfassung

✓ Kap. 3.1 Abs. 3 — Blattvorhersage bei Regression ist konstant (verifiziert 2026-08-02)

Manuskript-Aussage: „…bei Regressionsaufgaben ist die Blattvorhersage ein konstanter Wert.”

Zitatmarker: \cite[S.~228]{BFOS84} (am 2026-08-02 von S. 230 auf S. 228 umgestellt: „Mittelwert” → „konstanter Wert”; Mittelwert-Aspekt wandert nach Kap. 3.3 Absatz 2)

Detail-Passage siehe: Kap. 3.3 Absatz 1 (identische S.-228-Passage — beide Cites verweisen auf dieselbe PDF-Passage, kein M-Marker nötig).

Detail-Zusammenfassung: bfos84-zusammenfassung

Änderung 2026-08-03: Die zuvor hier stehenden Einträge S.~230 M1 (Prop. 8.10) und S.~230 M2 (R(t)-Formel) wurden entfernt, weil die ausführliche MSE-Herleitung in Kap. 3.3 zugunsten eines Fokus auf Klassifikation gekürzt wurde. Ausführliche Fassung archiviert in E_manuskript/archiv/kap-3.3_regression_ausfuehrlich_2026-08-03.tex. Detail-Wissen bleibt als reines Lernmaterial in bfos84-zusammenfassung.md.

✓ Kap. 3.1 Abs. 4 — Rechtecke-Kachelung des Merkmalsraums (verifiziert 2026-08-02)

Manuskript-Aussage: „Anschaulich lässt sich das Verfahren als fortschreitende Zerlegung des Merkmalsraums in achsenparallele Rechtecke beschreiben.”

Zitatmarker: \cite[S.~30]{BFOS84}

Originalwortlaut (S. 30):

„When fixed-dimensional data have only ordered variables, another way of looking at the tree structured procedure is as a recursive partitioning of the data space into rectangles.”

Deutsche Übersetzung:

„Wenn festdimensionale Daten nur geordnete Variablen enthalten, lässt sich das baumbasierte Verfahren auch als rekursive Partitionierung des Datenraums in Rechtecke auffassen.”

Begründung Passung: Breimans „recursive partitioning of the data space into rectangles” ist wortgetreu die Kachelungssichtweise. Der Zusatz „achsenparallel” im Fließtext ergibt sich implizit aus Breimans Voraussetzung „only ordered variables” mit binären Splits der Form (Section 2.4.1) — jede solche Trennung erfolgt entlang einer einzelnen Achse und erzeugt achsenparallele Kanten. Die Fließtext-Aussage ist damit belegtreu.

3.2 Impuritätsbasierter Split-Rahmen

✓ Kap. 3.2 — Impuritätsabnahme-Formel (verifiziert 2026-08-02)

Manuskript-Aussage: „…so ist die Güte des Splits als Abnahme der Impurität definiert: .”

Zitatmarker: \cite[S.~25]{BFOS84}

Originalwortlaut (S. 25):

„Then the goodness of the split is defined to be the decrease in impurity

Deutsche Übersetzung:

„Dann ist die Güte des Splits definiert als die Abnahme der Impurität

Begründung Passung: Wortgetreu belegt. Manuskript und Original verwenden identische Formel; Manuskript-Formulierung „Güte des Splits als Abnahme der Impurität” übersetzt „goodness of the split … the decrease in impurity” direkt. Die zuvor stehende Definition der Größenanteile als „a proportion of the cases in go into ” (S. 25 oben, im gleichen Absatz) stützt die Notation.

Detail-Zusammenfassung: bfos84-zusammenfassung

✓ Kap. 3.2 — Auswahlregel bester Split (verifiziert 2026-08-02)

Manuskript-Aussage: „Aus der Kandidatenmenge aller möglichen Splits am Knoten wird der Split gewählt, der diese Abnahme maximiert: .”

Zitatmarker: \cite[S.~26, M1]{BFOS84}

Originalwortlaut (S. 26, physisch das erste Highlight → M1):

„The tree was grown in the following way: At the root node , a search was made through all 5000 candidate splits to find that split which gave the largest decrease in impurity; i.e., .”

Deutsche Übersetzung:

„Der Baum wurde folgendermaßen aufgebaut: Am Wurzelknoten wurde eine Suche durch alle 5000 Kandidaten-Splits durchgeführt, um denjenigen Split zu finden, der die größte Abnahme der Impurität ergab; d. h., .”

Begründung Passung: Breiman führt hier die Auswahlregel für den besten Split ( maximiert ) mit identischer Formel wie im Manuskript ein. Die Aussage steht im Kontext eines konkreten Beispiels (Wurzelknoten , 5000 Kandidaten-Splits), die Formel ist aber ohne Verlust auf beliebige Knoten übertragbar. Manuskript-Formulierung „derjenige gewählt, der diese Abnahme maximiert” übersetzt „to find that split which gave the largest decrease in impurity” direkt.

Zur M1-Markierung: Auf S. 26 stehen zwei Zitate untereinander (die Auswahlregel als erstes physisches Highlight → M1, die Plurality Rule als zweites → M2). Zwei Fließtext-Cites zu derselben Seite werden durch M-Marker unterschieden.

Detail-Zusammenfassung: bfos84-zusammenfassung

Änderung 2026-08-03: Der zuvor hier stehende Kap. 3.2-Eintrag (S. 231, Def. 8.13, „Regressionsimpurität als mittlere quadratische Abweichung”) wurde entfernt, weil der zugehörige Manuskript-Satz in Kap. 3.2 (redundant zu Kap. 3.3) gestrichen wurde. Der Übertragungs-Hinweis auf Regression steht jetzt nur noch als Verweis „Übertragung → Abschnitt Regressionsbäume” ohne Beleg im Fließtext von Kap. 3.2.

3.3 Regressionsbäume

✓ Kap. 3.3 Absatz 1 — Blattvorhersage ist konstant (verifiziert 2026-08-02)

Manuskript-Aussage: „An die Stelle der Mehrheitsklasse tritt als Vorhersage im Blatt ein reeller Zielwert . Innerhalb eines Blatts ist dieser Wert konstant.”

Zitatmarker: \cite[S.~228]{BFOS84}

Originalwortlaut (S. 228, Beginn Section 8.4 „Tree Structured Regression”):

„A tree structured predictor is similar to a tree structured classifier. The space is partitioned by a sequence of binary splits into terminal nodes (see Figure 8.2). In each terminal node , the predicted response value is constant.”

Deutsche Übersetzung:

„Ein baumstrukturierter Prädiktor ist einem baumstrukturierten Klassifikator ähnlich. Der Raum wird durch eine Folge binärer Splits in terminale Knoten partitioniert (siehe Abbildung 8.2). In jedem terminalen Knoten ist der vorhergesagte Antwortwert konstant.”

Begründung Passung: Breiman formuliert wortgetreu, dass die Blattvorhersage konstant ist („the predicted response value is constant”). Der Fließtext-Halbsatz „als Vorhersage im Blatt ein konstanter Wert” übersetzt genau das. Die konkrete Wahl (Mittelwert ) wird in Absatz 2 belegt (S. 230).

Detail-Zusammenfassung: bfos84-zusammenfassung

✓ Kap. 3.3 Absatz 2 — Mittlerer quadratischer Fehler als klassisches Regressionsfehlermaß (verifiziert 2026-08-03)

Manuskript-Aussage: „…An die Stelle einer klassenreinheitsbasierten Impurität wie Gini-Index oder Entropie tritt der mittlere quadratische Fehler der Zielwerte im Knoten als Impuritätsmaß.”

Zitatmarker: \cite[S.~222]{BFOS84}

Originalwortlaut (S. 222):

„But for reasons having to do with ease of computations, the measure of accuracy classically used in regression is the averaged squared error, […]. The methodology revolving about this measure is least squares regression.”

Deutsche Übersetzung:

„Aus Gründen der Rechenpraktikabilität ist das in der Regression klassisch verwendete Genauigkeitsmaß jedoch der gemittelte quadratische Fehler […]. Die Methodik, die auf dieses Maß aufbaut, ist die Methode der kleinsten Quadrate.”

Begründung Passung: Breiman rechtfertigt die Wahl des mittleren quadratischen Fehlers als Fehlermaß der Regression explizit („classically used in regression”, „ease of computations”) und benennt die zugehörige Methodik (least squares regression). Damit ist die Manuskript-Aussage, dass in der Regression der MSE das analoge Impuritätsmaß zur klassenreinheitsbasierten Impurität in der Klassifikation ist, wortgetreu belegt. Der auf derselben Seite unmittelbar davor stehende absolute Fehler (least absolute deviation, dort mit Verweis auf Sec. 8.11) zeigt, dass Breiman die Wahl bewusst gegen eine Alternative trifft.

Detail-Zusammenfassung: bfos84-zusammenfassung

✓ Kap. 3.3 Absatz 2 — Mittelwert als Blattvorhersage (verifiziert 2026-08-03)

Manuskript-Aussage: „…als Blattvorhersage dient der Mittelwert der Zielwerte im Knoten und ersetzt die Mehrheitsregel der Klassifikation.”

Zitatmarker: \cite[S.~230]{BFOS84}

Originalwortlaut (S. 230, Prop. 8.10):

PROPOSITION 8.10. The value of that minimizes is the average of for all cases falling into ; that is, the minimizing is .”

Deutsche Übersetzung:

Satz 8.10. Der Wert von , der minimiert, ist der Mittelwert von über alle Fälle , die in fallen; das heißt, der minimierende ist .”

Begründung Passung: Prop. 8.10 identifiziert den Mittelwert als den -minimierenden Wert der Blattvorhersage. Damit ist die Manuskript-Kernaussage, dass die Blattvorhersage in der Regression der Mittelwert der Zielwerte ist, wortgetreu belegt.

Kein M-Marker nötig: Ab 2026-08-03 wird auf S. 230 nur noch diese eine Aussage im Manuskript belegt (Prop. 8.10 / Mittelwert). Die ausführliche Herleitung mit R(t)-Formel und M1/M2-Marker ist mit der Kürzung von Kap. 3.3 in die Archiv-Fassung gewandert; das Detail-Wissen (Prop. 8.10-Beweis, R(t)-Setzung, R(T)-Zerlegung) bleibt als reines Lernmaterial in bfos84-zusammenfassung.md verfügbar.

Detail-Zusammenfassung: bfos84-zusammenfassung

Änderung 2026-08-03: Die zuvor hier stehenden drei Kap. 3.3-\beleg-Einträge (Z. 174 Kandidatensplit-Bewertung, Z. 184 argmax-Auswahl Regression, Z. 192 Histogrammschätzung) wurden entfernt, weil die entsprechenden Absätze 3 und 4 im Manuskript zugunsten eines Fokus auf Klassifikation gestrichen wurden. Ausführliche Fassung archiviert in E_manuskript/archiv/kap-3.3_regression_ausfuehrlich_2026-08-03.tex.

✓ Kap. 3.3 Absatz 3 — -Formel + Maximierungsregel als Regressions-Analoga (verifiziert 2026-08-03)

Manuskript-Aussage: „Bezeichnet den mittleren quadratischen Fehler der Zielwerte im Knoten , so ist analog zu Gleichung~(3.2) die Abnahme der Regressionsimpurität durch einen Split [] und der beste Split derjenige, der diese Abnahme maximiert [].”

Zitatmarker: \cite[S.~231]{BFOS84} — Definition 8.13

Originalwortlaut (S. 231, Definition 8.13):

DEFINITION 8.13. The best split of is that split in which most decreases . More precisely, for any split of into and , let . Take the best split to be a split such that .”

Deutsche Übersetzung:

Definition 8.13. Der beste Split von ist derjenige Split in , der am stärksten senkt. Genauer: Für jeden Split von in und sei . Der beste Split ist derjenige Split, für den gilt .”

Begründung Passung: Definition 8.13 liefert wortgetreu beide im Manuskript-Absatz belegten Formeln: die -Definition und die Maximierungsregel. Der Vergleich mit dem Klassifikationsrahmen (Kap. 3.2, Gleichungen 3.2 und 3.3) ist strukturell identisch, was die Manuskript-Aussage „je zwei strukturell identische Gleichungen zur Verfügung” trägt.

Kein M-Marker nötig: Nur ein Highlight auf S. 231 (Def. 8.13 als zusammenhängender Block).

Detail-Zusammenfassung: bfos84-zusammenfassung

3.4 Split-Kriterium Gini-Index

✓ Kap. 3.4 Z. 193 — Gini als Split-Kriterium in CART übernommen (verifiziert 2026-08-04)

Manuskript-Aussage: „In einer für die Baumklassifikation angepassten Form wurde er von Breiman et al.\ als Split-Kriterium in CART übernommen.”

Zitatmarker: \cite[S.~103, M1]{BFOS84} (erster physischer Highlight-Block auf S. 103)

Originalwortlaut (S. 103, Kap. 4.3 „The Multiclass Problem: Unit Costs”, Unterkap. 4.3.1 „The Gini Criterion”):

„In later work the Gini diversity index was adopted. This has the form and can also be written as .”

Deutsche Übersetzung:

„In späterer Arbeit wurde der Gini-Diversitätsindex übernommen. Er hat die Form [Doppelsumme] und lässt sich auch als [Quadratsummen-Form] schreiben.”

Begründung Passung: Breiman et al.\ dokumentieren wortgetreu die Übernahme des Gini-Index als CART-Split-Kriterium („In later work the Gini diversity index was adopted”). Die auf derselben Seite folgenden Formeln (4.8) und (4.9) sind Teil desselben Highlight-Blocks und dokumentieren gemeinsam die Einführung; die formale Herleitung der beiden Darstellungen erfolgt jedoch erst auf S. 104 (siehe M1/M2-Cites unten).

Detail-Zusammenfassung: bfos84-zusammenfassung

✓ Kap. 3.4 Z. 203 — Zufallsklassifikationsregel + Gini als Fehlklassifikationswahrscheinlichkeit (verifiziert 2026-08-04)

Manuskript-Aussage: „Zur formalen Beschreibung formulieren Breiman et al.\ eine Zufallsklassifikationsregel: Ein aus dem Knoten zufällig gezogenes Objekt wird mit Wahrscheinlichkeit der Klasse zugewiesen; die geschätzte Wahrscheinlichkeit, dass es tatsächlich der Klasse angehört, ist . Beide Größen bezeichnen die relative Häufigkeit der jeweiligen Klasse unter den dem Knoten zugeordneten Datenpunkten, mit . Als Impuritätsfunktion ist der Gini-Index dann definiert als die geschätzte Fehlklassifikationswahrscheinlichkeit unter dieser Regel: .”

Zitatmarker: \cite[S.~103, M3]{BFOS84} (am 2026-08-05 von M2 auf M3 umnummeriert, weil neuer M2-Marker für den Zwei-Klassen-Fall zwischen dem M1-Adoption-Block und dem „Instead of using the plurality rule”-Block eingefügt wurde)

Originalwortlaut (S. 103 M3 unten und Fortsetzung auf S. 104 in derselben Satz-Einheit):

„Instead of using the plurality rule to classify objects in a node , use the rule that assigns an object selected at random from the node to class with probability . The estimated probability that the item is actually in class is . Therefore, the estimated probability of misclassification under this rule is the Gini index .”

Deutsche Übersetzung:

„Anstatt die Mehrheitsregel zur Klassifikation von Objekten in einem Knoten zu verwenden, benutze man die Regel, die einem zufällig aus dem Knoten gezogenen Objekt mit Wahrscheinlichkeit die Klasse zuweist. Die geschätzte Wahrscheinlichkeit, dass das Objekt tatsächlich zur Klasse gehört, ist . Daher ist die geschätzte Fehlklassifikationswahrscheinlichkeit unter dieser Regel der Gini-Index .”

Begründung Passung: Die Manuskript-Passage übernimmt die BFOS84-Notationseinführung wortgetreu: als Zuweisungswahrscheinlichkeit unter der Zufallsklassifikationsregel, als geschätzte tatsächliche Klassenzugehörigkeitswahrscheinlichkeit. Die Doppelsummen-Formel wird als geschätzte Fehlklassifikationswahrscheinlichkeit motiviert — identisch zur BFOS84-Herleitung. Der belegte Textbereich beginnt auf S. 103 unten (M2) und läuft nahtlos auf S. 104 weiter; die formale Fortsetzung mit der Formel ist ebenfalls durch den nachfolgenden Cite auf S. 104 M1 abgedeckt.

M-Marker-Konvention: Auf S. 103 stehen (Stand 2026-08-05) drei Cites — M1 (Gini-Adoption in CART, mit beiden Formeln 4.8 und 4.9) physisch zuerst, M2 (Zwei-Klassen-Fall ) physisch danach, M3 (Herleitungs-Einleitung „Instead of using the plurality rule …”) am unteren Seitenende. Der Satz von S. 103 M3 wird auf S. 104 M1 fortgesetzt (Formel + Fehlklassifikations-Aussage).

Detail-Zusammenfassung: bfos84-zusammenfassung

✓ Kap. 3.4 (nach Quadratsummen-Form) — Zwei-Klassen-Fall des Gini-Index (verifiziert 2026-08-05)

Manuskript-Aussage: „Im Zwei-Klassen-Fall reduziert sich der Gini-Index auf .”

Zitatmarker: \cite[S.~103, M2]{BFOS84}

Originalwortlaut (S. 103, direkt nach den Formeln 4.8 und 4.9):

„In the two-class problem, the index reduces to , equivalent to the two-class criterion selected previously.”

Deutsche Übersetzung:

„Im Zwei-Klassen-Fall reduziert sich der Index auf , äquivalent zum zuvor gewählten Zwei-Klassen-Kriterium.”

Begründung Passung: Die Manuskript-Formel ist wortgetreu identisch zur BFOS84-Formel. Der Zwei-Klassen-Fall wird im Manuskript als didaktischer Zusatz nach der allgemeinen Quadratsummen-Form eingeführt, weil die Arbeit auf binäre Klassifikation fokussiert ist. Die von BFOS84 zusätzlich betonte Äquivalenz zum „two-class criterion selected previously” wird im Manuskript nicht übernommen, weil dieses zuvor besprochene Kriterium (das Twoing-verwandte Zwei-Klassen-Impuritätsmaß aus BFOS84 Kap. 4.2) nicht Bestandteil der Arbeit ist.

Detail-Zusammenfassung: bfos84-zusammenfassung

✓ Kap. 3.4 Z. 215 — Gini in Quadratsummen-Form via Varianz-Interpretation (verifiziert 2026-08-04)

Manuskript-Aussage: „Alternativ ergibt sich der Gini-Index über eine Varianz-Interpretation: Wird jedem Objekt der Klasse der Wert und allen übrigen der Wert zugewiesen, so ist die Stichprobenvarianz dieser Werte . Die Summation dieser Varianzen über alle Klassen liefert die äquivalente und rechnerisch einfachere Darstellung: .”

Zitatmarker: \cite[S.~104, M1]{BFOS84}

Originalwortlaut (S. 104, Varianz-Interpretation nach Light & Margolin 1971):

„Another interpretation is in terms of variances (see Light and Margolin, 1971). In a node , assign all class objects the value 1, and all other objects the value 0. Then the sample variance of these values is . If this is repeated for all classes and the variances summed, the result is .”

Deutsche Übersetzung:

„Eine weitere Interpretation ergibt sich über Varianzen (siehe Light und Margolin, 1971). In einem Knoten wird jedem Objekt der Klasse der Wert 1 und allen übrigen Objekten der Wert 0 zugewiesen. Dann ist die Stichprobenvarianz dieser Werte . Wird dies für alle Klassen wiederholt und die Varianzen summiert, so ist das Ergebnis .”

Begründung Passung: Die Manuskript-Passage übernimmt die BFOS84-Varianz-Interpretation wortgetreu (0/1-Zuweisung → Stichprobenvarianz → Summation über Klassen). Die im Manuskript gezeigte Zwischen- und Endformel () ist wortgetreu identisch zur BFOS84-Formel. Dadurch wird die Quadratsummen-Darstellung des Gini-Index nicht durch eine im Manuskript selbst entwickelte algebraische Umformung, sondern durch den belegten BFOS84-Herleitungsweg (Light & Margolin) getragen.

Detail-Zusammenfassung: bfos84-zusammenfassung

✓ Kap. 3.4 (Twoing) — Twoing-Kriterium als zweites Split-Maß (verifiziert 2026-08-04)

Manuskript-Aussage: „Neben dem Gini-Index nennen Breiman et al.\ mit dem Twoing-Kriterium ein zweites Split-Maß, das speziell für Mehrklassenprobleme entwickelt wurde.”

Zitatmarker: \cite[S.~104\,f., M2]{BFOS84} (zweiter physischer Highlight-Block auf S. 104; Passage setzt sich auf S. 105 fort)

Originalwortlaut (S. 104 f., Kap. 4.3.2 „The Twoing Criterion”):

„The second approach to the multiclass problem adopts a different strategy. Denote the class of classes by , i.e., . At each node, separate the classes into two superclasses, , . Call all objects whose class is in class 1 objects; and put all objects in into class 2.”

Deutsche Übersetzung:

„Der zweite Ansatz für das Mehrklassenproblem verfolgt eine andere Strategie. Bezeichne die Klassenmenge mit , d. h., . An jedem Knoten werden die Klassen in zwei Superklassen zerlegt, , . Alle Objekte, deren Klasse in liegt, gelten als Klasse-1-Objekte, alle übrigen als Klasse-2-Objekte.”

Begründung Passung: Breiman et al.\ führen Twoing wortgetreu als „second approach to the multiclass problem” ein und dokumentieren die Kern-Konstruktion (Partitionierung der Klassenmenge in zwei Superklassen mit anschließender Zwei-Klassen-Bewertung). Die Manuskript-Aussage („zweites Split-Maß, das speziell für Mehrklassenprobleme entwickelt wurde”) übersetzt diese Passage genau.

M-Marker-Konvention: Auf S. 104 stehen zwei Cites — M1 (Fehlklassifikations-Herleitung mit Quadratsummen-Umformung als Ergebnis) physisch zuerst, M2 (Twoing-Einführung) physisch danach.

Detail-Zusammenfassung: bfos84-zusammenfassung

3.5 Überanpassung und Pruning

⧗ Kap. 3.8 Z. 473 — CART bestimmt Baumgröße per Kreuzvalidierung

Manuskript-Aussage: CART bestimmt die passende Größe unter den gestutzten Teilbäumen (insbesondere bei kleinen Stichproben) über Kreuzvalidierung. Beleg-Kürzel: \beleg{BFOS84 Kap. 3.2} Detail-Zusammenfassung: bfos84-zusammenfassung

Kap. 4 — Ensembleverfahren

4.1 Instabilität einzelner Bäume

✓ Kap. 4.1 Z. 15 — Instabilitäts-Definition + CART als instabil (verifiziert 2026-08-09)

Manuskript-Aussage: Breiman charakterisiert ein Lernverfahren als instabil, wenn eine kleine Änderung der Trainingsdaten eine große Änderung des resultierenden Modells hervorruft; CART, MARS und neuronale Netze zählen zu den instabilen, Ridge-Regression und -nächste-Nachbarn-Regression zu den stabilen Verfahren.

Zitatmarker: \cite[S.~2354]{Bre96b}

Originalwortlaut (S. 2354): „Heuristic definition. A regularization procedure is unstable if a small change in the data can make large changes in the regularized sequence . […] Many current regularizations are unstable. The list includes CART, MARS and neural nets. Besides ridge, the only other well-known stable method is -nearest-neighbor regression.”

Begründung Passung: Die heuristische Definition und die Verfahrensliste stehen auf derselben Seite in einem zusammenhängenden Abschnitt. CART wird explizit als instabil eingeordnet — die Brücke zwischen der abstrakten Definition und dem Manuskript-Fokus auf Entscheidungsbäume ist damit direkt belegt. Anmerkung: Breiman formuliert die Definition im Rahmen der „regularization procedures”; CART fällt darunter, weil Pruning als Regularisierungs-Schritt gilt.

Detail-Zusammenfassung: bre96b-zusammenfassung

✓ Kap. 4.1 Z. 29 — Stabilisierungsprinzip Perturbation + Averaging (verifiziert 2026-08-09)

Manuskript-Aussage: Als Gegenmittel schlägt Breiman vor, mehrere Predictoren aus perturbierten Fassungen der Trainingsdaten zu erzeugen und ihre Ausgaben zu mitteln; die resultierende Predictor-Folge ist stabiler und liefert einen geringeren Vorhersagefehler.

Zitatmarker: \cite[S.~2355]{Bre96b}

Originalwortlaut (S. 2355, Section 1.5 „Stabilization”): „Given that instability has undesirable consequences, what can be done? Unstable procedures can be stabilized! Consider all data sets such that in some (unspecified) metric . Define . Then the averaged predictors are a more stable sequence with lower predictive loss and less biased PE estimates.”

Begründung Passung: Die Passage benennt Perturbation + Averaging als das Stabilisierungsprinzip und liefert direkt die Kernaussage über die Wirkung („more stable sequence with lower predictive loss”). Bre96b formuliert das Prinzip allgemein; Bre96a (Bagging) ist die spezifische Umsetzung mit Bootstrap-Perturbation.

Detail-Zusammenfassung: bre96b-zusammenfassung

✓ Kap. 4.1 Z. 33 — CART-Stabilisierung mit Verweis auf Bagging (verifiziert 2026-08-09)

Manuskript-Aussage: Für Entscheidungsbäume weist Breiman in den abschließenden Bemerkungen darauf hin, dass eine solche Stabilisierung zu deutlichen Genauigkeitsverbesserungen führt, und verweist dafür auf Bagging als konkrete Umsetzung.

Zitatmarker: \cite[S.~2374]{Bre96b}

Originalwortlaut (S. 2374, Section 9 „Concluding remarks”): „There are no known stable versions of CART, MARS or neural networks. Stabilizing these methods can give nonlinear predictors with improved accuracy. In particular, Breiman (1996b, c) shows that stabilizing CART leads to dramatic improvements in accuracy.”

Begründung Passung: Bre96b bezeichnet in eigener Numerierung Breiman (1996b) das Bagging-Paper (bei uns Bre96a). Die Passage liefert die inhaltliche Brücke von der abstrakten Stabilisierungs-Heuristik zur konkreten CART-Umsetzung in Bagging und rechtfertigt damit den Übergang zu Kap. 4.2.

Detail-Zusammenfassung: bre96b-zusammenfassung

4.2 Bagging

✓ Kap. 4.2 Z. 49 — Bagging-Definition, Bootstrap + Aggregation + Namensgebung (verifiziert 2026-08-09)

Manuskript-Aussage: Bagging zieht aus der Trainingsmenge wiederholt Bootstrap-Stichproben und baut für jede einen separaten Entscheidungsbaum auf; die Vorhersage des Ensembles ergibt sich durch Aggregation der Einzelbaumvorhersagen: bei Klassifikationsaufgaben durch Mehrheitsvotum, bei Regressionsaufgaben durch Mittelwertbildung.

Zitatmarker: \cite[S.~123]{Bre96a}

Originalwortlaut (S. 123): „Take repeated bootstrap samples from , and form . If is numerical, take as . If is a class label, let the vote to form . We call this procedure ,bootstrap aggregating’ and use the acronym bagging.”

Begründung Passung: Die Passage deckt drei Bausteine in einem zusammenhängenden Block ab: (i) Bootstrap-Sampling-Idee, (ii) Aggregations-Regel für beide Aufgabentypen (numerisch = Mittelwert, Klassenlabel = Voting), (iii) Namensgebung „bootstrap aggregating” → „bagging”. Zusatz-Passage im nächsten Absatz derselben Seite präzisiert: „replicate data sets, each consisting of cases, drawn at random, but with replacement, from ” — Grundlage für die Erklärung „gleich groß wie Original-Trainingsmenge, mit Zurücklegen” im Manuskript.

Detail-Zusammenfassung: bre96a-zusammenfassung

✓ Kap. 4.2 Z. 57 — Fehlerreduktionen 6–77 % / 21–46 % (verifiziert 2026-08-09)

Manuskript-Aussage: Empirisch berichtet Breiman für elf Klassifikationsdatensätze Fehlerreduktionen zwischen 6 Prozent und 77 Prozent, bei Regressionsproblemen liegen die Reduktionen des mittleren quadratischen Fehlers zwischen 21 und 46 Prozent.

Zitatmarker: \cite[S.~124]{Bre96a}

Originalwortlaut (S. 124): „For unstable procedures bagging works well. In Section 2 we bag classification trees on a variety of data sets. The reduction in test set misclassification rates ranges from 6% to 77%. In Section 3 regression trees are bagged with reduction in test set mean squared error on data sets ranging from 21% to 46%.”

Begründung Passung: Beide Zahlenwerte (Klassifikation und Regression) stehen wortgetreu in der Übersichtspassage am Anfang der Introduction. Diese fasst die späteren Detail-Tabellen zusammen und macht ein Zitieren der Tab.-Zellen unnötig.

Detail-Zusammenfassung: bre96a-zusammenfassung

✓ Kap. 4.2 Z. 64 — Voraussetzung Instabilität (verifiziert 2026-08-09)

Manuskript-Aussage: Für stabile Verfahren wie die -nächste-Nachbarn-Regression kann Bagging die Vorhersagegüte sogar geringfügig verschlechtern, für die instabilen Entscheidungsbäume verbessert sie sich hingegen deutlich.

Zitatmarker: \cite[S.~124]{Bre96a}

Originalwortlaut (S. 124): „For unstable procedures bagging works well. […] On the other hand, it can slightly degrade the performance of stable procedures.” (aus derselben Section-1-Übersichtspassage wie oben)

Begründung Passung: Die Passage benennt beide Seiten des Instabilitäts-Kontrasts explizit: gute Wirkung bei instabilen, „slightly degrade” bei stabilen Verfahren. Direkte Grundlage für den Manuskript-Satz.

Detail-Zusammenfassung: bre96a-zusammenfassung

✓ Kap. 4.2 Z. 66 — Trade-off Interpretierbarkeit vs. Genauigkeit (verifiziert 2026-08-09)

Manuskript-Aussage: Was sich dabei ändert, benennt Breiman selbst: Die einfache und interpretierbare Baumstruktur geht verloren, gewonnen wird höhere Vorhersagegenauigkeit.

Zitatmarker: \cite[S.~137]{Bre96a}

Originalwortlaut (S. 137, Section 6.5 „Conclusions”): „What one loses, with the trees, is a simple and interpretable structure. What one gains is increased accuracy.”

Begründung Passung: Wortgetreue Übernahme des Trade-off-Satzes aus Breimans Conclusions. Derselbe Cite wird in Kap. 6.2 (Grenzen der Methode) erneut verwendet, um den Interpretierbarkeits-Verlust am Manuskript-Ende zu markieren.

Detail-Zusammenfassung: bre96a-zusammenfassung

4.3 Random Forests

✓ Kap. 4.3 Z. 115 — Random-Forest-Definition + Voting + Namensgebung (verifiziert 2026-08-09)

Manuskript-Aussage: Random Forests wurden 2001 von Breiman als Weiterentwicklung von Bagging eingeführt; nach dem Aufbau vieler Bäume auf Bootstrap-Stichproben werden ihre Vorhersagen durch Voting aggregiert.

Zitatmarker: \cite[S.~6]{Bre01}

Originalwortlaut (S. 6): „After a large number of trees is generated, they vote for the most popular class. We call these procedures random forests.” + „Definition 1.1. A random forest is a classifier consisting of a collection of tree-structured classifiers where the are independent identically distributed random vectors and each tree casts a unit vote for the most popular class at input .”

Begründung Passung: Die Passage liefert Namensgebung + Voting-Prinzip + formalen Rahmen (iid Zufallsvektoren ). Definition 1.1 ist Oberbegriff; die konkrete Merkmalseinschränkung als Instanz („Forest-RI”) wird auf S. 10 präzisiert.

Detail-Zusammenfassung: bre01-zusammenfassung

✓ Kap. 4.3 Z. 120 — Zufällige Merkmalseinschränkung an Knoten + Stärke/Korrelation (verifiziert 2026-08-09)

Manuskript-Aussage: An jedem inneren Knoten wird die Menge der zur Split-Auswahl zugelassenen Merkmale zufällig eingeschränkt; statt aus allen Merkmalen den besten Split zu wählen, prüft der Algorithmus nur eine per Zufall gezogene Teilmenge fester Größe . Diese Zusatz-Zufälligkeit soll die Korrelation der Bäume senken, ohne die Baumstärke zu stark einbrechen zu lassen.

Zitatmarker: \cite[S.~10]{Bre01} (gilt für Z. 120 und Z. 128)

Originalwortlaut (S. 10, Section 3 „Using random features”): „To improve accuracy, the randomness injected has to minimize the correlation while maintaining strength. The forests studied here consist of using randomly selected inputs or combinations of inputs at each node to grow each tree.”

Begründung Passung: Zwei Manuskript-Aussagen in einer Passage abgedeckt: (i) die konkrete Merkmalseinschränkung „at each node” und (ii) das Wirkprinzip „minimize correlation while maintaining strength”. Für Kap. 4.3 Z. 128 (Ensemblefehler abhängig von Stärke + Korrelation) wird derselbe Cite erneut gesetzt.

Detail-Zusammenfassung: bre01-zusammenfassung

✓ Kap. 4.3 Z. 121 — Random-Forest-Bäume nicht gestutzt (verifiziert 2026-08-09)

Manuskript-Aussage: Die einzelnen Bäume werden nicht gestutzt.

Zitatmarker: \cite[S.~11, M1]{Bre01}

Originalwortlaut (S. 11, Section 3.1, aus Kernpassage): „In my experiments with random forests, bagging is used in tandem with random feature selection. Each new training set is drawn, with replacement, from the original training set. Then a tree is grown on the new training set using random feature selection. The trees grown are not pruned.”

Begründung Passung: „The trees grown are not pruned” belegt direkt die Manuskript-Aussage. Zusätzlicher Bonus derselben Passage (M1): Bagging + Random Features werden „in tandem” verwendet — bestätigt den Manuskript-Aufbau in Kap. 4.3 Z. 120.

Detail-Zusammenfassung: bre01-zusammenfassung

✓ Kap. 4.3 Z. 167 — 1/3-Regel: ungefähr ein Drittel fehlt in Bootstrap-Stichprobe (verifiziert 2026-08-09)

Manuskript-Aussage: In jeder Bootstrap-Stichprobe verbleibt ungefähr ein Drittel der Trainingsdatenpunkte außerhalb.

Zitatmarker: \cite[S.~11, M2]{Bre01}

Originalwortlaut (S. 11, weiter unten in Section 3.1): „In each bootstrap training set, about one-third of the instances are left out.”

Begründung Passung: Wortgetreue Aussage direkt aus Bre01. Ersetzt die frühere Fußnoten-Herleitung (jetzt aus dem Manuskript entfernt).

Detail-Zusammenfassung: bre01-zusammenfassung

✓ Kap. 4.3 Z. 172 — OOB-Kernpassage (verifiziert 2026-08-09)

Manuskript-Aussage: Für jeden Trainingsdatenpunkt wird die Vorhersage nur durch jene Bäume gebildet, in deren Bootstrap-Stichprobe er nicht enthalten ist; die Fehlerrate dieses Out-of-Bag-Klassifikators liefert eine Schätzung des Generalisierungsfehlers.

Zitatmarker: \cite[S.~11, M1]{Bre01}

Originalwortlaut (S. 11, Section 3.1): „For each in the training set, aggregate the votes only over those classifiers for which does not contain . Call this the out-of-bag classifier. Then the out-of-bag estimate for the generalization error is the error rate of the out-of-bag classifier on the training set.”

Begründung Passung: Wortgetreue Übernahme des OOB-Prinzips: Aggregation nur über Bäume, in denen der Testpunkt nicht in der Bootstrap-Stichprobe war. Derselbe M-Marker M1 wie Kap. 4.3 Z. 121 (nicht-gestutzte Bäume), weil die Passagen zusammenhängen.

Detail-Zusammenfassung: bre01-zusammenfassung

✓ Kap. 4.3 Z. 175 — OOB erwartungstreu (verifiziert 2026-08-09)

Manuskript-Aussage: Im Unterschied zur -fachen Kreuzvalidierung ist die OOB-Fehlerschätzung erwartungstreu.

Zitatmarker: \cite[S.~11, M2]{Bre01}

Originalwortlaut (S. 11, unmittelbar nach der 1/3-Aussage): „But unlike cross-validation, where bias is present but its extent unknown, the out-of-bag estimates are unbiased.”

Begründung Passung: Direkter Kontrast Kreuzvalidierung vs. OOB. Selber M-Marker M2 wie 1/3-Aussage, weil beide Sätze im selben Absatz stehen.

Detail-Zusammenfassung: bre01-zusammenfassung

4.4 Datenvorverarbeitung mit SMOTE

✓ Kap. 4.4 Z. 191 — SMOTE-Grundidee (verifiziert 2026-08-10)

Manuskript-Aussage: Chawla et al. schlagen mit SMOTE ein Verfahren vor, das synthetische Minderheitsklassen-Datenpunkte erzeugt.

Zitatmarker: \cite[S.~328, M1]{CBHK02}

Originalwortlaut (S. 328, Anfang Section 4.2 „SMOTE”): „We propose an over-sampling approach in which the minority class is over-sampled by creating ‚synthetic’ examples rather than by over-sampling with replacement.”

Begründung Passung: Die zentrale Grundidee (synthetische Beispiele statt Duplikate mit Zurücklegen) steht wortgetreu in Chawlas Introduction des Verfahrens.

Detail-Zusammenfassung: cbhk02-zusammenfassung

✓ Kap. 4.4 Z. 196 — SMOTE-Algorithmus mit -Nachbarn und Interpolation (verifiziert 2026-08-10)

Manuskript-Aussage: Für jeden Datenpunkt der Minderheitsklasse werden seine nächsten Klassenkameraden im Merkmalsraum bestimmt (typischerweise ); zwischen dem Datenpunkt und einem zufällig gewählten Nachbarn wird durch lineare Interpolation ein synthetischer Datenpunkt eingefügt.

Zitatmarker: \cite[S.~328, M2]{CBHK02}

Originalwortlaut (S. 328, weiter unten in derselben Section): „The minority class is over-sampled by taking each minority class sample and introducing synthetic examples along the line segments joining any/all of the minority class nearest neighbors. Depending upon the amount of over-sampling required, neighbors from the nearest neighbors are randomly chosen. Our implementation currently uses five nearest neighbors. […] Take the difference between the feature vector (sample) under consideration and its nearest neighbor. Multiply this difference by a random number between 0 and 1, and add it to the feature vector under consideration. This causes the selection of a random point along the line segment between two specific features.”

Begründung Passung: Die gesamte Algorithmus-Beschreibung — Nachbarn, als Default, zufällige Wahl aus den Nachbarn, lineare Interpolation entlang der Verbindungslinie — steht in einem Highlight-Block. Der Zufallsparameter („random number between 0 and 1”) ist Grundlage für die im Manuskript verbal beschriebene „lineare Interpolation”.

Detail-Zusammenfassung: cbhk02-zusammenfassung

✓ Kap. 4.4 Z. 199 — SMOTE + Undersampling (verifiziert 2026-08-10)

Manuskript-Aussage: Die so vergrößerte Minderheitsklasse wird häufig mit einem Undersampling der Mehrheitsklasse kombiniert, um eine ausgeglichenere Trainingsverteilung zu erhalten.

Zitatmarker: \cite[S.~331]{CBHK02}

Originalwortlaut (S. 331, Section 4.3 „Under-sampling and SMOTE Combination”): „The majority class is under-sampled by randomly removing samples from the majority class population until the minority class becomes some specified percentage of the majority class.”

Begründung Passung: Section 4.3 heißt explizit „Under-sampling and SMOTE Combination” und beschreibt die Mechanik der Kombination. Die Manuskript-Aussage „häufig mit einem Undersampling kombiniert” bezieht sich auf genau diese von Chawla als eigenständiges Verfahren eingeführte Kombination.

Detail-Zusammenfassung: cbhk02-zusammenfassung

✓ Kap. 4.4 Z. 201 — Empirische Überlegenheit der Kombination (verifiziert 2026-08-10)

Manuskript-Aussage: Empirisch übertrifft diese Kombination reines Undersampling.

Zitatmarker: \cite[S.~352]{CBHK02}

Originalwortlaut (S. 352, Section 7 „Summary”): „The results show that the SMOTE approach can improve the accuracy of classifiers for a minority class. SMOTE provides a new approach to over-sampling. The combination of SMOTE and under-sampling performs better than plain under-sampling.”

Begründung Passung: Direkter empirischer Vergleich in Chawlas eigener Summary. Ergänzt Kap. 4.4 Z. 199 (Mechanik) um die Ergebnis-Aussage („besser als reines Undersampling”) — verankert die Wahl des kombinierten Verfahrens in PNRB15.

Detail-Zusammenfassung: cbhk02-zusammenfassung

(Kap. 4.5 Interpretierbarkeit — als eigener Abschnitt am 2026-08-09 aus dem Manuskript gestrichen. Trade-off-Aussage aus Bre96a S. 137 nach Kap. 6.2 verschoben, siehe unten.)


Kap. 5 — Anwendung: Predictive Maintenance mit Random Forests

5.0 Kapiteleinleitung

✓ Kap. 5.0 Z. 8 — CART widmet Medizin ein eigenes Kapitel (verifiziert 2026-08-11)

Manuskript-Aussage: Breiman et al. widmen in CART eigene Kapitel medizinischen Diagnose- und Prognoseaufgaben.

Zitatmarker: \cite[S.~174\,ff.]{BFOS84}

Originalwortlaut: Kapitelüberschrift „6. Medical Diagnosis and Prognosis” auf S. 174.

Begründung Passung: Beleg als „S. XXX ff.”-Form auf die Kapitelanfangsseite; das gesamte Kap. 6 in CART behandelt medizinische Diagnose- und Prognoseanwendungen von Klassifikationsbäumen.

Detail-Zusammenfassung: bfos84-zusammenfassung

✓ Kap. 5.0 Z. 8 — CART widmet Massenspektren ein eigenes Kapitel (verifiziert 2026-08-11)

Manuskript-Aussage: …sowie der Analyse von Massenspektren.

Zitatmarker: \cite[S.~203\,ff.]{BFOS84}

Originalwortlaut: Kapitelüberschrift „7. Mass Spectra Classification” auf S. 203.

Begründung Passung: Beleg als „S. XXX ff.”-Form auf die Kapitelanfangsseite; das gesamte Kap. 7 behandelt Massenspektren-Klassifikation als CART-Anwendung.

Detail-Zusammenfassung: bfos84-zusammenfassung

✓ Kap. 5.0 Z. 11 — Random-Forest-Evaluation über Datensätze aus mehreren Domänen (verifiziert 2026-08-11)

Manuskript-Aussage: Breiman evaluiert Random Forests an einer umfangreichen Sammlung von Datensätzen aus Medizin, Signalklassifikation und ökonomischen Fragestellungen.

Zitatmarker: \cite[S.~12, Tab.~1]{Bre01}

Originalwortlaut: Table 1 „Data set summary” auf S. 12, listet 20 Datensätze auf mit Trainingsgröße, Testgröße, Anzahl Inputs, Anzahl Klassen. Die Manuskript-Zuordnung („Medizin, Signalklassifikation, ökonomisch”) entspricht: Medizin (Breast cancer, Diabetes, Ecoli, Liver), Signalklassifikation (Waveform, Twonorm, Threenorm, Ringnorm, Sat-images, Sonar), ökonomisch (German credit).

Begründung Passung: Die Datensatz-Tabelle belegt direkt die Breite der Anwendungsdomänen. Die drei genannten Kategorien im Manuskript sind in Tab. 1 durch mindestens einen Datensatz jeweils vertreten.

Detail-Zusammenfassung: bre01-zusammenfassung

5.1 Kontext und Datenlage

Stand 2026-08-11: PNRB15-Vollrelesung läuft. Marker M1 und M2 auf S. 139 bereits gefunden. Zeilennummern beziehen sich auf den aktuellen Manuskript-Stand.

⧗ Kap. 5.1 Z. 31 — 1000 EUR/Tag Fixkosten

Manuskript-Aussage: Bei einem europäischen Langstrecken-LKW belaufen sich die Fixkosten einer ungeplanten Standzeit auf rund 1000 Euro pro Tag. Beleg-Kürzel: \beleg{PNRB15 Kap. 3-4} Detail-Zusammenfassung: pnrb15-zusammenfassung

⧗ Kap. 5.1 Z. 37 — LVD + VSR als kombinierte Datenquellen

Manuskript-Aussage: Die Autoren kombinieren zwei Datenquellen: LVD (Sensor- und Zählerwerte aus dem Bordrechner) und VSR (Wartungshistorie aus den Werkstattprotokollen). Beleg-Kürzel: \beleg{PNRB15 Kap. 2} (vorläufig — Marker S. 139 M1 bereits gefunden: „two sources: data collected on-board the vehicles and service records collected from OEM certified maintenance workshops”; für konkrete LVD-/VSR-Abkürzungen wahrscheinlich zusätzlich Section 2 Data Description nötig) Detail-Zusammenfassung: pnrb15-zusammenfassung

⧗ Kap. 5.1 Z. 47 — Datenherausforderungen und Ursachen-Zusammenfassung

Manuskript-Aussage: Herausforderungen: unbalancierte Klassen, verrauschte Klassenlabel, unsichere Datumsangaben, unregelmäßige Auslesezeitpunkte; mehrere Ausfallursachen zu einer gemeinsamen Kategorie zusammengefasst. Beleg-Kürzel: \beleg{PNRB15 Kap. 2} (Marker S. 139 f. M2 gefunden: „highly unbalanced data sets, noisy class labels, uncertainty in the dates, irregular readouts and unpredictable number of readouts […] multiple readouts from the same truck are highly correlated” + „air compressors face many possible types of failures, but we need to consider them all as one since they are not differentiated in the data sources” — deckt alle vier Manuskript-Herausforderungen ab; Cite-Form voraussichtlich \cite[S.~139\,f., M2]{PNRB15}) Detail-Zusammenfassung: pnrb15-zusammenfassung

5.2 Problemformulierung und Verfahren

Stand 2026-08-11: Manuskript-Text ohne mathematische Formel; die Integraldarstellung wurde entfernt und in Prosa überführt.

⧗ Kap. 5.2 Z. 60 — Zielgröße als verbale Wahrscheinlichkeit

Manuskript-Aussage: Die Zielgröße ist die Wahrscheinlichkeit, dass der Kompressor innerhalb eines festgelegten Zeitfensters vor dem nächsten Werkstattbesuch ausfällt, bedingt auf die bis zu diesem Zeitpunkt verfügbare Nutzungshistorie. Beleg-Kürzel: \beleg{PNRB15 Kap. 3-4} Detail-Zusammenfassung: pnrb15-zusammenfassung

⧗ Kap. 5.2 Z. 65 — Praktische Umsetzung: 15 Wochen Zeitfenster, letzte LVD-Auslesung

Manuskript-Aussage: In der praktischen Umsetzung setzen die Autoren dieses Zeitfenster mit dem typischen Werkstattbesuchsabstand von 15 Wochen gleich und beschränken die Nutzungshistorie auf die zuletzt ausgelesenen LVD-Daten, sodass das System ohne Datenbankzugriff lauffähig bleibt. Beleg-Kürzel: \beleg{PNRB15 Kap. 3-4} Detail-Zusammenfassung: pnrb15-zusammenfassung

⧗ Kap. 5.2 Z. 69 — Random-Forest-Training: 10 Wiederholungen, 10-fache Kreuzvalidierung

Manuskript-Aussage: Als Klassifikator dient ein Random Forest, trainiert mit zehn Wiederholungen und zehnfacher Kreuzvalidierung. Beleg-Kürzel: \beleg{PNRB15 Kap. 3-4} Detail-Zusammenfassung: pnrb15-zusammenfassung

⧗ Kap. 5.2 Z. 75 — Fahrzeugweise Train/Test-Trennung

Manuskript-Aussage: Trainings- und Testdaten werden nicht zufällig, sondern fahrzeugweise getrennt, sonst systematische Überschätzung der Vorhersagegüte. Beleg-Kürzel: \beleg{PNRB15 Kap. 4.5} (Bonus-Beleg auf S. 139 f. M2 verfügbar: „multiple readouts from the same truck are highly correlated, which puts constraints on how data for testing and training are selected” — kann als Alternativ- oder Zweit-Beleg dienen) Detail-Zusammenfassung: pnrb15-zusammenfassung

5.3 Merkmalsauswahl

⧗ Kap. 5.3 Z. 88 — Rohdatensatz ~1250 Merkmale, ~500 pro Fahrzeug

Manuskript-Aussage: Der Rohdatensatz umfasst rund 1250 mögliche Merkmale; pro Fahrzeug sind etwa 500 verfügbar. Beleg-Kürzel: \beleg{PNRB15 Kap. 4.5} Detail-Zusammenfassung: pnrb15-zusammenfassung

Manuskript-Aussage: Wrapper-Verfahren auf Basis einer Beam-Search: Top-5-Kandidaten je Iteration; Schrumpffaktor als Nebenbedingung. Beleg-Kürzel: \beleg{PNRB15 Kap. 4.5-4.6} Detail-Zusammenfassung: pnrb15-zusammenfassung

⧗ Kap. 5.3 Z. 108 — Filter-Verfahren mit Kolmogorov-Smirnov-Test

Manuskript-Aussage: Filter-Verfahren mit dem Kolmogorov-Smirnov-Test, der pro Merkmal Verteilungsunterschied zwischen Ausfall- und Normal-Datensatz prüft. Beleg-Kürzel: \beleg{PNRB15 Kap. 4.5-4.6} Detail-Zusammenfassung: pnrb15-zusammenfassung

⧗ Kap. 5.3 Z. 115 — SMOTE-Balancierung

Manuskript-Aussage: Klassenverteilung mit SMOTE balanciert; Interpolation zwischen Datenpunkt und nächsten Nachbarn erzeugt synthetische Ausfall-Beispiele. Beleg-Kürzel: \beleg{PNRB15 Kap. 4.6} Detail-Zusammenfassung: pnrb15-zusammenfassung

⧗ Kap. 5.3 Abb.-Caption — Verarbeitungspipeline

Manuskript-Aussage: Verarbeitungspipeline der Fallstudie. Eigene Darstellung nach Prytz et al. Beleg-Kürzel: \beleg{PNRB15 Kap. 2-4} Detail-Zusammenfassung: pnrb15-zusammenfassung

5.4 Bewertung und Ergebnisse

⧗ Kap. 5.4 Z. 161 — Accuracy bei unbalancierten Klassen eingeschränkt aussagekräftig

Manuskript-Aussage: Klassifikationsmetriken sind für unbalancierten Datensatz nur eingeschränkt aussagekräftig, weil eine hohe Accuracy allein durch das durchgängige Vorhersagen der Mehrheitsklasse erreichbar wäre. Beleg-Kürzel: \beleg{PNRB15 Kap. 4.5-4.6} Detail-Zusammenfassung: pnrb15-zusammenfassung

⧗ Kap. 5.4 Z. 167 — Profit-Formel

Manuskript-Aussage: Nettoprofit . Beleg-Kürzel: \beleg{PNRB15 Kap. 4.5} Detail-Zusammenfassung: pnrb15-zusammenfassung

⧗ Kap. 5.4 Abb.-Caption — Balkendiagramm-Werte

Manuskript-Aussage: Werte für absoluten und normalisierten Profit pro Merkmalsset bei Vorhersagehorizont 15 Wochen. Beleg-Kürzel: \beleg{PNRB15 Kap. 5.6 (Tab. 1)} Detail-Zusammenfassung: pnrb15-zusammenfassung

⧗ Kap. 5.4 Z. 242 — Usage und Beam 1 übertreffen Expertenauswahl

Manuskript-Aussage: Algorithmisch gewählte Merkmalssets Usage und Beam 1 übertreffen die vier handverlesenen Expertenmerkmale deutlich (Werte aus Tab. 1). Beleg-Kürzel: \beleg{PNRB15 Kap. 5; Kap. 5.6 (Tab. 1)} Detail-Zusammenfassung: pnrb15-zusammenfassung

⧗ Kap. 5.4 Z. 247 — 110 EUR/Fahrzeug Ersparnis

Manuskript-Aussage: Ersparnis rund 110 Euro pro Fahrzeug; für Flotte von 10 000 Fahrzeugen niedriger einstelliger Millionenbereich. Beleg-Kürzel: \beleg{PNRB15 Kap. 5.6} Detail-Zusammenfassung: pnrb15-zusammenfassung

⧗ Kap. 5.4 Z. 255 — Nutzungskontext-Merkmale > Verschleißparameter

Manuskript-Aussage: Nutzungskontext-Merkmale (Usage) tragen mehr zur Vorhersage bei als reine Verschleißparameter (Wear). Beleg-Kürzel: \beleg{PNRB15 Kap. 5} Detail-Zusammenfassung: pnrb15-zusammenfassung


Kap. 6 — Zusammenfassung und Ausblick

⧗ Kap. 6.2 Z. 66 — CART enthält Linearkombinations-Splits als Erweiterung

Manuskript-Aussage: Bereits Breiman et al. beschreiben in CART eine Erweiterung um Splits auf Linearkombinationen mehrerer Merkmale, mit der solche diagonalen Trennungen direkt modellierbar werden. Beleg-Kürzel: \beleg{BFOS84 Kap. 2.5} Detail-Zusammenfassung: bfos84-zusammenfassung

✓ Kap. 6.2 Z. 75 — Trade-off Interpretierbarkeit vs. Genauigkeit (verifiziert 2026-08-11)

Manuskript-Aussage: Breiman selbst benennt in seiner Bagging-Arbeit den Zielkonflikt, dass die einfache und interpretierbare Baumstruktur beim Übergang zum Ensemble verloren geht und dafür höhere Vorhersagegenauigkeit gewonnen wird.

Zitatmarker: \cite[S.~137]{Bre96a}

Originalwortlaut (S. 137, Section 6.5 „Conclusions”): „What one loses, with the trees, is a simple and interpretable structure. What one gains is increased accuracy.”

Begründung Passung: Wortgetreue Übernahme des Trade-off-Satzes. Zweitnutzung derselben Passage aus Bre96a S. 137, die bereits in Kap. 4.2 Z. 66 zitiert wird — bewusst redundant, weil die Aussage sowohl beim ersten Auftreten (Ensemble-Erweiterung) als auch am Manuskript-Ende (Grenzen der Methode) trägt.

Detail-Zusammenfassung: bre96a-zusammenfassung


Status-Bilanz (Stand 2026-08-11)

StatusAnzahlBeschreibung
✓ verifiziert50Kap. 2.2 (1) + Zeitstrahl 6× (BFOS84, Bre96b, Bre96a, Bre01, CBHK02, PNRB15) + Kap. 3.1–3.5 (21× BFOS84) + Kap. 4.1 (3× Bre96b) + Kap. 4.2 (4× Bre96a) + Kap. 4.3 (7× Bre01) + Kap. 4.4 (4× CBHK02) + Kap. 5.0 (2× BFOS84 + 1× Bre01) + Kap. 6.2 (1× Bre96a)
⧗ noch offen1918 \beleg{PNRB15 …} in Kap. 5.1–5.4 (PNRB15-Vollrelesung läuft, 2 Marker auf S. 139 bereits gefunden) + 1 \beleg{BFOS84 Kap. 2.5} in Kap. 6.2
Summe69Übereinstimmung mit zitat-index

Änderung 2026-08-09 bis 2026-08-11 (Kap. 4 komplett neu verifiziert):

  • Kap. 4.1 (Instabilität) neu formuliert und mit drei Bre96b-Cites verifiziert (S. 2354 Definition + CART-Liste, S. 2355 Stabilisierungsprinzip, S. 2374 Concluding Remarks mit CART-Bezug auf Bagging)
  • Kap. 4.2 (Bagging) neu formuliert und mit vier Bre96a-Cites verifiziert (S. 123 Definition + Aggregation + Namensgebung, S. 124 Fehlerreduktionen + Instabilitäts-Voraussetzung, S. 137 Trade-off Interpretierbarkeit vs. Genauigkeit). TikZ-Grafik-Notation an Bre96a-Original angepasst (, ).
  • Kap. 4.3 (Random Forests) neu formuliert und mit sieben Bre01-Cites verifiziert (S. 6 Definition + Voting, S. 10 Merkmalseinschränkung + Stärke/Korrelation, S. 11 M1 OOB-Kernpassage + „trees not pruned”, S. 11 M2 1/3-Regel + Unbiased-Argument). Kreuzvalidierungs-Definition an Erstverwendung Kap. 3.5 verschoben.
  • Kap. 4.4 (SMOTE) mit CBHK02-Cites verfeinert (S. 328 M1 Grundidee, S. 328 M2 Algorithmus, S. 331 Undersampling-Kombination, S. 352 empirische Überlegenheit).
  • Kap. 4.5 (Interpretierbarkeit) komplett gestrichen. Trade-off-Aussage aus Bre96a S. 137 nach Kap. 6.2 verschoben. Permutation Importance verworfen, weil im Manuskript-Scope nicht essentiell.
  • Kap. 5.0 verifiziert (BFOS84 Kap. 6 S. 174 ff., Kap. 7 S. 203 ff., Bre01 Tab. 1 S. 12 als „S. XXX ff.”-Zitierform).
  • Kap. 5.2 Formel entfernt, Prosa-Version; zwei Prosa-\beleg-Marker bleiben bis PNRB15-Vollrelesung.
  • Kap. 6.1 + 6.2 angepasst; Verweise auf gestrichene sec:interpretierbarkeit bereinigt; neuer \cite[S.~137]{Bre96a} in Kap. 6.2 Z. 75.
  • Kap. 3.5 Kreuzvalidierungs-Zwei-Satz-Erklärung an Erstverwendungsstelle (BFOS84 Cost-Complexity-Pruning) eingebaut.

Historisches Änderungsprotokoll 2026-08-05 bis 2026-08-08 (PNRB15-Fokusversion + Bre96a↔Bre96b-Swap):

  • Sha48/Qui86/Qui93/RS04 komplett aus Arbeit, Literaturverzeichnis und Vault entfernt.
  • Kap. 3.5 (Split-Kriterium Information Gain), Kap. 3.6 (Vergleich Gini vs. IG), Kap. 3.7 (Stetige Merkmale) im Manuskript und in dieser Datei komplett entfernt. Kap. 3.8 (Überanpassung und Post-Pruning) auf Kap. 3.5 umnummeriert.
  • Kap. 4.4 (Datenvorverarbeitung mit SMOTE) neu angelegt.
  • Kap. 2.4 Zeitstrahl auf sechs Meilensteine umgebaut.
  • Bibkey-Refactoring: Bre96a↔Bre96b getauscht (Bagging = Bre96a, Heuristics = Bre96b) für geralpha-Konsistenz.

Vollständiges Protokoll: review-log.

Zusammenhänge