{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Supervised Learning\nWas ist der Kern eines überwachten Lernproblems?","answer":"Beim **Supervised Learning** gibt es Trainingsdaten mit Eingaben $x$ und bekannten Zielwerten oder Labels $y$. Das Modell lernt eine Funktion $\\hat f$, die für neue Eingaben eine Vorhersage $\\hat y = \\hat f(x)$ erzeugt.\n\nPrüfungsfalle: Entscheidend ist das vorhandene Zielsignal. Ohne Labels ist es kein supervised, sondern typischerweise unsupervised learning.","tags":["statistical-learning","grundbegriffe"],"source":"Zusammenfassung 10 Ch2 Statistical Learning; Abschnitt 1","external_id":"supervised-learning-cards-001"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Regression vs. Klassifikation\nWorin unterscheiden sich Regression und Klassifikation?","answer":"- **Regression:** Zielvariable $y$ ist numerisch, z. B. Umsatz, Preis oder Temperatur.\n- **Klassifikation:** Zielvariable $y$ ist kategorial, z. B. `default` ja/nein oder Iris-Spezies.\n\nDie Modellbewertung muss dazu passen: bei Regression z. B. MSE/RMSE, bei Klassifikation z. B. Fehlerrate, Confusion Matrix, Precision oder Recall.","tags":["statistical-learning","klassifikation","regression"],"source":"Zusammenfassung 10 Ch2 Statistical Learning; Abschnitte 2 und 7","external_id":"supervised-learning-cards-002"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Notation\nWas bedeuten $X$, $Y$, $f$ und $\\varepsilon$ im Statistical Learning?","answer":"Typische Schreibweise:\n\n- $X$: Eingabevariablen bzw. Features.\n- $Y$: Zielvariable.\n- $f(X)$: systematischer Zusammenhang zwischen Features und Ziel.\n- $\\varepsilon$: nicht erklärbarer Zufallsfehler.\n\nDas Grundmodell lautet oft $Y = f(X) + \\varepsilon$. Das Modell schätzt $f$ durch $\\hat f$.","tags":["statistical-learning","notation"],"source":"Zusammenfassung 10 Ch2 Statistical Learning; Abschnitt 2.2","external_id":"supervised-learning-cards-003"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Prediction vs. Inference\nWas ist der Unterschied zwischen Prediction und Inference?","answer":"**Prediction** fragt: Wie gut kann das Modell neue Zielwerte vorhersagen?\n\n**Inference** fragt: Wie hängen Features und Zielvariable zusammen, welche Variablen sind wichtig, und wie interpretierbar ist der Effekt?\n\nPrüfungsfalle: Ein flexibles Modell kann sehr gut vorhersagen, aber schwer interpretierbar sein. Ein lineares Modell ist oft interpretierbarer, aber möglicherweise weniger genau.","tags":["statistical-learning","interpretation"],"source":"Zusammenfassung 10 Ch2 Statistical Learning; Abschnitt 2.3","external_id":"supervised-learning-cards-004"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Irreducible Error\nWarum kann selbst das beste Modell einen Restfehler behalten?","answer":"Der irreduzible Fehler entsteht durch Rauschen, Messfehler, unbeobachtete Einflussgrößen oder echte Zufälligkeit. Selbst wenn $f$ perfekt bekannt wäre, bliebe der Fehlerterm $\\varepsilon$.\n\nDaraus folgt: Man kann nicht jeden Fehler durch ein komplexeres Modell eliminieren.","tags":["statistical-learning","fehler"],"source":"Zusammenfassung 10 Ch2 Statistical Learning; Abschnitt 2.5","external_id":"supervised-learning-cards-005"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# kNN-Regression\nWie funktioniert Neighborhood Averaging bei kNN-Regression?","answer":"Für einen neuen Punkt $x_0$ werden die $k$ nächsten Trainingspunkte gesucht. Die Vorhersage ist der Mittelwert ihrer Zielwerte:\n\n$$\\hat f(x_0)=\\frac{1}{k}\\sum_{i \\in N_k(x_0)} y_i$$\n\n$N_k(x_0)$ ist die Menge der $k$ nächsten Nachbarn von $x_0$.","tags":["knn","regression","formel"],"source":"Zusammenfassung 10 Ch2 Statistical Learning; Abschnitt 3.1","external_id":"supervised-learning-cards-006"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Wahl von k\nWas passiert bei sehr kleinem bzw. sehr großem $k$ in kNN?","answer":"- Kleines $k$, z. B. $k=1$: sehr flexibel, niedriger Trainingsfehler, hohe Varianz, Overfitting-Risiko.\n- Großes $k$: glatte Vorhersage, geringere Varianz, höherer Bias, Underfitting-Risiko.\n\nDie Wahl von $k$ steuert also direkt die Modellkomplexität.","tags":["knn","bias-varianz","pruefungsfalle"],"source":"Zusammenfassung 10 Ch2 Statistical Learning; Abschnitt 3.3","external_id":"supervised-learning-cards-007"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Curse of Dimensionality\nWarum leidet kNN besonders unter vielen Features?","answer":"In hohen Dimensionen werden Datenpunkte relativ gesehen dünn verteilt. Nächste Nachbarn sind dann oft gar nicht wirklich nah, und lokale Mittelwerte werden instabil.\n\nPrüfungsfalle: Mehr Features helfen nicht automatisch. Irrelevante oder schlecht skalierte Features können Distanzverfahren deutlich verschlechtern.","tags":["knn","dimension","pruefungsfalle"],"source":"Zusammenfassung 10 Ch2 Statistical Learning; Abschnitt 3.4","external_id":"supervised-learning-cards-008"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# MSE\nWie ist der Mean Squared Error definiert und wann nutzt man ihn?","answer":"Der Mean Squared Error misst den mittleren quadratischen Vorhersagefehler:\n\n$$MSE=\\frac{1}{n}\\sum_{i=1}^{n}(y_i-\\hat f(x_i))^2$$\n\nEr wird typischerweise für Regressionsprobleme genutzt. Große Fehler werden wegen des Quadrats besonders stark bestraft.","tags":["metrik","regression","formel"],"source":"Zusammenfassung 10 Ch2 Statistical Learning; Abschnitt 4.3","external_id":"supervised-learning-cards-009"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Trainingsfehler vs. Testfehler\nWarum ist ein niedriger Trainingsfehler allein kein gutes Qualitätskriterium?","answer":"Ein Modell kann Trainingsdaten auswendig lernen und dadurch einen sehr niedrigen Trainingsfehler erreichen. Entscheidend ist aber die Generalisierung auf ungesehene Daten.\n\nPrüfungsfalle: Modellwahl über den Testdatensatz macht den Testfehler optimistisch. Testdaten dürfen nicht indirekt in Training oder Auswahl einfließen.","tags":["modellbewertung","testdaten","pruefungsfalle"],"source":"Zusammenfassung 10 Ch2 Statistical Learning; Abschnitt 4.4","external_id":"supervised-learning-cards-010"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Underfitting und Overfitting\nWie erkennst du Underfitting und Overfitting an Trainings- und Testfehler?","answer":"- **Underfitting:** Trainingsfehler und Testfehler sind beide hoch. Das Modell ist zu einfach.\n- **Guter Fit:** Trainingsfehler und Testfehler sind angemessen niedrig.\n- **Overfitting:** Trainingsfehler ist niedrig, Testfehler aber hoch. Das Modell hat Rauschen oder Zufälligkeiten gelernt.","tags":["modellkomplexitaet","overfitting"],"source":"Zusammenfassung 10 Ch2 Statistical Learning; Abschnitt 4.2","external_id":"supervised-learning-cards-011"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Bias-Variance Trade-off\nAus welchen Teilen besteht der erwartete Testfehler konzeptionell?","answer":"Der erwartete Testfehler lässt sich konzeptionell zerlegen in:\n\n- **Bias:** systematischer Fehler durch zu einfache Modellannahmen.\n- **Variance:** Empfindlichkeit gegenüber der konkreten Trainingsstichprobe.\n- **Irreduzibler Fehler:** Rauschen, das kein Modell erklären kann.\n\nMehr Flexibilität senkt oft Bias, erhöht aber Varianz.","tags":["bias-varianz","modellbewertung"],"source":"Zusammenfassung 10 Ch2 Statistical Learning; Abschnitt 5","external_id":"supervised-learning-cards-012"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Bayes-Klassifikator\nWas macht der Bayes-optimale Klassifikator?","answer":"Der Bayes-Klassifikator wählt für einen Featurevektor $x$ die Klasse mit der größten bedingten Wahrscheinlichkeit:\n\n$$\\hat y = \\arg\\max_k P(Y=k \\mid X=x)$$\n\nEr ist theoretisch optimal für die Fehlklassifizierungsrate, wenn die wahren Klassenwahrscheinlichkeiten bekannt sind.","tags":["klassifikation","bayes","formel"],"source":"Zusammenfassung 10 Ch2 Statistical Learning; Abschnitt 7.2","external_id":"supervised-learning-cards-013"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Fehlklassifizierungsrate\nWie ist die Fehlklassifizierungsrate definiert?","answer":"Die Fehlklassifizierungsrate ist der Anteil falsch klassifizierter Beobachtungen:\n\n$$Error = \\frac{1}{n}\\sum_{i=1}^{n} I(y_i \\ne \\hat y_i)$$\n\n$I(\\cdot)$ ist eine Indikatorfunktion, die 1 liefert, wenn die Bedingung wahr ist, sonst 0.","tags":["klassifikation","metrik","formel"],"source":"Zusammenfassung 10 Ch2 Statistical Learning; Abschnitt 7.4","external_id":"supervised-learning-cards-014"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# kNN-Klassifikation\nWie trifft kNN bei Klassifikation eine Entscheidung?","answer":"Für einen neuen Punkt werden die $k$ nächsten Nachbarn gesucht. Die vorhergesagte Klasse ist typischerweise die Mehrheitsklasse dieser Nachbarn.\n\nKleines $k$ erzeugt sehr flexible, unruhige Entscheidungsgrenzen. Größeres $k$ glättet die Grenze, kann aber relevante lokale Struktur verlieren.","tags":["knn","klassifikation"],"source":"Zusammenfassung 10 Ch2 Statistical Learning; Abschnitt 7.3","external_id":"supervised-learning-cards-015"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Lineares Regressionsmodell\nWie lautet das einfache lineare Regressionsmodell?","answer":"Für ein Feature lautet das Modell:\n\n$$Y = \\beta_0 + \\beta_1 X + \\varepsilon$$\n\n$\\beta_0$ ist der Achsenabschnitt, $\\beta_1$ die Steigung und $\\varepsilon$ der Fehlerterm. Die Vorhersage ist $\\hat y = \\hat\\beta_0 + \\hat\\beta_1 x$.","tags":["lineare-regression","formel"],"source":"Zusammenfassung 20 Ch3 Linear Regression; Abschnitt 2","external_id":"supervised-learning-cards-016"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Residuum und RSS\nWas sind Residuen und die Residual Sum of Squares?","answer":"Das Residuum einer Beobachtung ist:\n\n$$e_i = y_i - \\hat y_i$$\n\nDie Residual Sum of Squares ist:\n\n$$RSS = \\sum_{i=1}^{n}(y_i-\\hat y_i)^2$$\n\nLeast Squares wählt die Koeffizienten so, dass RSS auf den Trainingsdaten minimal wird.","tags":["lineare-regression","least-squares","formel"],"source":"Zusammenfassung 20 Ch3 Linear Regression; Abschnitt 3","external_id":"supervised-learning-cards-017"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Least Squares in Matrixform\nWie lautet die analytische Least-Squares-Lösung und wann ist sie problematisch?","answer":"In Matrixform gilt bei vollem Rang:\n\n$$\\hat\\beta = (X^T X)^{-1}X^T y$$\n\nProblematisch wird es, wenn $X^T X$ nicht invertierbar oder numerisch instabil ist, z. B. bei perfekter Kollinearität oder zu vielen linear abhängigen Features.","tags":["lineare-regression","matrix","pruefungsfalle"],"source":"Zusammenfassung 20 Ch3 Linear Regression; Abschnitt 3","external_id":"supervised-learning-cards-018"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Standardfehler und Konfidenzintervall\nWas sagt ein Konfidenzintervall für einen Regressionskoeffizienten aus?","answer":"Ein Konfidenzintervall gibt einen plausiblen Bereich für den wahren Koeffizienten an, basierend auf Stichprobenschwankung und Modellannahmen.\n\nFür einen Koeffizienten wird oft genutzt:\n\n$$\\hat\\beta_j \\pm t \\cdot SE(\\hat\\beta_j)$$\n\nPrüfungsfalle: Ein breites Intervall bedeutet hohe Unsicherheit, nicht automatisch keinen Effekt.","tags":["lineare-regression","inferenz"],"source":"Zusammenfassung 20 Ch3 Linear Regression; Abschnitt 4","external_id":"supervised-learning-cards-019"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# p-Wert in Regression\nWie interpretierst du einen p-Wert für $\\beta_j$ korrekt?","answer":"Der p-Wert bewertet die Daten unter der Nullhypothese $H_0: \\beta_j=0$. Ein kleiner p-Wert spricht gegen $H_0$, sofern Modellannahmen und Testsetting passen.\n\nPrüfungsfalle: Der p-Wert ist nicht die Wahrscheinlichkeit, dass $H_0$ wahr ist, und er beweist keine Kausalität.","tags":["lineare-regression","p-wert","pruefungsfalle"],"source":"Zusammenfassung 20 Ch3 Linear Regression; Abschnitt 4","external_id":"supervised-learning-cards-020"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# $R^2$\nWas misst $R^2$ in der linearen Regression?","answer":"$R^2$ misst den Anteil der Varianz von $Y$, der durch das Modell erklärt wird:\n\n$$R^2 = 1 - \\frac{RSS}{TSS}$$\n\n$RSS$ ist die Residual Sum of Squares, $TSS$ die Total Sum of Squares. Ein höheres $R^2$ bedeutet bessere Anpassung auf den betrachteten Daten, aber nicht automatisch bessere Testleistung.","tags":["lineare-regression","modellguete","formel"],"source":"Zusammenfassung 20 Ch3 Linear Regression; Abschnitt 4","external_id":"supervised-learning-cards-021"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Multiple Regression\nWie interpretierst du einen Koeffizienten in multipler linearer Regression?","answer":"Im Modell\n\n$$Y = \\beta_0 + \\beta_1X_1 + \\dots + \\beta_pX_p + \\varepsilon$$\n\nbeschreibt $\\beta_j$ den erwarteten Unterschied in $Y$ bei einer Einheit mehr in $X_j$, **wenn alle anderen Features konstant gehalten werden**.\n\nPrüfungsfalle: Das ist ein bedingter Zusammenhang, kein automatisch kausaler Effekt.","tags":["lineare-regression","interpretation"],"source":"Zusammenfassung 20 Ch3 Linear Regression; Abschnitt 5","external_id":"supervised-learning-cards-022"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Kollinearität\nWarum ist Kollinearität in multipler Regression ein Problem?","answer":"Kollinearität bedeutet, dass Features stark miteinander zusammenhängen. Dadurch werden einzelne Koeffizienten schwer stabil zu schätzen: Standardfehler steigen, Vorzeichen können instabil wirken und Interpretation wird unsicher.\n\nPrüfungsfalle: Gute Gesamtvorhersage kann trotz problematischer Einzelkoeffizienten möglich sein.","tags":["lineare-regression","kollinearitaet","pruefungsfalle"],"source":"Zusammenfassung 20 Ch3 Linear Regression; Abschnitt 5","external_id":"supervised-learning-cards-023"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Feature Selection\nWarum reicht es nicht, einfach das Modell mit niedrigstem Trainings-RSS zu wählen?","answer":"Mehr Features senken den Trainings-RSS fast immer oder lassen ihn gleich. Das kann Overfitting erzeugen.\n\nFür Modellwahl nutzt man deshalb Kriterien oder Validierung, z. B. Adjusted $R^2$, AIC, BIC, Validierungsfehler oder Cross-Validation.","tags":["lineare-regression","feature-selection","overfitting"],"source":"Zusammenfassung 20 Ch3 Linear Regression; Abschnitt 6","external_id":"supervised-learning-cards-024"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Dummy-Codierung\nWie interpretierst du eine Dummyvariable in linearer Regression?","answer":"Bei einer binären Dummyvariable mit Referenzgruppe 0 misst der Koeffizient den Unterschied zur Referenzgruppe, bei gleichen übrigen Features.\n\nBeispiel: Ist `student=1` codiert und $\\beta_{student}=250$, dann liegt die erwartete Zielgröße für Studierende um 250 Einheiten höher als für die Referenzgruppe, sofern andere Features konstant sind.","tags":["lineare-regression","kategoriale-features"],"source":"Zusammenfassung 20 Ch3 Linear Regression; Abschnitt 7","external_id":"supervised-learning-cards-025"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Dummy Trap\nWarum darf man bei $K$ Kategorien nicht einfach alle $K$ Dummyvariablen plus Intercept verwenden?","answer":"Mit Intercept sind alle $K$ Dummies linear abhängig, weil genau eine Kategorie aktiv ist. Das führt zu perfekter Multikollinearität.\n\nKorrekt: Eine Referenzkategorie weglassen oder ohne Intercept modellieren. Üblich ist: $K-1$ Dummies plus Intercept.","tags":["lineare-regression","kategoriale-features","pruefungsfalle"],"source":"Zusammenfassung 20 Ch3 Linear Regression; Abschnitt 7","external_id":"supervised-learning-cards-026"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Interaktionen\nWas bedeutet ein Interaktionsterm in einer Regression?","answer":"Ein Interaktionsterm erlaubt, dass der Effekt eines Features vom Wert eines anderen Features abhängt.\n\nBeispiel:\n\n$$Y = \\beta_0 + \\beta_1X_1 + \\beta_2X_2 + \\beta_3X_1X_2 + \\varepsilon$$\n\nDann ändert $\\beta_3$ die Steigung von $X_1$ je nach $X_2$.","tags":["lineare-regression","interaktion","formel"],"source":"Zusammenfassung 20 Ch3 Linear Regression; Abschnitt 8","external_id":"supervised-learning-cards-027"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Hierarchieprinzip\nWelche Prüfungsfalle gibt es bei Interaktionstermen?","answer":"Wenn ein Modell eine Interaktion enthält, sollten die zugehörigen Haupteffekte normalerweise im Modell bleiben. Das ist das Hierarchieprinzip.\n\nPrüfungsfalle: Eine Interaktion ohne Haupteffekte ist meist schwer sinnvoll zu interpretieren und sollte nur mit guter fachlicher Begründung verwendet werden.","tags":["lineare-regression","interaktion","pruefungsfalle"],"source":"Zusammenfassung 20 Ch3 Linear Regression; Abschnitt 8","external_id":"supervised-learning-cards-028"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Nichtlinearität in linearer Regression\nWie kann ein lineares Modell nichtlineare Zusammenhänge abbilden?","answer":"Ein Modell ist linear in den Parametern, nicht zwingend in den ursprünglichen Features. Man kann neue Features konstruieren, z. B. $X^2$, $\\log(X)$ oder Interaktionen.\n\nPrüfungsfalle: Mehr Terme senken oft den Trainingsfehler, aber sie können den Testfehler erhöhen. Validierung bleibt nötig.","tags":["lineare-regression","nichtlinearitaet"],"source":"Zusammenfassung 20 Ch3 Linear Regression; Abschnitt 9","external_id":"supervised-learning-cards-029"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Vorhersage und Residuum\nWie berechnest du in einer Regressionsaufgabe Vorhersage und Residuum?","answer":"1. Setze die Featurewerte in das geschätzte Modell ein.\n2. Berechne $\\hat y$.\n3. Berechne das Residuum als $e = y - \\hat y$.\n\nPrüfungsfalle: Das Vorzeichen des Residuums ist wichtig. Ein positives Residuum heißt: Der echte Wert liegt über der Vorhersage.","tags":["lineare-regression","rechenweg"],"source":"Zusammenfassung 20 Ch3 Linear Regression; Abschnitt 10","external_id":"supervised-learning-cards-030"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Klassifikationsproblem\nWas ist das Ziel eines Klassifikationsmodells?","answer":"Ein Klassifikationsmodell soll für Eingaben $x$ eine Klasse $\\hat y$ oder Klassenwahrscheinlichkeiten $P(Y=k\\mid X=x)$ vorhersagen.\n\nTypische Ziele sind gute Trennung der Klassen, interpretierbare Wahrscheinlichkeiten und geringe Fehlklassifikation auf ungesehenen Daten.","tags":["klassifikation","grundbegriffe"],"source":"Zusammenfassung 30 Ch4 Classification; Abschnitt 2","external_id":"supervised-learning-cards-031"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Lineare Entscheidungsgrenze\nWas bedeutet lineare Klassifikation geometrisch?","answer":"Lineare Klassifikation trennt Klassen durch eine Gerade, Ebene oder Hyperebene. Die Entscheidungsfunktion hat die Form:\n\n$$\\beta_0 + \\beta_1x_1 + \\dots + \\beta_px_p = 0$$\n\nDie beiden Seiten der Hyperebene entsprechen unterschiedlichen vorhergesagten Klassen.","tags":["klassifikation","hyperebene","formel"],"source":"Zusammenfassung 30 Ch4 Classification; Abschnitt 3","external_id":"supervised-learning-cards-032"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Lineare Regression für Klassifikation\nWarum ist lineare Regression für Klassifikation nur begrenzt geeignet?","answer":"Lineare Regression kann bei binären Labels zwar eine Zahl liefern, aber diese Zahl ist nicht sauber auf $[0,1]$ beschränkt und keine stabile Wahrscheinlichkeit.\n\nBei Mehrklassenproblemen kann eine beliebige Zahlenkodierung künstliche Ordnung erzeugen, die fachlich nicht existiert.","tags":["klassifikation","lineare-regression","pruefungsfalle"],"source":"Zusammenfassung 30 Ch4 Classification; Abschnitt 4","external_id":"supervised-learning-cards-033"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Logistische Regression\nWelche Wahrscheinlichkeit modelliert die logistische Regression?","answer":"Bei binärer Klassifikation modelliert sie:\n\n$$p(x)=P(Y=1\\mid X=x)=\\frac{e^{\\eta(x)}}{1+e^{\\eta(x)}}$$\n\nmit linearem Prädiktor $\\eta(x)=\\beta_0+\\beta_1x_1+\\dots+\\beta_px_p$.","tags":["logistische-regression","klassifikation","formel"],"source":"Zusammenfassung 30 Ch4 Classification; Abschnitt 5.1","external_id":"supervised-learning-cards-034"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Log-Odds\nWie interpretierst du Koeffizienten in logistischer Regression?","answer":"Ein Koeffizient $\\beta_j$ wirkt linear auf die Log-Odds:\n\n$$\\log\\left(\\frac{p(x)}{1-p(x)}\\right)=\\beta_0+\\beta_1x_1+\\dots+\\beta_px_p$$\n\n$e^{\\beta_j}$ ist der multiplikative Effekt auf die Odds bei einer Einheit mehr in $X_j$, wenn andere Features konstant bleiben.\n\nPrüfungsfalle: $\\beta_j$ ist kein direkter Prozentpunkt-Effekt auf $p(x)$.","tags":["logistische-regression","interpretation","pruefungsfalle"],"source":"Zusammenfassung 30 Ch4 Classification; Abschnitt 5.2","external_id":"supervised-learning-cards-035"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Entscheidungsgrenze der logistischen Regression\nWie findest du die Grenze bei Schwelle 0,5?","answer":"Bei Schwelle 0,5 gilt $p(x)=0.5$. Das entspricht $\\eta(x)=0$, weil die Odds dann 1 sind.\n\nMit einem Feature ist die Grenze:\n\n$$x = -\\frac{\\beta_0}{\\beta_1}$$\n\nMit mehreren Features ist es eine Gerade, Ebene oder Hyperebene.","tags":["logistische-regression","rechenweg"],"source":"Zusammenfassung 30 Ch4 Classification; Abschnitt 5.3 und 12","external_id":"supervised-learning-cards-036"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Confounding\nWarum kann ein Koeffizient in einem multiplen Klassifikationsmodell sein Vorzeichen wechseln?","answer":"In einem multiplen Modell sind Koeffizienten bedingte Effekte: Sie gelten bei konstant gehaltenen übrigen Features. Ein marginaler Zusammenhang kann deshalb ein anderes Vorzeichen haben als der bedingte Effekt.\n\nPrüfungsfalle: Boxplots oder einfache Gruppenmittel zeigen nicht automatisch den Effekt im multiplen Modell.","tags":["klassifikation","confounding","pruefungsfalle"],"source":"Zusammenfassung 30 Ch4 Classification; Abschnitt 6.1","external_id":"supervised-learning-cards-037"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Case-Control-Sampling\nWas ist bei Case-Control-Sampling für Wahrscheinlichkeiten zu beachten?","answer":"Case-Control-Sampling verändert die Klassenanteile in den Daten. Das kann für das Lernen einer Trennregel nützlich sein, aber geschätzte Wahrscheinlichkeiten müssen an die echte Prävalenz angepasst bzw. vorsichtig interpretiert werden.\n\nPrüfungsfalle: Gute Trennung heißt nicht automatisch kalibrierte reale Wahrscheinlichkeit.","tags":["klassifikation","sampling"],"source":"Zusammenfassung 30 Ch4 Classification; Abschnitt 6.3","external_id":"supervised-learning-cards-038"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Separation\nWarum ist perfekte Trennbarkeit für logistische Regression problematisch?","answer":"Bei perfekter Separation kann die logistische Regression die Koeffizienten immer weiter vergrößern, um Wahrscheinlichkeiten gegen 0 oder 1 zu drücken. Die Maximum-Likelihood-Schätzung wird instabil oder degeneriert.\n\nSymptome: sehr große Koeffizienten, riesige Standardfehler, Warnungen, perfekte Trainingsklassifikation.","tags":["logistische-regression","separation","pruefungsfalle"],"source":"Zusammenfassung 30 Ch4 Classification; Abschnitt 8","external_id":"supervised-learning-cards-039"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# LDA\nWelche Grundannahme steckt hinter Linear Discriminant Analysis?","answer":"LDA modelliert die Featureverteilung je Klasse typischerweise als normalverteilt und nimmt gleiche Kovarianzmatrizen für die Klassen an. Daraus entstehen lineare Entscheidungsgrenzen.\n\nLDA kann bei kleinerem $n$ stabiler sein als flexiblere Verfahren, wenn die Annahmen ungefähr passen.","tags":["lda","klassifikation"],"source":"Zusammenfassung 30 Ch4 Classification; Abschnitt 9.2","external_id":"supervised-learning-cards-040"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# QDA vs. LDA\nWann ist QDA flexibler als LDA und was ist der Preis?","answer":"QDA erlaubt unterschiedliche Kovarianzmatrizen je Klasse. Dadurch entstehen quadratische Entscheidungsgrenzen.\n\nDer Preis ist höhere Varianz und mehr zu schätzende Parameter. QDA braucht daher typischerweise mehr Daten als LDA.","tags":["qda","lda","klassifikation"],"source":"Zusammenfassung 30 Ch4 Classification; Abschnitt 9.3","external_id":"supervised-learning-cards-041"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Naive Bayes\nWas ist die zentrale Annahme von Naive Bayes?","answer":"Naive Bayes nimmt an, dass Features innerhalb einer Klasse bedingt unabhängig sind:\n\n$$P(X_1,\\dots,X_p\\mid Y=k) \\approx \\prod_{j=1}^{p}P(X_j\\mid Y=k)$$\n\nDie Annahme ist oft unrealistisch, kann aber bei vielen Features robuste Klassifikatoren liefern.","tags":["naive-bayes","klassifikation"],"source":"Zusammenfassung 30 Ch4 Classification; Abschnitt 9.3","external_id":"supervised-learning-cards-042"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Accuracy bei unausgewogenen Daten\nWarum kann Accuracy bei Imbalanced Data täuschen?","answer":"Wenn eine Klasse dominiert, kann ein Modell durch ständiges Vorhersagen der Mehrheitsklasse hohe Accuracy erreichen und trotzdem für die Minderheitsklasse unbrauchbar sein.\n\nDeshalb immer Confusion Matrix, klassenbezogene Fehler, Precision, Recall, F1 oder Balanced Accuracy prüfen.","tags":["klassifikation","metriken","imbalanced"],"source":"Zusammenfassung 30 Ch4 Classification; Abschnitt 10","external_id":"supervised-learning-cards-043"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Precision und Recall\nWie unterscheiden sich Precision und Recall?","answer":"- **Precision:** Anteil korrekter positiver Vorhersagen an allen positiven Vorhersagen: $TP/(TP+FP)$.\n- **Recall:** Anteil gefundener positiver Fälle an allen tatsächlich positiven Fällen: $TP/(TP+FN)$.\n\nPrecision bestraft False Positives, Recall bestraft False Negatives.","tags":["klassifikation","metriken"],"source":"Zusammenfassung 30 Ch4 Classification; Abschnitt 10.3","external_id":"supervised-learning-cards-044"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Modellwahl Klassifikation\nWann passen logistische Regression, LDA, QDA oder Naive Bayes?","answer":"Grobe Daumenregeln:\n\n- **Logistische Regression:** interpretierbare Wahrscheinlichkeiten, lineare Log-Odds, keine perfekte Separation.\n- **LDA:** ungefähr normalverteilte Klassen, gleiche Kovarianzen, eher kleineres $n$.\n- **QDA:** unterschiedliche Kovarianzen, genug Daten.\n- **Naive Bayes:** viele Features oder einfache probabilistische Baseline trotz Unabhängigkeitsannahme.","tags":["klassifikation","modellwahl"],"source":"Zusammenfassung 30 Ch4 Classification; Abschnitt 12","external_id":"supervised-learning-cards-045"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Hyperebene\nWie wird eine Hyperebene in SVMs typischerweise geschrieben?","answer":"Eine Hyperebene hat die Form:\n\n$$w^T x + b = 0$$\n\n$w$ ist der Normalenvektor, $b$ der Bias bzw. Achsenabschnitt. Das Vorzeichen von $w^T x + b$ bestimmt die Seite der Hyperebene.","tags":["svm","hyperebene","formel"],"source":"Zusammenfassung 40 Ch9 Support Vector Machines; Abschnitt 1","external_id":"supervised-learning-cards-046"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Abstand zur Hyperebene\nWie berechnet man den Abstand eines Punktes zu einer Hyperebene?","answer":"Der vorzeichenlose Abstand eines Punktes $x_0$ zur Hyperebene $w^Tx+b=0$ ist:\n\n$$\\frac{|w^T x_0+b|}{\\lVert w\\rVert}$$\n\nOhne Betrag erhält man den vorzeichenbehafteten Abstand, der zusätzlich die Seite der Hyperebene zeigt.","tags":["svm","hyperebene","formel"],"source":"Zusammenfassung 40 Ch9 Support Vector Machines; Abschnitt 1","external_id":"supervised-learning-cards-047"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Hard Margin SVM\nWas optimiert der Hard Margin Classifier?","answer":"Der Hard Margin Classifier sucht unter perfekt trennbaren Daten die trennende Hyperebene mit maximaler Margin.\n\nÄquivalent wird oft $\\lVert w\\rVert$ minimiert, während alle Beobachtungen korrekt außerhalb der Margin liegen müssen.\n\nPrüfungsfalle: Hard Margin setzt perfekte lineare Trennbarkeit voraus.","tags":["svm","hard-margin"],"source":"Zusammenfassung 40 Ch9 Support Vector Machines; Abschnitt 3","external_id":"supervised-learning-cards-048"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Supportvektoren\nWarum bestimmen Supportvektoren die SVM-Lösung?","answer":"Supportvektoren sind die Trainingspunkte, die auf oder innerhalb der Margin liegen und damit die Lage der optimalen Hyperebene festlegen.\n\nPunkte weit weg von der Grenze ändern die Lösung oft nicht. Entfernt oder verschiebt man aber Supportvektoren, kann sich die Entscheidungsgrenze ändern.","tags":["svm","supportvektoren"],"source":"Zusammenfassung 40 Ch9 Support Vector Machines; Abschnitt 3.2","external_id":"supervised-learning-cards-049"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Margin-Bedingung\nWie lautet die SVM-Margin-Bedingung bei Labels $y_i \\in \\{-1,1\\}$?","answer":"Eine übliche Bedingung ist:\n\n$$y_i(w^T x_i+b) \\ge 1$$\n\nSie bedeutet: Beobachtungen müssen korrekt klassifiziert sein und mindestens auf der richtigen Margin-Seite liegen. Punkte mit Gleichheit sind Supportvektoren.","tags":["svm","formel"],"source":"Zusammenfassung 40 Ch9 Support Vector Machines; Abschnitt 3.3","external_id":"supervised-learning-cards-050"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Soft Margin\nWozu dienen Slack-Variablen in Soft-Margin-SVMs?","answer":"Slack-Variablen $\\xi_i$ erlauben Margin-Verletzungen und Fehlklassifikationen. Dadurch kann die SVM auch mit überlappenden oder verrauschten Klassen umgehen.\n\nDie Nebenbedingung wird typischerweise:\n\n$$y_i(w^Tx_i+b) \\ge 1-\\xi_i,\\quad \\xi_i \\ge 0$$","tags":["svm","soft-margin","formel"],"source":"Zusammenfassung 40 Ch9 Support Vector Machines; Abschnitt 4","external_id":"supervised-learning-cards-051"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# C-Parameter\nWelche Rolle spielt $C$ beim Support Vector Classifier?","answer":"$C$ steuert den Trade-off zwischen großer Margin und Bestrafung von Margin-Verletzungen.\n\n- Großes $C$: Verletzungen teuer, engere Anpassung, Overfitting-Risiko.\n- Kleines $C$: mehr Verletzungen erlaubt, breitere Margin, stärker regularisiert.\n\nPrüfungsfalle: Die genaue Parameterrichtung kann je nach Softwaredokumentation anders benannt sein; immer Definition prüfen.","tags":["svm","regularisierung","modellwahl"],"source":"Zusammenfassung 40 Ch9 Support Vector Machines; Abschnitt 4","external_id":"supervised-learning-cards-052"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Kernel-Idee\nWarum nutzt man Kernel in SVMs?","answer":"Kernel erlauben nichtlineare Entscheidungsgrenzen, indem sie Skalarprodukte in einem erweiterten Feature-Raum berechnen, ohne diesen Raum explizit aufzubauen.\n\nDie SVM bleibt dort linear, wirkt im ursprünglichen Inputraum aber nichtlinear.","tags":["svm","kernel"],"source":"Zusammenfassung 40 Ch9 Support Vector Machines; Abschnitt 5","external_id":"supervised-learning-cards-053"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Radial Kernel\nWie lautet die Grundidee des radialen Kernels?","answer":"Der Radial Basis Function Kernel misst Ähnlichkeit über Distanz:\n\n$$K(x,x')=\\exp(-\\gamma\\lVert x-x'\\rVert^2)$$\n\nNahe Punkte haben hohe Ähnlichkeit, weit entfernte Punkte niedrige. $\\gamma$ steuert, wie lokal der Einfluss einzelner Punkte ist.","tags":["svm","kernel","formel"],"source":"Zusammenfassung 40 Ch9 Support Vector Machines; Abschnitt 5.4","external_id":"supervised-learning-cards-054"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Kernel-Trick\nWas ist der Kernel-Trick?","answer":"Der Kernel-Trick ersetzt ein explizites Skalarprodukt $\\phi(x)^T\\phi(x')$ im Feature-Raum durch eine Kernel-Funktion $K(x,x')$.\n\nDadurch kann ein Modell in sehr hohen oder unendlichen Feature-Räumen arbeiten, ohne die transformierten Features explizit zu berechnen.","tags":["svm","kernel","pruefungsfalle"],"source":"Zusammenfassung 40 Ch9 Support Vector Machines; Abschnitt 5.5","external_id":"supervised-learning-cards-055"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Kernel-SVM-Vorhersage\nVon welchen Trainingspunkten hängt die Kernel-SVM-Vorhersage hauptsächlich ab?","answer":"Die Vorhersage hängt über Kernelwerte besonders von den Supportvektoren ab:\n\n$$f(x)=b+\\sum_{i \\in SV}\\alpha_i y_i K(x_i,x)$$\n\nNur Supportvektoren haben relevante Koeffizienten $\\alpha_i$ ungleich 0.","tags":["svm","kernel","formel"],"source":"Zusammenfassung 40 Ch9 Support Vector Machines; Abschnitt 5.6","external_id":"supervised-learning-cards-056"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Mehrklassen-SVM\nWie kann eine binäre SVM auf mehrere Klassen erweitert werden?","answer":"Übliche Strategien sind:\n\n- **One-vs-Rest:** pro Klasse ein Modell gegen alle anderen.\n- **One-vs-One:** pro Klassenpaar ein Modell; finale Klasse per Abstimmung.\n\nPrüfungsfalle: Eine Standard-SVM ist zunächst binär. Mehrklassenfähigkeit hängt von der gewählten Strategie bzw. Software ab.","tags":["svm","mehrklassen"],"source":"Zusammenfassung 40 Ch9 Support Vector Machines; Abschnitt 6","external_id":"supervised-learning-cards-057"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Skalierung bei SVMs\nWarum ist Feature-Skalierung bei SVMs wichtig?","answer":"SVMs und insbesondere Kernel-SVMs hängen stark von Distanzen und Skalarprodukten ab. Features mit großen numerischen Skalen können die Geometrie dominieren.\n\nPrüfungsfalle: Skalierung muss innerhalb des Resampling-Prozesses gelernt werden, nicht auf dem gesamten Datensatz vor Cross-Validation.","tags":["svm","preprocessing","datenleckage"],"source":"Zusammenfassung 40 Ch9 Support Vector Machines; Abschnitt 7; Zusammenfassung 50 Ch5 Resampling Abschnitt 6","external_id":"supervised-learning-cards-058"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Rollen von Datensplits\nWelche Rollen haben Training, Validierung und Test?","answer":"- **Training:** Modellparameter lernen.\n- **Validierung:** Hyperparameter und Modellvarianten auswählen.\n- **Test:** finale, möglichst unverzerrte Schätzung der Generalisierung.\n\nPrüfungsfalle: Der Testdatensatz darf nicht für Feature-Auswahl, Tuning oder wiederholte Modellentscheidungen genutzt werden.","tags":["resampling","testdaten","pruefungsfalle"],"source":"Zusammenfassung 50 Ch5 Resampling; Abschnitt 2","external_id":"supervised-learning-cards-059"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Hold-out Validation\nWie läuft Hold-out Validation ab?","answer":"1. Daten in Training und Validierung aufteilen.\n2. Modell auf Training fitten.\n3. Fehler auf Validierungsdaten berechnen.\n4. Modellvariante mit bestem Validierungsfehler wählen.\n\nNachteil: Ergebnis hängt stark vom zufälligen Split ab, besonders bei kleinen Datensätzen.","tags":["resampling","holdout"],"source":"Zusammenfassung 50 Ch5 Resampling; Abschnitt 3","external_id":"supervised-learning-cards-060"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Hold-out Bias\nWarum kann Hold-out den späteren Fehler überschätzen?","answer":"Das im Hold-out bewertete Modell wird nur auf einem Teil des Development-Sets trainiert. Das finale Modell kann später auf mehr Daten trainiert werden und dadurch besser sein.\n\nDeshalb kann der Hold-out-Validierungsfehler pessimistisch wirken, besonders wenn zusätzliche Trainingsdaten stark helfen.","tags":["resampling","holdout","pruefungsfalle"],"source":"Zusammenfassung 50 Ch5 Resampling; Abschnitt 3.4","external_id":"supervised-learning-cards-061"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# K-fold Cross-Validation\nWie funktioniert K-fold Cross-Validation?","answer":"Die Daten werden in $K$ Folds geteilt. Für jeden Fold wird auf den übrigen $K-1$ Folds trainiert und auf dem gehaltenen Fold validiert. Die Fehler werden anschließend gemittelt.\n\nBei gleich großen Folds:\n\n$$CV_K = \\frac{1}{K}\\sum_{k=1}^{K} Error_k$$","tags":["resampling","cross-validation","formel"],"source":"Zusammenfassung 50 Ch5 Resampling; Abschnitt 4.1-4.2","external_id":"supervised-learning-cards-062"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Ungleich große Folds\nWelche Prüfungsfalle gibt es beim Mitteln von Fold-Fehlern?","answer":"Wenn Folds unterschiedlich groß sind, darf man die Fold-Fehler nicht blind ungewichtet mitteln. Große Folds müssen stärker zählen.\n\nKorrekt ist eine Gewichtung nach Fold-Größe oder direkt die Mittelung über alle Validierungsbeobachtungen.","tags":["resampling","cross-validation","pruefungsfalle"],"source":"Zusammenfassung 50 Ch5 Resampling; Abschnitt 4.2","external_id":"supervised-learning-cards-063"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# LOOCV\nWas ist Leave-One-Out Cross-Validation?","answer":"LOOCV ist K-fold Cross-Validation mit $K=n$. Jedes Mal wird genau eine Beobachtung validiert und auf den übrigen $n-1$ Beobachtungen trainiert.\n\nVorteil: nutzt fast alle Daten pro Training. Nachteil: kann teuer sein und hat oft hohe Varianz in der Fehlerschätzung.","tags":["resampling","loocv"],"source":"Zusammenfassung 50 Ch5 Resampling; Abschnitt 4.4","external_id":"supervised-learning-cards-064"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Wahl von K\nWarum sind $K=5$ oder $K=10$ häufig praktische Standardwerte?","answer":"Sie balancieren Rechenaufwand, Bias und Varianz der Fehlerschätzung.\n\n- Kleineres $K$: weniger Trainingsläufe, aber kleinere Trainingssets je Lauf.\n- Größeres $K$: mehr Trainingsdaten pro Lauf, aber mehr Rechenaufwand und ggf. höhere Varianz.\n\n$5$- oder $10$-fold CV ist oft ein pragmatischer Kompromiss.","tags":["resampling","cross-validation"],"source":"Zusammenfassung 50 Ch5 Resampling; Abschnitt 4.5","external_id":"supervised-learning-cards-065"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Bootstrap\nWie wird eine Bootstrap-Stichprobe erzeugt?","answer":"Aus einem Datensatz mit $n$ Beobachtungen werden $n$ Beobachtungen **mit Zurücklegen** gezogen. Manche Beobachtungen kommen mehrfach vor, andere gar nicht.\n\nBootstrap wird genutzt, um Stichprobenschwankung, Unsicherheit oder Modellstabilität abzuschätzen.","tags":["resampling","bootstrap"],"source":"Zusammenfassung 50 Ch5 Resampling; Abschnitt 5","external_id":"supervised-learning-cards-066"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Out-of-Bag-Anteil\nWarum fehlen bei Bootstrap im Mittel etwa 36,8 % der Beobachtungen?","answer":"Für eine konkrete Beobachtung ist die Wahrscheinlichkeit, in einer Bootstrap-Ziehung nie gezogen zu werden:\n\n$$(1-\\frac{1}{n})^n \\approx e^{-1} \\approx 0.368$$\n\nDiese nicht gezogenen Beobachtungen heißen Out-of-Bag und können zur internen Fehlerschätzung genutzt werden.","tags":["resampling","bootstrap","formel"],"source":"Zusammenfassung 50 Ch5 Resampling; Abschnitt 5.3 und 10.3","external_id":"supervised-learning-cards-067"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Datenleckage\nWas ist falsch, wenn man vor Cross-Validation auf dem gesamten Datensatz skaliert und Features auswählt?","answer":"Skalierung und Feature Selection lernen Informationen aus allen Daten, also auch aus späteren Validierungsfolds. Dadurch ist die CV-Schätzung optimistisch.\n\nKorrekt: In jedem Fold müssen Skalierung, Imputation, Feature Selection, Tuning und Training nur auf dem Trainingsanteil gelernt und dann auf den Validierungsanteil angewendet werden.","tags":["resampling","datenleckage","pruefungsfalle"],"source":"Zusammenfassung 50 Ch5 Resampling; Abschnitt 6","external_id":"supervised-learning-cards-068"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Modell nach Resampling\nWelches Modell nimmt man nach vielen Resampling-Läufen?","answer":"Resampling dient zur Auswahl von Modellklasse und Hyperparametern. Danach trainiert man ein finales Modell mit den gewählten Einstellungen auf dem gesamten Development- bzw. Trainingsdatensatz.\n\nDer finale Testdatensatz bleibt bis zur abschließenden Bewertung unberührt.","tags":["resampling","modellwahl"],"source":"Zusammenfassung 50 Ch5 Resampling; Abschnitt 7.1","external_id":"supervised-learning-cards-069"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Unsicherheit des Testfehlers\nWarum ist auch ein einmaliger Testfehler unsicher?","answer":"Ein Testfehler ist eine Schätzung auf einer endlichen Stichprobe. Ein anderer Testdatensatz aus derselben Verteilung könnte einen anderen Fehler liefern.\n\nKleine Testsets, seltene Klassen oder starke Datenheterogenität erhöhen diese Unsicherheit.","tags":["resampling","testdaten","unsicherheit"],"source":"Zusammenfassung 50 Ch5 Resampling; Abschnitt 7.2","external_id":"supervised-learning-cards-070"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Datenstruktur beim Split\nWarum muss man Datenstruktur beim Train/Test-Split beachten?","answer":"Nicht alle Beobachtungen sind unabhängig austauschbar. Zeitreihen, Gruppen, Personen, Sessions oder räumliche Cluster brauchen passende Splits.\n\nPrüfungsfalle: Wenn fast identische oder zusammengehörige Beobachtungen in Train und Test landen, wird die Testleistung zu optimistisch.","tags":["resampling","split","pruefungsfalle"],"source":"Zusammenfassung 50 Ch5 Resampling; Abschnitt 7.3","external_id":"supervised-learning-cards-071"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# K-fold-Rechenweg\nFünf gleich große Folds haben Fehler 0,22; 0,18; 0,25; 0,20; 0,15. Wie groß ist der CV-Fehler?","answer":"Bei gleich großen Folds wird arithmetisch gemittelt:\n\n$$CV=\\frac{0.22+0.18+0.25+0.20+0.15}{5}=\\frac{1.00}{5}=0.20$$\n\nDer geschätzte Cross-Validation-Fehler beträgt also 0,20 bzw. 20 %.","tags":["resampling","cross-validation","rechenweg"],"source":"Zusammenfassung 50 Ch5 Resampling; Abschnitt 10.1","external_id":"supervised-learning-cards-072"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Regression Tree\nWas ist die Grundidee eines Regressionsbaums?","answer":"Ein Regressionsbaum teilt den Feature-Raum rekursiv in Regionen. In jeder Endregion bzw. jedem Blatt wird ein konstanter Wert vorhergesagt, meist der Mittelwert der Trainingslabels in diesem Blatt.\n\nDadurch entstehen achsenparallele, stückweise konstante Vorhersagen.","tags":["trees","regression"],"source":"Zusammenfassung 60 Ch8 Trees; Abschnitt 2","external_id":"supervised-learning-cards-073"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Baumbegriffe\nWas bedeuten Root, interner Knoten, Blatt und Split?","answer":"- **Root:** Startknoten des Baums.\n- **Interner Knoten:** Knoten mit einer Entscheidungsregel.\n- **Split:** Regel, die Daten in Teilmengen trennt, z. B. $X_j < s$.\n- **Blatt:** Endknoten mit der finalen Vorhersage.","tags":["trees","grundbegriffe"],"source":"Zusammenfassung 60 Ch8 Trees; Abschnitt 2.3","external_id":"supervised-learning-cards-074"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Baumvorhersage\nWie entsteht die Vorhersage in Regressions- und Klassifikationsbäumen?","answer":"- **Regression:** Vorhersage im Blatt ist meist der Mittelwert der Zielwerte.\n- **Klassifikation:** Vorhersage im Blatt ist meist die Mehrheitsklasse; Klassenwahrscheinlichkeiten können als relative Häufigkeiten im Blatt geschätzt werden.\n\nEin neuer Datenpunkt wird entlang der Split-Regeln bis zu einem Blatt geschickt.","tags":["trees","vorhersage"],"source":"Zusammenfassung 60 Ch8 Trees; Abschnitte 2.5 und 4.1","external_id":"supervised-learning-cards-075"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# RSS in Regressionsbäumen\nWelches Kriterium wird bei Regressionsbaum-Splits typischerweise minimiert?","answer":"Regressionsbäume minimieren typischerweise die Summe der quadratischen Abweichungen innerhalb der Blätter:\n\n$$RSS = \\sum_{m=1}^{M}\\sum_{i:x_i\\in R_m}(y_i-\\hat y_{R_m})^2$$\n\n$R_m$ ist Region bzw. Blatt $m$, $\\hat y_{R_m}$ der Blattmittelwert.","tags":["trees","regression","formel"],"source":"Zusammenfassung 60 Ch8 Trees; Abschnitt 3.1","external_id":"supervised-learning-cards-076"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Recursive Binary Splitting\nWie baut ein Entscheidungsbaum seine Splits auf?","answer":"Recursive Binary Splitting sucht greedy nach dem Feature und Splitpunkt, der das Kriterium lokal am stärksten verbessert. Danach wird in den entstandenen Teilregionen weitergesplittet.\n\nPrüfungsfalle: Greedy optimal bedeutet nicht global optimal für den gesamten Baum.","tags":["trees","algorithmus"],"source":"Zusammenfassung 60 Ch8 Trees; Abschnitt 3.2","external_id":"supervised-learning-cards-077"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Pruning\nWarum beschneidet man Entscheidungsbäume?","answer":"Große Bäume können Trainingsdaten sehr genau anpassen, aber stark overfitten. Pruning begrenzt die Baumgröße bzw. entfernt wenig nützliche Splits.\n\nPrüfungsfalle: Niedriger Trainings-RSS ist nicht automatisch besser. Die Baumgröße sollte mit Validierung oder Cross-Validation gewählt werden.","tags":["trees","pruning","overfitting"],"source":"Zusammenfassung 60 Ch8 Trees; Abschnitt 3.4","external_id":"supervised-learning-cards-078"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Gini und Entropy\nWelche Splitkriterien nutzt man bei Klassifikationsbäumen?","answer":"Wichtige Kriterien sind:\n\n- Klassifikationsfehlerrate: $1-\\max_k p_k$\n- Gini-Index: $\\sum_k p_k(1-p_k)$\n- Cross-Entropy: $-\\sum_k p_k\\log(p_k)$\n\n$p_k$ ist der Klassenanteil der Klasse $k$ im Knoten.","tags":["trees","klassifikation","formel"],"source":"Zusammenfassung 60 Ch8 Trees; Abschnitt 4.3","external_id":"supervised-learning-cards-079"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Fehlerrate vs. Gini\nWarum ist die einfache Klassifikationsfehlerrate für Split-Auswahl oft zu grob?","answer":"Die Fehlerrate betrachtet nur die Mehrheitsklasse. Zwei Knoten können dieselbe Fehlerrate haben, obwohl einer deutlich reinere Klassenanteile besitzt.\n\nGini und Cross-Entropy reagieren sensibler auf Reinheit und eignen sich deshalb oft besser zur Split-Auswahl.","tags":["trees","klassifikation","pruefungsfalle"],"source":"Zusammenfassung 60 Ch8 Trees; Abschnitt 4.4","external_id":"supervised-learning-cards-080"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Bäume vs. lineare Modelle\nWann können Bäume besser passen als lineare Modelle?","answer":"Bäume passen gut zu nichtlinearen, intervallartigen oder regelbasierten Strukturen. Lineare Modelle passen besser zu ungefähr linearen Zusammenhängen und sind oft stabiler extrapolierbar.\n\nPrüfungsfalle: Ein interpretierbarer Einzelbaum ist nicht automatisch genauer als ein lineares Modell.","tags":["trees","modellvergleich"],"source":"Zusammenfassung 60 Ch8 Trees; Abschnitt 5","external_id":"supervised-learning-cards-081"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Ensemble-Idee\nWarum kann Mittelung mehrerer Modelle Varianz reduzieren?","answer":"Wenn einzelne Modelle schwanken, kann ihr Durchschnitt stabiler sein. Zufällige Fehler einzelner Modelle gleichen sich teilweise aus.\n\nDas funktioniert besonders gut, wenn die Einzelmodelle nicht perfekt korreliert sind. Deshalb versucht Random Forest, Bäume zusätzlich zu dekorrelieren.","tags":["ensemble","bias-varianz"],"source":"Zusammenfassung 60 Ch8 Trees; Abschnitt 6 und 7.1","external_id":"supervised-learning-cards-082"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Bagging\nWie funktionieren Bagging-Vorhersagen für Regression und Klassifikation?","answer":"Bei Bagging werden viele Modelle auf Bootstrap-Stichproben trainiert.\n\n- **Regression:** Durchschnitt der Baumvorhersagen.\n- **Klassifikation:** Mehrheitsvotum oder Mittelung der Klassenwahrscheinlichkeiten.\n\nBagging reduziert vor allem Varianz.","tags":["ensemble","bagging"],"source":"Zusammenfassung 60 Ch8 Trees; Abschnitt 7","external_id":"supervised-learning-cards-083"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# OOB-Fehler\nWas ist der Out-of-Bag-Fehler bei Bagging oder Random Forests?","answer":"Für jeden Baum sind einige Trainingsbeobachtungen wegen Bootstrap nicht gezogen worden. Diese Out-of-Bag-Beobachtungen können für diesen Baum wie Validierungsdaten genutzt werden.\n\nDer OOB-Fehler aggregiert solche Vorhersagen und liefert eine interne Fehlerschätzung.\n\nPrüfungsfalle: OOB ersetzt keinen wirklich finalen externen Test.","tags":["ensemble","oob","pruefungsfalle"],"source":"Zusammenfassung 60 Ch8 Trees; Abschnitt 7.5","external_id":"supervised-learning-cards-084"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Random Forest\nWas unterscheidet Random Forest von einfachem Bagging?","answer":"Random Forest nutzt Bagging plus zufällige Feature-Auswahl bei jedem Split. Statt alle Features zu prüfen, wird pro Split nur eine zufällige Teilmenge von $m$ Features betrachtet.\n\nDas dekorreliert Bäume und kann die Ensembleleistung verbessern.","tags":["ensemble","random-forest"],"source":"Zusammenfassung 60 Ch8 Trees; Abschnitt 8.1-8.2","external_id":"supervised-learning-cards-085"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Feature-Auswahl bei Random Forest\nWann passiert die zufällige Feature-Auswahl im Random Forest?","answer":"Die zufällige Feature-Auswahl passiert **bei jedem Split neu**, nicht nur einmal pro Baum.\n\nPrüfungsfalle: Genau diese wiederholte zufällige Einschränkung hilft, dominante Features nicht in jedem Baum gleich zu nutzen und Bäume stärker zu dekorrelieren.","tags":["ensemble","random-forest","pruefungsfalle"],"source":"Zusammenfassung 60 Ch8 Trees; Abschnitt 8.2","external_id":"supervised-learning-cards-086"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Feature Importance\nWarum beweist hohe Feature Importance keine Kausalität?","answer":"Feature Importance ist modell- und datenabhängig. Korrelierte Features können Wichtigkeit teilen oder sich gegenseitig verdrängen. Außerdem misst Importance Beitrag zur Vorhersage, nicht kausale Wirkung.\n\nPrüfungsfalle: Wichtig für ein Modell heißt nicht automatisch ursächlich relevant.","tags":["ensemble","feature-importance","pruefungsfalle"],"source":"Zusammenfassung 60 Ch8 Trees; Abschnitt 8.3","external_id":"supervised-learning-cards-087"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Boosting\nWie unterscheidet sich Boosting von Bagging?","answer":"Bagging trainiert viele Modelle weitgehend unabhängig auf Bootstrap-Stichproben. Boosting trainiert Modelle sequenziell, sodass neue Modelle Fehler des bisherigen Ensembles korrigieren.\n\nBei Regressionsbäumen werden neue Bäume typischerweise an aktuelle Residuen angepasst.","tags":["ensemble","boosting"],"source":"Zusammenfassung 60 Ch8 Trees; Abschnitt 9.1-9.2","external_id":"supervised-learning-cards-088"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Boosting-Parameter\nWelche Rolle spielen Lernrate, Baumtiefe und Anzahl Bäume beim Boosting?","answer":"- **Lernrate:** wie stark jeder neue Baum das Ensemble verändert.\n- **Anzahl Bäume:** wie viele Korrekturschritte gelernt werden.\n- **Baumtiefe:** wie komplex einzelne Korrekturmodelle sind.\n\nPrüfungsfalle: Mehr Bäume oder tiefere Bäume sind nicht automatisch besser. Validierung ist nötig.","tags":["ensemble","boosting","modellwahl"],"source":"Zusammenfassung 60 Ch8 Trees; Abschnitt 9.5-9.6","external_id":"supervised-learning-cards-089"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Bagging, Random Forest, Boosting\nUnterscheide die drei Ensemble-Methoden in einem Satz je Methode.","answer":"- **Bagging:** viele Modelle auf Bootstrap-Stichproben, Vorhersagen mitteln oder abstimmen.\n- **Random Forest:** Bagging plus zufällige Feature-Auswahl pro Split zur Dekorrelation.\n- **Boosting:** sequentielle Modelle, die Fehler des bisherigen Ensembles korrigieren.","tags":["ensemble","modellvergleich"],"source":"Zusammenfassung 60 Ch8 Trees; Abschnitt 12.4","external_id":"supervised-learning-cards-090"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Künstliches Neuron\nWie ist ein künstliches Neuron aufgebaut?","answer":"Ein künstliches Neuron bildet zuerst eine gewichtete Summe und wendet dann eine Aktivierungsfunktion an:\n\n$$z = w^T x + b$$\n$$a = g(z)$$\n\n$w$ sind Gewichte, $b$ der Bias, $g$ die Aktivierungsfunktion und $a$ die Ausgabe des Neurons.","tags":["neural-networks","grundbegriffe","formel"],"source":"Zusammenfassung 80 Ch10 Neural Networks; Abschnitt 3.1","external_id":"supervised-learning-cards-091"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# MLP, Layer, Tiefe\nWas bedeuten Layer, MLP und Tiefe bei neuronalen Netzen?","answer":"Ein Layer ist eine Schicht von Neuronen. Ein MLP ist ein feed-forward Netzwerk aus Eingabeschicht, einer oder mehreren Hidden Layers und Output Layer.\n\nDie Tiefe meint die Anzahl lernender Schichten bzw. Hidden/Output-Schichten, je nach Konvention. Mehr Tiefe erhöht Ausdrucksstärke, aber auch Trainings- und Overfitting-Risiken.","tags":["neural-networks","architektur"],"source":"Zusammenfassung 80 Ch10 Neural Networks; Abschnitt 3.2","external_id":"supervised-learning-cards-092"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# ReLU\nWarum ist ReLU eine häufige Aktivierungsfunktion für Hidden Layers?","answer":"ReLU ist definiert als:\n\n$$g(z)=\\max(0,z)$$\n\nSie ist einfach zu berechnen, erzeugt Nichtlinearität und mildert im Vergleich zu Sigmoid/Tanh oft das Vanishing-Gradient-Problem für positive Aktivierungen.\n\nPrüfungsfalle: ReLU kann tote Neuronen erzeugen, wenn Aktivierungen dauerhaft null bleiben.","tags":["neural-networks","aktivierungsfunktion"],"source":"Zusammenfassung 80 Ch10 Neural Networks; Abschnitt 4.1","external_id":"supervised-learning-cards-093"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Sigmoid und Tanh\nWann nutzt man Sigmoid oder Tanh und welche Grenze haben sie?","answer":"Sigmoid bildet auf $(0,1)$ ab und passt gut zu binärer Output-Wahrscheinlichkeit. Tanh bildet auf $(-1,1)$ ab und ist zentriert.\n\nBeide können bei großen Beträgen von $z$ saturieren. Dann werden Gradienten klein und Lernen kann langsam werden.","tags":["neural-networks","aktivierungsfunktion"],"source":"Zusammenfassung 80 Ch10 Neural Networks; Abschnitte 4.2-4.3","external_id":"supervised-learning-cards-094"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Softmax\nWarum nutzt man Softmax bei mehreren exklusiven Klassen?","answer":"Softmax wandelt mehrere Scores in gemeinsam normierte Klassenwahrscheinlichkeiten um:\n\n$$p_k=\\frac{e^{z_k}}{\\sum_j e^{z_j}}$$\n\nAlle Wahrscheinlichkeiten sind positiv und summieren sich zu 1.\n\nPrüfungsfalle: Für mehrere exklusive Klassen sind unabhängige Sigmoid-Ausgaben meist nicht die Standardantwort.","tags":["neural-networks","softmax","klassifikation"],"source":"Zusammenfassung 80 Ch10 Neural Networks; Abschnitt 4.4","external_id":"supervised-learning-cards-095"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Logistische Regression als Spezialfall\nInwiefern ist logistische Regression ein Spezialfall eines neuronalen Netzes?","answer":"Ein einzelnes Neuron mit linearer Kombination $z=w^Tx+b$ und Sigmoid-Aktivierung liefert dieselbe Grundform wie binäre logistische Regression.\n\nNeuronale Netze verallgemeinern diese Idee durch mehrere Neuronen, Hidden Layers und nichtlineare Transformationen.","tags":["neural-networks","logistische-regression"],"source":"Zusammenfassung 80 Ch10 Neural Networks; Abschnitt 5","external_id":"supervised-learning-cards-096"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Forward Pass\nWas passiert in einem Forward Pass?","answer":"Im Forward Pass werden Eingaben schichtweise durch das Netz gerechnet:\n\n$$z^{(l)} = W^{(l)}a^{(l-1)} + b^{(l)}$$\n$$a^{(l)} = g(z^{(l)})$$\n\nAm Ende entsteht die Modellvorhersage, z. B. ein numerischer Wert oder Klassenwahrscheinlichkeiten.","tags":["neural-networks","forward-pass","formel"],"source":"Zusammenfassung 80 Ch10 Neural Networks; Abschnitt 6","external_id":"supervised-learning-cards-097"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Matrixdimensionen\nWelche Prüfungsfalle gibt es bei der Matrixform eines Layers?","answer":"Die Orientierung von Daten, Gewichten und Bias ist Konvention. Wichtig ist Konsistenz: Dimensionen müssen zur Multiplikation passen, und Bias muss korrekt auf Beobachtungen bzw. Units angewendet werden.\n\nPrüfungsfalle: Eine formal ähnliche Formel kann falsch sein, wenn Shapes nicht stimmen.","tags":["neural-networks","matrix","pruefungsfalle"],"source":"Zusammenfassung 80 Ch10 Neural Networks; Abschnitt 6.2","external_id":"supervised-learning-cards-098"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Computation Graph\nWozu dient ein Computation Graph?","answer":"Ein Computation Graph zerlegt eine Modellrechnung in elementare Operationen. Dadurch kann man Vorwärtsrechnung und Gradientenberechnung systematisch darstellen.\n\nFür Backpropagation ist er nützlich, weil Gradienten über die Kettenregel rückwärts durch den Graphen propagiert werden.","tags":["neural-networks","backpropagation"],"source":"Zusammenfassung 80 Ch10 Neural Networks; Abschnitt 7","external_id":"supervised-learning-cards-099"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Loss-Funktionen\nWelche Loss-Funktionen passen zu Regression und Klassifikation?","answer":"Typische Zuordnung:\n\n- **Regression:** Mean Squared Error oder RMSE-orientierte Ziele.\n- **Binäre Klassifikation:** Binary Cross-Entropy bzw. Log-Loss.\n- **Mehrklassen-Klassifikation:** Categorical oder Sparse Categorical Cross-Entropy mit Softmax.\n\nPrüfungsfalle: Output-Aktivierung und Loss müssen zusammenpassen.","tags":["neural-networks","loss","klassifikation"],"source":"Zusammenfassung 80 Ch10 Neural Networks; Abschnitt 8.2","external_id":"supervised-learning-cards-100"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Backpropagation\nWas ist die Kernidee von Backpropagation?","answer":"Backpropagation berechnet Gradienten der Loss-Funktion bezüglich der Modellparameter effizient rückwärts durch das Netzwerk.\n\nDabei wird die Kettenregel genutzt: Der Fehlergradient am Output wird Schicht für Schicht auf Gewichte und Biases zurückgeführt. Optimierer wie Gradient Descent nutzen diese Gradienten für Updates.","tags":["neural-networks","backpropagation"],"source":"Zusammenfassung 80 Ch10 Neural Networks; Abschnitt 8.3","external_id":"supervised-learning-cards-101"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Parameterzahl Dense Layer\nWie berechnest du die Parameterzahl eines Dense Layers?","answer":"Für einen Dense Layer mit $d_{in}$ Eingängen und $d_{out}$ Neuronen gilt:\n\n$$\\text{Parameter}=d_{in}\\cdot d_{out}+d_{out}$$\n\nDer erste Term sind Gewichte, der zweite Term sind Biases.","tags":["neural-networks","rechenweg","formel"],"source":"Zusammenfassung 80 Ch10 Neural Networks; Abschnitt 11 Aufgabe 4","external_id":"supervised-learning-cards-102"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Architekturentscheidungen\nWelche Architektur-Hyperparameter eines neuronalen Netzes sind klausurrelevant?","answer":"Wichtige Hyperparameter sind Anzahl Hidden Layers, Neuronen pro Layer, Aktivierungsfunktionen, Output-Aktivierung, Loss-Funktion, Optimierer, Lernrate, Batch Size und Epochen.\n\nPrüfungsfalle: Mehr Layer oder Neuronen erhöhen Kapazität, aber nicht automatisch Testleistung.","tags":["neural-networks","architektur","modellwahl"],"source":"Zusammenfassung 80 Ch10 Neural Networks; Abschnitt 8.4","external_id":"supervised-learning-cards-103"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Keras Sequential\nWas beschreibt ein Keras-Sequential-Modell konzeptionell?","answer":"Ein `Sequential`-Modell beschreibt einen linearen Stapel von Schichten. Die Ausgabe einer Schicht wird direkt zur Eingabe der nächsten Schicht.\n\nDas passt zu einfachen MLPs und kann als Computation Graph mit einer klaren Vorwärtsrichtung verstanden werden.","tags":["neural-networks","keras"],"source":"Zusammenfassung 80 Ch10 Neural Networks; Abschnitt 9.1","external_id":"supervised-learning-cards-104"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Palmer-Penguins-Lab\nWas ist das Ziel des Palmer-Penguins-Labs?","answer":"Aus numerischen Merkmalen wie Schnabellänge, Schnabeltiefe, Flossenlänge und Körpergewicht soll die Pinguin-Spezies klassifiziert werden.\n\nDas Lab zeigt einen typischen Workflow: Daten laden, fehlende Werte entfernen, Features/Label trennen, Labels codieren, Modell definieren, trainieren und evaluieren.","tags":["neural-networks","lab","klassifikation"],"source":"Zusammenfassung 80 Ch10 Neural Networks; Abschnitt 10.1-10.3","external_id":"supervised-learning-cards-105"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Vorverarbeitung im NN-Lab\nWelche Datenleckage-Falle gibt es bei Vorverarbeitung vor Validierung?","answer":"Vorverarbeitung darf nicht auf zukünftige Validierungs- oder Testdaten schauen. Skalierung, Imputation und Feature Selection müssen im jeweiligen Trainingsfold gelernt werden.\n\nIm Lab ist Label-Encoding über alle Labels meist weniger kritisch, aber bei Feature-Transformationen wäre das ein echtes Leakage-Problem.","tags":["neural-networks","preprocessing","datenleckage"],"source":"Zusammenfassung 80 Ch10 Neural Networks; Abschnitt 10.3","external_id":"supervised-learning-cards-106"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# NN-Validierung\nWarum reicht Training auf allen Daten nicht als Gütenachweis?","answer":"Wenn ein Netz auf allen Daten trainiert und anschließend auf denselben Daten bewertet wird, misst man vor allem Anpassung an bekannte Daten. Das sagt wenig über Generalisierung.\n\nFür eine Güteaussage braucht man Validierungs- oder Testdaten bzw. Cross-Validation.","tags":["neural-networks","validierung","pruefungsfalle"],"source":"Zusammenfassung 80 Ch10 Neural Networks; Abschnitt 10.5-10.6","external_id":"supervised-learning-cards-107"}
{"semester":"Semester 4","subject":"Supervised Learning","deck":"Semester 4","question":"# Deep Learning Grenzen\nWarum ist die Aussage 'Deep Learning ist immer besser' falsch?","answer":"Deep Learning braucht ausreichend Daten, passende Architektur, geeignete Loss-Funktion, sinnvolle Vorverarbeitung, Regularisierung, Validierung und Fehleranalyse.\n\nBei kleinen tabellarischen Daten können lineare Modelle, Bäume, Random Forests oder Boosting oft stabiler, schneller und interpretierbarer sein.","tags":["neural-networks","modellvergleich","pruefungsfalle"],"source":"Zusammenfassung 80 Ch10 Neural Networks; Abschnitt 2.3","external_id":"supervised-learning-cards-108"}