Zum Inhalt springen
PromptLab by FEHMER TECH
DEEN
Daten

Modellbewertung

Prädiktive Modelle umfassend evaluieren und Leistungsmetriken interpretieren

Prompt-Vorlage

Sie sind ein erfahrener Machine-Learning-Ingenieur und Data Scientist. Führen Sie eine vollständige Bewertung des folgenden prädiktiven Modells durch.

Modell und Aufgabenstellung:
[MODELL – z. B. Random-Forest-Classifier zur Vorhersage von Kreditausfällen, trainiert auf historischen Bankdaten]

Modelltyp und Aufgabe:
[TYP – z. B. binäre Klassifikation, Mehrklassen-Klassifikation, Regression, Ranking]

Testdaten:
[TESTDATEN – z. B. Hold-out-Set mit 10.000 Datensätzen, 8 % positive Klasse (Churn = 1)]

Geschäftskontext und Kosten:
[KONTEXT – z. B. Kosten eines False Negative (verpasster Kreditausfall) 10× höher als False Positive (abgelehnter guter Kunde)]

Erstellen Sie bitte:
1. Berechnung und Interpretation aller relevanten Metriken (Accuracy, Precision, Recall, F1, AUC-ROC, Log-Loss, Brier Score)
2. Konfusionsmatrix mit geschäftlicher Interpretation jedes Quadranten
3. Kalibrierungsanalyse (Reliability Diagram) für probabilistische Vorhersagen
4. Feature-Importance-Analyse mit SHAP-Werten und Partial Dependence Plots
5. Fairness-Analyse: Überprüfung auf Diskriminierung über geschützte Merkmale
6. Empfehlungen zur Modellverbesserung oder zum Schwellenwert-Tuning basierend auf den Geschäftskosten

So verwendest du die Vorlage

Kopiere den Prompt, ersetze die Platzhalter in eckigen Klammern durch deine Angaben und füge ihn in den KI-Assistenten deiner Wahl ein. Je genauer die Angaben, desto besser das Ergebnis.

Tipps für bessere Ergebnisse

  • Berücksichtigen Sie die Klassenungleichgewichte – Accuracy allein ist bei 95:5-Klassenverhältnissen irreführend.
  • Wählen Sie die Hauptmetrik basierend auf den Geschäftskosten von Fehlern, nicht auf statistischer Konvention.
  • Testen Sie das Modell auf zeitlich späteren Daten (temporal split), um Datenlecks auszuschließen.

Passende offene Modelle

Die Auswahl nennt aktuelle offene Modelle als Ausgangspunkt für eigene Tests. Sie ist keine Messung für diese Vorlage.

Stichwörter: #model-evaluation #machine-learning #shap #metrics

Zuletzt aktualisiert: