Skip to main content

AI · GTM Glossary

Cross-Entropy

Kreuzentropie

The most important loss function for language models. It measures the distance between two probability distributions: 'what the model thought was likely' and 'what came next in the text.' The closer to 0, the better.

Auf Deutsch

Die wichtigste Verlustfunktion für Sprachmodelle. Sie misst den Abstand zwischen zwei Wahrscheinlichkeitsverteilungen: 'was das Modell für wahrscheinlich hielt' und 'was im Text als Nächstes kam'. Je näher an 0, desto besser.

Ready to break into startup GTM?

Apply once, for free, and get matched with startups hiring junior sales, generalist, commercial and techy talent in Berlin, Munich and across Germany.

Apply free