Einstieg
Machine Learning (ML) wird heute in vielen sensiblen Bereichen eingesetzt. Damit entstehen auch neue Sicherheitsrisiken, die über klassische IT-Sicherheit hinausgehen. Genau darum geht es bei der OWASP ML Top 10.
Worum es geht
Die Liste beschreibt die wichtigsten Schwachstellen für Systeme mit Machine Learning. Dazu gehören manipulierte Eingaben, vergiftete Trainingsdaten, der Diebstahl von Modellen und Angriffe auf Ausgaben. Entscheidend ist, dass nicht nur das Modell selbst geschützt wird, sondern die ganze Umgebung darum herum.
Beispiele
Schon kleine Veränderungen an Eingaben können ein Modell täuschen. Auch fehlerhafte oder absichtlich manipulierte Trainingsdaten können später zu falschen Entscheidungen führen. Zusätzlich besteht das Risiko, dass ein Modell durch Informationsgewinnung durch viele Anfragen nachgebaut wird.
Fazit
Sicherheit bei Machine Learning ist keine Einzelmaßnahme. Wichtig sind saubere Daten, vertrauenswürdige Modelle und ein sicherer Betrieb. Die OWASP ML Top 10 hilft dabei, diese Risiken besser zu verstehen und gezielt anzugehen.
von Rian Friedt