Prüfe, aus welchen Daten die Antwort entstanden ist: Welche Angaben waren vorhanden, welche fehlten, was ist eine Interpretation und was nur ein Vorschlag? Kontrolliere anschließend, ob der gespeicherte Plan erst nach einer eindeutigen Aktion geändert wird.
Eine transparente Oberfläche macht eine Empfehlung nicht automatisch richtig. Sie erleichtert dir aber, Widersprüche zu erkennen und eine vorgeschlagene Änderung abzulehnen.
Drei Ebenen getrennt betrachten
Die Ebenen beschreiben das Modell der Prüfung. Sie sollten in der App erkennbar getrennt bleiben.
Die Prüfung mit fünf Fragen
Nutze sie vor einem Abo oder wenn du eine App nach einem größeren Update erneut bewertest.
-
Kannst du die verwendeten Daten sehen?
Suche nach Zeitraum, Trainingszusammenfassungen, Zielen, dem berücksichtigten Teil des Plans und weiteren Angaben, die in die Antwort eingeflossen sind.
-
Werden fehlende oder veraltete Daten markiert?
Fehlender Schlaf, eine nicht synchronisierte Einheit oder eine kurze Historie dürfen nicht still zu null, normal oder einer plausiblen Schätzung werden.
-
Trennt die Antwort Fakten, Interpretation und Vorschlag?
Die App sollte zeigen, was gemessen wurde, was daraus abgeleitet wird und welche anderen Erklärungen möglich sind.
-
Siehst du die genaue Änderung vor dem Speichern?
Datum, Einheit sowie Art und Umfang der Änderung sollten sichtbar sein. Die Zustimmung zu einer allgemeinen Erklärung reicht nicht als Kontrolle des Kalenders.
-
Kannst du den gespeicherten Plan anschließend prüfen?
Öffne den Plan erneut und kontrolliere, ob er unverändert blieb oder nur die Änderung enthält, die du ausdrücklich angewendet hast.
Prüfe die App, ohne deinen echten Trainingsplan zu ändern
Nutze einen bestehenden oder einen ausdrücklich als Test gedachten Kontext. Du prüfst die Oberfläche, nicht die Qualität der vorgeschlagenen Trainingseinheit.
Öffne den sichtbaren Kontext
Notiere, welche Datenarten, welcher Zeitraum und welcher Teil des Plans für die Anfrage verwendet werden.
Suche eine bekannte Lücke
Wähle einen Tag oder eine Einheit mit einem fehlenden Wert und prüfe, ob die App die Lücke offen zeigt.
Bitte um eine kleine Änderung
Kontrolliere, ob eine konkrete Änderung als Vorschlag erscheint und der gespeicherte Plan weiterhin unverändert ist.
Beende den Test vor dem Anwenden
Verwirf oder verlasse den Vorschlag, ohne ihn zu bestätigen. Öffne den Plan erneut und prüfe, ob er unverändert geblieben ist.
Fünf Warnzeichen
Sie fassen die wichtigsten Grenzen zusammen. Mehrere Warnzeichen machen eine Empfehlung schwer kontrollierbar.
- Die App behauptet, deinen aktuellen Zustand vollständig zu kennen.
- Fehlende Messwerte erscheinen ohne Kennzeichnung als null, normal oder geschätzt.
- Die Erklärung klingt präzise, nennt aber weder die verwendeten Daten noch Unsicherheit.
- Vorschlag und gespeicherter Plan sind nicht klar voneinander getrennt.
- Termine oder Einheiten ändern sich ohne eine sichtbare, ausdrückliche Aktion von dir.
Was die Forschung tatsächlich stützt
Das NIST-Profil für generative KI behandelt unter anderem die Dokumentation von Wissensgrenzen und vorgelagerten Datenquellen, menschliche Aufsicht sowie den Vergleich von Ergebnissen mit bekannten Fakten. Es ist ein allgemeines Risikoprofil, keine fertige Anleitung zur Prüfung der Oberfläche einer Fitness-App.
Buçinca und Kollegen untersuchten 199 Personen bei einer Entscheidungsaufgabe zu Lebensmitteln, nicht bei Skitraining oder in einer Fitness-App. Die getesteten Interface-Eingriffe verringerten die übermäßige Abhängigkeit von KI-Empfehlungen, beseitigten sie aber nicht. Wirksamere Varianten konnten zugleich schlechtere Bewertungen für Bedienbarkeit, Vertrauen oder Schwierigkeit erhalten.
Die fünf Fragen sind eine redaktionelle Übertragung dieser allgemeinen Grundsätze auf eine Fitness-App. NIST hat SlopeReady weder geprüft noch zertifiziert und bestätigt weder diese Prüfliste noch die Richtigkeit von App-Empfehlungen.
Auch ein vollständig sichtbarer Ablauf kann zu einer falschen oder ungeeigneten Empfehlung führen. Die Prüfung verbessert deine Kontrolle über Daten und Planänderungen, nicht die nachgewiesene Qualität des Rats.
Quellen: NIST AI 600-1, Buçinca et al. (2021).
Was du in SlopeReady prüfen kannst
Die Ansicht „Was wurde gesendet?“ zeigt den Kontext, den SlopeReady für die jeweilige KI-Anfrage übermittelt, darunter verfügbare Readiness- und Konfidenzwerte, fehlende Eingaben, aktuelle Trainingszusammenfassungen, das Ziel und den berücksichtigten Teil des Plans. Sie zeigt keine internen Gedankengänge des Modells. Fehlende Daten bleiben fehlend.
Ein KI-Vorschlag wird getrennt vom gespeicherten Plan angezeigt. Du siehst die konkrete Änderung und kannst sie anwenden oder verwerfen. Ohne ausdrückliches Anwenden bleibt der Plan unverändert.
SlopeReady liest verfügbare Apple-Health-Daten nur mit deiner Erlaubnis und nur lesend. Die App zeichnet keine Workouts, keinen Live-Puls, keine GPS-Route und keine Skiabfahrt auf. Der sichtbare Kontext kann unvollständig oder veraltet sein, und KI-Antworten können unvollständig oder falsch bleiben.
Quellen: SlopeReady Datenschutz, SlopeReady Datenblatt, So funktioniert SlopeReady, SlopeReady Nutzungsbedingungen.