Controleer uit welke gegevens het antwoord is voortgekomen. Welke gegevens waren aanwezig, welke ontbraken, wat is een interpretatie en wat is alleen een voorstel? Ga daarna na of het opgeslagen plan pas verandert na een duidelijke handeling van jou.
Een transparante interface maakt advies niet vanzelf juist. Je ziet tegenstrijdigheden wel eerder en kunt een voorgestelde wijziging afwijzen.
Controleer drie afzonderlijke lagen
Deze lagen vormen het denkmodel voor de controle. De app moet ze zichtbaar van elkaar scheiden.
De controle met vijf vragen
Gebruik deze vragen vóór een abonnement of wanneer je een app na een grote update opnieuw beoordeelt.
-
Kun je de gebruikte gegevens bekijken?
Zoek naar de periode, trainingssamenvattingen, doelen, het deel van het plan dat is meegenomen en andere gegevens waarop het antwoord steunt.
-
Worden ontbrekende of verouderde gegevens gemarkeerd?
Ontbrekende slaap, een niet-gesynchroniseerde training of een korte historie mag niet stilzwijgend veranderen in nul, normaal of een aannemelijke schatting.
-
Scheidt het antwoord feiten, interpretatie en voorstel?
De app moet aangeven wat is gemeten, wat daaruit is afgeleid en welke andere verklaringen mogelijk blijven.
-
Zie je de exacte wijziging voordat die wordt opgeslagen?
Datum, training, soort en omvang van de wijziging moeten zichtbaar zijn. Instemmen met algemene tekst is niet hetzelfde als je agenda beheren.
-
Kun je het opgeslagen plan daarna controleren?
Open het plan opnieuw en controleer of het hetzelfde bleef of alleen de wijziging bevat die je uitdrukkelijk hebt toegepast.
Test de app zonder je echte trainingsplan te wijzigen
Gebruik een bestaande context of een context die duidelijk voor een test is bedoeld. Je controleert de interface, niet de kwaliteit van de voorgestelde training.
Open de zichtbare context
Noteer welke soorten gegevens, welke periode en welk deel van het plan voor het verzoek zijn gebruikt.
Zoek een hiaat dat je kent
Kies een dag of training met een ontbrekende waarde en controleer of de app dat hiaat zichtbaar houdt.
Vraag om een kleine wijziging
Controleer of een concrete wijziging als voorstel verschijnt terwijl het opgeslagen plan ongewijzigd blijft.
Stop voordat je het voorstel toepast
Wijs het voorstel af of verlaat het zonder bevestiging. Open het plan opnieuw en controleer of er niets is veranderd.
Vijf waarschuwingssignalen
Ze vatten de belangrijkste grenzen samen. Meerdere signalen maken een aanbeveling moeilijk te controleren.
- De app beweert je huidige toestand volledig te kennen.
- Ontbrekende metingen verschijnen zonder duidelijk label als nul, normaal of geschat.
- De uitleg klinkt precies, maar noemt de gebruikte gegevens en onzekerheid niet.
- Het voorstel en het opgeslagen plan zijn niet duidelijk van elkaar gescheiden.
- Datums of trainingen veranderen zonder een zichtbare, uitdrukkelijke handeling van jou.
Wat het onderzoek werkelijk ondersteunt
Het NIST-profiel voor generatieve AI behandelt onder meer het vastleggen van kennisgrenzen en gegevensbronnen, menselijk toezicht en het vergelijken van uitkomsten met bekende feiten. Het is een algemeen risicokader, geen kant-en-klare interfacetest voor een fitnessapp voor consumenten.
Buçinca en collega’s onderzochten 199 mensen bij een keuze over voeding, niet bij skitraining of in een fitnessapp. De ingrepen in de interface verminderden overmatig vertrouwen in AI-aanbevelingen, maar namen het niet weg. Effectievere ingrepen konden ook lagere beoordelingen krijgen voor gebruiksgemak of vertrouwen en als moeilijker worden ervaren.
De vijf vragen zijn een redactionele vertaling van die algemene principes naar een fitnessapp. NIST heeft SlopeReady niet getest of gecertificeerd en bevestigt deze checklist of de juistheid van app-adviezen niet.
Ook een volledig zichtbare werkwijze kan fout of ongeschikt advies opleveren. Deze controle geeft je meer grip op gegevens en planwijzigingen, maar stelt de kwaliteit van de aanbeveling niet vast.
Bronnen: NIST AI 600-1, Buçinca et al. (2021).
Wat je in SlopeReady kunt controleren
De weergave ‘Wat is verstuurd?’ toont de context die SlopeReady voor dat AI-verzoek verstuurt, waaronder beschikbare readiness- en betrouwbaarheidswaarden, ontbrekende invoer, recente trainingssamenvattingen, het doel en het deel van het plan dat is meegenomen. De interne redenering van het model wordt niet getoond. Ontbrekende gegevens blijven ontbreken.
Een AI-voorstel wordt los van het opgeslagen plan weergegeven. Je kunt de concrete wijziging bekijken en toepassen of afwijzen. Zonder een uitdrukkelijke handeling om deze toe te passen, blijft het plan ongewijzigd.
Met jouw toestemming leest SlopeReady beschikbare gegevens uit Apple Health met alleen leestoegang. De app registreert geen trainingen, live hartslag, GPS-route of skiafdaling. De zichtbare context kan onvolledig of verouderd zijn en AI-antwoorden kunnen onvolledig of fout blijven.
Bronnen: privacybeleid SlopeReady, gegevenspagina SlopeReady, zo werkt SlopeReady, voorwaarden SlopeReady.