Jak prověřit AI trenéra: data, návrhy a změny plánu

Prověřte, z jakých dat odpověď vznikla. Které údaje byly dostupné, které chyběly, co je interpretace a co pouze návrh? Poté ověřte, že se uložený plán změní jen po vašem jednoznačném kroku.

Průhledné rozhraní samo o sobě nezaručuje správnou radu. Usnadní vám však odhalit rozpor a navrženou změnu odmítnout.

Prověřte tři oddělené vrstvy

Tyto vrstvy tvoří pojmový model kontroly. Aplikace by je měla zobrazovat zřetelně odděleně.

Kontrola pomocí pěti otázek

Použijte ji před předplatným nebo při novém hodnocení aplikace po významné aktualizaci.

1. Můžete si prohlédnout použitá data?

   Hledejte časové období, souhrny tréninků, cíle, zohledněnou část plánu a další informace použité pro odpověď.

2. Jsou chybějící nebo zastaralá data označena?

   Chybějící spánek, nesynchronizovaný trénink nebo krátká historie se nesmějí bez upozornění změnit na nulu, normu nebo věrohodně znějící odhad.

3. Odděluje odpověď fakta, interpretaci a návrh?

   Aplikace by měla uvést, co bylo změřeno, co z toho odvodila a jaká další vysvětlení zůstávají možná.

4. Vidíte přesnou změnu před uložením?

   Datum, jednotka, druh a rozsah změny mají být viditelné. Souhlas s obecným textem nenahrazuje kontrolu nad kalendářem.

5. Můžete následně prověřit uložený plán?

   Plán znovu otevřete a ověřte, že zůstal stejný nebo obsahuje pouze změnu, kterou jste výslovně použili.

Prověřte aplikaci bez změny skutečného tréninkového plánu

Použijte existující kontext nebo kontext zřetelně určený k testování. Prověřujete rozhraní, nikoli kvalitu navrženého tréninku.

Pět varovných znaků

Shrnují hlavní omezení. Několik znaků současně ztěžuje kontrolu doporučení.

• Aplikace tvrdí, že úplně zná váš aktuální stav.
• Chybějící měření se bez jasného označení zobrazí jako nula, norma nebo odhad.
• Vysvětlení zní přesně, ale neuvádí použitá data ani nejistotu.
• Návrh a uložený plán nejsou zřetelně odděleny.
• Termíny nebo jednotky se mění bez vašeho viditelného a výslovného kroku.

Co výzkum skutečně podporuje

Profil NIST pro generativní AI se zabývá dokumentováním hranic znalostí systému a zdrojů dat, lidským dohledem a porovnáváním výsledků se známými fakty. Jde o obecný rámec rizik, nikoli o hotový test rozhraní spotřebitelské fitness aplikace.

Buçinca a kolegové zkoumali 199 lidí při rozhodovacím úkolu týkajícím se potravin, nikoli při lyžařské přípravě nebo v aplikaci pro fitness. Zásahy do rozhraní omezily nadměrné spoléhání na doporučení AI, ale neodstranily je. Účinnější zásahy zároveň mohly dostávat horší hodnocení použitelnosti nebo důvěry a působit obtížněji.

Pět otázek je redakční adaptací těchto obecných principů pro fitness aplikaci. NIST SlopeReady netestoval ani necertifikoval a nepotvrzuje správnost tohoto seznamu ani doporučení aplikace.

I zcela viditelný postup může vést k chybnému nebo nevhodnému doporučení. Tato kontrola zvyšuje vaši kontrolu nad daty a změnami plánu, ale nedokazuje kvalitu rady.

Zdroje: NIST AI 600-1, Buçinca et al. (2021).

Co můžete prověřit ve SlopeReady

Zobrazení „Co bylo odesláno?“ ukazuje kontext, který SlopeReady posílá pro daný požadavek AI, včetně dostupných hodnot readiness a confidence, chybějících vstupů, posledních souhrnů tréninků, cíle a zohledněné části plánu. Neodhaluje vnitřní uvažování modelu. Chybějící data zůstávají chybějící.

Návrh AI se zobrazuje odděleně od uloženého plánu. Konkrétní změnu si můžete prohlédnout a použít nebo odmítnout. Bez výslovného použití zůstane plán beze změny.

S vaším svolením čte SlopeReady dostupná data z Apple Health pouze v režimu čtení. Nezaznamenává tréninky, živou tepovou frekvenci, trasu GPS ani lyžařský sjezd. Viditelný kontext může být neúplný nebo zastaralý a odpovědi AI mohou zůstat neúplné či chybné.

Zdroje: zásady ochrany soukromí SlopeReady, přehled dat SlopeReady, jak funguje SlopeReady, podmínky SlopeReady.

Prověřte další část systému