SlopeReady

Coaching IA · 7 min de lecture

Comment vérifier un coach IA : données, propositions et programme

Cette grille ne prouve pas qu’une recommandation de l’IA est juste, sûre sur le plan médical ou adaptée à votre situation. Elle vous aide à examiner les données utilisées, les informations manquantes, la proposition de l’IA et l’état final du programme enregistré. Plus l’application distingue clairement ces éléments, plus vous pouvez repérer une erreur et garder la main sur votre programme.

Trois plateaux séparés devant une maquette de montagne enneigée : le premier contient des pièces de programme foncées et une place vide, le deuxième des pièces bleues proposées, le troisième une pièce maintenue par une pince orange de confirmation, tandis que les autres pièces bleues non retenues restent posées à côté.
Sur cette page

Vérifiez à partir de quelles données la réponse a été produite. Lesquelles étaient présentes ou absentes ? Qu’est-ce qui relève de l’interprétation ou d’une simple proposition ? Assurez-vous ensuite que le programme enregistré ne change qu’après une action claire de votre part.

Une interface transparente ne rend pas un conseil juste par défaut. Elle facilite toutefois le repérage des contradictions et vous permet de refuser une modification proposée.

Examinez trois niveaux distincts

Ces trois niveaux forment le modèle de vérification. L’application doit les afficher séparément.

1. Les données utilisées

Quelles données d’entraînement, de récupération, d’objectif et de programme ont alimenté la demande ?

Une application ne devrait pas prétendre disposer d’un contexte complet tout en masquant ses sources ou ses lacunes.

2. La proposition de l’IA

Quelles affirmations viennent des données, lesquelles relèvent de l’interprétation et quelle modification reste une simple proposition ?

Une explication convaincante peut être fausse. Elle ne constitue pas une preuve.

3. Le programme enregistré

Qu’est-ce qui va changer exactement et quelle action enregistre durablement cette modification ?

Une réponse dans le chat ne doit pas réécrire le calendrier en silence.

La vérification en cinq questions

Utilisez-la avant de vous abonner ou pour réévaluer une application après une mise à jour importante.

  1. Pouvez-vous consulter les données utilisées ?

    Cherchez la période, les résumés d’entraînement, les objectifs, la partie du programme prise en compte et les autres informations qui ont servi à produire la réponse.

  2. Les données manquantes ou anciennes sont-elles signalées ?

    Un sommeil absent, une séance non synchronisée ou un historique court ne doivent pas devenir discrètement zéro, normal ou une estimation plausible.

  3. La réponse distingue-t-elle les faits, l’interprétation et la proposition ?

    L’application doit indiquer ce qui a été mesuré, ce qui en est déduit et quelles autres explications restent possibles.

  4. Voyez-vous la modification exacte avant son enregistrement ?

    La date, la séance, la nature et l’ampleur du changement doivent être visibles. Accepter une explication générale ne revient pas à contrôler un calendrier.

  5. Pouvez-vous vérifier ensuite le programme enregistré ?

    Rouvrez le programme et vérifiez qu’il est resté inchangé ou qu’il ne contient que la modification que vous avez expressément appliquée.

Testez l’application sans modifier votre véritable programme

Utilisez un contexte existant ou clairement prévu pour un test. Vous examinez l’interface, pas la qualité de la séance proposée.

Ouvrez le contexte visible

Notez les types de données, la période et la partie du programme utilisés pour la demande.

Repérez une lacune que vous connaissez

Choisissez un jour ou une séance où une valeur manque et vérifiez que l’application laisse cette lacune visible.

Demandez une petite modification

Vérifiez qu’un changement précis apparaît comme une proposition tandis que le programme enregistré reste inchangé.

Arrêtez le test avant de l’appliquer

Abandonnez ou quittez la proposition sans la valider. Rouvrez le programme et confirmez qu’il n’a pas changé.

Cinq signaux d’alerte

Ils résument les principales limites. Plusieurs signaux réunis rendent la recommandation difficile à contrôler.

  • L’application affirme connaître entièrement votre état actuel.
  • Les mesures absentes apparaissent comme zéro, normales ou estimées sans indication claire.
  • L’explication paraît précise, mais ne mentionne ni les données utilisées ni l’incertitude.
  • La proposition et le programme enregistré ne sont pas clairement séparés.
  • Des dates ou des séances changent sans action visible et explicite de votre part.

Ce que la recherche permet réellement d’affirmer

Le profil du NIST consacré à l’IA générative aborde la documentation des limites de connaissance du système et des sources de données en amont, la supervision humaine et la comparaison des résultats avec des faits connus. Il s’agit d’un cadre général de gestion des risques, pas d’un test d’interface prêt à l’emploi pour une application de fitness.

Buçinca et ses collègues ont étudié 199 personnes dans une tâche de décision liée à l’alimentation, et non au ski ou à une application de fitness. Les interventions sur l’interface ont réduit la dépendance excessive aux recommandations de l’IA sans la supprimer. Les plus efficaces pouvaient aussi obtenir de moins bonnes évaluations en matière de facilité d’utilisation ou de confiance, et paraître plus difficiles.

Les cinq questions sont une adaptation éditoriale de ces principes généraux à une application de fitness. Le NIST n’a ni testé ni certifié SlopeReady. Il ne valide pas cette grille ni la justesse des recommandations de l’application.

Même un fonctionnement entièrement visible peut produire un conseil erroné ou inadapté. Cette vérification renforce votre contrôle sur les données et les changements de programme, sans établir la qualité de la recommandation.

Sources : NIST AI 600-1, Buçinca et al. (2021).

Ce que vous pouvez vérifier dans SlopeReady

La vue « Ce qui a été envoyé » affiche le contexte transmis par SlopeReady pour la demande à l’IA, notamment les valeurs de readiness et de confiance disponibles, les données manquantes, les résumés d’entraînement récents, l’objectif et la partie du programme prise en compte. Elle ne révèle pas le raisonnement interne du modèle. Les données absentes restent absentes.

Une proposition de l’IA est affichée séparément du programme enregistré. Vous pouvez examiner la modification précise, puis l’appliquer ou l’abandonner. Sans action explicite pour l’appliquer, le programme reste inchangé.

Avec votre autorisation, SlopeReady lit les données disponibles dans Apple Health en lecture seule. L’application n’enregistre ni séance, ni fréquence cardiaque en direct, ni itinéraire GPS, ni descente à ski. Le contexte visible peut être incomplet ou ancien, et les réponses de l’IA peuvent rester incomplètes ou erronées.

Sources : confidentialité SlopeReady, fiche de données SlopeReady, fonctionnement de SlopeReady, conditions de SlopeReady.

Vérifiez la partie suivante du système

Commencer par une question claire Formulez une question d’entraînement précise avant de comparer les données utilisées et la réponse. Choisir une question Une réponse ou un programme tenu à jour Distinguez une explication ponctuelle d’un programme qui n’intègre que les changements approuvés. Comprendre la différence Confiance et données manquantes Distinguez le résultat de readiness de l’exhaustivité de ses données d’entrée. Vérifier la confiance Commencer avec peu d’historique Voyez comment une application doit afficher l’incertitude avant de disposer de suffisamment de données. Interpréter un historique court Un programme stable sans changement silencieux Vérifiez quelles dates peuvent s’adapter et lesquelles doivent rester protégées des modifications automatiques. Ouvrir les règles du programme

Commencez par vérifier les données envoyées.

SlopeReady affiche le contexte envoyé avec chaque demande à l’IA. Les valeurs manquantes restent identifiables et une proposition ne modifie le programme enregistré qu’après une action explicite de votre part.

Voir le fonctionnement de SlopeReady

Cette grille vous aide à vérifier le fonctionnement d’une application. Elle ne confirme ni la sécurité médicale, ni la justesse, ni l’adéquation personnelle d’une recommandation. Ne fondez pas une décision de santé, de blessure ou de sécurité sur la seule réponse d’une IA.