Проверьте, из каких данных получен ответ. Какие сведения были доступны, каких не хватало, где начинается интерпретация, а где показано лишь предложение? Затем убедитесь, что сохранённый план меняется только после вашего явного действия.
Прозрачный интерфейс не делает совет правильным. Зато вам проще заметить противоречие и отклонить предложенное изменение.
Проверьте три отдельных уровня
Эти уровни задают общую модель проверки. В приложении они должны отображаться отдельно.
Проверка из пяти вопросов
Используйте её до оформления подписки или повторите после крупного обновления приложения.
-
Можете ли вы увидеть использованные данные?
Найдите период, сводки тренировок, цели, часть плана, которую приложение учло, и другие сведения, использованные для ответа.
-
Отмечает ли приложение отсутствующие или устаревшие данные?
Пропущенная запись сна, несинхронизированная тренировка или короткая история не должны без предупреждения превращаться в ноль, норму или правдоподобную оценку.
-
Отделяет ли ответ факты, интерпретацию и предложение?
Приложение должно показывать, что измерено, какой вывод из этого сделан и какие ещё объяснения возможны.
-
Видите ли вы точное изменение до сохранения?
Дата, занятие, характер и масштаб изменения должны быть видны заранее. Согласие с общим объяснением не заменяет контроль над календарём.
-
Можете ли вы проверить сохранённый план?
Откройте план снова и убедитесь, что он остался прежним или содержит только ту правку, которую вы явно применили.
Проверьте приложение, не меняя реальную тренировку
Откройте существующий или специально выбранный тестовый контекст. Вы проверяете интерфейс, а не качество предложенного занятия.
Откройте видимый контекст
Запишите, какие типы данных, какой период и какую часть плана приложение использовало для запроса.
Найдите известный вам пробел
Выберите день или тренировку с отсутствующим показателем и проверьте, показывает ли приложение этот пробел.
Запросите небольшое изменение
Убедитесь, что конкретная правка показана как предложение, а сохранённый план по-прежнему не изменился.
Завершите проверку до применения
Отклоните предложение или выйдите, не подтверждая его. Снова откройте план и убедитесь, что он не изменился.
Пять тревожных признаков
Они кратко описывают основные ограничения. Несколько признаков сразу затрудняют проверку рекомендации.
- Приложение утверждает, что полностью знает ваше текущее состояние.
- Отсутствующие измерения без пояснения выглядят как ноль, норма или оценка.
- Объяснение звучит точно, но не называет использованные данные и неопределённость.
- Предложение и сохранённый план не отделены друг от друга.
- Даты или занятия меняются без вашего видимого и явного действия.
Что на самом деле подтверждают исследования
Профиль рисков NIST для генеративного ИИ рассматривает документирование ограничений системы и исходных данных, человеческий контроль и сопоставление результатов с известными фактами. Это общий документ по управлению рисками, а не готовая инструкция по проверке интерфейса пользовательского фитнес-приложения.
Buçinca и соавторы исследовали 199 человек, выполнявших задачу о выборе продуктов, а не о лыжной подготовке или фитнес-приложении. Интерфейсные приёмы снижали чрезмерную зависимость от рекомендаций ИИ, но не устраняли её. Более действенные варианты могли получать более низкие оценки удобства или доверия и казаться участникам сложнее.
Пять вопросов в этой статье — редакционная адаптация общих принципов к фитнес-приложению. NIST не проверял и не сертифицировал SlopeReady, не подтверждает точность этой памятки или рекомендаций приложения.
Даже полностью прозрачный процесс может привести к ошибочному или неподходящему совету. Эта проверка помогает вам контролировать данные и изменения плана, но не доказывает качество рекомендации.
Источники: NIST AI 600-1, Buçinca и соавт. (2021).
Что вы можете проверить в SlopeReady
Экран «Что было отправлено?» показывает контекст, который SlopeReady передаёт для конкретного запроса к ИИ: доступные оценки готовности и уверенности, недостающие данные, недавние сводки тренировок, цель и часть плана, которую приложение учло. Экран не раскрывает внутренние рассуждения модели. Приложение не подставляет значения вместо отсутствующих данных.
Предложение ИИ отображается отдельно от сохранённого плана. Вы можете проверить конкретную правку, а затем применить или отклонить её. Без явного применения план не меняется.
С вашего разрешения SlopeReady читает доступные данные Apple Health и не записывает данные обратно. Приложение не записывает тренировку, пульс в реальном времени, GPS-маршрут или лыжный спуск. Видимый контекст может быть неполным или устаревшим, а ответы ИИ — содержать пропуски или ошибки.
Источники: политика конфиденциальности SlopeReady, описание данных SlopeReady, как работает SlopeReady, условия SlopeReady.