Журнал испытаний прототипа оформляют так, чтобы для каждой версии можно было восстановить условия прогона, измерения и отклонения. Используйте единый шаблон, присваивайте прототипу и испытанию уникальные обозначения, записывайте факты отдельно от выводов. Тогда сравнение покажет, связано ли изменение результата с новой версией или с другими условиями проверки.
Опорные правила сопоставимых испытаний
- Закрепите единые названия полей, единицы измерения и способ оценки результата.
- Записывайте идентификатор версии, дату, условия и исполнителя для каждого прогона.
- Фиксируйте наблюдения и измерения до интерпретации причин.
- Не заменяйте исходные записи: исправления отмечайте с датой и пояснением.
- При изменении протокола или условий создавайте отдельную запись, а не сравнивайте результаты как полностью сопоставимые.
Какие данные подготовить до первого прогона
Такой порядок подходит командам, которые проводят тестирование прототипа повторно или сравнивают несколько версий. Он полезен и при разработке прототипа на заказ: журнал помогает согласовать, что именно проверяется и по каким признакам принимается результат.
Не начинайте сравнительные прогоны, если версии не идентифицированы, критерии успеха не определены или проверка небезопасна. Сначала уточните ограничения, обеспечьте безопасную рабочую зону и согласуйте действия при сбое. Для прототипа, который может причинить вред при неисправности, испытания проводите только по утверждённой процедуре с подходящими мерами защиты.
Как задать структуру записи для каждого испытания
Подготовьте общий шаблон, доступный всем участникам испытаний. Это может быть электронная таблица, система управления тестами или бумажный журнал; важно, чтобы записи можно было найти, сопоставить и сохранить вместе с материалами проверки.
- Идентификация: код испытания, версия прототипа, дата и время, исполнитель.
- Протокол: цель, последовательность действий, критерии прохождения и условия остановки.
- Контекст: оборудование и его настройки, материалы, программная конфигурация, окружающие условия — если они влияют на результат.
- Результаты: измеренные значения с единицами, наблюдения, статус прохождения и ссылки на фото, видео или файлы измерений.
- Изменения: отличие от предыдущей версии, причина изменения и ссылка на описание конструкции или задачи.
До начала испытаний проверьте, что участники имеют доступ к актуальному протоколу и знают, где хранить вложения. В процессе прототипирования продукта шаблон можно расширять, но изменения полей следует вводить последовательно и фиксировать.
Как зафиксировать условия, чтобы версии сравнивались честно
Перед пошаговой процедурой подготовьте короткий чек-лист:
- Определите проверяемую характеристику и критерий успешного результата.
- Уточните обозначения версий и проверьте маркировку самого прототипа.
- Подготовьте одинаковые материалы, приборы и настройки для сравниваемых прогонов.
- Убедитесь, что приборы и оборудование готовы к работе согласно применимой инструкции.
- Назначьте место для исходных данных и вложений.
- Зафиксируйте версию и цель. Запишите идентификатор прототипа, его конфигурацию и вопрос, на который отвечает испытание. Если проверяется несколько изменений, обозначьте их отдельно.
- Опишите условия до запуска. Внесите в журнал параметры среды, оборудования, материалов и настроек, которые способны повлиять на измерения. Не записывайте их задним числом по памяти.
- Следуйте одному протоколу. Выполняйте действия в установленном порядке и сохраняйте одинаковые критерии для сравниваемых версий. Если отступление необходимо, остановитесь при наличии риска, отметьте причину и не скрывайте отклонение.
- Сохраните первичные результаты. Запишите фактические значения и наблюдения сразу после измерения; добавьте единицы и ссылки на исходные файлы. Не округляйте данные сверх необходимого для выбранного метода.
- Отделите вывод от факта. В отдельном поле укажите интерпретацию, гипотезу или решение команды. Формулируйте вывод так, чтобы было понятно, на каких записях он основан.
- Закройте запись. Проверьте обязательные поля, добавьте сведения о сбоях и приложениях, затем отметьте статус записи. Если результаты требуют повторной проверки, создайте новый прогон с собственным идентификатором.
Таблица результатов: метрики, единицы и контрольные значения
Для каждой метрики заранее укажите, что именно измеряется, в каких единицах и с каким правилом оценки. Контрольное значение — это заданный критерий или ориентир для проверки; оно не должно подменять фактически полученное измерение.
| Поле журнала | Что записать | Правило заполнения |
|---|---|---|
| Метрика | Название характеристики или наблюдаемого эффекта | Используйте одно и то же определение во всех версиях |
| Единица | Единица измерения либо обозначение качественной шкалы | Не смешивайте единицы в одном ряду сравнения |
| Контрольное значение | Критерий прохождения, диапазон или ожидаемый ориентир | Зафиксируйте до прогона и укажите источник требования внутри проекта |
| Фактический результат | Измерение или наблюдение | Сохраняйте исходное значение и не заменяйте его оценкой |
| Статус | Пройдено, не пройдено или не оценено | Объясните статус ссылкой на критерий и записью результата |
| Источник данных | Файл, фото, видео или запись прибора | Добавьте имя файла или стабильную ссылку на вложение |
Перед сравнением проверьте:
- У всех сравниваемых записей указана версия прототипа.
- Метрики определены одинаково, а единицы измерения совпадают.
- Контрольные значения заданы до прогона, а не подобраны под полученный результат.
- Условия и настройки оборудования записаны достаточно подробно для воспроизведения.
- Первичные данные доступны и связаны с конкретным испытанием.
- Статус результата соответствует заранее установленному критерию.
- Сравниваемые прогоны не содержат скрытых изменений протокола или конфигурации.
Как отмечать отклонения, сбои и изменения прототипа
Записывайте отклонение нейтрально: что произошло, когда, при каких условиях и какие действия последовали. Причину указывайте как гипотезу, если она ещё не подтверждена.
- Не удаляйте неудачные прогоны: они показывают границы работы версии и могут объяснить различия.
- Не объединяйте результаты разных конфигураций под одним обозначением версии.
- Не исправляйте исходное измерение без отметки об исправлении и причине.
- Не выдавайте предположение о причине сбоя за установленный факт.
- Не оставляйте пустые поля без пояснения: укажите «не измерялось», «не применимо» или причину пропуска.
- Не меняйте критерий успеха после получения результата без новой версии протокола и отдельной записи.
- Не продолжайте проверку при опасном сбое: остановите её безопасным способом и следуйте принятой процедуре.
Чтобы увидеть различия между версиями, ведите журнал изменений рядом с результатами: указывайте, что изменилось в конструкции, программном обеспечении или настройках. Тогда при анализе можно связать сдвиг метрики с конкретным изменением, не приписывая ему эффект без проверки.
Проверка журнала перед анализом результатов
Выберите способ проверки с учётом масштаба испытаний и требований команды:
- Проверка исполнителем: подходит для небольшого числа прогонов; автор сверяет запись с чек-листом и исходными файлами.
- Взаимная проверка: уместна, когда важно снизить риск пропусков; коллега проверяет полноту и соответствие протоколу, не переписывая выводы за исполнителя.
- Сводная таблица по версиям: помогает быстро заметить пропуски условий, несовпадение единиц и различия в статусах до интерпретации данных.
Перед анализом убедитесь, что записи можно отфильтровать по версии и метрике, а вложения открываются. Если условия заметно различались, разделите данные на сопоставимые группы и явно укажите ограничения сравнения. Журнал испытаний прототипа должен позволять восстановить ход проверки, а не только показать итоговую оценку.
Практические уточнения по ведению журнала испытаний
Можно ли вести журнал испытаний в обычной таблице?
Да, если в таблице есть единая структура, уникальные идентификаторы прогонов и понятный порядок хранения вложений. Для командной работы настройте контроль версий или другой способ отслеживать изменения записей.
Нужно ли записывать каждый повторный прогон?
Да. Каждый прогон должен иметь отдельную запись, даже если протокол и версия не менялись: это сохраняет историю результатов и позволяет выявить нестабильность.
Что делать, если условия испытания изменились в процессе?
Укажите фактическое изменение, время и причину, а также связанные результаты. Отметьте прогон как отклонение от протокола и не считайте его полностью сопоставимым без обоснования.
Как сравнивать версии, если изменили несколько параметров сразу?
Зафиксируйте все изменения и ограничьте вывод тем, что подтверждают данные. Чтобы выяснить влияние отдельных изменений, планируйте отдельные прогоны с контролируемой конфигурацией.
Чем наблюдение отличается от интерпретации?
Наблюдение описывает зарегистрированный факт, например показание прибора или видимое поведение. Интерпретация объясняет возможную причину или значение этого факта и должна быть отмечена отдельно.
Когда результат следует признать несопоставимым?
Когда различаются важные условия, метод измерения, единицы или критерии оценки и эти различия нельзя корректно учесть. Сохраните запись, обозначьте ограничение и не включайте её в прямое сравнение без пояснения.