Q.
A/Bテストの結果を判断する際の前提として最も適切なものはどれか。
解説まとめ
正解はCです。A/Bテストでは、観測された差が偶然による揺らぎなのか本当の差なのかを区別する必要があります。そのために、十分なサンプル数を確保し、統計的な有意差を確認してから勝敗を判断します。少数の差や直感、短時間の結果で決めると、誤った案を採用してしまうおそれがあります。
ポイント
核心は「差が偶然でないかを検証してから決める」点です。わずかな差・少数サンプル・直感・短時間の結果は信頼できない、という統計的な慎重さが判断軸になります。
ワンポイントアドバイス
テストは「いつ・どれだけ集まったら判断するか」を始める前に決めておきましょう。途中の数字に一喜一憂せず、必要なサンプルがたまるまで待つことが大切です。早すぎる結論を避けるルール化が効果的です。
解説詳細
なぜCが正解か
A/Bテストの数字には偶然のばらつきが含まれます。十分なサンプル数を確保し、統計的有意差を確認することで、その差が本物かを判断できます。これにより、ばらつきを実力差と取り違えるミスを防げます。
なぜ他の選択肢が誤りか
Aの「少しでも高ければサンプル数に関わらず勝ち」は、偶然の差で誤った勝敗を出します。Bの「直感で採用」は検証の意味を失わせます。Dの「最初の数時間の差で当日結論」はサンプルが不足し、時間帯などの偏りも残るため、信頼できる判断になりません。