「統計学関連なんでもあり」の過去ログ---028

★ 検出不可能な値を0としてはいけない？ ★

2551.　検出不可能な値を0としてはいけない？　迷える子羊　2004/03/03 (水) 09:59
└2552.　Re: 検出不可能な値を0としてはいけない？　青木繁伸　2004/03/03 (水) 10:37
　└2569.　Re^2: 検出不可能な値を0としてはいけない？　迷える子羊　2004/03/03 (水) 18:19

2551.　検出不可能な値を0としてはいけない？　迷える子羊　　2004/03/03 (水) 09:59

どうか教えてください。
土壌中のアンモニア態窒素の濃度を測っていますが，検出不可能なほど濃度が低い場合があります。
この値は限りなく0に近いと思われるのですが，0としてしまうと，分散分析をする際のSSの計算上正当に評価できていないのではないかと思うのですが，こういう場合の対処法をご存知でしたら教えていただけないでしょうか。
どうぞよろしくお願いいたします。

　　　　　[このページのトップへ]

2552.　Re: 検出不可能な値を0としてはいけない？　青木繁伸　　2004/03/03 (水) 10:37

> この値は限りなく0に近いと思われるのですが，0としてしまうと，分散分析をする際のSSの計算上正当に評価できていないのではないかと思うのですが，

私にはよくわからないのですが，検出限界がどういう値か知りませんが，検出不能な値を，仮にその検出限界の1/10，1/100，...などとして分析してみて，さらにその値を0にしたときの分析結果がどのように違うか見てみればいかがですか？そんなに変わらないようにも思えるのですが。

先例にならうのもよい戦略と思います。

　　　　　[このページのトップへ]

2569.　Re^2: 検出不可能な値を0としてはいけない？　迷える子羊　　2004/03/03 (水) 18:19

> 私にはよくわからないのですが，検出限界がどういう値か知りませんが，検出不能な値を，仮にその検出限界の1/10，1/100，...などとして分析してみて，さらにその値を0にしたときの分析結果がどのように違うか見てみればいかがですか？そんなに変わらないようにも思えるのですが。

どうもありがとうございます！
それで試してみます。
そうですよね，ほとんど出てこないとして，例えば0.0001ppmとするのと，0ppmとするのでは，考えてみればあまり結果に差はなさそうですね。
ありがとうございました。

　　　　　[このページのトップへ]