Page 1
Kobe University Repository : Kernel
タイトルTit le
Stein型推定量に基づく決定係数のブートストラップ法による精度評価(Evaluat ing the Precision of theCoefficient of Determinat ion Based on the Stein-RuleEst imator by the Bootstrap Method)
著者Author(s) 大谷, 一博
掲載誌・巻号・ページCitat ion 国民経済雑誌,187(5):29-39
刊行日Issue date 2003-05
資源タイプResource Type Departmental Bullet in Paper / 紀要論文
版区分Resource Version publisher
権利Rights
DOI
URL http://www.lib.kobe-u.ac.jp/handle_kernel/00055853
Create Date: 2017-12-19
Page 2
Stein型 推 定量 に基 づ くホ
決定係 数のブ ー トス トラ ップ法 に よる精 度評価
大 谷 一 博
決 定係 数 は,通 常最小 自乗推 定 量 に基 づ い て定義 され るが,本 稿 で は,回 帰係 数
をStein型 推 定量 で推 定 し,こ のStein型 推 定量 に基 づ い て定義 され る決 定係 数 を
取 り扱 う。Stein型 推 定量 に基づ く決定係 数 の モーメ ン トは複雑 な形 を して お り,し
か も未知母 数 に依存 す るの で,そ の精 度 を評価 す る こ とは 困難 で あ る。 このこ とか
ら,Stein型 推 定量 に基づ く決 定係 数 の精 度 と信 頼 区間 を,ブ ー トス トラ ップ 法 に
よって推 定す る方法 を考 察す る。 また,モ ンテカル ロ実験 に よってブ ー トス トラ ッ
プ法 に よって推 定 され た精度 の経 験値 を生 成 し,こ れ を厳 密 な公式 に基づ く精 度 の
値 と比較 す る。 実験 結果 は,ブ ー トス トラ ップ法 は有 効 に機 能 して いる こ とを示 し
て い る。
キー ワー ド ブー トス トラ ップ法,決 定係 数,Stein型 推 定量
1序
回 帰 分 析 を行 う場 合,推 定 され た 回帰 式 の デ ー タへ の 当 て は ま りの よ さ を測 る尺 度 と して,
最 も よ く用 い られ るの が 決 定 係 数 で あ る。 この こ とか ら,決 定 係 数 の標 本 特 性 に 関 す る数 多
くの 研 究 が な さ れ て き た。(例 え ば,KoertsandAbrahamse(1970),RencherandPun
(1980),Cramer(1987),CarrodusandGiles(1992),Meepagala(1992),Ohtaniand
Hasegawa(1993),Ohtani(1994)お よびSrivastavaandUllah(1995)。)こ の よ うに,決 定
係 数 の 標 本 特 性 に関 す る研 究 は 多 数 存 在 す るが,決 定 係 数 の 区 間推 定 に関 す る研 究 は 多 くは
な い 。 数 少 な い例 と して,Helland(1987)お よびOhtani(2000)な どが あ る。
PressandZellner(1978)で 論 じられ て い る よ う に,決 定係 数 の 推 定値 は示 され る が,そ の
精 度(あ る い は,標 準 誤 差)に つ い て は示 され る こ とは ほ とん どな い 。 その 理 由 の 一 つ は,
決 定 係 数 の 精 密 な分 布 が 複 雑 な形 を して お り,し か も未 知 母 数 に依 存 す るの で,精 度 を計 算
す る こ とが きわ め て 困 難 な た め で あ る。 標 準 誤 差 が 大 き い場 合,た と え決 定 係 数 の推 定 値 が
大 き くて も,決 定係 数 に対 応 す る母 数(母 決 定 係 数 〉 の値 は小 さい か も知 れ な い。 も し母 決
定 係 数 の 値 が ゼ ロ に近 い場 合,回 帰 式 の 説 明 力 は ほ とん ど な い の で,モ デ ル の特 定化 は不 十
Page 3
30 第187巻 第5号
分 で あ る。 母 決 定 係 数 の 値 が ゼ ロ に 近 い の に,大 き な標 準 誤 差 の ため 決 定 係 数 の 推 定 値 が大
き くな っ た場 合,こ の 不 十 分 に しか特 定 化 され て い な い モ デ ル に満 足 す る危 険 性 が あ る。 し
か し,も し決 定 係 数 の精 度 が 得 られ,信 頼 区 間 を作 る こ とが で き る な らば,こ の 危 険 性 は 減
少 す る。
推 定 量 や検 定 統 計 量 の 分 布 が 複 雑 な 形 を して お り,し か も未 知 母 数 に依 存 す る と き,そ れ
らの モ ー メ ン トを計 算 す る こ とは 困難 で あ る。 しか し,こ の よ う な場 合 で も,Efron(1979)
に よ っ て提 唱 され た プ ー トス トラ ップ法 を使 え ば,モ ー メ ン トの 推 定 値 を も とめ る こ とが で
きる。Stein(1956)お よびJamesandStein(1961)に よ って提 唱 さ れ た,い わ ゆ るStein型
推 定 量 は,バ イ ア ス を もつ けれ ど も,そ の 平 均 自乗 誤差(MeanSquaredError,MSE)は 通
常 最 小 自乗 推 定 量(OrdinaryLeastSquaresEstimat◎r,OLS推 定 量)よ り も小 さい 。この こ
と は,理 論 的 に は,Stein型 推 定 量 の 方 がOLS推 定 量 よ り も優 れ て い る こ と を意 味 して い る。
しか し,Stein型 推 定 量 が 実 際 の応 用 研 究 で使 わ る こ とは ほ とん ど な い。 そ の 理 由 は,Stein
型 推 定 量 も,上 記 の 理 由 で,精 度 を計 算 す る こ とが きわ め て困 難 な た め で あ る。 しか し,ブ ー
トス トラ ップ 法 を利 用 す れ ば,Stein型 推 定 量 の 精 度 を推 定 す る こ とが で きる こ とが,Chi
andJudge(1985),Brownstone(1990),Yi(1991)お よびAdkins(1992)ら に よ っ て 示 され
て い る。
通 常 の 決 定 係 数 は,OLS推 定 量 に基 づ い て定 義 され る。Ohtani(1993)は,回 帰 係 数 を
Stein型 推 定 量 で推 定 し,こ のStein型 推 定量 に基 づ い て 定 義 され た決 定係 数 を考 えた 。(通
常 の 決 定 係 数 をR2,Stein型 推 定 量 に基 づ く決 定 係 数 をR'2と 記 す 。)ま た,Ohtani(1993)
は,R'2の バ イ ア ス とMSEは と もに,モ デ ル が 正 し く特 定 化 され て い る と きは,R2の そ れ
ら よ り も小 さ くな るこ と を,数 値 計 算 に よ っ て 示 して い る。 本 稿 で は,R*2の 精 度 と信 頼 区
間 を,プ ー トス トラ ップ法 に よ っ て推 定 す る方 法 を考 察 す る。 第2節 で は モ デ ル と推 定 量 が
提 示 され,第3節 で はR'2の 精 度 と信 頼 区 間 を ブ ー トス トラ ップ法 に よ っ て推 定 す る 方法 を
示 す 。 ま た,モ ン テ カル ロ実 験 に よ っ て プ ー トス トラ ップ 法 に よ って 推 定 され た 精 度 の経 験
値 を生 成 し,こ れ を厳 密 な 公 式 に基 づ く精 度 の 値 と比較 す る。 実験 結 果 は,ブ ー トス トラ ッ
プ 法 は 有 効 に機 能 して い る こ と を示 して い る。
2モ デルと決定係数
次 の 線 形 回帰 モ デ ル を考 え る。
y=1βo+Xβ+ε(1)
た だ し,yは 従 属 変 数 のn×1ベ ク トル,1は す べ て の要 素 が1で あ るn×1ベ ク トル,Xは
非 確 率 的 な独 立 変 数 の 階数 々のn×k行 列(n>k),β 。は定 数 項,β は 回帰 係 数 のk×1ベ
ク トル,そ して εは平 均0,分 散 σ2の 正 規 分 布 に従 う互 い に独 立 な 誤差 項 のn×1ベ ク トル
Page 4
Stein型 推 定 量 に基づ く決 定係数 の ブ ー トス トラ ップ法 に よ る精 度 評価 31
で あ る。 一 般 性 を失 うこ とな く,す べ て の 独 立 変 数 は,各 変 数 の 平 均 か らの偏 差 形 で 表 され
て い る もの と仮 定 す る。 この と き,X'1=0が 成 立 す る。
X'1=0で あ る の で,β 。と β のOLS推 定 量 は
boLl'y/n・=y
δ=S-IX'y
(2)
(3)
とな る。 た だ し,S=X'Xで あ る。OLS推 定 量 に基 づ く残差 ベ ク トル をeと す る と,eは
e=ソ ー」夕一Xb
で 与 え られ る 。 この と き,決 定 係 数 は次 の よ う に定 義 され る。
9'θR2=1-
'-2ツy -nツ
ヅy一 砂2=∂'Sb+deで あ る の で,決 定 係 数 は 次 の よ う に 書 き換 え ら れ る 。
b'Sb1～2=
b'Sb十e'θ
(4)
(5)
(6)
Stein(1956)お よびJamesandStein(1961)に よっ て提 唱 され たStein型 推 定 量 は,回 帰
係 数 β を推 定 す る場 合 に は b*一(α ¢θ1-b'Sb)b(・)
で 与 え られ る。た だ し,aは0≦a≦2(k-2)/(π 一 々+2)を 満 たす 定 数 で あ る。Ohtani(1993)
は,こ のStein型 推 定 量 を(6)に お け るOLS推 定 量bの 代 わ りに使 っ た次 の代 替 的 な決 定
係 数 を考 え た 。
b*'Sb*(8)R*2置
b*'Sb*十 θ'θ
上 式 に(7)を 代 入 す る と
(1-ae'e/b'Sb)21～*2=
(1一αθ'θ/ヴSう)2+θ'θ!～〆Sう
一諾 謂 織 、(9)
が 得 られ る。 ただ し,F=(b'Sb/々)/(e'e/v),v=n-k-1で あ る。Fは,自 由度(々,v),
非 心 パ ラ メ ー タ λ=β'SP/σ2の 非 心F分 布 に従 うの で,R'2のm次 の モ ー メ ン トは 次 の よ
うに 書 け る。
E【(R・・)・]-fl(講 諾1デi寮。・)m
・嵩 ω・(・)'((躍 …諾 穿 ノ2(、∫鐸 ≡1,12・・∫(1・)
Page 5
32 第187巻 第5号
ただ し,
ωi(λ)=exp(一 λ/2)(λ/2)11i!(11)
で あ る。 変数 変 換t=lefl(kf+v)を 行 い,若 干 の 計 算 を行 う と,m次 の モ ー メ ン トは最 終 的
に次 の よ う に表 され る。
E[(R*2)m】=Σ ωi(λi=0)畿 望i羅)
・∫1(〆三譜 諾 識 誓,げ×tkf2+i-1(1-t)リ ノ2-ldt(12)
こ の 式 か ら,λ の 値 が 与 え られ る と正 確 な モ ー メ ン トを計 算 す る こ とが で きる が,λ に は 未 知
母 数 が含 まれ て い るの で,実 際 の 応 用 研 究 で は モー メ ン トの 値 を計 算 をす る こ とは で きな い。
こ の こ と は,決 定 係 数 の 推 定 値 は 得 られ て も,そ の 精 度(標 準 誤 差)を 計 算 す る こ と はで き
な い こ とを意 味 して い る。 次 節 で は,プ ー トス トラ ップ 法 に よ っ て精 度 の 推 定 を行 う方 法 を
示 す 。
3ブ ー トス トラ ップ 法
Stein型 推 定 量 に基 づ く決 定係 数R"2の ブ ー トス トラ ップ 法 に よ る推 定 手 順 は 以 下 の 通 り
で あ る。
(1)yとXの デ ー タ が 与 え られ る と,β 。 と β のOLS推 定 値 を計 算 す る こ とが で きる:
b。=勇b=S-1X'y。b。 とbを 使 い,残 差 ペ ク トルe;y-lb。-Xろ を計 算 す る。
(2a)パ ラメ トリ ッ ク ・プ ー トス トラ ップ の場 合:eを 使 い σ2のOLS推 定 値 を計 算 す る:
s2=e'e/(n-k-1)。 平 均lb。+Xb,分 散 共 分 散 行 列s21nの 多 変 量 正 規 分 布 か ら大 き さnの
正 規 乱 数a,∂2,…,6.を 生 成 し,yの ブ ー トス トラ ップ 標 本 を作 る:yB==lbo+Xb+属 た だ し
6=(診1,22,….幻'。YBを 使 い,β 。と β の ブ ー トス トラ ップ推 定 値 を計 算 す る:b。 二鈎,あ;
S一工X'動。 この と き,ブ ー トス トラ ップ 残 差 ベ ク トル はeB=YB-16。-xS.で あ る。
(2b)ノ ンパ ラ メ ト リ ック ・プ ー トス トラ ップ の 場 合:ま ず,Wu(1986)の 指 摘 に従 っ て 残
差 ベ ク トル を修 正 して[n/(η 一 々-1)]1'2eと す る。 こ の修 正 さ れ た残 差 ベ ク トル か ら,復 元
抽 出 に よ っ て大 き さnの 標 本21,22,…,亀 を無 作 為 に抽 出 す る。 パ ラ メ ト リッ ク ・プ ー トス
トラ ップ の 場 合 と同 様 に,2=(2、,22,…,2」'を 使 いyの プ ー トス トラ ップ 標 本YBと プ ー ト
ス トラ ップ 残 差 ベ ク トルeBを 計 算 す る。
(3)プ ー トス トラ ップ 推 定 値b.と プ ー トス トラ ップ 残 差eBを 使 い,ま ずStein型 推 定 量
の プ ー トス トラ ップ 推 定 値 を計 算 す る。ノb9-(1-flf'z・e.!?,e・9B
b'BSbB)6・(13)
Page 6
Stein型 推 定量 に基 づ く決 定係 数 のブ ー トス トラ ップ法 に よる精度 評価 33
次 に,R'2の ブ ー トス トラ ップ 推 定 値 を計算 す る。
う蒼'sう着R毒2=(14)
b蒼'Sb毒+eB'eB
(4)上 記 の ス テ ップ(2)と(3)をB回 繰 り返 す と,R'zのB個 の プ ー トス トラ ップ 推 定
値 が 得 られ る。 第i回 目の 繰 り返 しで得 られ たR'2の プ ー トス トラ ップ 推 定 値 を1～毒2(i)と
記 す と,R'2の 最 終 的 な ブ ー トス トラ ップ推 定値 とそ の標 準 誤差 が
π52一論 喜・ω
瞬2)一[8≒ ゑ(蜘 一副'!2
(15)
(16)
と して 得 られ る。
(5)R差2(1),R毒2(2),…,R差2(B)を 小 さい 方 か ら大 き さの 順 に並 べ,CLをB×(a/2)番 目
のR寧2の ブ ー トス トラ ップ 推 定 値,CuをB×(1-a/2)番 目の推 定 値 とす る と,(CL,Cu)が
100(1一 α)%信 頼 区 間 で あ る。
4モ ンテカルロ実験
Cramer(1987)に 従 って,決 定係数に対応する母数をR2の 確率極限として定義する。
噛 一β器 。・一論(17)
(17)か ら,Φ の値 が与 え られ る と,λ の値 が λ=nΦ/(1一 Φ〉 と して 得 られ るこ とが わ か る。
R"2の プ ー トス トラ ップ 推 定 値 とそ の 信 頼 区 間 の標 本 特 性 を調 べ る た め,モ ン テ カル ロ実験
を行 う。 実験 の 手 順 は 以 下 の 通 りで あ る。
(1)ま ず,n,kお よび Φ の 値 を定 め,λ=nΦ/(1一 Φ)か ら λ の値 を定 め る。S=X'Xは
正 値 定 符 号 で あ る の で,S-it2SS"'u2=1々 を満 た す 正 値 定 符 号行 列Sit2が 存 在 す る。 ベ ク トル
γ を γ=Sl'2β とす る と,γ'γ=β'Sp=σ2λ とな る。 こ こで,一 般 性 を失 わ ず に σ2=1と お く
こ とが で きる 。こ の と き,γ'γ=λ とな る。々と λ の 値 は す で に定 め られ て い るの で,γ の 第
i要 素 を γi=(λ/k)1'2と と る こ とが で き る。 す な わ ち,こ の 実 験 で は,γ の す べ て の 要 素 が
等 し くな る よ うに 設 定 され て い る。γ の す べ て の要 素 が 定 め ら れ る と,ベ ク トル β は β=
S『1'2γか ら定 め ら れ る。 な お,こ の 実 験 で は,定 数 項 は1に 設 定 され て い る(βo=1)。
(2)Presseta1.(1986)で 示 さ れ た標 準 正 規 乱 数 生 成 プ ログ ラ ム を使 って 生 成 され た値 を
平 均 か らの 偏 差 形 に 変 換 した もの を独 立 変 数(X)の 値 とす る。な お,独 立 変 数 の 値 は,モ ン
テ カル ロ実 験 の 各 繰 り返 しの 中 で は 一 定 と した。
(3)大 き さnの 標 準 正 規 乱 数 ε1,ε2,…,εnを 生 成 し,こ の 標 準 正 規 乱 数 を使 って 従 属 変
Page 7
表1.ブ ー トス トラップ法 に よるR2の 平均 と標 準 誤差
Exact Parametrict Non-Parametric
々 η Φ MeanS.E. MeanS.E. MeanS.E.
3200,333
0,500
0,667
0,900
400,333
0,500
0,667
0,900
800,333
0,500
0,667
0,900
7200,333
0,500
0,667
0,900
400,333
0,500
0,667
0,900
800,333
0,500
0,667
0,900
0.43490.1520
0.57870.1301
0.72260.0929
0.91890.0286
0.38250.1096
0.53840.0946
0.69430.0681
0.90940.0213
0.35740.0781
0.51900.0677
0.68050.0489
0.90470.0154
0.57620.1419
0.68400.1165
0.79200.0815
0.93910.0248
0.45110.1074
0.58970.0907
0.72830.0646
0.91940.0201
0.39120.0775
0.54430.0665
0.69730.0478
0.90970.0150
0,47950.1396
0.60600.1197
0.73740.0869
0.91830.0287
0,40490.1049
0.55160.0910
0.70030.0663
0.90980.0212
0.37310.0761
0.52580.0664
0.68210.0485
0.90470.0154
0.65380.1209
0.73120.0997
0.81600.0717
0.94150.0238
0.50880.0995
0.62060.0842
0.74210.0611
0.92040.0198
0.42150.0748
0.56080.0642
0.70710.0462
0.91030.0149
0.48030.1387
0.59370.1200
0.73570.0847
0.91780.0272
0.40990.1041
0.55160.0903
0.69980.0652
0.90880.0206
0.37050.0760
0.52730.0660
0.68300.0479
0.90470.0151
0.65680.1194
0.72800.0993
0.81260.0717
0.94140.0228
0.50750.0990
0.61840.0841
0.74080.0606
0.92130.0190
0.41870.0747
0.56340.0634
0.70710.0459
0.90950.0148
数 の 値 をy=4β 。十Xp十 ε と して生 成 した 。た だ し,β 。=1,ε=(ε 、,ε2,…,ε。)'。生 成 され た
デ ー タ(y,X)を 使 っ てR2とR*2の プ ー トス トラ ップ 推 定 値,そ の標 準 誤 差 お よび95%信
頼 区 間 を計 算 した 。ただ し,プ ー トス トラ ップ 推 定 の繰 り返 し数 は1,000回 で あ る(B;1000)。
(4)ス テ ップ(3)を1,000回 繰 り返 し,R2とR'2の ブ ー トス トラ ップ 推 定値,そ の標 準
誤 差 お よび95%信 頼 限 界 の平 均 を とっ た もの が,モ ンテ カ ル ロ 実験 に よ っ て生 成 され た経 験
値 で あ る。
モ ンテ カ ル ロ 実 験 で 使 用 され た パ ラ メ ー タ 値 は た=3,7,n==20,40,80お よび Φ=0.333,
Page 8
表2.プ ー トス トラ ップ法 に よるR申2の 平均 と標 準誤 差
Exact Parametrict Non・Parametric
々 η Φ MeanS,E, MeanS.E, MeanS.E.
3200,333
0,500
0,667
0,900
400,333
0,500
0,667
0,900
800,333
0,500
0,667
0,900
7200,333
0,500
0,667
0,900
400,333
0,500
0,667
0,900
800,333
0,500
0,667
0,900
0.39920.1684
0,55780.1424
0.71340.0991
0.91810.0291
0.36230.1163
0.52690.0992
0.68920.0704
0.90890.0215
0.34680.0806
0.51300.0694
0。67790.0497
0.90440.0155
0.43490.2148
0.59850.1758
0.75460.1116
0.93610.0273
0.35870.1385
0,53590.1139
0.70470.0760
0.91740.0211
0.34010.0896
0.51510.0749
0.68450.0519
0.90860.0154
0.44860.1531
0,58670.1304
0.72830.0927
0.91740.0294
0.38580.1109
0.54040.0954
0.69520.0686
0.90930.0214
0.36290.0784
0.51990.0680
0,67950.0493
0.90440.0155
0.55190.1795
0.66460.1449
0.78340.0969
0.93830.0265
0.43250.1265
0.57300.1045
0.71990.0717
0.91840.0208
0.37470.0860
0.53320.0721
0.69470.0501
0.90920.0152
0.44930.1522
0.57320.1308
0.72650.0903
0.91690.0278
0.39110.1101
0.54040.0946
0.69460.0674
0.90830.0208
0.36020.0784
0.52140.0676
0.68040.0487
0.90440.0152
0.55590.1770
0.66000.1445
0.77880.0971
0.93820.0253
0.43080.1258
0.57020.1043
0.71850.0710
0.91930.0200
0,37150.0859
0.53610.0711
0.69470.0498
0.90830.0152
0.500,0.667,0.900で あ る。モ ンテ カ ル ロ実 験 は,FORTRAN言 語 を使 用 して パ ー ソナ ル ・
コ ン ピュ ー タ 上 で 行 わ れ た。 実験 結 果 が表1か ら表4に 示 され て い る。
表1と 表2は,パ ラメ トリ ッ ク ・ブ ー トス トラ ップ 法 お よび ノ ンパ ラメ トリ ック ・プ ー ト
ス トラ ップ 法 に よ っ て推 定 され たR2とR'2の 平均 お よび標 準 誤 差 を示 して い る。 た だ し,
表 中の"Exact"は,厳 密 な モ ー メ ン トの 公 式(12)に 基 づ い て 計 算 され た 平 均 と標 準 誤差 で あ
る。 表1と 表2か ら,パ ラ メ ト リッ ク ・プ ー トス トラ ップ法 お よび ノ ンパ ラ メ ト リッ ク ・プ ー
トス トラ ップ法 に よっ て推 定 され たR2とR"2の 平 均(Mean)お よび 標 準 誤差(S,E.)は
Page 9
表3.ブ ー トス トラ ップ法 に よ るR2の95%信 頼 区間
Parametrict Non・Parametric
々 η Φ 6LO〔1 6L6σ
3
7■
20
40
80
20
40
80
0,333
0,500
0,667
0,900
0,333
0,500
0,667
0,900
0,333
0,500
0,667
0,900
0,333
0,500
0,667
0,900
0,333
0,500
0,667
0,900
0,333
0,500
0,667
0,900
0.20570.7390
0.35400.8146
0.54650.8818
0.85360.9644
0.20220.6070
0.36490.7181
0,56000.8174
0.86420.9463
0.22600.5210
0.39140.6500
0.58160.7704
0.87240.9323
0.39510.8593
0.51140.8946
0.65380.9301
0.88680.9783
0。30900.6939
0.44520.7715
0.61150.8487
0.87750.9543
0.27460.5655
0.43060.6803
0,61110.7910
0.87910.9369
0.21080.7404
0.34630.8075
0.55480.8808
0.85910.9638
0.20880.6105
0.36770.7177
0.56320.8163
0.86530.9452
0.22360.5188
0.39410.6508
0.58440.7710
0.87330.9321
0.40370.8615
0.51220.8932
0。65390.9288
0.89060.9781
0.30940.6925
0.44470.7701
0.61310.8478
0.88080.9545
0.27250.5626
0.43500.6816
0.61230.7908
0.87870.9363
か な り厳 密 な 値 に近 い の で,ブ ー トス トラ ップ 法 は有 効 に機 能 して い る よ うに思 わ れ る。 パ
ラ メ ト リッ ク ・ブ ー トス トラ ップ 法 に よる推 定値 とノ ンパ ラ メ ト リッ ク ・プ ー トス トラ ップ
法 に よ る推 定 値 に は 大 き な差 は見 られ な い が,全 体 と して 見 る と,パ ラ メ トリ ック ・プ ー ト
ス トラ ップ法 に よ る推 定 値 の 方 が 僅 か に厳 密 な値 に近 い よ うに思 わ れ る。Φ の値 が 小 さ い と
き(例 えば,Φ=0,333),ブ ー トス トラ ップ 法 に よ る平 均 の 推 定値 は厳 密 な値 よ りも大 き く,
逆 に標 準 誤差 の 推 定値 は厳 密 な値 よ り も小 さ くな っ て い る。
表1か ら,R2に は か な りの上 方 バ イ ア ス が あ る こ とが 分 か る。特 に,nに 比 してkが 大 き
Page 10
Stein型 推 定量 に基づ く決 定係 数 のプ ー トス トラ ップ法 に よる精 度 評価
表4.ブ ー トス トラ ップ法 に よるR'2の95%信 頼 区間
Parametrict Non-Parametric
ん π Φ 6L6び o乙6σ
3200,333
0,500
0,667
0,900
400,333
0,500
0,667
0,900
800,333
0,500
0,667
0,900
7200,333
0,500
0,667
0,900
400,333
0,500
0,667
0.900'
800,333
0,500
0,667
0,900
0。15080.7312
0.30920.8106
0.52250.8802
0.85100.9643
0.17080.5987
0,34360.7138
0.54950.8156
0.86320.9461
0.21080.5151
0.38190.6468
0.57710.7690
0.87200.9322
0,17280.8436
0.33230.8858
0.55280.9262
0.87620.9780
0.17840.6644
0.35080.7551
0.56340.8415
0.87280.9537
0.20520.5390
0.38550.6659
0.58980.7849
0.87710.9364
0.15590.7327
0.30110.8030
0.53140.8791
0.85670.9637
0.17790.6023
0.34650.7134
0.55290.8145
0.86430.9451
0.20830.5128
0.38470.6476
0.57990.7696
0.87290.9320
0.18610.8462
0.33400.8841
0.55250.9248
0.88070.9778
0.17980.6626
0,35020.7534
0,56560.8406
0,87640.9538
0.20280.5358
0.39060.6674
0.59120.7847
0.87670.9357
く,か つ Φ が 小 さ い場 合(例 え ば,n=20,々=7,Φ=0.333),バ イ ア ス は 相 当大 きい。 ま
た,表2は,Stein型 推 定 量 を使 って 決 定 係 数 を計 算 す れ ば,バ イ ア ス は残 る もの の か な り修
正 さ れ る こ と を示 して い る。 しか し,標 準 誤 差 はR宰2方 がR2よ り大 き くな るの で,バ イ ア
ス を小 さ くす る と標 準 誤差 が 大 き くな る とい う トー レ ドオ フ が存 在 す る。 厳 密 な平 均 に上 方
バ イ ア ス が あ るの で,プ ー トス トラ ップ 法 に よ る平 均 の 推 定 値 に も 当然 上 方 バ イ ア ス が存 在
す る 。
表3と 表4は,R2とR'2の パ ラ メ ト リッ ク お よび ノ ンパ ラ メ トリ ッ ク ・プ ー トス トラ ップ
Page 11
法 に よ っ て推 定 され た95%信 頼 区 問 を示 して い る。 ただ し,CLは 信 頼 下 限,Cuは 信 頼 上 限 で
あ る。R*2の 分 布 関 数 の 導 出 は で きな いの で,厳 密 な 信 頼 区 間 は示 され て い な い 。(R2の 厳
密 な信 頼 区 間 につ い て は,Ohtani(2000)参 照 。)信 頼 区 間 に 関 して も,パ ラ メ トリ ック ・プ ー
トス トラ ップ 法 に よ る推 定 値 とノ ンパ ラメ トリ ック ・プ ー トス トラ ップ 法 に よ る推 定 値 に は
大 きな差 は 見 られ な い 。 平 均 に上 方バ イ ア スが あ るの で,信 頼 区 間 も上 方 に 偏 って い る よ う
に思 わ れ る。特 に,nに 比 してkが 大 き く,か つ Φ が 小 さい 場 合(例 えば,n=20,fe;7,
Φ==O.333),バ イ ア ス は相 当大 き く,R2の95%信 頼 区 間 は Φ の真 値 を含 ん で い な い 。しか し,
R'2の 場 合 に はバ イ ア ス が 修 正 され るの で,こ の よ う な こ とは起 こ っ て い な い。
η に比 して んが 大 き く,か つ Φ が 小 さい 場 合 に は,Φ の 真 値 が小 さ い に もか か わ らず,信
頼 区 間 の上 限 はか な り大 き くな り う る。例 え ば,n=20,々=7,Φ=0.333の と き,信 頼 上 限
は約0.85と な る。 この こ と は,nに 比 してkが 大 きい場 合 に は,例 えR2あ る いはR'2の 推
定値 が か な り大 き くて も,Φ の真 値 は小 さ い可 能性 が あ る こ と を示 して い る。従 っ て,プ ー
トス トラ ップ 法 に よ っ て 区 間推 定 を行 い,信 頼 下 限 を確 認 す る こ とは,推 定 され た 回 帰 式 の
当 て は ま りの 良 さ を判 断 す る上 で 意 味 の あ る情 報 を もた らす もの と考 えち れ る。た だ し,η に
比 して 々が大 き く,か つ Φ が 小 さい 場 合 に は,R2の 信 頼 区 閲 は真 値 を含 む とは 限 らな い の
で,R2と と も にR*2に 基 づ く区 間 推 定 を行 う こ と も意 味 の あ る こ とで あ る。
注
*本 稿 は,科 学 研究 費補 助金(基 盤 研 究(C)(2)課 題 番 号13630032)に よ る研 究成果 の一部 で あ
る。
参 考 文 献
Adkins, L. C. (1992), Finite sample moments of a bootstrap estimator of the James-Stein rule , Econometric Reviews, 11, 173-193.
Brownstone, D. (1990), Bootstrapping improved estimators for linear regression models ,
Journal of Econometrics, 44, 171-187.
Carrodus, M. L. and D. E. A. Giles (1992), The exact distribution of R2 when regression dis-
turbances are autocorrelated, Economics Letters, 38, 375-380.
Chi, X. E. and G. G. Judge (1985), On assessing the precision of Stein's estimator , Economics Letters, 18, 143-148.
Cramer, J. S. (1987), Mean and variance of R2 in small and moderate samples , Journal of Econometrics, 35, 253-266.
Efron, B. (1979), Bootstrap methods: another look at the jackknife, Annals of Statistics , 7, 1- 26.
Helland, I. S. (1987), On the interpretation and use of R2 in regression analysis , Biometrics,
43, 61-69.
Page 12
James, W. and C. Stein (1961), Estimation with quadratic loss, Proceedings of the Fourth
Berkeley Symposium on Mathematical Statistics and Probability 1 (Berkeley, University
of California Press), 361-379.
Koerts, J. and A. P. J. Abrahamse (1970), The correlation coefficient in the general linear
model, European Economic Review, 1, 401-427.
Meepagala, G. (1992), The small sample properties of R2 in a misspecified regression model
with stochastic regressors, Economics Letters, 40, 1-6.
Ohtani, K. (1993), Small sample properties of R2 based on the Stein-rule estimator in a
misspecified linear regression model, The Economic Studies Quarterly, 44, 263-268.
Ohtani, K. (1994), The density functions of R2 and R2, and their risk performance under
asymmetric loss in misspecified linear regression models, Economic Modelling, 11, 463-471.
Ohtani, K. (2000), Bootstrapping R2 and adjusted R2 in regression analysis, Economic Modell-
ing, 17, 473-483.
Ohtani, K. and H. Hasegawa (1993), On small sample properties of R2 in a linear regression
model with multivariate t errors and proxy variables, Econometric Theory, 9, 504-515.
Press, S. J. and A. Zellner (1978), Posterior distribution for the multiple correlation coeffi-
cient with fixed regressors, Journal of Econometrics, 8, 307-321.
Press, W. H., S. A. Teukolsky, W. T. Vetterling and B. P. Flannery (1986), Numerical Recipes
(Cambridge, Cambridge University Press).
Rencher A. C. and F. C. Pun (1980), Inflation of R2 in best subset regression, Technometrics,
22, 49-53.
Srivastava, A. K. and Ullah, A. (1995), The coefficient of determination and its adjusted
version in linear regression models, Econometric Reviews, 14, 229-240.
Stein, C (1956), Inadmissibility of the usual estimator for the mean of a multivariate normal
distribution, Proceedings of the Third Berkeley Symposium on Mathematical Statistics and
Probability (Berkeley, University of California Press), 197-206.
Wu, C. F. J. (1986), Jackknife, bootstrap and other resampling methods in regression analysis,
Annals of Statistics, 14, 1261-1295.
Yi, G. (1991), Estimating the variability of the Stein estimator by bootstrap, Economics
Letters, 37, 293-298.
