WikiDer > Скручивающие свойства

Эта статья включает в себя список общих Рекомендации, но он остается в основном непроверенным, потому что ему не хватает соответствующих встроенные цитаты. Пожалуйста, помогите улучшать эта статья введение более точные цитаты. (Сентябрь 2009 г.) (Узнайте, как и когда удалить этот шаблон сообщения)

Эта статья включает встроенные цитаты, но они не правильно отформатирован. Пожалуйста улучшать эта статья исправляя их. Ссылка в скобках была устарел; преобразовать в сокращенные сноски. (Октябрь 2020) (Узнайте, как и когда удалить этот шаблон сообщения)

Скручивающие свойства в общих чертах связаны со свойствами образцов, которые идентифицируют со статистикой, подходящей для обмена.

Описание

Начиная с образец ${ Displaystyle {x_ {1}, ldots, x_ {m} }}$ наблюдается с случайная переменная Икс имея данный закон распределения с неустановленным параметром, a параметрический вывод проблема состоит в вычислении подходящих значений - назовите их оценки - этого параметра именно по образцу. Оценка подходит, если замена ее неизвестным параметром не приведет к серьезным повреждениям в следующих вычислениях. В алгоритмический вывод, пригодность оценки выражается в совместимость с наблюдаемым образцом.

В свою очередь, совместимость параметров - это мера вероятности, которую мы выводим из распределения вероятностей случайной величины, к которой относится параметр. Таким образом мы идентифицируем случайный параметр Θ, совместимый с наблюдаемой выборкой. механизм отбора проб ${ Displaystyle M_ {X} = (г _ { theta}, Z)}$, смысл этой операции заключается в использовании Z закон распределения семян для определения Икс закон распределения для данного θ, и закон распределения given при заданном Икс образец. Следовательно, мы можем вывести второе распределение непосредственно из первого, если мы сможем связать области выборочного пространства с подмножествами Θ поддерживать. Говоря более абстрактно, мы говорим о скручивающих свойствах выборок со свойствами параметров и отождествляем первые со статистикой, подходящей для этого обмена, поэтому обозначая хорошее поведение w.r.t. неизвестные параметры. Операционная цель - написать аналитическое выражение кумулятивная функция распределения ${ Displaystyle F _ { Theta} ( theta)}$, в свете наблюдаемого значения s статистики S, как функция S закон распределения, когда Икс параметр точно равен θ.

Метод

Учитывая механизм отбора проб ${ Displaystyle M_ {X} = (г _ { theta}, Z)}$ для случайной величины Икс, мы моделируем ${ Displaystyle { boldsymbol {X}} = {X_ {1}, ldots, X_ {m} }}$ быть равным ${ Displaystyle {г _ { theta} (Z_ {1}), ldots, g _ { theta} (Z_ {m}) }}$. Ориентация на релевантную статистику ${ Displaystyle S = h_ {1} (X_ {1}, ldots, X_ {m})}$ для параметраθ, главное уравнение гласит

${ Displaystyle s = час (g _ { theta} (z_ {1}), ldots, g _ { theta} (z_ {m})) = rho ( theta; z_ {1}, ldots, z_ {m}).}$

Когда s это хорошая статистика относительно параметра, мы уверены, что монотонная связь существует для каждого ${ displaystyle { boldsymbol {z}} = {z_ {1}, ldots, z_ {m} }}$ между s и θ. Мы также уверены, что Θ как функция ${ displaystyle { boldsymbol {Z}}}$ для данного s, является случайной величиной, так как основное уравнение предоставляет возможные решения, не зависящие от других (скрытых) параметров.^[1]

Направление однообразия определяет для любого ${ displaystyle { boldsymbol {z}}}$ связь между событиями типа ${ displaystyle s geq s ' leftrightarrow theta geq theta'}$ или же наоборот ${ displaystyle s geq s ' leftrightarrow theta leq theta'}$, куда ${ displaystyle s '}$ вычисляется по главному уравнению с ${ displaystyle theta '}$. В случае, если s принимает дискретные значения, первое отношение меняется на ${ displaystyle s geq s ' rightarrow theta geq theta' rightarrow s geq s '+ ell}$ куда ${ displaystyle ell> 0}$ это размер s зерно дискретизации, то же самое с противоположной тенденцией монотонности. Возобновляя эти отношения на всех семенах, для s непрерывно у нас есть либо

${ Displaystyle F _ { Theta mid S = s} ( theta) = F_ {S mid Theta = theta} (s)}$

или же

${ Displaystyle F _ { Theta mid S = s} ( theta) = 1-F_ {S mid Theta = theta} (s)}$

За s дискретный мы имеем интервал, где ${ Displaystyle F _ { Theta mid S = s} ( theta)}$ ложь из-за ${ displaystyle ell> 0}$.Все логическое изобретение называется извилистый аргумент. Порядок его реализации следующий.

Алгоритм

Построение закона распределения параметров с помощью скручивающего аргумента

Учитывая образец ${ Displaystyle {x_ {1}, ldots, x_ {m} }}$ от случайной величины с неизвестным параметром θ, Определите статистику хорошего поведения S для параметра θ и его зерна дискретизации ${ displaystyle ell}$ (если есть); решите монотонность против; вычислить ${ Displaystyle F _ { Theta} ( theta) in left (q_ {1} (F_ {S | Theta = theta} (s)), q_ {2} (F_ {S | Theta = theta} (s)) right)}$ куда: если S непрерывно ${ displaystyle q_ {1} = q_ {2}}$ если S дискретно ${ Displaystyle q_ {2} (F_ {S} (s)) = q_ {1} (F_ {S} (s- ell)}$ если s не уменьшается с θ ${ Displaystyle q_ {1} (F_ {S} (s)) = q_ {2} (F_ {S} (s- ell)}$ если s не увеличивается с θ и ${ displaystyle q_ {i} (F_ {S}) = 1-F_ {S}}$ если s не убывает с θ и ${ displaystyle q_ {i} (F_ {S}) = F_ {S}}$ если s не увеличивается с θ за ${ displaystyle i = 1,2}$.

Замечание

Обоснование извилистых аргументов не меняется, когда параметры являются векторами, хотя некоторые сложности возникают при управлении совместным неравенством. Вместо этого сложность работы с вектором параметров оказалась ахиллесовой пятой подхода Фишера к фидуциальное распределение параметров (Фишер 1935). Также конструктивные вероятности Фрейзера (Фрейзер 1966), разработанные для той же цели, не рассматривают этот момент полностью.

Пример

За ${ displaystyle { boldsymbol {x}}}$ взят из гамма-распределение, в спецификации которого требуются значения параметров λ и k, аргумент скручивания можно сформулировать, следуя приведенной ниже процедуре. Учитывая значение этих параметров, мы знаем, что

${ displaystyle (к leq k ') leftrightarrow (s_ {k} leq s_ {k'}) { text {для фиксированного}} lambda,}$

${ displaystyle ( lambda leq lambda ') leftrightarrow (s _ { lambda'} leq s _ { lambda}) { text {для фиксированного}} k,}$

куда ${ displaystyle s_ {k} = prod _ {i = 1} ^ {m} x_ {i}}$ и ${ displaystyle s _ { lambda} = sum _ {i = 1} ^ {m} x_ {i}}$. Это приводит к совместной кумулятивной функции распределения

${ Displaystyle F _ { Lambda, K} ( lambda, k) = F _ { Lambda , mid , K = k} ( lambda) F_ {K} (k) = F_ {K , mid , Lambda = lambda} (k) F _ { Lambda} ( lambda).}$

Используя первую факторизацию и заменяя ${ displaystyle s_ {k}}$ с ${ displaystyle r_ {k} = { frac {s_ {k}} {s _ { lambda} ^ {m}}}}$ чтобы иметь распространение ${ displaystyle K}$ это не зависит от ${ displaystyle Lambda}$, у нас есть

${ Displaystyle F _ { Lambda , mid , K = k} ( lambda) = 1 - { frac { Gamma (км, lambda s _ { Lambda})} { Gamma (км)}} }$

${ Displaystyle F_ {K} (к) = 1-F_ {R_ {k}} (r_ {K})}$

с м обозначающий размер выборки, ${ displaystyle s _ { Lambda}}$ и ${ displaystyle r_ {K}}$ - наблюдаемая статистика (с индексами, обозначенными заглавными буквами), ${ Displaystyle Gamma (а, б)}$ то неполная гамма-функция и ${ Displaystyle F_ {R_ {k}} (r_ {K})}$ то H функция Фокса который может быть аппроксимирован гамма-распределение снова с соответствующими параметрами (например, оцененными через метод моментов) как функция k и м.

Совместная функция плотности вероятности параметров ${ displaystyle (K, Lambda)}$ гамма случайной величины.

Маргинальная кумулятивная функция распределения параметра K гамма-случайной величины.

С размером выборки ${ displaystyle m = 30, s _ { Lambda} = 72,82}$ и ${ displaystyle r_ {K} =}$ ${ displaystyle 4.5 times 10 ^ {- 46}}$, вы можете найти совместный p.d.f. гамма-параметров K и ${ displaystyle Lambda}$ слева. Маргинальное распределение K сообщается на рисунке справа.

Примечания

Рекомендации

• Фишер, М.А. (1935). «Фидуциальный аргумент в статистическом выводе». Анналы евгеники. 6 (4): 391–398. Дои:10.1111 / j.1469-1809.1935.tb02120.x. HDL:2440/15222.CS1 maint: ref = harv (связь)
• Фрейзер, Д.А.С. (1966). «Структурная вероятность и обобщение». Биометрика. 53 (1/2): 1–9. Дои:10.2307/2334048. JSTOR 2334048.CS1 maint: ref = harv (связь)
• Аполлони, В; Malchiodi, D .; Гайто, С. (2006). Алгоритмический вывод в машинном обучении. Международная серия по продвинутому интеллекту. 5 (2-е изд.). Аделаида: Мэджилл. Advanced Knowledge International