Разликата между P (A | B) и пределна вероятност P (A) зависи от разпределенията на A и B? Например, обикновено научавам повече, ако B е непрекъснат и експоненциален срещу дискретен и еднообразен?


Отговор 1:

[Редактиране: 17:33 EST - Съжалявам, бързах, така че бях помия с отговора си, коригирах няколко съмнителни моменти, като извикване на метриката на KL, когато не е в строг смисъл е едно]

-Декларация за отговорност - Предполагам, че се интересувате от отношенията P (A) и P (A | B) и се опитвате да проверите дали P (A) е "близко" до P (A | B) ("разликата" във вашия въпрос ). Не знаете формата на P (A | B), но знаете формата на P (A) и P (B)

Вашето предположение за моделиране е, че P (B) е разпределение на определена форма и че P (A) е разпределение на определена форма. Питате дали можете:

1) изчисляване на условното P (A | B) за произволен P (A) и P (B): - Като цяло за произволна форма на разпределение на маргинали не казва много за формата на условното, така че отговорът е не.

2) изчислете разликата между P (A | B) и P (A), като знаете само P (A) и P (B), без допълнителни предположения за моделиране:

Правилният показател (добре, не е истински показател, но полезен все пак) на различието в разпределението е KL разминаване, така че за да го изчислите, трябва да знаете и двете разпределения, които искате да сравните.

Тъй като не знаете P (A | B), не можете да изчислите разликата.