Conditional Expectation

[Khoa Tran]

I remember that it took me weeks to understand this concept (in the measure-theoretic sense) and weeks later to forget it. Today, a student (undergraduate but pretty good at real analysis) asked me to explain this concept to him. After my blah blah with examples for awhile, he said "I think I got it now" but I saw him getting more confused.

So it's a good chance for me to post it here as an FAQ: how do you explain Conditional Expectation intuitively while keeping the rigor?

[shinichi9htv]

Khoa giải thích thế nào, viết lên anh em tham khảo phát nào :">

[Khoa Tran]

I started by the standard definition (in every textbook): is -measurable and , the 2 integrals (you know what I mean) over A are the same.

The student looked confused, which I expected. I then gave a simple discrete example: if Y is this, the expectation of X is blah1; if Y is that, the expectation of X is blah2. So the expectation of X maps every event generated by Y to a value that depends on X. We can't go through every single occurrence in the continuous regime, so we have to twist our thinking a little bit: E[X] is sigma(Y)-measurable (since the distribution of E[X] depends solely on Y) and blah blah

The guy said "aha" but when I gave a continuous example, he again found it hard to imagine (actually, I was in the same situation before).

So you know the story.

[drew]

Đây là cách mà tớ thường hình dung về conditional expectation, và giúp tớ rất nhiều.
Expectation E[X] thật ra là trung bình của X trên một tập hợp nào đấy. Kiểu như điểm của lớp là 7, 7, 10 thì trung bình là 8.
Nếu có thêm biến (cố) Y, và có các sự kiện của nó. Với mỗi sự kiện của Y, E[X|Y] là trung bình của X ứng với sự kiện đó.
Chẳng hạn Y chia không gian ra thành các tập hợp con A1, A2,..., trên mỗi tập hợp, giá trị của Y là giống nhau. Giá trị của E[X|Y] trên từng tập hợp sẽ là trung bình của X trên tưng cái đấy. Cụ thể trên A1 = {w1, w2, ..., wn}, Y(w1) = Y(w2) = ... = Y(wn), thì E[X|Y] (w1) = ... = E[X|Y] (wn) = (X(w1) + ... + X(wn)) / n (chú ý là điều này đồng thời cũng giải thích "tại sao" E[x|Y] là đo dược trên sigma(Y), anyway...).
Một ví dụ trực quan, Y là sự kiện trời mưa hay không, X là số cá đi câu được. Giả sử số cá câu được có thể là 1, 2, 3 hoặc 4. Trung bình E[X] = 10 / 4 = 2.5, khi có Y xuất hiện, giả sử nếu mưa thì câu được trên 2 con cá, tức là 3 hoặc 4, nếu không mưa thì chỉ câu được 1 hoặc 2. E[X|Y] = 3.5 trên sự kiện trời mưa và 1.5 trên sự kiện trời không mưa.
HTH.

[YADD]

The name "conditional expectation" is suggestive enough, isn't it?

Khoa, if you happened to TA the dude, just some intuitive examples would work. Were he able to understand sigma-algebra or filtration, he wouldn't have asked for your help at the first place, I guess.

[drew]

Cái này tớ không đồng ý, kể cả khi nắm vững hoàn toàn các khái niệm sigma đại số, filtration, etc., việc nắm được khái niệm conditional expectation là không đơn giản. Tất nhiên ý tớ nói "nắm" ở đây có nghĩa là hiểu được bản chất, biến khái niệm đấy thành một phần của mình, như là bảng cửu chương vậy. Chứ đơn thuần để đọc định nghĩa hiểu được nó nói gì (một cách toán học) và kể cả làm hết các thể loại bài tập ứng dụng (mà không hề có chút trực giác về nó) thì có khó gì đâu, thật ra thì chính tớ cũng đã trải qua điều này.

[mike1986]

Trong cách hiểu về Expectation thì có cách hiểu hình học (thông qua phép trực giao) làm em thấy mình oải nhất T_T Nhưng hình như ai hình dung tốt thì khá tốt cho việc hiểu thông qua measure-theoretic sense

[nguyenxuanson]

A simple question: it is well know that if X, Y are independent variables and their expectation exist then
E(XY)=E(X)E(Y). Does this result carry over to conditional expectation? i.e E(XY|F)=E(X|F)E(Y|F) with a certain sigma field F.

[mike1986]

Independent is based on sigma-algebra ^_^ so that if they are independent, E(XY|F)=E(X|F)E(Y|F) holds.

[nguyenxuanson]

it is just untrue, try to find a counter example.