-
Notifications
You must be signed in to change notification settings - Fork 5
/
12.html
1537 lines (1420 loc) · 61.9 KB
/
12.html
1
2
3
4
5
6
7
8
9
10
11
12
13
14
15
16
17
18
19
20
21
22
23
24
25
26
27
28
29
30
31
32
33
34
35
36
37
38
39
40
41
42
43
44
45
46
47
48
49
50
51
52
53
54
55
56
57
58
59
60
61
62
63
64
65
66
67
68
69
70
71
72
73
74
75
76
77
78
79
80
81
82
83
84
85
86
87
88
89
90
91
92
93
94
95
96
97
98
99
100
101
102
103
104
105
106
107
108
109
110
111
112
113
114
115
116
117
118
119
120
121
122
123
124
125
126
127
128
129
130
131
132
133
134
135
136
137
138
139
140
141
142
143
144
145
146
147
148
149
150
151
152
153
154
155
156
157
158
159
160
161
162
163
164
165
166
167
168
169
170
171
172
173
174
175
176
177
178
179
180
181
182
183
184
185
186
187
188
189
190
191
192
193
194
195
196
197
198
199
200
201
202
203
204
205
206
207
208
209
210
211
212
213
214
215
216
217
218
219
220
221
222
223
224
225
226
227
228
229
230
231
232
233
234
235
236
237
238
239
240
241
242
243
244
245
246
247
248
249
250
251
252
253
254
255
256
257
258
259
260
261
262
263
264
265
266
267
268
269
270
271
272
273
274
275
276
277
278
279
280
281
282
283
284
285
286
287
288
289
290
291
292
293
294
295
296
297
298
299
300
301
302
303
304
305
306
307
308
309
310
311
312
313
314
315
316
317
318
319
320
321
322
323
324
325
326
327
328
329
330
331
332
333
334
335
336
337
338
339
340
341
342
343
344
345
346
347
348
349
350
351
352
353
354
355
356
357
358
359
360
361
362
363
364
365
366
367
368
369
370
371
372
373
374
375
376
377
378
379
380
381
382
383
384
385
386
387
388
389
390
391
392
393
394
395
396
397
398
399
400
401
402
403
404
405
406
407
408
409
410
411
412
413
414
415
416
417
418
419
420
421
422
423
424
425
426
427
428
429
430
431
432
433
434
435
436
437
438
439
440
441
442
443
444
445
446
447
448
449
450
451
452
453
454
455
456
457
458
459
460
461
462
463
464
465
466
467
468
469
470
471
472
473
474
475
476
477
478
479
480
481
482
483
484
485
486
487
488
489
490
491
492
493
494
495
496
497
498
499
500
501
502
503
504
505
506
507
508
509
510
511
512
513
514
515
516
517
518
519
520
521
522
523
524
525
526
527
528
529
530
531
532
533
534
535
536
537
538
539
540
541
542
543
544
545
546
547
548
549
550
551
552
553
554
555
556
557
558
559
560
561
562
563
564
565
566
567
568
569
570
571
572
573
574
575
576
577
578
579
580
581
582
583
584
585
586
587
588
589
590
591
592
593
594
595
596
597
598
599
600
601
602
603
604
605
606
607
608
609
610
611
612
613
614
615
616
617
618
619
620
621
622
623
624
625
626
627
628
629
630
631
632
633
634
635
636
637
638
639
640
641
642
643
644
645
646
647
648
649
650
651
652
653
654
655
656
657
658
659
660
661
662
663
664
665
666
667
668
669
670
671
672
673
674
675
676
677
678
679
680
681
682
683
684
685
686
687
688
689
690
691
692
693
694
695
696
697
698
699
700
701
702
703
704
705
706
707
708
709
710
711
712
713
714
715
716
717
718
719
720
721
722
723
724
725
726
727
728
729
730
731
732
733
734
735
736
737
738
739
740
741
742
743
744
745
746
747
748
749
750
751
752
753
754
755
756
757
758
759
760
761
762
763
764
765
766
767
768
769
770
771
772
773
774
775
776
777
778
779
780
781
782
783
784
785
786
787
788
789
790
791
792
793
794
795
796
797
798
799
800
801
802
803
804
805
806
807
808
809
810
811
812
813
814
815
816
817
818
819
820
821
822
823
824
825
826
827
828
829
830
831
832
833
834
835
836
837
838
839
840
841
842
843
844
845
846
847
848
849
850
851
852
853
854
855
856
857
858
859
860
861
862
863
864
865
866
867
868
869
870
871
872
873
874
875
876
877
878
879
880
881
882
883
884
885
886
887
888
889
890
891
892
893
894
895
896
897
898
899
900
901
902
903
904
905
906
907
908
909
910
911
912
913
914
915
916
917
918
919
920
921
922
923
924
925
926
927
928
929
930
931
932
933
934
935
936
937
938
939
940
941
942
943
944
945
946
947
948
949
950
951
952
953
954
955
956
957
958
959
960
961
962
963
964
965
966
967
968
969
970
971
972
973
974
975
976
977
978
979
980
981
982
983
984
985
986
987
988
989
990
991
992
993
994
995
996
997
998
999
1000
<!doctype html>
<html lang="ja">
<head>
<meta charset="utf-8">
<title>プログラマの為の数学勉強会</title>
<!-- For reveal.js -->
<link rel="stylesheet" href="lib/reveal/css/reveal.css">
<link rel="stylesheet" href="lib/reveal/css/theme/night.css">
<link rel="stylesheet" href="lib/reveal/lib/css/ir_black.css">
<!-- For Graphics -->
<link rel="stylesheet" href="css/graphics.css">
<style>
.reveal .chapter-title {
margin-top: 3em;
}
.reveal {
font-size: 32px;
line-height: 1.4em;
}
.reveal .slides {
text-align: left;
}
.reveal section img {
border: none;
background: 0;
margin-left: 1em;
margin-right: 1em;
box-shadow: none;
}
.reveal strong {
color: yellow;
}
.reveal sup {
font-size: 40%;
}
.reveal table {
margin-top: 0.5em;
margin-bottom: 0.5em;
border: 2px solid lightblue;
}
.reveal pre {
font-size: 0.7em;
}
.reveal pre code {
max-height: 600px;
}
.reveal .note {
font-size: 50%;
}
.reveal .controls div.navigate-up,
.reveal .controls div.navigate-down {
display: none;
}
.reveal .block {
border: solid 2px;
position: relative;
border-radius: 8px;
margin-top: 0.8em;
margin-bottom: 0.8em;
padding: 1em 0.8em 1em 0.8em;
}
.reveal .block:after {
content: "";
display: block;
clear: both;
height: 1px;
overflow: hidden;
}
.reveal .answer {
color: #111111;
}
.reveal .block h4 {
position: absolute;
top: -0.5em;
margin: 0 auto;
background: #111111;
font-weight: bold;
}
</style>
<!-- Setup libraries for RequireJS-->
<script src="lib/require.js"></script>
<script>
requirejs.config({
baseUrl: "js",
paths: {
d3: "../lib/d3/d3.v3.min",
numeric: "../lib/numeric-1.2.6",
MathJax: "https://cdnjs.cloudflare.com/ajax/libs/mathjax/2.7.1/MathJax.js?config=TeX-AMS_HTML"
},
shim: {
d3: { exports: "d3" },
numeric: { exports: "numeric" },
MathJax: { exports: "MathJax" }
}
});
</script>
<!-- Initialize MathJax -->
<script type="text/x-mathjax-config">
require(["MathJax"], function (MathJax){
MathJax.Hub.Register.StartupHook("AsciiMath Jax Config", function () {
var AM = MathJax.InputJax.AsciiMath.AM;
AM.symbols.push(
{input:"mathbi",tag:"mstyle",atname:"mathvariant",atval:"bold-italic",
output:"mathbi",tex:null,ttype:AM.TOKEN.UNARY}
);
});
MathJax.Hub.Config({
showProcessingMessages: false,
skipStartupTypeset: false,
tex2jax: {
inlineMath: [ ["\\(","\\)"] ],
displayMath: [ ["\\[","\\]"] ]
}
});
});
</script>
<script>
</script>
</head>
<body>
<div class="reveal">
<div class="slides">
<section style="text-align: center">
<h1> プログラマの為の<br>数学勉強会<br>第12回</h1>
<span>
(於)ワークスアプリケーションズ<br>
中村晃一<br>
2013年11月28日
</span>
</section>
<section>
<h2>謝辞</h2>
<p>
この会の企画・会場設備の提供をして頂きました<br>
㈱ ワークスアプリケーションズ様<br>
にこの場をお借りして御礼申し上げます。
</p>
</section>
<section>
<h2> この資料について </h2>
<p>
<ul>
<li> <a href="http://nineties.github.com/math-seminar">
http://nineties.github.com/math-seminar
</a>に置いてあります。 </li>
<li> SVGに対応したブラウザで見て下さい。主要なブラウザで古いバージョンでなければ大丈夫だと思います。</li>
<li> 内容の誤り、プログラムのバグは<a href="http://twitter.com/9_ties">@9_ties</a>かkoichi.nakamur AT gmail.comまでご連絡下さい。</li>
<li> サンプルプログラムはPython及びMaximaで記述しています。 </li>
</ul>
</p>
</section>
<section>
<h2 class="chapter-title"> 確率論入門 </h2>
</section>
<section>
<p>
今回から<strong>確率・統計</strong>分野に入ります。
</p>
<p>
最初に<strong>確率</strong>の基礎知識を確認しましょう。
</p>
</section>
<section>
<p>
単に「確率」と言ってもいくつかの解釈があります。具体的な問題で考えてみましょう。
</p>
<div class="block" style="border-color:pink;font-size:90%">
<p>
サイコロを振って\(1\)の目が出る確率が\(\frac{1}{6}\)であるというのはどういう事か？
<div align="center"> <img width="200" src="http://upload.wikimedia.org/wikipedia/commons/thumb/6/6d/Sixsided_Dice_inJapan.jpg/320px-Sixsided_Dice_inJapan.jpg"> </div>
</p>
</div>
</section>
<section>
<h2> 解釈1 </h2>
<ul>
<li class="fragment"> サイコロの目の出方は6通りであり,それらは同様に確からしい。 </li>
<li class="fragment"> 1の目が出るのはそのうちの1通りの場合である。 </li>
<li class="fragment"> 従って1の目が出る確率は
\[ \frac{1}{6} \]
である。 </li>
</ul>
<div class="block fragment" style="border-color:pink;font-size:90%">
<h4 style="color:pink"> 組合せ論的確率 </h4>
<p>
全ての起こりうる根元事象が\(n\)通りで同様に確かであるとする。
事象\(A\)を構成する根元事象が\(a\)通りならば,事象\(A\)の起こる確率は
\[ P(A) = \frac{a}{n} \]
である。
</p>
</div>
</section>
<section>
<p>
組合せ論的確率では<strong>「同様に確からしい」</strong>という条件が重要です。
</p>
<p class="fragment" data-fragment-index="1">
例えば,以下の様な計算はこの意味で妥当ではないと考えられます。
</p>
<div style="float:left" class="fragment" data-fragment-index="1">
<blockquote style="font-size:90%">
サイコロを振ったら「1が出る」か「1が出ない」の2通りの場合があるから,1の目がでる確率は\( \frac{1}{2} \)である
</blockquote>
</div>
</section>
<section>
<p>
ところが,そもそも何をもって「同様に確からしい」ということを判断出来るのでしょうか？
</p>
<p class="fragment">
これは純粋に数学的に取り扱える様な問題ではなさそうです。
例えばサイコロの例では,サイコロの形状や投げ方と言った物理的な状況を考えなければいけません。
</p>
</section>
<section>
<h2> 解釈2 </h2>
<ul>
<li class="fragment">
1の目が出る確率が\(\frac{1}{6}\)であるというのは,
サイコロを\(n\)回振ったら,\(\frac{n}{6}\)回程度1の目が出るという事である。
</li>
<li class="fragment">
振る回数を増やすほど以下の値は\(\frac16\)に近づいていくのである。
\[ \frac{\text{1の目が出た回数}}{\text{振った回数}} \]
</li>
</ul>
<div class="block fragment" style="border-color:pink;font-size:90%">
<h4 style="color:pink"> 統計的確率 </h4>
<p>
\(n\)回試行を行った時に,事象\(A\)が\(a\)回起こったとする。
\(A\)の起こる頻度
\[ \frac{a}{n} \]
が\(n\rightarrow\infty\)の時,ある定数に(ほとんど確実に)近づいていくならば,その値が\(A\)の起こる確率\(P(A)\)である。
</p>
</div>
</section>
<section>
<p>
「組合せ論的確率も統計的確率も結局同じ値になるんじゃないの？」と思った人もいると思います。統計的確率を実際に計算するのは困難なので,もしそうならありがたいです。これは後に<strong>大数の法則</strong>として説明されます。
</p>
<p class="fragment">
また,これらの値は客観的に定まるので<strong>客観的確率</strong>とも呼ばれます。<br>
</p>
<p class="fragment">
こういった個数・頻度を数える事に基づく確率の考え方を<strong>頻度主義</strong>とも言います。
</p>
</section>
<section>
<h2> 解釈3 </h3>
<ul>
<li class="fragment"> サイコロの1～6のいずれの目が出やすいのかはわからない。 </li>
<li class="fragment"> よって\(i\)の目が出るということの確信度\(P(i)\)を数値にするならば
\[ P(1) = P(2) = P(3) = P(4) = P(5) = P(6) \]
である。 </li>
<li class="fragment"> よって確信度の総和を\(1\)とするならば
\[ P(1) = \frac{1}{6} \]
である。 </li>
</ul>
<div class="block fragment" style="border-color:pink;font-size:90%">
<h4 style="color:pink"> 主観的確率 </h4>
<p>
事象\(A\)の起こる確率\(P(A)\)とは,事象\(A\)が起こるということの確信度(信念の度合い)を\(0\leq P(A)\leq 1\)で数量化したものである。
</p>
</div>
</section>
<section>
<p>
確率の主観的な解釈は数学者トーマス・ベイズの名をとって<strong>ベイズ主義</strong>とも呼ばれます。
</p>
<p class="fragment" data-fragment-index="1">
ベイズ主義では
</p>
<ul class="fragment" data-fragment-index="1">
<li> <strong>確率を考える主体によってその値が変わり得る</strong> </li>
<li> <strong>新たな情報を得る事でその値が変わり得る</strong> </li>
</ul>
<p class="fragment" data-fragment-index="1">
という点に注意しましょう。
</p>
<p class="fragment">
先ほどの\(\frac16\)という値は「出目の偏りについて何も情報がない」事から暫定的に求められた値です。実際にサイコロを振ってみて新たな情報を得ると,その値も変化していくでしょう。
</p>
</section>
<section>
<p>
サイコロの例だと主観確率という考え方が必要になる理由が分かりにくいと思いますので例を変えましょう。
</p>
<p class="fragment" data-fragment-index="1">
あるシステム上でユーザー毎に最適な広告を表示する仕組みを作りたいとしましょう。この場合,
<strong>\(A\)さんが商品\(X\)を購入してくれる確率\(P\)</strong>といったものを考える必要が生じます。
</p>
<div class="fragment" data-fragment-index="1" align="center"> <img width="300" src="fig/advertisement-suggestion.png"> </div>
<p class="fragment">
この\(P\)を頻度主義的な考え方で数量化するのは難しいでしょう。
</p>
<p class="fragment">
また\(A\)さんの新しい行動がある度に\(P\)の値も更新されるべきでしょう。
</p>
</section>
<section>
<h2> 本勉強会で学ぶ統計学 </h2>
<p>
以上,代表的な確率の解釈を紹介しました。
</p>
<ul>
<li> 客観確率(頻度主義)
<ul>
<li> 組合せ論的 </li>
<li> 統計的 </li>
</ul>
</li>
<li> 主観確率(ベイズ主義) </li>
</ul>
<p class="fragment" data-fragment-index="1">
土台とする確率論が異なれば,統計学の形も異なります。<br>
この勉強会では
</p>
<ol class="fragment" data-fragment-index="1">
<li> <strong style="font-size:120%">頻度主義に基づく推計統計学</strong> </li>
<li> <strong style="font-size:120%">ベイズ主義に基づくベイズ統計学</strong> </li>
</ol>
<p class="fragment" data-fragment-index="1">
をこの順番に学んでいきます。
</p>
</section>
<section>
<h2 class="chapter-title"> 公理的確率論 </h2>
</section>
<section>
<p>
続いて,確率の数学的な取り扱いについて説明します。
</p>
<p class="fragment" data-fragment-index="1">
これまで説明したいずれの確率解釈も純粋に数学的に取り扱う事の難しい概念を含んでいます。
</p>
<ul class="fragment" data-fragment-index="1">
<li> 組合せ論的解釈:「同様に確からしい」とは? </li>
<li> 統計的解釈: 「試行」とは? </li>
<li> ベイズ的解釈: 「確信度」とは? </li>
</ul>
<p class="fragment">
こういった哲学的な話題はこの勉強会では扱いません(私もよくわかりません)。
</p>
</section>
<section>
<h2> 公理的確率論 </h2>
<p>
そこで,「公理」という考え方が必要になります。
</p>
<ul>
<li class="fragment"> 確率などの概念は<strong>未定義語</strong>とする。 </li>
<li class="fragment"> 「もし\(P(A)\)を\(A\)の確率と呼ぶのならば,\(P\)はどういった性質を満たすべきか？」という事を<strong>公理</strong>として記述する。 </li>
<li class="fragment"> 公理に基いて確率論の数学体系を構築する。 </li>
</ul>
<p class="fragment" data-fragment-index="4">
具体的な確率の定義はいろいろあっても,確率論の公理さえ満たせばその体系で示された全ての定理が使用出来る事になります。
</p>
<div class="fragment" data-fragment-index="4" align="center"> <img width="700" src="fig/axiomatic_probability_theory1.png"> </div>
</section>
<section>
<h2> 事象 </h2>
<p>
<strong>事象</strong>は数学的には<strong>集合</strong>として表現します。
</p>
<p class="fragment">
「起こりうる全ての場合(<strong>全事象</strong>)」を表す集合\(\color{yellow}{\Omega}\)\((\neq\phi)\)を固定した上で,
個々の事象を\(\Omega\)の部分集合であるとして考えます。
</p>
<div class="fragment block" style="border-color:lightgreen;font-size:90%">
<h4 style="color:lightgreen"> 例 </h4>
<p>
サイコロを1つ振るという試行は,以下のように集合で表す事ができます。
</p>
\[
\begin{aligned}
\text{全事象} &:\ \Omega = \{1,2,3,4,5,6\} \\
\text{1の目が出るという事象$A$} &:\ A = \{1\} \\
\text{偶数の目が出るという事象$B$} &:\ B = \{2,4,6\}
\end{aligned}
\]
</div>
</section>
<section>
<p>
【注意】<br>
<p>
本来「任意の事象(事象とは？)を集合で表す(表すとは?)事が出来る」か否かといった事は数学的に議論出来る事ではありません。<br>
従って,
</p>
<blockquote style="font-size:90%">
\(\Omega\)を全事象を表す集合とする。
</blockquote>
<p>
みたいな言い方は良くなくて,単に
</p>
<blockquote style="font-size:90%">
\(\Omega\)は集合である。
</blockquote>
<p>
と言うべきです。
</p>
<p>
本資料の解説文では,理解を助ける為に前者の様な書き方を多用しますので注意してください。
</p>
</section>
<section>
<h2> 余事象 </h2>
<p>
「\(A\)が起こらない」という事象を\(A\)の<strong>余事象</strong>と言います。
</p>
<p>
数学的には,集合\(A\)の\(\Omega\)上での<strong>補集合</strong>
\[ A^c = \{x\in\Omega\ |\ x\not\in A\} \]
を\(A\)の余事象に対応する集合であると考える事ができます。
</p>
<div align="center"> <img width="400px" src="fig/set1.png"> </div>
</section>
<section>
<h2> 和事象 </h2>
<p>
「\(A,B\)のいずれかが起こる」という事象を\(A,B\)の<strong>和事象</strong>と言います。
</p>
<p>
数学的には,集合\(A,B\)の<strong>和集合</strong>
\[ A\cup B = \{x\in\Omega | x\in A\ \text{または}\ x\in B\} \]
を\(A,B\)の和事象に対応する集合であると考える事ができます。
</p>
<div align="center"> <img width="400px" src="fig/set2.png"> </div>
</section>
<section>
<h2> 積事象 </h2>
<p>
「\(A,B\)が共に起こる」という事象を\(A,B\)の<strong>積事象</strong>と言います。
</p>
<p>
数学的には,集合\(A,B\)の<strong>積集合</strong>
\[ A\cap B = \{x\in\Omega | x\in A\ \text{かつ}\ x\in B\} \]
を\(A,B\)の積事象に対応する集合であると考える事ができます。
</p>
<div align="center"> <img width="400px" src="fig/set3.png"> </div>
</section>
<section>
<p>
同様に,加算個の事象\(A_1,A_2,\cdots\)に対してもその和事象・積事象を考える事が可能であるとすれば,
対応する集合は
\[ \begin{aligned}
\bigcup_{i=1}^{\infty}A_i &= A_1\cup A_2\cup \cdots \\
\bigcap_{i=1}^{\infty}A_i &= A_1\cap A_2\cap \cdots
\end{aligned} \]
となります。
</p>
<p>
有限個の集合の和集合・積集合も
\[ \begin{aligned}
A_1\cup \cdots \cup A_n &= A_1\cup\cdots \cup A_n\cup\color{yellow}{\phi\cup\phi\cdots} \\
A_1\cap \cdots \cap A_n &= A_1\cap\cdots \cap A_n\cap\color{yellow}{\Omega\cap\Omega\cdots} \\
\end{aligned} \]
と表せますので,数学的には加算個の場合だけを考えれば十分です。
</p>
</section>
<section>
<div class="block" style="border-color:pink;font-size:90%">
<h4 style="color:pink"> ド・モルガンの法則 </h4>
<p>
集合\(A,B\)に対して
\[ (A\cup B)^c = A^c \cap B^c,\qquad (A\cap B)^c = A^c \cup B^c \]
が成り立つ。加算個の集合に対しては
\[ \left(\bigcup_{i=1}^{\infty} A_i\right)^c = \bigcap_{i=1}^{\infty}A_i^c,\qquad
\left(\bigcap_{i=1}^{\infty} A_i\right)^c = \bigcup_{i=1}^{\infty}A_i^c
\]
が成り立つ。
</p>
</div>
<p style="font-size:80%">
集合を事象と解釈するならば,\((A\cup B)^c = A^c \cap B^c\)という等式は,
「「\(A,B\)のいずれかが起こる」という事が起こらない」という事と
「\(A,B\)は共に起こらない」という事が同じ事象であるという意味になります。他の等式についても考えてみてください。
</p>
</section>
<section>
<p>
ド・モルガンの法則より
\[ A_1\cap A_2\cap \cdots = (A_1^c\cup A_2^c\cup \cdots)^c \]
という形で<strong>積集合は補集合・和集合で表せる</strong>事がわかります。
</p>
<p class="fragment">
積集合の記法は今後も使いますが,原理的には補集合・和集合のみで全ての数学的な議論を進める事ができるという事になります。
これは特に証明を行う場合に便利です。
</p>
</section>
<section>
<h2> 排反 </h2>
<p>
「\(A,B\)が共に起こることはない」とき,事象\(A,B\)は<strong>排反</strong>であると言います。
</p>
<p>
数学的には集合\(A,B\)が互いに素であること,つまり
\[ A\cap B = \phi \]
である事として表現する事が出来ると考えられます。
</p>
<div align="center"> <img width="400px" src="fig/set5.png"> </div>
</section>
<section>
<p>
さて,集合\(\Omega\)の部分集合のうち「事象」として考えたいものだけを集めた集合を\(\color{yellow}{\mathcal{F}}\)としましょう。
</p>
<div class="fragment block" style="border-color:lightgreen;font-size:80%">
<h4 style="color:lightgreen"> 例 </h4>
<p>
サイコロを1つ振るという試行の場合、\(\Omega=\{1,2,3,4,5,6\}\)として
\[ \begin{aligned}
\mathcal{F} &= 2^{\Omega} \\
&= \{\phi,\{1\},\{2\},\cdots,\{6\},\{1,2\},\{1,3\},\cdots,\{1,2,3,4,5,6\}\}
\end{aligned} \]
つまり\(\mathcal{F}=(\Omega\text{のべき集合})\)と置けば良いです。
</p>
</div>
</section>
<section>
<p>
今の例では,\(\Omega\)に対して
\[ \mathcal{F} = 2^{\Omega}\quad\text{($\Omega$の部分集合全てからなる集合)} \]
とおきましたが,こうでなければならない理由はありません。特に\(\Omega\)が無限集合の場合には\(\mathcal{F}=2^{\Omega}\)だと困る場合があります。
</p>
<div class="fragment block" style="border-color:lightgreen;font-size:90%">
<h4 style="color:lightgreen"> 例 </h4>
<p>
\(\mathcal{F}=2^{\Omega}\)でない有限集合での例を無理やり作ってみましょう。
</p>
<p> 「サイコロを振るけど,偶数か奇数かしか注目しない」というのならば
\[ \mathcal{F} = \{\phi, \{1,3,5\},\{2,4,6\},\{1,2,3,4,5,6\}\} \]
という集合を「事象の集合」として考える事ができます。
</p>
</div>
<p class="fragment">
ということで\(\mathcal{F}\)はある程度自由に取れるわけですが,全く自由というわけではありません。
</p>
</section>
<section>
<h2> 完全加法族 </h2>
<p> 集合\(\mathcal{F}\)は以下の条件を満たすようなものだけを考える事とします。 </p>
<div class="block" style="border-color:pink;font-size:90%">
<p>
集合\(\Omega\)のべき集合の部分集合\(\mathcal{F}\subset 2^{\Omega}\)が以下の条件を満たす時,
\(\mathcal{F}\)を\(\Omega\)上の<strong>完全加法族</strong>と言う。
</p>
\[ \begin{aligned}
1. &\mathcal{F} \neq \phi \\
2. &A\in\mathcal{F}\ \text{ならば}\ A^c\in\mathcal{F} \\
3. &A_1,A_2,\cdots\in\mathcal{F}\ \text{ならば}\ \bigcup_{i=1}^{\infty}A_i \in \mathcal{F}
\end{aligned} \]
<p>
</div>
</section>
<section>
<p>
\(\mathcal{F}\)を「事象の集合」と解釈すれば,条件1,2,3は以下のように解釈できます。
</p>
<div class="block" style="border-color:pink;font-size:90%">
\[ \begin{aligned}
1. & \text{少なくとも1つ事象が存在する} \\
2. & \text{事象$A$に対して,その余事象を考える事が出来る} \\
3. & \text{事象$A_1,A_2,\cdots$に対して,それらの和事象を考える事が出来る}
\end{aligned} \]
</div>
<p>
数学的な定義は難しく感じるかもしれませんが,上のようなイメージを持つことが出来れば当たり前に感じられるでしょう。
</p>
</section>
<section>
<div class="block" style="border-color:lightgreen;font-size:90%">
<h4 style="color:lightgreen"> 練習問題 </h4>
<p> \(\mathcal{F}\)が\(\Omega\)上の完全加法族の時 </p>
\[ \begin{aligned}
&A_1,A_2,\cdots\in\mathcal{F}\ \text{ならば}\ \bigcap_{i=1}^{\infty}A_i \in\mathcal{F} \\
&\Omega,\phi \in \mathcal{F}
\end{aligned} \]
<p>
である事を証明してください。また,\(\mathcal{F}\)を事象の集合と解釈するならば,それぞれどのような意味でしょうか？
</p>
</div>
<p class="fragment" style="font-size:80%">
【証明】<br>
1つ目はド・モルガンの法則より。<br>
2つ目について。\(\mathcal{F}\neq\phi\)であることよりある\(A\in\mathcal{F}\)が存在する。よって
\[ \Omega = A\cup A^c \in \mathcal{F},\quad \phi = A\cap A^c \in \mathcal{F} \]
<span style="float:right">□</span>
</p>
</section>
<section>
<p>
よく使われる完全加法族はべき集合\(2^{\Omega}\)と,<strong>ボレル集合族</strong>です。
</p>
<div class="block" style="border-color:pink;font-size:90%">
<h4 style="color:pink"> ボレル集合族 </h4>
<p>
\(\Omega=\mathbb{R}\)の場合,\((a,b)\)や\((a,\infty)\)や\((-\infty,a)\)など任意の開集合(端を含まない区間)を含む最小の完全加法族を<strong>ボレル集合族</strong>といい
\[ \mathcal{B}(\mathbb{R})\]
などと書く。<br>
\(n\)次ユークリッド空間\(\mathbb{R}^n\)に対しても同様に,その任意の開集合(境界を含まない集合)を含む最小の完全加法族\(\mathcal{B}(\mathbb{R}^n)\)が定義される。
</p>
</div>
<p>
難しく感じますが,数直線\(\mathbb{R}\)上の区間,平面\(\mathbb{R}^2\)内の図形,空間\(\mathbb{R}^3\)内の立体などで通常イメージするものを全て含んでいる集合だと思ってください。
</p>
</section>
<section style="font-size:90%">
<h2> 確率空間 </h2>
<div class="block" style="border-color:pink;font-size:90%">
<p>
\(\Omega\)を集合,\(\mathcal{F}\)を\(\Omega\)上の完全加法族とする。
\(\mathcal{F}\)上の実数値関数\(P: \mathcal{F}\rightarrow\mathbb{R}\)が,
\[ \begin{aligned}
1. & P(A)\geq 0\\
2. & A_1,A_2,\cdots\text{が互いに素の時}\\
& P\left(\bigcup_{i=1}^{\infty}A_i\right) = \sum_{i=1}^{\infty}P(A_i) \qquad\color{yellow}{\text{(完全加法性)}}\\
3. & P(\Omega) = 1\\
\end{aligned} \]
を満たす時,\((\Omega, \mathcal{F}, P)\)の事を<strong>確率空間</strong>と言う。<br>
\(\Omega\)を標本空間,\(\Omega\)の元を標本,\(\mathcal{F}\)の元を事象,特に\(\Omega\in\mathcal{F}\)を全事象と呼ぶ。\(\mathcal{F}\)の元が互いに素である時,それらは排反であるという。\(P\)を確率測度,\(P(A)\)を事象\(A\)の確率と呼ぶ。
</p>
</div>
</section>
<section>
<p>
再び,わかりやすく翻訳すれば
</p>
<div class="block" style="border-color:pink;font-size:90%">
\[ \begin{aligned}
1. & \text{任意の事象の確率は$0$以上である} \\
2. & \text{事象$A_1,A_2,\cdots$が排反ならば,}\\
& \text{いずれかが起こる確率は各事象の確率の和である}\\
3. & \text{全事象の確率は$1$である} \\
\end{aligned} \]
</div>
<p>
となります。
</p>
</section>
<section>
<p>
確率測度\(P\)はよく使うので,今後以下のような記号の濫用を行います。
</p>
\[ \begin{aligned}
P(a) &= P(\{a\})\qquad (a\in\Omega) \\
P(\text{条件}) &= P(\{x\in\Omega\ |\ x\text{は(条件)を満たす}\})
\end{aligned} \]
</section>
<section>
<div class="block" style="border-color:lightgreen;font-size:90%">
<h4 style="color:lightgreen"> 練習問題 </h4>
<p>
確率測度\(P\)に対して
\[ P(\phi) = 0 \]
である事を示してください。
</p>
</div>
<p class="fragment" style="font-size:80%">
【証明】<br>
\(\Omega = \Omega\cup\phi\cup\phi\cdots\)であり,\(\Omega,\phi\)は互いに素であるから,完全加法性より
\[ P(\Omega) = P(\Omega) + P(\phi) + P(\phi) + \cdots \]
である。よって
\[ 1 = 1 + P(\phi) + P(\phi) + \cdots \]
であるから
\[ P(\phi) = 0 \]
である。
<span style="float:right">□</span>
</p>
</section>
<section>
<div class="block" style="border-color:pink;font-size:90%">
<h4 style="color:pink"> 有限加法性 </h4>
<p>
\(P\)を確率測度とする。互いに素な事象\(A_1,\cdots,A_n\)に対して
\[ P\left(\bigcup_{i=1}^{n}A_i\right) = \sum_{i=1}^nP(A_i) \]
が成立する。
</p>
</div>
<p style="font-size:80%">
【証明】<br>
\(A_1\cup\cdots \cup A_n = A_1\cup\cdots\cup A_n\cup\phi\cup\phi\cup\cdots\)であるので,完全加法性より
\[ \begin{aligned}
P(A_1\cup\cdots \cup A_n) &= P(A_1)+\cdots +P(A_n) + P(\phi) + P(\phi) + \cdots \\
&= P(A_1)+\cdots +P(A_n)\quad(\because P(\phi)=0)
\end{aligned} \]
<span style="float:right">□</span>
</p>
</section>
<section style="font-size:90%">
<p>
集合\(X\)と,\(X\)上の完全加法族\(\mathcal{F}\)に対して,\(\mathcal{F}\)上の関数\(\mu:\mathcal{F}\rightarrow [0,\infty]\)が
\[ \mu(\phi) = 0 \text{かつ完全加法的である} \]
ならば,\(\mu\)を<strong>測度</strong>と呼びます。
</p>
<p class="fragment" data-fragment-index="1">
<strong> 測度は集合の大きさの抽象化</strong>と言え,集合の元の数・図形の面積・確率などの概念を包括しています。<span style="font-size:70%">(ただし,有限加法性でなく完全加法性を考えるので直感の及ばないところまで一般化されます。)</span>
</p>
<div align="center" class="fragment" data-fragment-index="1"> <img width="600px" src="fig/measure.png"> </div>
<p class="fragment">
この勉強会では前提としませんが,<strong>測度論</strong>の基礎的な知識があると確率・統計の理解も深まります。
</p>
</section>
<section style="font-size:90%">
<div class="block" style="border-color:lightgreen;font-size:90%">
<h4 style="color:lightgreen"> 練習問題 </h4>
確率測度\(P\)について以下が成り立つ事を証明してください。
\[ \begin{aligned}
& P(A^c) = 1-P(A) \\
& A\subset B\ \text{ならば}\ P(A)\leq P(B) \\
& A\subset B\ \text{ならば}\ P(B\setminus A)=P(B)-P(A)\quad(B\setminus A = B\cap A^c)
\end{aligned} \]
</div>
<p class="fragment" style="font-size:80%">
【証明】<br>
\(\Omega=A\cup A^c\)で\(A,A^c\)は互いに素だから
\[ P(\Omega)=P(A)+P(A^c)\ \Leftrightarrow\ P(A^c)=1-P(A) \]
\(A\subset B\)の時\(B=(B\cap A^c)\cup A\)であり,\(B\cap A^c, A\)は互いに素だから
\[ P(B)=P(B\cap A^c)+P(A)\ \Leftrightarrow\ P(B\setminus A)=P(B)-P(A) \]
また\(P(B\setminus A)\geq 0\)であるから\(P(A)\leq P(B)\)
<span style="float:right">□</span>
</p>
</section>
<section style="font-size:90%">
<div class="block" style="border-color:lightgreen;font-size:90%">
<h4 style="color:lightgreen"> 練習問題:確率の加法定理 </h4>
<p>
確率測度\(P\)について以下が成り立つことを証明してください。
\[ \begin{aligned}
P(A\cup B) &= P(A)+P(B) - P(A\cap B) \\
P(A\cup B) &= P(A)+P(B)\qquad\text{($A,B$が排反のとき)}
\end{aligned} \]
</p>
</div>
<p class="fragment" style="font-size:80%">
【証明】<br>
\(A\cup B=A\cup (B\cap A^c)\)であり,\(A, B\cap A^c\)は互いに素だから
\[ P(A\cup B) = P(A) + P(B\cap A^c) \]
また\(B\cap A^c = B\setminus (A\cap B)\)であり\(A\cap B\subset B\)であるから
\[ P(B\cap A^c) = P(B)-P(A\cap B) \]
である。従って
\[ P(A\cup B) = P(A) + P(B)-P(A\cap B) \]
である。また\(A,B\)が排反の時は\(A\cap B=\phi\)であるから
\[ P(A\cup B)=P(A)+P(B)-P(\phi)=P(A)+P(B) \]
である。
<span style="float:right">□</span>
</p>
</section>
<section>
<h2> 確率測度の例 </h2>
<p>
標本空間を有限集合\(\Omega\),\(\mathcal{F}=2^{\Omega}\)として,
\[ P(A) = \frac{\#(A)}{\#(\Omega)} \quad\text{($\#(A)$は$A$の元の数)}\]
とすれば,これは確率測度となります。
</p>
<div class="fragment block" style="border-color:lightgreen;font-size:90%">
<h4 style="color:lightgreen"> 例 </h4>
<p>
\(\Omega=\{1,2,3,4,5,6\}\)に対して上の確率測度を考えれば,サイコロの数学的なモデルとなります。
</p>
</div>
</section>
<section>
<h2> 確率測度の例 </h2>
<p>
より一般的な設定として,標本空間を有限集合\(\Omega = \{x_1,\cdots,x_n\}\),\(\mathcal{F}=2^{\Omega}\)として,
\[ P(x_1) + \cdots + P(x_n)=1 \]
となる様に各\(P(x_i)\geq 0\)の値を定めれば確率測度\(P\)が定まります。
</p>
<div class="fragment block" style="border-color:lightgreen;font-size:90%">
<h4 style="color:lightgreen"> 例 </h4>
<p>
例えば,いびつなコインを
\[ \begin{aligned}
&\Omega=\{\text{表},\text{裏}\},\quad\mathcal{F}=2^{\Omega}\\
&P(\text{表})=\frac{51}{100},\ P(\text{裏})=\frac{49}{100}
\end{aligned} \]
のような確率測度でモデル化する事ができます。
</p>
</div>
</section>
<section>
<h2> 確率測度の例 </h2>
<p>
\(\Omega=\mathbb{R},\ \mathcal{F}=\mathcal{B}(\mathbb{R})\)として,
定数\(a,b\ (a < b)\)を定めて,区間\((a,b)\)に含まれる区間\((x,y)\)に対して
\[ P((x,y)) = \frac{y-x}{b-a} \]
区間\((a,b)\)と交わらない集合\(A\)について\(P(A)=0\)と定義すれば確率測度\(P\)が定まります。
</p>
<div class="fragment block" style="border-color:lightgreen;font-size:90%">
<h4 style="color:lightgreen"> 例 </h4>
<p>
区間\((0,1)\)からランダムに実数\(x\)を選んだ場合,\(0.3 < x < 0.5\)である確率は
\[ P((0.3,0.5)) = \frac{0.5-0.3}{1-0} = 0.2 \]
と計算されます。
</p>
</div>
</section>
<section>
<div class="block" style="border-color:lightgreen;font-size:90%">
<h4 style="color:lightgreen"> 練習問題 </h4>
<p>
今の確率測度\(P\)に関して,
\[ \begin{aligned}
P(x) &= 0 \qquad (x\in\mathbb{R})\\
P([x,y]) &= P((x,y)) \\
\end{aligned} \]
である事を示してください。
</p>
</div>
<p class="fragment" style="font-size:70%">
【証明】<br>
\(\mathbb{R} = (-\infty,x)\cup\{x\}\cup(x,\infty)\)より
\[ 1 = P((-\infty,x))+P(x) + P((x,\infty)) \]
である。\(x\in(a,b)\)の時は
\[ P((-\infty,x))=P(a,x)=\frac{x-a}{b-a},\ P((x,\infty))=P(x,b)=\frac{b-x}{b-a} \]
なので\(P((-\infty,x))+P((x,\infty))=1\)となるから\(P(x)=0\)。他の場合も同様。<br>
また, \([a,b]=\{a\}\cup(a,b)\cup\{b\}\)であるから
\[ P([a,b])=P(a)+P((a,b))+P(b)=P((a,b)) \]
<span style="float:right">□</span>
</p>
</section>
<section>
<p>
今の練習問題から
\[ \color{yellow}{ P(A) = 0\ \text{は事象$A$が起こらないという事ではない}} \]
という事がわかります。同様に
\[ \color{yellow}{ P(A)=1\ \text{は事象$A$が絶対起こるという事ではない}} \]
という事もわかります。
</p>
<p>
例えば,\((0,1)\)から実数をランダムに選んだ場合\(0.5\)が選ばれる確率は
\[ P(0.5) = 0 \]
となりますが,これが\(0.5\)が決して選ばれないという事を意味するとは考えにくいです。
</p>
</section>
<section>
<h2 class="chapter-title"> 確率変数・確率分布 </h2>
</section>
<section>
<div class="block" style="border-color:pink;font-size:90%">
<h4 style="color:pink"> 確率変数 </h4>
<p>
\((\Omega,\mathcal{F},P)\)を確率空間とする。<br>
\(\Omega\)上の実数値関数\(X: \Omega\rightarrow\mathbb{R}\)を<strong>確率変数</strong>という。<br>
</p>
<p>
\(X\)が確率変数ならば,任意の実数値関数\(f: \mathbb{R}\rightarrow\mathbb{R}\)について\(f\circ X\)も確率変数となる。これを\(f(X)\)を書く。
</p>
</div>
</section>
<section>
<div class="block" style="border-color:lightgreen;font-size:90%">
<h4 style="color:lightgreen"> 例 </h4>
<p>
サイコロを振る試行において
\[
X = \left\{\begin{array}{ll}
1 & (\text{$1$が出た時}) \\
0 & (\text{$1$以外が出た時}) \\
\end{array}\right.
\]
と置けばこれは確率変数\(X\)となります。
</p>
</div>
<p style="font-size:80%">
この時,\(\Omega_X=\{0,1\},\ \mathcal{F}_X=2^{\Omega_X}\)
\[ P_X(0)=\frac56,\ P_X(1)=\frac16\]
と置けば新たな確率空間\((\Omega_X,\mathcal{F}_X,P_X)\)を作る事ができることに注意しましょう。確率変数\(X\)を定めると,\(X\)の値を標本とする確率空間を新たに作ることができます。
</p>
</section>
<section>
<div class="block" style="border-color:pink;font-size:90%">
<h4 style="color:pink"> 確率分布 </h4>
確率空間\((\mathbb{R},\mathcal{B}(\mathbb{R}),P)\)を<strong>確率分布</strong>と言う。<br>
(より一般に,確率空間\((\mathbb{R}^n,\mathcal{B}(\mathbb{R}^n),P)\)を確率分布と言う。)
</p>
</div>
</section>
<section>
<p>
確率分布では,確率密度関数で表されるものが重要です。
</p>
<div class="block" style="border-color:pink;font-size:90%">
<h4 style="color:pink"> 確率密度関数 </h4>
<p>
ある非負実数値関数\(\rho:\mathbb{R}\rightarrow\mathbb{R}\)が存在して,区間\((a,b)\)に対する確率測度が
\[ P((a,b)) = \int_a^b \rho (x)\mathrm{d}x \]
と表されるならば,\(\rho\)をこの確率分布の<strong>確率密度関数</strong>と言う。
</p>
<p>
(標本空間として\(\mathbb{R}^n\)をとった場合には、重積分で定義されます。)
</p>
</div>
<div align="center"> <img width="500px" src="fig/measure2.png"> </div>
</section>
<section style="font-size:90%">
<h2> 離散的な確率分布 </h2>
<p>
確率分布の定義では標本空間が\(\mathbb{R}\)なので,離散的な値を取る確率分布をどうするのか疑問であると思います。
</p>
<p class="fragment">
この場合,例えばサイコロをモデル化するのであれば
\[ \begin{aligned}
&P(1)=P(2)=P(3)=P(4)=P(5)=P(6)=\frac16\\
&P(A) = 0\quad(\text{$1,2,3,4,5,6\not\in A$のとき})
\end{aligned} \]
という確率測度を考えれば良いです。
</p>
</section>
<section>
<p>
離散的な確率分布の場合も<strong>確率質量関数</strong>と呼ばる概念を考える事が出来ますが,
</p>
<div align="center"> <img width="400px" src="fig/measure3.png"> </div>
<p>
もっとわかりやすく、離散的な確率分布とは
\[ \begin{array}{|c|c|c|c|}\hline
X & x_1 & x_2 & \cdots \\ \hline
P(X=x_i) & p_1 & p_2 & \cdots \\ \hline
\end{array} \]
という表の事だと考えて下さい。
</p>
</section>