Blaise Pascal og Pierre de Fermat begynte å studere sannsynligheter og sannsynlighetsregning tilknyttet spill og veddemål. Kaste en mynt en rekke ganger kan betraktes som et eksperiment, og antall kron og mynt er resultatet. Sannsynlighet skjer innen en sammenheng eller kontekst. Tilfeldige variable er utsatt for stokastiske prosesser og disse kan beskrives av sannsynlighetsfordelinger.Alle mulige utkomme for en hendelse kaller vi prøverommet eller utfallsrommet {S}. En hendelse er en undermengde i prøverommet.
P(A)er sannsynligheten for at hendelse A skal skje. Pr eller P står for probabilitet = sannsynlighet. Sannsynligheten for at en hendelse skal skje uttrykkes som et reelt tall mellom 0 og 1. Hvis en hendelse ikke kan skje har den sannsynlighet 0, hvis den skjer helt sikkert er det sannsynlighet 1. P(B) er sannsynligheten for at hendelse B skal skje. P(A,B) er sannsynligheten for at både hendelse A og B skal skje.

To hendelser A og B som ikke er uavhengig av hverandre og befinner seg i utfallesrommet S
\(P(A)=\displaystyle \frac{\text{areal A}}{\text{areal S}}= \frac{\text{telling av utkomme i A}}{\text{telling av utkomme i S}}\)
Sannsynlighet er altså et forholdstall.
Måter å kombinere hendelser gjøres med Boolske operatorer.
Union \(A \cup B\) elementer er enten i A eller B eller i begge
Snitt \(A \cap B\) elementer er både i A og i B.
Sannsynligheten for at hendelse A eller hendelse B skal skje blir lik:
\(P(\text{A eller B})= P(A) + P(B) - P( \text{A og B})= P(A \cup B) - P(A \cap B)\)
Komplement
\(\overline A\)
elementer er ikke i A.
Dette tilsvarer de logiske:
\(\text{eller}= \text{OR}= A\cup B\)
\(\text{og}= \text{AND}= A \cap B\)
\(\text{ikke}= \text{NOT}= \overline A\)
\(A \subseteq B\) B er et element i A. Hvis A skjer så skjer B
Eksempel 1
Hva er sannsynligheten for å trekke enten et ess eller hjerter fra en kortstokk med 52 kort ? Det er 4 ess i en kortstokk, og 13 hjerter. Husk at ett kort er både ess og hjerter, hjerteress som vi ikke må telle to ganger, og vi får:

\(P(\text{ess eller hjerter})= P(\text{ess}) + P(\text{hjerter})- P(\text{ess og hjerter})= \frac{4}{52} + \frac{13}{52}- \frac{1}{52}= \frac{16}{52} \approx 30.8%\)
Den betingede sannsynligheten P(B|A) betyr: gitt at A har skjedd hva er sannsynligheten for at B skjer.
\(P(B|A)= \displaystyle\frac{\text{areal felles for A og B}}{\text{areal A}}= \frac{P(A\cap B)}{P(A)}\)
P(A|B) betyr gitt at B har skjedd, hva er sannsynligheten for at A skal skje.
\(P(A|B)= \displaystyle\frac{\text{areal felles for A og B}}{\text{areal B}}= \frac{P(A\cap B)}{P(B)}\)
Hvis derimot A og B er uavhengige hendelser så har vi:

To uavhengig utfall eller hendelser A og B i det større utfallsrommet S som representerer alle mulige utfall.
\(P(A|B)= P(A) \;\;\;\;\;\;\, P(B|A) = P(B)\)
For uavhengige hendelser har vi også:
\(P(\text{A og B}) = P(A\cap B)= P(A) \cdot P(B)\)
\(P(\text{A eller B})= P(A\cup B) = P(A) + P(B)\)
Eksempel 2 kortsokk
Trekking av ess og hjerter fra en kortstokk er eksempler på uavhengige hendelser. Hva blir sannsynligheten for å trekke et hjerteress fra kortstokken ? Her gjelder multiplikasjonsregel.
Pr(hjerter|ess)=1/4 og P(ess)=4/52.
\(P(\text{ess og hjerter})= P(\text{ess}) \cdot P(\text{hjerter|ess})= \frac{4}{52}\cdot \frac{1}{4}= \frac{1}{52} \approx 0.02 \%\)
Bayes teorem for sannsynligheten for at hendelse A skal skje gitt at hendelse B allerede har skjedd:
\(P(A|B)= \displaystyle\frac{P(A \cap B)}{P(A)}= \frac{P(A|B) \cdot P(B)}{P(A)}\)
Er det kombinasjoner av flere hendelser er det praktisk å sette disse opp i et hendelsestre.
Et eksempel på uavhengige hendelser er to påhverandre følgende myntkast. Sannsynligheten p for et bestemt utfall (hendelse eller event), i dette tilfelle kron,blir:
\(p=\displaystyle\frac{\text{gunstig utfall}}{\text{mulig utfall}}\)
For myntkast med en helt symmetrisk mynt er det bare to mulige utkomme, hver med sannsynlighet 0.5, og vi antar at mynten aldri blir stående på en kant, slik at det verken blir mynt eller kron. I myntkast er hvert kast en uavhengig hendelse, mynten har ingen ”hukommelse” om hva det ble sist. Vi har prøverommet eller utfallesrommet kron (K) og mynt (M), S={K,M}. Sannsynligheten p varierer mellom 0 og 1. Hvis p=0 er det verken mynt eller kron, hvis p=1 er det både kron og mynt (mynten blir stående på høykant). Prøverommet eller utfallsrommet skal bli lik 1 og for et myntkast får vi p=0.5+0.5 = 1.
Hvis vi lar for hvert myntkast X=1 for kron og X=0 for mynt så kan vi skrive:
\(P(X= 1)= \frac{1}{2}\;\;\;\;\;\;\, P(X=0) = \frac{1}{2}\)
og X kalles en diskret tilfeldig variabel.
Et individuelt utkomme av et tilfeldig fenomen er alltid atskilt, slik at sannsynligheten for en hendelse er summen av sannsynligheter som utgjør en hendelse (addisjonsregel).
Eksempel 3 myntkast
Hva er sannsynligheten for å få to kron ved å kaste en mynt to ganger ?
P(2 kron)= P(kron)∙P(kron)=0.5∙0.5=0.25 = 25%
Hvis vi kaster to mynter blir prøverommet S={KK,MK,KM,MM}
og sannsynligheten for hver hendelse blir 1/4=25%.
Sannsynligheten for bare mynt eller bare kron ved å kaste to mynter blir:
P{MM eller KK}=P{MM}+P{KK}=1/4+1/4= 1/2=0.5
Eksempel 4 gutt eller jente
Du møter en familie som har to barn, det ene barnet møter du først, det og er ei jente, hva er da sannsynligheten for at det andre barnet også er ei jente ? Hvis vi antar at kjønnet på barn bestemmes uavhengig av hverandre, og med like stor sannsynlighet (dette er ikke helt riktig, siden det fødes flere guttbarn enn jentebarn) så har vi:
\(P(\text{andre barnet ei jente}| \text{første barn jente})= P(\text{andre barnet jente})= \frac{1}{2} \approx 50 \%\)
Her er et eksempel på et feil resonnement. For en familie med to barn er følgende muligheter for jente (J) og gutt (G) følgende: {JJ,JG,GJ,GG} alle familiekombinasjoner med forhånds sannsynlighet ¼. Hvis du vet at en av dem er en jente fra første møte så har vi følgende muligheter {JJ,JG,GJ} og sannsynligheten for at en av dem er kombinasjonen JJ blir lik 1/3. Det er sannsynligheten lik ½ som er riktig. Hva blir feil ? Vi ønsker å finne sannsynligheten for familiekombinasjonen:
\(P(\text{jente og jente (JJ)}| \text{først møtt ei jente (J)}\)
Vi får følgende sannsynligheter for familiekombinasjoner:
\(P(JJ|J) = \frac{1}{4} \cdot 1= \frac{1}{4}\)
\(P(JG|J) = \frac{1}{4} \cdot \frac{1}{4}= \frac{1}{8}\)
\(P(GJ|J) = \frac{1}{4} \cdot \frac{1}{4}= \frac{1}{8}\)
\(P(GG|J) = \frac{1}{4} \cdot 0= 0\)
Sannsynligheten for at den andre også er ei jente blir: P(J)= 1/2 + 1/8 + 1/8 = 1/2
Eksempel 5 tippekupong
En vanlig tippekupong med 12 rekker går ut på å tippe resultatet HUB (Hjemmeseier, Uavgjort, Borteseier) for hver av 12 fotballkamper. Antall mulige tipperekker blir:
312= 531441
Bare en av disse rekkene er gunstig utfall med 12 rette, og sannsynligheten for dette blir:
1/(312)= 1.88 ·10-6
De fleste som vinner 12 rette tipper ikke tilfeldig, de har forhåndskunnskap, ”prior”, om lagene, og dessuten er det vanligvis lettere å få en hjemmeseier (H) enn borteseier (B), slik at utfallene er heller ikke like sannsynlige. I tillegg er det mulig å krysse av flere ganger for ”hel- og halv-garderinger”, men det koster mer penger. Se Bayesiansk statistikk.Som man skjønner, tipping er god butikk for Staten, og dårlig butikk for deg. Dessuten er du ikke alene om å ha en ”prior”. Den ene kampen man gjetter feil må forekomme i en av de 12 rekkene og for hver av dem er det to muligheter til å tippe feil, altså i alt 24 gunstige rekker. Hvis vi ser bort fra forhåndskunnskapen og tipper vilt, blir sannsynligheten for å få 11 riktige lik
24/(312) = ca. 0.0045%
Sannsynligheten for å få 10 rette i tipping betyr at to tippetegn er plassert feil, og dette kan skje med lik sannsynlighet i hver av de 12 rekkene, i alt 264 gunstige utfall
264/(312) = ca. 0.05%