応用数学 - Githubissues

第1章：線形代数（行列）

プロローグ

スカラー→いわゆる普通の数、通常の四則演算で計算するベクトル→大きさと向きを持ち、スカラーのセットで表記される
行列_01

行列→スカラーを表にしたもの、ベクトルを並べたもの
行列_02

連立方程式を行列を使って表す連立方程式の式が増えていった場合、複雑になるためシンプルに表現するために行列を用いる $\begin{align*} {A}\vec{x} = \vec{b} \end{align*}$ ↑の形で連立方程式を表現できる
行列_03

行列とベクトルの積←ベクトルを行列を用いて変換変換後の要素は元の要素すべてから影響を受ける行列はベクトルを並べたものなので、行列同士で積を求めらる左の行×右の列を行って新たな成分を作る
行列_04

行列の積左の行×右の列
行列_05
連立方程式の解き方 - 加減法
- 行基本変形
  
  i行目をc倍する s行目にt行目のc倍を加える p行目とq行目を入れ替える
行列_06

i行目をc倍するは単位行列のi行目がcの行列をもとの行列の左からかけるのと同じ計算 s行目にt行目のc倍を加えるは単位行列のst行目がcの行列をかけるのと同じ p行目とq行目を入れ替えるは単位行列のp行目とq行目を入れ替えた行列をかけるのと同じ
行列_07

行列の「逆数」のようなもの → 逆行列 → 行列にかけると単位行列に変換される逆行列をかければ、割り算のような計算ができる
行列_08

単位行列はかけてもかけられた行列は変化しない A-1(インバース)はAを打ち消す行列を表す $AA^{-1}=I$
行列_09

逆行列の求め方行列の拡大行列（元の行列の右に線を引いて、単位行列を書き加える）の左側を単位行列に変換すると右の行列が逆行列になる → 掃き出し法
行列_10

掃き出し法実践編途中の手順は違ってもいいが、形式が同じかどうか・答えは同じかどうかを確認
行列_11

逆行列が存在しない条件解がない、解が1つに定まらないタイプの連立方程式 $\begin{pmatrix} a & b \\ c & d \\ \end{pmatrix}$ があったとき、 $a:b \neq c:d$ のときは逆行列を持ち、 $a:b = c:d$ のときは逆行列を持たないすなわち、 $ad - bc = 0$ のとき、逆行列を持たない
行列_12
逆行列を持つか判別する式を行列式と呼ぶ行列式がnこのベクトルで出来ている場合の特徴（二番目と三番目は線形性と呼ぶ）
- 行列式の中に同じ行ベクトルが存在する場合、行列式は0になる
- 行列式の中のどれか一つのベクトルをλ倍した場合、全体がλ倍される
- ほかの成分がすべて同じでi番目のベクトルだけが＋ｗされている場合、元の行列式と元の行列式のi番目をｗにした行列式の足し合わせになる
- ある行を入れ替えると全体の符号が変わる
行列_13

行を入れ替えると行列式の符号が入れ替わることの証明
行列_14

行列式（縦棒で囲まれてる行列）の求め方ある一つの正方行列にある一つの数値が対応する → 正方行列の大きさみたいなもの
行列_15

行列式の求め方実践編

第1章：線形代数（固有値） 事前知識はあるので特に不明点はなかった。

固有値_01

固有値と固有ベクトルの関係ある行列Aに対して以下のような式が成り立つようなベクトルxと係数λがある $\begin{align*} {A}\vec{x} = \lambda\vec{x} \end{align*}$ 特殊なベクトルxを行列Aの固有ベクトル、係数λを固有値という
固有値_02

具体例固有ベクトルは一つに決まらない、同じ比の数字の組み合わせ
固有値_03

固有値・固有ベクトルの求め方 ${A}\vec{x} = \lambda \vec{x}$ を ${A}\vec{x} = \lambda I \vec{x}$ と考える $({A}-\lambda I)\vec{x} = \vec{0}$ $\vec{x} \neq \vec{0}$ より、 $|{A}-\lambda I| = 0$ ↑の関係になる固有値λを求めて、 $\begin{align*} {A}\vec{x} = \lambda\vec{x} \end{align*}$ ↑の関係になるベクトルxを求める（答えとしてはベクトルxの定数倍）行列式が0になるということは逆行列を持たない例題の場合（A = ([1, 2],[3, 4]）λ=5 or -1 $1 \times x_1 + 4 \times x_2 = 5 \times x_1$ $4x_2 = 4x_1$ $x_1 = x_2$ Aの2行目についても $x_1 = x_2$ が成り立つ同様にλ=-1の時も求める
固有値_04

実践問題
固有値_05

固有値分解行列Aの固有値を対角線上に並べた行列(それ以外の成分は0)Λとそれに対応する固有ベクトルを並べた行列Vを用意したとき、以下の関係になる AV = VΛ A = VΛV^-1 固有値分解可能なことによって、行列の積の累乗が簡単に計算できる
固有値_06

固有値分解　具体例固有値分解は一つに決まらない固有値の行列は大きいものから左に並べていく
固有値_07

固有値分解　問題
固有値_08

特異値分解正方行列以外に対して分解する Mv = σu MTu = σv M = USVT ※ただしU、Vは直行行列
固有値_09

特異値の求め方長方形の行列MにMを転置させた行列MTをかけると正方形の行列になる
固有値_10

特異値の求め方　具体例転置したものと元の行列をかけると、斜めに対称な行列になる
固有値_11

特異値分解の利用例特異値を減らしていき、成分の小さい部分を取り除いていくと画像がぼやけていくが、少ない成分でも画像の大枠はわかる（データを圧縮できる）

第2章：確率・統計（集合、確率）

統計学_1-1

プロローグ統計学は独自の専門用語に加え、数学の言葉で記述されているので、それを読めるようになることが第一の目標合わせて、情報科学の考え方を学ぶ
統計学_1-2

集合ものの集まり数学的な書き方 S = {a, b, c, d, e, f, g} a ∈ S　(aはSに属する、aはSの要素)　※∈はしゅうごうで変換できる内部にM = {c, d, g}があったとすると M ⊂ S （MはSの一部） h ∉ S　(hはSの要素ではない、hはSに含まれない) 確率・統計に登場する事象は集合として取り扱うことができる
統計学_1-3

集合同士の計算ある集合と別の集合に共通な部分があるとき和集合と共通部分 A ∪ B　(和集合　AもしくはB　AカップB) A ∩ B　(共通部分　AかつB　AキャップB) 絶対補と相対補　Uは集合全体（A、B、AB以外すべて） U \ A = Aバー(Aの上に━)　（絶対補　A以外　Aの否定） B \ A　(相対補　Bの中でA以外)
統計学_1-4

集合　問題 ①A ∪ B全体のバーはAB以外すべて ②A ∩ B全体のバーは共通部分以外すべて（A、Bが属さない部分も） ③(B \ A) ∪ (A \ B)は存在しない ④が正解
統計学_1-5
確率
- 頻度確率
  
  発生する頻度　→　きちんと測定すれば必ず値が決まる例：10本のうち1本だけ当たるくじの当選する確率を実際にくじを引いて調べたところ10%だったという事実
- ベイズ確率(主観確率)
  
  信念の度合い　→　全数調査ができない、中身がわからない・・・いろいろな条件を合わせて、観測者が主観的に数字を決める例：あなたは40％の確率でインプルエンザですという診断自分自身がどちらの視点で確率を見ているかに気を付ける
統計学_1-6

確率の定義確率P(A) = 事象Aが起こる数n(A) / すべての事象の数n(U) n()・・・場合の数ともいう 1 ≧ P(A) ≧ 0 P(A-) = 1 - P(A)
統計学_1-7

複雑な場合の確率を集合を用いて考える P(A∩B) = P(A)P(B|A) P(A) ・・・すべての条件の中でAであることいいかえれば P(A|U) P(B|A)・・・Aである条件の下、Bであること P(A∩B) = P(B∩A)より、 P(A)P(B|A) = P(B)P(A|B)
統計学_1-8

条件付き確率ある事象Bが与えられた下で、Aとなる確率 P(A|B) 例：雨が降っている条件下で交通事故に遭う確率 P(A|B) = P(A∩B) / P(B) = n(A∩B) / n(B) P(A∩B)・・・全体の中でAとBが同時に起きる確率一般的に条件付き確率は通常より大きくなる・・・記号で書くと、P(A∩B) / P(B) ≧ P(A∩B) / P(U)
統計学_1-9
独立な事象の同時確率
- お互いの発生には因果関係のない事象Aと事象
  
  例：道端の猫を見たら風邪をひく独立な事象の場合、以下の式が成り立つ P(A∩B) = P(A)P(B|A) = P(A)P(B)
統計学_1-10

P(A∪B)の場合の確率 P(A∪B) = P(A) + P(B) -P(A∩B) なぜP(A∩B)を引いているのか・・・A∩Bの部分を二重に数えているので
統計学_1-11

ベイズ則・・・P(A)P(B|A) = P(B)P(A|B)

第2章：確率・統計（集合、確率）

統計学_2-1

統計　プロローグ記述統計と推測統計データがたくさんあると整理しなければならない記述統計：母集団の性質を要約し記述する（平均をとるなど）推測統計：集団から一部を取り出し(標本)、元の集団(母集団)の性質を推測する
統計学_2-2

確率変数と確率分布確率変数：事象と結びつけられた数値、事象そのものを指すと解釈する場合も多い、例：当たりが出た場合の賞金、100万円の当たりが出た回数確率分布：事象の発生する確率の分布、例：賞金が当たる確率の分布
統計学_2-3

期待値その分布における確率変数の、平均の値 or ありえそうな値（実際の値）すべての確率P×確率変数fを足し合わせることで期待値が算出される連続する値の場合、P×fの積分を計算することで期待値が算出される
統計学_2-4

分散と共分散分散：データの散らばり具合、データ各々の値が期待値からどれだけずれているか平均したもの、各々の値と期待値の絶対値をとる代わりに2乗をとる、例：ある会社の売り上げは支店の平均が100万だった場合の支店の分散値を出すことで、平均値からの乖離が見える共分散：2つのデータ系列の傾向の違い・・・正の値：似た傾向、負の値：逆の傾向、ゼロに近ければ近いほど関係性に乏しい
統計学_2-5

分散と標準偏差分散は2乗しているため、元のデータと単位が違う（m→㎡） 2乗することの逆演算→分散の平方根を求めれば元の単位に戻る
統計学_2-6

様々な確率分布ベルヌーイ分布：コイントスのイメージ、裏と表を数式で扱う、イカサマコインなどの裏と表で出る割合が等しくないものでも扱えるマルチヌーイ分布（カテゴリ分布、カテゴリかる分布）：サイコロを転がすイメージ、ベルヌーイ分布のμが増えた形
統計学_2-7

様々な確率分布二項分布：nCrを階乗で書き直したものが係数となる（二項係数）、ベルヌーイ分布の多試行版、λのx乗はコイントスの場合表が出ただけ表の確率をかけていることを表しているガウス分布：釣鐘型の連続分布、真の分布がわからなくてもサンプルが多ければ正規分布に近づく exp(x－μ)でμから右肩下がりになるグラフになる
統計学_2-8

推測：母集団を特徴づける母数（パラメーター：平均、散らばりなど）を統計学的に推測すること母数：母集団が持っている数、母集団を特徴づける数（母集団そのものではない）点推定：平均値などを1つの値に推定すること区間推定：平均値などが存在する範囲（区間）を推定すること
統計学_2-9

推定量と推定値推定量（E）：パラメータを推定するために利用する数値の計算方法や計算式のこと。推定関数とも。推定値：実際に施行を行った結果から計算した値例えると推定量が導関数、推定値が傾き真の値をΘとすると・・・Θ^のように表す（Θ^(x)であれば推定量、実際の値が入っていれば推定値）
統計学_2-10

標本平均（点推定）母集団から取り出した標本の平均値サンプル数が大きくなれば、母集団の値に近づく　→　一致性サンプル数がいくらであっても、その期待値は母集団の値と同様　→　不偏性（偏りがない）不偏性・・・サンプルを適当にとって平均値を求めると、母集団になるはず
統計学_2-11

標本分散・・・一致性は満たすが、不偏性は満たさない xからxの平均を引いたもので求めるたくさんデータがある場合、少ないデータがある場合だと少ないデータの方がばらつきが小さくなる不偏分散・・・標本分散を修正する 1/nがn/n-1を掛けることで1/n-1に変わっている n個サンプルがあるように見えてn-1個しかないと考えている平均が2になっているという情報がある場合、1,2というデータがあると自動的に3に決まってしまう→平均に拘束されるので、n個自由度があるわけではなく、n-1個の自由度だったと考えているデータが小さい場合、n-1の影響が大きくなる
統計学_2-12

情報科学・・・情報をどのように数量化するか点が多い図より点が少ない図が変化がわかりやすい Δw（点の変化量）=1 上の図：Δw/w = 1/10 下の図：Δw/w = 1/1　→　増加の比率が違う我々は情報の増え方（わかりやすさ）を比率で捉えていると考えられる
統計学_2-13

自己情報量 I(x) = -log(P(x)) = log(W(x))　・・・Pは確率、Wは2-12における情報の増え方 W=1/P logが省略されている場合、底がeでなくてもよい場合がある対数の底が2のとき、単位はbit 対数の底がeのとき、単位はnat
統計学_2-14

シャノンエントロピー自己情報量の期待値資料の図は裏表のコイン等のシャノンエントロピー真ん中は裏表どちらとも確率が0.5の時・・・偏りがないとき → 情報の偏りがない時が一番情報量が大きい
統計学_2-15

カルバック・ライブラー　ダイバージェンス（KLダイバージェンス）同じ事象・確率変数における異なる確率分布P、Qの違いを表す（Ex. コインの表裏がどちらも同じ確率で出ると思ったらイカサマコインで表の方が出やすいとき）ダイバージェンス・・・距離に近い概念（P、Qの近さを距離のようにとらえている） I(Q(x)) - I(P(x))・・・Qは先に得た情報の珍しさ、Pは後で得た情報の珍しさカルバック・ライブラー　ダイバージェンス → 0を下回らない
統計学_2-16

交差エントロピー KLダイバージェンスの一部分を取り出したもの Qについての自己情報量をPの分布で平均している

演習問題、テスト

応用数学演習・テスト_ページ_1 応用数学演習・テスト_ページ_2

mizukihiraishi / Study-AI

応用数学 #1