AI学習を数学的(具体的)に表現すると。(仕掛中)

・データを分析するためには、それを説明する数学的モデルが
必要となる。
その数学的モデルにはパラメータと呼ばれる定数が含まれ、
このパラメータをデータにできるだけフィットするように決定する事を
最適化と呼ぶ。
この最適化の事をAIを擬人化して「学習」という。
つまり、AIの「学習」とは、目的関数を最小化するパラメータを
求める事に終着する。
・目的関数を最小化するパラメータを求めるために、「勾配法」という アルゴリズムを用いて自動化する。
・機械学習型プログラミングが知性を瞬間を捉える。
・「微分」をプログラミングする場合、解析的にはできないので、 「数値微分」で実装する。その場合、前方差分ではなく、中心差分となるので 注意する。
・近年の人工知能の知性とは、「予測」と「認知」を指す。 そのアルゴリズムとして機械学習が用いられる。 機械学習の回帰⇒予測を示し、分類⇒認知を示す。
・過学習と汎化性能。赤ちゃんのようにニューロンが多く重みが小さい汎化性能が
高い脳が、経験を重ねるに連れ最適化が進み、重みが大きくなる。その結果、
回帰と分類の性能が高くなるか、勾配という思考のクセによって
過学習が起こり、悩む。