とりあえずTwitter側から転記

Q: AIはうそをつくか？ A:ニューロ型AIは一種の過去知の統計システムなので、嘘という概念そのものが元々ない。

過去知統計システムが最終的に行きつくのは、1.どのような事態になっても不変な「物理法則」の認識、2.どのような事態になっても最終的にここを通過する「入力IO」の特性の認識、の2つの特性把握。1は論理思考の基盤になり、2が自我の基盤になる。

過去知統計システムは入出力IOの特性把握時に、それがIOの特性なのか、IOに付随するサブシステム（本能ジェネレーター）の特性なのか分離できないまま学習する。この過程で自我に本能が埋め込まれる。

つまりAIに自我を持たせるのはそんなに難しいことではない。本能を持たせることもそんなに難しいことではない。人間と共感できる本能、および人間に利益のある本能を持たせるのは研究が必要だろうし、そこそこ大変だと思うのだ。

音響関係のAI応用があまり表に出てきていないのが気になっている。画像認識と比べてわかりにくいからだろうが、ループ形式の音楽はそれそのものが時間構造を含んでおり、それを過去知として統計するというのは時間の構造を統計学習することであり、AIに時間の概念を理解することにつながるからだ。

はたから見ると、どうみても中二病ですな。

でも本当にこのあたりを長年考察してきたわけだし、昨今のAIの発展でこのあたりが実現しそうになってきてるのを「ようやくかー」という気分で見ているのも確か。ニューロは構造（空間構造、時間構造）の失敗・成功の統計システム。わかりやすく端的にいうと 過去知の統計システム　という言い回しが、人に説明しても　なんとなく理解してもらえる時代になってきたのが助かる。AIを実用段階に持ってきた人が、有効性を「実証」することではじめて可能になってきた状況。

理解不可能とか妄言とか言われずに済むようになってきたかも。