■株式会社河出書房新社
公式HP：https://www.kawade.co.jp/np/index.html
公式X（旧 Twitter）：https://twitter.com/Kawade_shobo?ref_src=twsrc%5Egoogle%7Ctwcamp%5Eserp%7Ctwgr%5Eauthor
―――――――――――――――――――――――――――――――――――――――――――――
日記
この本の物語の世界戦が決定論と非決定論のはざまで揺り動く哲学上の問題とつながるような気がしてきた。
AIが人間に変わって膨大なデータを集める、集合知として、より確実で安心な意思決定を助ける、人間がそれに頼る、人間がそれに従う、人間がそれに支配される。
ただ、AIにそれを教えるのはあくまで人間であって、数学における公理のように、まずは何かを前提として入力をはじめ、それを芯にしながら学習を始めていく。途中、人為的に人間の都合の良いように再学習も可能。
ただし、やはり集合知として、より確率が高いもの、より信頼があるものが優先的に学習される、もっと細かく言えば、学習される確率が高いもの（つまりは頻度の高いのもの、マジョリティなもの）が蓄積されるので、どこまで人為的なものが人為的であるような形で完成形へ向かっていくのかは不明。もし仮に完成の段階にたどり着いたとして、それはより確率の高いもの、より人間が好ましいと判断したもの、より人間が関心のあるものが相対的に多く学習されているという意味では「理想の社会」に向かうようAIが人間を導ていく。
しかし、なにがより「善い」のかは、確率的に、遺伝的に決まっていくのではないか。
より良いものは、社会的に認められてるもの、社会的に評価の高いもの、という意味であるならば、それは決定論的に、なるべくしてなる。つねに社会はマジョリティが制覇してきた。多数派が少数派を駆逐する。そういう社会に向かっていくが、しかしそれは人間の意志であるかというと、そうではないように見えて、だから決定論的な結末を迎えるのではないか、そんな哲学上の問題をこの本は包括しているのはないか。
もう一度整理する。
AIは、より最適化を目指す。より売り上げの高くなるようにアルゴリズムによって人を購買へと導く。
いずれ、とてもコンピューターで扱えないようなデータ量でさえも学習すると仮定して、AIの究極形が、すべての領域に最適化を与えるということではないか。AIに訊くのは答えを求めているからであって、つまり最適解が欲しいからではないのか。
だとしたら、やはり誰に政治を任せるべきか、どんな法律をつくるべきか、どこに何を建てるべきか、そういう判断が全てAIがするようになる。言い換えれば、世界の最適化。
その根拠が、データなのである。
データにはあらゆる学問知が含まれていて、誰も太刀打ちできない。
だからAIに頼ったほうがいい。そうなる。
しかし有機体としての人間は変わらない。絶滅しない限り。
すると、やはり人間も最適化される側になる。これがいかに恐ろしいことか、これを読んでいる方、少し想像してみるとわかるかもしれない。
この悪魔の仕掛け人にどう立ち向かうか。