ヒト以外の知能
AIと学習

言語の運用、価値判断、計画の実行のように、無数の要素が絡み合う複雑な問題を処理する人間の知能、「うまくできるのに、うまく説明できない」能力は、暗黙知と呼ばれてきた。いまのAIの主流となっている機械学習では、学習用のデータという“経験”を人間が与えれば、そこに潜む規則性を自分で獲得していく。高度な判断のみならず、自身で扱いやすくするためのデータや問題の表現方法まで会得した。計算機は、「規則を実行する機械」から「学習する機械」へと変化したのだ。
それに伴い人間は、機械が出す答えの背景を理解しないまま、「それを採用するか、修正するか、退けるかを判断している」存在になりつつある。ただし、それは理解できないものを無批判に受け入れることではない。結果がもたらす影響や責任を引き受けるために、何を根拠にすべきか考える必要がある。
まずは学習を定義しよう。学習とは、ヒトとAIの双方にとって、「経験や内省を通じて、自己の内部状態が持続的に変化していく過程」のことである。その本質は、「次に同じ、あるいは似た状況に直面したときの自分の反応が変わる」ことにある。
いまのAIは、大量の正解付きデータが人間に与えられずとも、成果へのフィードバックが外部から与えられなくても、自己の状態を更新していけるようになっている。試行錯誤を重ねて、「未知の領域を探索する段階へと急速に拡張されつつある」のだ。
そうしたAIの振る舞いは、けっして「理解している」ことを意味しているわけではない。それでも人がAIの出力に従うのは、人間社会が専門家や制度に対する信頼の根拠としてきた、一貫性・再現性・中立性という性質をかなり高いレベルで備えているからだろう。問題は、そこにおいて「専門性・説明・責任をどのように再構築するか」にあるのだ。












