私たちの時代に、私たち自身に匹敵するような知性が出現しつつあるという考えは、私たち全員を楽しませる。そして残念なことに、それは私たちの注意をそらす。
私の配偶者が14年前に妊娠したとき、私たちは超音波検査を受けた。その部屋には遺伝学者がいて、胎児の心臓の周りに白い斑点があることを指摘した。「それはダウン症のマーカーで、あなたのリスクは20人に1人になりました。彼女はさらに、羊水穿刺によって胎児が実際にダウン症の基礎となる遺伝的修飾を持っているかどうかを知ることができると教えてくれた。しかし、羊水穿刺はリスクが高く、その処置中に胎児が死亡するリスクはおよそ300分の1だった。統計学者である私は、この数字の根拠を突き止めようと決心した。長い話を短くすると、英国で10年前に統計分析が行われ、カルシウムの蓄積を反映する白い斑点がダウン症の予測因子として確立されていることがわかった。しかし、私たちの検査で使われた画像診断装置は、英国の研究で使われた装置よりも1平方インチあたりの画素数が数百画素多いことにも気づいた。私は遺伝学者に、白い斑点は偽陽性である可能性が高い、つまり文字通り “”ホワイトノイズ “”であると信じている、と伝えた。彼女は、””ああ、数年前からダウン症の診断が増え始めたわけがわかった。
私たちは羊水穿刺を行わず、数ヵ月後に健康な女の子が生まれた。しかし、このエピソードは私を悩ませた。特に、同じ日に世界中で何千人もの人々がこの診断を受け、その多くが羊水穿刺を選択し、何人もの赤ちゃんが不必要に亡くなっていることを、封筒を裏返した計算で納得させられた後だった。そして、このようなことが、何らかの形で解決されるまで、毎日毎日起こっていたのである。このエピソードが明らかにした問題は、私個人の医療の問題ではなく、さまざまな場所と時間で変数と結果を測定し、統計分析を行い、その結果を別の場所と時間で利用する医療システムの問題だった。問題は、データ分析そのものだけでなく、データベース研究者が「出所」と呼ぶもの、つまり、データがどこで生まれ、そのデータからどのような推論が導き出され、その推論が現在の状況にどの程度関連しているのか、ということに関係していた。訓練された人間であれば、ケース・バイ・ケースでこれらすべてを解決できるかもしれないが、問題は、そのような詳細な人間の監視を必要としない巨大な規模の医療システムを設計することだった。
私はコンピューター科学者でもあるが、この種の巨大規模の推論・判断システムを構築するのに必要な原理は、コンピューター科学と統計学を融合させ、人間の効用を考慮したものであり、私の教育にはどこにもないものだと思った。そして、医療分野だけでなく、商業、交通、教育などの領域でも必要とされるであろうこのような原理の開発は、少なくとも、ゲームプレイや感覚運動能力で私たちを魅了するAIシステムの構築と同じくらい重要であると私は考えた。
私たちが「知性」をすぐに理解できるようになるかどうかは別として、人間の生活を向上させる方法でコンピューターと人間を融合させるという大きな課題を私たちは抱えている。この挑戦は、「人工知能」の創造に従属するものとみなす向きもあるが、より平凡に、しかしそれに劣らず敬虔に、工学の新たな分野の創造とみなすこともできる。過去数十年間における土木工学や化学工学のように、この新しい学問分野は、いくつかの重要なアイデアの力を結集し、新しい資源と能力を人々にもたらし、それを安全に行うことを目的としている。土木工学や化学工学が物理学や化学の上に構築されたのに対し、この新しい工学分野は、前世紀に実体化されたアイデア、すなわち「情報」、「アルゴリズム」、「データ」、「不確実性」、「コンピューティング」、「推論」、「最適化」といったアイデアの上に構築される。さらに、この新しい学問分野の焦点の多くは、人間から得られたデータ、そして人間に関するデータであるため、その発展には社会科学や人文科学からの視点が必要となる。
構成要素は明らかになりつつあるが、それらを組み合わせる原理はまだ確立されていないため、現在は場当たり的な方法で構成要素が組み合わされている。
したがって、土木工学が生まれる前に人類がビルや橋を建設したように、人類は機械、人間、環境を巻き込んだ社会規模の推論・意思決定システムの構築を進めている。初期の建物や橋が、時に予期せぬ形で、悲劇的な結末を伴って地面に落下したように、初期の社会規模の推論・意思決定システムの多くは、すでに深刻な概念的欠陥を露呈している。
そして残念なことに、私たちは次にどのような重大な欠陥が現れるかを予測することが苦手なのだ。私たちに欠けているのは、分析と設計の原則を備えた工学的学問分野である。
このような問題に関する現在の一般的な対話では、「AI」が知的ワイルドカードとして使われることが多く、新たなテクノロジーの範囲や結果について推論することを難しくしている。まず、「AI」が最近、そして歴史的に何を指す言葉として使われてきたかを注意深く考えることから始めよう。
今日、特に一般社会で「AI」と呼ばれているもののほとんどは、過去数十年にわたって「機械学習」（ML）と呼ばれてきたものだ。MLは、統計学、コンピュータサイエンス、その他多くの学問分野（下記参照）のアイデアを融合させ、データを処理し、予測を行い、意思決定を支援するアルゴリズムを設計するアルゴリズム分野である。実社会へのインパクトという点では、MLは本物であり、最近に限ったことではない。実際、MLが産業界で巨大な関連性を持つようになることは、1990年代初頭にはすでに明らかであった。今世紀に入る頃には、アマゾンのような先進的な企業は、すでにMLをビジネス全体で利用し、不正検知やサプライチェーン予測といったミッションクリティカルなバックエンドの問題を解決し、推薦システムのような革新的な消費者向けサービスを構築していた。その後20年間で、データセットとコンピューティングリソースが急速に成長するにつれ、MLがやがてアマゾンだけでなく、大規模データと結びつけて意思決定ができる本質的にあらゆる企業に力を与えることが明らかになった。新たなビジネスモデルが出現したのだ。データサイエンス」という言葉がこの現象を指すのに使われ始めたのは、MLアルゴリズムの専門家が、スケーラブルで堅牢なMLシステムを構築するために、データベースや分散システムの専門家と提携する必要性を反映したものであり、結果として生じるシステムの社会的・環境的な広がりの大きさを反映したものである。
このようなアイデアと技術トレンドの合流は、ここ数年の間に「AI」と呼ばれるようになった。この再ブランディングは精査に値する。
歴史的に見ると、「AI」という言葉は1950年代後半に作られたもので、人間レベルの知能を持つ存在をソフトウェアやハードウェアで実現しようという大それた願望を指す。私たちはこの願望を「人間模倣AI」という言葉で表現し、人工知能を持つ存在が、肉体的にはともかく精神的には（それが何を意味するかは別として）私たちの仲間であるかのように見えるべきだという考え方を強調する。これは主に学術的な事業であった。オペレーションズ・リサーチ、統計学、パターン認識、情報理論、制御理論など、関連する学問分野はすでに存在し、人間の知能（および動物の知能）に触発されることも多かったが、これらの分野は間違いなく「低レベル」の信号と意思決定に焦点を当てていた。例えば、リスが自分の住む森の3次元構造を認識し、その枝の間を跳躍する能力は、これらの分野にインスピレーションを与えた。「AI」は、それとは異なるもの、つまり人間の「理性」や「思考」といった「高度な」あるいは「認知的な」能力に焦点を当てるものだった。しかし、それから60年経った現在でも、高度な推論や思考はまだ達成されていない。現在「AI」と呼ばれている開発のほとんどは、低レベルのパターン認識や動作制御に関連する工学分野や、統計学の分野で生まれた。統計学は、データのパターンを見つけ、根拠のある予測や仮説の検証、決定を行うことに焦点を当てた学問である。
実際、1980年代初頭にデビッド・ルメルハートによって再発見され、現在ではいわゆる「AI革命」の中核をなすと見なされている有名な「バックプロパゲーション」アルゴリズムは、1950年代から1960年代にかけて制御理論の分野で最初に生まれた。その初期の応用例のひとつが、アポロ宇宙船が月へ向かう際の推力の最適化であった。
1960年代以降、多くの進歩がもたらされたが、それは間違いなく、人間模倣型AIの追求から生まれたものではない。むしろ、アポロ宇宙船の場合と同様に、これらのアイデアはしばしば舞台裏に隠れており、特定の工学的課題に焦点を当てた研究者の手によるものであった。一般の人々の目には触れないが、文書検索、テキスト分類、不正検知、推薦システム、パーソナライズ検索、ソーシャルネットワーク分析、プランニング、診断、A/Bテストなどの分野における研究とシステム構築は大きな成功を収めており、これらはグーグル、ネットフリックス、フェイスブック、アマゾンなどの企業を動かしてきた進歩である。
これらはグーグル、ネットフリックス、フェイスブック、アマゾンのような企業を動かしてきた。これらすべてを「AI」と呼ぶことに同意することもできるし、実際にそうなっているように見える。このようなラベリングは、最適化や統計の研究者にとっては驚きかもしれない。しかし、研究者へのレッテル貼りはさておき、より大きな問題は、この単一の、定義付けの曖昧な頭字語の使用によって、知的および商業的な問題の範囲の明確な理解が妨げられていることである。
過去20年間、産業界と学界では、しばしば「インテリジェンス・オーグメンテーション」（IA）と呼ばれる、人間を模倣するAIへの補完的な願望において大きな進展が見られた。ここでは、人間の知性と創造性を補強するサービスを生み出すために、計算とデータが使用される。検索エンジンは、自然言語翻訳（人間のコミュニケーション能力を増強する）と同様に、IA（人間の記憶と事実知識を増強する）の一例と見なすことができる。コンピューティングに基づく音や画像の生成は、アーティストのパレットや創造性を高める役割を果たす。この種のサービスは、高度な推論や思考を伴うことも考えられるが、現在のところそうではない。
読者が最後の略語を許容してくれることを願って、「インテリジェント・インフラストラクチャー」（II）という学問分野を広く考えてみよう。このようなインフラストラクチャーは、交通、医療、商業、金融などの領域で登場し始めており、個々の人間や社会に多大な影響を及ぼしている。このような出現は、「モノのインターネット」についての会話の中でときどき出てくるが、この取り組みは一般に、「モノ」をインターネットに接続するという単なる問題を指しているのであって、それらのデータストリームを分析して世界についての事実を発見し、単なるビットよりもはるかに高い抽象度で人間や他の「モノ」と相互作用することができる、これらの「モノ」に関連するはるかに壮大な一連の課題を指しているのではない。
例えば、私の個人的な逸話に戻ると、私たちは「社会規模の医療システム」の中で生活することを想像するかもしれない。このシステムは、医師と人間の身体やその周囲に配置された機器との間にデータの流れやデータ分析の流れを設定し、それによって人間の知性が診断を下したり治療を提供したりするのを助けることができる。このシステムには、体内の細胞、DNA、血液検査、環境、集団遺伝学、薬や治療法に関する膨大な科学文献からの情報が組み込まれる。一人の患者と一人の医師だけに焦点を当てるのではなく、すべての人間の関係に焦点を当てることになる。現在の医学的検査が、ある人間（あるいは動物）に対して行われた実験を、他の人間のケアに生かすことを可能にしているように。それは、現在の銀行システムが金融と支払いの領域でそのような課題に焦点を当てているように、関連性、出所、信頼性の概念を維持するのに役立つだろう。そして、このようなシステムでは、プライバシーの問題、責任の問題、セキュリティの問題など、多くの問題が発生することが予想されるが、これらの問題は、ショーストッパーではなく、課題として捉えるのが適切であろう。
我々は今、重大な問題に直面している：古典的な人間模倣型AIに取り組むことが、このような大きな課題に集中するための最良の、あるいは唯一の方法なのだろうか？MLの最近のサクセスストーリーのいくつかは、実際、コンピュータビジョン、音声認識、ゲームプレイ、ロボット工学など、人間模倣型AIに関連する分野であった。ということは、私たちはこのような分野でのさらなる進歩を待つべきなのかもしれない。ここで2つのポイントがある。第一に、新聞を読むだけではわからないが、人間模倣型AIの成功は実際には限定的であり、人間模倣型AIの願望実現にはほど遠い。残念なことに、人間模倣型AIの限られた進歩でさえも、そのスリル（と恐怖）が、他の工学分野にはないレベルの過剰な高揚とメディアの注目を生み出している。
第二に、さらに重要なことは、これらの領域での成功は、IAやIIの重要な問題を解決するのに十分でも必要でもないということである。十分性の面では、自動運転車を考えてみよう。このような技術を実現するためには、人間の能力（あるいは人間の能力不足）とはあまり関係のない、さまざまな工学的問題を解決する必要がある。全体的な交通システム（IIシステム）は、現在の前方を向いた不注意な人間のドライバーの集まりよりも、現在の航空管制システムに近いものになるだろう。特に、大量のデータと適応的な統計モデリングを使用して、きめ細かな決定を下すという点である。最前線に立つ必要があるのはこうした課題であり、そのような取り組みにおいて、人間模倣型AIに焦点を当てることは気晴らしになるかもしれない。
必要性の議論に関しては、人間模倣型AIはIAやIIの願望を包含していると主張されることがある。なぜなら、人間模倣型AIシステムは（例えばチューリングテストで具体化されるような）AIの古典的な問題を解決できるだけでなく、IAやIIの問題を解決するための最善の策でもあるからだ。このような議論には歴史的な前例がほとんどない。土木工学は、人工的な大工やレンガ職人の誕生を想定して発展したのだろうか？化学工学は、人工化学者の創造という観点から組み立てられてきたのだろうか？さらに極論すれば、化学工場を建設することが目的であったなら、まず化学工場を建設する方法を研究する人工化学者を作るべきだったのだろうか？
関連する議論として、人間の知性は私たちが知っている唯一の知性であり、私たちは最初のステップとしてそれを模倣することを目指すべきだというものがある。しかし、実際には人間は推論が苦手なところがある。さらに致命的なことに、私たちは現代のIIシステムが直面しなければならないような大規模な意思決定を行うために進化したわけでも、IIの文脈で生じる不確実性に対処するために進化したわけでもない。AIシステムは人間の知性を模倣するだけでなく、それを「修正」し、さらに任意に大規模な問題にも対応できると主張することもできる。しかし、私たちは今、SFの世界にいる。フィクションの世界では楽しめるが、IAとIIの重大な問題が顕在化し始めている今、そのような思弁的な議論は、今後の主要な戦略にはすべきではない。私たちは、IAとIIの問題をそれ自体の利点で解決する必要があるのであって、人間イミテイティブなAIのアジェンダの単なる副次的なものとして解決する必要はない。
IIシステムにおけるアルゴリズムやインフラストラクチャーの課題を特定するのは難しくないが、それは人間によるイミテーティブなAI研究では中心的なテーマではない。AIシステムには、急速に変化し、グローバルに支離滅裂になりがちな知識の分散リポジトリを管理する能力が求められる。このようなシステムは、タイムリーで分散された意思決定を行う上で、クラウドエッジの相互作用に対処しなければならない。また、一部の個人に関するデータは多いが、大部分の個人に関するデータは少ないというロングテール現象に対処しなければならない。また、行政や競合の垣根を越えてデータを共有することの難しさにも対処しなければならない。最後に、特に重要なこととして、IIシステムは、インセンティブやプライシングといった経済的な考え方を、人間同士や価値ある財を結びつける統計的・計算的基盤の領域に持ち込まなければならない。このようなIIシステムは、単にサービスを提供するだけでなく、市場を創造するものとみなすことができる。音楽、文学、ジャーナリズムなど、データ分析が生産者と消費者を結びつける、このような市場の出現が叫ばれている領域がある。そしてこれはすべて、進化する社会的、倫理的、法的規範の中で行われなければならない。
もちろん、古典的な人間と人工知能の問題も依然として大きな関心を集めている。しかし、データの収集、「ディープラーニング」インフラの展開、特定の狭い範囲の人間のスキルを模倣したシステムの実証（新たな説明原理はほとんどない）を通じてAI研究を行うことに現在の焦点が当てられているため、古典的AIにおける主要な未解決問題から注意がそれる傾向にある。これらの問題には、自然言語処理を行うシステムに意味と推論を持ち込む必要性、因果関係を推論し表現する必要性、不確実性の計算処理可能な表現を開発する必要性、長期的な目標を策定し追求するシステムを開発する必要性などが含まれる。これらは、人間-イミテーティブAIにおける古典的な目標であるが、「AI革命」をめぐる現在の喧騒の中で、まだ解決されていないことを忘れがちである。
というのも、当面の間、現実世界の状況について抽象的に推論する能力において、コンピューターは人間にかなわないからである。最も差し迫った問題を解決するためには、人間とコンピュータのよく考えられた相互作用が必要になる。そして、人間の創造性（それが何を意味するかは別として）に取って代わるのではなく、人間の創造性を新たなレベルに引き上げるきっかけをコンピュータに求めるようになるだろう。
産業界の狭い部分集合と学界の狭い部分集合に焦点を当てた、AIに関する現在の公的な対話は、AI、IA、IIの全範囲によってもたらされる課題と機会について、私たちを盲目にする危険性があることを認識する必要がある。
この範囲は、SFの夢や超人的な機械の悪夢を実現することよりも、日常生活においてテクノロジーがこれまで以上に存在し、影響力を持つようになる中で、人間がテクノロジーを理解し、形成することの必要性を意味している。
さらに、この理解と形成には、単に技術に精通した人々の間の対話だけでなく、あらゆる階層の多様な声が必要である。人間イミフなAIに焦点を絞ることで、適切な広範な声を聞くことができなくなる。
最も革新的な技術的アイデアを提供するだけでなく、計算・統計分野の研究者と、社会科学、認知科学、人文科学など、その貢献と視点が切実に必要とされる他の分野の研究者を結びつける上でも。
一方、人文科学と科学は、私たちが前進していく上で必要不可欠なものであるが、私たちはまた、前例のない規模と範囲を持つ工学的な取り組み以外の何かについて話しているふりをすべきではない。これらの人工物は、主張どおりに機能するように構築されるべきである。私たちは、医療や交通手段、商業的な機会などを支援するシステムを構築した後で、これらのシステムが実際には機能しないこと、つまり、人間の生命や幸福の面で犠牲となるようなエラーを起こすことを知りたくはないのだ。この点で、私が強調してきたように、データに焦点を当てた分野や学習に焦点を当てた分野には、まだ工学的な学問分野が出現していない。後者の分野はエキサイティングに見えるが、まだ工学的な学問を構成しているとは言えない。
さらに、私たちが目撃しているのは、工学の新しい分野の創造であるという事実を受け入れるべきである。工学」という言葉は、学問の世界でもそれ以外でも、冷淡で無感情な機械や、人間によるコントロールの喪失という否定的な意味合いを含んで、しばしば狭い意味で使われる。しかし、工学という学問は、私たちが望むものになり得るのだ。
コメントを残す