チンパンジーには、人間がなぜ木星の衛星を研究するのか理解できない。同じように、超知能が何を目指しているのか、生身の人間には理解できなくなるような地点——それがシンギュラリティの本来の意味だ。ウッド氏の説明は、ヴァーナー・ヴィンジが提唱した概念の核心を捉えている。 デイヴィッド・ウッド「シンギュラリティとは、いわば従来の法則が通用しなくなるため、その先を予測できなくなることです。 この言葉を使い始めたのは、SF作家のヴァーナー・ヴィンジで、1980年代のことでした。彼は、私たちよりはるかに知能の高い存在が現れたとき、その存在が何を動機として行動するのか、私たちには理解できなくなると気づいたのです。私たちは、それを従来の人間同士の争いが高速化したようなものだと想像するかもしれません。しかし実際には、彼らは私たちが考えもしないような新しいことを考えているでしょう。 先ほど話したチンパンジーと同じです。チンパンジーには、私たち人間がピタゴラスの定理や木星の衛星の研究に関心を持つことなど想像できません。そもそも木星が何なのかも知りません。木星に衛星があることも、その衛星が研究対象として興味深いことも知りません。 同じように、私たちも自分たちの理解を超えた存在の動機を想像することはできないのです。これこそがシンギュラリティの核心的な意味です。その先に何が起こるのか、分からなくなるということです。 だからこそ、慎重に進む必要があります。私たちを超える存在が制御下にとどまるか、あるいは人類の繁栄を深く重視する性質が、取り消し不可能な形で組み込まれていると確信できるまでは、そこに近づきすぎるべきではありません」 ——「しかし、シンギュラリティとは具体的に何なのでしょうか？ 無限の知能が生まれるということですか？」 ウッド「いいえ、無限の知能である必要はありません。それは単なる飛躍の始点なのです。シンギュラリティには別の定義もあります。それは、人間が地球上で最も知能の高い種ではなくなり、AIの決定に従属するようになる時点です」