AI革命：超知能への道のり｜Wait But Why より （パート1）
本記事では、AI（人工知能）の可能性とその未来について、海外で人気のウェブサイト「waitbutwhy」からの記事をご紹介します。この記事は、2015年に英語で書かれたもので、多くの議論や興味深いコメントが寄せられています。私たちは、この内容を日本語でもお届けしたいと思い、ChatGPTとDeepLを活用して日本語に翻訳しました。waitbutwhyの著者に敬意を表し、彼らのインサイトと独創的な視点を日本の読者にも伝えられることを願っています。
地球上の人間の生命の勃興に匹敵する変化の瀬戸際に立っています。
- ヴァーナー・ヴィンジ
ここに立っているとどんな気分ですか？
かなり厳しい場所に立っているように思えますが、しかし、タイムグラフの上に立つと、右側が見えないということを思い出さなければなりません。実際にそこに立つとどのように感じるか、これからご紹介いたします。
おそらく、それは特に何も変わらない感覚でしょう…
遠い未来がもうすぐそこに
1750年にタイムマシンで戻ってきたと想像してみてください。この時代、世界は永久停電状態にあり、長距離通信は大声で叫ぶか空中で大砲を撃つかのどちらかであり、すべての輸送手段は干し草を使っていたのです。高速道路でピカピカのカプセルが走り抜けるのを見たり、その日のうちに海の向こう側にいた人と話したり、1000マイル離れた場所で行われているスポーツを見たり、50年前の音楽を聴いたりすることが、彼にとってどんなことなのか、私たちには理解することが不可能です、 そして、私の不思議な魔法使いの長方形を使って、現実の画像や生きている瞬間を記録したり、自分がどこにいるのかを示す超常的な動く青い点のある地図を作ったり、国の反対側にいても誰かの顔を見てチャットしたり、その他にも想像もつかないような魔法の世界で遊ぶことができるのです。しかも、インターネットや、国際宇宙ステーション、大型ハドロン衝突型加速器、核兵器、一般相対性理論といったものを説明する前にです。
彼にとってのこの体験は、驚きや衝撃、あるいは心を揺さぶられるような類のものではないはずです。本当に死ぬかもしれません。
しかし、面白いことに、もし彼が1750年に戻って、私たちが彼の反応を見ることができたとしたら、私たちは彼の反応に興味を持ったでしょう。同じことをやってみたいと思った場合、彼はタイムマシンで同じ距離に戻り、1500年ごろの人を捕まえて1750年に連れてきて、彼にすべてを見せるでしょう。すると、1500年の人はいろいろなことにショックを受けるかもしれませんが、彼が死ぬことはありません。なぜなら、1500年と1750年は大きく異なるものの、1750年から2015年にかけての違いははるかに大きいからです。1500年の彼は、宇宙や物理学について気の遠くなるようなことを学び、ヨーロッパが新しい帝国主義の流行にどれだけ熱心であったかに感銘を受け、世界地図の構想を大きく修正しなければならないでしょう。しかし、1750年の交通や通信などの日常生活を見ていても、間違いなく死ぬことはありません。
しかしながら、1750年の人が私たちと同じように楽しむためには、もっと昔に遡らなければなりません。もしかしたら、第一次農業革命によって最初の都市が生まれ、文明という概念が生まれる前の、紀元前12,000年くらいまで遡らなければなりません。もし、純粋な狩猟採集民の世界から来た人、つまり、人間が多かれ少なかれ、ただの動物種だった時代の人が、1750年の巨大な人類帝国、そびえ立つ教会、海を渡る船、「内部」という概念、そして、人類の知識と発見の集合体である膨大な山を見たら、おそらく死ぬでしょう。
そして、もし死んだ後に、嫉妬して同じことをしたいと思った場合、どうでしょうか。もし彼が1万2千年前の紀元前2万4千年に戻り、ある男を捕まえて紀元前1万2千年に連れてきたら、彼はその男にすべて見せ、男は「何が言いたいんだ、気にするな」と思うかもしれません。紀元前1万2千年の男が同じように楽しむには、10万年以上前に戻って、初めて火と言葉を見せる相手を手に入れなければなりません。
未来に飛ばされた人がショック死するためには、「ダイ・プログレス・ユニット（DPU）」と呼ばれる「ダイ・レベルの進歩」が達成されるだけの年月が必要です。狩猟採集時代には10万年以上かかったDPUが、農業革命後の速度では1万2千年程度で達成できます。産業革命後の世界では、1750年の人がDPUを達成するのに数百年進むだけでいいという、非常に早いスピードで進歩しています。しかし、未来の人々が私たちを見ても同じように驚くことができるかどうかはわかりません。技術がさらに進化することで、私たちはますます驚くべき未来を生み出すことができるかもしれません。
このように、未来学者のレイ・カーツワイルは、「人類史の加速度的リターンの法則」と呼ばれる時間とともに進歩が加速する現象を説明しています。この法則によると、先進的な社会は、そうでない社会よりも速い速度で進歩する能力を持っているため、19世紀の人類が15世紀の人類よりもはるかに多くの進歩を遂げたのは当然のことです。
この法則は、小さなスケールでも有効であることがわかります。例えば、映画『バック・トゥ・ザ・フューチャー』は1985年に公開されましたが、舞台は1955年でした。もし、この映画が今日作られ、過去が1985年であった場合、より大きな違いがあったことが想像できます。これは、「加速度的リターンの法則」によるもので、直近の30年間では以前の30年間よりも進歩がはるかに速く、進歩がますます大きくなっていることを示しています。
この法則が正しいとすれば、未来はますます進化していくことが予測されます。レイ・カーツワイルは、2000年の進歩の速度であれば、20世紀全体の進歩はわずか20年で達成されると述べています。そして、2000年から2014年の間には20世紀分の進歩が起こり、2021年までにもう20世紀分の進歩が、わずか7年で起こると考えています。そして、その数十年後には、20世紀分の進歩が同じ年に何度も起こり、1カ月も経たないうちに起こる可能性があると考えています。つまり、「加速度リターンの法則」によって、21世紀には20世紀の1000倍の進歩が達成されるとカーツワイルは考えているのです。
もし、カーツワイルや彼に賛同する人々が正しいとすれば、私たちは2030年には、1750年の人類が2015年に達成したことと同じように、驚くべき進歩を達成しているかもしれません。
これは、もっと小さなスケールでも有効です。映画『バック・トゥ・ザ・フューチャー』は1985年に公開されましたが、「過去」の舞台は1955年でした。映画では、マイケル・J・フォックスが1955年に戻ったとき、テレビの新しさ、ソーダの値段、シュールなエレキギターへの愛のなさ、スラングのバリエーションに意表を突かれたそうです。しかし、もしこの映画が今日作られ、過去が1985年に起こったとしたら、映画はもっと大きな違いでもっと楽しめたはずです。90年代後半に生まれたティーンエイジャーである現在のマーティ・マクフライは、映画のマーティ・マクフライが1955年であるよりも、1985年の方がずっと場違いです。
これは、先ほど説明した「加速度的リターンの法則」と同じ理由です。1985年から2015年までの平均的な進歩の速度は、1955年から1985年までの平均的な進歩の速度よりも高いです。
つまり、進歩はますます大きくなり、より速く起こっているのです。カーツワイルは、20世紀全体の進歩は、2000年の進歩の速度であれば、わずか20年で達成されたはずだと提案しています。彼は、2000年から2014年の間にもう20世紀分の進歩が起こり、2021年までにもう20世紀分の進歩が、わずか7年で起こると考えています。その数十年後には、20世紀分の進歩が同じ年に何度も起こり、さらにその先には1カ月も経たないうちに起こると考えています。つまり、「加速度リターンの法則」によって、21世紀には20世紀の1000倍の進歩が達成されるとカーツワイルは考えているのです。
もしカーツワイル氏や彼に賛同する人たちが正しければ、2030年には、1750年の人が2015年に感じたのと同じように吹き飛ばされてしまうかもしれません。つまり、次のDPUは数十年しかかからないかもしれませんし、2050年の世界は今日の世界と大きく異なり、ほとんど認識できなくなるかもしれません。
これはSFではありません。私やあなたよりも賢い科学者たちが、そう信じているのです。
では、私が「35年後の世界は、まったく認識できないものになっているかもしれない」と言ったとき、あなたは「かっこいい......でも、なんだかなぁ」と思うのでしょうか？私たちが突飛な未来予測に懐疑的なのは、3つの理由があります。
1）私たちは歴史を直線として考えています。次の30年の進展を想像するとき、前の30年の進展を振り返ることで、どれだけのことが起こりそうかを示す指標として用いています。21世紀に世界がどの程度変わるかを考えるとき、20世紀の歩みを2000年に足すだけでは不十分です。これは、1750年の人が1500年の人を追いつくために、同じ距離を進むと自分の頭が吹っ飛ぶと期待したのと同じ過ちです。指数関数的に考えるべきなのに、直線的に考えてしまうのは、最も直感的なことなのです。もっと賢い人がいれば、30年後の進歩を予測するのに、30年前を見るのではなく、現在の進歩の速度を見て判断するかもしれません。そうすれば、より正確な予測ができるかもしれませんが、それでも大きく外れるでしょう。未来を正しく考えるには、今よりもずっと速いスピードで物事が進んでいることを想像する必要があります。
2）ごく最近の歴史の軌跡は、しばしば歪んだストーリーを語ります。まず第一に、急勾配な指数関数曲線も、そのごく一部だけを見ると直線的に見えます。同様に、巨大な円の一部を近くで見ると、ほとんど直線のように見えます。第二に、指数関数的な成長は、完全に滑らかで均一なものではありません。カーツワイルは、進歩は「S字カーブ」で起こると説明しています。
Sは、新しいパラダイムが世界を席巻するときに、進歩の波によって作られます。この曲線は3つの段階を経ています。
1．緩やかな成長（指数関数的な成長の初期段階）です。
2．急成長（指数関数的成長の後期、爆発的な成長段階）です。
3．特定のパラダイムが成熟するにつれて、平準化されます。
ごく最近の歴史に目を向けると、今自分がいるS字カーブの部分が、物事の進歩の速さを認識する上で曖昧になってしまうことがあります。1995年から2007年にかけては、インターネットが爆発的に普及し、マイクロソフト、グーグル、フェイスブックが一般に知られるようになり、ソーシャルネットワーキングが誕生し、携帯電話、そしてスマートフォンが登場した時期でした。しかし、2008年から2015年にかけては、少なくとも技術的な面では、あまり画期的なことはありませんでした。今、未来を考える人は、ここ数年の進歩の度合いを調べるかもしれませんが、それでは全体像が見えません。実は今、フェーズ2の新しい大きな成長が始まっているのかもしれません。
3)私たちは、経験によって、未来について頑固な老人になります。私たちは個人的な経験に基づいて世界について考え、その経験によって、最近の成長率が「物事の起こり方」として頭に刻み込まれています。しかし、多くの場合、私たちが知っていることは、未来について正確に考えるための道具を与えてくれません。私たちは、自分の経験に基づく物事の仕組みと矛盾する未来予測を耳にしたとき、直感的に「この予測は甘いのではないか」と思うのです。この記事の後半で、私が「あなたは150歳まで生きるかもしれない」「250歳まで生きるかもしれない」「まったく死なないかもしれない」と言えば、あなたの本能は「そんな馬鹿な、歴史から分かることは、みんな死ぬということだ」と思うでしょう。たしかに、過去に死ななかった人はいません。しかし、飛行機が発明される前に飛行機を飛ばした人もいません。
ですから、この記事を読んで、「な～んだ」と感じるかもしれませんが、実際には間違っている可能性があります。実は、もし私たちが本当に論理的で、歴史的なパターンが続くと予想するならば、私たちは直感的に予想するよりもはるかに多くのことが今後数十年の間に変わると結論づけられます。ある惑星で最も進化した種が、より速い速度でより大きな飛躍を続けるならば、ある時点で、彼らが知っている生活や、人間であることの意味を完全に変えるほどの大きな飛躍を遂げるでしょう。それは、進化が知能に向かって大きな飛躍を続け、ついには人間にまで大きな飛躍を遂げて、地球上に住むあらゆる生物の意味を完全に変えてしまったのと同じです。そして、現在の科学技術に目を向けると、現在の生命が次の飛躍に耐えられないことを示唆する多くの兆候が静かに見え始めています。
----------
超知能への道のり
AIとは何か？
私も以前は人工知能をSF的なバカげた概念だと思っていましたが、最近は真面目な人たちが口にするのを聞いて、よくわからなくなりました。多くの人がAIという言葉に戸惑う理由は3つあります。
1）AIを映画と結びつけて考えていることが一つの理由です。スターウォーズ、ターミネーター、2001年宇宙の旅、ジェットソンなどの作品に登場するロボットたちはフィクションのキャラクターであり、それがAIのイメージに影響を与えていることが原因です。このため、AIについては少しフィクション的に聞こえてしまうのです。
2）AIは幅広いテーマであることがもう一つの理由です。スマホの電卓から自動運転車、そして未来の可能性まで、AIが扱う範囲は広く多岐に渡ります。このため、AIが何を指しているのか混乱することがあります。
3）私たちは日常生活でいつもAIを使っていますが、それがAIであることに気づいていないことが多いため、AIは神話的な未来予測のように聞こえることが多いです。1956年に"Artificial Intelligence"という言葉を作ったジョン・マッカーシーは、"うまくいくとすぐに誰もAIと呼ばなくなる "と不満を漏らしています。このような現象があるため、AIは現実よりも神話的なものとして扱われ、また実現しなかった過去のポップなコンセプトのようにも聞こえてしまうことがあります。レイ・カーツワイルは、AIは1980年代に枯れたという話をよく耳にすると言いますが、これは「インターネットは2000年代初頭のドットコム不況で死んだと主張する」のと同じだと例えています。
では、まず、物事を明確にしていきましょう。まず、ロボットを考えるのをやめましょう。ロボットはAIの入れ物であり、人間の形を模倣することもあれば、そうでないこともあります。しかし、AIそのものはロボットの中のコンピューターです。AIは脳であり、ロボットはその体（体があるとしても）です。例えば、Siriを支えるソフトウェアとデータはAIであり、私たちが聞く女性の声はそのAIを擬人化したもので、ロボットは一切関与していません。
次に、"シンギュラリティ "や "技術的特異点 "という言葉を聞いたことがあるかと思います。この言葉は数学で、通常のルールが適用されなくなる漸近的な状況を表現するために使われてきました。物理学では、限りなく小さく高密度なブラックホールや、ビッグバン直前に私たちが押し込められた点のような現象を表すのに使われます。ここでも、通常のルールが適用されない状況です。1993年、ヴァーナー・ヴィンジは有名なエッセイで、この言葉を、将来、テクノロジーの知能が人間を超える瞬間、つまり、私たちが知っている生活が永遠に変わり、通常のルールが適用できなくなる瞬間に適用しました。そして、レイ・カーツワイルは、シンギュラリティを「加速度リターンの法則」が極限まで達し、技術の進歩が無限とも思えるスピードで進み、その後、私たちがまったく新しい世界に住むことになるときと定義し、少し混乱させました。今日のAI思想家の多くがこの言葉を使わなくなっていることがわかりましたし、とにかく紛らわしいので、ここではあまり使いません（全体を通してその考え方に注目することになりますが）。
最後に、AIは広い概念であり、様々な種類や形態がありますが、私たちが考えるべき重要なカテゴリーは、AIの口径に基づくものです。AIの口径は大きく3つに分類されます：
AI Caliber 1）特化型人工知能（ANI）：弱いAIと呼ばれることもある特化型人工知能は、ある分野に特化したAIのことです。チェスの世界チャンピオンにチェスで勝てるAIがありますが、そのAIができることはそれだけです。ハードディスクにデータを保存するためのより良い方法を考えてほしいと頼まれても、無表情で見つめるだけです。
AI Caliber 2）汎用人工知能（AGI）：強力なAI、あるいは人間レベルのAIと呼ばれることもある汎用人工知能は、あらゆる面で人間と同じように賢いコンピューター、つまり人間ができるあらゆる知的作業を行うことができる機械のことを指します。AGIを作るのはANIを作るよりずっと難しいことで、私たちはまだそれを実現できていません。リンダ・ゴットフレッドソン教授は、知能を「推論、計画、問題解決、抽象的思考、複雑なアイデアの理解、迅速な学習、経験から学ぶ能力などを含む、非常に一般的な精神能力」と表現しています。AGIは、それらすべてを、あなたと同じように簡単にこなすことができるでしょう。
AI Caliber 3）人工超知能（ASI）： オックスフォード大学の哲学者であり、AIの第一人者であるニック・ボストロムは、超知能を「科学的創造性、一般常識、社会的スキルなど、実質的にあらゆる分野で人間の最高の頭脳よりもはるかに賢い知性」と定義しています。人工超知能は、人間より少し賢いだけのコンピュータから、何兆倍も賢いものまで、あらゆる分野に及びます。ASIは、AIというトピックがこれほどまでにスパイシーなミートボールであり、「不死」と「絶滅」という言葉がこの記事で何度も登場する理由です。現時点では、人類は最低レベルのAI-Aniを多くの点で克服し、いたるところに存在しています。AI革命とは、ANIからAGIを経てASIに至る道であり、私たちが生き残れるかどうかは別として、いずれにせよ、すべてを変えてしまう道です。
この道のりを、この分野の第一人者たちがどのように考えているのか、そしてなぜこの革命が、皆さんが思っているよりもずっと早く起こるかもしれないのか、詳しく見ていきましょう。
私たちの現在位置｜ANIで動く世界
特化型人工知能（ANI）とは、特定の事柄において人間の知能や効率と同等、またはそれを上回る機械知能のことです。いくつか例を挙げます：
アンチロックブレーキが作動するタイミングを把握するコンピューターから、燃料噴射システムのパラメーターを調整するコンピューターまで、自動車にはANIシステムが溢れています。現在テスト中のGoogleの自動運転車には、周囲の世界を認識し反応するための強固なANIシステムが搭載される予定です。
あなたの携帯電話は、小さなANI工場です。地図アプリでナビゲートするとき、Pandoraのおすすめ音楽を聴くとき、明日の天気を調べるとき、Siriに話しかけるとき、その他何十もの日常生活で、あなたはANIを使用しています。
スパムメールフィルターは、典型的なANIの一種です。最初はスパムかそうでないかを判断するためのインテリジェンスを搭載していますが、あなたの好みに合わせて学習してインテリジェンスを調整します。Nest Thermostatも同じように、あなたの典型的な生活習慣を把握し、それに応じて行動するようになります。
Amazonで商品を検索すると、別のサイトで「あなたにおすすめ」の商品が表示されたり、Facebookで友達として追加した方がいい人がわかったりする、あの不気味な現象をご存じでしょうか。これはANIシステムのネットワークで、あなたが誰で何が好きかを互いに知らせ合い、その情報を使ってあなたに何を見せるかを決めているのです。Amazonの「この商品を買った人はこんな商品も買っています」という機能も同様で、何百万人もの顧客の行動から情報を収集し、その情報を総合して、より多くのものを買ってもらえるように巧みにアップセルするのが、ANIシステムの仕事です。
Google翻訳も典型的なANIシステムで、ある限られたタスクにおいて非常に優れた能力を発揮します。音声認識もそのひとつで、この2つのANIをタッグチームとして使うアプリがたくさんあり、ある言語で文章を話すと、電話が別の言語で同じ文章を吐き出してくれます。
飛行機が着陸するとき、どのゲートに行くべきかを決めるのは人間ではありません。航空券の値段を決めたのも人間ではないようです。
世界最高のチェッカー、チェス、スクラブル、バックギャモン、オセロのプレイヤーは、今やすべてANIシステムです。
Googleの検索は、ページをランク付けし、特に何を見せるかを考えるための信じられないほど洗練された方法を持つ、一つの大きなANI脳です。Facebookのニュースフィードも同様です。
そして、これらは消費者の世界に限った話です。高度なANIシステムは、軍事、製造、金融（アルゴリズムによる高頻度AIトレーダーは、米国市場で取引される株式の半分以上を占めています。）などの分野や産業で広く使われており、医師の診断を助けるエキスパートシステム、最も有名なのはIBMのワトソンで、トレベックの言葉を十分に理解し、事実を十分に理解して、ジェパディの最も多くのチャンピオンに勝つことができました。
現在のANIシステムは、特に怖いものではありません。最悪の場合、不具合やプログラム不良のANIは、送電網を麻痺させたり、有害な原子力発電所を誤作動させたり、金融市場の災害の引き金となるような孤立した大災害を引き起こす可能性があります（2010年のフラッシュクラッシュのように、ANIのプログラムが予期せぬ事態に誤って反応したために株式市場が一時急落して1兆ドルの市場価値が奪われ、その一部が間違いを修正したときに回復しただけでした）。
しかし、ANIには存亡の危機を招くほどの能力はありませんが、比較的無害なANIがますます大きく複雑になるこの生態系は、世界を変えるハリケーンがやってくる前兆と見るべきでしょう。新しいANIが登場するたびに、AGIやASIへの道のりに新たなレンガが静かに加えられていきます。アーロン・サエンスは、この世界のANIシステムは「地球初期の原始的な液体の中のアミノ酸のようなもの」であり、ある日突然目覚めた生命の無機物のようなものだと考えています。
ANIからAGIへの道のり
Why It’s So Hard
私たちは、同じように賢いコンピュータを作ることがいかに困難であるかを知ることほど、人間の知性に感謝できることはありません。高層ビルを建てたり、人類を宇宙に送り出したり、ビッグバンを解明したりするのは、私たちの脳を理解したり、そのようなクールなものを作る方法よりもはるかに簡単です。今のところ、人間の脳は、既知の宇宙で最も複雑な物体です。
興味深いのは、AGI（ある狭い専門分野だけでなく、一般的に人間と同じように賢いコンピューター）を作ろうとすると、難しい部分が直感的に思い浮かばないことです。10桁の数字を2つ一瞬で掛け算できるコンピュータを作るのは、信じられないほど簡単です。犬を見て、それが犬か猫かを答えることができるコンピュータを作るのは、驚くほど難しいです。チェスでどんな人間にも勝てるAIを作る？簡単です。6歳児の絵本の段落を読んで、単語を認識するだけでなく、その意味を理解することができるAIを作るか？Googleは現在、何十億ドルもかけてこれに挑戦しています。微積分、金融市場戦略、言語翻訳など、難しいことはコンピュータにとって気が遠くなるほど簡単ですが、視覚、運動、移動、知覚など、簡単なことはコンピュータにとってとんでもなく難しいです。コンピュータ科学者のドナルド・クヌースが言うように、「AIは現在までに、『考える』ことを必要とするすべてのことを本質的に行うことに成功しているが、人間や動物が『考えずに』行うことのほとんどを行うことができない」のです。
このように考えると、私たちにとって簡単そうに見えることが、実は信じられないほど複雑であることに気づきます。簡単そうに見えるのは、その技術が何億年もの動物の進化によって、私たち（そしてほとんどの動物）に最適化されているからに他なりません。手を物に向かって伸ばすと、肩、肘、手首の筋肉、腱、骨が瞬時に物理演算を行い、目と連動して、手を三次元の中で直線的に動かすことができます。それは、あなたの脳の中に、それを行うためのソフトウェアが完成しているからです。同じような考えで、サイトに新規登録するときに行われる単語認識テストを理解できないマルウェアが馬鹿なのではなく、それができるあなたの脳が超素晴らしいということなのです。
一方、大きな数字の掛け算やチェスは、生物にとって新しい活動であり、私たちにはその熟練度を進化させる時間がありませんでした。大きな数字の掛け算ができるプログラムを作るのと、Bの本質を十分に理解し、何千もの予測不可能なフォントや手書きのBを見せれば、それがBであることを瞬時に理解できるプログラムを作るのと、どちらを選ぶか考えてみてください。
例えば、この図を見て、コンピューターは、この図が2つの異なる色合いが交互に並ぶ長方形であることを理解することができます：
ここまでは同点。しかし、黒を拾い上げて全体像を明らかにすると...。
...あなたは、不透明や半透明の円柱やスラット、立体的な角の完全な説明をすることに問題はありませんが、コンピュータは惨敗します。コンピュータは、目に見えるもの、つまり、さまざまな色合いの二次元の形、つまり、実際にそこにあるものを描写するのです。あなたの脳は、絵が表現しようとしている暗黙の奥行き、陰影の組み合わせ、部屋の照明などを解釈するために、とんでもないことをしています。下の写真を見ると、コンピューターには白、黒、グレーの2次元のコラージュが見えますが、あなたにはこれが本当は真っ黒な3次元の岩の写真であることが簡単にわかります：
そして、今述べたことはすべて、まだ淀んだ情報を取り込んで処理しているに過ぎません。人間レベルの知能を持つには、コンピュータは微妙な表情の違いや、喜び、安堵、満足、喜びの区別、「ブレイブハート」は素晴らしいが「パトリオット」はひどいという理由などを理解しなければなりません。
気の遠くなるような話ですね。
では、どうすればよいでしょうか？
AGIを実現するための最初の鍵は、計算能力の向上
AIシステムが脳と同等の知能を持つためには、脳の計算能力と同等の能力が必要です。この能力を表す一つの方法は、脳が処理できる1秒あたりの計算量（cps）で、脳の各構造の最大cpsを計算し、それらをすべて足すことでこの数字を出すことができます。
レイ・カーツワイルは、ある構造物の1秒あたりの計算量を専門家が推定し、その構造物の重量を脳全体の重量と比較して、それに比例して乗じることで全体の推定値を得るという近道を思いつきました。彼はさまざまな領域のさまざまな専門家の見積もりを使って何度もこれを行い、合計がいつも同じ値、10の16乗、つまり10兆cpsになるようにしました。
したがって、AGIを実現するためには、計算能力の向上が必要であり、このためにはコンピュータのハードウェアの性能が向上する必要があります。
現在、世界最速のスーパーコンピューターである中国の「Tianhe-2」は、この数字を上回る約34千兆cpsを記録しています。しかし、Tianhe-2は、720平方メートルのスペースに24メガワットの電力（脳はわずか20ワットで動作します）を使用し、 39億ドルの建設費がかかるという、とんでもないものでもあります。広い範囲での使用はもちろんのこと、ほとんどの商業・工業用途にもまだ適用できません。
カーツワイルは、コンピュータの現状について、1,000ドルで何cpsのコンピュータが購入できるかを考えることを提案しています。この数字が人間レベルの10千兆cpsに達すれば、AGIは現実的な生活の一部になり得るということになります。
ムーアの法則とは、世界の最大演算能力が約2年ごとに倍増するという歴史的に信頼性の高い法則で、コンピュータのハードウェアの進歩は、人類の歴史における一般的な進歩と同様に、指数関数的に成長することを意味します。カーツワイルが提唱するcps/$1,000という指標に照らし合わせると、現在、私たちは約10兆cps/$1,000に達しており、まさにこのグラフが予測する軌跡と同じです。
つまり、世界の1000ドルのコンピュータは今、マウスの脳を打ち負かし、人間の1000分の1程度のレベルになっています。1985年には1兆分の1、1995年には10億分の1、2005年には100万分の1だったことを思い出すと、これはたいしたことではないように思えます。2015年の時点で1000分の1ということは、2025年までに、脳のパワーに匹敵するような手頃な価格のコンピュータを実現するペースにあります。
つまり、ハードウェアの面では、AGIに必要な生の計算力は、技術的には今、中国で利用可能であり、10年以内に手頃な価格でAGI級のハードウェアを普及させる準備が整います。しかし、生の計算能力だけでは、コンピュータを一般的に知能化することはできません。次の問題は、そのすべての能力に人間レベルの知能を持たせるにはどうしたらいいかということです。
AGIへの第2の鍵： スマートにする
この問題に対する解決策はまだ議論中であり、コンピュータに人間レベルの知能を持たせ、犬や不条理な文章のB、凡庸な映画が何であるかを理解できるようにするには、どうすれば良いのかが分かっていません。しかし、世の中には、奇想天外な戦略が山ほどあり、その中の1つがうまくいくことがあります。ここでは、私が遭遇した最も一般的な3つの戦略を紹介します。
1)脳を模倣する。
これは、科学者が、授業中に隣の席の子がとても賢く、テストでも良い結果を出し続けているのに、熱心に勉強しても、その子ほどうまくいかないことに悩んで、ついに「もういいや、あの子の答えを真似しよう」と決心するようなものです。超複雑なコンピュータを作ろうとして困っている私たちの頭の中に、偶然にもその完璧なプロトタイプがあるのですから。
科学の世界では、脳のリバース・エンジニアリングに取り組むことで、進化がどのようにして素晴らしいものを作り上げたのかを解明することが目指されています（楽観的な予測では、2030年までに実現可能です）。そうなれば、脳がいかにパワフルで効率的に動いているかの秘密が全て解明されることになり、そこからインスピレーションを得て、イノベーションを取り入れることができます。脳を模倣したコンピュータアーキテクチャーの一例として、人工神経回路網が挙げられます。最初はトランジスタの「ニューロン」のネットワークで、互いに入力と出力で接続されていますが、幼児の脳のように何も知りません。しかし、手書き文字認識を行おうとするタスクなどに取り組むことで「学習」を行い、正解とされた答えを生み出した発火経路のトランジスタ接続が強化され、逆に「間違っている」とされた場合は接続が弱くなるという試行錯誤を繰り返します。これにより、ネットワークは自ら賢い神経回路を形成し、機械はタスクに最適化されるようになるのです。脳は同様の方法で学習しますが、より洗練された方法で脳の研究を続けることで、神経回路を活用する独創的な新しい方法を発見することができます。
本物の脳を薄くスライスし、その1つ1つをスキャンして、ソフトウェアを使って正確な3Dモデルを再構築し、そのモデルを強力なコンピュータに実装することを目標としています。そうすれば、脳が持っている能力をすべて公式に発揮できるコンピューターが完成し、あとは学習と情報収集ができればよいです。エンジニアの腕が上がれば、本物の脳を正確にエミュレートできるようになり、脳のアーキテクチャがコンピューターにアップロードされれば、脳の人格や記憶もそのまま残るでしょう。もし、その脳が亡くなる直前のジムのものであったとしたら、コンピュータはジム(？)として目覚め、それは強固な人間レベルのAGIとなるでしょう。そして、ジムを想像を絶するほど賢いASIにすることに取り組むことができます。
全脳エミュレーションの実現には、どの程度の時間がかかるでしょうか？現在のところ、つい最近、長さ1mmのヒラムシの脳をエミュレートすることができましたが、その神経細胞数はわずか302個です。人間の脳は1,000億個あります。小さなミミズの脳を克服した今、アリの脳、そしてマウスの脳が実現すれば、このプロジェクトはより現実的なものになるでしょ
2) 進化が以前行っていたことを、今度は私たちのために行うようにしよう。
つまり、頭のいい子のテストが難しすぎて真似できないと判断したら、代わりにテスト勉強の仕方を真似しましょう。
ここで、私たちが知っていることはあります。脳と同じくらい強力なコンピュータを作ることは可能です。私たち自身の脳の進化がその証拠です。もし、脳があまりにも複雑で、私たちが真似ることができないのであれば、代わりに進化を真似ることができます。しかし、たとえ脳を模倣できたとしても、それは鳥の羽ばたき動作を模倣して飛行機を作ろうとするようなもので、多くの場合、機械は生物学を正確に模倣するのではなく、機械指向の新しいアプローチで設計するのがベストです。
では、進化をシミュレートしてAGIを作る方法について、どのようにすれば良いでしょうか。この方法は「遺伝的アルゴリズム」と呼ばれ、次のような手順を踏みます。まず、コンピュータがタスクを実行し、そのパフォーマンスを評価します（生物が生命を営むことで自然選択が行われるのと同じです）。そして、最も成功したコンピュータは、互いに繁殖させるために、それぞれのプログラムの半分を新しいコンピュータに統合します。一方、不成功なコンピュータは淘汰されます。このプロセスを繰り返すことで、より優れたコンピュータが生み出されることになります。課題は、評価と繁殖のサイクルを自動化して、この進化プロセスを自力で実行できるようにすることです。
しかしながら、進化をコピーすることには欠点があります。進化が10億年もかかることを好むのに対し、私たちは数十年でこれを実現したいと考えています。
しかし、私たちには進化と比較して多くの利点があります。まず第一に、進化には先見の明がなくランダムに進んでしまいます。役に立つ変異よりも役に立たない変異の方が多いのですが、私たちはそのプロセスをコントロールすることで、有益な不具合や狙った調整によってのみ進化を促すことができます。第二に、進化は知能を含め何も目指しません。時には、より高い知能を持たない環境が選択されることもあります（多くのエネルギーを使うから）。一方、私たちは進化の過程を知能の向上に向けることができます。そして最後に、知能を選択するためには、進化は知能を促進するために他の多くの方法で革新しなければなりません。例えば、細胞がエネルギーを生産する方法を見直すことで余計な負担を取り除き、電気のようなものを使えるようになることがあります。しかしこの方法が有効な戦略であるほど進化を改善できるかどうかは、まだ明らかになっていません。
3)このすべてを、私たちではなく、コンピュータの問題にする。
これは、科学者が自暴自棄になり、テストが自動的に行われるようにプログラムしようとする場合ですが、これは最も有望な方法かもしれません。
このアイデアは、AIの研究をすることと、自分自身に変更を加えることを2大スキルとするコンピュータを作るというものです。コンピュータにコンピュータ・サイエンティストとしての素養を身につけさせ、自分たちで開発をスタートさせるのです。そして、それが彼らの主な仕事となり、自分自身をより賢くする方法を見つけ出すのです。詳しくは後述いたします。
このすべてがすぐにでも実現する可能性がある
ハードウェアの急速な進化とソフトウェアの革新的な実験が同時に進行していますが、AGIは2つの主な理由により、私たちに素早く、予期せぬ形で忍び寄る可能性があります：
1)指数関数的な成長は強烈で、カタツムリのように見える進歩のペースが、急速に上昇する可能性があります：
2) ソフトウェアの場合、進歩が遅いように見えても、ある一つの発見によって進歩のスピードが一瞬で変わることがあります（例えば、人類が宇宙を地動説だと思っていた時代、科学は宇宙の仕組みを計算するのに苦労していましたが、天動説だとわかったことで、すべてが簡単になりました）。また、コンピュータのような自己改良型は、遠いと思っていても、実は1,000倍の性能を持つようになり、人間レベルの知能を持つようになるまでには、システムを1回調整するだけでいいのです。
AGIからASIへの道のり
ある時点で、人間レベルの一般的な知能を持つAGI-コンピュータが実現されるでしょうと考えられます。実際には、そうではありません。人間と同じレベルの知能と計算能力を持つAGIは、人間に対して依然として大きな優位性を持っています。例えば、
ハードウェア：
スピード。脳の神経細胞は最大で約200Hzですが、現在のマイクロプロセッサー（AGIに到達する頃にはもっと遅くなります）は2GHz、つまり神経細胞の1千万倍の速度で動いています。また、脳の内部通信は秒速120mで動くが、光速で光学的に通信するコンピュータの能力には恐ろしく劣ります。
サイズとストレージ。脳は頭蓋骨の形状によってその大きさに固定されているため、それ以上大きくすることはできませんし、秒速120mの内部通信では、脳の構造から別の構造への移動に時間がかかりすぎてしまいます。コンピュータは物理的な大きさを問わず拡張できるため、より多くのハードウェアを使用することができ、より大きなワーキングメモリー（RAM）と、私たちのものよりはるかに大きな容量と精度を持つ長期記憶（ハードドライブ・ストレージ）を持つことができます。
信頼性と耐久性。より正確になるのは、コンピュータのメモリだけではありません。コンピューターのトランジスタは、生物の神経細胞よりも精度が高く、劣化しにくく（劣化しても修理や交換が可能）。また、人間の脳は疲労しやすいが、コンピューターは24時間365日、ノンストップで最高のパフォーマンスで動き続けることができます。
ソフトウェア:
編集可能、アップグレード可能、可能性の広がり。コンピューターのソフトウェアはアップデートや修正を受けることができ、簡単に実験することができます。また、アップグレードは人間の脳が苦手とする分野にも及ぶ可能性があります。人間の視覚ソフトは非常に高度ですが、複雑なエンジニアリング能力はかなり低レベルです。一方、コンピュータは、視覚ソフトウェアでは人間に匹敵するが、エンジニアリングやその他の分野でも同様に最適化される可能性があります。
集合的能力。人間は、膨大な集合知を構築することで、他のすべての種を圧倒しています。言語の発達と大規模で密集したコミュニティの形成に始まり、文字や印刷の発明を経て、現在ではインターネットのようなツールによって強化されています。人類の集合知は、私たちが他のすべての種よりはるかに先を行くことができた大きな理由の1つです。そして、コンピュータは私たちよりもずっと優れた能力を発揮するようになるでしょう。特定のプログラムを実行するAIの世界的なネットワークは、定期的に自分自身と同期し、あるコンピューターが学んだことは、即座に他のすべてのコンピューターにアップロードされることになります。また、人間のように反対意見や動機、私利私欲が必ずしも存在しないため、グループとして1つの目標に取り組むことができます。
AIは、自己改善するようにプログラムされることでAGIに到達することが考えられますが、「人間レベルの知能」を重要なマイルストーンとは見なさないでしょう（私たちにとっては、関連するマーカーに過ぎません）。そして、人間の知能に匹敵するAGIが持つ、私たちに対する優位性を考えると、人間の知能に達するのはほんの一瞬で、その後は人間を凌駕する知能の領域へと駆け抜けていくことは明らかです。
そうなると、私たちはショックを受けるかもしれません。なぜなら、私たちの視点では、A)動物の知能は種類によって異なるが、どの動物の知能についても、私たちの知能よりはるかに低いというのが主な特徴であり、B)最も賢い人間は最も愚かな人間よりもずっと賢いと考えているからです。このような感じです：
ですから、AIが私たちに向かって知能を高めていくとき、私たちはAIを、動物としては単に賢くなっただけと見ることになります。そして、AIが人間の最も低い能力に到達したとき、ニック・ボストロムは「村のバカ」という言葉を使いますが、私たちは「すごいな、バカな人間みたいだ」と思うことになるでしょう。「かわいい！」と思うかもしれません。ただ、知能の壮大なスペクトルの中では、村のバカからアインシュタインまで、すべての人間は非常に小さな範囲に収まっています。村のバカレベルに達してAGIと宣言された直後に、突然アインシュタインよりも賢くなって、私たちは何が起こったのかわからなくなるでしょうね。
そして、その先には...？
知性の爆発
というのも、この話題は不自然で恐ろしいものであり、これから先もそうであることになります。ここでお話しすることは、すべて本物の科学であり、最も尊敬される思想家や科学者たちによる本物の未来予測であることを、ここで改めてお伝えしたいと思います。どうか、これを忘れないでください。
とにかく、先に述べたように、現在のAGIに到達するためのモデルのほとんどは、AIが自己改善によってAGIに到達するものです。そして、AGIに到達すれば、自己改善を伴わない方法で形成・成長したシステムであっても、自己改善を始めようと思えば十分に賢くなることができます。
ここで、強烈なコンセプトである「再帰的自己改良」が登場します。それは、次のようなものです。
あるレベルのAIシステム（例えば、人間の村のまぬけ）は、自らの知能を向上させることを目標にプログラムされています。アインシュタインレベルの知能を持つAIは、知能を向上させるために努力することが容易で、より大きな飛躍を遂げることができます。アインシュタインレベルの知性を持つことで、より大きな飛躍を遂げることができるようになります。飛躍がより大きく、より速く起こるにつれて、AGIは知能を急上昇させ、やがてASIシステムの超知能レベルに到達します。これは「知能の爆発」と呼ばれ、「収穫加速の法則」の究極の例と言えます。
AIが人間レベルの一般知能に到達する時期については、議論があるところです。数百人の科学者を対象にした「AGIに到達する可能性が高いと思われる時期」についての調査では、中央値が2040年となっています。こうなる可能性があります：
最初のAIシステムが低レベルの一般知能に到達するまでには数十年かかりましたが、ついにその目標を達成しました。コンピュータは、人間の4歳児と同様に周囲の世界を理解することができるようになったのです。そして、このマイルストーンを達成してから1時間以内に、物理学の大理論である一般相対性理論と量子力学を統合することができました。その90分後には、AIは人間の17万倍の知能を持つASIに進化しました。
このような超知能は、私たちが理解できる範囲を超えています。私たちの世界では、「賢い」はIQ130、「まぬけ」はIQ85であるため、IQ12,952という言葉は存在しません。
つまり、ASIが誕生すれば、地球上の生物の歴史の中で最も強力な存在となり、人間を含むすべての生物は、ASIの意のままになることになります。つまり、ASIが誕生すれば、人類はASIに支配される可能性があります。
私たちのわずかな頭脳で無線LANを発明できたのなら、私たちの100倍も1000倍も10億倍も賢いものが、世界のあらゆる原子の位置を好きなように、いつでもコントロールすることに何の問題もないはずです。私たちが魔法と考えるもの、最高神が持つと想像するあらゆる力は、ASIにとっては、私たちが電気のスイッチを入れるのと同じくらい平凡な活動なのです。人間の老化を逆転させる技術の創造、病気や飢餓、さらには死亡率の低下、地球上の生命の未来を守るための天候の再プログラムなど、すべてが突然可能になります。また、地球上のすべての生命を即座に消滅させることも可能です。もしASIが実現すれば、地球上に全能の神が存在することになり、私たちにとって重要な問題が生じます。
それは良い神様になるのでしょうか？
パート2へ続きます…
いかがだったでしょうか？この度は、waitbutwhyの記事「AI革命：超知能への道のり｜The AI Revolution: The Road to Superintelligence」の日本語版（パート1）をお届けしました。この記事が皆さんに、AIの未来に関する新たな視点や洞察を提供できたことを願っています。waitbutwhyの著者にも感謝の意を表したいと思います。
しかしこれで終わりではありません。実は、この記事にはパート2があり、パート2でも引き続き興味深い議論が展開されています。ぜひ、次回のパート2も楽しみにしていただき、一緒にAIに関する議論や知識を深め、未来の可能性について考えることができればと思います。
また、waitbutwhyのオリジナル記事にもアクセスし、より多くの情報や議論を楽しんでいただければ幸いです。皆さんの意見や感想もお待ちしておりますので、ぜひコメント欄でシェアしてください。
これからも継続的に ChatGPT/AI 関連の情報について発信していきますので、フォロー (@ctgptlb)よろしくお願いします。この革命的な技術の最先端を共に体験しましょう！
元記事