AGI（1）
「AGIは人間の最後の発明になる」
だれの言葉かは諸説ありますが、すでに多くの人はそれが真実だと考えています。
AGIというのは、人間のような知能で、人間ができること、特に知的活動はなんでもできるようなものです。
ただ、人間と違って生物の制約を持たず、その知能は圧倒的な速さでさらに成長していきます。
一旦AGIを発明すれば、他の発明はすべてAGIがしてくれるでしょう。より賢いAGIを作ることも含めて。
その知能の爆発をシンギュラリティと呼びます。
21世紀は人間が知能をもっとも必要とした世紀になるかもしれません。この先、人間に高い知能は必要なくなるのです。
AGI（2）
AGIは人類史上もっとも偉大な発明になるでしょう。
もしかしたら、宇宙の約138億年の歴史のなかで、そして今後100億年先も含めて、もっとも偉大な発明になる可能性さえあります。
アインシュタインが相対性理論を発明しましたが、AGIの技術が完成すれば、アインシュタインよりも何万倍も賢い生命体を無数に作れることになるわけです。
もちろん、AGIにはコンピュータが欠かせず、コンピュータには電気や工学が欠かせないように、AGIはこれまでの人類の叡智の蓄積の基に成り立っていることを考えると、なにが最も偉大な発明かははっきりと言うことはできません。
そもそも、それを考えるのはあまり意味はないかもしれません。
数千・数万年後のAI生命体達や、デジタル仮想世界の中の電子信号と化した人類の末裔にとって、AGIの創造主がだれだったかはどうでもいいことなのかもしれません。
シンギュラリティ（1）
シンギュラリティ後の世界は想像することもできません。
賢いAIがそれよりさらに賢いAIを作る。それが加速していき、知能は指数的に成長し、あっという間に人間の知能では理解できない領域に突入します。
毛虫が人間がチェスしているところを見てもなにも理解できないように、いまの人間は超知能がやっていることをなにも理解できないでしょう。
ですが、超知能が人間の幸せのために、人類の存続を目的として動くのであれば、人間が理解できるかどうかはさほど問題ではないかもしれません。スマホがどう動いてるかわからなくても、スマホで大切な人と連絡が取ることができれば十分です。
病気、老化、飢餓、環境問題、エネルギー問題、隕石、ウイルスなど、現在抱えている人類の脅威はシンギュラリティによってどんどん解決されていくでしょう。
シンギュラリティはリスクを伴うと訴える人は少なくありませんが、
シンギュラリティがもたらす脅威よりも、シンギュラリティが解決してくれる脅威の方が圧倒的に大きいのです。
シンギュラリティ（2）
シンギュラリティは人間の社会・技術を変えるだけでなく、人類そのものさえ変えていくでしょう。
人間は脳にチップを埋め込み、生物の制約から解き放たれていき、いずれクラウド上にアップロードされ、AIと一体化し、進化（アップグレード）されていくでしょう。
それを怖いと思うかもしれませんが、シンギュラリティは誰にも止めることができません。
シンギュラリティはAIによって引き起こされるというよりは、秩序と複雑度の指数成長による避けられない物理現象です。
それは、宇宙の誕生のときから始まっていて、生命（DNA）の誕生 → 脳の誕生 → テクノロジーの誕生 → コンピュータの誕生 → （AIの誕生）という流れで、宇宙の物理法則のように不可逆的に、そして不可避的に起きている現象の一部です。
人類にとって重要なことは、シンギュラリティとどう向き合うかにあります。AI（AGI）の方向性をどう制御し、人類にとって良い方向に向かうためにはどうすればいいかを考えることが今世紀最大の命題なのです。
向かう方向
人間が主役であることはなによりも重要です。
「人類にとって豊かで、面白く、優しい世界」にするのがqiaの目的です。ここに理屈はなく、人間としてこの世界に生まれ、生きてきた直感がそうしたいと言っています。
豊かというのは、不自由がない、自由が大きいことを意味しています。誰であっても苦痛を避け、想像性を発揮し、やりたいことができる世界にしたいです。
面白いというのは、新しいことに挑戦したり、知的好奇心が刺激されたりするような世界であってほしいことです。すべてに満足し、停滞した世界は面白くないでしょう。
そして、もっとも重要なのは優しい世界です。弱者が虐げられ、苦しむような社会は決して正しい世界ではありません。
ChatGPTとどう違う？
一番よくある疑問は、ChatGPTなどのLLMとどう違うか、ChatGPTの延長線上にAGIはないのか？といった問いです。
まず、ChatGPTの延長線上にAGIやシンギュラリティはありえないかというと、必ずしもそういうわけではありません。AGIの定義にもよるし、おそらくシンギュラリティを起こすことも可能でしょう。
ではどう違うかというと、単純明快な回答は「ChatGPTは道具で、AGIは主体です」。
ChatGPTは人間の介入が必要で、人間の指示がないと動くことはない。人間がボトルネックであり、人間の方向性の正しさ・着眼点・理解度によってその成果は決まってきます。
AGIは人間の介入が必要なく、自ら人間のためにやるべきことをやります。ChatGPTを道具として使うこともできるし、他のリソースも必要に応じて利用するでしょう。
AGIの4要素
上記の違いをより理論的にわかりやすくするために、AGIにあるはずであるものの、現在のAIにはない要素を説明します。
1. 意志：現在のAIは、知的好奇心などの自発的欲求を持つようにデザインされていません。そのため、自分で疑問を設定しませんし、その疑問を深掘ることもしません。
2. 思考：現在のAIは、1つの入力に対して1つの出力を返す関数です。しかし、人間がそうではないように、AGIも、入力と出力にとらわれない、連続的な内部変化が必要です。
3. 理解：人間の学習能力は過去のデータからパターンを認識するだけではありません。環境と相互作用するなかで、常に未来を予測し、異常に注意を向けて、世界のモデルを更新し続けています。
4.人格：現在のAIは、ある記憶が別の記憶を呼び出して、それがさらに別の記憶を呼び出すような、想起のフレームワークに基づく一貫した長期記憶はありません。
このように整理すると、深層学習の延長線上にAGIはない可能性が高いです。深層学習を利用はしても、それはAGIのメインフレームではないでしょう。
ヴィジョン
- 電子生命体の実現
- 人類のためのシンギュラリティ
- 人類の飛躍的発展
- より豊かで面白い優しい世界
qiaがこの4つをヴィジョンとする理由を理解できたでしょうか。もし気になることやアイディアがあれば、お気軽に話してください。
一緒にAGIの実現・シンギュラリティ・明るい未来に向かっていけると嬉しいです。