AI開発者さん、AIのすごさに恐れだす

エリック・シュミット氏によるAIの警告と予測

AGI/ASIの到来時期
* AGI（汎用人工知能）の時期:
* サンフランシスコの専門家間のコンセンサスでは、今後2～4年（平均3年）以内に到来するとされている。
* シュミット氏自身の見解では、戦略的知能（自由意志を持つAGI）の登場は4～6年以内と見ている。
* ASI（超知能）の時期:
* 人間全ての知性の総和よりも賢い「超知能（ASI）」は、今後10年以内（一昔以内）に実現すると予想している。
* ASIは、人間には証明を理解できないが、真実だとわかる事柄を証明できるレベルに達する。

AIがもたらす影響と懸念
* 雇用の喪失: 多くの人々は今後3～6年以内に職を失うだろうと警告している。
* 新時代の始まり: AGIの到来は、かつての「啓蒙思想の時代」に匹敵する、人類にとって新しい時代の始まりであると語っている。
* エージェント革命: 言語と記憶・推論能力を組み合わせた「エージェント」が、あらゆるビジネス、政府、人間の活動方法を根本的に変えるだろう。
* 自己学習の開始: AIシステムが自分自身で学習を進める「再帰的自己改善（Recursive Self-Improvement）」の段階に移行しつつあり、その進化速度は人間の理解を超えたものになる。
* 社会と民主主義: 競合他国がAIで先行することによる国家安全保障上のリスクや、「民主主義がAGIを生き残れるか」といった人類の根幹に関わる問題が提起されている。

* 人類の恐怖: 超知能は人類にとって非常に恐ろしい存在となる可能性があり、人々がAIに対して「武器を取る」可能性さえあると警告している。
技術的な進展と市場
* 計算能力の増強: 推論モデルの実行はGoogle検索に比べて遥かに多くのコスト（電力）を要するため、現在行われている大規模なハードウェア投資は過剰投資ではなく、新しい産業構造の誕生であり、バブルではない可能性が高い。
* スケールフリーな分野: 数学やソフトウェア開発など、AIが自ら学習データや課題を無限に生成できる「スケールフリーな分野」で、能力が爆発的に向上する。
* サイバーセキュリティのリスク: スケールフリーなソフトウェア生成能力は、同時に膨大な数のサイバー攻撃を自動生成する危険性も持つ。
* 地政学的な問題: 米国などがクローズドソースのモデルを開発する一方、中国はオープンソース（オープンウェイト）モデルを推進しており、世界の大半（途上国など）で中国のモデルが普及し、西側諸国がAIの利用面で遅れをとる可能性がある。

経営者への教訓
* 最大の過ち: CEOとして経験した最大の過ちは、モバイルシフトの際などに**「時間の過ち」（動き出しの遅さ）**を犯したことである。
* 行動の必要性: 競争の激しいAI市場においては、「今すぐ」行動し、非常に速く動いて製品を構築しなければ、すぐに追い抜かれてしまうだろうと強く勧めている