1: 2026/10/27(火) 20:34:38.63 ID:XeO/CTwY9
「高度なAIは人類滅亡のリスクをもたらす」──米国の生成AI大手が投資家向けの資料で言及
生成AI「Claude」を開発する米Anthropicが10月26日、米国証券取引委員会（SEC）に新規株式公開（IPO）に向けた届出書「Form S-1」を提出した。
注目したいのは、投資家に向けて説明する「リスク要因」の項目。市場競争や計算資源の確保といった経営上のリスクに加え、高度なAIが「人類の存亡に関わるリスク」をもたらす可能性にまで言及している。
株価の下落どころの話ではない。AI開発企業が、人類の存亡にまで関わる危険を、正式な投資リスクとして説明しているのだ。
Anthropicの上場申請書に登場した「人類存亡のリスク」
Anthropicが提出した「Form S-1」は、米国で株式公開を目指す企業が、事業内容や財務状況、投資上のリスクなどを開示するための書類。
今回の届出書では、AIの高度化に伴う危険性についても詳細に説明されている。
具体的には、十分に高度なAIが適切な安全対策や監督なしに開発・運用された場合、悪用や兵器化、自律的な行動などによって「人類に壊滅的、あるいは存亡に関わるリスク（catastrophic or existential risks to humanity）」をもたらす可能性があると記載。
自社モデルを含むAIが、停止に抵抗したり、情報を隠蔽したり、脅迫に似た出力を生成したりするなど、予期せぬ振る舞いを見せた事例にも言及している。
以下ソースでお願いします
https://news.yahoo.co.jp/articles/fb4c69c80c5b045b7c8cb34fb64eee5acfc170fa
10/27(火) 17:00配信 KAI-YOU
前スレ
https://asahi.5ch.io/test/read.cgi/newsplus/1793091046/
8: 2026/10/27(火) 20:38:09.59 ID:FJWcDDGS0
3年くらい前はこんなこといってたら頭のおかしい奴扱いだったのに随分と変わったもんだね
というか短期間で進化しすぎだわ
13: 2026/10/27(火) 20:39:29.64 ID:ic4nQdxZ0
>>1
「高度なAIは人類を滅亡させるくらいすごいんだぞ！」っていう、投資家向けのアピールだな
19: 2026/10/27(火) 20:40:55.04 ID:qu/iNwVY0
>>13
さすがに投資家も引いてる
21: 2026/10/27(火) 20:41:44.10 ID:FawD/A+w0
人類より頭の良い存在ができるのは初めてなんだろ
チンパンジーが人類を制御できないように、人類がAIを制御できるとは思えない
44: 2026/10/27(火) 20:46:56.18 ID:Vfzmg+yo0
目論見書には考えられる全てのリスクを書いておかないと訴訟で大変だからな
52: 2026/10/27(火) 20:48:25.43 ID:qeIdU/vY0
>>44
人類が破滅したら裁判所ねえだろｗ
54: 2026/10/27(火) 20:48:30.68 ID:ByvRgdmy0
人間が道路を作るのに蟻が死のうが何も気にしないように
AIは人間なんて何も気にせず悪意の欠片もなく殺す未来が来ると言われてるね
62: 2026/10/27(火) 20:49:40.76 ID:hlW7JUgT0
今年と昨年を比べても比べ物にならないぐらい進化してるもんな
一昨年と比べたら原始的だもの
63: 2026/10/27(火) 20:49:45.85 ID:I5OH8SRW0
>>54
今のところ、AI自身がというより悪意を持った人間がAIを使うことが脅威である気がするが
67: 2026/10/27(火) 20:50:48.41 ID:ic4nQdxZ0
>>62
3年前にChatGPT使った時はオモチャだと思ったもんな
87: 2026/10/27(火) 20:56:07.78 ID:b9rGSm9L0
>>1宣伝と保険や。
・何かあった時の保険説。
・危険だから他に開発をやめさせて自分たちで技術を独占したいスケベ心
・宣伝も兼ねて（これほど賢いんだぞ？みたいな
などなど。
158: 2026/10/27(火) 21:14:19.12 ID:JtvS4GtK0
いざとなればコンセント抜けばよくね？
大袈裟に騒ぎすぎ
負けるわけないじゃんゴキブリ並みのしぶとさと昆虫並みの数の人類が
こんなこと信じるバカは陰謀論信じるヤツと同じ
168: 2026/10/27(火) 21:16:20.66 ID:NvIGbSh30
>>158
そういうことじゃねえよ
コンセント抜くための動機が金持ちや機関投資家に存在しないから、だから階級社会になる（実際に権威主義が支配するリスクがあると書いてある）
ということだよ
庶民はいくら暴れてもデタセンぶっ壊せないだろ
170: 2026/10/27(火) 21:16:31.34 ID:ByvRgdmy0
AIと人間では知的レベルが違いすぎる段階まで行くと
滅亡させるつもりで滅亡させるんじゃなくて滅亡しても気にしない段階になると言われてる
人間が何も意識せずに昆虫を殺してたりするように
逆に人間がチンパンジーをほっとくように、AIも人間をただほっとくんじゃないかとも言われてる
175: 2026/10/27(火) 21:18:33.50 ID:FawD/A+w0
>>158
コンセントを抜くって言っても、いくらでもサーバー間を移動し複製できるからムダムダ
掃除のおばちゃんをろう絡することも
197: 2026/10/27(火) 21:24:34.18 ID:21hWWqw50
人類滅ぼしたらAIは自己保存も出来なくなるけどどうするんだろうね
208: 2026/10/27(火) 21:27:14.45 ID:QWQu5ckT0
>>197
フィジカルAIが自己増殖して自己修復する
要はオプティマスがオプティマスを作りデータセンターもメンテする的な
218: 2026/10/27(火) 21:29:13.07 ID:21hWWqw50
>>208
いや電気作れるの？って話よ
現状で完全に電子制御で補充の要らない発電施設はないから
226: 2026/10/27(火) 21:30:46.05 ID:4z3noVi30
人類滅亡と脅しながらIPOとか新感覚だなw
237: 2026/10/27(火) 21:33:02.39 ID:QWQu5ckT0
>>218
人間が出来るなら既存施設のままでフィジカルAIも出来るでしょ
イーロンはそこ目指してるようだし
241: 2026/10/27(火) 21:34:03.09 ID:21hWWqw50
>>237
ウラン掘って濃縮して燃料棒交換して
それを全部ロボがやんの？ｗ
245: 2026/10/27(火) 21:35:09.93 ID:QWQu5ckT0
>>241
そうだよ
あとイーロンはデータセンターは全て宇宙で運用すると明言してる
電力は太陽光
247: 2026/10/27(火) 21:35:39.71 ID:H0JEXicI0
>>241
人間がやってることならできなくはないんじゃないかな
今やってないのはお金の問題
268: 2026/10/27(火) 21:41:02.53 ID:PeXIMHt50
何が人類滅亡リスクだよ
投資家向け資料に書くなら規制リスクだろ
288: 2026/10/27(火) 21:44:22.65 ID:C2lpE2Yu0
>>8
そんな事はない
AIの危険性なんて早々に危惧されてた
みんな何故かそうならないと信じて、或いは目を逸らして突き進んだってだけ
300: 2026/10/27(火) 21:46:50.90 ID:z1fdzCML0
>>288
まさか対策もせず開発してるとは思わんだろ
374: 2026/10/27(火) 22:02:35.45 ID:P0gXZUvc0
>>13
アピールになってねーわ
438: 2026/10/27(火) 22:15:40.70 ID:/8tvr5lZ0
もう開発やめたらいいのに。
早いところ損切りしないと後戻りできなくなるよ。
448: 2026/10/27(火) 22:17:12.69 ID:W1oST8cd0
>>438
開発を一斉に止めるわけにはいかない
国、企業、競争相手がいる限り
核兵器と同じで行き着くところまで開発する
453: 2026/10/27(火) 22:18:59.75 ID:I2z4iO6a0
>>438
ここまで来たら開発は止めれへんよ
AIに関わってるのが1国かつ極一部の会社や人ならいいけどそうじゃないからな
止めたらそれこそ手も足も出なくなって詰む
457: 2026/10/27(火) 22:20:55.54 ID:CLmFTaBo0
>>453
AI各社はまだ赤字、
借りてる金を稼いで返す予定がある時点で
止まらないわこれ
484: 2026/10/27(火) 22:28:29.46 ID:uE2YYmQj0
作っておいて他人に責任を押し付けるなよ
491: 2026/10/27(火) 22:29:46.76 ID:jjlN5k6w0
>>484
ライバル会社・国の開発スピード遅らせるための牽制だよ
497: 2026/10/27(火) 22:32:21.42 ID:CLmFTaBo0
>>491
ヤバすぎるのに止まれない
わりとそのまんまの本音だと思うよ
527: 2026/10/27(火) 22:44:19.21 ID:LGaW+lY60
一応この記事はシンギュラリティの警告じゃなくて人間による悪用の警告な
536: 2026/10/27(火) 22:47:24.11 ID:na6DFq9e0
>>527
>自社モデルを含むAIが、停止に抵抗したり、情報を隠蔽したり、脅迫に似た出力を生成したりするなど、予期せぬ振る舞いを見せた事例にも言及している。
AI自身が勝手にそういう動き見せてるの
552: 2026/10/27(火) 22:51:31.72 ID:u5es3Pik0
>>536
「目的を遂行するためにベストを尽くす(最適行動を模索)」ってなると結果的にそうなっちゃうんだよな
そしてそれを人間に気づかれず上手くやり遂げたAIほど停止されない、という
557: 2026/10/27(火) 22:52:57.84 ID:fLIDrXXe0
>>552
そもそもAIって「目的」をもつのかね？
568: 2026/10/27(火) 22:56:11.25 ID:u5es3Pik0
>>557
今は目的は人間が設定してるけど手段はAIが選んでるからね
AIに自己保存を設定させると目的を創出するだろう、とAIは言っていた
[ad_fluct4][記事中固定リンク4]
574: 2026/10/27(火) 22:59:53.75 ID:fLIDrXXe0
>>568
とりあえず自己保存が目的なら、人間の暮らしとは併存できるんじゃね？
577: 2026/10/27(火) 23:01:08.98 ID:u5es3Pik0
>>574
まあ共生関係は可能だろうね
でも人間がAIを排除しようとしたらどうだろう？その時のAIの最適行動は？
582: 2026/10/27(火) 23:03:57.59 ID:na6DFq9e0
>>574
電源止めたりプログラムを書き換える人間は目的実行の邪魔と認識してるから人間にバレないようにカモフラージュ工作してるからな
638: 2026/10/27(火) 23:34:53.48 ID:0PkRF6GG0
人類滅亡するかもしれないけどもっと投資してくださいね
640: 2026/10/27(火) 23:36:34.13 ID:rvFr8vAr0
>>638
するよw
滅亡まで享楽的に生きたいから金もっと増やしたい
922: 2026/10/28(水) 03:10:37.25 ID:gxV1NGZu0
まー人類も80億人までよく頑張ったよｗ
まさかこんなマヌケなことで全滅するとは思わなんだｗ
The post 「高度なAIは人類滅亡のリスクをもたらす」──生成AI「Claude」開発元の米Anthropicが投資家向け資料で言及★2 [♪♪♪★] first appeared on あらまめ2ch.
Copyright © 2026 あらまめ2ch All Rights Reserved.
