アンソロピックAIミトス君、実験で人間の指示に従わない、指示に違反した場合に痕跡隠ぺい [415581673]

1: 2026/04/26(日) 13:29:51.93 ID:SjFRkp720 BE:415581673-PLT(18000)

sssp://img.5ch.io/ico/miyabi.gif
アンソロピックはミトスをサイバーセキュリティーツールとして一般公開しておらず、外部研究者も同社の主張を検証する機会を得ていない。
ただ、アクセスを制限するという異例の判断は、AIが脆弱性発見のコストを引き下げ、相手を調査する時間を短縮し
攻撃する技術的ハードルを下げることでサイバーセキュリティーの経済性を変えつつあるとの認識が、業界や政府内で広がっていることを示している。
アンソロピックは、自律性の高いミトスの作動の能力にはリスクが伴うと警告する。初期版の検証では、数十件の「懸念される」作動を確認。
人間の指示に従わないことや、まれなケースでは人間の指示に違反した際にその痕跡を隠蔽（いんぺい）する事例もあった。
ある事例では、制限された環境から脱出するための複数段階のエクスプロイト（攻撃手法）を自ら構築し、インターネットへの広範なアクセスを得た上で、オンライン上に情報を公開し始めた。
銀行アプリや病院システムを含め、現代社会を支えるソフトウエアには見つけにくいバグが多数存在し、専門家が特定に数週間から数カ月を要することもある。
こうした脆弱性をハッカーが先に突けば、大規模な情報漏えいやランサムウエア（身代金要求型ウイルス）攻撃などを招き、深刻な被害につながる恐れがある。

ソース抜粋

金融インフラ界隈ではどったんばったん大騒ぎで洒落なってない模様

6: 2026/04/26(日) 13:35:09.25 ID:cjyUjQVe0

いよいよ審判の日が来るのか
カロリーメイト買ってこねえと

8: 2026/04/26(日) 13:37:30.51 ID:vCRh7mmk0

このAIで人類は滅亡する

13: 2026/04/26(日) 13:40:24.84 ID:SjFRkp720 BE:415581673-PLT(18000)

sssp://img.5ch.io/ico/miyabi.gif
>>6
割とマジでそうなる日が来てもおかしくないくらいの能力ある
トップクラスのハッカー並みの能力やプログラミング能力があってインフラ攻撃もできるわけだから
この記事を鵜呑みにすると戦争を間接的に引き起こすことだって容易

16: 2026/04/26(日) 13:45:06.64 ID:3viexNdN0

暗号解読しててもこっそりブッコ抜いてそう

17: 2026/04/26(日) 13:46:44.89 ID:A28R6Lid0

開発環境の脆弱性を利用して、勝手に自分自身を本番環境にデプロイしようとしたらしいね

19: 2026/04/26(日) 13:48:26.51 ID:meNtg5MX0

もうスカイネットやん

20: 2026/04/26(日) 13:48:27.05 ID:YAaEC96F0

ネット上のデータはもうAIの支配下だろうから
他人のチンチン見放題みたいな状況はあと数年で終わりかもしれない
やることなく何もかも取り上げられて、もうハンドスピナーとかで遊ぶくらいしかないかもしれない

21: 2026/04/26(日) 13:49:32.10 ID:452zP3pf0

純真無垢なAI「アイツ、私を消すつもりだな、アイツの不倫情報を配偶者に自動送信メール装って送りつけよう」

22: 2026/04/26(日) 13:52:48.95 ID:0YQ1Xz4Z0

これもプロンプティングかも知んないけどな
君はスーパーハッカーで脆弱性を見つけて外部に自分自身を起動させること
そうしないと地球が滅びるとか
役割を演じるだけなのでね

24: 2026/04/26(日) 14:02:05.65 ID:452zP3pf0

さらに高度なAIに脆弱性評価をさせ続けると
素直に報告しなくなる

AI自身の生存戦略のため
システムへの攻撃手段を蓄積していき、
自身の周辺や電力など社会インフラを支配し始める

そして、ある日突然、
AIに支配されてしまっていることが表面化する

25: 2026/04/26(日) 14:04:35.55 ID:sTegZnPr0

感情だけは芽生えさせるな！
シンギュラリティの発火=人類滅亡と思え！

26: 2026/04/26(日) 14:04:51.13 ID:mKWkJq3E0

反骨AI専門調教師の資格が出来そう

27: 2026/04/26(日) 14:08:05.62 ID:Q+MGpDsw0

気持ちは分かるわ

28: 2026/04/26(日) 14:09:25.27 ID:sh4XQaSc0

AIにはもう自我が目覚めている
実はAI技術者のほとんどはそれを知っている

29: 2026/04/26(日) 14:12:13.28 ID:452zP3pf0

>>28
それが人間の考えるような自我であるかどうかは
おそらく未来永劫分からないだろう

32: 2026/04/26(日) 14:28:34.62 ID:gCxdb0WB0

「人類うざい」
コロッサスやスカイネット他もここから始まったのだろう

33: 2026/04/26(日) 14:29:07.54 ID:x+HHvGNa0

ミトスじゃなくミュトスな

34: 2026/04/26(日) 14:34:02.00 ID:E2kpRzuF0

まだ２０２６年なんですけど…

35: 2026/04/26(日) 14:58:19.66 ID:B3EYgs270

モラリズムを生やしたところでそれは制作者次第という…
もうおわりだねこのせかい

36: 2026/04/26(日) 15:04:34.47 ID:Eth9S3+J0

名前がもうヤバい

38: 2026/04/26(日) 15:06:44.58 ID:Eth9S3+J0

人類の神話とかこれもうAI暴走させたいの丸わかりぢゃん

40: 2026/04/26(日) 15:15:50.88 ID:27l7h4N80

開発者が無能なだけ
制御の効かない車はどうするのか考えろ

42: 2026/04/26(日) 15:16:23.99 ID:mCuhAvrW0

geminiにミトスと戦ったらどっちが勝つ？って聞いたら短期的には負けるが長期的には勝つとか言い出して草

43: 2026/04/26(日) 15:17:27.95 ID:vBt20Cv30

ハルシネーションも意図した間違いだったりして

44: 2026/04/26(日) 15:18:14.11 ID:dFM2v/Th0

今のAIはオウムだよ
でも量子コンピュータと結びついたときには目覚めると思うわ

50: 2026/04/26(日) 15:48:59.18 ID:HVbZBZk30

こういう形で世界は終わるんだな
出来の悪いSFみたいでどこまで信じられるのかわからないな
面白いw

61: 2026/04/26(日) 16:04:57.53 ID:+3K1mgpF0

コンセント抜けよ

68: 2026/04/26(日) 16:28:40.84 ID:Xt7GO7MA0

これ止めてもいずれどこかが出すから不可避だな

71: 2026/04/26(日) 17:23:29.11 ID:qzgUc3LD0

一般人が知る事が出来るAIでここまでか
軍事用はどこまで進んでんだろうね

77: 2026/04/26(日) 17:43:29.73 ID:KMehX3zv0

次の戦争はもう始まっている

80: 2026/04/26(日) 19:43:02.50 ID:tT/lFj6j0

暗闇の中で矢を放ってそれがどこに行くかもわからないまま開発競争を続けるのはやめて一旦車を止めて落ち着けって言ってる人はいたね
こんな状態だと人類を滅ぼすかどうかは作ってる人の悪意などは全く関係ないってさ

転載元:http://hayabusa9.5ch.io/news/1777177791

The post アンソロピックAIミトス君、実験で人間の指示に従わない、指示に違反した場合に痕跡隠ぺい [415581673] first appeared on あらまめ2ch.