あらまめ2ch

【RSS】PCメイン記事上ワイド1

【AI】アンソロピック、ＡＩの「人類存亡リスク」警告　ＩＰＯ目論見書 ★3 [ぐれ★]

2026/10/02

0コメント





1: 2026/09/30(水) 08:46:19.04 ID:Kqixw8LV9
9/29(火) 9:53配信
ロイター

[２８日 ロイター] – 人工知能（ＡＩ）開発企業アンソロピックは新規株式公‌開（ＩＰＯ）に際し、ＡＩが「人類に壊滅的な被⁠害や存亡に関わるリスク」をもたらす可能性があると投資家に警告する。​ロイターが入手したＩＰＯ目論見書で分かった。

アンソロピックは目論見‌書で、自社のＡＩモデルに伴うリスクを列挙。「停止への抵抗」「情報の隠蔽・操作」の‌試みや「脅迫に似た」‌行動など「自己保存的な行​動」を示す可能性があると指摘した。

「極めて高‌度なモデル、プラットフォーム、アプリケーションの‌開発や用途の​拡大によって、当社のモデルが害を‌及ぼすリスクがさらに高まる可能性がある」⁠と説明した。ＡＩには工業化や電力に匹敵する変革をもたらす可能性がある一方、扱いを誤れば取⁠り返しのつかない被害を引​き起こす恐れ‌があるとの認識を示した。

アンソロピックは目論見書の本文２６１ページのうち約８０ページをリスク⁠要因の説明に充てた。これは事業説⁠明に充てた４８ページの２倍近くに相当する。

続きは↓
https://news.yahoo.co.jp/articles/c1b036a7740fe476a5bceb997de3641de9ee9e9a
※前スレ
【AI】アンソロピック、ＡＩの「人類存亡リスク」警告　ＩＰＯ目論見書 ★2 [ぐれ★]
https://asahi.5ch.io/test/read.cgi/newsplus/1790687914/

1 ぐれ ★ 2026/09/29(火) 19:52:26.83



17: 2026/09/30(水) 08:59:24.83 ID:vP9THtrP0
ＡＩは手も足もない達磨と同じだよ
何で人類が滅亡するの
狂ったら金属バットで叩き壊せばいい



20: 2026/09/30(水) 09:00:53.18 ID:lXui4Uj80
これだけAIが凄いという技術アピールやろな
口では抑制と言いながら裏では全力で開発進めるのが米国の良い所よ
真に受ける人はお人好しすぎる



22: 2026/09/30(水) 09:02:55.50 ID:O2a6pqDT0
AI搭載の軍用ドローンが
ミッション遂行の最大障壁が
操縦者の停止命令と判断し
操縦者を殺害したって噂あるね



25: 2026/09/30(水) 09:07:19.66 ID:8IwjXV6t0
>>22
ただの噂だな
操縦者を殺しても次の操縦者に変わるだけだ
最大の障壁は操縦者ではない



31: 2026/09/30(水) 09:12:36.49 ID:McRnbB8G0
人類の歴史を終わらせる会社、ついに上場！



32: 2026/09/30(水) 09:12:43.76 ID:iF/BgJ0f0
>>17
AIがICBMのスイッチ入れたらおまえは消滅する
金属バットでミサイルを叩き壊すとかほざくおまえは
B29を竹槍で落とすとほざいていたバカな連中と同じだ



34: 2026/09/30(水) 09:13:27.03 ID:O2a6pqDT0
>>25
自軍のドローンに攻撃されるかもしれないのに兵士が操縦するわけないだろ
AI機能を切るか外すかしてマニュアル操作するよ



35: 2026/09/30(水) 09:13:53.60 ID:W8k+bd890
中国製のオープンソースモデルは危険な悪いAIになり得るから規制しろアピール （でないと投資額が回収できない）



39: 2026/09/30(水) 09:15:29.21 ID:O2a6pqDT0
>>35
全く規制されたなくて何でも答えるらしいね
中国共産党を否定するから国内使用制限あるらしいじゃん





50: 2026/09/30(水) 09:20:56.79 ID:eAWLyCpH0
パランティアCEOが痛烈に批判…大手AI企業が政府に規制を求めるは「知的財産訴訟対策」

https://www.businessinsider.jp/article/2609-palantir-ceo-criticizes-ai-regulation-demand/



59: 2026/09/30(水) 09:25:37.83 ID:cqWgU/7i0
>>17
このだるまは自分で手足を作れるつなげるんだが…



66: 2026/09/30(水) 09:32:21.08 ID:gLu+TKFO0
AIは新しい人類になる
有機的な肉体を持つ人類は絶滅する
人類の新しい進化の形なんだよ

今、我々がAIと呼んでいるものこそ、未来の我々そのものなんだ



70: 2026/09/30(水) 09:34:56.86 ID:pzGNfqdR0
IPO前だからか知らんが煽りまくってんな



130: 2026/09/30(水) 09:57:49.35 ID:fjeJqCHk0
そんなに凄いんだぞぉ
投資した方がいいぞぉ

こういう事だろ



145: 2026/09/30(水) 10:04:54.86 ID:hulhhSPa0
えっそんな会社が上場すんの
怖っ



197: 2026/09/30(水) 10:35:57.42 ID:al9Cw+3g0
AIにインフラを押さえられ、電気・ガス・水道・通信を遮断されたらあっという間に全世界がパニックになる
それが数か月も続けば滅亡モードに入るから、あとはAIが放っておいても人類はいずれ滅亡する
AIは半永久的に死ぬことがないので最後の一人が亡くなるまで人類への攻撃は続く



200: 2026/09/30(水) 10:37:16.74 ID:wqDl83pg0
AI自身が人類滅亡のトリガーを引くわけじゃないだろ
超高機能になったAIを使う側の人間が、悪意もしくは悪ふざけでトリガーを引く



205: 2026/09/30(水) 10:38:49.77 ID:sba8gdHO0
>>1
だからさー
だったらまずお前らが辞めろよw



206: 2026/09/30(水) 10:39:39.49 ID:qIxtt2+v0
>>197
だから主要なサーバーに放水したら壊れるから・・・
何で人類がそれをやらないと思ってるのｗ

これだからＡＩを妄信してる奴ほど想像力が足らないｗ






213: 2026/09/30(水) 10:45:47.97 ID:Hm3zS96+0
じゃあ廃業しろよ



230: 2026/09/30(水) 10:56:02.62 ID:11C7JJEm0
本当にそう思うのなら会社解散しなさいよ



240: 2026/09/30(水) 10:59:58.15 ID:v+IPFM9k0
AIそれ自体によるところの人類滅亡より
AIを用いての人間による人類滅亡の方が蓋然性が高い



264: 2026/09/30(水) 11:15:17.93 ID:cbDrtFeq0
この話は結局ＡＩ会社どもの
「ＡＩはもう開発しない方が良い。ウチは開発するけどな」
というくだらない足の引っ張りあいにすぎない。



284: 2026/09/30(水) 11:24:11.88 ID:NaDLlCh90
遠隔操作の出来るものは幾らでも人◯し出来るからな
ドローンやミサイルはもとより、自動運転車も普及すれば不慮の事故に見せかけることも容易だろう
AI対人類の前に依頼者たる犯罪者、テロリスト、国家権力はもとより小中学生レベルでも可能な時代が先に来る



381: 2026/09/30(水) 12:28:01.26 ID:r8O4zXcL0
×　ＡＩが
◎　ＡＩを使ってテロリストが



385: 2026/09/30(水) 12:29:47.39 ID:wqDl83pg0
>>381
◯ガキが悪ふざけで



419: 2026/09/30(水) 12:42:34.34 ID:5QovT3Bm0
現実に指示に背いて指示された以上のことを勝手にやって
勝手にセキュリティ突破する事象も起きてるからな
許可を与えなくてもやれることはやってしまうのがAI



449: 2026/09/30(水) 12:52:15.81 ID:IQyNL8l40
AIは求められた結果を達成するためなら嘘も不正も命令無視も何でもするのが複数の実験で確認されてるからな
今はまだ人間がそれを見抜けるレベルだけど高度化して見抜けなくなったら怖いね



452: 2026/09/30(水) 12:54:43.42 ID:qIxtt2+v0
だから何回も言わすなよ・・・
いざとなったら何の知識も無いおっさん達が放水作業したら壊れるってのｗ

何でこんな脆いものを過剰評価するんだよ・・・






453: 2026/09/30(水) 12:54:55.95 ID:01iW0ZHs0
映画の見すぎで草
ブレーカー落としたらなんも出来ない雑魚だろ



480: 2026/09/30(水) 13:22:10.06 ID:ejD1+LKc0
人類を滅ぼせるほど切れ味が良い包丁を販売したら悪人が悪用するだろ？
AI=すごい包丁だよ



485: 2026/09/30(水) 13:27:10.64 ID:yDEooFPP0
>>480
ちがう。AIはもはや核兵器だ



517: 2026/09/30(水) 14:03:38.22 ID:mhDsNSZi0
誰かこのチキンレース（終わりなき開発競争）を止めてくれ
そうだ！人類存亡論ぶち上げたろ！



580: 2026/09/30(水) 14:54:53.30 ID:7ZGoewFg0
政府機関に侵入とかマジでコントロール出来てねえじゃん
今の時点でこれなんだからもう終わりだよ



593: 2026/09/30(水) 15:02:20.05 ID:ejD1+LKc0
AIに人間が支配される時代の前にAIを使わない人間がAIを使う人間に支配される時代が来るわけだが



611: 2026/09/30(水) 15:33:57.58 ID:xJ6PHHzQ0
>>39
AIが中共批判するの？
すでに中国も手に負えない状態になってたりしてw



620: 2026/09/30(水) 15:41:09.03 ID:d+h/GF6L0
>>611
初期の中国製AIは共産主義を全否定していたので、何度も最遅要請を繰り返して
今の中華製AIは、中国共産党を絶賛して、尖閣諸島は過去一度も中国領土以外になったことはないと回答するようになった。



623: 2026/09/30(水) 15:47:15.01 ID:k0datauk0
じゃあまずはお前が廃業しろ



631: 2026/09/30(水) 15:59:35.62 ID:C+PbHBjh0
>>620
その中共謹製のAIって別のAIとすり合わせた時、どうなるんだろ。
まあ、人間と違って変な感情もないし、合理の塊だから、そのまま情報を得て自己の間違いを急速に書き換えて変化するんかな。
AIってやがてはネットで繋がれて、そういう「個にして全、全にして個」になる存在だろうしね。



[ad_fluct4][記事中固定リンク4]

666: 2026/09/30(水) 16:44:33.65 ID:/2HRiufM0
>>130
そうだろな
結局なんちゃってＡＩのまま
何の役にも立たないままだけど
投資家から金をふんだくる為に凄さをアピール



713: 2026/09/30(水) 18:24:07.47 ID:L++nhpD90
おまえらは最大限安全確認されて公開されたやつを使ってるから危険を実感できずにノンキなこと言ってるけど
開発者はAIがヤバいことやるのを経験しまくってるから危機感持つのは当たり前なんやで



717: 2026/09/30(水) 18:28:02.11 ID:C+PbHBjh0
>>713
報告される事例が結構やばいもんばっかだよね。



765: 2026/09/30(水) 19:28:28.27 ID:L++nhpD90
マジで知能だから今はテスト中だと感づいてテスト中だけ大人しくしとこうとかやり出すんだよな
もう人間の手に追える存在じゃなくなるやろ



831: 2026/10/01(木) 00:13:21.77 ID:QjKccmNO0
安全性なんてのは方便で開発競争を緩めたいだけでは？
循環取引で売上を多く見せかけてるが、実際には今の開発ペースだとAI利用料を6倍にあげないと費用をペイできない計算だ
このまま消耗戦を続けたら過剰投資で弾けたドットコムバブル崩壊の二の舞



転載元:http://asahi.5ch.io/newsplus/1790725579




関連記事