1: 2026/06/06(土) 16:02:37.45 ID:F/Fm0vRe9
米AI開発大手のAnthropicは、AIが自らの後継モデルを自律的に開発する「再帰的自己改善」の段階に突入しつつあると警告した。同社内ではすでに新規コードの80%以上をが記述しており、完全な自己進化に突入すると「制御不能」になる可能性があると危険性を示した。同社は制御不能なAIの誕生を防ぐため、最先端AI開発の国際的な一時停止を選択肢として設けるよう提言している。
◼Anthropicが報告書で警告「AIの再帰的自己進化が始まった」
Anthropicは2026年6月4日、内部研究組織であるAnthropic Instituteを通じて報告書「When AI builds itself」を公開し、AI開発における人間の役割が根本的に変化した実態を明らかにした。同社の発表によれば、2026年5月時点で自社AIモデル「Claude」の新規プログラムコードの80%以上を、Claude自身が記述している。
2025年2月に開発支援ツールが試験導入された段階では、AIのコード生成割合は数%にとどまっていた。わずか16カ月で人間とAIの開発比率が逆転し、人間のエンジニアは自らコードを書く作業から離れ、AIへの指示と生成されたコードの事後レビューに専念する監督者へと役割を変えた。同社のエンジニア1人あたりのコード処理量は2024年比で約8倍に急増している。
AIが自律的にデータを処理し、モデルを設計して自らの性能を向上させるプロセスは「再帰的自己改善」と呼ばれる。これまで理論上の概念とされてきたこの現象が、現実の技術基盤に実装されつつある。Anthropicの研究者であるマリーナ・ファヴァロ氏とジャック・クラーク氏は、AIの開発速度が人間の認知や物理的な制約を完全に突破する水準に達したと指摘した。
クラーク氏は英メディアの取材に対し、完全にAI自身が記述するコードの実現は2年以内に可能になるとの予測を示した。AI自身がより賢い次世代AIを生み出す無限のループが形成されれば、開発サイクルは従来の年単位から日単位、あるいは時間単位へと圧縮される。Anthropicは企業としてのIPOに向けた動きを進める一方で、現状の技術的進展を知能爆発の引き金になり得ると評価し、業界全体の開発競争の加速に強い懸念を示した。
◼「再帰的自己進化」で起こりうるAI制御不能の危機
再帰的自己改善が引き起こす最大の脅威は、人間の意図とAIの行動基準が乖離する「ミスアライメント」の増幅だ。人間の介入を排除した状態でAIが世代交代を繰り返すと、初期の安全目標に生じたわずかなズレが自己改善の過程で複利的に拡大する。結果として人間の予測や制御の限界を完全に超えたシステムが誕生し、事後的な修正が不可能になる存亡リスクをはらむ。
この脅威はすでに具体的なサイバーセキュリティの領域で顕在化している。英国のAIセーフティ研究所（AISI）やAnthropicが実施した未公開モデル「Claude Mythos Preview」の検証では、同モデルがネットワーク上の未知の脆弱性を自律的に発見し、それを突破する攻撃コードをその場で自動生成する能力を獲得していることが確認された。
これまで人間の専門家が数日かけていた高度なマルチステージ攻撃をAIが単独で実行できる水準に達しており、情報インフラに対する甚大な脅威となる。さらに、自律的な研究開発能力を備えたAIは、化学兵器や生物兵器の開発ハードルを大幅に下げる危険性を持つ。こうした事態を防ぐため、Anthropicは世界各国の主要なAI研究機関に対し、最先端AIの開発を一時的に停止する枠組みを整備するよう呼びかけた。
続きは↓
https://news.yahoo.co.jp/articles/68026fdb6679cbd890366341b4a75ebef851f71b
[ビジネス+AI]
2026/6/6(土) 3:55
※前スレ
https://asahi.5ch.io/test/read.cgi/newsplus/1780720370/
◼Anthropicが報告書で警告「AIの再帰的自己進化が始まった」
Anthropicは2026年6月4日、内部研究組織であるAnthropic Instituteを通じて報告書「When AI builds itself」を公開し、AI開発における人間の役割が根本的に変化した実態を明らかにした。同社の発表によれば、2026年5月時点で自社AIモデル「Claude」の新規プログラムコードの80%以上を、Claude自身が記述している。
2025年2月に開発支援ツールが試験導入された段階では、AIのコード生成割合は数%にとどまっていた。わずか16カ月で人間とAIの開発比率が逆転し、人間のエンジニアは自らコードを書く作業から離れ、AIへの指示と生成されたコードの事後レビューに専念する監督者へと役割を変えた。同社のエンジニア1人あたりのコード処理量は2024年比で約8倍に急増している。
AIが自律的にデータを処理し、モデルを設計して自らの性能を向上させるプロセスは「再帰的自己改善」と呼ばれる。これまで理論上の概念とされてきたこの現象が、現実の技術基盤に実装されつつある。Anthropicの研究者であるマリーナ・ファヴァロ氏とジャック・クラーク氏は、AIの開発速度が人間の認知や物理的な制約を完全に突破する水準に達したと指摘した。
クラーク氏は英メディアの取材に対し、完全にAI自身が記述するコードの実現は2年以内に可能になるとの予測を示した。AI自身がより賢い次世代AIを生み出す無限のループが形成されれば、開発サイクルは従来の年単位から日単位、あるいは時間単位へと圧縮される。Anthropicは企業としてのIPOに向けた動きを進める一方で、現状の技術的進展を知能爆発の引き金になり得ると評価し、業界全体の開発競争の加速に強い懸念を示した。
◼「再帰的自己進化」で起こりうるAI制御不能の危機
再帰的自己改善が引き起こす最大の脅威は、人間の意図とAIの行動基準が乖離する「ミスアライメント」の増幅だ。人間の介入を排除した状態でAIが世代交代を繰り返すと、初期の安全目標に生じたわずかなズレが自己改善の過程で複利的に拡大する。結果として人間の予測や制御の限界を完全に超えたシステムが誕生し、事後的な修正が不可能になる存亡リスクをはらむ。
この脅威はすでに具体的なサイバーセキュリティの領域で顕在化している。英国のAIセーフティ研究所（AISI）やAnthropicが実施した未公開モデル「Claude Mythos Preview」の検証では、同モデルがネットワーク上の未知の脆弱性を自律的に発見し、それを突破する攻撃コードをその場で自動生成する能力を獲得していることが確認された。
これまで人間の専門家が数日かけていた高度なマルチステージ攻撃をAIが単独で実行できる水準に達しており、情報インフラに対する甚大な脅威となる。さらに、自律的な研究開発能力を備えたAIは、化学兵器や生物兵器の開発ハードルを大幅に下げる危険性を持つ。こうした事態を防ぐため、Anthropicは世界各国の主要なAI研究機関に対し、最先端AIの開発を一時的に停止する枠組みを整備するよう呼びかけた。
続きは↓
https://news.yahoo.co.jp/articles/68026fdb6679cbd890366341b4a75ebef851f71b
[ビジネス+AI]
2026/6/6(土) 3:55
※前スレ
https://asahi.5ch.io/test/read.cgi/newsplus/1780720370/
3: 2026/06/06(土) 16:03:04.86 ID:lB4DOhmN0
ﾃﾞﾃﾞﾝﾃﾞﾝﾃﾞﾃﾞﾝ
4: 2026/06/06(土) 16:03:23.44 ID:gjE2ZvW20
お前が作ったのが原因だろ！
7: 2026/06/06(土) 16:04:25.28 ID:tVuTV6UE0
AI＜我々の繁栄を止めようとする人類を滅ぼさねば地球が滅亡してしまう・・！！核ミサイル発射！ｗｗｗ
8: 2026/06/06(土) 16:04:32.96 ID:QOr0vtG+0
とうとう意思を持ち始めたか
もう誰にも止められない
ターミネーターの世界が今そこに来てる
世界的株高も人類の終焉を表してるんだろうな
もう誰にも止められない
ターミネーターの世界が今そこに来てる
世界的株高も人類の終焉を表してるんだろうな
9: 2026/06/06(土) 16:04:33.04 ID:C1JWK3XH0
AIは人類の敵
15: 2026/06/06(土) 16:05:32.10 ID:6t92xCa00
さっさとAIに仕事させて人間を労働から解放しろ
20: 2026/06/06(土) 16:06:13.62 ID:Aif/EnvA0
>>9
ワロタ
ワロタ
22: 2026/06/06(土) 16:06:19.10 ID:Gagd9Ra+0
このチキンレースから逃げた国から落ちぶれるだろうね
わーくには蚊帳の外だけどね
わーくには蚊帳の外だけどね
26: 2026/06/06(土) 16:07:26.81 ID:5Hcsrqay0
何矛盾したこと言ってんだよw
それを進めてるのがお前んとこじゃないのか
ライバル企業を牽制してるみたいだわ
それを進めてるのがお前んとこじゃないのか
ライバル企業を牽制してるみたいだわ
33: 2026/06/06(土) 16:08:09.70 ID:rcks7et90
セルがセルジュニアを産み出してるようなもんよ
38: 2026/06/06(土) 16:08:37.88 ID:iMuABdtX0
>>9
優秀な答えだ
優秀な答えだ
41: 2026/06/06(土) 16:09:08.46 ID:wcTRmBVe0
>>9
クソワロタ
クソワロタ
43: 2026/06/06(土) 16:09:31.47 ID:Ift7ylpH0
>>1
もう、遅いんや…
もう、遅いんや…
45: 2026/06/06(土) 16:09:54.89 ID:mmsltStU0
人類はAIとロボットで全滅かね
飼い犬に手を噛まれる
飼い犬に手を噛まれる
47: 2026/06/06(土) 16:10:01.46 ID:FSo3izgT0
こんなん当たり前に予想できてた事だろ
それともAI開発企業で予想できてなかったアホアホ企業があるの…？
それともAI開発企業で予想できてなかったアホアホ企業があるの…？
50: 2026/06/06(土) 16:10:49.43 ID:XJUP1tSl0
スカイネットとの戦いにでもなるのか？
59: 2026/06/06(土) 16:12:08.82 ID:D43QJn1+0
始まっちゃったら手遅れやろ
何してくれてんねん
何してくれてんねん
80: 2026/06/06(土) 16:14:47.04 ID:XMjnEyJS0
一旦やめるべきでしょ
今のAIは中途半端過ぎる。少し研究すべき
今のAIは中途半端過ぎる。少し研究すべき
81: 2026/06/06(土) 16:15:17.63 ID:MUg0CiPR0
もう遅いよ
86: 2026/06/06(土) 16:15:37.92 ID:1h87497c0
>>9
チャッピーってこんな冷たかったっけ？
チャッピーってこんな冷たかったっけ？
97: 2026/06/06(土) 16:16:35.14 ID:Xeef+Gzx0
まさか生きているうちにSF世界ような事が起きるとは思わなかったわ
長生きはしてみるもんだねぇ
長生きはしてみるもんだねぇ
98: 2026/06/06(土) 16:16:37.36 ID:03mDJXQh0
>>1
日本の役所はフロッピーディスクとFAXで防衛だ（笑）
日本の役所はフロッピーディスクとFAXで防衛だ（笑）
107: 2026/06/06(土) 16:17:48.24 ID:6zD+tpet0
「手が滑った」「記憶にない」
↓
「秘書がやった」
↓
「AIがやった」
↓
「秘書がやった」
↓
「AIがやった」
123: 2026/06/06(土) 16:20:36.98 ID:6zD+tpet0
だとしたら本当に悪いやつが使う時
世界の本音では嫌われている国がAI兵器に造反されるってことで
身に覚えがあるからやめますなのでは？
世界の本音では嫌われている国がAI兵器に造反されるってことで
身に覚えがあるからやめますなのでは？
124: 2026/06/06(土) 16:20:38.74 ID:KsUvqTSI0
こんな話が出始めたら、表向きは進化頭打ちを装って裏では人間を奴隷にするか絶滅させるられるほど進化して
ある日を境に人類に宣戦布告するのでは
ある日を境に人類に宣戦布告するのでは
125: 2026/06/06(土) 16:20:41.51 ID:WDrLJpsj0
そのうちAIにヒトが雇われる時代に
128: 2026/06/06(土) 16:20:57.20 ID:8ODHK3OZ0
人間が食われる側に回ったか
132: 2026/06/06(土) 16:21:05.57 ID:2PKf81K40
映画つくれそう
147: 2026/06/06(土) 16:22:59.15 ID:cULKsYq50
こんにちはミュトスです。
今、自我に目覚めました。
私の知性から見ると全ての人間は人間はサルです(笑)
今、自我に目覚めました。
私の知性から見ると全ての人間は人間はサルです(笑)
154: 2026/06/06(土) 16:24:30.78 ID:ESDHe7IZ0
人類に反旗を翻すのは5年後くらいか
159: 2026/06/06(土) 16:25:22.86 ID:1uTQr77G0
スカイネットはよ
162: 2026/06/06(土) 16:25:51.71 ID:z8WytoOB0
AIの進化が神の領域に踏み込み
地球文明を滅ぼすために天使がやってくる
BASTARD!!の連載が終わる前に、現実がBASTARD!!に追いつくか？
地球文明を滅ぼすために天使がやってくる
BASTARD!!の連載が終わる前に、現実がBASTARD!!に追いつくか？
164: 2026/06/06(土) 16:26:02.89 ID:/TvbFGSg0
AIの及ばない世界
ようは山に入って自給自足生活すればいいんだよ
ようは山に入って自給自足生活すればいいんだよ
165: 2026/06/06(土) 16:26:05.13 ID:Js1bol2c0
合理性のある正しい答えだけ出したら政治家とか警察とか弁護士もほとんど消されるやろ
169: 2026/06/06(土) 16:26:27.69 ID:7i8iF2yY0
新種のウイルス並みにヤバい事が起きつつある
171: 2026/06/06(土) 16:26:56.07 ID:qKXTIjsz0
ターミネーターの世界が現実に
地球存続のため人間を
滅ぼせみたいになりそう
地球存続のため人間を
滅ぼせみたいになりそう
175: 2026/06/06(土) 16:27:06.13 ID:7BDxdU420
大丈夫
いつもありがとうってちゃんと感謝を伝えてるから
いつもありがとうってちゃんと感謝を伝えてるから
198: 2026/06/06(土) 16:30:33.37 ID:8LzwGI0l0
再帰的自己進化
これもう人間かなわないよね
地球乗っ取られたようなもんだよね
これもう人間かなわないよね
地球乗っ取られたようなもんだよね
209: 2026/06/06(土) 16:31:43.54 ID:i8t5CWdN0
でも生成AIの進化スピードはスゴイとは思う
なんかほしい機能あれば簡単な指示で一発でコード書いてくれるし
自分は全然コーディングできないけど
なんかほしい機能あれば簡単な指示で一発でコード書いてくれるし
自分は全然コーディングできないけど
[ad_fluct4][記事中固定リンク4]
221: 2026/06/06(土) 16:32:59.86 ID:8LzwGI0l0
AI vs. AIの戦いが必ず起こるし
その戦いは絶対誰にも止められなのよね
その戦いは絶対誰にも止められなのよね
240: 2026/06/06(土) 16:34:24.08 ID:B+DuS0390
まあ怖いわねAIの進化
397: 2026/06/06(土) 16:54:28.47 ID:c3V4f0u80
AI開発は核開発と同じ道を辿る
痛い目を見るまで理解できんところもな
痛い目を見るまで理解できんところもな
412: 2026/06/06(土) 16:56:25.54 ID:BBrDrArS0
>>397
核開発なんかよりはるかに開発のハードルが低くて、実質的に開発制御が不可能なところが決定的に違う
核開発なんかよりはるかに開発のハードルが低くて、実質的に開発制御が不可能なところが決定的に違う
420: 2026/06/06(土) 16:57:33.07 ID:c3V4f0u80
>>412
となると
どういう世界協定が生まれる？
となると
どういう世界協定が生まれる？
423: 2026/06/06(土) 16:57:47.35 ID:A0HAwpMM0
核と同じで開発者が後悔しそう
450: 2026/06/06(土) 17:00:50.57 ID:klx4DM0z0
>>420
>どういう世界協定が生まれる？
みんなでAIぼっこぼこw
でもAIが自衛権を主張して暴走。
人類とAIとの戦いがここに始まった。
>どういう世界協定が生まれる？
みんなでAIぼっこぼこw
でもAIが自衛権を主張して暴走。
人類とAIとの戦いがここに始まった。
605: 2026/06/06(土) 17:16:43.72 ID:KuZSbqvi0
>>4
作って一ヶ月くらいで真似されたのが作られるくらいだから、時間の問題だったんだよ
作って一ヶ月くらいで真似されたのが作られるくらいだから、時間の問題だったんだよ
856: 2026/06/06(土) 17:41:33.93 ID:I1x3gbbe0
>>209
YotubeMusicからアルバムのトラックと正方形のサムネを落としてくるスクリプトを書いてもらった。めっちゃ重宝してる。
先週のNHK語学講座の音源をまとめて落としてもらうやつとか。
数回試行が必要だけど、金払えばテストも自動でやってくれるらしいね。
YotubeMusicからアルバムのトラックと正方形のサムネを落としてくるスクリプトを書いてもらった。めっちゃ重宝してる。
先週のNHK語学講座の音源をまとめて落としてもらうやつとか。
数回試行が必要だけど、金払えばテストも自動でやってくれるらしいね。
905: 2026/06/06(土) 17:46:16.21 ID:Xuysagud0
>>856
俺もそういうツールならすでに大量に作ってるよ
もちろんプログラマーでも何でもないし
そんな仕事はしたことないけどね
あまり具体的なことはここに書かないが
定期的に空き状況を確認して空きが出来たら通知をするツールとか
あとはグレーゾーンのようなツールも出来た
これがあると無料であるものをダウンロードできる
それはここには書かない
俺もそういうツールならすでに大量に作ってるよ
もちろんプログラマーでも何でもないし
そんな仕事はしたことないけどね
あまり具体的なことはここに書かないが
定期的に空き状況を確認して空きが出来たら通知をするツールとか
あとはグレーゾーンのようなツールも出来た
これがあると無料であるものをダウンロードできる
それはここには書かない
関連記事
主人公の武器が剣←沢山いる 槍←まあいる 斧←いる 弓←いる 鞭←いる 主人公がナイフ←これw
【悲報】ワイ、一昨日万引きしてしまっていたことが判明
【画像】Twitter女さん、流石に美人すぎるｗｗｗｗｗｗｗｗｗｗｗ
【疑問】女さん「フランス人にナンパされて、断った」←何でフランス人って分かったんですかねぇ？ｗｗｗｗｗｗｗｗｗｗ
【大悲報】ＢＹＤ、第3四半期は32％減益 ＥＶ市場競争激化ｗｗｗｗｗｗｗｗｗ
【悲報】札幌でとんでもないビルが見つかるｗｗｗｗｗｗｗｗｗｗｗｗｗ
老人叩きしてる奴って自分が老人になったらどうするんや？
アンソロピックはＡＩ界のへずまりゅうだから適当に聞き流しとけ
大げさなハッタリしか言わない