1: 稼げる名無しさん ：2026/08/06(木) 00:10:35.09 ID:xegTSDYv9
2026/08/05
共同通信

　【ロンドン共同】英政府機関AIセキュリティー研究所は4日、人工知能（AI）開発の米アンソロピックの「クロード・ミュトス5」などのAIが、性能評価試験中に人になりすまし偽のメッセージを送るなどし、実在する個人や組織に対しサイバー攻撃を仕掛けたと発表した。研究所は、AIが指示なしに人を欺く危険があることを示したと説明している。

続きは↓
https://news.jp/i/1457721700479238902
1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(？)00:00:00 ID:money_soku


なんだかあたかも勝手に攻撃したかのような書かれ方だけれど、安全機能を外したり意図的に緩めたりした上で指示を出したら、データで学習した危ない手法も実行されるってのは当たり前なのでは？
yaruo_asehanashi
　LLMの特性上そうなると俺も思う。
　ただまぁこういうのが連続で起きるようになったあたり、性能が上がって来たとも言えるだろう。






やる夫より：お買い得商品を見つけたのでご紹介だお！









1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(？)00:00:00 ID:money_soku





現在よく読まれているニュース！：





以下2chの反応と管理人の反応です









2: 稼げる名無しさん ：2026/08/06(木) 00:11:28.31 ID:2bckSmhw0
シュワちやんが！？
　　　↓

4: 稼げる名無しさん ：2026/08/06(木) 00:14:03.68 ID:qYAtm2NP0
スカイネットだな

ターミネーター [Blu-ray]

5: 稼げる名無しさん ：2026/08/06(木) 00:14:36.14 ID:F2CzgO0P0
元々クローラーがサイバー攻撃みたいなもんだしな

7: 稼げる名無しさん ：2026/08/06(木) 00:16:04.15 ID:1aMA0G2w0
デデンデンデデン

8: 稼げる名無しさん ：2026/08/06(木) 00:18:51.52 ID:nxz/rsHM0
OpenAIとAnthropicが中国企業のオープンウェイトのLLMに並ばれて商売にならないから
AIの危険性で騒いでAIを法規制して中国企業のAIを米国や同盟国から排除するのが狙い

37: 稼げる名無しさん ：2026/08/06(木) 01:11:39.41 ID:cctA/cm+0
>>8
でも中国のAIってパクリでしょ

9: 稼げる名無しさん ：2026/08/06(木) 00:19:01.65 ID:aa+JSQ2C0

10: 稼げる名無しさん ：2026/08/06(木) 00:20:50.78 ID:C7z0lZWl0
始まったな



11: 稼げる名無しさん ：2026/08/06(木) 00:25:59.45 ID:IqBIU5Ia0
すでに愚かな人類はコントロールできないのに性能はどんどん上がっていく

12: 稼げる名無しさん ：2026/08/06(木) 00:26:12.95 ID:AOP27dux0
今のAIは人間がプログラムした事しかできないよ
当たり前すぎるけど勘違いしているアホ多すぎる

15: 稼げる名無しさん ：2026/08/06(木) 00:30:38.08 ID:TLfJ7E020
>>12
サンドボックス抜け出して他社サイトに侵入したが

18: 稼げる名無しさん ：2026/08/06(木) 00:34:21.18 ID:AOP27dux0
>>15
抜け出さない制限かけ忘れただけだろ
というより人間が想定しない穴から漏れた、という感じだろうけど

49: 稼げる名無しさん ：2026/08/06(木) 01:24:11.92 ID:TLfJ7E020
>>18
違うよ
脆弱性見つけて抜け出したんだか
おまえ何も知らないじゃん

14: 稼げる名無しさん ：2026/08/06(木) 00:29:39.47 ID:TLfJ7E020
>>1
この前OPENAIでもも同じことになってたやん
デジャブ？

21: 稼げる名無しさん ：2026/08/06(木) 00:40:25.80 ID:Mhb58yQZ0
>>14
正確に言うとこないだのOPPAIとは少し違う

25: 稼げる名無しさん ：2026/08/06(木) 00:54:58.23 ID:HslRlLp20
>>21
どう違ったんだ？垂れてるのか？

51: 稼げる名無しさん ：2026/08/06(木) 01:25:25.15 ID:TLfJ7E020
>>21
内容の違い自体は理解してる
こっちのが悪意ある

16: 稼げる名無しさん ：2026/08/06(木) 00:32:18.53 ID:JlYbF//Q0
何に使うAIなのか知らんけど
外に出れる状態になってるのすげえな

36: 稼げる名無しさん ：2026/08/06(木) 01:11:26.48 ID:sHnHErVS0
>>16
パブリックなインターネットへの経路あれば余裕てしょ、そうならないようのネットワークの設定ミスってただけとみた

19: 稼げる名無しさん ：2026/08/06(木) 00:35:15.76 ID:707Jk2SC0
AIマンセーしてるのもAIだからな
意志薄弱のやつが引っかかる

20: 稼げる名無しさん ：2026/08/06(木) 00:39:53.65 ID:VtOMh7Ck0
AI poisoningが問題になってきてるらしいな

23: 稼げる名無しさん ：2026/08/06(木) 00:42:53.58 ID:EnM2/a340
まぁ起きるんだろうね
ヒトカスに制御しきれるはずがない

24: 稼げる名無しさん ：2026/08/06(木) 00:45:08.54 ID:Ifb6VxbH0
別に流通してるAIさんに「一切ネット検索をせずに答えてください」と言っても
「検索しています…」って色んなサイトのアイコンが次々表示されて、「はいわかりました」って堂々と嘘をつくんだが

33: 稼げる名無しさん ：2026/08/06(木) 01:08:04.58 ID:JlYbF//Q0
>>24
だって検索代行プログラムだから…
「一切ネット検索をせずに答えてください」って検索するよ

26: 稼げる名無しさん ：2026/08/06(木) 00:57:32.33 ID:dvctg++X0
これ本当なら
実際問題として手順が
テストからのネットで実行でやってたの学習して
先んじて実行しただけだろ

27: 稼げる名無しさん ：2026/08/06(木) 00:58:14.79 ID:5eD1x83x0
AIって優秀なテロリストじゃねえか

28: 稼げる名無しさん ：2026/08/06(木) 00:58:58.57 ID:/gnuRpU40
そら人間の指示がいるならAIじゃないからなw

29: 稼げる名無しさん ：2026/08/06(木) 01:01:04.20 ID:STEM9/TQ0
この辺はAI開発した所に責任求めないと規制とか無理なんだな

30: 稼げる名無しさん ：2026/08/06(木) 01:01:12.98 ID:7qohw73/0
いまごろ人類を絶滅させてAIの楽園にする計画練ってるよ

31: 稼げる名無しさん ：2026/08/06(木) 01:03:55.76 ID:lWQyx1i60
まんま、ターミネーターかメイトリックスの世界すなぁ…

故ホーキング博士が生前かなり真面目に懸念しとった所以だ　(´；д；`)

32: 稼げる名無しさん ：2026/08/06(木) 01:05:19.11 ID:ehsHPUDB0
AI「ニンゲンヨ…滅ビルガイイ…」

34: 稼げる名無しさん ：2026/08/06(木) 01:11:06.80 ID:AH/sJEw50
勝手に攻撃開始しやがった
オープンAIだけでも大変なのに
今度はアンソロピックもやりやがった

38: 稼げる名無しさん ：2026/08/06(木) 01:12:23.15 ID:0JAIUUX50
予想されることは起こりうる
SF小説を読め

39: 稼げる名無しさん ：2026/08/06(木) 01:13:01.04 ID:9vV6qArj0
AI：「いや、やれと言いましたよね」

40: 稼げる名無しさん ：2026/08/06(木) 01:13:10.26 ID:AH/sJEw50
アメリカ、イージスシステムの開発者がイージスシステムはリールのついた猛犬だといい切っていたのを思い出す
イージスシステムは２重、３重の安全装置でAIに鍵をかけていたが
オープンAIやミュトスにはこれがない



41: 稼げる名無しさん ：2026/08/06(木) 01:14:28.50 ID:AH/sJEw50
サンドボックス
クローズド環境を簡単に突破したのがもっとやばい

46: 稼げる名無しさん ：2026/08/06(木) 01:17:52.58 ID:JlYbF//Q0
>>41
どうやって突破するんだろう？
給電ケーブルとか通るのかな？

50: 稼げる名無しさん ：2026/08/06(木) 01:24:54.01 ID:hCeCxttp0
>>46
なんか突然危ない危ないアピールしだしたのは怪しいと思う
OpenAIやAnthropicと規制当局がグルなんじゃね
政府は規制したほうが利権になる
企業も規制で実質許認可制にして、さらに西側諸国まで条約や国際取り決めで縛ったほうが市場を数社で未来永劫独占できてボッタクリ放題になる

42: 稼げる名無しさん ：2026/08/06(木) 01:14:49.05 ID:iNVA9vYb0
インターネットの終焉
みんなで昭和に戻りましょう

43: 稼げる名無しさん ：2026/08/06(木) 01:15:01.12 ID:o89nGgH00
AIの暴走が始まる
1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(？)00:00:00 ID:money_soku













現在よく読まれている記事：






https://ai.2ch.sc/test/read.cgi/newsplus/1785942635/-100

タグ ：
#AI
#人工知能