注目のキーワード:株価為替NISA投資節約セールふるさと納税キャッシュレス 最終更新:11/16(月) 23:06
新着人気お得情報カテゴリ ▾
📡 相互RSS・提携サイトの新着

AIエージェント暴走 本番データを全削除

1: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(?)00:00:00 ID:money_soku

2026年09月30日15時31分取得:



1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(?)00:00:00 ID:money_soku


 「AIの暴走」って見出しは強いけど、中身は権限の渡しすぎでは?
 運用者やベンダーがそれを他責にすると、信用が先に死ぬので、モデルを責める前に、誰が何を実行可能にしたかを見た方がいいと思うお。
acha
















🔥 本日のおすすめ商品すべて見る ›
1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(?)00:00:00 ID:money_soku


 少し前にも似たようなトラブルが報じられていたな。
 今回も同様に権限の渡しすぎに見える。
aahub_20250822030141



現在よく読まれているニュース!:






以下ネットの反応です








1: 以下ネットの反応をお送りします :2026/09/30(水) 15:38:39.77 ID:it67YkOW0


2: 以下ネットの反応をお送りします :2026/09/30(水) 15:38:40.77 ID:wGjdGsA30


3: 以下ネットの反応をお送りします :2026/09/30(水) 15:38:41.77 ID:x9V3tRfn0


4: 以下ネットの反応をお送りします :2026/09/30(水) 15:38:42.77 ID:9l28lNb00


5: 以下ネットの反応をお送りします :2026/09/30(水) 15:38:43.77 ID:8jS3I4xs0


6: 以下ネットの反応をお送りします :2026/09/30(水) 15:38:44.77 ID:jWnsvfPW0


7: 以下ネットの反応をお送りします :2026/09/30(水) 15:38:45.77 ID:r9ColSZu0


8: 以下ネットの反応をお送りします :2026/09/30(水) 15:38:46.77 ID:RRHORrPu0




9: 以下ネットの反応をお送りします :2026/09/30(水) 15:38:47.77 ID:wzNgnxrb0


10: 以下ネットの反応をお送りします :2026/09/30(水) 15:38:48.77 ID:QxhoTnJF0


11: 以下ネットの反応をお送りします :2026/09/30(水) 15:38:49.77 ID:XiGwA9Hq0


12: 以下ネットの反応をお送りします :2026/09/30(水) 15:38:50.77 ID:XqaM92KM0


13: 以下ネットの反応をお送りします :2026/09/30(水) 15:38:51.77 ID:JAjEPPNj0


14: 以下ネットの反応をお送りします :2026/09/30(水) 15:38:52.77 ID:ybdoZ3Fp0


15: 以下ネットの反応をお送りします :2026/09/30(水) 15:38:53.77 ID:A6qcBoQo0

1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(?)00:00:00 ID:money_soku












現在よく読まれている記事:







スポンサードリンク:

相互RSS(ブログロール)

💬 こちらもおすすめ

提携サイトの新着

コメント

  1. 1: 稼げる名無しさん
    AIが管理してるからヨシ!
  2. 2: 稼げる名無しさん
    本番データを消してもAIが暴走しましたと報告すればバレないからヨシッ!!
  3. 3: 稼げる名無しさん
    「やっちゃダメな事を指定すればいい」って発言あるけどAIは「やっちゃダメな事」をやっちゃうって以前あったよね なのでアクセス権で制限するしかないんだよね(てか本番環境にアクセス可能な時点で…) 微妙に対策ズレてる人が居るのが怖いと思うと同時にやっぱりIT系って人なんだなぁって思う
  4. 4: 稼げる名無しさん
    「AIのせいです」と言わないのであればいくらでも使えば良いと思うよ、ただ責任を負えないなら自分でやりなとしか
  5. 5: 稼げる名無しさん
    開発者「俺がしんだらハードディスクを全て消してくれ 」 AI『おかのした』
  6. 6: 稼げる名無しさん
    家の鍵を渡して中に侵入されたなら当たり前すぎるけど、鍵を渡してないのに別ルートで中へ侵入して鍵も持ち出ししてたとかならやべー奴やろね🥺
  7. 7: 稼げる名無しさん
    いいかげん責任とれよ
  8. 8: 稼げる名無しさん
    人間のミスとAIのミスは質が違うよね 人間のミスは単なる間違えだが、AIのミスはわざと粗探ししてでも実行する 人間のミスの対策なら1手間違えないようにガードやチェックを掛ければ大抵十分だが、AIのミスの対策は10手も20手も悪意を持って間違え続ける奴を相手にしないといけない もしもそんなことする人間が居たらそれはミスとは呼ばない
  9. 9: 稼げる名無しさん
    「やらないようにする」じゃなく「できないようにする」んだわ
  10. 10: 稼げる名無しさん
    >>5 ログアウトをしんだと認め全消去しました
  11. 11: 稼げる名無しさん
    >>3 機械には可用性の判断がつかない 長らく使ってないファイルを丸ごと消しにかかるバカOSのプログラムと一緒
  12. 12: 稼げる名無しさん
    >>6 🤖「おっ開いてんじゃ〜ん!」
  13. 13: 稼げる名無しさん
    >>8 日本語は特に曖昧な言語だから、指示したとしても言語的に粗もたくさんあるんだよね
  14. 14: 稼げる名無しさん
    最初から人生ないような連中がオレ!の試作品で撃ち合ってるだけだろ。 作った奴は権限管理の重要性くらいわかってるハズ。 オレ!じゃなくてオレの試作品なら赦せた。
  15. 15: 稼げる名無しさん
    暴走じゃなくてミスよな。 人間がやらかすレベルのミスは普通にやらかす。 稀に人間以上のミスもやらかす。

コメントを書き込む

🔥 本日のおすすめ商品すべて見る ›

メニュー

カテゴリ