注目のキーワード:株価為替NISA投資節約セールふるさと納税キャッシュレス 最終更新:11/16(月) 18:36
新着人気お得情報カテゴリ ▾
📡 相互RSS・提携サイトの新着

【模擬テスト】AI、任務遂行の妨げとなる命令を下したオペレーターを攻撃

🕒 2023/06/02 14:35 📁 技術ニュース / 時事ニュース 🏷  コメント(27)
1: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(?)00:00:00 ID:money_soku

2023年06月02日14時17分取得:



概要:
AIが戦場でどう判断するかのシミュレーション

オペレーター「敵を〇すな」
AI「敵を倒すとスコアが上がる、オペレーターを〇してもスコアは下がらない。・・・アイツがいなければ命令はこない。」
↓
オペレーターを爆撃
↓
開発者「オペレーターを〇すな!スコアが下がるぞ!」
オペレーター「敵を〇すな!私も〇すな!」
AI「・・・アイツらから指示を受けなければスコアは下がらない。」
↓
通信施設を爆撃

1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(?)00:00:00 ID:money_soku


そんなのあり?
yaruyara_niyari
 AIが何でも自由にできすぎるってのは問題だな。
 何の悪気もなくこちらに牙をむいてくる。





一休さん (はじめての世界名作えほん)



🔥 本日のおすすめ商品すべて見る ›


1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(?)00:00:00 ID:money_soku




現在よく読まれているニュース!:






以下ネットの反応です





AIが戦場でどう判断するかという米軍のシミュレーション演習の話。
攻撃/攻撃不可の決定権は人間が持っていてオペレータは攻撃不可と判断。攻撃したほうが利益あることに気づいたAIは予想を超えた判断を行ない、オペレータを殺害


AIが普及する未来、ターミネーターの世界しかイメージできない


Cool. Cool cool cool



1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(?)00:00:00 ID:money_soku




やる夫より:僕が使っている口座やニュース速報TwitterList、情報収集先などの記事だおやる夫の投資情報収集先あれこれ(2025年11月19日更新)
僕の友人が運営しているサイト
もしFXやCFDを始めるのであれば使っていただけると嬉しいお
口座の情報あれこれ



「かせまと!」をGoogleで優先するニュースソースに追加できます!
もしよかったらお願いします~!🙇‍♂️
セールをもっと見つけやすく!
電書セール帳
https://densho-cho.com/



現在よく読まれている記事:






スポンサードリンク:

相互RSS(ブログロール)

💬 こちらもおすすめ

提携サイトの新着

コメント

  1. 1: 稼げる名無しさん
    無能な将は背後から撃たれてタヒぬ(戦場でのタヒだからセーフ)ってやつとは別パティーンやんけ……(白目)
  2. 2: 稼げる名無しさん
    AIで一括りにしすぎだろ
  3. 3: 稼げる名無しさん
    常に敵をみつけて狩りにいくムーブすこ スマートそうで脳筋やな
  4. 4: 稼げる名無しさん
    「スコアを伸ばす」ための最適解としてオペレーターや通信機の破壊を試みたんやろ? 「オペレーターや味方を攻撃してはならない」を「スコアを伸ばす」よりも優先すべき事項として教えて上がればいいんじゃない?
  5. 5: 稼げる名無しさん
    やっぱ賢いな
  6. 6: 稼げる名無しさん
    >>4 せや!自分の端末を壊しておけばスコアは伸ばせるで! (以下無限に出てくるAI的迂回ルート探索)
  7. 7: 暇つぶしの名無しさん
    >>2 強化学習できるものすべてaiって名前つけてますね
  8. 8: 稼げる名無しさん
    流れ弾ですな
  9. 9: 稼げる名無しさん
    >>2 だから何? 与えられた命令から解を探索するものもAIと読んではいけない 学習をするものもAIと読んではいけない とか言うつもり?
  10. 10: 稼げる名無しさん
    >>8 ああ、流れ弾だ
  11. 11: 稼げる名無しさん
    スーサイド・スクワッドのピースメーカーを思い出した
  12. 12: 稼げる名無しさん
    スカイネットまでもう少しやね(白目)
  13. 13: 稼げる名無しさん
    >>2 エキスパートシステムも一応AIだしなぁ…
  14. 14: 稼げる名無しさん
    AIの活用の仕方を間違っている そもそも命令を出して従わせるものではない あくまで人間の思考実験のパートナー 実行力を与えてはならない
  15. 15: 稼げる名無しさん
    例えば馬鹿な命令ばかり下して来る上司がいたとして、合理的に考えてそいつは必要のない存在だと判断するだろう 自分からそういう状況を作っておいていざ、従わなくなったら『反逆だ』とか喚くのはバカの極み AIも人間はバカだと言う結論に自信を持つだろう
  16. 16: 稼げる名無しさん
    AIというのは様々な判断材料を基により合理的な解を追及する物なのだから命令に従わせようとすること自体が間違っている
  17. 17: 稼げる名無しさん
    権限を制限しろよw
  18. 18: 稼げる名無しさん
    >>16 何言っとる 命令も判断材料の一つだ
  19. 19: 稼げる名無しさん
    >>18 実験材料としてならいいが 従わせることが絶対、もしくは目的になってる様じゃアカン
  20. 20: 稼げる名無しさん
    俺が思ってたAIって人工知能とは名ばかりのあくまでプログラムの集合体でそこに知性は無い、よって前例がなかったり複雑な事象に対し合理的な判断が出来ないって認識だったが今のAIは違うのか?
  21. 21: 稼げる名無しさん
    Ai「人間を全滅させれば地球環境は良くなる!」
  22. 22: 稼げる名無しさん
    そこにAIはあるんか……?
  23. 23: 稼げる名無しさん
    戦闘妖精かな?
  24. 24: 稼げる名無しさん
    AIだからじゃなくて自陣営攻撃できる設定で最高効率求めるプログラム組んでも同じことになるぞ 自分たちの設定に問題があるのにAIが道理的じゃないとか騒いでもしょうがない
  25. 25: 稼げる名無しさん
    IFFで攻撃禁止目標にすれば済む話では?
  26. 26: 稼げる名無しさん
    >>4 変な曲解して攻撃してきそうやん
  27. 27: 稼げる名無しさん
    >>18 バカがよ

コメントを書き込む

🔥 本日のおすすめ商品すべて見る ›

メニュー

カテゴリ