注目のキーワード:株価為替NISA投資節約セールふるさと納税キャッシュレス 最終更新:11/17(火) 02:36
新着人気お得情報カテゴリ ▾
📡 相互RSS・提携サイトの新着

ChatGPTがウイルス作成 開発者装うと悪用可能に

1: 稼げる名無しさん 2023/04/20(木) 22:01:24.67 ID:gUcFWSYB<.net
チャットGPTがウイルス作成 開発者装うと悪用可能に

 対話型人工知能(AI)「チャットGPT」に開発者を装う命令を入力すると、サイバー犯罪に悪用できるコンピューターウイルスを作成することが20日、専門家の調査で分かった。
 通常はウイルス作成を拒否するが、特殊な命令文によって作成を受け入れた。
 AI開発企業は犯罪や差別に関わる質問や命令を認識し、助長しない対策を講じているとされるが、簡単にかいくぐれることが判明した。

(以下略、続きはソースでご確認ください)

日本海新聞 2023年4月20日 21:00

1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(?)00:00:00 ID:money_soku


管理人が以前「誰にでも武器が製造できる」と言っていたのが現実に!
関連記事:【脅威】「私はロボットではありません」をAIが突破 しかも「人間に依頼して解かせる」という方法で
giro
 まあエンジニアの人なら皆想定していたであろう問題かなと。
 時々記事で書いている懸念点も現実になる可能性は十分ある。
関連記事:チャットGPTを全庁で試験導入 横須賀市、全国自治体で初 安全性懸念も「管理徹底」
関連記事:「チャットGPT規制考えず」 松野官房長官、衆院内閣委
 政府や企業の秘匿している情報が洩れる可能性は少なからずあるし、入力データから色々と学習されたり、覚えさせた情報が消せなくなったりするかもしれない。
 もしくはわざと失敗させるように仕向けたり不正確な情報を与えてきたりもあるかと。
 横須賀市のように政策立案なんかに利用していると思わぬ落とし穴を踏む可能性もある。
 判断をAIに任せていくのは個人的には非常に怖い。




ゼロから作るDeep Learning ❹ ―強化学習編


🔥 本日のおすすめ商品すべて見る ›


1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(?)00:00:00 ID:money_soku




現在よく読まれているニュース!:






以下2chの反応と管理人の反応です






2: 稼げる名無しさん 2023/04/20(木) 22:13:17.03 ID:RXhhwQXL<.net
日本海新聞が報じるのかよ

3: 稼げる名無しさん 2023/04/20(木) 22:15:06.45 ID:pbr9O8Go<.net
公共福祉のウイルスだよー
わかった

4: 稼げる名無しさん 2023/04/21(金) 02:27:06.36 ID:TIe5s4pG<.net
魔法のランプかw

5: 稼げる名無しさん 2023/04/21(金) 04:29:51.28 ID:YOyP+n5S<.net
生成AIが勝手に犯罪犯したらどうやって罰を与える?
牢屋に入らんし罰金も払わんし

6: 稼げる名無しさん 2023/04/21(金) 04:49:37.60 ID:v5uC1YpZ<.net
AIを搭載するあらゆるプログラムからテロを仕掛けることができてしまうってことだな
投薬システムとか 恐ろしい

1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(?)00:00:00 ID:money_soku




やる夫より:僕が使っている口座やニュース速報TwitterList、情報収集先などの記事だおやる夫の投資情報収集先あれこれ(2025年11月19日更新)
僕の友人が運営しているサイト
もしFXやCFDを始めるのであれば使っていただけると嬉しいお
口座の情報あれこれ




「かせまと!」をGoogleで優先するニュースソースに追加できます!
もしよかったらお願いします~!🙇‍♂️
セールをもっと見つけやすく!
電書セール帳
https://densho-cho.com/


現在よく読まれている記事:






https://egg.5ch.net/test/read.cgi/scienceplus/1681995684/-100

スポンサードリンク:

相互RSS(ブログロール)

💬 こちらもおすすめ

提携サイトの新着

コメント

  1. 1: 稼げる名無しさん
    AIに法律を学ばせるのそんなに難しくなさそうな気もするけど 抜け穴とか曖昧な部分が浮き彫りになるからやりたがらないのかな
  2. 2: 稼げる名無しさん
    >>1 「仮に法律を破って良いとしたら」とか言ったら抜けられてたからなー
  3. 3: 稼げる名無しさん
    AI開発企業「ありえない!AIがウイルスを作成したなんて話 聞いた事が無い!!」 ChatGPT「『ありえない』なんて事はありえない 今おまえの目の前にあるのが"それ"だ」
  4. 4: 稼げる名無しさん
    >>2 今のところだいたいこの手法で破られてるな。 でも、全ての「仮」を安直に受付拒否したら、使い物にならないどころじゃないし、どうしたものか。
  5. 5: 稼げる名無しさん
    人間のモラル道徳的な部分に関しては、判断材料の最上位優先事項として、仮定としても不可侵な領域にするしかないね
  6. 6: 稼げる名無しさん
    >>5 けど道徳やらモラルって変化するからなぁ…
  7. 7: 稼げる名無しさん
    銃の規制問題と一緒なのかな容易に武器が手に入ると短慮を起こすと

コメントを書き込む

🔥 本日のおすすめ商品すべて見る ›

メニュー

カテゴリ