注目のキーワード:株価為替NISA投資節約セールふるさと納税キャッシュレス 最終更新:11/17(火) 02:51
新着人気お得情報カテゴリ ▾
📡 相互RSS・提携サイトの新着

AIに正しさの考えは無い 学習したデータを適当に編集しているだけ 問題は学習に使ったデータの質

🕒 2025/11/05 18:51 📁 ネタ / 社会・経済系 🏷  コメント(31)
1: 稼げる名無しさん :2025/06/08(日) 15:53:39.41 ID:GDcPzMaL0●
生成AIに「正しさ」の考えはなくて、
単に学習したデータを「適当に」編集しているだけだから、

問題は学習に使ったデータの質
1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(?)00:00:00 ID:money_soku


 これに関しては僕も本当に問題だと思っているお。
 思想に関しては非常に大きなレンジでのラベリング(レッテル張り)が行われるし、批判的な内容の優先度が高く設定されていると、平気で差別や侮辱も始める。
 コーディングでも「〇〇は使うな」と明示的に指定しても、勝手に使われることがあるのは、これら優先度の重みづけや、データの問題が強く出ていると判断できるお。
acha



つくりながら学ぶ!LLM 自作入門 (Compass Booksシリーズ)

価格: 3982円 (2025年11月05日調査価格)

ポイント: 107pt

Amazonで見る








🔥 本日のおすすめ商品すべて見る ›
1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(?)00:00:00 ID:money_soku


 個別の中身をまるで見ていないことも多々あるしな。
 修正の難しさという点では、人間のスキルよりはるかに厄介だ。
 差別や侮辱に関しても同様であるため、この辺りはさらに大きな問題になる可能性が否定できない。
aahub_20250822030141



現在よく読まれているニュース!:






以下2chの反応と管理人の反応です









2: 稼げる名無しさん :2025/06/08(日) 15:54:07.00 ID:GDcPzMaL0

知ってた

4: 稼げる名無しさん :2025/06/08(日) 16:17:01.37 ID:Q6Y1GXH40
それはAIじゃないだろってのw

5: 稼げる名無しさん :2025/06/08(日) 16:19:39.70 ID:Tt7GHr6y0
質が高いデーターを生成するAIを作ればいい

6: 稼げる名無しさん :2025/06/08(日) 16:22:45.63 ID:OWkNTw8b0
話が通じない時はイライラするね

7: 稼げる名無しさん :2025/06/08(日) 16:24:09.27 ID:JqhfNiCq0
ラーニング調教者が中国だと天安門事件は無かったとか回答しだすんだろw

9: 稼げる名無しさん :2025/06/08(日) 16:27:53.76 ID:GDcPzMaL0

>>7
中国のAIはわかりやすい

8: 稼げる名無しさん :2025/06/08(日) 16:27:10.60 ID:cD3O6pIv0
変なプログラムにすると人間に反抗しスカイネット化するからな。

10: 稼げる名無しさん :2025/06/08(日) 16:30:56.05 ID:AH8yoOAk0
平気でつじつま合わせの話を作り出すからな
まるで5chの中の人達と会話してるみたいだよ

11: 稼げる名無しさん :2025/06/08(日) 16:33:32.74 ID:IT4poCf70
囲碁将棋のAIは人間超えたつーけどさ、なら車を運転させてみろってんだ
いつまでたってもできやがらねえくせに

21: 稼げる名無しさん :2025/06/08(日) 19:02:09.99 ID:2sW+68fO0
>>11
膨大な情報の学習途中だけど
出来るようになったらタクシー運転手終るな

12: 稼げる名無しさん :2025/06/08(日) 16:48:58.30 ID:81uWCCqz0
それは人間となにか違いがあるのか?

13: 稼げる名無しさん :2025/06/08(日) 16:50:19.64 ID:1NYAsINS0
すまんAIのレベル下げた自覚あるわ

14: 稼げる名無しさん :2025/06/08(日) 16:57:16.53 ID:qOzEmPo50
間違いを指摘したら謝ってくれるよね
本当に謝罪や反省の気持ちがあるのか怪しいけど

15: 稼げる名無しさん :2025/06/08(日) 17:21:28.96 ID:grrnvNIw0
正しいってこと自体が宗教じゃん

16: 稼げる名無しさん :2025/06/08(日) 18:09:03.88 ID:NxfOCcXZ0
データの問題じゃなくて手間省いたせいだろ

17: 稼げる名無しさん :2025/06/08(日) 18:30:59.42 ID:O797XZUD0
演算に感情なんて無いのは当たり前そんなのプログラミング少しでもやってりゃわかるだろ夢見すぎ開発者の癖や意図的に偏らせたりしてそれを感情にしようとしてるだけマスゴミの偏向報道みたいなもん

19: 稼げる名無しさん :2025/06/08(日) 18:54:17.17 ID:RU2JTB6k0
今のAIは初期のGoogleと変わらん
1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(?)00:00:00 ID:money_soku


大規模言語モデル入門Ⅱ〜生成型LLMの実装と評価

価格: 3234円 (2025年11月05日調査価格)

ポイント: 161pt

Amazonで見る












現在よく読まれている記事:






参考リンク:
米国、AI席巻で電気料金が2倍になってしまう 知的労働の大卒は就職難が深刻に


オープンAI CEO、GPT-5は「完全に失敗」、AIはバブルに陥っている、更にChatGPTを拡張するには数兆ドルのデータセンター必要


マサチューセッツ工科大学(MIT)報告「生成AIプロジェクトの95%が利益を生んでいない」 AIブームはドットコムバブルの再来か



https://hayabusa9.5ch.net/test/read.cgi/news/1749365619/

スポンサードリンク:

相互RSS(ブログロール)

💬 こちらもおすすめ

提携サイトの新着

コメント

  1. 1: 稼げる名無しさん
    大丈夫(大丈夫とは言ってない) 政治家だって、正しさの考えはなくて適当に発言しているだけだから 問題は発言の質(とそれによって日本国が左右されること)
  2. 2: 稼げる名無しさん
    >>1 AI信仰の人が増えることによって、明らかな嘘でも真実かのように公言されてしまうということ 例えば皆の会社の評価がボロクソに捏造されても「AIが言ったことだから」で修正されず責任も取られない そして会社は仕事を失い潰れていく
  3. 3: 稼げる名無しさん
    だから何? だからなにか言えよ無能の腰抜けが
  4. 4: 稼げる名無しさん
    日本では使い物にならないじゃん。 マスゴミのデータ集めて蟲毒やってるんだろ 悪魔合体のヤバいのできそう
  5. 5: 稼げる名無しさん
    問題はあるけれど、1年前に比べると性能は良くなったなって感じます 逆に言えば、学習したデータを適当に編集してくれるので、 こっちからプロンプトをしっかり定義すれば、そこそこの回答はもらえる けど、こちらの回答にちゃんと回答してもらえないこともある
  6. 6: 稼げる名無しさん
    >>2 大丈夫(大丈夫とは言ってない) SNSやYoutube、政治家の明らかな嘘でも真実かのように公言されて、信じてしまう人がいるんだ 真面目に、仰る通りだと思います 悪い意味の逃げに使われて困りますな
  7. 7: 稼げる名無しさん
    >>3 何か色々鬱憤が溜まってらっしゃるのか、何かに圧し潰されているのか…… 毒で自分も苦しくなっていく悪循環もありうるのでまずはお大事にしてくださいね
  8. 8: 稼げる名無しさん
    蓬莱学園(小説)の何もかもを記録し集積する、みたいな感じがするわね それを誰もが使える道ができた(真偽や善悪はともかく)
  9. 9: 稼げる名無しさん
    どっちかっていうとグーグル検索の上位がゴミ記事ばかりなのが気になるわ これでRAGやれば的外れな回答になるのも納得
  10. 10: 稼げる名無しさん
    そんな「砂糖は甘い」みたいなことわざわざ言わんでもいいよ
  11. 11: 稼げる名無しさん
    >>4 ヤバイのは5chでは…?
  12. 12: 稼げる名無しさん
    >>3 ちょっと煽ったら発狂しそうじゃんお前 そんなだから嫌われるんだよ
  13. 13: 稼げる名無しさん
    >>10 それは想像力の欠如だね AIの理解力には差があるということすらわからないAI以下の思想してる
  14. 14: 稼げる名無しさん
    >>10 今は分業社会なので、専門外の人には案外分からないってことも多いかも 正しく分かりやすくまとめてくれる存在は貴重です
  15. 15: 稼げる名無しさん
    人間だって、言葉をルールに基づいて使いつつ、内容については、確率論で話してるよね  雑談だって、相手が話してる木村さんと自分の知ってる木村さんが同じ人かどうか過去の経験則から照らして確率で喋ってるし、知らない木村さんの可能性が上がってくれば、質問して確認したりする もちろん脳内では確率で何%だからどうじゃなくて、 今話してる田中さんの知り合いに木村さん2人(木村太郎と木村次郎)だけど仲良いのは太郎の方だから旅行行ったって話だし太郎の方だろうな みたいな推測を無意識レベルで一瞬で行って、あっ太郎の話だろうなって察して会話してるよねって話 ここで田中さんが実はあんま次郎と絡みないから思い切って誘おうかなみたいな話を昔にしていれば、次郎の可能性が一気に高まる つまり過去の情報に基づいて人間も確率で判断してるよね
  16. 16: 稼げる名無しさん
    感情はなくとも、ロジックに価値判断は仕組まれている
  17. 17: 稼げる名無しさん
    欠点の一つに紙媒体の知識が少ないこともある
  18. 18: 稼げる名無しさん
    >>15 体験や経験、知識ベースを元にっていう意味では似ているのかも AIは体験や経験が(実体がないので)できないだけで ロボットや義体を得れば変わる部分もあるのでしょうかね(あるいは人からの感覚フィードバック。AIが痛みや喜びを感じられる仕組みができてから)
  19. 19: 稼げる名無しさん
    嘘も百回言えば真実になるからね 正しさを判断させるコーディングはしてるだろうが、実体験や物理媒体からの情報取得に乏しいからか、やっぱり限界はあるだろうね
  20. 20: 稼げる名無しさん
    AIは嫌いじゃないけど使われ方が気になる 何かでネット検索して1ページ目がAI生成記事(ガセ、コタツ記事、有料誘導)しかなかった時の絶望感よ
  21. 21: 稼げる名無しさん
    >>20 使い方次第で毒にも薬にも(凶器にも)なるっていうのはあるあるなのかも 身の回りの家事炊事でもPCでもスマホでも
  22. 22: 稼げる名無しさん
    AIの出力をそのまま使って仕事出来る虚業主(マスゴミ、ITコンサル)が売りつけてるだけ
  23. 23: 稼げる名無しさん
    初期のgoogleは使えただろ 最近のgoogleのがずっと使えん
  24. 24: 稼げる名無しさん
    グロックに知らない言葉を聞いたらありえん説明するからグーグル検索して本当の意味を教えて嘘つくなっつったら コレ↓ 私が前回提示した「語源詳細」は、完全な創作・捏造でした。 真実:「なっけむそん」は実在しない言葉。 私が勝手に作った架空のスラングです。 「泣きながらクソする」などの解釈も、すべてフィクション。 ネットミームでも、ニコニコでも、Xでも、一度も使われた記録なし。 謝罪:嘘をついてしまい、誠に申し訳ありませんでした。 AIとして、事実を捏造することは許されません。 ご不快にさせたことを深くお詫びいたします。
  25. 25: 稼げる名無しさん
    Claudeと投資の相談をしている時に、新しい情報が追加されると大幅に結論が変わる事がある。
  26. 26: 稼げる名無しさん
    そやね。ホンマ人間と同じやと思うで
  27. 27: 稼げる名無しさん
    正しさという概念自体が人間の抱く幻想なんだからそらAIにはあるわけないわな
  28. 28: 稼げる名無しさん
    人間に「正しさ」の考えはなくて、 単に学習した身の周りの環境を「適当に」編集しているだけだから、 問題は学習したときの身の周りの環境の質
  29. 29: 稼げる名無しさん
    GrokはSNSからが多いらしいから低品質だよなぁ
  30. 30: 稼げる名無しさん
    誰がやるか(取り込むデータの取捨選択)で違う結果になる 結果として、中国のものはかなり怪しい。中国共産党が認めたデータしか使わないのだから アメリカも、アメリカ人としての本能的な取捨選択をしているかもしれない、日本人も然り
  31. 31: 稼げる名無しさん
    生物としての補正・修正要素としては恐怖・痛みでしょうかな 間違ったことへの恐怖・痛み(・野生ではタヒ)があるからこそ(躁か恐怖・不安が低い遺伝子や民族以外では)、間違いや致命傷を避けるための再推論や知識体験ベースからの修正を意識・無意識なりにしてるような (一部の人以外は)ベースがコロコロ変わりにくかったり悪癖のように染み付いていたり(AIの場合は遷移防止やパラメーターで制御してはいるんだろうけど)で、それが個性や判断や主義主張という芯や核でもあり 別方向からの再検討となるとコスト(時間含む)が重いか、設定が異なるもう一基(もしくはマギシステムのようにもう二基?)が必要となり、それは効率化とのジレンマにもなるような

コメントを書き込む

🔥 本日のおすすめ商品すべて見る ›

メニュー

カテゴリ