注目のキーワード:株価為替NISA投資節約セールふるさと納税キャッシュレス 最終更新:11/20(金) 05:21
新着人気お得情報カテゴリ ▾
📡 相互RSS・提携サイトの新着

【AI】Qwen3.8 27Bが驚異の6.2GBに!? Unslothが新量子化技術で実現

1: 稼げる名無しさん :2026/08/21(金) 12:39:45.76 ID:mnsNg99a
AIモデルを小型化するために使われる量子化技術の開発も着々と進んでいる。Unslothは8月19日(米国時間)、新しい量子化技術「Dynamic v3.0」を発表し、これを適用したモデル「Qwen3.8-27B」のDynamic v3.0量子化版の提供を開始した。今回のリリースは、先行公開していた早期プレビュー版を更新したものとなる。Dynamic v3.0に対応したGGUFはllama.cppやUnsloth Desktopを含むほとんどの推論エンジンで利用可能となっている。
https://pc.watch.impress.co.jp/docs/news/2134411.html
1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(?)00:00:00 ID:money_soku


 はえー。
 これはちょっと使ってみたいお。
pc




やる夫より:
ローカルAI用に!
使い勝手がかなり良いGPUだと思うお!









🔥 本日のおすすめ商品すべて見る ›
1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(?)00:00:00 ID:money_soku


 Gemmaより良い感じになるかな?
aahub_20250822030141



現在よく読まれているニュース!:






以下2chの反応と管理人の反応です









2: 稼げる名無しさん :2026/08/21(金) 12:55:08.58 ID:AaVTxjrl
>小さなJSバグ1つがあるだけ
うーん

3: 稼げる名無しさん :2026/08/21(金) 13:01:53.59 ID:nF50supU
27バイトが6.2ギガになったのかと

6: 稼げる名無しさん :2026/08/21(金) 14:19:59.45 ID:+ypMuJua
>>3
わかる



4: 稼げる名無しさん :2026/08/21(金) 13:06:11.16 ID:yvFwS1nC
Bonsaiみたいなもんか?

9: 稼げる名無しさん :2026/08/21(金) 15:27:04.86 ID:mcXAlnfi
>>4
bonsaiは宣伝の派手さとは裏腹に精度がひどかった
まるで実用なんないというか他社の昔からある1bitの低品質と大差ない印象しか無い

7: 稼げる名無しさん :2026/08/21(金) 15:14:25.78 ID:NIQBvhPL
HBFにモデルの重みを追い出すまではこういう技術が必要

1bit LLMはハルシネーションが多くなるとのこと

8: 稼げる名無しさん :2026/08/21(金) 15:19:20.06 ID:mcXAlnfi
なんでGemma4って中国Qwen比であんまり人気ないの
決定的な性能差は無いように見えるんだけどアメリカ製だから突然DL停止とかなる場面を警戒されてて学習しても不毛に終わると思われてるのか

10: 稼げる名無しさん :2026/08/21(金) 15:40:24.76 ID:HHoqCgW7
>>8
一度リリースしたオープンソースなんだから
DL停止とかなにいってんの

12: 稼げる名無しさん :2026/08/21(金) 15:46:49.97 ID:mcXAlnfi
>>10
アメリカのサブスクAIの商売の邪魔だと思えば法律改正などで
Windows11のDefenderでDL済みのGemma4のGGUFファイルをウイルス扱いして消すことは技術にできるし
Llama.cppのほうで過去の流通させたくないGemma4を動作不能にすることも後からアップデートで技術的に可能だろ

11: 稼げる名無しさん :2026/08/21(金) 15:42:42.22 ID:HHoqCgW7
>>1
量子化技術とかいうと難しく見えるが
データ量減らすための「間引き」だからな
クオンタイズは

13: 稼げる名無しさん :2026/08/21(金) 15:51:51.17 ID:mcXAlnfi
公開しようとしてた版を後からやっぱりやめますとサブスクの方のAIでアメリカはやったから
じゃあGemmaも後から地政学的な理由で法令等で強制終了され消えかねないものだから学習コストをかけるのが無駄だと思われていて
それで性能的には大差ないのにGoogleが配布してるオープンソースAIのGemma4はQwenと比べて不人気なのかなと

14: 稼げる名無しさん :2026/08/21(金) 17:22:16.44 ID:xHTEt5Ow
低bitはしてはいけない
精々6bitまで
1001: 以下名無しさんに代わりまして管理人がお伝えします 1848/01/24(?)00:00:00 ID:money_soku

やる夫より:ギリギリ動くけれど、個人的には16GB版をお勧めだお











現在よく読まれている記事:







https://anago.2ch.sc/test/read.cgi/bizplus/1787283585/-100

スポンサードリンク:

相互RSS(ブログロール)

💬 こちらもおすすめ

提携サイトの新着

コメント

  1. 1: 稼げる名無しさん
    RTX5060Ti(16GB)買ったけどAIの進化についていけるか不安だった自分には朗報 今後高性能AIでも小型化してサクサク動くなら無理して5090買う必要もない というかほとんどの人は5090は買えない

コメントを書き込む

メニュー

カテゴリ