【StableDiffusion】� ..
242:名無しさん＠お腹いっぱい。
23/07/23 21:00:41.68 PQnNwNQS.net
32bit浮動小数点で回すより16bit浮動小数点で2倍回したほうが良さそう
となったけど16bit浮動小数点の仮数と指数の割り振りが機械学習にはアンバランスなので丁度良いところねらいの仮数と指数でbf16らしい
それならbf8が出てきても良さそうだが流石にやりすぎかw
精度が重要な「学習」と速度が求められる「推論」 AIプロセッサーの昨今
URLﾘﾝｸ(ascii.jp)
>ただFP16では仮数部が大きすぎ、逆に指数部が小さすぎるという要求が出てくるようになった
次ページ続きを表示1を表示最新レス表示スレッドの検索類似スレ一覧話題のニュースおまかせリスト▼オプションを表示暇つぶし2ch
309日前に更新/288 KB
担当:undef