不幸的是，在挪動設備上運行神經網絡并不簡陋。事實上，固然智內行機變得越來越寬大，它們如故具有有限的揣度本事、電池壽命和可用磁盤空間，尤其是關于你們意向僵持盡可以輕的利用序次。這樣做可以大概完成更速的下載速率、更小的糾正時間和更長的電池使用時期，這些都是用戶所瀏覽的。
為了將網絡生存在磁盤上，我們需要記載收集中每個單一權浸的值。這意味著為每個參數生存一個浮點數，這代表了磁盤上占用的大量空間。舉動參考，在C中，一個浮點占用4個字節，即32個比特。一個參數在數億的網絡（好比GoogLe-Net或VGG-16）可以大概輕松到達數百兆，這在挪動裝備上是不行接管的。
為了周旋網絡影跡盡可能小，一種方式是體驗量化它們來普及權浸的訣別率。在這個歷程中，他們起色了數字的出現形態，使其不再可能取得任何價格，預測分析的例子但極度受限于一局部數值。這使他們只能生活一次量化值，然后參考網絡的權浸。
全班人們將再次履歷搜尋脹和點來確信要利用幾多個值。更多的值意味著更高的正確性，但也是更大的累積空間。使神經收集在智妙上實時運比方，通過使用256個量化值，每個權浸可以大概僅使用1個字節 即 8個比特來引用。與之前（32位）相比，所有人已將巨細除以4！預測分析的例子
所有人仍然處分了對待權浸的一些事務，可是全班人可以大概進一步校勘收集！這個本事依據于權浸不服均漫衍的事實。一旦量化，全班人就沒有類似數量的權值來承載每個量化值。這意味著在各人的模型再現中，一些引用會比其各人引用更頻頻地映現，所有人可以大概使用它！
縱然智內行機不周備老式桌面揣摸機的磁盤空間、預計能力或電池壽命，但它們依舊是深度進修使用次第相等好的目的。借助少數本事，預測分析的例子并以幾個百分點的精度為價格，現在可以大概在這些多功內行持設備上運行龐大的神經網絡。這為數以千計的激動民心的應用打開了大門。行的手藝—量化分析 pdf使神經收集在智妙上實時運行的手藝—量化分析 pdf。
