हास्केल में हिस्टोग्राम गणना करना तेजी से

Question

मैं हास्केल के लिए काफी नया हूं और मैं हिस्टोग्राम बनाना चाहता हूं। मैं डेटा का उपयोग कर रहा हूं। वेक्टर। डेटा पर फ्यूज ऑपरेशंस के लिए अनबॉक्स किया गया; जो तेजी से चमक रहा है (जब -O -fllvm के साथ संकलित) और बाधा मेरा गुना आवेदन है; जो बाल्टी गणना को जोड़ता है।

मैं इसे तेज़ी से कैसे बना सकता हूं? मैंने चीजों को सख्त रखकर थंक्स की संख्या को कम करने की कोशिश करने के बारे में पढ़ा है इसलिए मैंने सीक और फ़ोल्डर का उपयोग करके चीजों को सख्त बना दिया है, लेकिन अधिक प्रदर्शन में वृद्धि नहीं देख रही है। आपके विचारों को दृढ़ता से प्रोत्साहित किया जाता है।

import qualified Data.Vector.Unboxed as V 

histogram :: [(Int,Int)] 
histogram = V.foldr' agg [] $ V.zip k v 
where 
    n = 10000000 
    c = 1000000 
    k = V.generate n (\i -> i `div` c * c) 
    v = V.generate n (\i -> 1) 
    agg kv [] = [kv] 
    agg kv@(k,v) acc@((ck,cv):as) 
     | k == ck = let a = (ck,cv+v):as in a `seq` a 
     | otherwise = let a = kv:acc in a `seq` a 

main :: IO() 
main = print histogram 

साथ संकलित:

ghc --make -O -fllvm histogram.hs 

Answer 1

पहले, -O2 -rtsopts साथ कार्यक्रम संकलन।

$ ./question +RTS -sstderr 
[(0,1000000),(1000000,1000000),(2000000,1000000),(3000000,1000000),(4000000,1000000),(5000000,1000000),(6000000,1000000),(7000000,1000000),(8000000,1000000),(9000000,1000000)] 
    1,193,907,224 bytes allocated in the heap 
    1,078,027,784 bytes copied during GC 
    282,023,968 bytes maximum residency (7 sample(s)) 
     86,755,184 bytes maximum slop 
      763 MB total memory in use (0 MB lost due to fragmentation) 

            Tot time (elapsed) Avg pause Max pause 
    Gen 0  1964 colls,  0 par 3.99s 4.05s  0.0021s 0.0116s 
    Gen 1   7 colls,  0 par 1.60s 1.68s  0.2399s 0.6665s 

    INIT time 0.00s ( 0.00s elapsed) 
    MUT  time 2.67s ( 2.68s elapsed) 
    GC  time 5.59s ( 5.73s elapsed) 
    EXIT time 0.02s ( 0.03s elapsed) 
    Total time 8.29s ( 8.43s elapsed) 

    %GC  time  67.4% (67.9% elapsed) 

    Alloc rate 446,869,876 bytes per MUT second 

    Productivity 32.6% of total user, 32.0% of total elapsed 

सूचना है कि 67% अपने समय के जीसी में खर्च किया जाता है: फिर, एक पहला विचार है जहाँ आप का अनुकूलन कर सकता है विकल्प +RTS -sstderr साथ कार्यक्रम चलाने पाने के लिए! स्पष्ट रूप से कुछ गलत है।

तो, आप लीक कर रहे हैं Thunks: पता लगाने के लिए क्या गलत है, हम सक्षम (+RTS -h का प्रयोग करके) ढेर रूपरेखा के साथ कार्यक्रम है, जो निम्न चित्र का उत्पादन चला सकते हैं। यह कैसे होता है? कोड को देखते हुए, एकमात्र समय जहां एक थंक बनता है (रिकर्सिव) agg में होता है जब आप अतिरिक्त करते हैं। cv सख्त बनाना इस प्रकार एक धमाके के पैटर्न जोड़कर समस्या ठीक होती है:

{-# LANGUAGE BangPatterns #-} 
import qualified Data.Vector.Unboxed as V 

histogram :: [(Int,Int)] 
histogram = V.foldr' agg [] $ V.zip k v 
where 
    n = 10000000 
    c = 1000000 
    k = V.generate n (\i -> i `div` c * c) 
    v = V.generate n id 
    agg kv [] = [kv] 
    agg kv@(k,v) acc@((ck,!cv):as) -- Note the ! 
     | k == ck = (ck,cv+v):as 
     | otherwise = kv:acc 

main :: IO() 
main = print histogram 

आउटपुट:

$ time ./improved +RTS -sstderr 
[(0,499999500000),(1000000,1499999500000),(2000000,2499999500000),(3000000,3499999500000),(4000000,4499999500000),(5000000,5499999500000),(6000000,6499999500000),(7000000,7499999500000),(8000000,8499999500000),(9000000,9499999500000)] 
    672,063,056 bytes allocated in the heap 
      94,664 bytes copied during GC 
    160,028,816 bytes maximum residency (2 sample(s)) 
     1,464,176 bytes maximum slop 
      155 MB total memory in use (0 MB lost due to fragmentation) 

            Tot time (elapsed) Avg pause Max pause 
    Gen 0  992 colls,  0 par 0.03s 0.03s  0.0000s 0.0001s 
    Gen 1   2 colls,  0 par 0.03s 0.03s  0.0161s 0.0319s 

    INIT time 0.00s ( 0.00s elapsed) 
    MUT  time 1.24s ( 1.25s elapsed) 
    GC  time 0.06s ( 0.06s elapsed) 
    EXIT time 0.03s ( 0.03s elapsed) 
    Total time 1.34s ( 1.34s elapsed) 

    %GC  time  4.4% (4.5% elapsed) 

    Alloc rate 540,674,868 bytes per MUT second 

    Productivity 95.5% of total user, 95.1% of total elapsed 

./improved +RTS -sstderr 1,14s user 0,20s system 99% cpu 1,352 total 

यह ज्यादा बेहतर है।

---

तो अब आप पूछ सकते हैं, क्यों इस मुद्दे को दिखाई दिया, फिर भी आप seq इस्तेमाल किया? इसका कारण seq केवल पहले तर्क को WHNF होने के लिए मजबूर करता है, और एक जोड़ी के लिए, (_,_) (जहां _ अनचाहे थंक्स हैं) पहले से ही WHNF है! इसके अलावा, seq a a, a रूप में ही है, क्योंकि यह seq a b (अनौपचारिक) का अर्थ है: का मूल्यांकन ख से पहले एक मूल्यांकन किया जाता है, तो seq a a बस का अर्थ है: का मूल्यांकन एक से पहले एक मूल्यांकन किया जाता है, और कहा कि सिर्फ एक के मूल्यांकन के रूप में ही है!