跳到主要內容

macOS 使用Miniconda配置本地數據運算環境

目前，做數據分析工作，基本人手Numpy，pandas，scikit-learn。而這些計算程序包都是基於python平台的，所以搞數據的都得先裝個python環境。。。（當然，你用R或Julia請忽略本文）


在macOS上，默認安裝有python 2.7，鑒於python2即將停止更新，如果沒有大量的python2代碼需要維護，就直接安裝python3吧。


版本選擇


做數據運算，流行的方式是直接下載Anaconda安裝包，大概500M左右，各種依賴包（綁定了四五百個科學計算程序包），開發工具（jupyter notebook，spyder）一股腦兒都包含了，按照步驟安裝完成，開箱即用，不過裝完後會佔用幾個G的硬盤空間。


我這邊由於硬盤空間有限，採用Miniconda這個發行版本，最新的基於python3.7版本的不到50M。而Miniconda一樣使用conda作為包管理器，可以輕鬆的安裝自己需要的包，例如Numpy，pandas， matplotlib等等。


當然，也可以從安裝包或homebrew開始裝，然後再使用pip來安裝相關的程序包。總體上來說，python自身的版本和執行路徑是相當混亂的，可參考下圖。


安裝步驟



  • 下載
    先從官網下載適合自己操作系統的版本，Miniconda
    支持Windows/Linux/macOS這三種主流操作系統。如果遇到官網下載慢的問題，可以考慮國內的鏡像站點，如。


下載完成后，可以先核對下hash值，與官網的值(5cf91dde8f6024061c8b9239a1b4c34380238297adbdb9ef2061eb9d1a7f69bc)是否一致保證安裝文件未被篡改。


$ shasum -a 256 Miniconda3-latest-MacOSX-x86_64.sh 
 5cf91dde8f6024061c8b9239a1b4c34380238297adbdb9ef2061eb9d1a7f69bc  Miniconda3-latest-MacOSX-x86_64.sh


  • 執行安裝


$ bash ./Miniconda3-latest-MacOSX-x86_64.sh 
 
 Welcome to Miniconda3 4.7.12
 
 In order to continue the installation process, please review the license
 agreement.
 Please, press ENTER to continue
 
 
 Do you accept the license terms? [yes|no]
 [no] >>> yes
 
 Miniconda3 will now be installed into this location:
 /Users/shenfeng/miniconda3
 
   - Press ENTER to confirm the location
   - Press CTRL-C to abort the installation
   - Or specify a different location below
 
 [/Users/shenfeng/miniconda3] >>> 
 
 >>>

按照提示，敲擊回車。中間需要同意使用條款，需要輸入yes，按照路徑點回車默認即可。


Do you wish the installer to initialize Miniconda3
 by running conda init? [yes|no]
 [yes] >>> yes
 
 ==> For changes to take effect, close and re-open your current shell. <==
 
 If you'd prefer that conda's base environment not be activated on startup, 
    set the auto_activate_base parameter to false: 
 
 conda config --set auto_activate_base false
 
 Thank you for installing Miniconda3!

最後的提示是，可以用conda config --set auto_activate_base false命令取消python3環境在啟動時自行加載。



  • 重新開一個新的終端
    可以發現，python3的env已經生效了。


(base) my:~ shenfeng$ python
 Python 3.7.4 (default, Aug 13 2019, 15:17:50) 
 [Clang 4.0.1 (tags/RELEASE_401/final)] :: Anaconda, Inc. on darwin
 Type "help", "copyright", "credits" or "license" for more information.
 >>>


  • 查看env配置


$ conda env list
 # conda environments:
 #
 base                  *  /Users/shenfeng/miniconda3

使用conda deactivate可以python3的執行環境，使用conda activate base可以激活默認的python3環境。



  • 添加國內鏡像源
    由於conda的包服務器都在海外，直接連接安裝可能出現連接超時無法完成的時候，所以可以通過修改用戶目錄下的.condarc 文件。


channels:
   - defaults
 show_channel_urls: true
 default_channels:
   - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/main
   - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/free
   - https://mirrors.tuna.tsinghua.edu.cn/anaconda/pkgs/r
 custom_channels:
   conda-forge: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
   msys2: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
   bioconda: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
   menpo: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
   pytorch: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud
   simpleitk: https://mirrors.tuna.tsinghua.edu.cn/anaconda/cloud


  • 使用conda安裝相應的程序包
    先使用conda list檢查已經安裝的包，使用conda install需要的程序包


$ $ conda list numpy
 # packages in environment at /Users/shenfeng/miniconda3:
 #
 # Name                    Version                   Build  Channel
 
 $ conda install numpy
 
 $ conda list numpy
 # packages in environment at /Users/shenfeng/miniconda3:
 #
 # Name                    Version                   Build  Channel
 numpy                     1.17.3           py37h4174a10_0    defaults
 numpy-base                1.17.3           py37h6575580_0    defaults

相同的方式，我們可以安裝scipy，pandas等包，不再贅述。


交互式工具安裝


大家耳熟能詳的交互式工具肯定就是Jupyter notebook，但我在本機同樣由於磁盤空間問題只安裝ipython。實際上，Jupyter是基於ipython notebook的瀏覽器版本。



  • 安裝


$ conda install ipython


  • 執行ipython交互


$ ipython
 Python 3.7.4 (default, Aug 13 2019, 15:17:50) 
 Type 'copyright', 'credits' or 'license' for more information
 IPython 7.9.0 -- An enhanced Interactive Python. Type '?' for help.
 
 In [1]: import numpy as np                                               
 In [2]: dataset= [2,6,8,12,18,24,28,32]                                   
 In [3]: sd= np.std(dataset,ddof=1)                                       
 In [4]: print(sd)                                                        
 10.977249200050075

樣例數據處理


先從網上下載一個樣例數據，為excel文件，另存為成csv進行處理。


以下結合上周文章中的，計算這組數據的概括性度量。



  • 讀取數據


import numpy as np
 from scipy import stats
 
 dataset = np.genfromtxt('/Users/shenfeng/Downloads/test1.csv',delimiter=',', skip_header=1)
 print('Shape of numpy array: ', dataset.shape)
 Shape of numpy array:  (699,)

集中趨勢的度量



  • 眾數


mode = stats.mode(dataset)                                
 print('該組數據的眾數為: ', mode)         
 該組數據的眾數為:  ModeResult(mode=array([1.]), count=array([145]))
 # 結果說明眾數為1，出現了145次


  • 中位數


print('該組數據的中位數為: ', np.median(dataset))
 該組數據的中位數為:  4.0


  • 四分位數


# 不需要提前排序
 print("1/4分位數: ", np.percentile(dataset, 25, interpolation='linear')) 
 1/4分位數:  2.0
 
 print("1/2分位數: ", np.percentile(dataset, 50, interpolation='linear')) 
 1/2分位數:  4.0
 
 print("3/4分位數: ", np.percentile(dataset, 75, interpolation='linear')) 
 3/4分位數:  6.0


  • 平均數


print('該組數據的平均數為: ', np.mean(dataset))
 該組數據的平均數為:  4.417739628040057

離散程度的度量



  • 標準差


print('該組數據的總體標準差為: ', np.std(dataset,ddof=0))
 該組數據的總體標準差為:  2.8137258170785375


  • 標準分數


# 變量值與其平均數的離差除以標準差后的稱為標準分數(standard score)
 print('該組數據的標準分數為: ', stats.zscore(dataset))
 該組數據的標準分數為:  [ 0.20693572  0.20693572 -0.50386559  0.56233637 -0.14846494  1.27313768
  -1.2146669  -0.85926625 -0.85926625 -0.14846494 -1.2146669  -0.85926625 ...省略 ]


  • 離散係數


# 離散係數是測度數據離散程度的統計量，主要用於比較不同樣本數據的離散程度。
 print('該組數據的離散係數為: ', stats.variation(dataset))
 該組數據的離散係數為:  0.6369152675317026

偏態與峰態的度量



  • 數據分布圖


import matplotlib.pyplot as plt 
 plt.style.use('ggplot') 
 plt.hist(dataset, bins=30)

獲得以下分布圖



  • 偏態


print('該組數據的偏態係數為: ', stats.skew(dataset))
 該組數據的偏態係數為:  0.5915855449527385
 # 偏態係數在0.5~1或-1~-0.5之間，則認為是中等偏態分佈


  • 峰態係數


print('該組數據的峰態係數為: ', stats.kurtosis(dataset))
 該組數據的峰態係數為:  -0.6278342838815454
 # 當K<0時為扁平分佈，數據的分佈更分散

總結


本文使用Miniconda發行版配置本地數據運算環境，並對樣例做數據的概括性度量。

本站聲明:網站內容來源於博客園,如有侵權,請聯繫我們,我們將及時處理
【其他文章推薦】

※帶您來了解什麼是 USB CONNECTOR  ?



※自行創業 缺乏曝光? 下一步"網站設計"幫您第一時間規劃公司的門面形象



※如何讓商品強力曝光呢? 網頁設計公司幫您建置最吸引人的網站，提高曝光率!!



※綠能、環保無空污,成為電動車最新代名詞，目前市場使用率逐漸普及化



※廣告預算用在刀口上，網站設計公司幫您達到更多曝光效益


Orignal From: macOS 使用Miniconda配置本地數據運算環境

留言

張貼留言

這個網誌中的熱門文章

有了四步解題法模板，再也不害怕動態規劃！（看不懂算我輸）

導言 動態規劃問題一直是算法面試當中的重點和難點，並且動態規劃這種通過空間換取時間的算法思想在實際的工作中也會被頻繁用到，這篇文章的目的主要是解釋清楚 什麼是動態規劃 ，還有就是面對一道動態規劃問題，一般的 思考步驟 以及其中的注意事項等等，最後通過幾道題目將理論和實踐結合。 什麼是動態規劃 如果你還沒有聽說過動態規劃，或者僅僅只有耳聞，或許你可以看看 Quora 上面的這個 回答 。 How to explain dynamic 用一句話解釋動態規劃就是 " 記住你之前做過的事 "，如果更準確些，其實是 " 記住你之前得到的答案 "。 我舉個大家工作中經常遇到的例子。 在軟件開發中，大家經常會遇到一些系統配置的問題，配置不對，系統就會報錯，這個時候一般都會去 Google 或者是查閱相關的文檔，花了一定的時間將配置修改好。 過了一段時間，去到另一個系統，遇到類似的問題，這個時候已經記不清之前修改過的配置文件長什麼樣，這個時候有兩種方案，一種方案還是去 Google 或者查閱文檔，另一種方案是借鑒之前修改過的配置，第一種做法其實是萬金油，因為你遇到的任何問題其實都可以去 Google，去查閱相關文件找答案，但是這會花費一定的時間，相比之下，第二種方案肯定會更加地節約時間，但是這個方案是有條件的，條件如下： 之前的問題和當前的問題有着關聯性，換句話說，之前問題得到的答案可以幫助解決當前問題 需要記錄之前問題的答案 當然在這個例子中，可以看到的是，上面這兩個條件均滿足，大可去到之前配置過的文件中，將配置拷貝過來，然後做些細微的調整即可解決當前問題，節約了大量的時間。 不知道你是否從這些描述中發現，對於一個動態規劃問題，我們只需要從兩個方面考慮，那就是 找出問題之間的聯繫 ，以及 記錄答案 ，這裏的難點其實是找出問題之間的聯繫，記錄答案只是順帶的事情，利用一些簡單的數據結構就可以做到。 概念 上面的解釋如果大家可以理解的話，接    動態規劃 算法是通過拆分問題，定義問題狀態和狀態之間的關係，使得問題能夠以遞推（或者說分治）的方式去解決。它的幾個重要概念如下所述。    階段： 對於一個完整的問題過程，適當的切分為若干個相互聯繫的子問題，每次在求解一個子問題...
張貼留言
閱讀完整內容

計算機本地文件快要滅絕了

　　 編者按： 文件是数字世界的基石，是我們基本的工作單位。但是，隨着互聯網的雲化、平台化、服務化，文件日益變得可有可無。這樣一種改變究竟好不好呢？喜歡懷舊的 Simon Pitt 開始回顧各種文件的好處，哪怕這讓他顯得不合時宜。原文發表在 medium 上，標題是：Computer Files Are Going Extinct 　　我喜歡文件。我喜歡對文件重命名、移動、排序，改變它們在文件夾中的显示方式，去備份文件，將之上傳到互聯網，恢復它們，對其進行複製，甚至還可以對文件進行碎片整理。作為信息存儲方式的一種隱喻，在我看來文件是很出色的。我喜歡把文件當作一個工作單位。如果我要寫篇文章，文章會放在文件裏面。如果我要生成圖像，圖像會保存進文件裏面。 　　 謳歌 files.doc 　　文件是擬物化的。這是個很花哨的詞，只是用來表示文件是反映現實物品的一個数字概念。比方說，Word 文檔就像一張紙，躺在你的辦公桌上（desktop）。JPEG 就像一幅畫，等等。它們每個都有一個小圖標，圖標的樣子看起來像它們所代表的現實物品。一堆紙，一個畫框，一個馬尼拉文件夾。真的挺很迷人的。 　　我喜歡文件的一點是，不管裏面有什麼，跟文件的交互方式總是一致的。我上面提到的那些東西——複製、排序、碎片整理——我可以對任何文件進行那些處理。文件可能是圖像、遊戲的一部分、也可能是我最喜歡的餐具清單。碎片整理程序不在乎它是什麼。它不會去判斷內容。 　　自從我開始在 Windows 95 裏面創建文件以來，我就一直都很喜歡文件。但是我注意到我們已經開始慢慢地遠離把文件當作基本工作單位的做法。 Windows95。我的計算機 　　 services.mp3 的興起 　　十幾歲的時候，我開始痴迷於收集和管理数字音樂：我收藏 MP3 文件。一大堆的 128 kbps MP3 文件。如果你足夠幸運，有自己的 CD 刻錄機的話，就可以將它們刻錄到 CD 上，然後在朋友之間傳遞。一張 CD 可以容納 700 MB。這相當於將近 500 張軟盤！ 　　我會仔細端詳我的收藏，然後煞費苦心地給它們添加上 IDv1 和 IDv2 音樂標籤。隨着時間的流逝，大家開始開發可以在雲端自動獲取曲目列表的工具，這樣你就可以檢查和驗證 MP3 的質量。有時候我甚至會去聽那些該死的東西，儘管...
張貼留言
閱讀完整內容

純電動 Mini Cooper SE 將成為中國國產車，年產 16 萬輛

BMW 集團與中國長城汽車合資，將於江蘇建立新廠，專門投入生產 MINI Cooper SE 和部分長城品牌電動車，預計於 2022 年完工並投入生產，每年將可生產 16 萬輛電動車。 靈動可愛的 Mini Cooper，在許多車迷心中都有著特殊的地位，今年 7 月發表了首款純電動版本的 Mini Cooper SE 之後，獲得熱烈迴響，預訂數量已接近 8 萬台，顯示大家對於純電 Mini 的熱愛，因為油電版的 Mini Cooper Countryman 的全球總銷售量也才 3 萬出頭。 Mini Cooper SE 之前公布了官方定價，最低從 27,900 歐元起算，美國售價約 29,900 美元。相比現有的三門款，只貴了一成左右。然而，三年後，中國消費者將有機會買到最便宜的電動 Mini。 電動 Mini Cooper SE 最低價是 27,900 歐元，扣掉全額補助最低可以到 24,400 歐元。 BMW 集團與中國長城汽車集團於 2018 年宣布，將組建合資公司光束汽車，投入在中國的電動車生產計畫，而現在他們正式宣布啟動計畫，於江蘇張家港打造一個新工廠，全部投入電動車的製造，包括了 Mini Cooper SE 和其他長城汽車旗下的電動車。 目前的電動 Mini 只在英國牛津工廠製造，不難想像當產能轉移到中國後，Mini Cooper SE 的價格將有機會進一步調降，來競爭全球最大的電動車市場。這座屬於合資公司光束汽車的新工廠，採用一個新的產銷模式，由 BMW 和長城共同合作開發、設計、製造新產品，但是銷售通路完全沿用原本的品牌渠道。 換句話說，2020 年到 2022 年銷售的電動 Mini，將會是英國製造，而 2022 年後就會有中國製造版本開賣，考量到 Mini 在中國每年約有 30 萬輛的銷售額，同時油電版的 Coutryman 銷量更佔了全球將近五分之一，無怪乎 BMW 會想在最接近主要市場的地方蓋工廠囉。 外型完美復刻油車版 最後，簡單介紹一下 Mini Cooper SE 這台車。Mini 在電動化的路上，盡力保持著跟經典造型一致的設計，畢竟大家愛的就是它的設計。電動版的 Mini 車頭、車身跟車屁股都多了一個黃色的插頭標誌，車頭的氣壩則變成封閉式設計，除此之外，幾乎看不出來差別，連馬達...
張貼留言
閱讀完整內容