⑴ 數據挖掘中的數據預處理技術有哪些，它們分別適用於哪些場合
一、數據挖掘工具分類數據挖掘工具根據其適用的范圍分為兩類：專用挖掘工具和通用挖掘工具。專用數據挖掘工具是針對某個特定領域的問題提供解決方案，在涉及演算法的時候充分考慮了數據、需求的特殊性，並作了優化。對任何領域，都可以開發特定的數據挖掘工具。例如，IBM公司的AdvancedScout系統針對NBA的數據，幫助教練優化戰術組合。特定領域的數據挖掘工具針對性比較強，只能用於一種應用；也正因為針對性強，往往採用特殊的演算法，可以處理特殊的數據，實現特殊的目的，發現的知識可靠度也比較高。通用數據挖掘工具不區分具體數據的含義，採用通用的挖掘演算法，處理常見的數據類型。通用的數據挖掘工具不區分具體數據的含義，採用通用的挖掘演算法，處理常見的數據類型。例如，IBM公司Almaden研究中心開發的QUEST系統，SGI公司開發的MineSet系統，加拿大SimonFraser大學開發的DBMiner系統。通用的數據挖掘工具可以做多種模式的挖掘，挖掘什麼、用什麼來挖掘都由用戶根據自己的應用來選擇。二、數據挖掘工具選擇需要考慮的問題數據挖掘是一個過程，只有將數據挖掘工具提供的技術和實施經驗與企業的業務邏輯和需求緊密結合，並在實施的過程中不斷的磨合，才能取得成功，因此我們在選擇數據挖掘工具的時候，要全面考慮多方面的因素，主要包括以下幾點：(1)可產生的模式種類的數量：分類，聚類，關聯等(2)解決復雜問題的能力(3)操作性能(4)數據存取能力(5)和其他產品的介面三、數據挖掘工具介紹：1.QUESTQUEST是IBM公司Almaden研究中心開發的一個多任務數據挖掘系統，目的是為新一代決策支持系統的應用開發提供高效的數據開采基本構件。系統具有如下特點：提供了專門在大型資料庫上進行各種開採的功能：關聯規則發現、序列模式發現、時間序列聚類、決策樹分類、遞增式主動開采等。各種開采演算法具有近似線性計算復雜度，可適用於任意大小的資料庫。演算法具有找全性，即能將所有滿足指定類型的模式全部尋找出來。為各種發現功能設計了相應的並行演算法。2.MineSetMineSet是由SGI公司和美國Standford大學聯合開發的多任務數據挖掘系統。MineSet集成多種數據挖掘演算法和可視化工具，幫助用戶直觀地、實時地發掘、理解大量數據背後的知識。MineSet有如下特點：MineSet以先進的可視化顯示方法聞名於世。支持多種關系資料庫。可以直接從Oracle、Informix、Sybase的表讀取數據，也可以通過SQL命令執行查詢。多種數據轉換功能。在進行挖掘前，MineSet可以去除不必要的數據項，統計、集合、分組數據，轉換數據類型，構造表達式由已有數據項生成新的數據項，對數據采樣等。操作簡單、支持國際字元、可以直接發布到Web。3.DBMinerDBMiner是加拿大SimonFraser大學開發的一個多任務數據挖掘系統，它的前身是DBLearn。該系統設計的目的是把關系資料庫和數據開採集成在一起，以面向屬性的多級概念為基礎發現各種知識。DBMiner系統具有如下特色：能完成多種知識的發現：泛化規則、特性規則、關聯規則、分類規則、演化知識、偏離知識等。綜合了多種數據開采技術：面向屬性的歸納、統計分析、逐級深化發現多級規則、元規則引導發現等方法。提出了一種互動式的類SQL語言——數據開采查詢語言DMQL。能與關系資料庫平滑集成。實現了基於客戶/伺服器體系結構的Unix和PC（Windows/NT）版本的系統。4.IntelligentMiner由美國IBM公司開發的數據挖掘軟體IntelligentMiner是一種分別面向資料庫和文本信息進行數據挖掘的軟體系列,它包括IntelligentMinerforData和IntelligentMinerforText。IntelligentMinerforData可以挖掘包含在資料庫、數據倉庫和數據中心中的隱含信息,幫助用戶利用傳統資料庫或普通文件中的結構化數據進行數據挖掘。它已經成功應用於市場分析、詐騙行為監測及客戶聯系管理等；IntelligentMinerforText允許企業從文本信息進行數據挖掘，文本數據源可以是文本文件、Web頁面、電子郵件、LotusNotes資料庫等等。5.SASEnterpriseMiner這是一種在我國的企業中得到採用的數據挖掘工具，比較典型的包括上海寶鋼配礦系統應用和鐵路部門在春運客運研究中的應用。SASEnterpriseMiner是一種通用的數據挖掘工具，按照"抽樣--探索--轉換--建模--評估"的方法進行數據挖掘。可以與SAS數據倉庫和OLAP集成，實現從提出數據、抓住數據到得到解答的"端到端"知識發現。6.SPSSClementineSPSSClementine是一個開放式數據挖掘工具，曾兩次獲得英國政府SMART創新獎，它不但支持整個數據挖掘流程，從數據獲取、轉化、建模、評估到最終部署的全部過程，還支持數據挖掘的行業標准--CRISP-DM。Clementine的可視化數據挖掘使得"思路"分析成為可能，即將集中精力在要解決的問題本身，而不是局限於完成一些技術性工作（比如編寫代碼）。提供了多種圖形化技術，有助理解數據間的關鍵性聯系，指導用戶以最便捷的途徑找到問題的最終解決法。7.資料庫廠商集成的挖掘工具SQLServer2000包含由Microsoft研究院開發的兩種數據挖掘演算法：Microsoft決策樹和Microsoft聚集。此外，SQLServer2000中的數據挖掘支持由第三方開發的演算法。Microsoft決策樹演算法：該演算法基於分類。演算法建立一個決策樹，用於按照事實數據表中的一些列來預測其他列的值。該演算法可以用於判斷最傾向於單擊特定標題（banner）或從某電子商務網站購買特定商品的個人。Microsoft聚集演算法：該演算法將記錄組合到可以表示類似的、可預測的特徵的聚集中。通常這些特徵可能是隱含或非直觀的。例如，聚集演算法可以用於將潛在汽車買主分組，並創建對應於每個汽車購買群體的營銷活動。，SQLServer2005在數據挖掘方面提供了更為豐富的模型、工具以及擴展空間。包括：可視化的數據挖掘工具與導航、8種數據挖掘演算法集成、DMX、XML/A、第三方演算法嵌入支持等等。OracleDataMining(ODM)是Oracle資料庫10g企業版的一個選件，它使公司能夠從最大的資料庫中高效地提取信息並創建集成的商務智能應用程序。數據分析人員能夠發現那些隱藏在數據中的模式和內涵。應用程序開發人員能夠在整個機構范圍內快速自動提取和分發新的商務智能—預測、模式和發現。ODM針對以下數據挖掘問題為Oracle資料庫10g提供支持：分類、預測、回歸、聚類、關聯、屬性重要性、特性提取以及序列相似性搜索與分析(BLAST)。所有的建模、評分和元數據管理操作都是通過OracleDataMining客戶端以及PL/SQL或基於Java的API來訪問的，並且完全在關系資料庫內部進行。IBMIntelligentMiner通過其世界領先的獨有技術，例如典型數據集自動生成、關聯發現、序列規律發現、概念性分類和可視化呈現，它可以自動實現數據選擇、數據轉換、數據發掘和結果呈現這一整套數據發掘操作。若有必要，對結果數據集還可以重復這一過程，直至得到滿意結果為止。現在，IBM的IntelligentMiner已形成系列，它幫助用戶從企業數據資產中識別和提煉有價值的信息。它包括分析軟體工具----IntelligentMinerforData和IBMIntelligentMinerforText，幫助企業選取以前未知的、有效的、可行的業務知識----如客戶購買行為，隱藏的關系和新的趨勢，數據來源可以是大型資料庫和企業內部或Internet上的文本數據源。然後公司可以應用這些信息進行更好、更准確的決策，獲得競爭優勢。
⑵ 常用的數據處理軟體有哪些
處理的軟體有哪些？現在常用的數據的話處理的軟體有非常多，而且大家都用的比較熟悉的上搜索直接搜索一下就可以了，直接能看見那個軟體的那個界面。
⑶ 有哪些數據預處理的方法
1、數據清理數據清理(data cleaning) 的主要思想是通過填補缺失值、光滑雜訊數據，平滑或刪除離群點，並解決數據的不一致性來“清理“數據。如果用戶認為數據時臟亂的，他們不太會相信基於這些數據的挖掘結果，即輸出的結果是不可靠的。
2、數據集成
數據分析任務多半涉及數據集成。數據集成將多個數據源中的數據結合成、存放在一個一致的數據存儲，如數據倉庫中。這些源可能包括多個資料庫、數據方或一般文件。
3、數據規約
數據歸約技術可以用來得到數據集的歸約表示，它小得多，但仍接近地保持原數據的完整性。 這樣，在歸約後的數據集上挖掘將更有效，並產生相同(或幾乎相同)的分析結果。
4、數據變換
數據變換包括對數據進行規范化，離散化，稀疏化處理，達到適用於挖掘的目的。
⑷ 機器學習中的數據預處理有哪些常見/重要的工具
不太清楚你說的是搭建pipeline的工具還是說pipeline裡面處理數據的工具，就順道都說一下。
pipeline工具本身一般是控制這些工具的流程，最簡單的crontab就定時執行就好，但是有時候會有數據依賴的問題，比如第7步依賴第三步的兩個文件以及平行的第6步的文件，這個依賴並不是線性的，而是一個圖的形式。當中加上有些技術延遲比如有些數據生成失敗了需要重啟某些特定的步驟重新生成，這個問題就稍微復雜了。crontab一般在這時候就搞不定，需要一些專門的pipeline管理，比如 spotify/luigi · GitHub 或者 Azkaban
2. 預處理文本數據本身一般用一些Linux的工具比如cut啊awk啊等等做數據篩選和清理，自己寫一寫python小工具做數據的簡單組合比如復雜的regex規則組合，比較大的數據歸類和抽象一般用Hive之類的hadoop工具都可以，裡面也可以插入linux小工具和自己寫的工具。
工業界的數據項目多數時間要設計如何清理數據，這和學術界的玩具數據玩起來很不一樣，歡迎來到真實的世界。-ITjob
⑸ 數據處理軟體有哪些
大數據分析平台是一個集成性的平台，可以將企業用戶所用的數據接入，然後在該平台上進行處理，最後對得到的數據，通過各種方式進行分析展示。
大數據平台應該是集數據整合、數據處理、數據存儲、數據分析、可視化、數據採集填報等功能為一體，真正幫助企業挖掘數據背後的業務邏輯，洞悉數據的蛛絲馬跡，發現數據的潛在價值。億信華辰的一站式數據分析平台ABI，就是大數據分析平台的一個典型代表。該平台融合了數據源適配、ETL數據處理、數據建模、數據分析、數據填報、工作流、門戶、移動應用等核心功能。採用輕量級SOA架構設計、B/S模式，各模塊間無縫集成。支持廣泛的數據源接入。數據整合模塊支持可視化的定義ETL過程，完成對數據的清洗、裝換、處理。數據集模塊支持資料庫、文件、介面等多方式的數據建模。數據分析模塊支持報表分析、敏捷看板、即席報告、幻燈片、酷屏、數據填報、數據挖掘等多種分析手段對數據進行分析、展現、應用。
⑹ 數據預處理的主要方法有哪些
1.墓於粗糙集( Rough Set)理論的約簡方法
粗糙集理論是一種研究不精確、不確定性知識的數學工具。目前受到了KDD的廣泛重視，利用粗糙集理論對數據進行處理是一種十分有效的精簡數據維數的方法。我們所處理的數據一般存在信息的含糊性(Vagueness)問題。含糊性有三種:術語的模糊性，如高矮;數據的不確定性，如雜訊引起的;知識自身的不確定性，如規則的前後件間的依賴關系並不是完全可靠的。在KDD中，對不確定數據和雜訊干擾的處理是粗糙集方法的
2.基於概念樹的數據濃縮方法
在資料庫中，許多屬性都是可以進行數據歸類，各屬性值和概念依據抽象程度不同可以構成一個層次結構，概念的這種層次結構通常稱為概念樹。概念樹一般由領域專家提供，它將各個層次的概念按一般到特殊的順序排列。
3.資訊理論思想和普化知識發現
特徵知識和分類知識是普化知識的兩種主要形式，其演算法基本上可以分為兩類:數據立方方法和面向屬性歸納方法。
普通的基於面向屬性歸納方法在歸納屬性的選擇上有一定的盲目性，在歸納過程中，當供選擇的可歸納屬性有多個時，通常是隨機選取一個進行歸納。事實上，不同的屬性歸納次序獲得的結果知識可能是不同的，根據資訊理論最大墒的概念，應該選用一個信息丟失最小的歸納次序。
4.基於統計分析的屬性選取方法
我們可以採用統計分析中的一些演算法來進行特徵屬性的選取，比如主成分分析、逐步回歸分析、公共因素模型分析等。這些方法的共同特徵是，用少量的特徵元組去描述高維的原始知識基。
5.遺傳演算法〔GA, Genetic Algo}thrn})
遺傳演算法是一種基於生物進化論和分子遺傳學的全局隨機搜索演算法。遺傳演算法的基本思想是:將問題的可能解按某種形式進行編碼，形成染色體。隨機選取N個染色體構成初始種群。再根據預定的評價函數對每個染色體計算適應值。選擇適應值高的染色體進行復制，通過遺傳運算(選擇、交叉、變異)來產生一群新的更適應環境的染色體，形成新的種群。這樣一代一代不斷繁殖進化，最後收斂到一個最適合環境的個體上，從而求得問題的最優解。遺傳演算法應用的關鍵是適應度函數的建立和染色體的描述。在實際應用中，通常將它和神經網路方法綜合使用。通過遺傳演算法來搜尋出更重要的變數組合。
⑺ 大數據處理工具有哪些
下面給你介紹幾種大數據處理工具：
Hadoop 是一個能夠對大量數據進行分布式處理的軟體框架。但是 Hadoop 是以一種可靠、高效、可伸縮的方式進行處理的。Hadoop 是可靠的，因為它假設計算元素和存儲會失敗，因此它維護多個工作數據副本，確保能夠針對失敗的節點重新分布處理。Hadoop 是高效的，因為它以並行的方式工作，通過並行處理加快處理速度。Hadoop 還是可伸縮的，能夠處理 PB 級數據。此外，Hadoop 依賴於社區伺服器，因此它的成本比較低，任何人都可以使用。
Storm是自由的開源軟體，一個分布式的、容錯的實時計算系統。Storm可以非常可靠的處理龐大的數據流，用於處理Hadoop的批量數據。Storm很簡單，支持許多種編程語言，使用起來非常有趣。Storm由Twitter開源而來，其它知名的應用企業包括Groupon、淘寶、支付寶、阿里巴巴、樂元素、 Admaster等等。
RapidMiner是世界領先的數據挖掘解決方案，在一個非常大的程度上有著先進技術。它數據挖掘任務涉及范圍廣泛，包括各種數據藝術，能簡化數據挖掘過程的設計和評價。
⑻ 大數據處理分析的工具有哪些
大數據是寶藏，人工智慧是工匠。大數據給了我們前所未有的收集海量信息的可能，因為數據交互廣闊，存儲空間近乎無限，所以我們再也不用因「沒地方放」而不得棄掉那些「看似無用」的數據。
在浩瀚的數據中，如果放置這些數據，不去分析整理，那就相當於一堆廢的數據，對我們的發展沒有任何意義。今天給大家分享的就是：大數據分析工具的介紹和使用。
工具一：Pentaho BI
Pentaho BI和傳統的一些BI產品不一樣，這個框架以流程作為中心，再面向Solution(解決方案)。Pentaho BI的主要目的是集成一系列API、開源軟體以及企業級別的BI產品，便於商務智能的應用開發。自從Pentaho BI出現後，它使得Quartz、Jfree等面向商務智能的這些獨立產品，有效的集成一起，再構成完整且復雜的一項項商務智能的解決方案。
工具二：RapidMiner
在世界范圍內，RapidMiner是比較好用的一個數據挖掘的解決方案。很大程度上，RapidMiner有比較先進的技術。RapidMiner數據挖掘的任務涉及了很多的范圍，主要包括可以簡化數據挖掘的過程中一些設計以及評價，還有各類數據藝術。
工具三：Storm
Storm這個實時的計算機系統，它有分布式以及容錯的特點，還是開源軟體。Storm可以對非常龐大的一些數據流進行處理，還可以運用在Hadoop批量數據的處理。Storm支持各類編程語言，而且很簡單，使用它時相當有趣。像阿里巴巴、支付寶、淘寶等都是它的應用企業。
工具四：HPCC
某個國家為了實施信息高速路施行了一個計劃，那就是HPCC。這個計劃總共花費百億美元，主要目的是開發可擴展的一些計算機系統及軟體，以此來開發千兆比特的網路技術，還有支持太位級網路的傳輸性能，進而拓展研究同教育機構與網路連接的能力。
工具五：Hadoop
Hadoop這個軟體框架主要是可伸縮、高效且可靠的進行分布式的處理大量數據。Hadoop相當可靠，它假設了計算元素以及存儲可能失敗，基於此，它為了保證可以重新分布處理失敗的節點，維護很多工作數據的副本。Hadoop可伸縮，是因為它可以對PB級數據進行處理。
當數據變得多多益善，當移動設備、穿戴設備以及其他一切設備都變成了數據收集的「介面」，我們便可以盡可能的讓數據的海洋變得浩瀚無垠，因為那裡面「全都是寶」。
⑼ 一般數據分析師常用的工具有哪些
①數據處理工具：Excel
在Excel，需要重點了解數據處理的重要技巧及函數的應用，特別是數據清理技術的應用。這項運用能對數據去偽存真，掌握數據主動權，全面掌控數據;Excel數據透視表的應用重在挖掘隱藏的數據價值，輕松整合海量數據：各種圖表類型的製作技巧及Power Query、Power Pivot的應用可展現數據可視化效果，讓數據說話。
②資料庫：MySQL
Excel如果能夠玩的很轉，能勝任一部分數據量不是很大的公司。但是基於Excel處理數據能力有限，如果想勝任中型的互聯網公司中數據分析崗位還是比較困難。因此需要學會資料庫技術，一般Mysql。你需要了解MySQL管理工具的使用以及資料庫的基本操作;數據表的基本操作、MySQL的數據類型和運算符、MySQL函數、查詢語句、存儲過程與函數、觸發程序以及視圖等。比較高階的需要學習MySQL的備份和恢復;熟悉完整的MySQL數據系統開發流程。
③數據可視化：Tableau & Echarts
目前比較流行的商業數據可視化工具是Tableau & Echarts。Echarts是開源的，代碼可以自己改，種類也非常豐富。
④大數據分析：SPSS & Python& HiveSQL 等
如果說Excel是“輕數據處理工具”，Mysql是“中型數據處理工具”那麼，大數據分析，涉及的面就非常廣泛，技術點涉及的也比較多。