對于處理任務(wù)通常采用抽樣策略。抽樣程序應(yīng)分析樣本有多大,以及如何抽取樣本以達(dá)到與原始數(shù)據(jù)類似的分布。
以下是常用的數(shù)據(jù)處理方法。
1、聚類分析:根據(jù)數(shù)據(jù)對象的相似性,將其劃分為聚集的聚類,聚類內(nèi)的對象應(yīng)盡可能相似,聚類間的對象應(yīng)盡可能不相似。發(fā)現(xiàn)任意形狀的聚類、處理高維數(shù)據(jù)、處理噪音的能力以及獲得可解釋和易于使用的聚類結(jié)果是聚類分析的目標(biāo)。
2、分類和預(yù)測:分類和數(shù)字預(yù)測是問題預(yù)測的兩個主要類型。分類是一個有監(jiān)督的學(xué)習(xí)過程,在這個過程中,通過對一組已知的訓(xùn)練特征的屬性的描述,獲得每個類別的描述或?qū)傩裕越⑾鄳?yīng)的分類器。
預(yù)測是使用數(shù)據(jù)挖掘工具來建立連續(xù)的函數(shù)模型,并從現(xiàn)有數(shù)據(jù)的探索中得出結(jié)論。
在技術(shù)上,有定性和定量的預(yù)測。定性預(yù)測是指根據(jù)用戶的經(jīng)驗和判斷,對被預(yù)測對象進(jìn)行定性分析的過程;定量預(yù)測是利用數(shù)學(xué)模型,在歷史統(tǒng)計數(shù)據(jù)的基礎(chǔ)上,用數(shù)學(xué)方法獲得變量之間的規(guī)律性關(guān)系。
3、相關(guān)分析:尋找事物之間的潛在關(guān)系的過程,這些關(guān)系看起來并不相關(guān)或相互依賴,但通過科學(xué)分析往往可以確定。關(guān)聯(lián)分析通常使用Apriori算法與頻繁關(guān)聯(lián)規(guī)則來分析事物之間的依賴關(guān)系或關(guān)聯(lián),以找到它們之間的規(guī)律性,并根據(jù)規(guī)律性進(jìn)行預(yù)測。
在實踐中,得到的數(shù)據(jù)可能包含大量的缺失值、離群值等,這對數(shù)據(jù)分析非常不利。在這種情況下,我們需要對臟數(shù)據(jù)進(jìn)行預(yù)處理,以獲得標(biāo)準(zhǔn)化的、干凈的、連續(xù)的數(shù)據(jù),用于數(shù)據(jù)分析、數(shù)據(jù)挖掘等。