數(shù)據(jù)挖掘06-聚類課件
,單擊此處編輯母版標題樣式,,單擊此處編輯母版文本樣式,,第二級,,第三級,,第四級,,第五級,,*,,,,,單擊此處編輯母版標題樣式,,單擊此處編輯母版文本樣式,,第二級,,第三級,,第四級,,第五級,,第五章 聚類分析,,生物信息學平臺,,2,內容,一、聚類分析的功能,,,二、聚類分析的方法,,,三、聚類分析的應用,3,一、聚類分析的功能,聚類:將數(shù)據(jù)集劃歸為不同組別,,,作用:,,獲得數(shù)據(jù)的分布規(guī)律,進一步分析,,數(shù)據(jù)預處理,為分類、關聯(lián)規(guī)則等作準備,,,4,一、聚類分析的功能,與分類相同:,,聚類的依據(jù):特征屬性,,聚類過程:相似程度高的聚為一類,,與分類不同:,,無監(jiān)督的學習,,驗證更復雜,,,聚類結果的質量,,相似性,6,相似性度量(數(shù)值型),,例,1,:,,,,相似性判斷:,式,5.1,,原始數(shù)據(jù),,,結論:,1,、,2,相似程度高,這一結論可信嗎?,一、聚類分析的功能,7,一、聚類分析的功能,相似性度量,,例,1,:,,,,問題:年齡、血壓范圍、數(shù)量級不同,應,,歸一化:,[0,1],,,,,結論:,1,、,3,相似程度高,8,一、聚類分析的功能,相似性度量,,例,1,:,,,,10,一、聚類分析的功能,相似性度量(分類型),,二值:式,5.10/5.12,,對稱型(男、女),,非對稱型(陽性,1,、陰性,0,),,,例:,Xi={0, 0, 1, 1, 0, 1, 0, 1},,Xj={0, 1, 1, 0, 0, 1, 0, 0},,,對稱型:,D=3/8, S,=,5/8,,非對稱型:,D=3/5, S,=,2/5,(忽略特征值均為,0,的屬性),,11,一、聚類分析的功能,相似性度量(二值型,-,對稱),,例,2,:,,,,,,,式,5.10,,,,,式,5.11,,,結論:,1,、,2,相似程度高,,,,13,相似性度量,,排序型:轉為數(shù)值型后,式,5.16,,計算相似性,,例,4,:,,,,,,,,結論:,,相似程度最高, 最不相似,,大小說明相似程度不一樣,可定量衡量,一、聚類分析的功能,,15,一、聚類分析的功能,相似性度量,(,混合型,式,5.17),,例,5.1,:,,,,,,,,相似程度最高,,16,聚類方法,,劃分法,,k,-,均值算法,,k,-,中心點算法,,分層,,凝聚型分層聚類,,分裂型分層聚類,,基于密度的方法,,基于網(wǎng)格的方法,,基于模型的方法,二、聚類分析的方法,18,k,-,均值算法,,隨機,選擇若干樣本作為初始的簇的質心,(平均點),;,,,repeat,,計算對象與各個簇的質心的距離,將對象劃分到距離其最近的簇;,,,重新計算每個新簇的均值;,,,until,簇的質心不再變化,。,,二、聚類分析的方法,19,k,-,均值算法,,,二、聚類分析的方法,20,二、聚類分析的方法,聚類過程,,例(同分類):,12,個樣本,,有兩個特征屬性,f1,、,f2,,,,類別未知,要分成兩類,,,21,二、聚類分析的方法,聚類過程,,例(同分類):,,隨機放入,A,、,B,兩類,:,,,1,4,8→A,0,,3,7,9,10→B,0,,初始,求聚類中心(均值),:,,C,A0,(4.67, 5),,C,B0,(6.75, 6.25),,22,二、聚類分析的方法,聚類過程,,各樣本到聚類中心的距離,,,,,,,,,,,迭代,,C,A1,(4.17, 3.33),C,B1,(9, 7),,,不斷逼近的過程,細微的調整、優(yōu)化,24,二、聚類分析的方法,聚類過程,,特征屬性可用數(shù)值描述,,上例中,f1, f2,值在同一數(shù)量級中。,,若不在同一數(shù)量級、相差較大,要進行怎樣的預處理?否則,會有怎樣的困難?,25,三、聚類分析的應用,應用實例,:,聚類在基因表達譜知識挖掘中的應用,,目的,,對兩個公共的基因表達數(shù)據(jù)集進行研究,以發(fā)現(xiàn)大規(guī)?;虮磉_譜蘊含的信息,,研究目標變?yōu)?DM,的問題:聚類,,,數(shù)據(jù)采集:,,CNS,數(shù)據(jù)集:,,NCI60,數(shù)據(jù)集,:,26,,數(shù)據(jù)預處理,,,數(shù)據(jù)挖掘-建立模型,,貝葉斯聚類,,