高新技術(shù)SCI ENCE TECHNOL OGYnm科技資訊SVM與KNN的聯(lián)合應(yīng)用余翀翀(福建省泉州市華僑大學(xué)現(xiàn)代教育中心福建362021)要:支持向量機(jī)〔SWM是20紀(jì)90年代初由 Vani k等人提出的一類新型機(jī)器學(xué)習(xí)方法。此方法能夠在訓(xùn)練樣本很少的情況下達(dá)到很好的分類推廣能力。能夠較好地解決小樣本、非線性及高維數(shù)等模式識別問題。近年來SW已在人臉識別、函數(shù)逼近以及概率密度估計等眾多領(lǐng)域得到了廣泛的應(yīng)用。近鄰法(KN是模式識別非參數(shù)法中另外的一種重要的方法。本文闡述了它們之間的聯(lián)系并列舉出一例應(yīng)用關(guān)鍵字:支持向量機(jī)最近鄰分類核函數(shù)特征空間中圖分類號:〔8文獻(xiàn)標(biāo)識碼:A1.引言y(w·x1)+b]-1+520ie1,A,n統(tǒng)計學(xué)習(xí)理論是一種專門的小樣本統(tǒng)計理論,為研究有限樣在目標(biāo)則加上懲罰項本情況下的統(tǒng)計模式識別和更廣泛的機(jī)器學(xué)習(xí)問題建立了一個較好的理論框架,同時也發(fā)展了一種模式識別的方法一支持向量機(jī),φ(",5)=l2+a∑5(9在解決小樣本、非線性及高維模式識別問題中表現(xiàn)出特有的優(yōu)SVM的基本思想可用圖1的兩維情況來說明。圖中,十勢。近鄰法是另一種比較常用的自動分類算法,該方法以其對分字和空心點代表兩類樣本,O為分類線,H1、H2分別為過各類體系獨立性的優(yōu)勢,在自動分類領(lǐng)域有著較多的應(yīng)用類中離分類線最近的樣本且平行于分類線的直線,它們之間的距2.SVM的基本原理離叫做分類間隔( rar gI n)。所SW是統(tǒng)計學(xué)習(xí)理論中最年輕的部分,主要用于解決有限樣謂最優(yōu)分類線就是要求分類線不本情況下的模式識別問題。它是從線性可分的情況下的最優(yōu)分但能將兩類正確分開(訓(xùn)練錯誤類面( Opt i mal Hyper pl ane)提出的。所謂最優(yōu)分類器不但率為0),而且使分類間隔最大。能將兩類樣本無錯誤的分開,而且要使兩類之間的距離最大。設(shè)線性可分樣本集為是類別標(biāo)號,維空間中線性判別函數(shù)3.最近鄰分類的基本原理的一般形式為近鄰法(KN是模式識別非圖1數(shù)據(jù)點集的超平面分割G(x)=w x+b1)參數(shù)法中最重要的方法之一。KN的一個很大特點是將各類中分類面方程為:全部樣本點都作為“代表點”。1一NN是將所有訓(xùn)練樣本都作(2)為代表點,因此在分類時需要計算待識別樣本x到所有訓(xùn)練樣將判別函數(shù)進(jìn)行歸一化,使兩類所有樣本都是滿足|g(×)|>=-1本的距離。結(jié)果就是與ⅹ最近的訓(xùn)練樣本所屬于的類別。KN即使離分類面最近的樣本的|g(x)|=1,這樣分類間隔就等于2/是1-NN的推廣。即分類時選x丨wl,因此最大間隔等價于使|w|或|w|平方最小而要求分類出x的K個最近鄰。看這K個近線對所有樣本正確分類,就是要求其滿足鄰中的多數(shù)屬于哪一類,就把ⅹ[(wx)+b]-1≥0=1、A,n(3)分到哪一類。圖2是近鄰k=5的因此,滿足上述條件且使|wM平方最小的分類面就是最優(yōu)情況。分類面。過兩類樣本中離分類面最近的點且平行最優(yōu)分類面的超平面上的訓(xùn)練樣本就使上式中等號成立的那些樣本,他們叫4.SW和KNN之間的聯(lián)系做支持向量( Suppor t Ver ors)用SVM方法設(shè)計的分類器根據(jù)上面的討論,最優(yōu)分類面問題可以表示成如下的約束優(yōu)和其它的分類方法相比具有較高化問題即在(4)式的約束下,求函數(shù)的分類精度,但在確定適當(dāng)?shù)?=lw12=2(w·w)核函數(shù)及其參數(shù)的過程中比較困圖2近鄰法示意圖(k=5)的最小值。這是一個二次規(guī)劃的問題,可以定義以下增加時具有較好的普遍性和較快的收斂速度,在自動分類領(lǐng)域Lagr ange函數(shù)有著較多的應(yīng)用。但是KNN最大的缺陷之一在于其對訓(xùn)練樣本庫的容量要求比較大。因此不適用于小樣本情況下的自動分L(,b,a)=n)-∑t[(wx)+b]-1(6類,然而對于一個有上百萬訓(xùn)練樣本的樣本庫的系統(tǒng)而言,龐其中a>0為 Lagr ange系數(shù)。求(4)式的極小值就是對大的計算量將陽礙分類速度達(dá)到用戶的實際需求,所以近鄰法W和b求L氏函數(shù)的極小值問題的主要問題就是如何減少分類過程中的運(yùn)算量顯然,這個優(yōu)化問題的解必須滿足:SVM和KNN分類器之間的一個很重要的聯(lián)系:SVM分a{y;[(w·x)+b]-1=0(刀)類器等價于每類只選一個代表點的1NN分類器對于多數(shù)樣本ai將為0,只有支持向量的ai不為0,也就是說只有支持向量影響最終的劃分結(jié)果5.KN一SWM分類器對于數(shù)據(jù)為線性不可分的情況,需要引人非負(fù)的松弛因子來將SVM和KNN中國煤化工成每類只有允許錯分樣本的存在。這時約束(2)變成一個代表點的KNNHHaCNMHG聲向量只取科技資訊 SCI ENCE& TECHNOL OGY I NF ORMATI ON1科技資訊3高新技術(shù)三相異步電動機(jī)軟起動李春江(雞西礦業(yè)集團(tuán)安全監(jiān)察部158100)中圖分類號:TM21.41文獻(xiàn)標(biāo)識碼:A相電動機(jī)應(yīng)有非常廣泛,而三相異步電動機(jī)的起動,會晶閘管軟起動產(chǎn)品問世不過30年左右的時間,目前在低壓對電網(wǎng)產(chǎn)生較強(qiáng)的干擾,有時可能對設(shè)備構(gòu)成嚴(yán)重威脅。因而(380V)范圍內(nèi),晶閘管軟起動產(chǎn)品的價格大約已經(jīng)下降到對三相異步電動機(jī)起動改造越來越受到有關(guān)人員的重視液阻軟起動的2倍,而其主要性能卻在大優(yōu)于液阻軟起動,與液阻軟起動相比,它的體積小,結(jié)構(gòu)緊湊,幾乎免維護(hù),功1.大功率異步電動機(jī)軟起動比硬起動具有的優(yōu)勢能齊全,起動重復(fù)性好,保護(hù)周全,這些都是液阻軟起動無1減少起動過程中引起的電網(wǎng)電壓降不影響共網(wǎng)其它電氣法達(dá)到的。設(shè)備的正常運(yùn)行2.3磁控軟起動1.2減小電動機(jī)起動電流,造成電動機(jī)局部過熱,危害電磁控軟起動是從電抗器軟起動衍生出來的。將三相電抗器動機(jī)壽命。串在電源和電動機(jī)定子之間實現(xiàn)降壓是兩者的共同點。磁控軟1.3減小硬起動帶來的機(jī)械沖力,減小對減速機(jī)的曆損。起動不同于電抗器軟起動的主要點是其電抗值可控。總體說總之,軟起動使電動機(jī)起停自如,提高作業(yè)率,因而有其來,起動開始時電抗器的電抗值較大,在軟起動過程中,通重要作用。過反饋調(diào)節(jié)使電抗值逐漸減小,及至軟起動完成后被旁路。電抗值的變化是通過控制直流勵磁電流,改變鐵心的飽和2.三相異步電動機(jī)軟起動分類度實現(xiàn)的,所以叫做磁控軟起動,因為磁飽和電抗器的輸出功2.1液阻軟起動率比控制功率大幾十倍,它也可以稱為“磁放大器液阻是一種由電解液形成的電阻。它導(dǎo)電的本質(zhì)是離子導(dǎo)電,其阻值正比于二塊電極板的距離,反比于電解液的電導(dǎo)變頻器率,極板距離和電導(dǎo)率都便于控制,且液阻的熱容量大。液對于變頻器,輸出頻率范圍可以從0.1H一500Hz。調(diào)速阻的這兩大特點,恰恰是軟起動所需要的,加上另一個十分重精度一般不低于1%,有的可高達(dá)0.02%,瞬時過力矩可為要的優(yōu)勢即低成本,使液阻軟起動得到了廣泛的應(yīng)用。但液阻200%,可以與上位控制計算機(jī)接口,具有斷相與相序檢測軟起動也有如下缺點:缺相保護(hù)。同時變頻器也可以設(shè)定為軟起動工作方式,其最主2.1.1基于液阻限流,液阻箱容積大,且一次軟起動后電要的特點是節(jié)能解液通常會有10°C一30°C的溫升,使軟起動的重復(fù)性差日前,制約變頻器作為軟起動裝置大范圍地應(yīng)用于三相異2.1.2移動極板需要有一套伺服機(jī)構(gòu),移動速度較慢,難步電機(jī)的原因,僅僅是一次性投資較高的原因。以實現(xiàn)起動方式的多樣化隨著電力電子技術(shù)的不斷發(fā)展,三相異步電動機(jī)的軟起2.1.3液阻軟起動裝置液箱中的水,需要定期補(bǔ)充,電極板動,會隨著時代的發(fā)展而發(fā)展,會應(yīng)用到各個生產(chǎn)環(huán)節(jié)當(dāng)中,長期浸泡于電解液中,表面會有一定的銹蝕,需要作表面處理。促進(jìn)工業(yè)革命的發(fā)展。2.1.4液阻軟起動裝置不適合放置在易結(jié)冰或顛簸的環(huán)境中。2.2晶閘管軟起動個代表點,有時該代表點不能很好的代表該類,這時將其與離對其得出判斷。KN相結(jié)合是因為KN是將每類所有支持向量作為代表點從而從表1中的試驗數(shù)據(jù)來看,使用該分類方法減輕對核函數(shù)參使分類器具有更高的分類準(zhǔn)確率。數(shù)選擇的敏感程度,緩解對參數(shù)選擇的困難,分類精度也有一定表1雙蟒旋線分類SM和RN算法比較程度得提高。長發(fā)數(shù)分計法數(shù)數(shù)3數(shù)16.小結(jié)SVM42049.4°48.5905O.9aSVM和KNN作為模式識別中重要的分類算法,都有著很SVM616廣闊的應(yīng)用前景。對于方法的選擇關(guān)鍵看今后實際中遇到的情況,只要充分的認(rèn)識到它們之間的聯(lián)系和優(yōu)缺點,一定能找到g=00196種合適的算法96.098685.29種KNN一SVM分類器算法(K-S)參考文獻(xiàn)對于待識別樣本ⅹ,計算ⅹ與兩類支持向量代表點X和x[]Ⅵ adi ir N Vani k著.張學(xué)工譯.統(tǒng)計學(xué)習(xí)理論的本質(zhì)的距離差,如果距離差大于一給定的閾值即x離分界面較遠(yuǎn),[M.清華大學(xué)出版社,2000用SWM分類一般都可以分對。當(dāng)距離差小于一給定的閾值,即[2]邊肇祺,張學(xué)工.模式識別(第二版M.清華大學(xué)出X離分界面較近,如分類用SWM只計算x與兩類所取的一個代版社,2000表點的距離比較容易分錯,這時采用KN對測試樣本分類,將[3]李蓉葉世中國煤化工—種提高每個支持向量作為代表點,計算待識別樣本和每個支持向量的距SWM分類精度的新方CNMHG12科技資訊 SCI ENCE& TECHNOL OGY I NF ORMATI ON