近幾年，騰訊優(yōu)圖不斷迭代數據和模型缺陷情況下神經(jīng)網(wǎng)絡(luò )的有效訓練方法，相關(guān)技術(shù)已經(jīng)在眾多業(yè)務(wù)場(chǎng)景上（行人重識別，內容審核等）落地。本文整理自騰訊優(yōu)圖、騰訊云大學(xué)、AICUG和AI科技評論聯(lián)合主辦的「優(yōu)Tech沙龍」，分享嘉賓為騰訊優(yōu)圖實(shí)驗室GJ研究員Louis。

01 定義帶噪學(xué)習目標

現實(shí)數據中存在的標簽噪音（label noise）根據Feature可以分成兩種：Feature independent noise和 Feature dependent noise。Feature independent noise是與特征無(wú)關(guān)的，比如將一只狗的圖片誤標記成汽車(chē)，狗和汽車(chē)沒(méi)有什么相似特征，所以屬于這類(lèi)。Feature independent noise是與特征有關(guān)的，比如說(shuō)狗和狼具有很多相似特征屬性，標注人員可能把狗誤標記成狼，那就屬于這類(lèi)。其實(shí)現實(shí)場(chǎng)景更多存在都是feature dependent noise。

噪音普遍存在，所以我們需要訓練神經(jīng)網(wǎng)絡(luò )進(jìn)行帶噪學(xué)習，并且要能實(shí)現比較好的性能。那么noise label learning的目標是設計一個(gè)loss function，使得在noisy labels下訓練得到的解，在性能上接近在clean labels下訓練得到的解。