

上面示意圖中出現(xiàn)了錯(cuò)誤標(biāo)注。而在完美注釋的數(shù)據(jù)集中,以上兩個(gè)錯(cuò)誤均不存在。因此,定義質(zhì)量的一種方法是計(jì)算這些錯(cuò)誤在帶注釋的數(shù)據(jù)集中出現(xiàn)的程度。例如計(jì)算
實(shí)際表示對(duì)象的包圍盒的比率。這稱(chēng)為精度。理想情況下,精度為1。
用邊界框正確注釋的對(duì)象的比率。這就是所謂的召回。理想情況下,召回率為1。
但是,計(jì)算數(shù)據(jù)集的精度和召回率還需要對(duì)整個(gè)數(shù)據(jù)集中的每個(gè)幀進(jìn)行人工批判性檢查,這可能與注釋過(guò)程本身一樣昂貴!為了在計(jì)算精度和召回率時(shí)獲得效率,因此Annotell團(tuán)隊(duì)依靠統(tǒng)計(jì)數(shù)據(jù)來(lái)推斷精度和召回率。僅對(duì)所有注釋的統(tǒng)計(jì)選擇良好的子集進(jìn)行人工批判性審查,并使用概率論得出有關(guān)整個(gè)數(shù)據(jù)集的結(jié)論。更詳細(xì)地講,他們使用貝葉斯方法來(lái)計(jì)算后驗(yàn)分布,以提高精度并召回整個(gè)數(shù)據(jù)集,這取決于已經(jīng)進(jìn)行了嚴(yán)格審查的注釋的子樣本。它不僅提供了精確度和召回率的估計(jì),而且還量化了這些估計(jì)中的不確定性。例如,我們可以計(jì)算所謂的95%可信度下限,這意味著可以確定95%的精度或召回率不低于此閾值。Annotell公司提供了一種具有成本效益的工具,用于根據(jù)精度和召回級(jí)別以及對(duì)級(jí)別的確定性來(lái)衡量注釋的質(zhì)量。


