<listing id="vjp15"></listing><menuitem id="vjp15"></menuitem><var id="vjp15"></var><cite id="vjp15"></cite>
<var id="vjp15"></var><cite id="vjp15"><video id="vjp15"><menuitem id="vjp15"></menuitem></video></cite>
<cite id="vjp15"></cite>
<var id="vjp15"><strike id="vjp15"><listing id="vjp15"></listing></strike></var>
<var id="vjp15"><strike id="vjp15"><listing id="vjp15"></listing></strike></var>
<menuitem id="vjp15"><strike id="vjp15"></strike></menuitem>
<cite id="vjp15"></cite>
<var id="vjp15"><strike id="vjp15"></strike></var>
<var id="vjp15"></var>
<var id="vjp15"></var>
<var id="vjp15"><video id="vjp15"><thead id="vjp15"></thead></video></var>
<menuitem id="vjp15"></menuitem><cite id="vjp15"><video id="vjp15"></video></cite>
<var id="vjp15"></var><cite id="vjp15"><video id="vjp15"><thead id="vjp15"></thead></video></cite>
<var id="vjp15"></var>
<var id="vjp15"></var>
<menuitem id="vjp15"><span id="vjp15"><thead id="vjp15"></thead></span></menuitem>
<cite id="vjp15"><video id="vjp15"></video></cite>
<menuitem id="vjp15"></menuitem>

一種基于大模型的痤瘡分級模型遷移方法

文檔序號:41261609發布日期:2025-03-14 12:33閱讀:45來源:國知局

本發明屬于計算機與醫學交叉領域,特別涉及一種痤瘡分級模型遷移技術。


背景技術:

1、痤瘡是最為常見的皮膚病之一,除了青少年因青春期的激素水平變化容易患痤瘡之外,現代年輕熱人熬夜、愛吃辛辣油膩食物等不健康的生活方式也會導致面部痤瘡的發生,因此存在大量急需治療的患者。通常皮膚科醫生會根據患者的痤瘡病灶數量以及患者整體的面部情況,結合醫學標準和自身的經驗對痤瘡嚴重程度進行分級。常用的分級標準如hayashi分級法將患者面部圖片分為了四個等級,包括:“mild”(輕微),“moderate”(中等),“severe”(嚴重)和“very?severe”(非常嚴重)。醫生根據患者面部的病灶數量以及自己的經驗判斷嚴重程度,從而為患者設計特定的治療方案。為了減輕醫生的負擔,許多研究開始利用深度學習模型,對患者的痤瘡嚴重程度進行判斷,作為醫生診斷的輔助。

2、然而由于不同醫院以及不同患者的拍攝設備不同,所獲得的數據與用于原模型訓練的數據之間存在較大的差異,因此訓練好的模型在遷移到其他醫院投入使用時效果往往不佳。圖1展示了不同研究中用于痤瘡分級的數據集,可以注意到在a,b,c三個不同數據集中患者的面部在圖片中的角度、位置、以及圖片的風格都有所不同。因此在一個數據集上訓練好的模型,在另一個數據集上直接診斷時,準確率通常較差。

3、現有的痤瘡分級模型遷移技術包括以下幾個:1、以訓練好的模型自身的健壯性為基礎,不進行遷移,直接在其他醫院或者地區使用。2、在將模型遷移到其他醫院之后,重新收集新醫院的數據并進行標注和訓練。3、采用遷移學習的方法,基于對抗學習調整模型的特征提取器部分,通過同時使用原本有標注數據和收集的無標注新數據,調整正模型,使其適應新地區和醫院的情況。4、采用無源領域自適應的方法,通過原模型為收集的新數據預測標簽,再通過新數據和預測標簽進行模型遷移。

4、方法1依賴模型自身對數據變化的適應能力,該方法在自然圖像領域具有一定的效果。但是對于醫學圖像和痤瘡分級領域,痤瘡病灶本身就比較小,同時不同圖像風格的變化也會嚴重應用分級的效果。因此直接將訓練好的模型直接在其他醫院使用效果不佳。

5、方法2是在新的醫院重新收集數據并標注,然后在訓練好的痤瘡分級型基礎上,通過這些補充數據進行訓練。但是重新收集數據并進行標注需要耗費大量的人力物力,同時所收集的數據量可能不足以進行訓練,存在局限性。

6、方法3考慮到了利用對比學習的思路,通過對比原數據和新數據,調整痤瘡分級模型,從而適應新的醫院數據分布,達到較好的遷移效果。然而許多情況下,在醫療領域中,用來訓練模型的數據涉及用戶的隱私,因此新醫院并不能獲取這些數據。這種方法缺乏實際實用性。

7、方法4基于無源領域自適應進行痤瘡分級模型的遷移,只需要獲取新醫院未標注的數據即可。但是采用偽標簽的策略,會引入噪聲,并且無法很好的將目標域(新醫院)數據區分開,因此遷移效果較差。

8、上述四種痤瘡嚴分級模型遷移方法的缺點在于:無遷移的方法,通常在痤瘡分級領域表現較差。重新收集數據訓練的方法,未能利用已有的模型,并且收集數據和標注需要耗費大量人力無力,缺乏泛用性。另一方面居于遷移學習的方法,要么需要獲取原醫院的數據,要么基于偽標簽會帶來噪聲。這些方法未能很好的進行模型遷移,同時也未能很好的針對痤瘡分級中類間相似度高、類內變化大的特點進行處理,遷移效果有限。

9、痤瘡圖像分級模型可以自動化的完成痤瘡診斷,輔助醫生診斷,為患者了解自生病情提供途徑。但是基于深度學習的痤瘡分級模型,通常是在特定醫院所收集的數據上訓練的。因此當模型遷移到新的醫院或者其他地區時,數據分布的偏移通常會導致效果下降,因此需要采取措施是模型能合理的遷移到其他環境下。此外,現有的方法在遷移時要么需要在目標醫院重新收集數據訓練耗費大量人力物力,或者是在遷移時需要獲取原訓練數據,這在醫學圖像領域通常會涉及病人的隱私和道德。此外,一些無需原數據的遷移方法,忽視了痤瘡分級任務的特點,因此遷移效果較差。

10、綜上所述,現有痤瘡分級模型的缺點以及本方法要解決的技術問題總結如下:

11、1)痤瘡分級模型依賴于訓練的數據,在新的地區或醫院中由于數據分布的偏移導致性能下降。

12、2)一些方法在訓練模型時,通過標簽平滑提高模型的健壯性以適應新的數據,然而這在痤瘡分級領域效果不佳。

13、3)部分方法通過收集新醫院的數據并標注,進行微調補充訓練,實現模型遷移,耗費大量人力物力,并且有些條件下收集不到足以用于訓練的數據。

14、4)現有遷移方法在獲取新的無標注數據時,還需要獲取原醫院已標注數據,在醫學圖像領域通常會違反患者的隱私和道德,缺乏實際效用。

15、5)一些遷移方法采用為新數據進行偽標簽的方式遷移痤瘡分級模型,但是基于偽標簽帶來的噪聲反而時模型效果下降。

16、6)模型遷移時忽視了痤瘡分級任務的特點,及痤瘡不同嚴重程度之間的相似性以及同一嚴重程度之間的變化。


技術實現思路

1、為解決上述技術問題,本發明提出一種基于大模型的痤瘡分級模型遷移方法。

2、本發明采用的技術方案為:一種基于大模型的痤瘡分級模型遷移方法,所基于的大模型包括視覺編碼器與文本編碼器;還包括建立一個痤瘡分級模型,該痤瘡分級模型包括特征提取器、分類器;所述遷移方法具體包括以下步驟:

3、s1、將已標注痤瘡的嚴重程度等級標簽的數據記為源域數據集,將未標記痤瘡的嚴重程度等級標簽的數據記為目標域數據集;初始的痤瘡分級模型為已經源域數據集訓練完成的痤瘡分級模型;

4、s2、將目標域數據集劃分為多個批次,每個批次包括若干目標域數據;

5、s3、在當前批次的迭代過程中,將當前批次中的當前目標域數據分別輸入大模型與痤瘡分級模型中,大模型中的視覺編碼器根據輸入的目標域數據,輸出視覺向量;大模型中的文本編碼器根據輸入的目標域數據,輸出文本向量;大模型根據視覺向量與文本向量的相似度輸出當前目標域數據對應的大模型預測結果;痤瘡分級模型中的特征提取器輸出當前目標域數據的特征向量,痤瘡分級模型中的分類器根據特征向量輸出當前目標域數據對應的預測結果;

6、s4、大模型根據大模型輸出的預測結果與當前痤瘡分級模型輸出的預測結果計算在當前目標域數據對應的互信損失函數;并基于互信損失函數調整大模型中的文本編碼器;

7、s5、痤瘡分級模型根據當前大模型輸出的預測結果與當前痤瘡分級模型輸出的預測結果計算多樣性損失函數;

8、根據當前的痤瘡分級模型中特征提取器輸出的特征向量與當前的痤瘡分級模型輸出的預測結果計算鄰居一致性損失;

9、根據當前痤瘡分級模型輸出的預測結果與對應的權重計算類別激勵損失;

10、并根據多樣性損失函數、鄰居一致性損失、類別激勵損失之和計算得到當前批次中的當前目標域數據對應的總損失函數;并基于總損失函數采用梯度下降法更新當前痤瘡分級模型;

11、s6、計算當前批次的迭代過程中,各目標域數據對應的痤瘡分級模型的分類準確率,保留分類準確率最高的痤瘡分級模型,若已完成所有批次的迭代訓練,則將當前分類準確率最高的痤瘡分級模型作為遷移后的痤瘡分級模型;否則返回步驟s3。

12、本發明的有益效果:因此本方法基于深度學習中領域自適應的研究,提出了一種基于大模型的痤瘡分級模型遷移方法。該方法可以解決痤瘡分級模型遷移到新醫院時性能下降的問題,同時所提出的方法在遷移訓練時,不需要獲取原醫院的數據,也避免了獲取原數時道德和隱私方面的問題。在新的醫院中只需要收集適量無需標注的數據即可完成遷移,并且達到一個很好的效果,這極大的減少了痤瘡分級模型遷移過程中的數據難度。同時針對痤瘡分級模型的特點,所提出的鄰近預測一致性損失和類間區分性損失也提升了遷移模型對痤瘡的診斷性能。

當前第1頁1 2 
網友詢問留言 已有0條留言
  • 還沒有人留言評論。精彩留言會獲得點贊!
1
韩国伦理电影