附加说明的高效组织病理学图象分析需要自我监督、持续的培训。
0、摘要
在这项工作中，我们根据两种新方法和无标签数据,对特定特派团采用特派团诊断,以解决这一困难:(一) 具体自我监测任务,在《防扩散安全倡议》中,我们使用了可能的多分辨率背景提示组织。(二) 针对教师和学生的新的半监督一致性范式;以及(三) 为不受监督的各类学习发出强有力的监测信号。根据估计数与特定特派团无标签数据的一致性,学习成功将培训前表格转移到下游活动。我们利用三个组织病理学基线数据集,进行了彻底的验证试验。它由两类和一项基于返回的任务组成。肿瘤转移检测、组织类型分类和肿瘤细胞量化是三个例子。在有限标签数据下，建议采用的技术使情况大有改进。接近(如果不超过)其他尖端自我监测和监视基线。此外，我们的经验表明，通过监测指导培训前概况的概念,是加强特派团特定半监督性共同基准学习的有效方法。可在以下网址查阅守则和培训前模式。
关键词:自我监督的学习、半监督的学习、有限的笔记、组织病理学图象、数字病理学
1、简介
深层神经网络模型取得了许多成功,在各种组织图像处理任务中取得了最先进的表现。将疾病和癌症分类与结果预测(分析前和分析后)分类。提供大规模开放数据集,加上干净的手工评论,是这些战略取得成功的主要原因。然而，获取如此庞大的贴有标签的数据库往往费用高昂。它们还要求在该部门具有很强的能力。在组织病理学领域,特别是(马达布舒希和李),2016）。最近，自我监测和半监督程序越来越普遍。利用易于获取的无标签数据,减轻评论负担,这些数据集可在很少监督的情况下得到培训。这些技术最近证明在各种计算机可视化(静和天)方面相当成功。2020年。艾拉和莲恩Sohn等人,2016年还包括医疗图像分析任务(Chen等人)。Tellez等人,2019年Li Li等人,2019年b2020c）。在本文中，我们集中关注以自我监督监督为基础的半监督学习模式。组织病理图象分析的方式是有效利用无标签数据中的潜在信息。特派团诊断和具体活动都是如此。
现已有半监督、自监督的文件可供查阅。
在本文中，这些看法启发了我们。提出了自我监督和半监督学习的新框架。它被用于组织病理图像分析。框架使用特定特派团诊断和特定特派团格式的无标记数据。为此，我们从一个基本和高效的自我监测的借口开始。即分辨率系列的预测,由于其金字塔结构,它利用了组织科学总体图像(WSI)中现有的多分辨率背景资料。病理学家搜索西印度群岛癌症地区的方式影响了我们的设计。通常情况下，每个区域都被病理学家放大和缩小。关键是 能够找出公司在做什么 与一个高到低的分辨率。学习个别细胞及其环境。在这项工作中，我们表明，使用这一重要的多分辨率背景信息为不受监督的学习提供了强有力的替代监测信号。其次，我们还创造了一个一贯的半监督的“师生”范式。培训前自我监督的表格成功地转移到下游活动。我们的方法可被视为一种知识提取方法(Hinton等人)。2015），对于某些任务,自我监督的教员模型为无标记数据提供假标签。因此,学生模式被迫作出与教员模式一致的预测。我们的实验表明，使用SSL的预训教员模型来启动学生模型,为学生制作了新的模型。(a) 在数据输入(即向一系列改良区域投放噪音)方面建立了耐噪性,它还帮助学习速度快于教师。我们的完整结构从头到尾都经过训练。标记和无标记数据的信息以特派团特定和非任务特定的方式无缝合并。
本文的主要贡献是。
- 我们建议进行独特的自我监测前方案拟订工作,通过预测分辨率序列的顺序,在西印度群岛西印度群岛金字塔结构中产生不受监督的视觉提示。
- 我们提出了一个新的半监督的“师生”一致性模式,其基础是预测与特派团特定无标记数据的一致性,这是通过成功地向下游特派团移交自我监督的培训前表格实现的。
- 我们彻底评估了我们关于三个基线数据集的方法。它包括两类以及基于返回的组织病理学目的。肿瘤转移检测、组织类型分类和肿瘤细胞量化是三个例子。拟议的自我监测办法,加上一致性训练，事实证明,这改善了所有三个数据集的性能。特别是数据系统说明不足。
2、相关工作
自我监督的学习与半监督的学习相结合
3、方法
图1说明了我们以自我监测为动力、具有凝聚力的培训方法。我们的系统分为三个主要阶段:(一) 我们用无标记数据集Dpre培训了自我监测模型Fpre。(二) 使用限制标签数据Dfl,我们微调SSL模型。(二) 我们使用有标记和无标记的DFL数据。为某些活动以半监督的方式改进特定特派团的下游业绩。就半监督任务特定培训而言,在微调模型Fft的帮助下,建立了Ft教师和Fs学生网络。然后，首要目标是最大限度地扩大学生网络。在无记名套件中,学会减少监督损失(DFL)和连续损失(DFU)。在一致性训练中，教师网络预测标签有误。相反,学生网络则通过预测同一无标签图像的高度增强版,力求与假标签相匹配。以后将提供资料。
方法略。
4、实验
4.1、数据集
表1显示在试验中使用的三种数据浓度中,世界安全指数和补丁分布的数量。在这一节中，我们给了你三套公开的数据 快速下降在我们的实验中,诸如训练前、微调和试验分区等特定数据的获得情况,详见各分节。
已有第16类数据集可用。我们在Bejnordi, 而其他人正在比赛 在卡米林16挑战赛。在数据集中,对乳腺癌传播的幻灯水平进行了分类。该数据集包含399张H&E染色的乳腺淋巴结的WSI，为培训目的,将其分为270个组成部分。129张用于测试。这些照片是由两个不同的扫描仪拍摄的。像素大小为零.226米/像素,空间分辨率为0.243米/像素。病理学家做了大量笔记
callyon 实验是一个基于幻灯片的二进制任务 。在船舶安全指数中,只使用幻灯片级标签来检测淋巴结转移的存在。玩弄数量有限的音符我们首先准备了60个WSI(35个正常肿瘤和25个肿瘤)进行自我监督的训练前训练。这些防扩散安全倡议不同于最初的培训重点。在预训练中，我们随机抽取大小的斑点(256×256)RSP的放大率是40倍、20倍和10倍。在VAE和MoCo方面,点点在放大40次时被移走。此外，下游微调以随机电子抽取的瓷砖(256x256)进行,这些瓷砖来自成套培训中剩余的210个WSI(125个正常癌症和85个癌症)。在培训中,80%(306.3K斑点-150K肿瘤+156.3K正常)用于培训。验证要求20%(40K斑点 - 20K Tumor+20K正常)。最后,在测试组中,我们评估了129个世界安全指数(如表1所示)。3K补丁微动员 分成四个增量子集α={10%，25%，50%，100%}，[30.6K] 在场。76.5K，153.1K，[306.3K] 照片维修。
我们使用与王等人相同的后处理方法(2016年)。获得滑动水平的预测。我们首先培训我们建议的模式,在瓷砖一级将癌症与正常的斑点区分开来。然后，我们正在结合这些现场预报制作热力图,显示幻灯片上肿瘤的可能性。接下来，我们以与Wang et al.(2016年)基于热地图的相同方式检索了许多特性。并培训支持矢量机(SVM)级,以产生幻灯片水平预测。我们评估并分析所有三个SSL培训前和公司责任方法,以及与之配套的监测基线。博客在129个WSI的测试中写道:接受方操作特征曲线的大小(AUC)用来评价该方法的性能。此外，我们还评估了40,00个现场数据(20,00个肿瘤+20,00个正常)的二元分类透视(准确度(Acc)),包括测试组。此外，2014年的Sun和Xu用于比较一致性培训和ASL方法与AUC的SSL方法,并使用双专门德隆测试。(c) 具有统计重要性的测试。所有AUC值差异的P值<0.05被认为是显著的。
表4显示了从预测肿瘤幻灯片水平转移的若干方法中获得的AUC评级。在10%的标签计划中,RSP和MoCo的方法超过了监测基线。与其他方法相比,VAE的业绩急剧下降。此外，10%到25%的标签RSP+CR技术明显优于RSP。幅度为2%。Callallyon16 (Wang等人)的挑战这不是政府第一次赢得选举。推荐的 RSP+CR 在使用25%的标签( 76K 补丁) 获得零 。 917 得最佳分 。在经过数以百万计的图片补丁培训后,完全监督下的模型实现了零.925哥伦比亚团结自卫军的目标。与Tellez等人关于缺乏监测的建议相比(2019b),我们的RSP+CR方法在10%的标签(twig 30K)上拥有经过培训的ACUC, 比他们最好的BiGan方法高出13%。对哥伦比亚团结自卫军进行了50K标记样本的培训。我们还评估了我们的方法在测试集中的性能,测试集有40-K的补丁(正常为20-K Tumor+20K)。令人惊讶的是，监测基线(随机、随机+CR)占所有培训子集的0%,5%的微小差异超过RSP、RSP+CR技术。
5、引用
Wang, D., Khosla, A., Gargeya, R., Irshad, H., Beck, A.H., 2016. Deep learning for identifying metastatic breast cancer. arXiv preprint arXiv:1606.05718 .