Optimized U-Net for Brain Tumor Segmentation¶
论文地址¶
Optimized U-Net for Brain Tumor Segmentation
摘要¶
Cite
我们为BraTS21挑战中的脑肿瘤分割任务提出了一种优化的U-Net架构。为了找到最佳的模型架构和学习计划, 我们进行了一项广泛的消融研究来测试:深度监督损失、焦点损失、解码器注意力、丢块和残余连接。此外, 我们还搜索了U-Net编码器的最佳深度,卷积通道的数量和后处理策略。我们的方法赢得了验证阶段, 并在测试阶段获得了第三名。我们已经开源了代码,以便在 NVIDIA 深度学习示例 GitHub 存储库中重现我们的 BraTS21 提交
类似于nnUnet,没有提出新的网络结构,是通过大量的消融实验来尝试不同的参数,最终得到了最好的结果。在第一章中作者也指出, 现在存在大量的UNet变体网络,使得对于一个任务来说,选择最佳架构成为了一个艰巨的任务。而一旦选了神经网络架构,设计适当的 训练计划对于获得最佳性能至关重要。设计训练计划与选择最佳组件相关联,例如损失函数、数据增强策略、学习率及其时间表、要训练的时期数等等。
方法¶
数据预处理¶
MRI数据包含四个通道,首先裁剪前景区域。然后对于每个通道,减去平均值除以标准差进行归一化。此外,为了区分背景体素和值接近零的归一化体素, 使用前景体素的一个热编码创建了一个附加输入通道,并与输入数据叠加
数据增强¶
- 随机偏置裁剪:应该就是前景区域随机裁剪
- 随机缩放
- 随机翻转
- 高斯噪声
- 高斯模糊
- 亮度调整
- 对比度调整
尝试使用的网络¶
- UNet
- Attention UNet
- Residual UNet
- SegResNetVAE
- UNETR
选了一大堆网络,试了一遍发现还是基础的UNet效果最好,所以后面就只用UNet了...
损失函数这里使用了深度监督,在解码器的最后两部分添加了额外的损失函数用于深度监督。
多种训练增强技术放在一起相比,效果最好的还是深度监督
推理的时候使用的,对数据直接三个轴分别翻转,一份数据变八份,分别推理然后合并结果。 还提及了后处理,也就是对分割结果做最大联通区域,最大联通区域的参数应该是试出来的magic number。
结论¶
Cite
我们已经尝试了各种U-Net变体(基本U-Net,UNETR,SegResNetVAE,残差U-Net和注意力U-Net), 架构修改和培训计划调整,如:深度监督,下降块和焦点损失。根据我们的实验,具有深度支持感知的 U-Net产生了最佳结果,可以通过为前景添加具有独热编码的额外输入通道, 增加编码深度以及许多卷积通道以及设计后处理策略来进一步改进。
这几个网络基本都在MONAI中实现了