台风吧 关注:288,637贴子:6,644,641

回复:【资料存档】Pix2Pix深度学习模型生成夜间可见光图像(AI-VIS)

取消只看楼主收藏回复

扩充训练集后的验证集表现
SSIM:0.832
RMSE:0.0496





IP属地:美国78楼2023-10-10 13:04
回复
    今晚有打算把这版模型在布拉万上试运行的想法


    IP属地:美国79楼2023-10-10 13:05
    回复


      布拉万AI-VIS,刚练完就派用场了


      IP属地:美国80楼2023-10-10 22:39
      收起回复
        周末打算做一下布拉万全程的AI-VIS动图看看效果如何


        IP属地:美国82楼2023-10-14 09:59
        收起回复
          【闲聊娱乐】布拉万AI-VIS云图视频 发了


          IP属地:美国来自Android客户端83楼2023-10-16 07:47
          收起回复
            最近正在重做验证集的筛选方式
            原本是控制太阳高度角后随机抽的,但是这种筛选方式有一种问题,10分钟一张的云图,可能前一张在训练集,后一张就在验证集。因此,对前一张云图的拟合可能同样也会“改善”后一张云图的验证表现。这就相当于训练集的训练结果对验证集有泄露,会降低验证集对模型泛化能力的检验能力,相应的检验数据也会虚高。
            目前这两天重新筛选了一下验证集,以一天为单位划分验证集,即如果某张云图属于验证集,同一天的所有符合高度角范围的云图也都属于验证集。验证集的云图数量基本不变但是杜绝了上文提到的效应。训练结果显示...SSIM和RMSE表现确实变差了,SSIM降了0.09,RMSE升了0.035。这说明上述效应的确是存在的,并且之前的检验数据也的确是偏高的。
            当然也不是没有好消息...就是实际泛化效果不会比布拉万的测试云图/云图视频差,毕竟布拉万的云图是完全不属于训练集的,修改验证集的筛选方式之后反而应该会改善一点。


            IP属地:美国84楼2023-10-21 09:31
            回复
              拿吧友们做一下人力Discriminator
              来猜猜以下6张里面哪两张是真VIS







              IP属地:美国85楼2023-10-22 13:02
              收起回复
                公布一下85楼答案,第一张 第五张是真VIS


                IP属地:美国来自Android客户端89楼2023-10-23 08:09
                收起回复
                  来讲讲最近的计划和进度
                  之前都是取的256*256范围,也就是四分之一多点的机动观测面积,接下来打算试试能不能炼512*512的,把整个机动观测放进去。理论上来说这会给模型添加更多的可学习内容,泛化性能可能会更好点,但是实际成效得试了才知道


                  训练集图像其实带着个边框...因为完全塞满了会损失一点图片细节,希望这个框不会造成啥负面影响,我的AI应该没这么笨吧


                  IP属地:美国90楼2023-10-29 10:34
                  收起回复



                    上一轮更新的训练成果好像还没放...大概长这样,SSMI刚好0.800


                    IP属地:美国94楼2023-11-12 08:53
                    回复
                      下一步计划是添加更多红外波段作为输入。计划中会添加Band08,09,10,11,16的波段差分,其中Band11是所有可用的波段中高云冰晶吸收最小的波段,可以改善对于稍厚高云的识别,Band08,09,10是水汽吸收波段,Band16是二氧化碳吸收波段。对这些波段取差分可以一定程度上获取云顶高度的信息,今晚试试看能不能把这些多的波段加进去如果成功,验证指标应该能再上一个档次


                      IP属地:美国95楼2023-11-12 10:57
                      回复
                        H8/H9机动观测区数据+CGAN这个组合的试验已经接近尾声,稍作一下总结:
                        目前最好的一版的验证集表现:
                        SSIM 0.8217
                        RMSE 0.0640
                        这个数据横向对比其他论文应该是相当不错了,SSIM方面最好的是Harder的论文中用Unet++的模型的0.86,但是那个模型缺乏夜间的泛化能力,夜晚数据放进去整张图就暗掉了,其次就是Harder论文中的CGAN,但是SSIM只有0.77,再就是Cheng论文中的0.49。排除掉缺乏夜间泛化能力的模型,我们的模型SSIM已经能排第一了。RMSE方面KMA最新一篇红波段RMSE是0.061,略优于我们的模型,其余衡量过RMSE的五六篇论文RMSE都在0.1附近,也就是说我们模型的RMSE大概能排第二,不过KMA那篇用的是圆盘图训练,其实圆盘图中边框占接近四分之一的的黑色太空面积是能拉低RMSE的,所以我们RMSE其实也是第一了(确信)
                        不过就具体模拟表现来说还是有不少改善空间的。目前模型对VIS的纹理的模拟已经算是很到位了,低云,积云线的模拟大部分情况下也不错,主要的问题在于较厚卷云覆盖的区域模拟效果较差,比如CDO/雨带边缘区域很多时候难以模拟出VIS的那种暗区,看不出雨带的具体结构。


                        IP属地:美国98楼2023-11-21 09:53
                        回复
                          这两天做了一个很大胆的尝试,现在我们把太阳高度角也当做一个波段输入,由于有了太阳高度角的信息,现在我们可以把白天任何时间的图片都喂给模型去训练,让它自己参悟太阳高度角和VIS图像亮度与光影的关系。这相当于将我们的训练集扩大了10倍,会明显抑制过拟合的发生,让有效的训练轮次大大增加。
                          稍微透露一下,这次的训练效果真的非常不错从验证指标上来说远超之前的结果了,不过现在还在继续训练,晚点再发图


                          IP属地:美国99楼2023-11-24 09:39
                          收起回复
                            来几张AI-VIS的最新成果
                            左侧是AI-VIS 右侧是真VIS






                            IP属地:美国100楼2023-11-24 23:23
                            回复
                              哦对了 现在验证集指标SSIM 0.87336 RMSE 0.04449,已经全面超越同行论文了


                              IP属地:美国102楼2023-11-24 23:39
                              收起回复