开源项目分享的语义分割及最快的非结构化数据集等
文末彩蛋:七月在线干货组最新升级的《2021大厂最新AI面试题 [含答案和解析, 更新到前121题]》免费送!
项目一:semantic-segmentation-tutorial-pytorch使用Cityscapes进行语义分割的PyTorch代码库
项目地址:
https://github.com/hoya012/semantic-segmentation-tutorial-pytorch
使用PyTorch的语义分割教程。基于2020 ECCV VIPriors Challange起始代码,实现了语义分段代码库并添加了一些技巧。
下载数据集(来自CityScapes的MiniCity):
我们将使用Cityscapes的MiniCity数据集。此数据集用于2020 ECCV VIPriors挑战。
数据集下载(Google驱动器)
https://drive.google.com/file/d/1YjkiaLqU1l9jVCVslrZpip4YsCHHlbNA/view?usp=sharing 将数据集移动到minicity文件夹中。
训练基线模型:
- 使用来自torchvision的DeepLabV3。
- ResNet-50骨干网,ResNet-101骨干网
- 使用4个RTX 2080 Ti GPU。(11GB x 4)
损失函数:
- 尝试了3种损失函数。
- 交叉熵损失
- 类加权交叉熵损失
- 焦点损失
- 可以使用–loss参数选择损失函数。
归一化层:
- 尝试了4归一化层。
- 批次归一化(BN)
- 实例规范化(IN)
- 组归一化(GN)
- 不断发展的标准化(EvoNorm) 可以使用–norm参数选择归一化层。
增强技巧:
提出2种数据增强技术(CutMix,copyblob)
模型效果:
最终的单一模型结果是0.6069831962012341。在排行榜上排名第五。
项目二:PaddleX『飞桨』深度学习全流程开发工
项目地址:
https://github.com/PaddlePaddle/PaddleX
PaddleX 集成飞桨智能视觉领域图像分类、目标检测、语义分割、实例分割任务能力,将深度学习开发全流程从数据准备、模型训练与优化到多端部署端到端打通,并提供统一任务API接口及图形化开发界面Demo。开发者无需分别安装不同套件,以低代码的形式即可快速完成飞桨全流程开发。
addleX 经过质检、安防、巡检、遥感、零售、医疗等十多个行业实际应用场景验证,沉淀产业实际经验,并提供丰富的案例实践教程,全程助力开发者产业实践落地。
PaddleX提供三种开发模式,满足用户的不同需求:
Python开发模式:通过简洁易懂的Python API,在兼顾功能全面性、开发灵活性、集成方便性的基础上,给开发者最流畅的深度学习开发体验。
前置依赖
paddlepaddle >= 1.8.4
python >= 3.6
cython
pycocotools
-
Padlde GUI模式:无代码开发的可视化客户端,应用Paddle
API实现,使开发者快速进行产业项目验证,并为用户开发自有深度学习软件/应用提供参照。
-
PaddleX Restful:使用基于RESTful API开发的GUI与Web
Demo实现远程的深度学习全流程开发;同时开发者也可以基于RESTful API开发个性化的可视化界面
模块说明:
-
数据准备:兼容ImageNet、VOC、COCO等常用数据协议,同时与Labelme、精灵标注助手、EasyData智能数据服务平台等无缝衔接,全方位助力开发者更快完成数据准备工作。
-
数据预处理及增强:提供极简的图像预处理和增强方法–Transforms,适配imgaug图像增强库,支持上百种数据增强策略,是开发者快速缓解小样本数据训练的问题。
-
模型训练:集成PaddleClas, PaddleDetection,
PaddleSeg视觉开发套件,提供大量精选的、经过产业实践的高质量预训练模型,使开发者更快实现工业级模型效果。
-
模型调优:内置模型可解释性模块、VisualDL可视化分析工具。使开发者可以更直观的理解模型的特征提取区域、训练过程参数变化,从而快速优化模型。
-
多端安全部署:内置PaddleSlim模型压缩工具和模型加密部署模块,与飞桨原生预测库Paddle
-
Inference及高性能端侧推理引擎Paddle Lite 无缝打通,使开发者快速实现模型的多端、高性能、安全部署。
项目三:tsmoothie用于以向量化方式进行时间序列平滑和离群值检测的python库
项目地址:
https://github.com/cerlymarco/tsmoothie
tsmoothie以快速有效的方式计算单个或多个时间序列的平滑度。
可用的平滑技术是:
- List item
- 指数平滑
- 具有各种窗口类型(常量,hanning,hamming,bartlett,blackman)的卷积平滑
- 使用傅立叶变换进行频谱平滑
- 多项式平滑
- 各种样条平滑(线性,三次,自然三次)
- 高斯平滑
- Binner平滑
- LOWESS
- 各种季节性分解平滑(卷积,最低,自然三次样条)
- 带有可自定义组件(水平,趋势,季节性,长期季节性)的卡尔曼平滑
tsmoothie提供了平滑处理结果的间隔计算。这对于识别时间序列中的异常值和异常可能很有用。
关于使用的平滑方法,可用的间隔类型为:
- sigma间隔
- 置信区间
- 预测间隔
- 卡尔曼区间
tsmoothie可以执行滑动平滑方法来模拟在线使用。可以将时间序列分成相等大小的片段,并分别对其进行平滑处理。与往常一样,此功能是通过WindowWrapper类以向量化的方式实现的。tsmoothie可以通过BootstrappingWrapper类来操作时间序列引导程序。
支持的引导程序算法为:
-
没有重叠的块引导程序
-
移动块引导程序
-
圆块引导程序
-
固定式引导
项目四:RecBole 统一,全面,高效的推荐库
项目地址:
https://github.com/cerlymarco/tsmoothie
RecBole 是一个基于 PyTorch 实现的,面向研究者的,易于开发与复现的,统一、全面、高效的推荐系统代码库。我们实现了72个推荐系统模型,包含常见的推荐系统类别,如:
- General Recommendation
- Sequential Recommendation
- Context-aware Recommendation
- Knowledge-based Recommendation
我们约定了一个统一、易用的数据文件格式,并已支持 28 个 benchmark dataset。用户可以选择使用我们的数据集预处理脚本,或直接下载已被处理好的数据集文件。
特色:
- 通用和可扩展的数据结构 我们设计了通用和可扩展的数据结构来支持各种推荐数据集统一化格式和使用。
- 全面的基准模型和数据集 我们实现了72个常用的推荐算法,并提供了28个推荐数据集的格式化副本。
- 高效的 GPU 加速实现 我们针对GPU环境使用了一系列的优化技术来提升代码库的效率。
- 大规模的标准评测 我们支持一系列被广泛认可的评估方式来测试和比较不同的推荐算法。
RecBole可以在以下几种系统上运行:
- Linux
- Windows 10
- macOS X
RecBole需要在python 3.6或更高的环境下运行。
RecBole要求torch版本在1.6.0及以上,如果你想
- 原文作者:知识铺
- 原文链接:https://index.zshipu.com/geek/post/%E4%BA%92%E8%81%94%E7%BD%91/%E5%BC%80%E6%BA%90%E9%A1%B9%E7%9B%AE%E5%88%86%E4%BA%AB%E7%9A%84%E8%AF%AD%E4%B9%89%E5%88%86%E5%89%B2%E5%8F%8A%E6%9C%80%E5%BF%AB%E7%9A%84%E9%9D%9E%E7%BB%93%E6%9E%84%E5%8C%96%E6%95%B0%E6%8D%AE%E9%9B%86%E7%AD%89/
- 版权声明:本作品采用知识共享署名-非商业性使用-禁止演绎 4.0 国际许可协议进行许可,非商业转载请注明出处(作者,原文链接),商业转载请联系作者获得授权。
- 免责声明:本页面内容均来源于站内编辑发布,部分信息来源互联网,并不意味着本站赞同其观点或者证实其内容的真实性,如涉及版权等问题,请立即联系客服进行更改或删除,保证您的合法权益。转载请注明来源,欢迎对文章中的引用来源进行考证,欢迎指出任何有错误或不够清晰的表达。也可以邮件至 sblig@126.com