Datasets:

Modalities:
Text
Formats:
json
Languages:
Chinese
ArXiv:
Libraries:
Datasets
Dask

数据使用时建议清洗,格式,文本截断问题非常多

#22
by DachengZhang - opened

文件编码不一致
json格式问题
文本不完整

Multimodal Art Projection org

请问您可否提供一些示例,我们再针对性做一些清洗

写个脚本数据用json加载一遍

重复字段:
image.png

格式不对:

image.png

文本阶段/格式问题:

image.png

Multimodal Art Projection org

感谢提醒,应该是上传数据版本的问题,我们检查一遍后会更新

Sign up or log in to comment