请问当我直接使用本文件(无论是离线还是在线)进行监督微调，在class Huatuo300k_datadehanshu都会报KeyError: 'json_dialogue'
#4
by
monsterbeasts
- opened
离线文件在左侧修改格式的dataset
主要的问题是 def getitem(self, index):
return json.loads(self.data[index]['json_dialogue'])
这个函数在干嘛，哪里出现了'json_dialogue
我是在复现HuatuoGPT的监督微调
我还希望知道你们的dataset的格式，因为这个是trian，可是sft.py中还有test部分
这个json_dialogue，是我们之前处理的数据格式包含了这个字段，我们的数据是没有的，可以忽略。可以考虑把return json.loads(self.data[index]['json_dialogue'])
改成
return json.loads(self.data[index]['data'])