CAIL_2019

CAIL-CCL-2019人工智能大赛-相似案例匹配

Requirement

Python 3.x Keras 2.x sklearn numpy gensim

Files

• callbacks 回调函数swa
• data目录（保存处理后的数据，目前已gitignore）
• layers 定义神经网络层
• log 打印当前模型每一轮迭代的准确率
• data_preprocess 原始数据处理成词向量
• main 模型的训练与测试
• models 存储不同的子模型

Run

代码运行如下：

• 模型训练：

  main 中的train = True，然后models选择合适的models名称，比如esim python main.py

• 模型测试: 采用公开测试集产生测试结果（用于测试代码的正确性和了解模型效果）：

  main 中的train = True，overwrite = False，然后models选择合适的models名称，比如esim, 如果此时已经有了已训练好的模型，会load并输出结果 python main.py

• 模型提交：(模型将结果保存在output文件夹下)：

  main 中的train = False，此时会调用服务器测试数据进行输出 python main.py

Parameters Introduction

1. train: True训练、False测试(提交时必须改为False)
2. level: 'word'词级、'word_char'字词级
3. model_name: 'siamese_cnn'、'esim'、'dpcnn'
4. 这里的main已经对多个模型交叉验证并把输出结果集成

Result

	Model	Level	Embedding	Fold	Acc
初赛	siamese_cnn	word	word2vec_300dim	10	90.80
	esim	word	word2vec_300dim	10	79.45
	cnn+esim	word	word2vec_300dim	20	81.29
复赛	siamese_cnn	word	word2vec_300dim	10	65.33
	esim	word	word2vec_300dim	10	66.47
	cnn+esim	word	word2vec_300dim	20	64.93
决赛	siamese_cnn	word	word2vec_300dim	10	71.29
	esim	word	word2vec_300dim	10	70.96
	cnn+esim	word	word2vec_300dim	20	68.75

Parameters Tuning

• epochs = 100
• batch_size = 64
• margin = 0.15
• max_len_word = 500
• embedding_dim = 300
• dropout = 0.2
• early_stopping_patience = 20
• optimizer = adam
• learning_rate= 0.001
• CNN: filter_length = [2, 3, 4, 5]; filters = 200;
• ESIM: LSTM:units = 300