文本相似性预言机

📚 相似度神谕 🔮

在大王国图书馆中，档案管理员面临着一项越来越困难的任务：
成千上万的手稿、羊皮纸和古代编年史需要组织、比较和索引。

为了帮助他们，祖先们创造了一个传奇的机制：相似度神谕。这是
一个能够以卓越的精度确定两个文本片段相似程度的装置，返回一个0到5之间的分数。

但这个机制随着时间的推移而退化，档案管理员大议会决定需要
一个使用机器学习构建的现代版本。

为此，为你提供了两个文件：

• train.csv - 由抄写员手动标注的羊皮纸
• test.csv - 需要由你的解决方案分析的新配对

你的任务是通过一系列分析和最终的预测模型来重建神谕。

📊 数据集

train.csv 和 test.csv 文件中的每一行代表一对句子：

• sampleID – 配对的唯一标识符
• sentence1 – 第一个文本
• sentence2 – 第二个文本
• score – 仅在train.csv中，一个0到5之间的实数值，表示相似度

最终目标是为test.csv中的每一行预测score。

📝 任务

对于前几个子任务，你需要分析train.csv和test.csv中提供的数据
并提取关于测试中句子的各种相关信息。

子任务 1 (10分)

计算测试集中每一行的每个句子（sentence1 和 sentence2）的长度
并根据平均长度标记配对：

• Short 如果平均值 < 50
• Medium 如果 50 ≤ 平均值 < 100
• Long 如果平均值 ≥ 100

子任务 2 (15分)

对于测试中的每一行，计算每个句子（sentence1 和 sentence2）的单词数，并根据以下公式确定总数：

1总数 = 单词数(sentence1) + 单词数(sentence2)

子任务 3 (15分)

确定测试中每一行的sentence1长度和sentence2长度之间的绝对差值。

换句话说，对于每一行我们需要计算：

1|字符数(sentence1) - 字符数(sentence2)|

子任务 4 (60分)

构建一个机器学习模型，能够为test.csv中的每一行预测数值score。

最终评估将使用MAE (平均绝对误差)，计算如下：

🧮 评估

子任务4的指标是：

• MAE (平均绝对误差) (值越小，得分越高)。
• 如果模型获得MAE ≤ 0.65，解决方案获得60分。
• 如果模型获得MAE ≥ 2.0，解决方案获得0分。
• 对于MAE的中间值，分数按比例计算。

对于子任务1-3，答案进行精确评估。

📌 注意事项

• 允许使用分词、嵌入、预训练模型等处理方法。

📄 提交文件格式

submission.csv文件必须包含测试中每一行对应的4行，
对应4个子任务。

结构：

1subtaskID datapointID answer

列的含义：

• subtaskID – 1到4之间的数字

• datapointID – 测试中的sampleID

• answer – 结果：

  • 子任务1：Short / Medium / Long
  • 子任务2：整数
  • 子任务3：整数
  • 子任务4：实数值（预测分数）

sampleID = 1714的示例：

1subtaskID datapointID answer21 1714 Medium32 1714 1543 1714 354 1714 3.74

祝你成功！档案管理员大议会将希望寄托在你们身上，以重新唤醒相似度神谕！🧙‍♂️