Исправление текстов

✍️ Исправление текстов в эпоху быстрого общения 💬

В мире, где сообщения становятся всё короче, набираются в спешке на телефонах и мгновенно распространяются в социальных сетях, качество письменной речи начинает ухудшаться. Грамматические ошибки, пропущенные слова и двусмысленные формулировки становятся всё более частыми.

Для анализа и улучшения таких текстов образовательная платформа разрабатывает автоматическую систему, способную преобразовывать предложения, написанные небрежно, в правильный и ясный вариант. Твоя роль — помочь им, предложив автоматическую систему, которая исправляет тексты с грамматической точки зрения.

📁 Набор данных

В твоём распоряжении два файла:

• train.csv — содержит неправильные тексты и их исправленные варианты
• test.csv — содержит неправильные тексты, для которых модель должна предложить исправленный вариант

Каждая строка в train.csv имеет следующие столбцы:

• SampleID — уникальный идентификатор текста
• Text — исходное предложение, как оно было написано пользователем
• RevisedText — версия, исправленная экспертом

Пример:

1SampleID,Text,RevisedText2747, "She forgot her umbrella it started to rain.", "She forgot her umbrella, and then it started to rain."31382, "He could have bought the house if he has enough money.", "He could have bought the house if he had enough money."4241, "I have a meeting with a principal of a school.", "I have a meeting with the principal of the school."

🧠 Задача (100 баллов)

Построй систему, которая генерирует грамматически правильный вариант для предложений из test.csv.

Система оценки будет вычислять итоговый балл, комбинируя два важных аспекта:

• семантическое сходство
• лексические различия

Формула оценки:

1final_score = 0.7 * cosine_similarity + 0.3 * edit_distance_score

• final_score ≥ 0.95 → 100 баллов
• final_score ≤ 0.9 → 0 баллов
• Для промежуточных значений баллы начисляются пропорционально.

🔹 Cosine Similarity и Edit Distance в исправлении текстов

Для построения автоматической системы исправления текстов оценка должна учитывать как смысл предложения, так и точные лексические различия. Здесь вступают в игру cosine_similarity и edit_distance.

Cosine Similarity

Определение:
Cosine similarity измеряет сходство между двумя векторами, вычисляя косинус угла между ними. Формула:

• A * B — скалярное произведение векторов
• |A| и |B| — их нормы

В NLP:

• Каждое предложение может быть представлено векторным эмбеддингом (например, BERT, Sentence-BERT).
• Cosine similarity показывает, насколько семантически похожи предложения, даже если содержащиеся в них слова различаются.

Пример:

1Text 1: "She forgot her umbrella."2Text 2: "She left her umbrella behind."

• Семантически: те же идеи → Высокое cosine similarity

Значимость:
Гарантирует, что исправленный текст сохраняет ту же идею, что и исходный текст.

Edit Distance (Levenshtein Distance)

Определение:
Edit distance измеряет минимальное количество операций (вставка, удаление, замена), необходимых для преобразования одной строки в другую.

Пример:

1Исходный текст: "She forgot her umbrella it started to rain."2Исправленный текст: "She forgot her umbrella, and then it started to rain."

• Операции: вставка запятой + добавление союза "and then"
• Edit distance = 6 символов

Значимость:
Отражает лексические различия и грамматическую правильность.

Итоговая метрика, которая их объединяет

Формула итогового балла:

• 0.7 Cosine Similarity: приоритет смыслу предложения
• 0.3 Edit Distance: проверка лексической точности и правильности

Эта комбинация обеспечивает, чтобы исправленный текст был как грамматически правильным, так и семантически похожим на исходный текст.

📄 Формат файла для отправки

Файл submission.csv должен содержать по одной строке для каждого текста из test.

Первая строка файла содержит следующее:

1DatapointID, RevisedText

где:

• DatapointID - SampleID из test
• RevisedText - исправленный вариант текста

Пример (SampleID = 1557):

11557, "He didn't eat any breakfast this morning."