Tekstų taisymas

✍️ Tekstų taisymas greitosios komunikacijos eroje 💬

Pasaulyje, kuriame žinutės darosi vis trumpesnės, skubiai rašomos telefonuose ir akimirksniu platinamos socialiniuose tinkluose, rašytinės kalbos kokybė pradeda blogėti. Gramatikos klaidos, praleisti žodžiai ir dviprasmiški formulavimai darosi vis dažnesni.

Siekdama analizuoti ir tobulinti šiuos tekstus, švietimo platforma kuria automatinę sistemą, gebančią neatsargiai parašytus sakinius paversti teisingais ir aiškiais. Tavo vaidmuo – padėti jai pasiūlyti automatinę sistemą, kuri taiso tekstus gramatikos požiūriu.

📁 Duomenų rinkinys

Turi du failus:

• train.csv — yra neteisingi tekstai ir jų pataisyti variantai
• test.csv — yra neteisingi tekstai, kuriems modelis turi pasiūlyti pataisytą variantą

Kiekviena train.csv eilutė turi šiuos stulpelius:

• SampleID — unikalus teksto identifikatorius
• Text — originalus sakinys, kaip jį parašė vartotojas
• RevisedText — eksperto pataisyta versija

Pavyzdys:

1SampleID,Text,RevisedText2747, "She forgot her umbrella it started to rain.", "She forgot her umbrella, and then it started to rain."31382, "He could have bought the house if he has enough money.", "He could have bought the house if he had enough money."4241, "I have a meeting with a principal of a school.", "I have a meeting with the principal of the school."

🧠 Užduotis (100 taškų)

Sukurk sistemą, kuri generuoja gramatiškai teisingą variantą test.csv sakiniams.

Vertinimo sistema apskaičiuos galutinį balą, sujungdama du esminius aspektus:

• semantinį panašumą
• leksikalinius skirtumus

Vertinimo formulė yra:

1final_score = 0.7 * cosine_similarity + 0.3 * edit_distance_score

• final_score ≥ 0.95 → 100 taškų
• final_score ≤ 0.9 → 0 taškų
• Tarpinėms reikšmėms skiriamas proporcingas taškas.

🔹 Cosine Similarity ir Edit Distance tekstų taisyme

Kuriant automatinę tekstų taisymo sistemą, vertinimas turi atsižvelgti tiek į sakinio prasmę, tiek į tikslius leksikalinius skirtumus. Čia ateina cosine_similarity ir edit_distance.

Cosine Similarity

Apibrėžimas:
Cosine similarity matuoja panašumą tarp dviejų vektorių apskaičiuodama kosino kampą tarp jų. Formulė yra:

• A * B yra vektorių skaliarinis sandauga
• |A| ir |B| yra jų normos

NLP srityje:

• Kiekvienas sakinys gali būti pavaizduotas vektoriniu įterpimu (pvz., BERT, Sentence-BERT).
• Cosine similarity rodo kiek semantiškai panašūs yra sakiniai, net jei juose esantys žodžiai skiriasi.

Pavyzdys:

1Tekstas 1: "She forgot her umbrella."2Tekstas 2: "She left her umbrella behind."

• Semantiškai: tos pačios idėjos → Didelis cosine similarity

Aktualumas:
Užtikrina, kad pataisytas tekstas išlaiko tą pačią idėją kaip originalus tekstas.

Edit Distance (Levenshtein Distance)

Apibrėžimas:
Edit distance matuoja minimalų operacijų skaičių (įterpimas, ištrynimas, pakeitimas), reikalingą vienai eilutei paversti kita.

Pavyzdys:

1Originalus tekstas: "She forgot her umbrella it started to rain."2Pataisytas tekstas: "She forgot her umbrella, and then it started to rain."

• Operacijos: kablelio įterpimas + junginio "and then" pridėjimas
• Edit distance = 6 simboliai

Aktualumas:
Atspindi leksikalinius skirtumus ir gramatikos teisingumą.

Galutinė metrika, jungianti abi

Galutinio balo formulė:

• 0.7 Cosine Similarity: prioritizuoja sakinio prasmę
• 0.3 Edit Distance: tikrina leksikalinį tikslumą ir teisingumą

Šis derinys užtikrina, kad pataisytas tekstas būtų tiek gramatiškai teisingas, tiek semantiškai panašus į originalų tekstą.

📄 Pateikimo failo formatas

submission.csv failas turi turėti po vieną eilutę kiekvienam testo tekstui.

Pirmoji failo eilutė turi:

1DatapointID, RevisedText

kur:

• DatapointID - SampleID iš testo
• RevisedText - pataisyta teksto versija

Pavyzdys (SampleID = 1557):

11557, "He didn't eat any breakfast this morning."