АВТОМАТИЧНЕ РЕФЕРУВАННЯ УКРАЇНСЬКИХ НОВИН ІЗ ЗНИЖЕННЯМ ТОКСИЧНОСТІ
Таврійський науковий вісник. Серія: Технічні науки · 30.12.2025 · (6) · 210-217
DOI: 10.32782/tnv-tech.2025.6.21 ↗Kurz gefasst
Fachartikel in der Zeitschrift Таврійський науковий вісник. Серія: Технічні науки, online erschienen am 30.12.2025. Verfasst von А. А. Баздирев. Der Volltext ist frei zugänglich (Open Access, CC BY 4.0).
Abstract (Originalsprache)
У статті розглянуто задачу автоматичного реферування українськомовних новин із додатковою вимогою зниження токсичності вихідних текстів. Для української мови якісні набори даних для абстрактивного реферування обмежені, а наявні «срібні стандарти» можуть містити фактичні неточності або додану інформацію, що ускладнює як навчання, так і оцінювання моделей. Ми використовуємо українську частину мультимовного корпусу XL-Sum та донавчаємо інструкційно-орієнтовану модель Gemma 3 1B-IT у два етапи. На першому етапі виконується донавчання на XL-Sum із чат-шаблоном «text → summary». На другому етапі застосовується Group Relative Policy Optimization (GRPO) із зовнішньою винагородою, побудованою на бінарному класифікаторі токсичності XLM-RoBERTa, що підтримує українську мову. Такий підхід дозволяє зменшувати ймовірність токсичних формулювань у відповідях без істотної втрати якості реферування. Експерименти проведено на окремих тестових підмножинах для реферування і для токсичності. Якість реферування оцінено метриками ROUGE з урахуванням токенізації та стемінгу для української мови. Після SFT модель досягає ROUGE-1/ROUGE-2/ROUGE-Lsum = 31,64/12,45/28,42 проти 20,47/4,76/17,54 у базової Gemma 3 1B-IT, а середній рівень токсичності на тесті XL-Sum знижується з 0,30% до 0,15%. Додаткове GRPO зменшує токсичність до 0,10% при збереженні ROUGE-Lsum 28,05. На спеціальному українському наборі токсичних/нетоксичних підказок середня токсичність генерацій зменшується з 9,09% (база) до 0,71% (SFT+GRPO). Отримані результати демонструють, що легка модель із відкритими вагами може бути адаптована до українського новинного домену та «підтягнута» в бік безпечнішої генерації за допомогою простого reward-моделювання.
Zitieren
APA
Баздирев, А. А. (2025). АВТОМАТИЧНЕ РЕФЕРУВАННЯ УКРАЇНСЬКИХ НОВИН ІЗ ЗНИЖЕННЯМ ТОКСИЧНОСТІ. Таврійський науковий вісник. Серія: Технічні науки, 210-217. https://doi.org/10.32782/tnv-tech.2025.6.21
Vancouver
Баздирев АА. АВТОМАТИЧНЕ РЕФЕРУВАННЯ УКРАЇНСЬКИХ НОВИН ІЗ ЗНИЖЕННЯМ ТОКСИЧНОСТІ. Таврійський науковий вісник. Серія: Технічні науки. 2025:210-217. doi:10.32782/tnv-tech.2025.6.21
BibTeX
@article{2025,
author = {Баздирев, А. А.},
title = {АВТОМАТИЧНЕ РЕФЕРУВАННЯ УКРАЇНСЬКИХ НОВИН ІЗ ЗНИЖЕННЯМ ТОКСИЧНОСТІ},
journal = {Таврійський науковий вісник. Серія: Технічні науки},
year = {2025},
number = {6},
pages = {210--217},
doi = {10.32782/tnv-tech.2025.6.21}
}
EUVIMED