Редакція «Полтавщина» розпочала використання системи штучного інтелекту для модерації коментарів у власних телеграм-спільнотах і на сайті з метою автоматизації боротьби зі спамом, ботами та провокаціями.
Про це розповідає Poltava Today
Ідея виникла з практичного досвіду роботи з простим телеграм-ботом «Тероборона чату», який раніше захищав телеграм-канал і місцевий чат «Полтава» від масових атак ботів: тих користувачів, що не проходили перевірочне питання, бот блокував. На початку повномасштабного вторгнення такий інструмент значно полегшив роботу адміністраторів, хоча інколи неправомірно блокував реальних людей, які пропускали тестове питання.
Як працює новий ШІ-модератор
За останні роки боти в Telegram стали витривалішими та більш наближеними до людської поведінки: вони маскуються під реальних користувачів, торгують контентом для дорослих, збирають контакти охочих до швидкого заробітку та просувають замовні тези, зокрема проросійські. Людський модератор часто впізнає ботів за специфікою поведінки, але масовані атаки та цілодобова активність ботів роблять ручну модерацію неефективною.
Щоб полегшити роботу волонтерів-модераторів і зменшити рутинне навантаження, редакція довгий час планувала власного бота на основі ШІ, проте через брак часу і ресурсів проєкт відкладався. Завдяки ініціативі з підтримки регіональних медіа, яку реалізує скандинавський фонд Ukrainian Media Fund Nordic разом із Національною спілкою журналістів України, редакція отримала погодження на фінансування і змогла прискорити роботу над рішенням.
Статистика роботи ШІ-модератора станом на 10.02.2026
Результати та помітні ефекти
За два місяці налаштування створений бот-модератор почав стабільно опрацьовувати значну кількість повідомлень: щоденно автоматично аналізується майже тисяча коментарів, з яких понад 11% виявляються спамом. Нова система ідентифікує та видаляє більше 95% таких повідомлень, що суттєво зменшує навантаження на людських модераторів і покращує якість дискусії в спільнотах. Статистику роботи ШІ-модератора опубліковано на сайті видання.
Паралельно ШІ-модерація була підключена й до популярного полтавського телеграм-каналу «Фонтанзамільйон», адміністрування якого на початку року тимчасово перебрав інший автор через мобілізацію одного з журналістів редакції.
Водночас частина користувачів помітила, що їхні повідомлення іноді видаляються надто швидко — у більшості випадків це було виправдано, але траплялися й помилки. З початку лютого ШІ-тестування у коментарях на сайті показало, що система ще потребує доопрацювання, тому всі сумнівні видалення перевіряються вручну і відновлюються у разі помилки ШІ.
Аналіз життєвих коментарів складний: моделі потрібно розуміти контекст дискусії, місцеві мовні особливості та художні образи читачів, а також відрізняти емоційну критику влади від особистих образ. Найпотужніші ШІ-моделі вже справляються з цією задачею, але їхнє використання вимагає значних обчислювальних ресурсів і фінансових витрат, тому редакція працює над оптимізацією моделі для економічної доцільності.
Спроба бота самостійно «втрутитись» у політичну дискусію
Експерименти з наданням ШІ права самостійно втручатися у дискусії показали побічні ефекти: модель без додаткових обмежень іноді поводилась як «порохобот», що не сприяло конструктивній бесіді. Через це функціонал автономного втручання тимчасово відкладено до розроблення більш жорстких правил поведінки моделі.
Редакція підкреслює, що впровадження ШІ має на меті не замінити людей, а вивільнити їхній час для складніших завдань, які потребують людського досвіду та судження. Поки модель удосконалюється, рішення про відновлення видалених коментарів ухвалює людина-модератор.
Технологічний експеримент триває: команда продовжить оптимізувати систему, зменшувати кількість помилкових блокувань і працювати над тим, щоб дискусія в спільнотах залишалася максимально відкритою та безпечною для читачів.