Pierwszy projekt systemu moderacji był prosty i drogi: każdy post przechodzi przez AI przed publikacją.
Brzmi rozsądnie. Nie ma nieodpowiedniej treści, bo wszystko jest weryfikowane.
W grudniu 2025 zapisałem decyzję, która z tego podejścia rezygnuje. Plan zakłada poziomy zaufania: około jednej czwartej najbardziej wiarygodnych użytkowników nie dotyka żadnego AI, a w sumie jakieś trzy czwarte treści omija najdroższy element — sprawdzanie przez duży model językowy. Przez kosztowne AI przechodzą tylko nowi i ryzykowni. I jest bezpieczniej, nie mniej bezpiecznie.
Gdzie AI nie pomaga
Wyobraź sobie ogłoszenie: „Oddam darmowy stół. Odbiór własny, ulica Łąkowa 12.”
To 80% treści na platformie lokalnej. Czy AI musi je sprawdzić? Koszt moderacji tej treści przez AI jest wyższy niż ryzyko, że coś tu jest nie tak.
AI pomaga tam, gdzie:
- Nowy użytkownik, bez historii, bez zweryfikowanego adresu — wyższe ryzyko
- Treść z sygnałami podejrzanymi (linki do zewnętrznych stron, prośby o przelew)
- Kategorie wrażliwe (usługi finansowe, oferty pracy)
AI jest zbędne tam, gdzie:
- Użytkownik z historią pozytywnych interakcji
- Treść standardowa (ogłoszenia drobne, pytania lokalne)
- Kategorie z niskim ryzykiem
System zaufania jako filtr
Zamiast pytać „czy ta treść jest bezpieczna?” — pytam „czy ten użytkownik jest wiarygodny?”
Użytkownik z zweryfikowanym adresem, kilkoma miesiącami aktywności i brakiem zgłoszeń naruszenia ma wysoki poziom zaufania. Jego treści publikują się od razu. Jeśli ktoś je zgłosi — wchodzi moderacja.
Nowy użytkownik, bez historii, z niedostępnym do weryfikacji adresem — niski poziom zaufania. Jego treści przechodzą przez sprawdzenie przed publikacją.
To nie jest mniej bezpieczne niż moderacja wszystkiego. Jest skuteczniejsze — zasoby skupione tam, gdzie ryzyko jest faktycznie wyższe.
Jest tu jeszcze jeden koszt, o którym przy moderacji rzadko się mówi: atmosfera. Człowiek, który dopiero zbiera się, żeby gdzieś napisać albo wyjść — a po pandemii takich jest sporo — odbije się od miejsca, które na wejściu traktuje go jak podejrzanego. Ściana automatycznych blokad odstrasza najpierw tych najostrożniejszych.
Ile to oszczędza
Projekt zakładający AI na każdy post: €100-300 miesięcznie przy 1000 użytkownikach. To mniej więcej $0.15-0.30 na użytkownika miesięcznie tylko na moderację.
System oparty na zaufaniu: znaczna część treści publikuje się bez wywołania AI. Wywołania AI skupiają się na nowych użytkownikach i sygnałach ryzyka. Koszt spada trzykrotnie przy tej samej lub wyższej skuteczności.