Из коробки не работает фильтр.
в /etc/fail2ban/filter.d/proftpd.conf
#prefregex = …
failregex меняем на
failregex = ^(.)+proftpd(.)+\[
^(.)+proftpd(.)+\[
^(.)+proftpd(.)+\[
^(.)+proftpd(.)+\[
в jail.local
[proftpd]
enabled = true
backend = systemd
filter = proftpd
maxretry = 3
findtime = 20
bantime = 120
Проверить работу фильтров можно так
fail2ban-regex systemd-journal /etc/fail2ban/filter.d/proftpd.conf