При миграции с сервера GlsassFish в Payara перестали отправляться письма. Приложение просто зависало. Долгий дебаг и поиски проблемы привели к тому, что все отличие у серверов в версии JavaMail (version 1.5.4 у Payara и 1.5.0 у GlassFish). А также если включать SMTP DEBUG, то в логи Payara падала ошибка

"DEBUG SMTP: need username and password for authentication]]".

Решение проблемы: Добавить в property строку "mail.smtp.ssl.enable=true" и все ок!