A mon avis, vu le message d'erreur, il s'agit d'un retour du serveur SMTP utilisé pour envoyer le mail. Je pense que celui-ci limite la taille des pièces jointes qui peuvent être contenues dans un mail comme le font la plupart des providers de messagerie.
Je pense donc qu'il ne s'agit pas d'une limite résultant du paramétrage de l'instance DotNetNuke.
Pour vérifier, tu peux essayer d'envoyer le même fichier en pièce jointe via un client de messagerie en utilisant le même compte de messagerie.