Bonsoir, je sais pas où tu en es de ton installation...
Ca fait longtemps, j'y suis parvenu par 2 fois déjà... Avec des sous-domaines ;)
J'espère que je me souviendrai des subtilités.
Je suppose que tu en es au DNS et que tu as:
- un serveur SMTP qui marche
- un serveur POP/IMAP qui marche, ou au moins un accès à la mailbox locale (sous /var/spool/mail/ en général)

Pour t'assurer de ça, tu peux déjà tester en local ta configuration en envoyant un mail depuis le serveur vers un utilisateur du serveur:
mail -s "Un essai" @
Contenu du mail
Ctrl-D pour terminer et envoyer le mail

Veille à utiliser le nom de la machine du serveur tout court, pas le FQDN (nom de domaine complet).

Si ça marche, c'est que déjà ta config mail est au point et tu passer aux DNS.
Sinon, il faut déjà régler ça.....

Ensuite, pour que ton domaine ou sous-domaine puisse réceptionner des mails, il faut configurer les DNS.
Il te faut pour cela ajouter une entrée "MX" pour le domaine qui doit recevoir les mails:
- Ce que c'est: https://fr.wikipedia.org/wiki/Enregistrement_Mail_eXchanger
- Un exemple de config: http://serverfault.com/questions/54800/how-should-i-setup-separate-mx-records-for-a-subdomain
Il te faut trouver le moyen de changer ces paramétrages chez ton hébergeur, maintenant si tu gères ton propre serveur DNS, c'est encore une autre histoire...

Pour vérifier que les DNS sont définis correctement (il faut entre 2-3h à 24h ou plus parfois), tu peux utiliser dig

dig

dig mx

La partie "mx" sert à déterminer si tes entrées MX sont correctement définies...

Bon courage, et belles découvertes, c'est un bon apprentissage :-)
Christophe

Tu es chez qui ? (quel fournisseur d'accès ?)

je suis passé par les mêmes problèmes que toi. J'ai lu des tonnes de tutos et tout recommencé des encore plus.

Je n'ai pas trouvé de chennel IRC ou de forums qui répondent à mes questions. Le plus souvent c'est très spécifique à ta config.

Essayons ici, shall we ?

Quelle soft tu utilise ? Dovecot-postfix ?
A tu des serveurs virtuels et des users virtuels ? (c'est conseillé)
Tes ports sont ouverts ?

installer un serveur mail à domicile en France avec nos opérateurs actuels, c'est se contraindre à ne pas avoir de reverse DNS... En somme, c'est quasiment impossible...

@metasystem : comment ça, impossible ? Je ne cherche pas un truc parfait, l"idée est surtout de comprendre comment ça marche, de faire joujou et d'héberger les mails non-sensibles (comprendre : le jour où mon serveur crash, c'est pas grave, je perdrais juste les abonnements aux notifications diverses). Si ça marche juste un peu c'est déjà ça :D

@ËdzëronK : chez ovh. La box est assez facile à configurer.

En local, ça marche. C'est à dire que je peux envoyer des mails entre mes utilisateurs. Ça a un intérêt limité... Je peux aussi envoyer un mail (depuis un boite classique) vers mon serveur, par contre, bien que j'ai reçu le mail, j'ai aussi reçu plus tard un avis "Undelivered Mail Returned to Sender". Bon...

J'ai mis postix/dovecot parce que c'est là dessus qu'on trouve le plus de tutos.

J'ai aussi déjà configuré côté DNS. C'est possible que les ports ne soient pas forcément bien ouverts !

Il faut que je me replonge là-dedans, ça fait un moment que j'ai lâché l'affaire... mais je veux y arriver !

Lire les logs aide énormément.
Quand tu aura relancer le truc, regarde les et si besoin est, paramètre les logs.

commence par postfix. Si tu reçoi un mail mais avec une erreur tu a presque reçu un mail. la moitié du boulot.