Eine VM verwenden. Wie @esackbauer bereits gesagt hat, werden LXC-Container nicht unterstützt, und auch Proxmox selbst empfiehlt Docker in einer VM zu betreiben.
Und selbst wenn man es zum Laufen kriegt, können jederzeit auch nachträglich Probleme auftreten, z.B. wenn entweder Docker oder Proxmox Updates erhalten und sich etwas relevantes auf der einen oder anderen Stelle ändert. Genau das möchte man bei einem Mailserver eigentlich nicht, denn der sollte möglichst stabil und vorhersehbar laufen.
Deshalb empfehle ich, so wenig wie möglich zu “basteln” und sich so nah wie möglich an die Dokumentation und die Empfehlungen der beteiligten Produkte zu halten. in diesem Fall Mailcow, Proxmox und Docker.