A forma correta de escrita da palavra é mal-entendido. A palavra mau-entendido está errada.
A palavra mal-entendido é usada maioritariamente como um substantivo, significando um equívoco ou um engano, bem como um desentendimento ou uma desavença. Contudo, pode ser também um adjetivo, indicando que alguma coisa foi erradamente entendida, compreendida, interpretada, avaliada.
Mal-entendido é sinônimo de desacerto, falha, lapso, quiproquó, confusão, conflito, discordância, briga, altercação, entre outras.
Mal-entendido é uma palavra formada através de composição por justaposição, ou seja, ocorre a formação de uma nova palavra a partir da junção de duas ou mais palavras: mal + entendido.
Assim, mal-entendido é palavra composta, mas as palavras mal e entendido mantêm sua autonomia, estando apenas justapostas.
Segundo o Novo Acordo Ortográfico, o hífen é utilizado em palavras compostas com o advérbio mal quando a segunda palavra começa por vogal ou h:
Em mal-entendido não deve ser usado o adjetivo mau porque mau é antônimo de bom e não é correto dizer bom entendido. Assim, deve ser utilizado o advérbio mal, que é antônimo de bem.
Mal entendido, sem hífen, é também uma construção correta, indicativa da voz passiva. A palavra mal atua simplesmente como um advérbio, caracterizando a forma como algo foi entendido, ou seja, se foi bem entendido ou se foi mal entendido.