mkv est un conteneur et pas un codec!
Vlc ou Mplayer lisent parfaitement les fichiers mkv pour peut que le codec utilisé pour l'audio et la video soient lus par ces logiciels. Dans ton cas, il y a de fortes chances que le codec utilisé soit un codec realplayer, qui n'est lu qu'avec le logiciel realplayer..... Qui par contre ne lis pas le conteneur mkv!
Donc pour l'instant, et tant que Real ne fera pas de player lisant le mkv, il n'y a pas de solution sous mac.
Je ne sais pas si la version finale du realplayer sortie il y a peu de temps lis enfin ce format. A vérifier....