La PS3 accepte les *avi uniquement compressés en "Motion JPEG".-->Ré-encodage.
Si c'est du "H264" dans ton "*mkv", tu peux essayer de le remultiplexer dans du "*mp4".(Voir *)
Sinon, tu extrais la vidéo, et l'audio pour les convertir respectivement en "H264" et "AAC".
* A l'arrache:
Extraction des flux vidéo, audio et des sous-titres via "MKVToolNix".
Remuxage de tous ces flux en *mp4 via "YAMB".
En espérant que ton "*mkv" pose moins de soucis que ceux d'azerty69(il comprendra).