RMVB i jego kodek od Real Media to kupa. Zazwyczaj uboga przestrzeń kolorów + często ostra utrata szczegółów z wyraźnymi artefaktami (aureole, blocking itd.).
Ja zazwyczaj przekodowując filmy DVD pakuje do kontenera MKV. Generalnie obsługuje wszystkie popularne formaty kodowania audio, video i napisów. Obsługuje także podział na rozdziały, a także w planach ma być(lub już jest) zaimplementowana obsługa menu(jak na płytach DVD).
Do kodowania video używam x264(np. w Handbrake, Avidemux czy innym programie zawierającym ten enkoder). Generalnie podstawowy ustawieniem to jest kodowanie z ustawieniem kwantyzora(?) na crf=17, wysoki profil H264 poziom 4.1 i włączony CABAC . Dalsze ustawienia to moje fanaberie i chociaż nie są szybkie, to potrafią dobrze zredukować rozmiar pliku. Są predefiniowane ustawienia które stanowią kompromis pomiędzy czasem kodowania a wyjściowym rozmiarem pliku.
Alternatywnie do H264 możesz użyć szybszego QuickSync, NVENC lub AMD VCE o ile twój sprzęt wspiera. Oczywiście rezultaty nie będą takie jak przy x264.
Z innych enkoderów to są vp9 i x265. Tego pierwszego w ogóle nie testowałem. Ten drugi przy ustawieniu crf=17 i predefiniowanym ustawieniu Placebo efektywnie koduje film DVD z szybkością ~3FPS na i7-3630qm(dla porównania podobnie ustawiony x264 koduje dużo szybciej). Nie wiem co z tego by się spłodziło, bo nie miałem cierpliwości czekać na efekty pracy enkodera.
Do przeskalowywania obrazu (zwłaszcza przy powiększaniu) polecam użyć interpolacji bikubicznej(bicubic) lub jeszcze lepiej Lanczos, dlatego że pozwoli tobie lepiej zachować szczegóły, ostrość konturów i przejścia tonalne (o ile materiał źródłowy to nie kupa).
Do kodowania audio używam Vorbis(zazwyczaj przy z bitrate prawie równym źródłowemu), który bardzo dobrze sobie radzi z reprodukcją dźwięku stereo przy q=4(~128kbps ABR).
Generalnie przy swoich ustawieniach potrafię zredukować filmy z płyty DVD9 nawet do ~1,3GB w oryginalnej rozdzielczości(np. tak mi wyszło 2001:Odyseja Kosmiczna, generalnie jedna ścieżka video, dwie audio i chyba 8 napisów VobSub).
Tutaj zrzut z MediaInfo przykładowego filmu, odczytasz z niego parametry enkodera na których możesz bazować swoje ustawienia.
General
Unique ID : 119927746702919538338808600170713985910 (0x5A393E6D33F1542DA5EF5AF0BA023376)
Complete name : /home/tomek/Wideo/bogowie.mkv
Format : Matroska
Format version : Version 2
File size : 1.54 GiB
Duration : 1h 55mn
Overall bit rate mode : Variable
Overall bit rate : 1 899 Kbps
Movie name : Bogowie
Writing application : Lavf56.1.0
Writing library : Lavf56.1.0
Video
ID : 1
Format : AVC
Format/Info : Advanced Video Codec
Format profile : High@L4.0
Format settings, CABAC : Yes
Format settings, ReFrames : 5 frames
Codec ID : V_MPEG4/ISO/AVC
Duration : 1h 55mn
Bit rate : 901 Kbps
Width : 720 pixels
Height : 428 pixels
Display aspect ratio : 2.40:1
Frame rate mode : Constant
Frame rate : 25.000 fps
Color space : YUV
Chroma subsampling : 4:2:0
Bit depth : 8 bits
Scan type : Progressive
Bits/(Pixel*Frame) : 0.117
Stream size : 747 MiB (47%)
Writing library : x264 core 142 r2431 a5831aa
Encoding settings : cabac=1 / ref=6 / deblock=1:0:0 / analyse=0x3:0x133 / me=tesa / subme=10 / psy=1 / psy_rd=1,00:0,00 / mixed_ref=1 / me_range=24 / chroma_me=1 / trellis=2 / 8x8dct=1 / cqm=0 / deadzone=21,11 / fast_pskip=1 / chroma_qp_offset=-2 / threads=12 / lookahead_threads=1 / sliced_threads=0 / nr=0 / decimate=1 / interlaced=0 / bluray_compat=0 / constrained_intra=0 / bframes=6 / b_pyramid=1 / b_adapt=2 / b_bias=0 / direct=3 / weightb=1 / open_gop=0 / weightp=2 / keyint=250 / keyint_min=25 / scenecut=40 / intra_refresh=0 / rc_lookahead=40 / rc=crf / mbtree=1 / crf=17,0 / qcomp=0,60 / qpmin=0 / qpmax=69 / qpstep=4 / ip_ratio=1,40 / aq=1:1,00
Default : Yes
Forced : No
Color primaries : BT.601 PAL
Transfer characteristics : BT.709
Matrix coefficients : BT.601
Audio #1
ID : 2
Format : Vorbis
Format settings, Floor : 1
Codec ID : A_VORBIS
Duration : 1h 55mn
Bit rate mode : Variable
Bit rate : 320 Kbps
Channel(s) : 2 channels
Sampling rate : 48.0 KHz
Compression mode : Lossy
Stream size : 265 MiB (17%)
Title : Stereo
Writing library : libVorbis (Schaufenugget) (20101101 (Schaufenugget))
Language : Polish
Default : Yes
Forced : No
Writing application : HandBrake
Audio #2
ID : 3
Format : Vorbis
Format settings, Floor : 1
Codec ID : A_VORBIS
Duration : 1h 55mn
Bit rate mode : Variable
Bit rate : 320 Kbps
Channel(s) : 2 channels
Sampling rate : 48.0 KHz
Compression mode : Lossy
Stream size : 265 MiB (17%)
Title : Stereo
Writing library : libVorbis (Schaufenugget) (20101101 (Schaufenugget))
Language : Polish
Default : No
Forced : No
Writing application : HandBrake
Audio #3
ID : 4
Format : Vorbis
Format settings, Floor : 1
Codec ID : A_VORBIS
Duration : 1h 55mn
Bit rate mode : Variable
Bit rate : 320 Kbps
Channel(s) : 2 channels
Sampling rate : 48.0 KHz
Compression mode : Lossy
Stream size : 265 MiB (17%)
Title : Stereo
Writing library : libVorbis (Schaufenugget) (20101101 (Schaufenugget))
Language : Polish
Default : No
Forced : No
Writing application : HandBrake
Text #1
ID : 5
Format : VobSub
Codec ID : S_VOBSUB
Codec ID/Info : The same subtitle format used on DVDs
Language : English
Default : No
Forced : No
Text #2
ID : 6
Format : VobSub
Codec ID : S_VOBSUB
Codec ID/Info : The same subtitle format used on DVDs
Language : French
Default : No
Forced : No
Text #3
ID : 7
Format : VobSub
Codec ID : S_VOBSUB
Codec ID/Info : The same subtitle format used on DVDs
Language : Polish
Default : No
Forced : No
Menu
00:00:00.000 : :Chapter 1
00:09:22.600 : :Chapter 2
00:20:38.080 : :Chapter 3
00:28:31.920 : :Chapter 4
00:38:06.200 : :Chapter 5
00:46:55.680 : :Chapter 6
00:56:53.040 : :Chapter 7
01:05:48.640 : :Chapter 8
01:17:42.000 : :Chapter 9
01:25:22.160 : :Chapter 10
01:35:02.000 : :Chapter 11
01:44:36.760 : :Chapter 12