Разрешение видео оптимальное 1280х720, т.е. 720р. Оно позволяет достичь отличного качества, четкости. Прошли времена низких разрешений, сейчас железо получше и надо ориентироваться на HD. Большинство мувов делается в этом формате. Можно конечно и 1080р сделать, но это займет больше места на жестком диске, конечное видео будет большего размера, а качество будет почти тоже самое, т.к. исходные текстуры в ку3 не предназначены для таких высоких разрешений, как 1080р.
Плюс 1080р создает больше нагрузку на процессор. 720р потянет и на более слабых компах.

Кодек конечно x264, самый современный и продвинутый для HD. Однако он создает большую нагружку на процессор, поэтому лучше кодировать еще вторую версию в XVID. Который в несколько раз меньше создает нагрузку на проц. Тогда мув посмотрят все и без лагов точно. Тут конечно есть много нюансов еще, но это долгий разговор, лучше читать мануалы всякие на сайтах и вникать в это дело.

Какую частоту кадров делать, вопрос очень спорный. Каждый решает сам. 30fps бывает недостаточно, т.к. картинка будет дерганой, особенно при высокой динамике. Если делать 30фпс, надо моушн блюра побольше, тогда будет более плавно. Чтобы не сильно заблюривать картинку и чтобы она не была дерганой, лучше делать 40фпс, можно и 50 и 60. Но надо учитывать что x264 очень требователен к ресурсам, качество x264 720р 40fps можно назвать предельным, т.к. если сделать больше разрешение или больше фпс, то даже более менее современные процессоры не будут успевать обрабатывать картинку и она будет лагать.
Если хочется больше fps для плавности, то только на кодеке XVID. Хотя многие любят смотреть на видеохостингах мувы, поэтому лучше добавить моушн блюра и оптимизировать под 30 или 40 фпс.
На видеохостингах типа ютуба максимум это 30fps. Это надо учитывать.
На самом деле надо не мало мануалов прочитать чтобы нормальный мув сделать.
Делать мув слабого качества сейчас нет смысла, народ насмотрелся красивых мувов и после их смотреть простенькие не захочет.