установил програму, хотел обработать видео в формате АВИ, но видео почему то не принимается
появляется окно с ошибкой и как я понял что не хватает кодека, подскажите как решить проблему я что то не смог разобратся,
вот скрин:

Написано же, установите кодек. http://www.undercut.org/msmpeg4/.

если не трудно ответить то какой там выбрать, а то боюсь накасячить.

Честно говоря, какой ТАМ кодек выбрать я вам сказать не могу. Скорее всего - никакой не надо :)
Проблема не в отсутствии у вас кодека, а в том, что тот кодек, который установлен у вас на системе не Video-For-Windows (VFW) кодек. Микрософт когда-то свой MPEG2 кодек на DirectShow перевел...
Ищите в гугле MP42 VFW codec. Вроде как можно с помощью ffdshow такие файлы декодировать. А он совместим с VFW.

сильно замороченое дело, может есть какая нибудь аналогичная програма для резки видео?

Самая лёгкая всё же дуб. Кстати, откуда у вас авишник? Может это несжатый файл с камкордера?
Посмотрите видеоинспектором какой у него кодек.

файл с ютуба скачан.

а вот эта програма вроде почти тоже самое?
Free video dub

Чтобы дуб открывал ролики с ютуба я устанавливал "x264vfw_11_808bm_VAQ2_alpha_12665.exe"

ну например,неро или dvd shrink