No to masz odpowiedź - nie używasz kompresji, dlatego masz takie duże pliki.
Jeżeli robisz klipy pośrednie, to wtedy lepiej nie używać kompresji, aby nie tracić jakości w procesie składania filmu, ale końcowy film prawie zawsze się kompresuje, tym bardziej, że YT czy Vimeo i tak je skompresują, więc szkoda czasu na uploadowanie takiego dużego pliku.
Programy do robienia startrails są raczej projektowane do pracy na materiale z jednej sesji. Najlepiej zrobić odzielne klipy pośrednie (nieskompresowane) i dopiero potem je połączyć w VirtualDubie (można je dodawać komendą "append AVI segment" z menu "File") czy innym programie i na końcu całość skompresować przy finalnym eksporcie do avi.
Jeszcze taka uwaga, że format matrycy aparatu ma stosunek 4:3 podczas, gdy w świecie video od kilku lat standardem jest format 16:9, więc powinieneś zrobić crop Twoich zdjęć do takiego właśnie formatu, czyli powinienś mieć końcowy rozmiar 1280x720 albo 1920x1080. Ja robię crop w programie do obróbki zdjęć (Lightroom 4)
Tutaj masz link do tutorialu instalacji i obsługi kodeka h.264 w VirtualDubie
http://youtu.be/49C89VT_3TE