Eu uso fraps e nunca deu nenhum problema com a qualidade de vídeo nem nada c: Bandicam também e bom, só não sei se e só pra mim que os fps vão pra 1 quando coloco ele pra gravar.
Eu usava o FRAPS, é bom porem dizem que faz cair muito o FPS. Eu recomendo o Action pra gravar, pelo que sei ele só tem marca d'água nas versões teste, Se você usa uma placa NVIDIA recomendo que você use o Shadow Play. Esses são os melhores na minha opnião.