На сжатом изображении H264 в принципе не получить нормального скриншота и уж тем более не улучшить его.
Как увиличить, улучшить качество изображении
Re: Как увиличить, улучшить качество изображении
И использовать JPEG 
На сжатом изображении H264 в принципе не получить нормального скриншота и уж тем более не улучшить его.
На сжатом изображении H264 в принципе не получить нормального скриншота и уж тем более не улучшить его.