Казалось бы, тут вообще обработку по-другому надо делать.
Если у Вас съемка делалать правильно, т.е. с дарками и флетами, то вы берете свою серию снимков, и виртуально делите ее на 4 "слоя" (предполагается, что матрица у вас RGGB):
1) все пиксели, невзирая на цвет - как данные Luminance,
2) только пикселы R - как изображение с R-фильтром снятое с binning 2x2
3) аналогично B
4) примерно так же G, только либо надо считать, что биннинг делается 2x1, либо 2x2 и усреднять.
После этого все отдельные кадры калибруются и складываются как обычно, и из них собирается композиция LRGB (L при этом "сглаживается" при применении калибровки с флетами). С точки зрения корректной фотометрии получится фигня, но эстетически это лучше, чем билинейная интерполяция "в лоб".

Если хочется еще лучше, то наверное можно R/G/B брать не грубым бинингом, а хитрее. Но и так в принципе нормально.