Ich denke, es handelt sich dabei nicht um ein Problem mit DOSBox, sondern eher um die Art, wie Dein Monitor kleinere Auflösungen darstellt. Wahrscheinlich kannst Du im Monitor-eigenen Menü irgendwo umstellen, ob er vergössern und interpolieren soll oder nicht.