Über so ein Problem hab ich mir bis dato noch keine Gedanken gemacht. Ich denke, wenn du dir für das Geld einen Scanner kaufst, dann sollte das Problem der Vergangenheit angehören. Nimm deine Vorlagen doch mal mit einer höheren Auflösung auf, 1200dpi oder so. Falls ich mich jetzt täusche, dann wäre eben eine Kamera mit Macro ab 1cm ideal. Nur ist diese 1cm Angabe immer für kürzeste Brennweite, wenn du heranzoomst, dann musst du auch weiter weg. Ich nehm mal an, dass du hauptsächlich unter Kunstlicht arbeiten wirst, deshalb unbedingt auf eine gute Bildqualität bei Kunstlicht und auf das Rauschverhalten achten. ISO 100 und darunter wäre hier meine Empfehlung.
Zweitens unbedingt ein kleines Stativ dazu und zwar nicht für 3€95 von Plus, sondern was ordentliches, z.B. Novoflex(.de), wegen der längeren Belichtungszeiten. Bei dir dürfte die Auslöseverzögerung keine Rolle spielen. Megapixel sind nicht alles, also auf die Auflösung achten! Das sind die Angaben über die Linienpaare, je höher desto besser. Achte auf die Möglichkeit der manuellen Einstellung von Blendenwerten, da bei Macro die Schärfe nur selektiv arbeitet und zu den Rändern hin meist stark abfällt. Du musst also stets mit relativ hohen Blendenwerten arbeiten, also ab 8 aufwärts. Ich hab mich mit Macro noch nicht sonderlich auseinandergesetzt, aber du ahnst schon, dass das ein ziemlich komplexes Feld ist.
Kameramässig würde ich auf Marken zurückgreifen(Canon, Fuji, Minolta, Nikon), besonders wenn man im Macrobereich arbeitet. Für 400-500€ gibt es zw.3 und 4MP. Schau mal bei guenstiger.de nach Kameras die dir zusagen würden und dann bei digitalkamera.de nach Testfotos. Wenn du noch ausführliche Testberichte willst und Englisch kein Problem ist, dann dpreview.com .
Die Canon S Serie kannst du für dein Vorhaben schon mal ausklammern, da geht Macro erst ab 10cm.