Die Ursprünge des Notariats im Allgemeinen sind vielfältig. Während zum Teil der ägyptisch-griechische Urkundenschreiber und der fränkische Gerichtsschreiber angeführt wird, geht die wohl überwiegende Meinung davon aus, dass sich aus dem byzantinischen Staats-, Gerichts- und Urkundenschreiber ausgehend von den oströmischen Provinzen in Italien das norditalienische Notariat des frühen Mittelalters entwickelt hat. Ab dem 12. Jahrhundert war das Notariat auch nördlich der Alpen auf dem Vormarsch, wo es sich im Verlauf des 14. Jahrhundert allmählich aus dem Umfeld der geistlichen Gerichtsbarkeit löste.
Die gemeinrechtliche Grundlage des deutschen Notariats bildet das rezipierte römisch-italienische Recht sowie die Reichsnotariatsordnung Maximilians I. von 1512. Die gemeinrechtliche Regelung des Notariats zeigte den Notar als eine mit öffentlichem Glauben ausgestattete Urkundsperson, die nicht nur außergerichtlich tätig wurde, sondern die Beurkundungstätigkeit zudem in den Dienst der Gerichtsbarkeit stellte. Das Ernennungsrecht der Notare stand dem Kaiser zu, der es dann aber auf Hofpfalzgrafen oder deren Substituten übertrug. Da eine feste rechtliche Grundlage des Institutes fehlte und häufig auch Personen zu Notaren ernannt wurden, die nicht über genügende rechtliche und praktische Kenntnisse verfügten, kam es zu Klagen über Missstände im Notariat. Maximilian I. strebte mit Erlass der Reichsnotariatsordnung vom 8.10.1512 eine allgemeine Rechtsreform an. Die Reichsnotariatsordnung beschränkte sich dabei auf Rahmenbedingungen, insbesondere zur Vorbildung der Notare und ihre Ernennung durch obrigkeitliche Approbationen.
Sie konnte als Rahmengesetz durch das gemeine und partikulare Recht ergänzt werden. Die eigentliche Schwäche des gemeinrechtlichen Notariats, die unzureichende Ausbildung und Unerfahrenheit der Notare, war damit indes keineswegs beseitigt. Dies veranlasste auch die Partikulargesetzgebung, entsprechende Vorschriften über die landesherrliche Rezeption oder Immatrikulation des Notars zu erlassen oder sogar das bisher gemeinrechtliche Notariat als ein rein landesrechtliches Institut in Anspruch zu nehmen.
Die Verwirklichung des von Maximilian I. verfolgten Ziels, auf dem Gebiet des Notariatswesens reichsübergreifend geordnete Verhältnisse zu schaffen, scheiterte letztlich bis zur Auflösung des Heiligen Römischen Reiches Deutscher Nation im Jahre 1806 am Widerstand der Landesfürsten.