墨与笔，砚的发明几乎同时发端于新石器时代的晚期。

根据是：第一，在新石器时代，我们的祖先就知道利用黑色作为美术装饰了。从国内先后发现的几百处这一时期的文化遗址来看，这一时期已出现了陶器，并有红灰黑彩之分，其中黑陶和彩陶更为优美。

第二：从殷墟发掘的甲骨中，有墨书甲骨一类，一般都写在正面的。可见，殷代已掌握了用墨书于甲骨，还用墨与朱砂涂甲骨上所刻文字，以示清晰。
　
第三，最早有墨的记载的古文献是＜尚书＞和＜仪礼＞，前者记载了墨刑，后者记录了黑绳。后汉李尤《墨面铭》说：“书契既造，墨面乃陈。”可见墨的出现是很早的。

墨可分为天然墨和人工墨两类。天然墨指的是天然的石墨和经蒸煮后鼎，鬲腹下的墨胭脂即炭黑。据《述古书法纂》记载：“邢夷始制墨，字从黑土，煤烟所成，土之类也。”也就是说人工墨的历史起始于周宣王。邢夷制墨也就是人工墨的开始，人工墨的出现，从它的质量、使用价值，以及审美观等等方面都大大超过了天然墨，而天然墨被渐渐淘汰。人工墨的形成的各种形式，直至用墨模制成各种形状，其间经历了漫长的时间。

古代制墨所采用的主要原料有松烟、漆烟和桐烟。最先使用的是松烟，其次是漆烟和桐烟。墨的烟料须经过燃烧，才能制成，烟料是半成品，再经过入胶，和剂、蒸杵等工序制成墨锭，才是成品。 　

秦汉时期墨的主要原料是松烟，也有以漆烟和松烟和而成的。

东汉时由于纸的发明，笔的改进，书画的需求促使墨也有了较在的改进。

晋时制墨的工艺又有了新的提高，发明了用胶配制。隋唐五代时期制墨更加受到重视，政府设官办厂，产地由前代的扶风，扩展到易水和潞州，这些地方不但产松，而且所产之松皆很名贵，为制造上等墨创造了条件。

唐末由于安史之乱，大量北方墨工纷纷南迁。导致制墨中心南移，此后徽墨雄踞天下。

宋元时期制墨主要是徽墨天下，墨中添入药物的药墨开始出现，此时人们不但用墨也开始藏墨，因此墨干进一步向工艺品方向发展。

明代制墨工艺又有了发展，前代秘方桐烟和漆烟制墨方法被广泛采用，墨色黑润，气味清香。明代和清代前期是徽墨的盛世。墨的图案的绘刻和漆匣的装潢制作，都达到了登峰造极的境界。明清两代“集锦墨”的制成，正是中国绘画、书法、雕刻、漆器、纺织、螺钿、裱糊等艺术高度发达的集中表现。此时制墨名家的墨版直接取材于书画作品、诗文题咏。尤其是微形书画雕刻作艺术品，价值极高。