东汉许慎的《说文解字》中说：“墨，书墨也，从土从黑。”这里所说的墨是天然墨。1980年，从陕西临潼姜寨村仰韶文化墓葬中出土了一套完整的绘画工具，有石砚、研石、水盂和黑红色铁矿石。这块铁矿石就是天然墨。
　　一般认为，人工墨的制作始于周代。《述古书法纂》中说：“刑夷始制墨，字从黑土，煤烟所成，土之类也。”1975年12月，从湖北云梦县睡虎地秦墓中出土了一块墨，纯黑色，粗糙，长丸状，直径2.1厘米，高1.2厘米。这是迄今发现的最早的人工墨，距今已有两千余年了。
　　古人制墨，通常用石墨、松烟、漆烟和油烟等。三国时魏国诗人曹植有诗云：“墨出青松烟，笔出狡兔翰。”可见，魏晋之前，人们就知道用松烟制墨了。最初的墨是粉末状，后来为便于储存和保管，经过入胶、和剂、蒸杵等工序，制作成固态的墨，于是有了墨丸和墨锭。
　　汉代制墨已具有一定规模，当时产地主要在陕西的扶风等地。
　　魏晋南北朝时期。书画发展迅速，出现了一大批负有盛名的书画艺术家。钟繇、王羲之、顾恺之、陆探微等受到了世人的广泛推崇。书画事业的发展也直接影响了墨的工艺提高。著名书画家韦诞对松烟墨进行了改良。加入了珍贵的珍珠、麝香等。使墨具有独特的香味。
　　隋唐时期文化十分发达，书画艺术得到了较大发展。墨业市场也非常繁荣。
　　徽墨生产始于南唐。开创者是奚超、奚廷圭父子。他们发现皖南松烟品质优良，适合做墨，便用松树为原料，并改进了捣松、和胶等技术，制造出“丰肌腻理、光泽如漆”的佳墨。南唐后主李煜雅爱书画，招奚廷圭担任墨务官，赐李姓，所制墨称为“李墨”、“廷圭墨”或“歙州李廷圭墨”等。民间俗谚称：“黄金易得，李墨难求。”
　　宋时，制墨业非常繁荣。黟县的张遇、黄山的沈桂、歙州的潘谷等都是制墨名家。潘谷甚至被世人誉为“墨仙”，他毕生研究制墨工艺。制的墨为一时之冠。文人雅士皆以收藏潘墨为时尚。他制作的“东庭枢阁”、“松丸”、“狻猊”、“犀角盘双龙”等墨，有“香彻肌骨，磨研至尽，而香不衰”的优点，被誉为“墨之神品”。宋代何蘧(wei)的《春渚纪闻》中记载，有一次黄山谷将自己所藏之墨，请他鉴定，他用手触一触墨囊，便告诉黄山谷说：“此李承晏之软剂，今不易得。”又拿一囊，说：“此(潘)谷二十年前造者，今精力不及，无此墨也。”黄山谷取出来一看，果然如此。潘谷为人豪爽。不拘小节。不慕名利，晚年因酒醉落井而死。苏东坡甚至写下“一朝入海寻李白，空看人间画墨仙”的诗句来悼念他。
　　宋徽宗宣和三年(1121年)，歙州更名为徽州，管辖歙、黟、休宁、绩溪祁门、婺源六县，徽州所产的墨称为徽墨，一直沿袭至今。徽墨以松烟为原料，经过和烟、和料、压磨、晾干、挫边、描金、装盒等工序精制而成。色泽墨润，坚而有光，入纸不晕。掭笔不胶，经久不褪，馨香浓郁。书画家评价：“拈来轻，磨来清，嗅来馨，坚如玉，研无声。”上等好墨则用桐油烟、麝香、冰片、金箔等名贵材料配制，墨色能分出浓淡层次，“落纸如漆，万载存真”。
　　元代制墨业承宋代余绪。其制墨以朱万初等人为代表，也有不少佳墨。
　　明代后期，资本主义经济开始萌芽，文化振兴，制墨名家辈出。最著名的有程君房、方于鲁、罗小华等。程君房在古人松烟制墨基础之上。首创出“烧漆取烟”法，质地、色泽超出了传统烟墨，拓展了新路，他不断改进配方，加入麝香、冰片和珍珠等，使墨更加细腻，更富色泽并香气袭人。程君房制墨有“玄元灵气”、“寥天一”、“百老图”、“龙九子”、“天府永藏”等名品可为代表。
　　清代制墨发展呈现出多元化的特色。曹素功、汪节庵、汪近圣、胡开文等先后崛起。号称清墨“四大家”。
　　清末民初以来，由于西方文化的影响，生活节奏的加快，墨汁得到了普遍的应用。墨汁在重视实用功能、普及书画艺术方面具有重要的现实意义。现代墨汁主要原料是墨灰和骨胶。比较有名的墨汁有红星、中华、一得阁、曹素功、胡开文等多种品牌。
　　好墨，具有“质细、胶轻、色黑、声清”等特点。质细，是指墨中无杂质，气泡小、气泡少或无气泡，结构密，磨成的墨汁颗粒较细。胶轻，指墨中配入的胶质少。磨成的浓墨不泥，不涩笔。色黑，指墨色黑得沉着，有神采，黑中泛紫光的墨最好，纯黑次之，泛青光的又次之，泛白光的最差。声清，是指研磨或敲击时声音清细，而不是粗浊。