王羲之7岁的时候，正式拜当时颇有名望的女书法家卫烁（世称卫夫人）为师学习书法。卫夫人师承钟繇，得其书法之妙。她不但向小羲之传授钟繇之法，而且教会他卫氏祖传的习书之法以及她自己多年练成的书法技巧。王羲之学得非常用心。他12岁之前临摹卫书，收效不错，但自己总觉得不满意。12岁那年，王羲之在父亲的书房偷偷地读了《笔论》一书，深有感悟。
随着年龄的增长，他渐渐地对东汉“草圣”张芝的书法产生了羡慕之情。卫夫人趁机因势利导，给他讲历代书法家勤学苦练的故事。王羲之听了张芝“临池”的故事很受感动，决心以此来激励自己，并认为：只要自己肯刻苦努力，一定能够赶超张芝。他不仅学习张芝写字的手法，而且也像张芝那样，经常到水池边上学习写字。
王羲之的家乡有一条河，河边有一个地方叫作新城，城内有一个很深的方形水池。他经常来这里学习写字。每当春天到来的时候，他便带上笔墨纸砚来到这里习字，一会儿用池里的水磨墨，一会儿用池子里的水涮笔。当他的墨笔投入池水中时，水里立刻出现一些黑云似的水墨。天长日久，池中的水就渐渐变黑了。随着池水的一天天变黑，王羲之的字也大有长进。不久，他写的字便超过了当时著名的书法家庾翼。