这个事情还得从沂州城说起，沂州知府名叫高封，这高封本是高俅的族分兄弟，被梁山上杀的高唐州知府高廉，是他的亲哥哥，这个高封跟他的弟弟高廉一样，都会一些法术，这个高封无恶不作，而且还有一个癖好那就是专一好的是男风。
在水浒传一书中，入云龙公孙胜与高廉都是会法术的人，二人是神仙般的人物。公孙胜曾经与高廉斗过法，高廉最终因技不如人，败在公孙胜手下。二人都是跟随异人学习的法术，但是公孙胜一直是以道士的身份在江湖上行走，而高廉在学会异术后投靠了朝廷。
高廉是高俅的弟弟，他与高俅二人是不懂军事政治的人，高俅依靠着自己的踢球爱好赢得了当时皇帝的喜爱，被皇帝任命为殿帅府太尉。高廉也凭着自己哥哥的官职做了一州的长官。高廉在审理柴进时得罪了梁山，梁山派军来救柴进。
高廉的夫人殷氏有个弟弟，在乡里借着高廉的势力为非作歹，将柴进的叔叔打伤了，柴进与他争执，不料柴进手下的庄客将他打死。高廉将柴进抓了起来，意欲将柴进杀了为舅子报仇，但由于柴进家里有丹书铁券，高廉不敢轻易妄为。
公孙胜是梁山派来专门对付高廉的，因为事先已经得知高廉是会法术的。入云龙公孙胜依靠着自己的法术，破了高廉的妖法，使得高廉兵败身亡，梁山救出了柴进。高廉手下有三百神兵，但是遇到了公孙胜，就成了木偶玩具。
高廉在与公孙胜斗法时，之所以被破，是因为邪不压正。高廉代表着邪恶的一方，他虽为官一方，但是却不为民办事，并且对手下人欺压百姓睁一只眼闭一只眼。而公孙胜却是代表着正义的一方。
高廉与高俅这两人的性格很相似。高俅的儿子高衙内看上了林冲的妻子，遭到了林冲的棍棒教训，高俅为了替儿子出气，就陷害林冲，使得林冲最后家破人亡。高廉的舅子殷天锡被柴进教训致死，高廉就将柴进抓入监狱中折磨。
高廉因为抓了柴进遭到了梁山的打击，虽然懂得妖法，但是在公孙胜面前输了战争，不仅城池被梁山破了，全家也被梁山杀死。高俅在听到高廉的死讯后，出兵进攻梁山。虽然高俅准备得很妥当，但是在梁山好汉面前依然吃了亏，最后还被梁山俘虏了。
高俅和高廉在书中是以贪官污吏的身份出现的，他们平常干的事情就是欺压百姓，高廉借着高俅的势力在高唐州为非作歹，高廉的舅子殷天锡借着高廉的势力在乡里为非作歹。这些贪官污吏和流氓无赖使得很多人起来反抗，最后这些人聚到了梁山。