关胜乃三国时名将关羽嫡传子孙，长相与祖上关云长颇为相似，也使一把青龙偃月刀，精通兵法，绰号“大刀”。
关胜熟读兵书，深通武艺，担任蒲东巡检，后得太师蔡京赏识，被调往梁山泊攻打宋江起义军。
关胜一人大战林冲、秦明，渐渐不敌，因宋江爱惜关胜人才，不忍伤关胜，才下令鸣金收兵。
关胜用计擒住水军头领张横、阮小七。呼延灼用诈降之计引关胜兵马进入宋江大寨，关胜被挠挂钩拖下马鞍活捉。
关胜感宋江重义气，归顺了梁山。蔡京于是又调兵马进攻梁山。关胜和“圣水将”单廷珪大战，达到诱敌的效果后，用绝招“拖刀计”将单廷珪拍下马，劝服他归顺梁山。
关胜因为是武圣关羽之后，又十分勇武，深得宋江喜爱。排梁山马军五虎将第一位，坐梁山第五把交椅。
梁山众将受招安后，关胜随宋江出征，冲锋陷阵，与花荣，张清合力杀死辽国都统军兀颜光；在扫田虎、平王庆过程中屡立战功；征方腊战常州刀斩方腊手下名将钱振鹏，逼死击败梁山战将多人的南军大元帅石宝，最终功成回京，金殿受封为大名府正兵马总管，甚得军心，众皆钦服。一日，操练军马回来，因酒醉失脚落马，得病而亡。
根据史料记载，历史上的关胜并非梁山好汉，是作者施耐庵虚构的。