战国时候，齐宣王喜欢听人吹竽（一种簧管乐器），而且特别喜欢许多人一齐吹奏的热闹场面。因此，他专门组织了一支三百人的吹竽乐队，每次演奏都让这三百人一起吹。
有个南郭先生，其实根本不会吹竽，可他见有机可乘，便设法混进了这支乐队。每次乐队合奏时，他就鼓着腮帮、按着竽眼，装出一副摇头晃脑、十分卖力的样子，看上去和别人没什么两样。就这样，他滥竽充数，居然也和真正的乐师一样，领取了一份优厚的俸禄，日子过得挺舒服。
后来，齐宣王死了，他的儿子齐湣王继位。齐湣王也爱听吹竽，可他的爱好却和父亲不同——他不喜欢合奏，而喜欢让乐师一个一个地单独吹给他听。
这下，南郭先生可傻了眼。他知道自己根本不会吹竽，单独演奏一定会露馅。于是，没等齐湣王点到他，他就赶紧收拾东西，偷偷地溜走了。