《党小组长》讲述了航运局党小组长杨杨坚持原则、敢于较真的故事。
刘局长是航运局里颇有权势的人物。一次视察工作返城途中，他在公路上受到市委书记女儿的捉弄，虽然心中恼怒，却因对方的身份不敢发作。小车司机杨杨不畏权势，出面治服了书记的女儿，替刘局长出了气。事后，刘局长极力推荐杨杨担任党小组长。
杨杨上任后，从前任组长留下的记录本中发现，刘局长已经几个月没有缴纳党费，便前去催缴。刘局长提出今后由会计科每月直接扣除，杨杨却提醒他，党费不是党税；如果连续六个月不缴党费，就等于自动退党。
梅嫂听说杨杨是唯一敢管局长的人，便来向他反映问题。原来，梅嫂一家三代人多年来一直挤在一间破屋里，好不容易分到一套新房，却因为刘局长的儿子要结婚，房子又被收了回去。杨杨决定召开党小组会，帮助解决这件事，但刘局长拒绝参加。杨杨只好直接找他谈话，刘局长则认为，分房属于行政部门的工作，党组织不能什么都插手。
后来，杨杨陪刘局长一家到郊外旅游，却与他们发生了矛盾。刘局长要求杨杨在会上作公开检讨，没想到杨杨反而当众批评刘局长搞不正之风。事后，他又依据党章，诚恳指出刘局长存在的缺点。恼怒之下，刘局长决定把杨杨调出机关。
这时，市委书记向刘局长透露，党代会即将召开，他能否继续担任局长，关键在于能否当选党代表。刘局长听出了其中的意思，马上改变了对杨杨的态度，并把房子退还给梅嫂。
选举会上，杨杨代表机关党小组向大会提出，刘局长已经八个月没有缴纳党费，一年多没有参加组织生活，不具备当选党代表的资格，顿时引起全场哗然。影片结尾，杨杨驾驶卡车出现在一条宽阔的公路上。曾经的党小组长为何改开卡车，他是否还继续担任党小组长，也留下了耐人寻味的思考。
