它的上司司务长，就是管理连队全部事务工作的长官。但是，当时对庶务一词的规范，还没有像会计那样，既是指一种业务工作，又是指一种职务名称。

所以，人们逐渐地把庶务的职位与上士的头衔联系起来，称作庶务上士，用这种职位加头衔的方法来表示对担任庶务职务者的称呼。

时间一长，人们逐渐省略了庶务二字，只用上士一词来表示对庶务职务的称呼了。慢慢地，许多人不了解过去的衍化过程，认为上士就是庶务工作者的职务称谓。

这种误会不仅仅表现在人们的口头称呼上，而且还写入了正式编制表。例如，红一方面军1933年发布的《关于军职分别的训令》里，就列有上士这一职务。新四军的文件中，一个人有两个上士头衔，一个是职务上士，一个是军衔上士。

1946年3月，新四军兼山东军区司令部发布的《本军划分军队官兵阶级的说明与规定》中，在连队的编制军衔栏目中说：“文书可评上士、上士可评上士。”第二个上士是职务，第三个上士是军衔，一个人具有两个上士头衔。

在以往长达20多年时间里，国民党军队和解放军的领导机关，对这种把上士衔称当成职务名称的现象，见怪不怪，谁也没有把它看作是个问题，而去追溯究竟是怎么回事。

1955年解放军实行军衔制时，主管部门大概意识到，在编制军衔表中将会出现“上士的编制军衔为上士”的现象，为避免职务上士与军衔上士重复，才把既有的上士职务改称为给养员，结束了军衔上士被异化为职务的历史。。