非法储存枪支和非法持有枪支在客观方面、针对对象、社会危害程度等方面存在区别。
从客观方面来看,依据相关司法解释,非法储存是指明知是他人非法制造、买卖、运输、邮寄的枪支、弹药而为其存放的行为;而非法持有是指不符合配备、配置枪支、弹药条件的人员,违反枪支管理法律、法规的规定,擅自持有枪支、弹药的行为。也就是说,非法储存强调的是对他人非法制造、买卖、运输、邮寄的枪支进行存放的行为;非法持有更侧重于擅自持有枪支的状态,不强调枪支的来源是否涉及其他非法行为。
针对对象不同。非法储存枪支所针对的枪支一般是数量较大且来源明确涉及其他非法环节(非法制造、买卖、运输、邮寄)的枪支;而非法持有枪支所涉及的枪支数量通常相对较少,可能是来源多样的枪支,不一定与其他特定的非法行为有直接关联。例如,张三帮李四存放李四通过非法买卖获得的多支枪支,这可能构成非法储存枪支;而王五自己私自捡到一把枪并留存,就可能构成非法持有枪支。
两者的社会危害程度存在差异。由于非法储存枪支往往涉及枪支数量较多,且与其他非法行为相联系,其对公共安全的潜在威胁更大,社会危害程度相对较高;非法持有枪支虽然也对公共安全造成威胁,但通常在危害程度上相对非法储存枪支要低一些。
最后,在量刑方面也有所不同。根据《中华人民共和国刑法》规定,非法储存枪支的量刑相对较重,非法制造、买卖、运输、邮寄、储存枪支、弹药、爆炸物的,处三年以上十年以下有期徒刑;情节严重的,处十年以上有期徒刑、无期徒刑或者死刑。而非法持有枪支的,处三年以下有期徒刑、拘役或者管制;情节严重的,处三年以上七年以下有期徒刑。

法律依据:
《中华人民共和国刑法》 第一百二十八条
违反枪支管理规定,非法持有、私藏枪支、弹药的,处三年以下有期徒刑、拘役或者管制;情节严重的,处三年以上七年以下有期徒刑。
依法配备公务用枪的人员,非法出租、出借枪支的,依照前款的规定处罚。
依法配置枪支的人员,非法出租、出借枪支,造成严重后果的,依照第一款的规定处罚。
单位犯第二款、第三款罪的,对单位判处罚金,并对其直接负责的主管人员和其他直接责任人员,依照第一款的规定处罚。