金陵图书馆下设办公室(安全保卫部）、党群人事部、事业研究部、宣传营销部、社会活动部、系统技术部、采访编目部、特藏发展部（古籍部）、综合阅览部、资源开发部、分馆建设部、图书借阅部、少儿工作部13个部室。各部门职责如下：
1.办公室（安全保卫部）。负责全馆财务、内控、采购、资产、合同、文书、档案、考勤、安全、卫生、应急处突、群众诉求处理、后勤保障、物业等日常运行管理，与相关机构的外联、接待等服务保障，全馆会展场地保障等工作。
2.党群人事部。负责全馆各级党组织党建工作、纪检监察工作的开展，人事管理、人员招聘、人才引进、职称评定、工资薪酬、绩效考核评议，负责统一战线工作，对接工会、团支部、理事会等工作。
3.事业研究部。负责全馆整体业务规划、业务统计、总结计划撰写、馆员培训、继续教育、科研管理，图书馆业界及学会协调对接，区馆业务指导，业内刊物编发等工作。
4.宣传营销部。负责面向读者层面的内外宣传平台管理开发及营销，图书馆整体营销，活动统计及大型活动策划，国际交流，“益书来”品牌项目组织等工作。
5.社会活动部。负责策划组织“金图讲坛”“金图展览”“朗读者”等阅读推广品牌活动，对外普法活动和法治宣传，志愿服务管理等工作。
6.系统技术部。负责全馆信息化、智能化、数字化项目建设与组织实施，网络和软硬件系统维护，数字资源验收运维，网借线上服务等工作。
7.采访编目部。负责全馆图书和报刊等纸质文献资源采访编目审校，馆藏文献推介、常规性图书捐赠管理等工作。
8.特藏发展部（古籍部）。负责特藏文献管理及读者服务，地方文献和古籍等特色资源的征集、采访、整理开发和数字化加工等工作。
9.综合阅览部。负责三楼读者服务区域的日常管理和读者服务，全馆报刊文献的加工、入藏和管理工作，信息情报服务等工作。
10.资源开发部。负责二楼读者服务区域的管理和读者服务，数字资源建设规划、采购与推广，创新增值服务开发与运维管理业务等工作。
11.分馆建设部。负责办证处、无障碍阅览室等管理及读者服务，馆外流通体系的建设和维护，馆外服务阵地宣传和阅读推广等工作。
12.图书借阅部。负责图书借阅室和阅·荐空间的开放管理及读者服务，本馆荐购图书和全市公共图书馆区域流通图书文献的借还管理等工作。
13.少儿工作部。负责少儿服务区等开放管理及读者服务，统筹协调全馆少儿阅读推广工作，开展全市少儿图书室业务指导和日常考核等工作。
