如果国家机关在刑事诉讼程序中违法造成当事人精神损害的,国家机关确有道歉义务。但在你说的这种情形中,通常被告人已经被逮捕,根据规定是由作出逮捕决定的机关(一般是检察院)作为赔偿义务机关。也就是说,一般由检察院负责赔礼道歉。
《国家赔偿法》
第十七条 行使侦查、检察、审判职权的机关以及看守所、监狱管理机关及其工作人员在行使职权时有下列侵犯人身权情形之一的,受害人有取得赔偿的权利:
(一)违反刑事诉讼法的规定对公民采取拘留措施的,或者依照刑事诉讼法规定的条件和程序对公民采取拘留措施,但是拘留时间超过刑事诉讼法规定的时限,其后决定撤销案件、不起诉或者判决宣告无罪终止追究刑事责任的;
(二)对公民采取逮捕措施后,决定撤销案件、不起诉或者判决宣告无罪终止追究刑事责任的;
(三)依照审判监督程序再审改判无罪,原判刑罚已经执行的;
(四)刑讯逼供或者以殴打、虐待等行为或者唆使、放纵他人以殴打、虐待等行为造成公民身体伤害或者死亡的;
(五)违法使用武器、警械造成公民身体伤害或者死亡的。
第三十五条 有本法第三条或者第十七条规定情形之一,致人精神损害的,应当在侵权行为影响的范围内,为受害人消除影响,恢复名誉,赔礼道歉;造成严重后果的,应当支付相应的精神损害抚慰金。
《最高人民法院最高人民检察院关于办理刑事赔偿案件适用法律若干问题的解释》(法释〔2015〕24号)
第十一条 对公民采取拘留措施后又采取逮捕措施,国家承担赔偿责任的,作出逮捕决定的机关为赔偿义务机关。