时朝士多言北伐之计，惟东海人徐羡之默然。裕问羡之曰：“卿何独不然？”羡之曰：“今四方已平，拓地万里，惟有小羌未定，明公寝食不安，何可轻预其议耳？”裕曰：“姚氏不小，岂可轻之？故宜早讨。”于是裕入朝见帝，戒严诸将伐秦。以刘穆之为左仆射，入居东府。
穆之内总朝政，外供军旅，决断如流，事无塞滞，求诉咨禀，盈阶满室。穆之目览耳听，手写笺书，寻览校定。而性奢豪，食必方丈，未尝独餐。尝白裕曰：“穆之家本贫贱，赡生多阙。自叨忝以来，朝夕所须，微为过丰，然此外一毫不以负公。”由是刘裕深相重之。
时宁州献琥珀枕于刘裕，裕以琥珀能治金疮，命碎之以赐从征将士。以世子义符为中军将军，监留府事。即命刘穆之领军司，入居东府，总摄内外，司马徐羡之副之。遂发建康，遣将军王镇恶、檀道济将步军，自淮、肥向许、洛；朱龄石、胡藩移阳城；沈渊子、傅泓之趋武关；沈林子、刘遵考将水军出石门，自汴入河；以王仲德督前锋，开渠入河。分拨已定，令依计而行。镇恶领命欲行，前将军刘穆之谓曰：“昔晋文王委蜀于邓艾，今刘公亦委卿以关中，卿其勉之！”镇恶曰：“吾等因托风云，并蒙拔擢，今此一行，正是效命之秋，如若咸阳不克，誓不济江！三秦既定，而公九锡不至，亦卿之责矣！”