你說的是用node寫負載均衡的服務？還是在nginx這種負載均衡下運行的node？ 如果是前者，你要看一下負載均衡的實現原理。我理解你是后者，因為你說要做分布式系統。我說一下后者的實現。
分布式系統的核心就是無狀態主機，數據盡量都存在分布式數據庫中。假設你用nginx做負載均衡，后面掛了3臺機器，一個request進來，負載均衡會分發到任意一臺主機上去。比如用戶的登錄request，這個request中只要包含用戶的AccessToken，任何一臺主機，都可以到數據庫里找到對應的用戶信息，完成操作就可以了。
要做分布式系統，就盡量把功能拆分成小的服務，以后可以根據需要，把不同的服務部署在不同機器上。