讀讀下面這本書就可以有個大體概念：
Language Implementation Patterns
還有一本，我沒讀過不過主題挺合適題主的：
Introduction to Compiler Construction in a Java World

如果按問題描述來，“Scala、Clojure、JRuby這類的編程語言是如何實現的？”，要回答這個問題就得下到更細節的層面，不是三言兩語能說清楚的。

偷個懶，還是建議題主先讀讀前面兩本書再說。

Scala和Clojure在JVM上的實現都是把程序靜態編譯到Java字節碼然后再交由JVM執行。

JRuby自身有混合執行系統，有一個用Java寫的解釋器和一個編譯器。
解釋器可以直接解釋執行Ruby程序。以前JRuby的解釋器是AST解釋器，新版用的是一個IR解釋器。
編譯器把Ruby程序編譯為Java字節碼再交給JVM執行，不過這個編譯通常是運行時做的而不像Scala和Clojure是靜態做的。