一個完整的ODBC由下列幾個部件組成： 應用程序(Application)。 ODBC管理器(Administrator)。該程序位于Windows控制面板(Control Panel)的管理工具內，其主要任務是管理安裝的ODBC驅動程序和管理數據源。 驅動程序管理器(Driver Manager)。驅動程序管理器包含在ODBC32.DLL中，對用戶是透明的。其任務是管理ODBC驅動程序，是ODBC中最重要的部件。 ODBC API。 ODBC 驅動程序。是一些DLL，提供了ODBC和數據庫之間的接口。 數據源。數據源包含了數據庫位置和數據庫類型等信息，實際上是一種數據連接的抽象。 應用程序要訪問一個數據庫，首先必須用ODBC管理器注冊一個數據源，管理器根據數據源提供的數據庫位置、數據庫類型及ODBC驅動程序等信息，建立起ODBC與具體數據庫的聯系。這樣，只要應用程序將數據源名提供給ODBC，ODBC就能建立起與相應數據庫的連接。
在ODBC中，ODBC API不能直接訪問數據庫，必須通過驅動程序管理器與數據庫交換信息。驅動程序管理器負責將應用程序對ODBC API的調用傳遞給正確的驅動程序，而驅動程序在執行完相應的操作后，將結果通過驅動程序管理器返回給應用程序。
在訪問ODBC數據源時需要ODBC驅動程序的支持。用Visual C++5.0安裝程序可以安裝SQL Server、 Access、 Paradox、 dBase、 FoxPro、 Excel、 Oracle 和Microsoft Text等驅動程序．在缺省情況下，VC5.0只會安裝SQL Server、 Access、 FoxPro和dBase的驅動程序．如果用戶需要安裝別的驅動程序，則需要重新運行VC 5.0的安裝程序并選擇所需的驅動程序。