Pada masa Pendudukan Jepang, Karim Oei ditugaskan menjadi Wakil Ketua Shu-Sangi-Kai (Dewan Pertimbangan Daerah).
Pada tahun 1945, Babadek (sapaan akrab masyarakat Bengkulu terhadap Karim Oei) terpilih menjadi anggota Komite Nasional Indonesia.
Setelah proklamasi, Republik Indonesia berdaulat, dia bergabung dengan Partai Masyumi.
Selain aktif di kepartaian dan organisasi Muhammadiyah, kariernya di luar urusan Politik pun terus melaju. Mulai dari menjabat Direktur Bank Muslimin Indonesia di Bengkulu, dan turut membidani kelahiran Bank Central Asia (1973), serta usaha lain di bidang asuransi, perdagangan, dan industri.
