Dalam perkembangannya dalam mendalami musik, Rhoma mulai menyadari bahwa meskipun ayah dan ibunya – pasangan berdarah ningrat – adalah penggemar musik, mereka tetap menganggap dunia musik bukanlah sesuatu yang patut dibanggakan atau dijadikan sebuah profesi.
Ibunya sering meneriakkan ‘berisik’ setiap kali ia menyanyi dan beranggapan bahwa musik akan menghambat sekolahnya. Kenyataan ini membuat bakat musik Rhoma justru semakin berkembang dari luar rumah karena di dalam rumah ia kurang mendapat dukungan.
Sewaktu Rhoma masih kelas 5 SD tahun 1958, ayahnya meninggal dunia. Sang ayah meninggalkan delapan anak, yaitu, Benny, Rhoma, Handi, Ance, Dedi, Eni, Herry, dan Yayang. Ketika kakaknya, Benny masih duduk di kelas 1 SMP, ibunya menikah lagi dengan seorang perwira ABRI, Raden Soma Wijaya, yang masih ada hubungan famili dan juga berdarah ningrat.
Ayah tirinya ini membawa dua anak dari istrinya yang terdahulu dan setelah menikah dengan Ibu Rhoma, sang ibu melahirkan dua anak lagi. Ketika ayah kandungnya masih hidup, suasana di rumahnya feodal. Sehari-hari ayah dan ibunya berbicara dengan bahasa Belanda. Segalanya harus serba teratur dan menggunakan tata krama tertentu.
Para pembantu harus memanggil anak-anak dengan sebutan Den (raden). Anak-anak harus tidur siang dan makan bersama-sama. Ayahnya juga tak segan-segan menghukum mereka dengan pukulan jika dianggap melakukan kesalahan, misalnya bermain hujan atau membolos sekolah.