Di salah satu area yang ada di bangunan ini terdapat kolam mata air panas, maka tak heran bangunan ini diberi nama Bath House. Situs tersebut dianggap suci oleh orang Celtic yang tiba di kawasan ini sekitar 700 tahun sebelum kependudukan Romawi. Mereka menghubungkan kekuatan penyembuhan mata air dengan sosok Dewi Sulis dan mendirikan kuil untuk menghormatinya.
Setelah bangsa Romawi tiba di tempat ini, mereka mulai membangun kompleks di tempat suci dan menamainya dengan Aquae Sulis, yang diterjemahkan menjadi "mata air Sulis."
(Baca Juga: Ditutup Selama 24 Tahun, Bandara di Inggris Ini Akan Beroperasi Lagi)
Orang Romawi rupanya menyadari pentingnya kesaktian Sulis terhadap orang-orang di barat daya Inggris dan memutuskan untuk mempersembahkan situs tersebut kepada Sulis dan dewi penyembuhan Romawi, Minerva.