Bergvärme utnyttjar det faktum att grundvattnet i berget håller en mycket stabil temperatur året runt, oavsett årstid. I Sverige ligger denna temperatur konstant på 6-8 grader Celsius på de djup som används för bergvärmeanläggningar.
Denna konstanta temperatur beror på att grundvattnet ursprungligen värmts upp av solen när det befann sig vid jordytan, och sedan behållit denna temperatur när det sjunkit ner i berggrunden. Även närliggande hav och större sjöar bidrar till att stabilisera temperaturen.
För en vanlig enfamiljsvillainstallation borrar man 90-200 meter djupt i berget, där temperaturen är mycket stabil. Detta ger bergvärmepumpen en enorm fördel jämfört med luftvärmepumpar som måste hantera utetemperaturer som kan variera från -30°C till +30°C - bergvärmepumpen har alltid samma förutsättningar att arbeta under.