Os trocadores de calor podem ser feitos de uma variedade de materiais diferentes, embora metais, como o aço inoxidável, sejam comumente usados devido à sua capacidade de absorver e conduzir calor. Assim como metais, cerâmicas, compósitos à base de metal e cerâmica e plásticos podem ser usados para fazer trocadores de calor. Cada um desses materiais oferece vantagens próprias, tornando-os adequados para diferentes aplicações.
Os metais oferecem boa condutividade térmica, absorção de calor e resistência a altas temperaturas, mas a cerâmica pode ser usada para aplicações em temperaturas mais altas de mais de 1000 graus, o que derreteria metais como cobre, ferro e aço. A cerâmica também é usada com fluidos abrasivos e corrosivos de alta e baixa temperatura.
Os plásticos, ou polímeros, também podem resistir à corrosão e à incrustação, além de serem mais baratos e mais leves que os metais. Embora possam ser projetados para terem boa condutividade térmica, os plásticos geralmente não são adequados para aplicações em altas temperaturas. No entanto, em aplicações mais frias, como aquecimento de piscina ou chuveiro, os trocadores de calor de plástico funcionam perfeitamente bem.
Os trocadores de calor compostos oferecem as vantagens de seus materiais originais, como o menor peso e a resistência à corrosão do plástico com a condutividade térmica e a resistência ao calor de uma cerâmica ou metal.
Outros materiais também estão sendo explorados para uso em trocadores de calor, como minúsculos nanotubos de carbono, que estão sendo usados como dissipadores de calor para dispositivos eletrônicos devido às suas excelentes propriedades condutoras de calor.