Nước cứng không có nghĩa là băng, là đá. Đó là tên được đặt cho nước chứa nồng độ cao ion Ca²⁺ và trong một số trường hợp là Mg²⁺, ngoài ra có thể có các cation kim loại hóa trị II khác. Đi kèm với các cation này sẽ là các anion khác nhau, đặc biệt là anion hydrogencarbonate, HCO₃^–.
Nước thu được từ các hồ chứa nước mưa thường không chứa nồng độ cao các ion này và do đó không được phân loại là "nước cứng". Tuy nhiên, ở nhiều nơi, nguồn cung cấp nước của thành phố được lấy từ tầng nước sâu dưới lòng đất. Nếu nước mưa có chứa một ít CO₂ hòa tan phải thấm qua các lớp đá vôi (CaCO₃) để vào tầng nước ngầm thì một lượng nhỏ chất rắn sẽ hòa tan do có cân bằng sau:
CaCO₃(s) + CO₂(aq) + H₂O(l) Ca²⁺(aq) + 2HCO₃⁻(aq) (I)
Ở quy mô nhỏ, hầu hết các hệ thống lọc nước gia đình đều sử dụng phương pháp trao đổi ion để làm mềm nước (Hình ảnh).

Nguyên tắc của quá trình này là thay thế ion đang được hấp phụ (ion A) trên vật liệu “nhựa trao đổi ion” bằng ion khác trong dung dịch (ion B). Hiện nay, các polymer hữu cơ tổng hợp có các nhóm chức tích điện âm (chẳng hạn như nhóm carboxylate, –CO₂^–) là loại nhựa được sử dụng phổ biến nhất để tạo ra vật liệu “nhựa trao đổi ion”. Các ion sodium, Na⁺, có trong nhựa sẽ bao quanh bề mặt của nhựa để trung hòa về mặt điện tích.
Tuy nhiên, tương tác của bề mặt vật liệu với các cation đa điện tích lớn hơn là các cation đơn điện tích. Do đó, khi dung dịch nước cứng đi qua bề mặt nhựa trao đổi ion, ion Ca²⁺ và Mg²⁺ (các cation đa điện tích) sẽ dễ dàng thay thế ion Na⁺ (các cation đơn điện tích) trên bề mặt. Quá trình này có thể được minh họa một cách tổng quát như sau:
2NaX + Ca²⁺(aq) CaX₂ + 2Na⁺(aq)
Trong đó X đại diện cho vị trí hấp phụ trên nhựa trao đổi ion. Trạng thái cân bằng thuận lợi cho sự hấp phụ Ca²⁺ và giải phóng Na⁺. Tuy nhiên, trạng thái cân bằng bị đảo ngược nếu ion Na⁺(aq) có trong dung dịch ở nồng độ cao và điều này cho phép tái sử dụng nhựa trao đổi ion. Dung dịch chứa nồng độ Na⁺ cao (thường là từ muối NaCl) được đưa qua nhựa để chuyển nhựa trở lại dạng ban đầu.