Trong những ngày đầu, trại tập trung Mauthausen chủ yếu giam giữ người Đức và Áo. Lực lượng SS phân loại tù nhân dựa trên lý do họ bị đưa đến trại tập trung. Các hình tam giác với màu sắc và chữ cái khác nhau được sử dụng để xác định tù nhân theo hệ tư tưởng của Đức Quốc xã: tội phạm (loại “tội phạm chuyên nghiệp”), phần tử chống đối xã hội, đối thủ chính trị (“bảo vệ giam giữ”), người di cư, Nhân chứng Jehovah (“học viên Kinh Thánh”), người đồng tính luyến ái (“§ 175”), người Do Thái, người Roma và Sinti (“Gypsy”), thành viên Wehrmacht, tù nhân từ hệ thống hình sự hoặc “công nhân dân sự”.
Tù nhân phải hiển thị phân loại này trên kz uniform của họ; phân loại cũng quyết định cơ hội sống sót. Mỗi loại được liên kết với mức độ khủng bố mà SS sử dụng, chỗ ở tốt hơn hoặc tồi tệ hơn hoặc triển vọng về một vị trí đặc quyền trong tổ chức trại. Những người bị đánh dấu là “Người Do Thái” có cơ hội sống sót thấp nhất. Tù nhân thuộc loại “giam giữ phòng ngừa” – tù nhân từ hệ thống hình sự bị đưa đến trại tập trung Mauthausen từ năm 1942 – cũng thường bị giết trong một khoảng thời gian rất ngắn. Ngược lại, tội phạm, đặc biệt là trong nửa đầu của cuộc chiến, dễ dàng có được một vị trí như một chức năng tù nhân hơn. SS đã sử dụng sự phân chia những người bị trục xuất thành các loại và cách đối xử khác nhau để khơi dậy sự cạnh tranh giữa các nhóm tù nhân khác nhau.
Sau cuộc tấn công vào Ba Lan và sự bùng nổ của Thế chiến thứ hai, người dân từ các vùng lãnh thổ bị chiếm đóng đã được vận chuyển đến các trại tập trung trong Đế chế. Do đó, thành phần của “xã hội tù nhân” ngày càng trở nên quốc tế.
Các tù nhân trong trại tập trung giờ đây phải hiển thị nguồn gốc quốc gia của họ trên kz uniform bên cạnh loại tù nhân của họ. Việc dán nhãn theo quốc tịch cũng có ảnh hưởng quyết định đến cơ hội sống sót trong trại tập trung. Các tù nhân có tiếng mẹ đẻ Slavơ có vị trí kém hơn đáng kể so với những người đến từ Bắc Âu. Tù binh chiến tranh từ Liên Xô nói chung chỉ có thể sống sót trong một thời gian rất ngắn trong trại tập trung. Nhưng những thay đổi là có thể trong bảng xếp hạng quốc gia này. Ví dụ, trong khi những người Cộng hòa Tây Ban Nha chạy trốn Franco lúc đầu bị cố ý sát hại, sau khi những nhóm tù nhân mới đến bị coi là thù địch hơn với chế độ, họ đã có thể tiến lên hệ thống phân cấp của trại và cuối cùng đảm bảo cơ hội sống sót tốt hơn nhiều.
Từ năm 1938 đến năm 1945, khoảng 190.000 người từ hơn 40 quốc gia khác nhau đã bị giam cầm tại trại tập trung Mauthausen/Gusen. Ít nhất 90.000 người trong số họ đã chết trong các trại này.