Persona 4 lấy bối cảnh tại một vùng nông thôn tưởng tượng ở Nhật có tên Inaba. Cốt truyện xoay quanh nhân vật chính là Yu Narukami, một thiếu niên từ thành thị mới chuyển về Inaba - và nhóm bạn của cậu. Tại Inaba bỗng nhiên xảy ra các vụ giết người hàng loạt huyền bí
Có một sinh vật tà ác được gọi là Aratama tấn công mọi người, và một nhóm Miko đang diệt trừ những sinh vật đó bằng cách sử dụng kiếm từ thời cổ đại. Những người mặc đồng phục và kiếm được gọi là Toji, người được chính thức gọi là Tokubetsu Saishi Kitoutai (Đội Đặc nhiệm Nghi thức Ritual) trong hiệp hội cảnh sát. Họ chính thức được chấp thuận sử dụng thanh kiếm của các quan chức chính phủ.
Vào năm 1274, một vị vua đáng sợ cùng với một đạo quân ngoại quốc đang tiến tới từ phía bên kia của biển. Sự kiện lớn Gekkou (Đây là sự kiện về cuộc chiến chống quân xâm lược Mông Cổ hung hãn của Nhật Bản) đã làm chấn động toàn Nhật Bản thời Trung Cổ.
Sau chiến tranh, những Extend tồn tại rất nhiều khắp đường phố, họ là những người đã bị biến đổi để trở thành một món vũ khí nguy hiểm. Inui Juuzou cũng là một Extend như thế. Anh không còn chút ký ức gì về cuộc sống trong quá khứ của mình, cũng không nhớ ai đã thay cái đầu của mình thành một khẩu súng khổng lồ.
Endou Mamoru là thủ môn trường Raimon. Endou phải đi chiêu mộ thành viên và nếu không muốn câu lạc bộ xảy ra chuyện thì xem sẽ rõ. Nhờ vào sự nhiệt tình của Endou Mamoru, CLB bóng đá trường trung học Raimon đã không bị giải tán và dần trở nên tốt đẹp hơn. Đội bóng trường Raimon đã đánh bại nhiều đội bóng mạnh và hướng tới trận chung kết.