Sekolah ini mula beroperasi pada tahun 2001 dengan nama Sekolah Kebangsaan Pengkalan Jaya. Nama Pengkalan Jaya diilhamkan oleh guru besar pertama sekolah ini sempena gabungan nama tempat dan konsep kejayaan menyeluruh. Motif ini diabadikan pada lambang lencana sekolah dengan huruf bingkai PJ. Pada asalnya sekolah ini dinamakan dengan Sekolah Kebangsaan Tasek Gelugor II kerana pada peringkat perancangan awal, SKTG yang berada di Jalan Besar Tasek Gelugor akan berpindah ke sini sepenuhnya. Sehubungan itu, pada peringkat permulaannya, semua urusan mesyuarat dan perundingan dikendalikan oleh En. Aboo Hassan b. Ahmad selaku Guru Besar Sek. Keb. Tasek Gelugor.
Namun begitu, pada 08 November 2000 suatu mesyuarat khas telah diadakan di Pejabat Pendidikan Daerah Utara/Tengah bersama semua guru yang terpilih untuk ditempatkan ke SKPJ sebagai kumpulan pertama yang meneroka sekolah baru ini. Mereka terdiri daripada Haji Abdul Rahman b. Hj. Jamaludin (Guru Besar), En. Noor Azhar b. Mansor (Pen. Kanan Pentadbiran), Haji Sabri b. Hj. Sulaiman (Pen. Kanan Hal Ehwal Murid), En. Mohd Fuaad b. Ismail (Pen. Kanan Kokurikulum), bersama tenaga pengajar seramai 17 orang dan seorang Pembantu Tadbir serta seorang Pembantu Am Rendah. Memandangkan sekolah ini muncul secara ‘tiba-tiba’, maka pada tahun 2001 banyak kemudahan yang tidak lengkap tetapi dibekalkan secara beransur-ansur. Persekitaran lokasi sekolah kosong kerana tiada peruntukan landskap. Sebanyak 11 buah kelas dibuka dan beroperasi bermula dari Tahun 1 hingga Tahun 4 sahaja dengan bilangan pelajar seramai 384 orang yang dipindahkan sebahagian besarnya dari Sek. Keb. Tasek Gelugor dan selebihnya dari Sek. Keb. Padang Menora berdasarkan alamat terdekat. Tahun 1 (3 kelas), Tahun 2 (3 kelas), Tahun 3 (2 kelas) dan Tahun 4 (3 kelas).
Berikut adalah beberapa rentetan tentang latar belakang pembinaan struktur bangunan sekolah. Kontraktor yang bertanggungjawab ialah Kejora Aman Sdn. Bhd. Beralamat 171 & 172, Kompleks Alor Setar, Lebuh raya Darulaman, 05100 Alor Setar. Harga kontrak asal ialah RM3,282,918.00. Tarikh milik tapak bina ialah 01 Mac 1999 manakala tarikh mula kerja sebenar ialah pada 04 Mac 1999. Tarikh siap bagi semua kerja ialah 16 Mac 2000 – (72 minggu). Tempoh lanjutan pertama sehingga 16 Disember 2000 dengan polisi 99 EAS 000014 tempoh kuatkuasa dari 01 Mac 1999 sehingga 16 Julai 2001. Kerja-kerja penyelenggaraan asas oleh kontraktor utama berjalan sehingga April 2001. Persatuan Ibu Bapa dan Guru berjaya ditubuhkan dengan jawatankuasanya diterajui oleh Haji Abu Bakar b. Mansor selaku Yang Dipertua.
Senarai Guru Besar Dan Tempoh Berkhidmat di S.K.P.J
1. Hj. Abdul Rahman b. Hj. Jamaludin (01.01.2001 - 01.02.2003)
2. Hj. Hassan b. Hj. Ahmad (01.02.2003 - 16.11.2003)
3. En. Mohamad Abass b. Roban (16.11.2003 - 01.07.2004)
4. Saidin b. Hamid (01.07.2004 - 28.02.2008)
5. Pn. Hjh. Siti Rohani bt. Ismail (01.03.2008 - 09.04.2013)
6. Pn. Sabariah Bt. Adam (10.04.2013 - 28.10.2016)
7. En. Azman Bin Abdullah ( 16.01.2017 - sekarang)
1. Hj. Abdul Rahman b. Hj. Jamaludin (01.01.2001 - 01.02.2003)
2. Hj. Hassan b. Hj. Ahmad (01.02.2003 - 16.11.2003)
3. En. Mohamad Abass b. Roban (16.11.2003 - 01.07.2004)
4. Saidin b. Hamid (01.07.2004 - 28.02.2008)
5. Pn. Hjh. Siti Rohani bt. Ismail (01.03.2008 - 09.04.2013)
6. Pn. Sabariah Bt. Adam (10.04.2013 - 28.10.2016)
7. En. Azman Bin Abdullah ( 16.01.2017 - sekarang)