Abe hänvisar till den sjukdom han kämpat mot under flera år, ulcerös kolit, en kronisk inflammatorisk tarmsjukdom.
Han berättar att hans tillstånd började förvärras i mitten av juli och att han inlett en ny form av behandling som han bedömer inte ger honom tillräckligt med tid att sköta sina uppgifter som premiärminister.
Japanska medier har den senaste tiden spekulerat om premiärministerns hälsa och framtid som ledare efter att han nyligen uppsökt sjukhus vid två tillfällen.
Abe lyfter bland annat fram att det ansträngda läget i och med coronapandemin kräver intensivt beslutsfattande.
– Jag ägnar mig nu åt behandling, med sikte att återfå min hälsa, så att jag kan komma tillbaka och stödja en ny regering, säger Abe.
– Till det japanska folket: Jag har uppskattat ert stöd under de här åtta åren.
Expert: Svår att ersätta
Abe väntas stanna på sin post tills det styrande Liberaldemokratiska partiet (LDP) hunnit utse en efterträdare, enligt AFP. Han avböjer under presskonferensen att kommentera potentiella efterträdare.
Bland de namn som nämns finns biträdande premiärminister tillika finansminister Taro Aso och Yoshihide Suga, för närvarande statsråd med samordningsansvar. Den före detta förvarsministern Shigeru Ishiba och den tidigare utrikesministern Fumio Kishida har också uttryckt intresse för posten, rapporterar Reuters.
– Det kan bli svårt att hitta en ny ledare som har lika stark framtoning som Abe faktiskt har haft. Han har inte varit populär i alla läger, men han har setts som en stark man, säger Marie Söderberg, professor och chef för Japaninstitutet på Handelshögskolan i Stockholm.
Pressats av kritik
Någon större politisk kursomläggning är inte att vänta, tror hon.
– Jag tror att man står ganska fast vid hans linje. Det finns egentligen inte så mycket att välja på, handlingsutrymmet har minskat i skuggan av Kina. Det är därför man är så angelägen om samarbetet med USA, Asean-länderna, och även Europa. Vi har ju ett nytt strategiskt partnerskapsavtal mellan EU och Japan, säger hon.
Abe har den senaste tiden pressats av kritik mot hur hans regering hanterat coronakrisen och av skandaler kring partimedlemmar. Hans stöd har fallit till en av de lägsta nivåerna under hans närmare åtta år vid makten.
Abe avgick även från premiärministerposten 2007, också då med hänvisning till sin hälsa och efter ett år präglat av skandaler inom hans regering och en stor valförlust för hans styrande parti, det Liberaldemokratiska partiet (LDP). Han har sedan dess hållit sin sjukdom i schack med hjälp av nya mediciner.
Rekord
2012 återvände han som premiärminister och så sent som i måndags slog han rekord som den ledare i landets historia som suttit längst på posten under en obruten period.
– Jag ber uppriktigt om ursäkt till det japanska folket för att jag lämnar min post med ett år kvar på min mandatperiod, och mitt under coronaproblemen, medan flera beslut fortfarande håller på att implementeras, säger Abe, med en djup bugning.
Abe har bland annat gjort sig känd för sitt omfattande reformprogram, kallat "Abenomics", med syfte att blåsa liv i en haltande tillväxt och för att ha ökat de militära utgifterna. Han har dock misslyckats med sin avsikt att ändra i landets pacifistiska konstitution, och inte heller de ekonomiska planerna har gått riktigt som planerat.
– Han har kört stenhårt, men det har ju inte riktigt lyckats. Japans ekonomi ser inte så särskilt stark ut just nu, vilket naturligtvis har med covid-19 att göra, men även innan dess misslyckades han med att få upp inflationen, vilket var meningen med hans ekonomiska program, säger Marie Söderberg.
Nyheten om Abes avgång fick Tokyobörsen att falla under morgonen.