El ataque contra el político más conocido del país, de 67 años, tuvo lugar en un mitin al aire libre.
Un hombre de unos 40 años fue detenido por intento de asesinato y se le habría confiscado un arma.
Líderes de todo el mundo han lamentado la muerte del exprimer ministro.
Abe tenía 52 años cuando asumió como primer ministro, convirtiéndose en la persona más joven en ocupar el cargo.