Die Gründung der Landesgruppe Steiermark ist untrennbar mit der Gründung der IPA Sektion Österreich verknüpft, war es doch der Grazer Kriminalbeamte Erich Mikl, welcher der deutschen Sektion nach ihrer Gründung im März 1955 gemeinsam mit einigen anderen österreichischen Polizisten beitrat. Seine Begeisterung für die Idee der IPA steckte seinen Grazer Kollegen Franz Tewagner an, welcher am 18. Juni
1959 Kontakt mit dem Präsidenten der deutschen Sektion aufnahm und um Unterstützung bei der Gründung einer österreichischen Sektion bat. Juli 1959, womit die Sektion Österreich, neun Jahre nach der Gründung der IPA am 1. Jänner 1950 in England durch Arthur Troop, als gegründet und konstituiert galt. Im April 1960 wurde in London die Gründungsurkunde der IPA Österreich ausgestellt. Schon 1959 gelang es Tewagner, weitere Grazer Polizisten, sowie Beamte der Finanzlandesdirektion Steiermark, Gendarmen, Zollwachebeamte und Verwaltungsbeamte für die Idee der IPA zu gewinnen. Man arbeitete Statuten für die österreichische Sektion aus, wobei die Statuten der deutschen Sektion als Grundlage dienten. Diese Bestrebungen wurden insbesondere vom Grazer Polizeidirektor Dr. Karl Springer und dem Landesgendarmeriekommandanten für Steiermark, General Franz Zenz unterstützt. Die erste konstituierende Sitzung der Sektion Österreich wurde am 1. August 1959 in Graz abgehalten. Der Grazer Dr. h.c. Josef Hasiba war der erste Generalsekretär der österreichischen Sektion, und am 9. März 1962 wurde er zum Präsidenten des ersten Bundesvorstandes gewählt. Am 9. September folgte die Gründung der Landesgruppe Steiermark. Somit war die Landesgruppe Steiermark die erste Landesgruppe in Österreich. Anfänglich war die Tätigkeit der Landesgruppe auf den Großraum Graz beschränkt. Doch eine ständig wachsende Mitgliederzahl machte die Errichtung von Verbindungsstellen in den einzelnen Verwaltungsbezirken notwendig. Diese Entwicklung wurde vor allem durch Dr. Karl Homma, dem Vizepräsidenten des ersten Bundesvorstandes, gefördert. Die erste derartige Verbindungsstelle wurde 1962 in Liezen gegründet. Noch im selben Jahre folgten Leoben-Knittelfeld und Bruck/Mur-Mürzzuschlag. Als Dr. Hubert Holler 1969 zum Landesgruppenobmann gewählt wurde, schuf er die Möglichkeit, dass die einzelnen Verbindungsstellen eine eigene Rechtspersönlichkeit erhielten. Die Mitgliederzahl nahm beständig zu und hält derzeit bei etwa 5.300 Mitgliedern.