Dalam sejarahnya PPI Austria dimulai dengan program pengiriman karyasiswa kementerian riset dan teknologi ke beberapa Negara Eropa termasuk Austria dan pemberian beasiswa oleh pemerintah Austria kepada mahasiswa Indonesia. Selain itu, keberadaan mahasiswa Indonesia bersama para pelajar dan pemuda dari putra-putri staf KBRI/PTRI Austria menjadi embrio keberadaan PPI Austria.

Perhimpunan Pemuda Pelajar Indonesia di Austria telah terbentuk sejak 6 April 1968. Perhimpunan ini memiliki misi awal untuk mengakomodir kegiatan akademis dan non akademis mahasiswa Indonesia yang sedang studi di Austria. Pada 20 Oktober 1991, Perhimpunan Pemuda Pelajar Indonesia di Austria atau PPI Austria memasuki babak baru dengan disyahkannya rancangan Anggaran Dasar dan Anggaran Rumah Tangga (AD/ART) PPI Austria oleh ketua Musyawarah Anggota periode itu, Bapak Poegoeh Tjatur Hariagoeng, seorang mahasiswa Teknik Mesin Technical University of Vienna.

Berikut ini fungsionaris PPI Austria dari masa ke masa.
  1. Bapak Chalid Tamimi (sekarang pengusaha) sebagai ketua PPI Austria 1988 – 1990 dengan koordinator pendidikan Bapak Fahmi Amhar (sekarang profesor riset di Bakosurtanal) 
  2. Bapak Jajang Kurniawan (staf Allianz), ketua PPI Austria 1990 – 1993 dengan koordinator pendidikan Bapak Anwar al Nahdi 
  3. Ibu Celly Sinaga, Ketua PPI Austria 1993-1994 
  4. Ibu Reika Meany, Ketua PPI Austria 1994-1995 
  5. Bapak Danang Parikesit (sekarang profesor Fakultas Teknik UGM), Ketua PPI Austria 1995 – 1996 
  6. Bapak Andi Junirsah (sekarang staf IAEA), ketua PPI Austria 1997-1998 
  7. Bapak Rinaldi Effendi, Ketua PPI 1998-1999 
  8. Bapak Feraldi Zahir (sekarang staf UNIDO), ketua PPI Austria 1999 – 2009 
  9. Bapak Wikan Danar Sunindyo (dosen Institut Teknologi Bandung), ketua PPI Austria 2009 – 2010 
  10. Anggun Sujatmiko, Ketua PPI Austria 2010- 2011
  11. Hary Febriansyah (Dosen Institut Teknologi Bandung), Ketua PPI Austria 2011-2012
  12. Zulaicha Parastuty (Peneliti di Universitas Klagenfurt), Ketua PPI Austria 2012-2013
  13. Pandu Barmono, Ketua PPI Austria 2013-2014
  14. Syifa Nurhanifah, Ketua PPI Austria 2015
  15. Adryan Fristiohadi, Ketua PPI Austria 2016

Adapun ketua Musyawarah Anggota PPI Austria adalah:
  1. Poegoeh Tjatur Hariagoeng, periode 1991 - 1992 
  2. Anwar Al Nahdi, periode 1992 – 1994 
  3. Mursalim, periode 1995 - 1998 
  4. Andi Junirsah, periode 1999 – 2001 
  5. Periode 2001 - 2009, tidak ada ketua Musyawarah Anggota karena sedikitnya anggota PPI pada masa ini 
  6. Supriyanto Pawiro (Dosen Universitas Indonesia), periode 2009 – 2010 
  7. Zairin Zain (Dosen Universitas Tanjungpura), periode 2010 – 2011 
  8. Bakti Darma Putra (Peneliti), periode 2011 - 2012
  9. Muhammad Zuhri Catur (Dosen ITB), periode 2012-2013
  10. Wiene Andriyani, periode 2013-2014
  11. Peb Ruswono Aryan, periode 2015
  12. Yusfan Ade Putra Yusran, Andy Yahya Al Hakim, Prasetiyono Hari Mukti, Widiyanto, Zulaicha Parastuty (Presidium Kolegial), Periode 2016

Dalam keorganisasian, Dewan Musyawarah Anggota PPI Austria telah melakukan amandemen pertama AD/ART PPI Austria pada tahun 2009 yang mengubah masa jabatan kepengurusan ketua fungsionaris, ketua Dewan Musyawarah Anggota, dan batas umur keanggotaan di PPI Austria. Selain itu, Dewan Musyawarah Anggota kembali melakukan amandemen AD/ART kedua pada tahun 2012 yang merubah nama organisasi dalam Bahasa Inggris dan Jerman serta merubah logo, stempel dan kop surat beserta penjelasannya.