Sejak awal Balai Penelitian Bahasa berdiri, tempat kegiatan (kantor) berpindah-pindah dan pernah bergabung dengan Lembaga Adat Istiadat dan Tjerita Rakjat. Pada tahun 1986, Balai Penelitian Bahasa Yogyakarta berhasil membeli tanah dan gedung peninggalan Belanda di Jalan I Dewa Nyoman Oka 34, Kotabaru seluas 1.741 m2. Pembelian tanah beserta gedung tersebut tertuang dalam Surat Keputusan Menteri Dalam Negeri Nomor SK 413/B/HGB/Prk.5/65 T.N., tanggal 24 Februari 1986, dengan nomor pembukuan 3067/1986. Pergantian pejabat periode berikutnya, yaitu Drs. M. Ramlan diganti oleh Dr. Sudarjanto dengan Surat Keputusan Menteri Pendidikan dan Kebudayaan Nomor 56465/A2.I.2/C/1987, tanggal 29 Agustus 1987. Dr. Sudarjanto memimpin Balai Penelitian Bahasa Yogyakarta hingga April 1991. Berikutnya terjadi pergantian lagi, yaitu Dr. Sudarjanto diganti oleh Drs. Suwadji dengan terbitnya Surat Keputusan Menteri Pendidikan dan Kebudayaan Nomor 1129/A2.I.2/C/1992 tanggal 13 Januari 1992. Drs. Suwadji memimpin hingga tahun 2002. Pada masa kepemimpinan Drs. Suwadji, Balai Penelitian Bahasa berubah namanya menjadi Balai Bahasa Yogyakarta berdasarkan SK Mendikbud, Nomor 022/O/1999 tanggal 28 Januari 1999.