Kongres Nasional V Persatuan Advokat Indonesia (PERADIN) tahun 1976 di Hotel Ambarukmo, Yogyakarta mencetuskan gagasan bahwa PERADIN merupakan organisasi perjuangan untuk menegakkan hukum dan keadilan serta menjunjung tinggi hak-hak azasi manusia. Gagasan tersebut mendapat sambutan baik dari seluruh peserta yang hadir untuk membentuk LBH.

Adnan Buyung Nasution, pada waktu itu menjabat Ketua DPP PERADIN, juga direktur LBH Jakarta mencoba menantang tekad tersebut dengan mengatakan, “Apakah PERADIN berani mendirikan LBH ?” Ucapan tersebut menantang utusan dari Medan seperti, H. Syarif Siregar, SH, Mahjoedanil, SH, dan MD. Sakti Hasibuan, SH untuk segera mendirikan LBH di Medan.

Dengan semangat tinggi didorong oleh keinginan luhur memperjuangkan kebenaran, keadilan, dan dukungan sejumlah Advokat dan Pengacara yang ingin menyumbangkan tenaga, maka pada tanggal 28 Januari 1978 diresmikanlah LBH Medan dibawah pimpinan Mahjoedanil, SH. Pelantikannya sendiri dihadiri oleh pengurus DPP PERADIN, A.Rahman Saleh, SH, dan Direktur LBH Jakarta, Adnan Buyung Nst, SH. Selengkapnya