ولد الجيلاني بن الحاج يحيى بجزيرة جربة في 12 جوان 1929. واختلف فيها، منذ حداثته، إلى الكتاتيب ثم إلى المدرسة الابتدائية.انتقل بعد ذلك إلى مدينة تونس. والتحق بالمدرسة الخلدونيّة ثمّ بجامع الزيتونة. وتخرّج فيه حاملا شهادة العلوم العمليّة سنة 1949 وشهادة التحصيل سنة 1950. اشتغل بعد تخرّجه معلّما. فعمل في الكثير من المدن. ثمّ طمحت نفسه إلى الاستزادة من التحصيل والمعرفة. فسافر إلى العاصمة السويسريّة جنيف. وانتسب إلى مدرسة أمناء المكتبات بعد أن حصل على منحة تخصّص في فنّ المكتبات وعلومها من منطقة اليونسكو. وتخرّج فيها حاملا شهادة في علم المكتبات. في سنة 1949 أسّس مع بعض الكتاب والأدباء نادي القلم. وفي هذا يقول في مقدّمة كتابه عن علي الحصري القيرواني: (في خريف 1949 اجتمعنا بعاصمة تونس ثلّة من هواة الكتابة والشّعر لنؤسّس ناديا اخترنا له اسم نادي القلم وكان في مقدّمة ما يرمي إليه هذا النّادي هو دراسة الآثار القوميّة المخطوطة من علميّة وأدبيّة وتحقيقها ونشرها.. واقترح بعضنا أن يكون أوّل أثر يبادر النّادي إلى نشره ديوان المعشرات للحصري). عمل متفقّدا في التعليم الابتدائي سنة 1957.وتدرّج في الوظيفة. فشغل خطّة رئيس مصلحة بديوان تعليم الكهول ثمّ مدير إدارة المكتبات بوزارة الشؤون الثقافية. وقد كان، كما وراء بعث الكثير من التّظاهرات والفضاءات الثقافيّة، وخاصّة منها المكتبات العموميّة في القرى والأرياف النّائيّة، كما أسهم إسهاما قيّما في إرساء منظومة إداريّة متكاملة كانت نواة للشبكة المكتبيّة التي تعمّ مناطق البلاد كافة.التحق بالمنظمّة العربيّة للتربية والثقافة والعلوم بصفة خبير ثمّ انتقل إلى وزارة الثقافة بصفة مستشار لوزير الثقافة.