בשנת תשל"ו הציע מר ישראל קניג - מנהל מחוז הצפון במשרד הפנים - להקים ישיבה בצפת. מבחינה רוחנית, הייתה צפת בשפל המדרגה ביחס להיום. הרב אליהו אריה פרידמן היה זה שהגה את רעיון הקמת הישיבה והציעו בפני הרב אריה לייב קפלן. הרב פרידמן גם נטל על עצמו את העול לנהל את החלק הגשמי והכספי של הישיבה. במכתב הנושא את התאריך ט"ו אלול, יום התייסדות תומכי תמימים כתב הרב קפלן לרבי שהרב פרידמן נטל על עצמו את העול והכספי ורוצים להקים את הישיבה. על כך השיב הרבי (בקשר לרב פרידמן): "הניסה בזה? המסוגל לזה? בכל אופן הרי יכול לנסות עתה -כשאין אחריות מוסד קיים עליו"[3]. לאחר שהצעת הקמת הישיבה הועלתה בפני הרבי, באמצעות הרב חודקוב, לא איחרה ההסכמה לבוא. לאחר חודשים של הכנות וגיוס משאבים ברחבי העולם, נפתחה בחודש אייר ה'תשל"ז ישיבת חב"ד בצפת
הפנימיה הראשונה שכנה במלון כרמל שנשכר לטובת מגורי הבחורים וחדר האוכל, הזאל שכן בבתי המדרש של "וויז'ניץ טוניס", "קרלין סטולין" ו"קוסוב" בין סימטאות העיר העתיקה. משם נדדו לדירות בעיר העתיקה ואז הגיעו למלון הרצליה, עד ששכרו את מלון רקפת, הגדול והמפואר במלונות הגליל והפכו אותו לפנימייה עבור הישיבה.
גם בית המדרש זכה בשנת תשמ"א (1981) לאכסניה של קבע. בית הכנסת של הרידב"ז שהועבר מידי ההקדש לידי מוסדות חב"ד, שופץ והוכשר לכניסת התלמידים.
ברכותיו והדרכותיו של הרבי ליוו את הנהלת הישיבה על כל צעד ושעל, בין בצעדים גדולים ובחירת השם לישיבה, ובין בהוראות והדרכות פרטיות.
אחד המאפיינים הבולטים בישיבה, היא החלוציות בתחומים שונים, שהיו חסרים בעולם הישיבות. כך פתחו את המחלקה לבעלי תשובה, את המחלקה לעולים חדשים, את השיעורים ביורה דעה - מה שהיום מקובל לקרוא "מכון סמיכה", או את הקורס לספרות סת"ם בהדרכתו של ר' ראובן סמולקין, בעצמו בוגר הישיבה - המלמד בקבוצות קטנות הלכות ספרות ואומנות כתיבת סת"ם. כמו כן הישיבה פתחה ישיבה חב"ד ראשונה מסוגה בארץ, המשלבת לימודי מקצועות ביחד עם לימודי הקודש.
בשלהי שנת תשד"מ עברה הפנימיה למבנה ששימש קודם לכן כמלון רקפת - בתחילה בשכירות, ולאחר מכן נרכש המבנה בסיועו של הנגיד החסידי הרב יוסף יצחק גוטניק, ונערך שיפוץ נוסף. בשל הקשיים בתשלום המשכנתא על המקום, נמצא תורם שהשתתף בעלות המשכנתא, אך כתנאי לכך רשם את המבנה על שמו. לאחר שנים נקלע התורם לקשיים ומכר את המבנה. מאז פתחה הישיבה במאבק משפטי על מנת להציל את המבנה ולהשאירו בידי הישיבה. במקביל ניסתה הישיבה לנהל משא ומתן על רכישת המבנה, ללא הצלחה.
בתחילת שנת תשע"ח הוצא צו פינוי מאת ההוצאה לפועל המורה לפנות את הפנימיה עד ג' בטבת. יום לפני הפינוי המיועד הודיע אילן שוחט, ראש העיר צפת על השהיית הפינוי[4]. בהמשך לכך הצליחה הישיבה להגיע להסדר על מנת לרכוש את המבנה, אך לשם כך נדרש ממנה לגייס 24 מיליון ש"ח עד לי"ב שבט. בחודש טבת תשע"ח פתחה הישיבה בקמפיין גיוס כספים על מנת להגיע ליעד[5] ובתוך שבועיים השיגו את הסכום הנדרש וקנו את בנין הפנימיה.
בכ"ג אדר תשפ"ב, לאחר תכנון מפורט, החל שיפוץ יסודי של מבנה הפנימיה[6].