בתוניס היה מקובל ענק ואיש אלוקים קדוש ונורא, רבי מסעוד אלפסי, בליל שבת עשה קידוש ובסיומו אמר "מזל טוב מזל טוב ברוך הבא רבי יצחק אשכנזי". אנשים לא הבינו מה פשר הדבר, אז הוא אמר "תדעו עכשיו נולד תינוק בעיר העתיקה שנתעברה בו הנשמה של האריז"ל הקדוש, זה רבי יהושע בסיס". ורבי מסעוד אמר לבנו רבי שלמה, שילך לבית של אישה כלשהי והדריך אותו את מיקום הבית, "תגיד לה שתשמור על הילד הזה מכל משמר כי הוא יהיה איש אלוקים קדוש ועם ישראל יראה הרבה ישועות ממנו". הלך רבי שלמה ובאמת הגיע לבית ואמר "מזל טוב מזל טוב, נולד בן". והשיבה האישה, "תראה איזה דלות יש לי בבית, אין לי איך להאכיל את בני". רבי שלמה ראה את מצוקתה וביקש מגבאי של הקהילה שידאג לה לכל מחסורה שיהיה לה אוכל לכל השבוע ועל ידי סיעתא דישמיא זו זכה רבי יהושע בסיס לגדול.

באחד הימים רבי יהושע התפלל בבית כנסת עם הציבור שלו ובאופן קבוע הוא עלה חזן, באמצע התפילה "ובא לציון גואל" פתאום הוא הוריד את התפילין במהירות ואנשים לא הבינו מה קרה ורץ לכיוון השוק, כולם ידעו שרבי יהושע איש פלא. הלך איזה ערבי אחד, ניגש הרב יהושע בסיס לערבי ואמר לו, "אני הוציא לך שני שקים של פחמים ואני רוצה שתביא אותם לביתי". רבי יהושע שילם לערבי במקום 20 שקלים שילם לו 50 שקלים על מנת שיקח את שקי הפחמים לביתו. כל הדרך הערבי שיבח את היהודי ואת הרבנים שלהם, "אין כמו היהודים, לא אכפת להם אם זה ערבי או מי שזה יהיה תמיד יש להם עין יפה",ובמהלך כל הדרך שיבח הערבי את הרב יהושע בסיס. הרב חזר לבית כנסת, כולם לא הבינו מה הרבי הלך באמצע התפילה, פחמים, מה זה. נגמר התפילה והרב אמר להם, "בואו אני אגיד לכם משהו, שהתפללתי שמונה עשרה ראיתי קטרוג גדול בשמיים על עם ישראל ולא ידעתי מה לעשות, מיד בסיעתא דישמיא עלה רעיון לראשי לגרום לגוי לשבח את היהודים ואז ייסתם הפה של המקטרגים, לקחתי את הגוי וכל הדרך הוא שיבח ושיבח ושיבח ובאמת ככה היה ונסתם הפה של המקטרג".

והוא מסופר עליו רבי יהושע בן בסיס שהוא תמיד כל שנה בחג השבועות היה בא לבית סבו, נשאר מחג שבועות עד השנה הבאה, היה יושב שם כל הלילה לומד ונשאר לומד עד הבוקר ואחר כך הולך הביתה. שנה אחת הוא בא ולמד כל הלילה ובמקום ללכת הביתה חזר עוד הפעם לבית סבו, הם לא הבינו מה קרה, הוא רק בא והוא בירך את כולם אחד אחד, אמרו לו "מה קרה חזרת עכשיו עוד הפעם?". אמר, "יום יבוא תבינו" ואחרי אותו יום הוא נפטר. הוא נפטר אז מה קרה, פרצה מלחמת עולם השנייה, הגרמנים רצו בכל מקום להגיע וגם לתוניס הצליחו להגיע אז הוא בא בחלום למשפחה עוד לפני כן, הוא אמר לבת הגדולה ככה וככה יהיה, אתם תסגרו את הבית ותשבו בחדר שיהיה בקומה שנייה ושם תינצלו, וככה היה.