יואל נולד בשנת תרמ"ח (1898) בעיירה זכרינא אשר ברוסיה, נצר לשושלת רבנים. בילדותו למד ב"חדר", ולאחר מכן בישיבת טלז, והיה ידוע בישיבה כעילוי. עם סיום לימודיו בישיבה הוסמר לרבנות.
במרוצת הזמן הגיעו לידיו ספרי ההשכלה ולאחר התלבטויות קשות הגיע למסקנה שהשקפת העובם הדתית אינה מספקת אותו עוד. יואל סיפר, שכאב לו מאד לאכזב את הוריו בענין זה, כי הוא אהב וכיבד אותם מאד, אך לא היתה לו ברירה. הוא ויתר איפוא, על העיסוק ברבנות והחל ללמוד כימיה בטכניון במוסקווה. יואל העריך מאד את ידיעת התלמוד, שבאמצעותו למד לשאול עצמו: מדוע? ולא לנוח עד אשר תימצא התשובה הנכונה. אחד מחבריו מספר, שרבים היו נוהגים להתייעץ איתו בענינים אישיים ובעניני משפחה וכשהצליח לעזור היה לו סיפוק רב. הוא נהג לומר לעיתים: "בכל זאת אני רב, הם הרגישו בי שאני רב"...
לאחר גמר לימודיו בטכניון החליט להגשים שאיפתו הציונית ולעלות לארץ-ישראל. לשם כך עבר הכשרה חלוצית בארגון "תל חי" אשר בקרים, ועלה ארצה בשנת 1926. בעלותו ארצה, עבד תחילה בפרדסי ראשון-לציון. לאחר מכן עבד ככימאי בבית-הספר "מקוה-ישראל". הוא הצליח בעבודתו ורכש חברים רבים, אך הגיע למסקנה שאינו רוצה לחיות בעיר, אלא להיות עובד אדמה פשוט בכפר.
הוא החליט לעבור למושב חרות, והיה בין מיסדי המושב ובוניו. יואל עסק אף בעניני ציבור: היה מרצה בפני החברים בעניני ספרות, היה חבר ועד ומזכיר וכמו-כן התקין הנהלת-חשבונות מסודרת, לה היה אחראי רוב שנותיו במושב. בכל אשר עשה היה ידוע ביושרו, באחריותו ובמוסריותו הרבה.
וכשם שהיה מסור לעניני הכלל, כן היה מסור למשפחה. באהבה ובסבלנות היה עובד עם ילדיו בגינה ובשדה, ומנצל את הזמן גם לשיחות על נושאים שונים. הוא היה מוצא תמיד זמן וכוח, גם אחרי יום עבודה, להרחיב ולהעמיק ידיעת הילדים בכל מקצועות הלימוד. יואל התמצא היטב לא רק בתנ"ך, תלמוד וכימיה, אלא גם בדקדוק, פיסיקה ומתמטיקה. כמו-כן ידע ליצור אוירה נפלאה של השבת והחג בבית, והצליח לקרב את ילדיו למסורת ישראל, לא בדיבורים אלא במעשים: בונה סוכות נפלאות ועורך סדרי פסח. הוא היה מנחה את בני המשפחה הצעירים כיצד להתכונן ל"סדר", ואיך להשתתף בו בקריאה מ"ההגדה", בשירה ובמשחקים. בחוויות אלה אהבו להשתתף גם בני המשפחה המורחבת ויואל שמח תמיד לארחם בחגים ובחופשות.
יואל נפטר בי' אדר ב' תשכ"ז 1967.