יוסף ביניש ב-1907 בעיר רומן שברומניה, בכור בין ארבעה אחים. לפני שמלאו לו עשר שנים נאלץ יוסף לשאת בעול הפרנסה כשאביו גויס לצבא. הוא הצטרף לתנועת החלוץ ובמשך שנתיים עבר הכשרה חקלאית כהכנה לעלייתו ארצה.
ב-1929 עלה יוסף ארצה והצטרף לקיבוץ עירוני בחיפה, שהתבסס על עבודות מזדמנות שמצאו חבריו. לאחר זמן עזב את הקיבוץ, ואת הכסף שהשתכר מעבודתו הקדיש להעלאת הוריו ואחיו ארצה. כשהגיעו, הם עבדו יחד בבניין, ואחר כך חיפשו את דרכם בקיבוצים עין חרוד וגבעת חיים. בשנת 1939 הגיע למושב חרות והתגורר כרווק אצל משפחת יקיר וולודניצקי. באותה שנה התחתן עם פנינה, היא באה אתו לחרות ויחד התחילו בהקמת הבית, המשק והמשפחה.