נולד בשנת 1891 באוקראינה. בין השנים 1910–1914 למד אמנות באקדמיה לאמנות בעיר קייב. בין האמנים שהשפיעו על זריצקי באותה תקופה היה הצייר הסימבוליסט הרוסי מיכאיל ורובל. בשנת 1915, בעת מלחמת העולם הראשונה, גויס זריצקי לצבא הרוסי, ושירת בו עד שנת 1917. בשנת 1918 נישא לשרה (סוניה), בוגרת הפקולטה לרפואת שיניים בקייב ובתו של הרב ישראל דב זבין. בעקבות פוגרום בשנת 1919 ברחה המשפחה לעיירה קאלאראש שבבסרביה, כשזריצקי משאיר מאחוריו את כל יצירתו האמנותית עד אז. בקאלאראש שהה בבית חותנו, שם יצר עבודות קטנות-ממדים בצבעי מים שמהן שרדו רק חמש: שלושה פורטרטים של אשתו ושני ציורי נוף כפרי. העבודות הקטנות מצוירות בעזרת כתמים צבעוניים כהים, והן משקפות את השפעת המודרניזם הרוסי.
בשנת 1923 עלה זריצקי בגפו לארץ ישראל והתיישב בירושלים. לאחר שנה הצטרפה אליו גם משפחתו.
בעיר יצר תיאורי נוף רבים בצבעי מים תוך שימוש בצבעים בהירים. בהדרגה הפכה יצירתו האמנותית לחופשית יותר. אולם בעבודות מאוחרות יותר בולטת הנטייה האקספרסיבית ביצירת הקומפוזיציה. דוגמאות לכך ניתן למצוא בציור "חיפה, הטכניון" (1924), או בעבודות הנושאות את השם "ירושלים, נחלת שבעה" משנת 1924, שבהן עושה זריצקי שימוש בעצים כאמצעי אקספרסיבי לחלוקת הפורמט למשטחים. שימוש בקווים בנוף כאמצעי הבעה בולט, וכך גם בתיאורי נוף של בתי העיר ירושלים או צפת, משנים אלו.
בשנת 1924 הציג את תערוכת היחיד הראשונה שלו במועדון "מנורה" בירושלים. תערוכת יחיד נוספת הוצגה באותה שנה בטכניון בחיפה. הביקורות העיתונאיות הדגישו את הליריות שבעבודות ואת העובדה כי "הצורות בציור הופכות לכתמי צבע אבסטרקטי כשהנושא הוא אלגוריה של צבע ואור ולא של סיפור עלילה". בנוסף, זריצקי והפסל אברהם מלינקוב היו מיוזמי התערוכה הראשונה מבין תערוכות אמני ארץ ישראל במגדל דוד.
החל משנת 1927 כיהן כיו"ר אגודת הציירים והפסלים בארץ ישראל. בשנות ה-20 של המאה ה-20 עבר זריצקי להתגורר בתל אביב, והמשיך לצייר את סדרת ציורי הנוף שהחל בירושלים. תיאורי הנוף והדיוקנאות שיצר בשנים אלו מעידים על ניסיון לגיבוש שפה אמנותית הולמת לתיאור. בשנת 1929 השתתף זריצקי בתערוכה של קבוצת "אגד", שהתקיימה בדירה ברחוב אלנבי בתל אביב, ובה הציגו אמנים כגון ציונה תג'ר, אריה לובין, פנחס ליטבינובסקי ואחרים. עבודות הקבוצה משנים אלו משקפות את השפעת הציור הפוסט-אימפרסיוניסטי הצרפתי המאוחר שהיה פופולרי בקרב הציירים הארצישראלים. ביצירותיו של זריצקי התבטא הדבר בנטייה ליצירה של משטחי צבע נרחבים, ולציור במשיכות מכחול חופשיות. תערוכתו ב"בית הנכות בצלאל", בשנת 1930, מיקמה אותו בתודעה הציבורית כאמן מודרניסט. מספר מבקרים כתבו כי התערוכה משקפת את הפנייה של זריצקי אל האמנות האירופית. בין השנים 1932–1933 פתח זריצקי "סטודיה" לציור ששכן במרתף הבית שבו התגורר ברחוב מאפו מס' 18. בין באי הסטודיו היו ציירים כגון יחיאל קריזה, אריה ארוך ואחרים. ב-1935 עבר זריצקי אל בית חדש שבנה בקרן הדרומית-מזרחית של הרחובות בן יהודה ומאפו. בסדרת העבודות הגדולה שיצר בשנות השלושים והארבעים המציגה את מראות העיר מגג ביתו, הפנה זריצקי את מבטו ממראה החוף ואל מראות העיר המודרנית החדשה הפרושה ממזרח ומצפון לו שהעסיק אמנים בני דורו, כגון נחום גוטמן, ראובן רובין ואחרים. בעבודות המוקדמות, חילק זריצקי את המראה למישורים היוצרים תחושה של מרחב. בחלק מציורי הסדרה אף מופיעה דמותו של צייר העובד על תיאור הנוף. בשנת 1941 התקיימה תערוכת יחיד בבניין "הבימה" לכבוד יום הולדתו ה-50.
בשנת 1948 נמנה זריצקי עם מייסדי קבוצת "אופקים חדשים". המניע הישיר להקמה של קבוצה אלטרנטיבית לאגודה הכללית נולד עם ההזמנה להציג תערוכה של אמנים ישראלים במסגרת הביתן האיטלקי בביאנלה של ונציה. זריצקי, שכיהן כיו"ר האגודה באותה עת, החליט ליצור, על דעת עצמו, את רשימת האמנים המשתתפים, זאת בשל חששו מפני בחירתם של אמנים בינוניים על ידי הכלל. הדבר עורר שערורייה באספה הכללית של האגודה שהתקיימה בביתו של חיים גליקסברג. במהלך האספה הוחלט על הרחקתו של זריצקי מן האגודה. בתגובה להאשמות, הודיעו כמה אמנים, בהם משה קסטל, יחזקאל שטרייכמן ויוחנן סימון, על פרישה מיידית מן האגודה והזמינו את זריצקי להקים אגודה עצמאית. בקטלוג התערוכה הדגיש זריצקי את התפקיד של האמנות בבניית האומה הצעירה במונחים מודרניסטיים: "אנו דורשים אמנות שתהא דבוקה בעם ומוכנים להסביר לקהל את דרכיה וצורותיה של האמנות החדשה כדי להחדיר בהם ערכי אמת אלה, למען יוכל לעכלם ויצעד קדימה יחד עמנו. כך נוכל לפתח אמנות אמת במדינתנו הצעירה". היצירות אמנם לא הציגו אחידות אסתטית או סגנון ציור משותף, אולם התערוכה נתפשה כרצון לשינוי טבעה של האמנות המקומית ומשכה קהל של אלפים שבאו לחזות באמנות המודרניסטית וה"סנסציונית".
בשנת 1968 היה זריצקי לראשון שזכה ב"פרס סנדברג" הניתן על ידי מוזיאון ישראל מכספי תרומה של נדבן אמריקאי. פרס זה הוענק לו על "ציור", יצירה גדולת ממדים משנת 1964, שצוירה לפי אחד מעבודותיו של הצייר יאן ורמיר. בראיונות רבים שהעניק לרגל קבלת הפרס הדגיש זריצקי את תפיסת העולם שלו ביחס לעצמאותו של מעשה הציור. "אסור למסתכל לראות יותר ממה שיש בתמונה", הסביר זריצקי. "אסור לו לפתח דמיון בקשר למה שהוא רואה, זה מה שהוא רואה זה מה שיש. תמונה זה לא חלום".
הטונאליות המאפיינת יצירותיו בשנים 1964-1974 משלבות הפשטה לצד מאפיינים ריאליסטיים. בסדרות כגון "נגיעות בירוק", ציורים "על פי חלונות תל אביב" או סדרת "כתם אדום" בולט הריחוק הגובר מתיאור הטבע לטובת דיון מופשט בקומפוזיציה ובמבנה הציור.
החל מראשית שנות השבעים נהג זריצקי להשתקע בכל קיץ בסטודיו שקיבל בקיבוץ צובה. בצובה נהג ליצור אקוורלים ובהם הפשטה של הנוף, תוך התבוננות ישירה מן הטבע. בקיץ 1983 יצר זריצקי שורה של עבודות בתוך הסטודיו, כשהוא חוזר אל מוטיב החלון, שבו עשה שימוש בעבר. בנוסף, במהלך שנות השמונים יצר זריצקי שורה של ציורים, חלקם בגדלים מונומנטליים, הבנויים על פי יצירותיהם של אמנים כגויה, פיקאסו, שאגאל ואחרים.
בשנת 1980 נמכר אקוורל של זריצקי משנת 1924 במכירה פומבית של גלריה גורדון ב-79 אלף דולר. אולם, לבד מהצלחה כלכלית, התכבד זריצקי בשנותיו האחרונות גם במחוות ציבוריות שונות. בשנת 1981 הוציא השירות הבולאי בול ועליו הציור "ירושלים, מבט על שער יפו" (1927). בינואר 1982 נערכה במוזיאון תל אביב הקרנה חגיגית של הסרט התיעודי "דיוקנו של אמן – יוסף זריצקי". בשנים 1984–1985 הוצגה במוזיאון תל אביב לאמנות תערוכה רטרוספקטיבית מקיפה ובה כ-340 יצירות.
פרסים:
1942 – פרס דיזנגוף
1959 – פרס ישראל
1968 – פרס סנדברג, מוזיאון ישראל
1982 – יקיר העיר תל אביב-יפו
זריצקי הלך לעולמות בשנת 1985 בגיל 94.
יצירותיו נמצאות באוספים רבים וחשובים בארץ ובעולם.