Rođen je i odrastao u Njemačkoj u hrvatskoj obitelji. Josip Šimić je od 2016. igrao u juniorskom pogonu njemačkoga 1. VfL Potsdama. Potom je napravio skok u glavnu momčad. S Potsdamom je prešao u 2. Bundesligu 2022. U sezoni 2023./24. bio je drugi najbolji strijelac Potsdama sa 153 gola,[1] a također je s klubom prešao u 1. Bundesligu. U Potsdamu igra od svoje 16. godine i trenutno je najdugovječniji igrač u tom klubu.[2]