ในอดีตคนหนุ่มสาวมุสลิมรวมตัวกันเป็น " กลุ่ม ” เล็กๆ ในสังกัดของชุมชนหรือมัสญิดตามท้องถิ่นต่างๆ   การจัดตั้งเป็นไปอย่างง่ายๆ และกิจกรรมที่ทำมีลักษณะจำกัด   อาทิ  การปรับปรุงมัสญิด   การทำความสะอาดกุโบรฺ( สุสาน )ในชุมชน   แต่การรวมตัวในลักษณะท้องถิ่นนี้ไม่สามารถตอบสนองปัญหาและความต้องการของเยาวชนมุสลิมได้อย่างแท้จริง

          เพื่อที่จะก่อตั้งสถาบันอันเป็นศูนย์กลางของคนหนุ่มสาวมุสลิมในระดับชาติ   และเพื่อที่จะผลักดันการแก้ไขปัญหาของเยาวชนมุสลิมให้เป็นไปอย่างจริงจังและ เหมาะสม   หนุ่มสาวมุสลิมกลุ่มหนึ่งจึงได้ริเริ่มให้มีการจัดตั้งองค์กรของเยาวชน มุสลิมในระดับชาติแห่งหนึ่งขึ้นภายใต้นามว่า " สมาคมยุวมุสลิมแห่งประเทศไทย ” หรือที่เรียกสั้นว่า  ย.ม.ท.