نشأ هذا الفن في القرن الثالث الهجري على يد رجلين من قرية قبرة cabra بالأندلس هما: محمد بن حمود الضرير، ومقدم بن معافى، كما قال ابن بسام وابن خلدون. وإن كان بعض الدارسين، ومنهم المستشرقان الإسبانيان خوليان ريبيرا Ribera وغارثيا غومث Garcia Gomez، يرون أن الموشح تقليد لشعر رومانسي كان الإسبان يتغنون به، وقد أبقوا منه الخرجة الأعجمية، فالموشح يتألف من مطلع ومجموعة أدوار وخرجة، فالمطلع هو القفل الأول، أما الدور فيتألف من مجموع القفل والغصن. ويأتي القفل على سمط أو اثنين أو أكثر، وكذلك الغصن، أما الخرجة فهي القفل الأخير من الموشحة.
نظم الموشح في الأغراض المختلفة، وظهرت أسماء لامعة لوشاحين كان أغلبهم شعراء من أمثال أبي بكر عبادة بن ماء السماء (ت422هـ)، وعبادة القزاز (ت484هـ)، وابن اللبانة (ت507هـ)، والأعمى التُّطيلي (ت520هـ)، وابن بقي (ت540هـ)، وابن زهر الحفيد (ت595هـ)، وابن سهل الإشبيلي (ت659هـ)، وأبي الحسن الششتري (ت668هـ)، وأبي حيان الغرناطي (ت745هـ)، ولسان الدين بن الخطيب (ت776هـ)، وابن زمرك (ت797هـ)، وابن عاصم الغرناطي.
ولما شاع فن التوشيح في أهل الأندلس، نسجت العامة على منواله بلغة غير معربة قريبة إلى اللغة التي يتكلم بها الناس في مخاطباتهم اليومية ما سموه بالزجل.
وقد مرت الأزجال بأدوار متلاحقة أولها دور الأغنية الشعبية، ثم دور القصيدة الزجلية، واتسعت الأزجال لأغراض كثيرة كالمديح والغزل والتصوف والوصف.
ومن أشهر الزجالين ابن قزمان (554هـ)، وله ديوان أزجال كبير ويخلف بن راشد، وكان إمام الزجل قبل ابن قزمان، ومدغلّيس (أحمد ابن الحاج) الذي كان شاعراً وشاحاً، والششتري وقد برع في القصيدة والموشح، وهو أول من استخدم الزجل في التصوف كما استخدم محيي الدين بن عربي التوشيح فيه.