Osmanlı Kayı boyunun bu topraklara ne zaman geldiği konusunda kaynaklarda farklı rivayetler yer almaktadır. Tarihî geleneğe göre hükümdar çıkaran beş Oğuz boyundan biri olan Kayılardan olan Ertuğrul Gâzi’nin ataları, Anadolu’nun fethi sırasında Sultan Tuğrul Bey ve Alparslan’ın komutanlarının emri altında önce Ahlat bölgesine gelerek fetih hareketlerine katıldılar. Daha sonra Ahlat emirlerine bağlanıp onlarla birlikte Gürcülere ve Trabzon Rum İmparatorluğu’na karşı savaştılar. Ahlat’ın, XIII. yüzyıl başlarında Eyyübîlerin eline geçmesi ve ardından Moğolların Ahlat bölgesini istilâsı üzerine Mardin’e gelerek kendileri gibi Kayı boyundan olan Artukoğullarına bağlandılar. Osmanlı Kayı boyunun, 1220 sonrası Cengiz’in Horasan’a gelmesi ve bölge halkının kalabalık gruplar hâlinde batıya çekilmesi sırasında diğer Oğuz boylarıyla Anadolu’ya göç ettikleri de bir görüş olarak ileri sürülmektedir. Bu durumda Kayıların, Celâleddin Harezmşah’ın askerleriyle birlikte Ermenistan’a geldikleri, burada da güvende olmadıklarını anlayınca oradan ayrılıp Doğu Anadolu’ya ve Ahlat taraflarına göçtükleri düşünülebilir. Moğol işgali ve sonrasında Türkistan ve Horasan bölgesinde yaşananlar dikkate alınırsa göçün bu işgal yıllarında yaşanmış olabileceğini düşünmek de mümkündür.