Aşık Paşazede’nin Anadolu’da ehemmiyetle bahsettiği ikinci zümrede Ahiyanı Rum yani Anadolu Ahileridir. Gezgin İbni Batuta’nın müşahedeleri sayesinde 14. asırda bu teşekkülün Anadolu’da ne kadar yayılmış olduğu eskiden beri bilindiği için, Osmanlı Devleti’nin kuruluşunda bunların rolleri meselesi uzun süredir dikkat celbetmiş bir husustur. İbni Batuta bilhassa Anadolu’nu belli başlı merkezlerinde, Antalya, Burdur , Gölhisar , Ladik , Milas , Konya , Niğde , Aksaray , Kayseri , Sivas , Gümüşhane , Erzincan , Erzurum , Birgi , Tire , Manisa , Balıkesir , Bursa , Gerede , Geyve , Yenice , Mudurnu , Bolu , Kastamonu , Sinop’ta “Ahiyanı Fityan kardeş yiğitler” adını verdiği bu zümrelerin zaviyelerinden bahsetmekte ve Anadolu’da her Türkmen kasabasında , köyünde bunlara rastlanmaktadır.Filhakika , gerek toponomi teşkilatı , gerek kitabeler ve mezar kitabeleri , sonra vakfiyeler , resmi kayıtlar , ve nihayet muhtelif kaynaklar , bu teşkilatın Anadolu’nun her tarafına , hatta Anadolu ile sıkı münasebeti olan Azerbeycan’a ve Kırım’ın sahil şehirlerine kadar yayıldığını gösteriyor.
Ahi teşkilatı yalnız şehirlerde değil , köylerde uclarda da vardı. Hatta bu suretle Alpler teşkilatı ile temas ederek ona da hulul ettiği için, hem ahi hem Alp ünvanını taşıyan her iki zümreye de birden mensup kimselerde bulunuyordu. Fütüvvet teşkilatı Anadolu’da en ziyade büyük şehirlerde kuvvetli idi. Büyük merasimlerde , yeni hükümdarın şehre gelmesi şenliklerinde onlar hususi mızıkaları , bayrakları , kostümleri ile mükemmel silahlı olarak bulunuyorlardı. Bunların büyük şehirlerde muhtelif reislerin maiyetinde muhtelif zümreler teşkil ettiklerini ve her zümrenin toplantı için ayrı zaviyesi olduğunu biliyoruz , bundan delil getirerek diyebiliriz ki , galiba her zümre ve her zaviye , ayrı ayrı hirfetler erbabına mahsustu. Eğer bir hirfet erbabı büyük şehirlerde bir zaviyeye sığmayacak kadar kalabalık olursa , şehrin ayrı yerlerinde muhtelif zaviyeler açıyorlardı.13. asrın 2. yarısında Konya’da Ahilerin reisi olan Ahi Ahmet Şah’ın emri altında birkaç bin rind bulunduğunu söyleyen Eflaki’nin ifadesinden bu gerçek anlaşılıyor. Ahilerin Osmanlı Devleti’nin kuruluşunda ve Yeniçeri teşkilatının oluşmasında rolleri büyük olmuştur.