تأسس بنك سبأ الإسلامي كشركة يمنية مساهمة مقفلة بموجب قرار وزير التموين والتجارة رقم 25 بتاريخ 25 يونيو 1996م وتصريح البنك المركزي اليمني رقم 311م/م الصادر بتاريخ 2 إبريل 1997م.
وبدأ البنك نشاطه رسمياً في الثالث من ابريل 1997م كصرح اقتصادي إسلامي بقاعدة مساهمين عريضة تصل إلى 6400 مساهم من جميع شرائح المجتمع
ومن أهم المساهمين في البنك المؤسسه الاسلاميه لتنمية القطاع الخاص ICD الذراع الاستثماري للقطاع الخاص للبنك الإسلامي للتنميه ، وكذلك بنك دبي الاسلامي ، حيث أن اكبر حصة مساهمين هي مع هاتين الجهتين ، بالإضافة إلى مساهمين محليين .
ويقوم البنك بممارسة الأعمال المصرفية والمالية والتجارية وأعمال الاستثمار وفقا لأحكام الشـريعة الإسلامية وبإشراف هيئة الرقابة الشرعية وذلك من خلال المركز الرئيسي بمدينة صنعاء وفروعه المنتشرة فـي محافظات الجمهورية اليمنية .