يحتوي مجمع قلعة الجاهلي على العديد من العناصر المختلفة من العمارة التقليدية المبنبة من الطوب الطيني والمحفوظة في أجزاء أخرى من مدينة العين، والتي تضم برج مراقبة دائري، وحصن مربع مع أبراج دفاعية عند زواياه، وسور ومسجد ، وقد كشفت الأعمال التي جرت مؤخراً عن بقايا لفلج أو قناة ري مغطاة.

أقدم أجزاء القلعة هي البرج الدائري المنفصل متعدد الطبقات والحصن الداخلي. وربما يكون البرج الدائري أقدم من الحصن المربع، والذي كان في الأصل البرج الوحيد للمراقبة وهو من النوع الذي تم بناؤه لحماية واحة الجاهلي. إن النقش الموجود على المدخل الجنوبي يبين أن الحصن الداخلي المربع الشكل يعود إلى تسعينات القرن الثامن عشر عندما تم بناؤه من قبل الشيخ زايد الأول (1855-1909). وتشير الكتابة المنقوشة إلى اسم الشيخ زايد مؤسس القلعة:

فتح الخير في باب العلا حل فيه السعد بالعلياء المنيفة
تهاني العز قالت أرخوا دار جد ٍ شاد زايد بن خليفة

وفي بداية الخمسينات استخدمت قلعة الجاهلي كمركزاٌ لقوة ساحل عمان، وتمت إضافة سكن للقوات ومخازن مرتبة في شكل وحدات حول فناء القلعة. وقد استخدم البرج الدائري في بادئ الأمر مركزاً للخفر ولكن تم تحويله لاحقاً إلى مركز للضباط.

شمل ترميم الحصن بين1986-1989 إزالة بعض مباني مجمع الإدارة البريطانية وإنشاء ساحة كبيرة تستخدم حالياً للمناسبات العامة والمهرجانات الموسيقية. لقد تمت إضافة المدخل الضخم الحالي المحاط بأبراج كبيرة في هذا الوقت، بالإضافة إلى صالة لها ممرات والتي تشكل الطرف الغربي من الفناء. إن جميع أجزاء المبنى الجديد التي أضيفت خلال فترة الخمسينات، قد تم بناؤها باستخدام نفس تركيبة الطوب الطيني التقليدي للجدران مع أسطح من جذوع النخيل.
هذه العناصر الجديدة (2007-2008) كانت لوقت قريب محوراً لمشروع ترميم تنفذه هيئة أبوظبي للثقافة والسياحة والتي شهدت تحويل بعضها إلى مساحات للعرض (وتضم معرضاً دائماً لصور الرحالة البريطاني ويلفريد ثيسيجر) ومركز معلومات لزوار مدينة العين.

وإلى الجنوب من القلعة يوجد مسجد صغير من الأرجح أن يكون معاصراً للحصن الداخلي الذي بناه الشيخ زايد الأول. ويتكون المسجد من غرفة واحدة مع ممرات مفتوحة على الجانب الشرقي ويتم الدخول إليها من فناء مغلق تتم تغطيته في الصيف لتوفير ظل إضافي ، وتوجد داخل الفناء منصة منخفضة لرفع الآذان للصلاة وغرفة صغيرة ربما أستخدمت في الأصل للوضوء.