ولد الجعبري عام 1960، وتعود جذور عائلته إلى الخليل جنوب الضفة الغربية حيث انتقلت إلى قطاع غزة، وسكنت حي الشجاعية شرق مدينة غزة، وسرعان ما تعرض للاعتقال بتهمة المشاركة في خلية مسلحة تابعة لحركة فتح ومقاومة الاحتلال. وبعد سنوات من الاعتقال تحول الجعبري برفقة عدد من رفاقه إلى الاتجاه الإسلامي داخل السجون، والذي كان في بداياته التأسيسية، وسرعان ما أصبح أحد قادة حماس في السجون.
ويقول أسرى عايشوه إنه عمل برفقة عدد من قادة الحركة الذين تواجدوا في السجون ومن بينهم الدكتور إبراهيم المقادمة الذي اغتيل في 2003، على تجهيز عناصر «حماس» للانضمام إلى الأجهزة المختلفة للحركة بعد خروجهم، لاسيما جهازها العسكري « كتائب عز الدين القسام» وذلك من خلال دورات أمنية وعسكرية ودينية مكثفة تؤهل الشبان للانخراط في العمل التنظيمي فور خروجهم».
وأفرجت إسرائيل عن الجعبري عام 1996 بعد أن كان رفض الإفراج عنه قبل ذلك بعامين في إطار إفراجات اتفاق أوسلو، حيث خرج من السجن في وقت كانت حماس تتعرض فيه لحملة واسعة من السلطة الفلسطينية، فعمل على تأسيس جمعية «النور» لرعاية الأسرى ومتابعة ملف الأسرى بالكامل ومشاركته في كافة فعاليات أهاليهم.
وانضم في العام 1997 الى حزب الخلاص الإسلامي الذي أسسته حماس في تلك الفترة لمواجهة الملاحقة الأمنية التي تعرضت لها من السلطة آنذاك، وسرعان ما تعرض للاعتقال من قبل الأجهزة الأمنية وأمضى عامين في سجونها، وذلك بتهمة الانخراط في العمل العسكري مجدداً.
ومع اندلاع انتفاضة الأقصى عام 2000، خرج الجعبري من سجون السلطة وكان ثالث ثلاثة في المجلس العسكري لكتائب القسام، قبل أن يصبح الرجل الثاني رسمياً، والقائد الفعلي فيها بعد اغتيال إسرائيل قائدها العام صلاح شحادة وإصابة القائد الذي خلفه محمد الضيف الذي نجا من عدة عمليات اغتيال عام 2003.
وسبق أن حاولت إسرائيل اغتيال الجعبري عدة مرات، أبرزها في السابع من أوت 2004 حينما قصفت طائرة إسرائيلية منزل عائلته في حي الشجاعية شرق غزة وقتل في الحادث نجله محمد وشقيقه فتحي وصهره وعدداً من أقاربه ومرافقه ،وأصيب بجراح طفيفة في الحادث.