كان أول ما فكر فيه الرسول صلى الله عليه وسلم هو بناء مسجد يجتمعون فيه، فيؤدون فيه صلاتهم، ويقضون أمورهم، ويتشاورون فيما يخصهم، فاشترى صلى الله عليه وسلم الموضع الذي بركت فيه الناقة، ليبني فيه المسجد. وتجمع المسلمون لبناء المسجد، ورسول الله صلى الله عليه وسلم معهم، ينظف المكان، ويحمل معهم الطوب، ويشارك في البناء. ومن المسجد بدأ رسول الله صلى الله عليه وسلم ينظم دولته، وكان أهم شيء في هذه الدولة هم الأفراد الذين يعيشون فيها، لأنها تنهض بهم وتعتمد عليهم، فكان المسلمون في المدينة عندئذ قسمين: المهاجرون، وهم أهل مكة الذين هاجروا بدينهم إلى المدينة. والأنصار، وهم أهل المدينة الأصليون، الذين اعتنقوا الإسلام، واستضافوا المسلمين في بلدهم، ونصروا الرسول صلى الله عليه وسلم. وكان الأنصار قبيلتين كبيرتين: الأوس، والخزرج، وكانت الحروب لا تنقطع بينهما قبل أن يعتنقوا الإسلام، فصالح الرسول صلى الله عليه وسلم بينهما، ونزع الله من قلوبهم العداوة والكراهية، وحل محلها الحب والمودة والوئام. المؤاخاة وبعد أن استقر المهاجرون، وصلح حال الأنصار، بقي أن يندمجوا سويًّا فيصبحوا أخوة مسلمين، فلا فرق بين مهاجر وأنصاري، لذلك آخى رسول الله صلى الله عليه وسلم بينهم فجعل لكل مهاجر أخًا من الأنصار، ولم تكن الأخوة مجرد كلمة تقال، بل طبقها المسلمون تطبيقًا فعليًّا . فكان الصحابة يرث بعضهم بعضًا بناءً على هذه الإخوة، فيرث المهاجر أخاه الأنصاري، ويرث الأنصاري أخاه المهاجر، وظلوا على ذلك حتى جعل الله التوارث بين ذوي الأرحام. وفي هذا المجتمع الآمن المستقر، حيث يحب كل مسلم أخاه، أخذ رسول الله صلى الله عليه وسلم يعلم أصحابه أمور دينهم فيدعوهم إلى كل خير، وينهاهم عن كل شر، وهم ينفذون ذلك راضين سعداء بهداية الله لهم، ووجود رسول الله صلى الله عليه وسلم بينهم، وبدأ الناس يتوافدون إلى المدينة، معلنين إسلامهم وانضمامهم لهذه الدولة المنظمة. وكان يسكن مع المسلمين في المدينة اليهود وبعض المشركين الذين يحقدون على الإسلام، ويكرهون قيام دولته، لذلك وضع الرسول صلى الله عليه وسلم معاهدة تنظم العلاقة بين المسلمين وغيرهم حتى يأمن مكر الكفار، وهذه بعض المبادئ التي احتوتها المعاهدة: 1 - المهاجرون والأنصار أمة من دون الناس يتعاونون فيما بينهم، وهم يد واحدة على من عاداهم. 2 - دماؤهم محفوظة، فلا يقتل مؤمن مؤمنًا، ولا ينصر مؤمن كافرًا على أخيه المؤمن. 3 - لليهود حريتهم الدينية فلا يُجبرون على الإسلام. 4 - اليهود الذين يسكنون المدينة يشاركون في الدفاع عنها، ولا يعينون أعداء الإسلام، ولا ينصرونهم. 5 - كل ظالم أو آثم أو متهاون خائن لا ينفذ ما في هذا العهد عليه اللعنة والغضب، ويقوم الآخرون بحربه. 6 - إذا حدث خلاف في أي أمر، فإن الحكم هو كتاب الله وسنة نبيه صلى الله عليه وسلم. وهكذا وضَّح الرسول صلى الله عليه وسلم حقوق كل طائفة في المدينة وواجباتها، ورسم المنهج الذي يتعاملون به بكل أمانة وعدل، فلم يظلم اليهود بل حفظ لهم حقوقهم.