ثم دخل مكة، ثم الشام، لطلب الحلال. وكان يأكل من عمل يده. وصحب بمكة سفيان الثورى، والفضيل بن عياض. وتوفى بالجزيرة في الغزو، وحمل إلى صور - مدينة بساحل الشام، أو ببلاد الروم على ساحل البحر - فدفن بها سنة إحدى وستين ومائة. ومناقبه جمة، أفردها ابن الحلبى بالتأليف. واختلف - ليلة أن مات - إلى الخلاء نيفًا وعشرين مرة، في كل مرة يجدد الوضوء للصلاة، فلما أحس بالموت، قال: " أوتروا لى قوسى! " فقبض عليه، فقبضت روحه والقوس في يده.