سکاکى نخست مردى آهنگر بود. روزى صندوقچه‌اى بسیار کوچک و ظریف از آهن ساخت که در ساختن آن رنج بسیار کشید. آن را به رسم تحفه براى سلطان وقت برد. سلطان و اطرافیان به دقت به صندوقچه تماشا کردند و او را تحسین نمودند.
در آن وقت که منتظر نتیجه بود مرد دانشمندى وارد شد و همه او را تعظیم کردند و دو زانو پیش روى وى نشستند. سکاکى تحت تأثیر قرار گرفت و گفت : او کیست؟ گفتند: او یکى از علماء است .
وی از کار خود متأسف شد و پى تحصیل علم شتافت. سى سال از عمرش ‍ گذشته بود، که به مدرسه رفت و به مدرس گفت: مى‌خواهم تحصیل علم کنم . مدرس گفت : با این سن و سال فکر نمى کنم به جایى برسى، بیهوده عمرت را تلف مکن .
ولى او با اصرار مشغول تحصیل شد. اما به قدرى حافظه و استعدادش ‍ ضعیف بود که استاد به او گفت : آن مسأله فقهى را حفظ کن (پوست سگ با دباغى پاک مى‌شود) بارها آن را خواند و فردا در نزد استاد چنین گفت:«سگ گفت : پوست استاد با دباغى پاک مى شود!». استاد و شاگردان همه خندیدند و او را به باد مسخره گرفتند.
اما تا ده سال تحصیل علم نتیجه اى برایش نداشت و دلتنگ شد و رو به کوه و صحرا نهاد به جائى رسید که قطره هاى آب از بلندى بر روى تخته سنگى مى چکید و بر اثر ریزش مداوم خود، سوراخى در دل سنگ پدید آورده بود.
مدتى با دقت نگاه کرد، سپس با خود گفت : دل تو از این سنگ ، سخت تر نیست ، اگر استقامت داشته باشى سرانجام موفق خواهى شد. این را گفت و به مدرسه بازگشت و از چهل سالگى با جدیت و حوصله و صبر مشغول تحصیل شد تا به جائى رسید که دانشمندان عصر وى در علوم عربى و فنون ادبى با دیده اعجاب مى نگریستند.
کتابى به نام مفتاح العلوم مشتمل بر دوازده علم از علوم عربى نوشت که از شاهکارهاى بزرگ علمى و ادبى به شمار مى رود.