খাওয়ারিজমের রাজা সুলতান মামুন বিন মাহমুদ ছিলেন বিদ্যুৎসাহী এবং তিনি আল বেরুনীর জ্ঞানে ও গুণে মুগ্ধ ছিলেন। সুলতান মামুন এক পত্রে আর বেরুনীকে দেশে ফিরে আসার অনুরোধ জানান। তিনিও সুলতানের অনুরোধে ১০১১ খ্রিস্টাব্দে মাতৃভূমি খাওয়ারিজমে ফিরে আসেন এবং সুলতানের প্রধানমন্ত্রী হিসেবে দায়িত্ব পালন করেন। রাষ্ট্রীয় কার্য পরিচালনার সাথে সাথে তিনি জ্ঞান বিজ্ঞান চর্চা ও গবেষণার কাজও চালিয়ে যেতেন। মানমন্দির নির্মাণ করে তিনি জ্যোতির্বিজ্ঞানে পর্যবেক্ষণ কার্য চালান। এখানে তিনি ৫/৬ বছর অবস্থান করেছিলেন এবং বিজ্ঞানের বিভিন্ন বিষয়ে কয়েকটি গ্রন্থ রচনা করেন।
গজনীর দিগ্বিজয়ী সুলতান মাহমুদ জ্ঞানী ও গুণী ব্যক্তিদের খুব সম্মান করতেন এবং তার শাহী দরবারে প্রায় প্রতিদিন দেশ বিদেশের জ্ঞানী ও গুণী ব্যক্তিদের মধ্যে জ্ঞান বিজ্ঞান ও সাহিত্য চর্চা নিয়ে আলোচনা হত। সুলতান মামুনের শাহী দরবারের জ্ঞানী ব্যক্তিদেরকে গজনীতে পাঠানোর জন্যে সুলতান মাহমুদ একটি সম্মানজনক পত্রে পরোক্ষ নির্দেশ দিয়ে পাঠান। পত্র পাবার পর আল বেরুনী কয়েকজন সঙ্গী নিয়ে ১০১৬ খ্রি: গজনীতে সুলতান মাহমুদের শাহী দরবারে উপস্থিত হন। মামুনের দরবারের অন্যতম বিশ্ববিখ্যাত বিজ্ঞানী ও দার্শনিক ইবনে সিনা এ প্রস্তাবকে অপমান ও আত্মমর্যাদাকে বিকিয়ে দেয়ার সামিল আখ্যায়িত করে প্রত্যাখ্যান করেন এবং কয়েকজন সঙ্গী নিয়ে খাওয়ারিজম ত্যাগ করেন। সুলতান মাহমুদ ইবনে সিনাকে না পেয়ে এবং ইবনে সিনার বিদ্রোহের অজুহাতে খাওয়ারিজম রাজ্য দখল করে নেন। আল বেরুনী সুলতান মাহমুদের একান্ত সঙ্গী হিসেবে ১০১৬ হতে ১০১৯ খ্রি: পর্যন্ত গজনীতে অবস্থান করেন। উল্লেখ্য যে, সুলতান মাহমুদ ১৭ বার ভারত আক্রমণ করেছিলেন এবং আল্ বেরুনী কয়েকবার সুলতানের সাথে ভারত এসেছিলেন। তিনি তৎকালীন ভারতীয় শিল্প, সাহিত্য, দর্শন ও বিজ্ঞানের সমৃদ্ধি দেখে বিস্মিত হন। পরবর্তীতে রাজসমন নিয়ে ১০১৯–১০২৯ খ্রিস্টাব্দ পর্যন্ত তিনি ভারতে অবস্থান করে সেখানকার জ্ঞানী ব্যক্তিদের সাথে মিলিত হয়ে তাঁদের সঙ্গে ভূগোল, গণিত ও ধর্মতত্ত্ব সম্পর্কে মতের আদান প্রদান করেন এবং সেখানকার জ্ঞান বিজ্ঞানের গ্রন্থ অধ্যয়ন করেন। ভারত থেকে প্রত্যাবর্তন করেই তিনি রচনা করেন তাঁর বিখ্যাত গ্রন্থ ‘কিতাবুল হিন্দ’। তৎকালীন সময়ের ভারতীয় জ্ঞান বিজ্ঞান, শিল্প, সাহিত্য ও ধর্মীয় অনুশাসন জানার জন্যে এটি একটি নির্ভরযোগ্য গ্রন্থ। অধ্যাপক হামারনেহের লিখেছেন,
“As a result of his profound and intimate knowledge of the country andits people, the author left us in his writing the wealth of information of undying interest on civilization in the sub-continent during the first half at the eleventh century.”
আল বেরুনী ভারত থেকে গজনীতে প্রত্যাবর্তন করার কিছুদিন পরেই সুলতান মাহমুদ ইন্তেকাল করেন এবং তাঁর পুত্র সুলতান মাসউদ ১০৩১ খ্রিস্টাব্দে সিংহাসন আরোহণ করেন। সুলতান মাসউদও আল বেরুনীকে খুব সম্মান করতেন। এ সময়ে আল বেরুনী রচনা করেন তাঁর সর্বশ্রেষ্ঠ গ্রন্থ ‘কানুনে মাসউদী’। এ সুবিশাল গ্রন্থখানা সর্বমোট ১১ খণ্ডে সমাপ্ত। বিজ্ঞানের বিভিন্ন বিষয় নিয়ে গ্রন্থটিতে আলোচনা করা হয়। ১ম ও ২য় খণ্ডে আলোজনা করা হয়েছে জ্যোতির্বিজ্ঞান সম্পর্কে; ৩য় খণ্ডে ত্রিকোণমিতি; ৪র্থ খণ্ডে–Spherical Astronomy; ৫ম খণ্ডে–গ্রহ, দ্রাঘিমা, চন্দ্র সূর্যের মাপ; ৬ষ্ঠ খণ্ডে–সূর্যের গতি; ৭ম খণ্ডে –চন্দ্রের গতি; ৮ম খণ্ডে–চন্দ্রের দৃশ্যমান ও গ্রহণ; ৯ম খণ্ডে স্থির নক্ষত্র; ১০ম খণ্ডে–৫টি গ্রহ নিয়ে এবং একাদশ খণ্ডে আলোচনা করা হয়েছে জ্যোতিষ বিজ্ঞান সম্পর্কে। এ অমূল্য গ্রন্থটি সুলতানের নামে নামকরণ করায় সুলতান মাসউদ অত্যন্ত সন্তুষ্ট হয়ে আল বেরুনীকে বহু মূল্যবান রৌপ্য সামগ্রী উপহার দেন। কিন্তু আল বেরুনী অর্থের লোভী ছিলেন না। তাই তিনি এ মূল্যবান উপহার সামগ্রী রাজকোষে জমা দিয়ে দেন।
আল বেরুনী বহু জ্ঞান বিজ্ঞান সভ্যতার ইতিহাস, মৃত্তিকা তত্ত্ব, সাগর তত্ত্ব এবং আকাশ তত্ত্ব মানবজাতির জন্যে অবদান হিসেবে রেখে গেছেন। ইউরোপীয় পণ্ডিতগণের মতে বেরুনী নিজেই বিশ্বকোষ। একজন ভাষাবিদ হিসেবেও তিনি ছিলেন বিখ্যাত। আরবী, ফারসী, সিরিয়া গ্রীক, সংস্কৃতি, হিব্রু প্রভৃতি ভাষার উপর ছিল তাঁর পাণ্ডিত্য। ত্রিকোণমিতিতে তিনি বহু তথ্য আবিষ্কার করেছেন। কোপানিকাস বলেছিলেন, পৃথিবী সহ গ্রহগুলো সূর্যকে প্রদক্ষিণ করে অথচ কোপানিকাসের জন্মের ৪২৫ বছর পূর্বেই আল বেরুনী বলেছেন, “বৃত্তিক গতিতে পৃথিবী ঘুরে।” তিনি টলেমি ও ইয়াকুবের দশমিক অংকের গণনায় ভুল ধরে দিয়ে তাঁর সঠিক ধারণা দেন। তিনিই সর্ব প্রথম প্রাকৃতিক ঝর্ণা এবং আর্টেসীয় কূপ এর রহস্য উদ্ঘাটন করেছিলেন। জ্যোতিষ হিসেবেও তার প্রসিদ্ধি ছিল অত্যাধিক। তিনি যে সব ভবিষ্যৎ বাণী করতেন সেগুলো সঠিক হত। তিনি শব্দের গতির সাথে আলোর গতির পার্থক্য নির্ণয় করেছিলেন। তিনি এরিস্টটলের ‘হেভেন’ গ্রন্থের ১০টি ভুল আবিষ্কার করেছিলেন। ধর্মের সাথে বিজ্ঞানের সম্পর্কেও তিনি আবিষ্কার করেন।