Microsoft kommer även samarbeta med japanska regeringen för att stärka motståndskraften inom cybersäkerhet.
"Hotbilden för cybersäkerhet har blivit mer utmanande ... Vi ser det framför allt från Kina och Ryssland, men vi ser också en växande ransomware-aktivitet runt om i världen", sade Smith.
De nya datacentren kommer att ha avancerade halvledare för artificiell intelligens och placeras vid två befintliga anläggningar i östra och västra Japan.