Народився в Осаці, Японія. Має брата-близнюка. Виховувався бабусею по материнській лінії і жив з нею у вузькому, видовженому, двоповерховому дерев'яному будинку у ряді будинків «стрічкової» забудови.
Після школи часто заходив до майстерні столярай скляра, цей досвід дозволив йому зрозуміти значення ручної праці. У 14 років збудував невелику хижу для друга. Вулиця стала для нього продовженням школи.
1991 року за проєктом Андо було завершено будівництво Храму води Хомпукудзі у префектурі Хьоґо. 1991 року завершив павільйон Японії на Всесвітній виставці у Севільї. Також завершив Музей сучасного мистецтва на Наосімі; у 1995 році доповнив музейну споруду готельним комплексом із водоймою овальної форми.
2012 року реалізував проєкт Художнього музею в Акіті. 2013 року було завершено третій, останній етап реконструкції Палаццо Грассі у Венеції, де замість закритого у 1983 році невеликого приватного театру Театріно, за проєктом Андо було споруджено сучасну прибудову із залізобетону загальною площею близько 1 000 м.
1973 року виконав для друга проєкт будинку Томісіма в Осаці. Пізніше Андо викупив цей будинок, аби розмістити в ньому офіси власного агентства.
Після навколосвітньої подорожі, що тривала чотири роки, Андо заснував власне архітектурне агентство «Tadao Ando Architects & Associates» в Осаці. Його офіс почав притягувати молодих архітекторів. Андо одружився з Юміко Като, яка стала помічницею в його агентстві.
1983 року завершив у Кобе перший житловий будинок з комплексу Рокко, який возвишається над крутим схилом і з якого відкривається вид на Кобе і Осацьку затоку. Вибір ділянки був сміливим і ризикованим, однак, будинок вистояв під час землетрусу Хансін-Авадзі і довів свою стійкість та надійність. За цей проєкт отримав премію культурного дизайну в Японії.