Според някои версии майката на Иван Иванов е потомка на Хаджи Димитър, а баща му - полк. Никола Иванов, е сред героите на Балканската и Междусъюзническата война. Иван Иванов е учил в Стара Загора, след това във Военното училище в София, а през 1915 г. завършва инженерно строителство в Мюнхен, Германия. Именно там среща и се влюбва в бъдещата си съпруга - германката Матилда, от която има три дъщери. През Първата световна война е бил в Македония, където ръководел строеж на жп линия.

 През 1919 г. Иванов е назначен за зам.-началник на водоснабдяването на София.
С царски указ № 210 от 24 май 1934 г. става кмет на града. Управлява 10 години, 3 месеца и 15 дни и това го прави най-дълго управлявалия кмет. Идеята столичани да пият от водите на Рила се е родила още през 1918 г., но едва през 1924 г. започва строителството на водопровода. Вододайната зона е 196 кв. км. От трасе, дълго 82 км, 38,5 км са канали, 17,9 км са тунели, а 25,3 км са тръби. Най-високата точка на водопровода е на 920 метра над равнището на София, което позволява на столицата да пие най-евтината вода на света.

По време на неговото кметуване се извършва основно реорганизиране на службите на Столичната община. Създават се нови отдели и правилници за тяхната дейност. Назначават се кадърни специалисти, които скъсват със съществуващата дотогава бюрократична и неефективна практика на общинските чи­новници.

Едно от най-големите постижения на Столичната община през този период е ликвидирането на всички финансови нейни задължения, натрупани по време и след годините на войните. През 1934 г. е изготвена нова „Наредба-закон за застрояване на сто­лицата София", която допринася за подобряване на градоустройствената дейност в София. Наредбата предвижда създаването на нов градоустройст­вен план на столицата, издържан в духа на модерните европейски градоус­тройствени тенденции. Така се стига до изработването и одобряването през 1938 г. на Мусмановия план, който поради настъпилите военни години ос­тава нереализиран.

През 1938 г. се образува нова административна териториална едини­ца — Столичната голяма община, чрез присъединяването към София на околните села. Под ръководството на инж. И. Иванов Столичната община извършва множество подобрения и нововъведения по отношение на водоснабдяване­то, канализирането, павирането, електроснабдяването, озеленяването, чис­тотата на града.

Въвеждат се автобусният и тролейбусният  транспорт. В резултат на цялостната дейност на Столичната община в периода 1934-1944 г., като се изключат последните години на Втората световна вой­на, столицата постига едно високо ниво на своето архитектурно, градоуст­ройствено и благоустройствено развитие.

Първият етап от водопровода София-Бистрица е бил готов през лятото на 1926 г. Вторият - Бистрица-Рила, е бил започнат през 1928 г. и е завършен през 1933 г. Така на 23 април 1933 г. бистрата рилска вода изпълва специално построения басейн на стадион "Юнак". Така е бил открит рилският водопровод. След осемгодишно строителство съоръжението е било готово и на всеки софиянец се полагали по 200 литра вода на денонощие.

Година по-късно Иван Иванов, който докарал водата в София, станал кмет и първата задача, която си поставил, била да се пребори с корупцията и бюрокрацията. Наложил желязна финансова дисциплина и всеки месец публикувал разходите на кметството в списание "Сердика". Иванов имал навика да обикаля по улиците и кварталите на София всеки ден. Само за няколко години в безразборната дотогава архитектура на града бил сложен ред. През 1934 г. е изготвена нова "Наредба-закон за застрояване на столицата София", която допринася за подобряване на градоустройствената дейност в София. Наредбата предвижда създаването на нов градоустройствен план на столицата, издържан в духа на модерните европейски градоустройствени тенденции. Така се стига до изработването и одобряването през 1938 г. на Мусмановия план, който поради настъпилите военни години остава нереализиран. През 1938 г. се образува нова административна териториална единица — Столичната голяма община, чрез присъединяването към София на околните села. Всички улици в центъра били павирани. Открити били 12 нови училища, 2 болници и бани по кварталите. Тръгнали са няколко градски автобусни линии, разширила се трамвайната мрежа, а през 1941 г. бил пуснат и първият тролей към Горна баня. По същото време е започнало масово озеленяване на София. Така се появили кестените по централните булеварди. Облицовали с камък коритата на Владайската и Преловската река. През този период била открита и къпалнията "Мария Луиза", млекоцентралата и месокомбинатът.

Междувременно Иван Иванов вече подготвя и строителството на язовир "Бели Искър". Съоръжението е било с обем 15,3 млн. кубични метра и е пуснато през 1949 г.

Веднага след 9 септември обаче талантът и човещината на кмета бързо са забравени и той е арестуван и осъден на доживотен затвор. Първоначално обвиненията срещу него са икономически, а после и политически. На 21 април 1945 г. Иван Иванов е осъден на доживотен затвор. Обвинителите му са затруднени какво да измислят, за да го затворят, защото той е бил почтен мъж, не е присвоил нито стотинка и е работел денонощно за благото на софиянци. Фатално за Иванов се оказва едно негово стихотворение, публикувано в "Зора". В него се казва: "Нека падат тука бомби, ще се крием в катакомби". Негодувание заради тези стихове залива целия град и столичани са готови да разкъсат кмета-поет с позорната титла "апологет на фашизма".

Докато е в затвора, народната власт се обръща към Съветския съюз с молба да им изпратят специалисти за построяването на язовир "Искър". От Москва обаче идва отговор, че България си има световен хидроинженер - Иван Иванов.

Още докато е в затвора, той започва да прави чертежите на язовира. Всяка сутрин двама милиционери го водят в проектантската стая и след края на работното време го връщат в килията. Две години по-късно, през 1946 г., е помилван. Язовирът е пуснат в експлоатация на 6 септември 1954 г. и е наречен на името на Сталин. Иван Иванов умира след тежко и мъчително боледуване през 1965 г. Но язовир "Искър" и досега осигурява на всеки софиянец по 300 литра бистра и евтина вода на денонощие.