Rođen je 1930. godine. Diplomirao je, magistrirao i doktorirao na Fakultetu političkih nauka u Beogradu.
U Drugom svetskom ratu pridružio se partizanima.
Radnu karijeru započeo je na Institutu „Vinča“ gde je zabeležio 18 godina staža. Osnovao je i bio direktor Republičke zajednice penzionog i invalidskog osiguranja samostalnih delatnosti 1971. godine, da bi ta institucija kasnije prerasla u Fond PIO za samostalne delatnosti, a koji je kasnije integrisan i jednstveni PIO Fond.
Krkobabić je 1985. osnovao Republičku zajednicu penzionog i invalidskog osiguranja zemljoradnika čime poljoprivrednici prvi put u istoriji Srbije dobijaju pravo na penziono i invalidsko osiguranje, a koja je takođe integrisana u jedinstveni PIO Fond.
U penziji je bio od 1989. godine.
Bio je član Saveza komunista Jugoslavije, a od sredine 90-ih i Socijalističke partije Srbije.
Izabran je za poslanika u Skupštini Srbije 1997. godine ispred SPS-a. Iste godine izabran je i za saveznog poslanika u Skupštini Savezne Republike Jugoslavije.
Osnovao je Partiju ujedinjenih penzionera Srbije 2005. godine, a na čelo stranke dolazi sledeće godine. Stranka je izašla na izbore 2007. godine u koaliciji sa Socijaldemokratskom partijom Nebojše Čovića, ali ta koalicija nije prešla cenzus.
Od jula 2008. do maja 2012. godine vršio je funkciju potpredsednika Vlade Srbije. Istu funkciju nastavio je da vrši i u aktuelnoj Vladi, ali je pridodao i poziciju ministra rada, zapošljavanja i socijalne politike.
Za svoj rad dobio je više nagrada među kojima i Zlatnu povelju Generalne Skupštine Ujedinjenih Nacija.
Krkobabić je bio oženjen, ima dva sina i četvoro unučadi.
Posle duže bolesti, preminuo je aprila 2014. godine.
