Fraser rekryterade tidigare i år Viswas Raghavan från JP Morgan Chase för att leda en ny bankdivision som omfattar företags-, kommersiell- och investmentbankverksamheten.
Kochman har haft en central roll i flera stora affärer, däribland Rockwell Collins försäljning för 23 miljarder dollar till United Technologies och Baxalta-uppköpet för 32 miljarder dollar.
Kochmans avgång meddelades personalen under torsdagen, enligt källorna.
Citigroup har avböjt att kommentera.