他出生于世代仕宦兼商人家庭。父亲康墉（音庸y6ng ）对他管教甚严。他从小好游嬉，父亲看见时拿鞭子要打他，但一翻他的作业，早己都做好了，只得作罢。他读书只注重理解而不愿费时费力去背诵，因而得以博览群书。他对经、史、子、集以乃词曲、小说．无所不窥。自青年时代起便立志要有所作为。弘治十年（1497 ）中举，十五年壬戍( 1502 ）科以状元及第，授修撰。曾充经筵讲官，与修《宪宗实录》、《孝宗实录》、《历代通鉴纂要》等。为文主张追步秦汉，强调言之有物。他写文章总是在精力充沛、心情平静时动手，于是文思泉涌，一泄千里。一感到疲倦，立即停下来。所以他的作品往往不同凡响。别人送文章来看，多半被他改得面目全非。常与另一才子李梦阳争高下，一时名声大起，引起许多崇拜者，也被一些文学自命的老资格官僚所忌恨。
正德初年，刘瑾用事，因康海是同乡而存心拉拢，康海一直不理睬。后来李梦阳帮吏部尚书韩文写文章弹劝刘瑾，招来杀身之祸，康海为救李梦阳只得去见刘瑾，刘瑾倒展相迎，不仅放了李梦阳，而且要升康海为吏部侍郎，但康海坚决推辞了。从此与刘瑾有些往来，也设法纠正了刘瑾的一些不法行为。正德五年（巧10 ）刘瑾势败被杀，忌恨康海的人把他列人刘党，将他削职为民。他夺魁一场，仅当了八年翰林官，中间还为其母守丧三年，不少人为他感到惋惜。他却说：“玉石俱焚，是自古就有的事。杀刘瑾这样的坏人是天下的大幸，我个人受点牵连无所谓。”
当然，他内心的不平之气还是有的。回乡后，葛巾野服，一转轮密码纵情山水，挟妓浪游，一边从事文学创作。许多到过关中的文人都要慕名去拜访他。也有人劝他再出来做官，但一提做官的事他就大发脾气。
他写了许多抨击时弊的散曲，也写了著名的杂剧《中山狼传》。“弘治十才子”中有他，明代“前七子”中也有他。他是明代状元中最著名的文学家。所著有《对山文集》、《沂东乐府》、《康氏族谱》、《孙氏族谱》、《武功县志》等行于世。
他还精音乐，懂天文历法，兼通拿脉、针灸等。其子康阜，自幼被称为神童，只活了19 岁。
其次子康栗，秀才出身，早卒，颇有才华，著有《子宽集》，其女亦工文辞。
以上根据《镇原康氏家谱》（2006年3月，康希善主编）所编。