1915年，日本提出了“二十一条”。据《陆徵祥传》记载，曹汝霖主张“即行承认，不必商议”，曹汝霖在自传中反驳了这种说法，说当时袁世凯举棋不定，要考虑之后再交各部，“各人唯唯听命而散”。之后，袁世凯逐条批示，吩咐外交总长陆徵祥和曹汝霖照办。
曹汝霖在回忆录中详细记载了谈判时的情形：“此次会议，我与陆子兴(陆徵祥别号)总长，殚精竭虑，谋定后动，总统又随时指示，余每晨入府报告，七时到府，总统已在公事厅等着同进早餐，报告昨日会议情形，讨论下次应付方针，有时议毕又入府请示……日本所提之二十一条，议结者不满十条;而第五项辱国条件，终于拒绝而撤回。会议结果，虽不能自满，然我与陆总长已尽最大的努力矣”“世人对此交涉不究内容，以讹传讹，尽失真相”，同时，他指出在合约上签字的是总长陆子兴。
在《顾维钧回忆录》中，顾维钧曾如此评价曹汝霖：“我认识曹汝霖，并与其在外交部，特别是当签订‘二十一条’时共过事。就我们所共之事而言，我始终感到曹先生是一位能干的外交家，是拥护国家利益的。”
对于把巴黎和会外交的失败归咎于他，曹汝霖更觉冤枉。当时中国代表团代表为陆徵祥、施肇基、顾维钧、魏宸组、王正廷，曹汝霖并不在其列。段祺瑞事后曾说过是他连累了曹汝霖等人，把曹宅被冲击看作是项庄舞剑之举。
