为此，徐庶不得不离开刘备，投入了曹营。
然而，曹操虽然得到了徐庶，徐庶却从不为他出谋划策。
原因一是徐庶笃于对刘备的情义，回到曹营不是出于本心；二是其回到曹营之后，真相大白，老母愤而自缢。
徐庶自知被骗，故而深恨曹操，发誓不为曹操设一计谋。
这就是著名的“徐庶进曹营，一言不发”的故事。
也有千古流传徐庶身在曹营心在汉的故事。
原来故事的前因是这样的，公元201年，徐庶以刘备是汉室皇亲，而且信义著于四海，前往投奔，刘备见徐庶后，非常器重他。
207年，徐庶向刘备推荐了诸葛亮。
徐庶对刘备说：“诸葛孔明乃是卧龙，将军愿意见他吗？”
刘备说：“你可以和他一起来。”
徐庶说：“这个人可以见，但不能委屈他前来，将军应该放下自己的身份亲自去见他。”
于是，刘备在徐庶的建议下三顾茅庐，求得诸葛亮。
第二年，曹操率领大军南下，刘表病死，次子刘琮接领荆州，派遣使者请求投降曹操。
时徐庶与刘备屯于樊城，听闻此事后，刘备率众南行，徐庶带家眷与诸葛亮一起随刘备逃亡，在当阳长坂坡被曹操大军追上，徐庶的母亲被曹操军所掳，徐庶为了保全母亲，辞别刘备，前往曹营。
俄而表卒，琮闻曹公来征，遣使请降。
先主在樊闻之，率其众南行，亮与徐庶并从，为曹公所追破，获庶母。