不过，他还是在23岁的时候如愿被北大录取。作为北大数学系“文革”后恢复高考的第一批学生，张益唐是北大1978级公认的数学尖子。“第一年，我们学习微积分和线性代数，这很让我激动。”张益唐在大四的时候没有选择原专业代数几何，而是将数论作为之后的主攻方向。他说：“我是真的不喜欢代数几何，那个时候的中国还流行着一种说法是，个人必须遵从集体。我的教授认为代数几何比数论更加重要所以强迫我学习，他还是校长，所以他有权利逼我。”
       1984年的夏天，代数专家莫宗坚（T. T. Moh）受邀来到北大。张益唐被教授们推荐给莫宗坚，在毕业期间做一些研究工作。莫宗坚的其中一个研究方向是雅克比猜想，正是张益唐非常渴望去做的。1985年，张益唐跟着莫宗坚来到了美国名校普渡大学读博士。然而，这六七年里他的研究结果乏善可陈。
       雅克比猜想提出于1939年，是代数几何学中至2013年还未解的难题，其中包含的知识量已经超过了一个毕业生所具备的，只有一些精通代数几何的专家才可能拥有。因为这个猜想的棘手程度，一位数学家曾把它形容为“一个灾难性的问题”。张益唐要做的就是尝试证明雅克比猜想中隐含的东西，而不是直接证明猜想本身。到1991年，张益唐取得了代数几何博士学位，再也无法掩盖和导师的分歧。他告诉莫宗坚自己要重新回归到数论上。莫宗坚后来也坦言：“我对此不是很开心，不过还是支持学生有权利改变专业方向的权利，所以我笑着与他说了再见，22年过去了，我们没有过任何联系。”
       毕业后的张益唐，既没有发表论文，也没得到导师的推荐信，甚至连一份基本的学术类工作都不好找。莫宗坚之后回忆起张益唐的毕业时光，写道：“当我看着他的眼睛时,我发现了一个令人不安的灵魂。”大部分中国同学在毕业后都转投电脑科技或是经济金融。张益唐原来在北大的同学Perry Tang就是其中的一个，他在英特尔公司找了份工作。1999年，他告诉张益唐：“我觉得你不找个工作实在是有些不公平。”而张益唐呢？一毕业，就居无定所。