表达的内容不同：
what作代词时意为“什么；多么；多少”，作形容词时意为“什么；多么；何等”，作副词时意为“到什么程度，在哪一方面”，作感叹词时意为“什么；多么”。that：那，那个，那人，那事，那东西。
作用不同
what可以做代词、形容词、副词、感叹词。that在英语中使用广泛，可用作形容词、代词、连词、副词，还可用于固定搭配。
引导从句的方式不同
what引导名词性从句时都在从句中充当句子的某一成分，如主语、表语、宾语或定语。
其区别是：what表示泛指的事物，常译为什么或所……的事物，whatever是它的强语势无论什么。
that可做连接词：
1、引导名词性从句：He expressed the hope that we would keep in touch with his firm.
翻译：他表示希望我们与他的公司保持联系。
2、引导状语从句，表示原因或理由：We are glad that we have accomplished another arduous task.
翻译：我们都感到高兴因为又完成了一项艰巨的任务。
3、引导状语从句，表示目的或结果)为了，以至于：He is working hard that he can catch up with the class.
翻译：他努力用功，以便赶上班上同学。
4、引导表示愿望，感叹的从句，主句常省略：That I could stay at home today!
翻译：今天要是我能呆在家里多好呀!