That I believe is right.

大写开头，句号结尾，说明你写的是一个完整的句子。that I believe是主语从句，is right为系表结构。连词that不作成分，因此主句为I believe。believe作“相信”解时是及物动词，缺少宾语，这个主语从句为结构错误。believe作不及物动词时，意为“有宗教信仰”。那么这句话的意思就成了：我有宗教信仰，这是对的（正确的）。

What I believe is right.

此句中的what I believe是主语从句，what显然不是疑问代词，而是融合型关系代词。what I believe=the thing which I believe. 即what从句本质上是一个特指名词加限制性定语从句，我相信的东西（事情）。全句的意思就是：我相信的东西是正确的。

从以上分析可以看出，这二个句子在意义和结构上没有任何相似性。