AI-Pizza 理论

想象一下你在一家披萨餐厅点披萨，这家餐厅就一个传统的LLM，披萨就是LLM生成的回答，以此为基础来解释一下什么是AI hallucination

What is AI Hallucination
首先这家餐厅它并没有制作过披萨。他或许可以搜索到一些披萨食谱，但餐厅内的食材有限，并且搜索内容中夹杂着错误的食谱，最后当餐厅给你端上来的披萨时，上面撒满了糖果，并告诉你这就是正宗的披萨！

Why do LLMS Hallucinate
1、食谱中夹杂着一些错误食谱，比如儿童画的披萨甜点画等。（训练数据噪声）
2、厨师没有尝过真正的披萨，只能凭空猜测。（知识边界模糊）
3、传统的餐厅们食材都是自己购买，食谱都是自己训练，没有相互比较，只坚信自己做出的披萨是正宗的。（模型孤岛，无法纠正）

Why is this a problem
AI hallucination 会导致餐厅做出错误的披萨，顾客可能在吃到错误的披萨后认为披萨...