生成式AI频频犯错？曝Apple要求Apple Intelligence“不要胡说八道”！

一直以来，生成式AI都因为提供不稳定且不准确的答案而面对网友的诸多批评（Google的AI就曾让网友使用胶水把奶酪黏在披萨上）。对此，近日网友发现，Apple在系统内部指令中，明确要求Apple Intelligence系统“不要胡说八道”。

据《IT之家》报导，近日有网友在macOS 15.1测试版发现了Apple为Apple Intelligence中的智能回复（Smart Reply）功能设置了一系列地内部指令。这些指令以JSON文件的形式存在，并详细规定了Apple Intelligence的工作流程。

然而，网友在这些指令当中，发现了Apple明确要求系统“不要编造事实，不要产生幻觉”（Do not hallucinate. Do not make up factual information.）等字眼。

其实，智能回复是Apple Intelligence用于帮助用户回复email的功能；它能够透过分析邮件内容并自动生成可能可以回复的选项。对此，《IT之家》表示，与其他生成式AI一样，智能回复也面临着“幻觉”的问题，即系统可能会生成虚假或误导性的信息。

因此，为了防止这种情况发生，Apple在系统内部就设置了严格的指令。根据泄露的指令，智能回复功能被要求仅提取邮件中明确提出的问题，并提供相应的回答选项。这个做法能够帮助减少AI在生成回复时，提供错误或误导性的信息。

虽然Apple明确要求AI不要编造信息；但《IT之家》转述业内人士观点，并指出目前要完全消除“幻觉”问题仍然面临挑战。因为生成式AI模型在本质上就不理解文本内容，所以也无法准确判断信息的真伪。