苹果AI闹乌龙 把枪击案总结成我杀了我自己

杨桢

苹果公司上周在英国推出的“苹果智能”服务成为了近几天最热门的话题，英国广播公司连续一周发表报道，指责该服务错误地归纳了其新闻推送。在社交媒体上，有截图显示苹果的AI推送摘要错误地将引发全球关注的路易吉·曼乔内案件描述为“对自己开枪”。更令媒体机构难以接受的是，这些错误总结的推送看起来像是来自BBC新闻终端。

ChMkK2dlOB-IVvhVAACEH6ABnnYAAm-VwO1tUIAAIQ3614.jpg

这并非个例，还有报道称苹果AI在归纳《纽约时报》的新闻推送时，得出了“内塔尼亚胡被捕”的虚假结果。BBC发言人指出，他们已经向苹果公司表达了对此事的担忧，但一周过去了仍未收到回复。
事件的核心在于“苹果智能”的通知摘要功能。这些问题可能源于苹果用于总结内容的模型——一个安装在设备端的拥有30亿参数的“小”模型——其能力可能不足。值得注意的是，这是苹果自研的模型。苹果官网发布的研究也表明，端侧模型的总结能力满意度大约只有70%。尽管其表现略优于竞品的迷你模型，但仍然远未达到“不出重要差错”的标准。