智东西（公众号：zhidxcom）
编译 | 孙悦
编辑 | 李水青

智东西5月28日消息，近日美国纽约一家保险初创公司Lemonade开发了一套AI测谎系统，用于检测客户是否存在欺诈性索赔行为。

该公司要求客户将索赔原因以视频形式在申请时提交，而后通过机器学习软件和自动化决策，来帮助鉴别客户的信用评级，判别是否通过理赔。

这一举动遭到了公众的道德谴责和质疑。美国消费者监管机构FTC发布了一份措辞强硬的声明称，一切基于种族、肤色、宗教、民族血统、性别、婚姻状况和年龄的歧视下进行财务相关的决策都是非法的。

一、赔不赔AI说了算，网友：AI不公正

Lemonade成立于2016年，聚焦为客户提供宠物、个人和家庭三方面的保险业务，索赔过程操作简单，全程线上即可完成。首先，客户与智能AI客服说明索赔缘由，再根据客服指导提交自己的索赔视频，在几分钟内，系统就可以自动分析出需要索赔的金额。

Lemonade团队称：“我们的AI算法可以通过仔细分析这些视频里人们的语气、神态、动作等，来判断客户是否存在欺诈行为，这是其它传统保险公司不能做到的。”

有网友对Lemonade的这一行为提出质疑，指责这项技术过度依赖视频中人物的情绪分析，存在偏见。迫于舆论压力，Lemonade只好在推特上发布了一份新的声明，称他们的AI测谎仪只是使用了面部算法来进行索赔分析。面对那些情绪激烈的网友，Lemonade不得不重申：“我们不使用，也不试图构建那些存在歧视的AI技术来判断索赔据结果。”

尽管如此，但Lemonade的隐私政策确实写明，除了正常流程所需的认证和检测外，他们还收集了人们在购买个人人身保险时的身体特征。

二、Lemonade：AI很方便，但确实存在偏见

Lemonade在去年6月向美国金融监管机构SEC提交的S-1文件中声明：“我们使用AI技术来简化客户购买保险和申请索赔的过程，省去不必要的麻烦，节省时间成本。”

该公司在文件中进一步解释称道：“我们公司建立了一个统一、专业、先进的线上平台，使客户能够在我们的网站和应用程序上，进行自主购买保险的操作，而这个过程通常只需要几分钟。同时，我们的AI系统除了检测索赔的真实性外，它还管理着客户们的保单签订管理。”

对于AI测谎系统的应用，它目前能通过30%的索赔申请。Lemonade承认他可能存在一些偏见和失误，导致客户的索赔金额过高或过低。“我们的AI算法有时无法按预期那样运行，这可能导致出现一些不恰当的判定和索赔金额，可能还会存在无意识的偏见和歧视问题。”Lemonade团队说道。

目前，Lemonade业务涉及美国和欧洲部分地区，包括法国、德国和荷兰。据Lemonade团队说：“我们未来的成功取决于，我们能否完善自己的AI算法，并将其保密。”他们目前还未盈利，大部分资金都用于销售和市场营销上了。

结语：AI+保险，便捷与争议并存

Lemonade为公司设计的测谎系统，暂且不说视频信息的后续处理可能潜在的客户隐私，单从人道主义的层面来说，它可能存在偏见和歧视的问题。

但从科技创新的角度来看，这套系统的开发，不仅提高了工作效率，节省了时间成本，还是AI在保险行业的新型应用。虽然Lemonade的AI检测系统还存在不稳定性，但相信在未来技术成熟稳定后，将会是一项为人们提供便捷生活的新技术。

来源：The Register