冠状病毒聊天机器人使用不一致的数据源和隐私惯例

据广泛报道，美国医院系统，特别是在纽约，底特律，芝加哥和新奥尔良等热点地区，已被COVID-19影响的患者涌入。有一个全国性的呼吸短缺。会议中心和公园已被改作病房溢出之用。在某些电话和测试中心的等待时间平均为多个小时。

显然，目前确实存在对分诊解决方案的需求，以确保处于危险中的人们能够迅速得到治疗。提供了聊天机器人作为解决方案-包括IBM，Facebook和Microsoft在内的技术巨头都将其视为有效的信息工具。但是有问题的是，这些聊天机器人在获取和处理数据的方式上存在差异，在最坏的情况下，这可能导致健康结果不一致。

我们请六家向政府，非营利组织和卫生系统提供COVID-19聊天机器人解决方案的公司（Clearstep，IPsoft，Quiq，Drift，LifeLink和Orbita）透露其聊天机器人的COVID-19信息的来源以及审核过程，以及他们是否收集以及如何处理个人身份信息（PII）。

质量和信息来源

毫不奇怪，尽管如此，聊天机器人提供商之间的采购和审核过程却相差很大。尽管有些人声称在将数据提供给用户之前先对其进行了审查，但另一些人对此问题表示反对，而是坚持认为其聊天机器人旨在用于教育目的而非诊断目的。

Clearstep，Orbita和LifeLink告诉VentureBeat，他们由医疗专业人员运行所有聊天机器人的信息。

Clearstep说，它使用疾病控制和预防中心（CDC）的数据和协议“受到全国90％以上的护士呼叫中心的信任”。该公司从其客户机构招募首席医学和首席医学信息学官以及该领域的内科和急诊医学医师，以与其临床审查团队一起审查内容并提供可行的反馈。

Orbita还借鉴了CDC指南，并且已达成协议，可以从Mayo Clinic等可信赖的合作伙伴处访问内容。其内部的临床团队会优先使用该内容，并声称该内容已由“领先机构”审查。

LifeLink还将其问题，风险算法和护理建议与CDC的问题相结合，并辅以可选的问答模块。但是，这也清楚表明，它保留了医院的临床团队来签署其所有聊天机器人的数据。

相比之下，IPsoft表示，尽管其聊天机器人除了从世界卫生组织（WHO）那里获得CDC的资源外，其内容也没有得到内部或外部团队的进一步审查。（要明确，IPsoft指出该聊天机器人并非旨在提供医疗建议或诊断，而是“使用授权来源提供的可验证信息来帮助用户评估自己的情况。”）

Quiq同样表示，其机器人使用未经公开的COVID-19批准来源以及地方卫生当局，疾病预防控制中心和白宫材料，“被动地”提供了其自身未经审查的信息。一位发言人通过电子邮件告诉VentureBeat：“ Quiq是技术平台，但通知该机器人的数据由客户提供。” 例如，在与诺克斯维尔（Knoxville）的合作关系中，问题和答案基于该市3-1-1呼叫中心提供的相同数据。

Drift的聊天机器人使用CDC指南作为模板，并且可以根据组织的响应计划进行自定义，但是它也带有免责声明，称其不能替代医疗建议，诊断或治疗。

资料私隐

我们发现，所审查的COVID-19聊天机器人与数据源一样，在数据处理和收集方面也不一致。也就是说，似乎没有违反HIPAA（美国法律，该法律建立了保护个人病历和其他个人健康信息的标准）。

Clearstep表示，其聊天机器人不会收集允许其识别特定人的信息。此外，聊天机器人收集的所有数据均被匿名化，健康信息在传输和静止状态下均被加密，并存储在符合HIPAA的应用托管平台Healthcare Blocks中。

就LifeLink而言，它说所有聊天机器人对话都发生在符合HIPAA的浏览器会话中。筛选期间未收集到PII；唯一保留的数据是症状和旅行/接触/特殊人群风险。中高危患者进入临床就​​诊，在此期间，聊天机器人通过与他们的日程安排系统集成，收集直接提交给医院系统的健康信息，为就诊做准备。

IPsoft对其数据收集和存储做法有些困惑，但它表示其聊天机器人不会收集私人健康信息或记录对话或数据。Quiq还说它不会收集个人信息或健康数据。Drift说，它要求用户选择参加自我评估并同意临床条款和条件。

至于Orbita，它表示其高级聊天机器人平台（即HIPAA投诉）可收集个人健康信息，而其免费聊天机器人则不会。

未来的挑战

至少可以说，公开部署的各种COVID-19聊天机器人产品之间的差异是有问题的。虽然我们仅检查了少量样本，但我们的审查显示，很少有人使用相同的信息来源，审查流程或数据收集和存储策略。对于普通用户而言，他们不太可能阅读他们使用的每个聊天机器人的详细信息，这可能会造成混乱。一个测试统计八个COVID-19进行聊天机器人发现，一套共同的症状的诊断范围从“低风险”到“开始回家隔离。”

尽管公司通常出于竞争原因不愿透露其内部开发流程，但围绕COVID-19聊天机器人的开发提高透明度可能有助于实现机器人响应的一致性。随着聊天机器人功能和局限性的免责声明，一种协作方法似乎是负责任的前进之路，因为成千上万的人正在寻找关键健康问题的答案。

有关AI报道，请将新闻提示发送给 Khari Johnson 和 Kyle Wiggers 以及 AI编辑Seth Colaner-并确保订阅AI Weekly时事通讯 并为我们的AI频道添加书签 。

谢谢阅读，

凯尔·威格斯（Kyle Wiggers）

AI职员作家