“小龙虾”撬开中国医疗大门,爆火架构首度落地!专家提示安全红线

频道:德宏点播 日期: 浏览:1

  虽然智能体概念在过去一年迅速升温,但医疗健康行业一直是此类AI应用最难落地的场景,因为其对安全及隐私保护的要求极高。

  3月14日,智诊科技发布首个企业级医疗健康行业智能体平台WiseClaw,这款产品的底座正是来自火遍全球的“小龙虾”OpenClaw架构。

  虽然智能体概念在过去一年迅速升温,但医疗健康行业一直是此类AI应用最难落地的场景,因为其对安全及隐私保护的要求极高。

  智诊科技最新发布的智能体平台是希望将AI从传统的“聊天问答(Chatbot)”模式,向“直接交付结果”的行业智能体平台转变,也就是打造一个医疗健康平台的智能体操作系统。

  据介绍,WiseClaw使用多智能体分工,提供面向医学场景的证据链机制,把模型输出与指南条款、文献片段、制度规范、数据摘要关联,使得每一条医学建议可追溯。

  然而在业内看来,医疗智能体平台要真正跑起来,关键问题除了医学能力与医学循证体系之外,安全性与合规治理的挑战更大。

  Third Bridge高临咨询行业分析师就认为,当AI正在从聊天工具转向直接交付结果,围绕AI幻觉、数据投毒、误操作和越权访问的安全风险显著上升,在这一过程中,风险的控制尤为重要。

  对此,智诊科技也表示,针对医疗场景中的高风险问题,平台提供专门的评测机制和红线策略,帮助识别潜在越界行为并进行防护。

  多位医疗技术专家对之一财经记者表示,尽管这一轮AI技术的迭代迅猛,但医疗作为最严谨严肃的科学,奇点尚未到来。

  一位大型三甲医院大数据中心主任对之一财经记者表示:“AI医疗的发展还处于早期验证和推广阶段。当前的AI智能体在医疗场景中仍存在一定局限性和准确性问题,虽然赛道看起来很热闹,新的工具层出不穷,但套用一下都很简单,要真正能落地并在实际工作中用得上、用得好的,还非常少见。”

  目前业内探讨较多的是如何利用AI智能体辅助临床医生书写电子病历,这也是医生工作中目前更大的痛点之一——病历的书写往往占据医生大量的工作时间,而这项工作通常繁琐、高度重复。

  从智诊科技此次推出的AI智能体工具来看,其中一大典型的应用场景就是电子病历的书写,它能实现病历智能质控并补全电子病历的结构化。

  但业内人士也指出,此类AI智能化模块如何与医院信息化系统(HIS)实现对接也是一大挑战。目前在大型公立医院的HIS系统中,真正能用上AI功能的仍然不多,这主要也是出于安全和患者隐私保护的考虑。

  “病历是属于HIS系统的数据,包含了很多患者隐私,因此不能随便接入其他程序,会有信息风险。”一位临床医生告诉之一财经记者,“AI智能体在大规模部署前一定要规范化,平衡安全风险获益。”

  “AI可以辅助医生书写病历等,但最后提交前也是要让医生自己复核的,医生是临床诊疗行为的之一责任人。”一位三甲医院信息科技术负责人对之一财经记者表示。