人工智能 (AI) 在过去一年中已成为主流,如今几乎每个行业的每个人都可以使用革命性的工具。人工智能带来的好处不言而喻——从提高效率和简化工作流程,到使用生成式人工智能和大型语言模型 (LLM)来增强行业并产生新的影响。
在医疗保健领域
人工智能的潜力巨大。它提供了改善医疗成本和质量的机会,并减少了医生短缺和缺乏专家的影响——这些问题在非洲和其他新兴经济体尤为严重。例如,人工智能通过分析从心电图到X光片到超声波等测试结果,启用了可以改善诊断和筛查的新工具,然后快速识别可能被忽视的异常或风险——这一过程通常需要专科医生的参与,而专科医生可能不太容易联系到,从而导致延误。多亏了人工智能,现在只需简单的胸部X光片和基本的病史就可以比以前更快、更准确地预测心脏病,使更先进的放射学检测(发展中国家通常无法进行)变得不那么重要。人工智能还为新的医学研究打开了大门,因为它可以在几秒钟内扫描和解释来自无数来源的数据。
然而,与许多其他行业不同,医疗保健涉及人的生命。因此,糟糕的决策或失误的后果可能是失去生命而不是金钱损失。这就是为什么医疗保健领域有许多标准,包括政府法规和自愿行业标准,这些标准——尽管对受其约束的提供者来说可能令人沮丧——旨在提供保障,确保最佳实践和优质护理。医学研究也受到同样的审查,新研究在发表前必须经过同行评审,所有来源也必须引用和同行评审。
然而尽管业界普遍认
识到这些标准和审查的必要性,但在新兴市场将人工智能应用于医疗保健领域时,这一需求却被忽视了,这些新兴市场在没有适当保障措施的情况下将新解决方案引入实际实践。更糟糕的是,将人工智能应用于医疗保健流程的人往往不是医疗专业人士和技术人员,他们匆忙推出这些新工具,没有谨慎行事——也没有承认甚至可能不了解它们所造成的风险。
在发达市场,如果患者在治疗过程中遭遇任何可避免的伤害或并发症,而又不进行任何人工验证,依赖未经证实的人工智能进行任何与患者护理相关的工作,都会导致诉讼和其他处罚。例如,在美国,现有的规章制度(加上一旦出现问题,医疗服务提供者将面临重大的法律、专业和财务威胁)是有效的威慑因素,可确保广泛遵守最佳实践。不幸的是,在发展中国家,这些后果并没有那么明确,导致人们更倾向于在没有充分了解风险和不利因素的情况下匆忙采用新技术和治疗方法。加速广泛采用人工智能正在给这些国家带来严重风险,这些国家的卫生系统已经受到工人、资源、药物等严重短缺的困扰。
非洲人工智能医疗保健:一起医疗事故案例
这个问题最明显的例子之一发生在非洲各地。在我所在的PocketPatientMD公司工作期间,我遇到了多家试图推出人工智能医疗产品和服务的公司。其中包括使用未经证实和测试的聊天机器人提供实际的医疗建议、诊断和治疗指导。在美国和欧洲,这是一种严重的犯罪行为,因为那里的监管更为严格。这完全是渎职行为:如果医生使用未经证实或测试的解决方案(如这些人工智能工具)伤害了患者,他可能会被吊销执照。然而,无论这些全球行业规范和标准如何,非洲的许多开发商和公司已经在提供人工智能聊天机器人,使用免费平台和 OpenAI 等 API 提供医疗建议和护理,并向医生、医护人员和卫生组织提供这些工具——尽管这些工具尚未经过测试。更糟糕的是,这些开发商和科技公司将人工智能展示为一种“成熟”的技术,但事实并非如此。
这种不顾一切地急于采用人工智能解决方案的做法不仅会危及个别患者的健康,还会通过传播不准确但极具说服力的虚假信息,对公众健康产生更广泛的影响。人工智能的好坏取决于用来训练它的数据,而使用缺乏更可靠数据的市场中统计上不重要的数据——再加上人工智能令人震惊的“幻觉”倾向和自信地捏造研究结果——很容易导致有缺陷的指导,公众很难区分可靠的健康信息。世界卫生组织已经公开承认了这一风险。
WhatsApp 号码数据 — 实现客户参与和服务交付的 whatsApp 号码数据 最佳结合 这样就可以直接与客户“交谈”,从而获得即时答复,同时还可以进行量身定制的营销。这种数据分析可能会揭示个人客户喜欢与您互动的方式,从而指导您的组织采用最佳的互动机制。尽管如此,数据安全和隐私应该成为商业组织的主要关注点,因为它们需要管理用户之间关于敏感信息的信任并遵守法律法规。
这是一个可怕的情况,需要监督来解决它。一项新技术的出现并不意味着它一定是安全的或可以普遍使用。虽然跨国公司意识到隐私和安全标准以及围绕患者护理的最佳实践要求他们在采用人工智能时谨慎行事,但发展中国家的本地企业和医疗系统往往缺乏这种意识。这甚至没有触及围绕以健康为中心的人工智能的患者隐私和数据安全制定规则和法规的必要性,确定共享的信息类型——因为在某些情况下,人工智能工具可以访问患者的个人和可识别信息。
为什么非洲的医疗保健行业必须走向更好的人工智能实践
尽管存在这些风险,但人工智能仍可在医疗保健领域提供有前景的解决方案,在 PocketPatientMD,我们已经在研究算法、生成式人工智能和大型语言模 为什么激光设备租赁可能是您医疗实践的最佳选择 型如何增强我们的工作。但我们决定纳入的任何内容都将遵循国际最佳实践和标准。非洲其他医疗保健提供者效仿这一做法至关重要。如果使用得当,人工智能可以产生巨大影响,并极大地弥补医疗保健能力的巨大差距。但是,尽管人工智能技术可能很新奇,但开发人员并没有意识到,当患者被开错处方或从他们的产品中获得不恰当的医疗建议时,他们会造成什么危害。
医疗行业利益相关者自身有责任站出来保护这些患者。每当有人提议将人工智能用于患者护理时,这些工具都必须接受政府和/或国际机构的严格 swb 目录 审查,这些机构必须确保制定可靠的标准来管理其使用,并对滥用行为施加惩罚。对于医生来说,重要的是始终询问非医疗专业人士(包括技术专家和律师),他们正在考虑的工具是否根据最佳实践和标准经过验证、测试且安全。
医生本身也必须更多地了解人工
智能在医疗保健中的用途和风险:如果医生无法避免伤害,即使他们不知道工具可能对患者造成伤害,也不能免除责任。通过更多地了解人工智能,医生还可以开始克服许多医疗专业人士对这些工具的不信任,许多人担心这些工具可能会取代他们或抢走他们的工作。无论出现什么新技术,医生总是需要验证、看病和治疗患者,即使在护理中使用人工智能工具。医生是患者护理的核心,他们需要信任他们使用的工具,并在这些工具的开发和实施中拥有发言权——这也是符合患者最大利益的。
专注于医疗的公司应该鼓励医生参与这一学习和参与过程,因为医生通常是技术的后期采用者,并且可能构成 AI 产品和工具市场的很大一部分。当一项新技术由不考虑患者安全和其他医生优先事项的非医疗专业人员引入时,任何失败都会导致医生进一步受挫和不信任,因此只有在技术准备就绪时才引入它就显得更为重要。
具有讽刺意味的是
通过放慢速度并更加谨慎和深思熟虑地处理这一过程,专注于医疗的 AI 公司最终可能会加速其产品在新兴市场的采用。向医生和医疗组织展示负责任地使用 AI 如何为他们带来经济利益也很重要,这可以增加他们的收入和利润,同时减少低效率和浪费——从而为他们提供额外的激励,让他们谨慎地将这些工具引入他们的实践中。
人工智能将继续存
在随着我们进一步进入 2024 年,其影响和好处只会越来越大。然而,非洲和其他新兴地区的国家必须继续制定和遵循最佳实践和标准,因为这些旨在保护患者和改善护理。非洲联盟正试图带头制定这些标准,但最终这一过程将需要各个国家通过自己的法律——尽管联盟或联合国等大型组织也可以提供帮助。如果认证组织能够建立可靠的全球证书或自愿标准,它们也可能有助于满足这一需求。更进一步说,那些通过提供未经证实、未经测试且可能不安全的解决方案来掠夺负担过重的医生或不知情的卫生工作者的人工智能开发者也需要承担后果。
我希望这个行业 在来年会
做得更好,也希望非洲国家和其他发展中地区能够以应有的严肃态度来解决这个问题。如果没有更严格的标准——以及忽视这些标准的后果——我们可能会陷入危险的未来,医疗质量会下降,成本和浪费会增加,世界上最脆弱的医疗系统的健康状况会大大恶化。