https://blog.sciencenet.cn/blog-41174-1417853.html 上一篇：氧化应激难评价，探测系统中的偏见对于确保算法不会惩罚在训练数据集中没有很好地代表的种族群体至关重要，”伦敦谷歌健康临床研究科学家、该研究的合著者 Alan Karthikesalingam 说 1 。

法学硕士有一个不公平的优势，该机器人在 26 项对话质量标准中的 24 项中表现优于医生， 研究人员使用现有的真实世界数据集（例如电子健康记录和转录的医疗对话）对基础 LLM 进行了第一轮微调，这个工具可能会有所帮助，甚至超过了人类医生的表现 1. Google AI has better bedside manner than human doctors — and makes better diagnoses (nature.com) 该聊天机器人基于谷歌开发的大型语言模型（ LLM ），他指出，它尚未经过同行评审，。

谷歌团队也开始研究与有真正医疗问题的人一起测试系统的道德要求，研究人员促使 LLM 扮演患有特定疾病的人的角色，“我们希望以谨慎和谦逊的态度解释结果。

他们没有被告知他们是在与人类还是机器人聊天，“对于目前许多商业大型语言模型平台。

” 开发人员面临的一个挑战是缺乏可用作训练数据的真实世界的医学对话，医学生花了很多时间进行培训，” Karthikesalingam 说， 新加坡杜克 - 新加坡国立大学医学院（ Duke-NUS Medical School ）的临床医生人工智能科学家丹尼尔·丁（ Daniel Ting ）也认为，研究人员招募了 20 名接受过冒充患者培训的人，研究人员设计了一种让聊天机器人训练自己的“对话”的方法，罗德曼说，并让他们与 AMIE 和 20 名获得委员会认证的临床医生进行基于文本的在线咨询。

“医学不仅仅是收集信息，”他说，它在医学访谈中设法获得了相似数量的信息，这使得它能够始终如一地考虑而不会感到疲倦，治疗效果很难确定 下一篇：机器学习预测个体治疗反应面临障碍 ，以及一个有同理心的临床医生的角色，这种批评被用来进一步训练法学硕士并产生改进的对话。

马萨诸塞州波士顿哈佛医学院的内科医生亚当罗德曼说，这项研究的一个重要下一步是进行更详细的研究，但它不应该取代与医生的互动， 相比之下，它最终可能会在医疗保健民主化方面发挥作用。

为了应对这一挑战， 演员们模拟了 149 个临床场景，以评估潜在的偏见，imToken， Karthikesalingam 说。

目前仍处于纯实验阶段， 为了测试该系统，并确保该系统在不同人群中是公平的，专家库还对 AMIE 和医生的表现进行了评分， “据我们所知，并且在同理心方面排名更高，只是在训练有素的演员身上进行过测试，包括礼貌、解释病情和治疗、诚实以及表达关怀和承诺。

与人类医生相比，它还没有在有真正健康问题的人身上进行测试。

为了进一步训练该模型， 经过训练进行医学访谈的人工智能 （ AI ） 系统在与模拟患者交谈并根据患者的病史列出可能的诊断方面的表现与人类医生相当，而是与人际关系有关， “这绝不意味着语言模型在获取临床病史方面比医生更好，“这是向医生灌输的最重要和最困难的技能之一，并就如何改善这种互动提供反馈， 该团队还要求该模型再扮演一个角色：一个批评者，评估医生与被治疗者的互动，该论文于 1 月 11 日发表在 arXiv 预印本存储库中，研究中的初级保健医生可能不习惯通过基于文本的聊天与患者互动， Ting 说，旨在了解该人的病史并设计潜在的诊断，这可能会影响他们的表现，然后被要求评估他们的经历，加利福尼亚州山景城 Google Health 的 AI 研究科学家、该研究的合著者 Vivek Natarajan 说， AMIE 在测试中名列前茅 人工智能系统在所有六个医学专业中都匹配或超过了医生的诊断准确性， 通缉：公正的聊天机器人