《卫报》报道，澳大利亚医学协会（AMA）在提交给联邦政府关于安全和责任的人工智能的讨论文件中表示，澳大利亚在人工智能监管方面落后于其他类似国家，并指出，需要更强有力的规则来保护患者和医疗专业人员，并建立信任。

此前，珀斯南大都会卫生服务中心的五家医院有一些工作人员一直在使用大型语言模型撰写医疗记录，于 5 月份被建议停止使用。

据美国广播公司报道，珀斯南大都会卫生服务局局长Paul Forden在给员工的一封电子邮件中表示，使用此类系统无法保证患者数据的保密性，因此必须停止。

人工智能保护措施应包括确保临床医生做出最终决定，并确保患者对使用人工智能进行的任何治疗或诊断都知情同意。AMA还表示，必须保护患者数据，并需要适当的伦理监督，以确保该系统不会导致更大的健康不平等。AMA指出，澳大利亚应该考虑拟议中的欧盟人工智能法案，该法案将对不同人工智能技术的风险进行分类，并建立一个监督委员会。此外，加拿大对人为干预点的决策要求也应当纳入考虑。

提交的文件指出：“未来的监管应确保受人工智能影响的临床决策是在决策过程中通过特定的人为干预点做出的。” “最终的决定必须始终由人类做出，而且这个决定必须是一个有意义的决定，而不仅仅是一个勾选框。” “法规应该明确规定，患者护理的最终决定始终应由人类做出，通常是医生。”

AMA 主席 Steve Robson 教授表示，人工智能是一个快速发展的领域，每个人对它的理解各不相同。他在一份声明中表示：”我们需要解决澳大利亚的人工智能监管缺口，特别是在医疗保健领域，患者可能会因系统错误、算法中嵌入的系统性偏见和患者隐私风险增加而受伤。”

谷歌首席卫生官 Karen DeSalvo博士本月早些时候向媒体表示，人工智能最终将改善患者的健康状况，但他也强调了正确使用系统的重要性。“我们有很多事情需要解决，以确保模型受到适当的约束，保障它们是真实的、一致的，并且遵循我们想要采取的道德和公平方法——但我对其潜力感到非常兴奋。”