全部商品分類
上一篇文章中，ＩＨＩ Ｌｕｃｉａｎ Ｌｅａｐｅ研究所召集了來自亞馬遜、谷歌、微軟等大型科技公司以及哈佛醫(yī)學(xué)院、Ｌｅａｐｆｒｏｇ Ｇｒｏｕｐ 和 Ｋａｉｓｅｒ Ｐｅｒｍａｎｅｎｔｅ的專家組，針對生成式ＡＩ在醫(yī)療領(lǐng)域的三大用例展開了分析，并就生成式ＡＩ對于患者安全的影響展開了全面評估。
＊相關(guān)閱讀：生成式ＡＩ與患者安全（上）：專家組詳解三大應(yīng)用場景與挑戰(zhàn)
那么，如何最大限度地發(fā)揮生成式ＡＩ 的優(yōu)勢，消除患者安全和質(zhì)量方面的“慢性問題”，并最大限度地降低技術(shù)對患者和患者安全的風(fēng)險，一些關(guān)鍵群體必須深入思考相應(yīng)的策略。
本文將詳細分析醫(yī)療活動中不同群體的角色、責(zé)任、他們面臨的挑戰(zhàn)，以及如何負責(zé)任地采用生成式ＡＩ。
０１患者和患者權(quán)益倡導(dǎo)者
患者是醫(yī)療保健服務(wù)的直接受益者，他們對生成式ＡＩ的引入持有重要的發(fā)言權(quán)。
專家組建議，患者和患者權(quán)益倡導(dǎo)者需要確保醫(yī)療機構(gòu)在應(yīng)用生成式ＡＩ時保持透明。在目前的初級階段，醫(yī)療機構(gòu)必須制定披露和同意的最低標(biāo)準(zhǔn)，以確保患者了解在其醫(yī)療過程中使用生成式ＡＩ 的情況。患者應(yīng)有權(quán)選擇拒絕使用生成式ＡＩ，并在拒絕時獲得適當(dāng)?shù)奶娲桨浮；颊咝枰谥榈那闆r下同意使用其數(shù)據(jù)。
０２臨床醫(yī)生
臨床醫(yī)生是生成式ＡＩ應(yīng)用的直接參與者。他們必須要了解這些新技術(shù)，并合理地將它們?nèi)谌肴粘ａt(yī)療實踐中。
專家組建議，臨床醫(yī)生應(yīng)將生成式ＡＩ節(jié)省下來的時間，部分用來改善患者護理，提高醫(yī)療質(zhì)量和安全性。同時，臨床醫(yī)生需要了解生成式ＡＩ的局限性和挑戰(zhàn)，倡導(dǎo)持續(xù)改進，運用專業(yè)知識理解和改善現(xiàn)有的問題，如偏見、數(shù)據(jù)集代表性不足、缺乏透明度或可解釋性等。努力學(xué)習(xí)新技能，包括基本的生成式ＡＩ知識、人工智能與倫理、臨床生成式ＡＩ工具的模擬練習(xí)，以及醫(yī)療保健系統(tǒng)實踐和政策指導(dǎo)等。
此外，臨床醫(yī)生應(yīng)將生成式ＡＩ工具視為輔助工具，而非替代品，在臨床決策中保持最終決策者的角色。小心謹慎，確保對ＡＩ工具的使用進行監(jiān)督，從而實現(xiàn)實際的安全，而不僅僅是表面安全。
０３安全與質(zhì)量專業(yè)人員
患者安全和質(zhì)量專業(yè)人員負責(zé)監(jiān)控流程、識別風(fēng)險和實施最佳實踐，以防止差錯和減少傷害。他們需要利用生成式ＡＩ來加強對患者安全問題的檢測和監(jiān)控，并提高報告的效率。
安全與質(zhì)量專業(yè)人員必須確保，通過這些ＡＩ技術(shù)所獲得的時間能夠被用來高效分配安全管理任務(wù)，制定有效的戰(zhàn)略來減少反復(fù)出現(xiàn)的安全風(fēng)險和危害，而不是僅僅優(yōu)先考慮降低成本。
在使用人工智能加強事件報告流程之前，應(yīng)當(dāng)重新思考患者安全的關(guān)鍵模式，在實際傷害發(fā)生之前進行識別和預(yù)防。
與其他關(guān)鍵群體進行合作（如患者和臨床醫(yī)生、信息技術(shù)和信息學(xué)人員、數(shù)據(jù)科學(xué)家和分析師、領(lǐng)導(dǎo)者），以促進安全、高質(zhì)量的醫(yī)療，避免僅僅名義上的參與。
０４醫(yī)療保健系統(tǒng)
雖然生成式ＡＩ有望簡化運營和提高醫(yī)療水平，但醫(yī)療系統(tǒng)的領(lǐng)導(dǎo)者必須把握好相關(guān)風(fēng)險。包括以負責(zé)任、合乎道德和公平的方式開發(fā)、實施和使用人工智能系統(tǒng)，確保其可信度和準(zhǔn)確性，并降低網(wǎng)絡(luò)安全風(fēng)險。
醫(yī)療系統(tǒng)及其領(lǐng)導(dǎo)者必須確保生成式ＡＩ的使用滿足現(xiàn)有需求。制定和實施計劃時，需考慮可能出現(xiàn)的錯誤結(jié)果和意外后果，并營造重視患者安全、公平和負責(zé)任地使用生成式ＡＩ的氛圍，以提高醫(yī)療服務(wù)質(zhì)量。
同時，專家組強調(diào)，應(yīng)用生成式ＡＩ的同時，應(yīng)將時間效率重新分配，以減少臨床醫(yī)生的倦怠感。
此外，需要在教育、培訓(xùn)和保障措施方面進行投資，以培養(yǎng)有效使用生成式ＡＩ工具的能力，并確保臨床醫(yī)生和其他人員保持基本的醫(yī)療能力。
建立健全的人工智能管理，促進跨學(xué)科合作。建立管理、評估和監(jiān)控程序，指導(dǎo)基因人工智能的使用，并制定明確的隱私、安全（包括網(wǎng)絡(luò)安全）、數(shù)據(jù)所有權(quán)和管理政策，以及基于ＡＩ工具的內(nèi)部開發(fā)指南等，在快速部署的愿望與謹慎的需要之間取得平衡。內(nèi)部開發(fā)的ＡＩ工具要能夠支持和加強臨床醫(yī)生與患者之間的關(guān)系，進行以人為本的設(shè)計。
０５生成式ＡＩ 開發(fā)人員
生成式ＡＩ的開發(fā)者在創(chuàng)新與人類福祉和安全之間必須取得平衡。需要優(yōu)先考慮透明、可解釋的人工智能設(shè)計，使患者和臨床醫(yī)生能夠理解并信任其輸出結(jié)果。
與醫(yī)療保健專業(yè)人員、安全領(lǐng)導(dǎo)者、患者和患者權(quán)益倡導(dǎo)者密切合作，收集反饋并不斷改進人工智能工具。開發(fā)者還必須主動了解和降低患者安全風(fēng)險，對ＡＩ工具進行持續(xù)監(jiān)測，避免偏差。
此外，還需整合先進的數(shù)據(jù)安全措施，保護敏感的患者數(shù)據(jù)，直面隱私和數(shù)據(jù)所有權(quán)問題。在產(chǎn)品的整個生命周期中遵循現(xiàn)有的網(wǎng)絡(luò)安全準(zhǔn)則，主動識別數(shù)據(jù)的潛在風(fēng)險，隨時了解并遵守醫(yī)療法規(guī)和指導(dǎo)方針，確保人工智能工具符合管理機構(gòu)制定的安全、隱私和道德標(biāo)準(zhǔn)。
０６研究人員
研究人員在建立生成式ＡＩ研究基礎(chǔ)，以及縮短科研與實踐的鴻溝中，扮演著關(guān)鍵角色。他們需要研究如何減輕數(shù)據(jù)集的偏差問題，提高ＡＩ工具的可信度。
以人為本的設(shè)計需要進行大量的研究，包括與患者偏好、警報疲勞，以及技術(shù)對醫(yī)患關(guān)系的影響等相關(guān)的人為因素問題。
此外，另一個關(guān)鍵的研究領(lǐng)域是如何確保人類對ＡＩ工具進行有效監(jiān)督，研究人員可以幫助制定相關(guān)策略，以克服生成式ＡＩ的潛在風(fēng)險。
０７監(jiān)管者和決策者
促進負責(zé)任的生成式ＡＩ采用，監(jiān)管者和政策制定者起著至關(guān)重要的作用。他們需要制定明確的指導(dǎo)方針，制定全面的法規(guī)，重點關(guān)注患者安全、數(shù)據(jù)保護和合乎道德地使用技術(shù)。與開發(fā)者和用戶合作，規(guī)定生成式ＡＩ 系統(tǒng)的透明度，以確保用戶了解人工智能是如何做出決策的，并在出現(xiàn)錯誤或不利結(jié)果時建立問責(zé)機制。
監(jiān)管者和決策者還有責(zé)任促進人工智能掃盲，提高公眾意識。
此外，應(yīng)當(dāng)激勵那些將安全放在首位的人工智能開發(fā)和研究，并促進本地化決策，同時為總體人工智能安全和道德標(biāo)準(zhǔn)提供框架。
