項目背景

CARES Copilot是中國科學院香港創(chuàng)新研究院（以下簡稱“香港創(chuàng)新研究院”）開發(fā)的面向醫(yī)療領域的AI多模態(tài)大模型。在醫(yī)學多場景、多任務的理解與處理方面取得了顯著的進展。

CARES Copilot提供了多項功能，它結合了廣泛的大模型知識和專業(yè)精準的小模型，能夠進行高級圖像和視頻語義提取，并利用語言模型進行深度理解，包括手術風險評估和手術階段的詳細分析。

CARES Copilot模型系統(tǒng)將智能醫(yī)療設備與AI技術緊密結合，強調可信性和可解釋性，并且對部署平臺的安全性和穩(wěn)定性有極高的要求。香港創(chuàng)新研究院找到增長超人，希望我們在其語言模型的基礎上，完成C端用戶的使用平臺部署。

項目問題：

CARES Copilot用戶平臺是一款領域細分的專業(yè)級語言大模型問答平臺，平臺支持文本、語音、圖片等多模態(tài)輸入，一方面注重部署平臺的穩(wěn)定性和安全性，另一方面需要考慮到用戶的實際使用體驗。

盡管沒有CARES Copilot大模型本身的研發(fā)復雜，CARES Copilot用戶使用平臺的最終部署，同樣對技術的要求也非常高，在大語言模型和醫(yī)療行業(yè)的雙重加持下，CARES Copilot的C端部署平臺，安全考慮和穩(wěn)定運行是需要時刻放在首位的；

另外，CARES Copilot的C端使用平臺，定位為醫(yī)護人員的AI助手，強調可用性和易用性，能夠結合醫(yī)護人員的邏輯習慣，方便醫(yī)護人員上手，幫助更好完成日常中的工作。

項目介紹

更具實用性的入口元素，增強用戶使用信心

在解決技術層面的問題之前，我們必須考慮：作為一款面向醫(yī)護人員用戶的模型平臺，我們該如何讓普遍沒有接觸過AI領域的醫(yī)護人員，有信心能輕易上手CARES Copilot模型系統(tǒng)。

僅僅創(chuàng)建一個用戶平臺是沒有用的，特別是對于專注力更集中的醫(yī)療行業(yè)，因為醫(yī)護人員無法確定自己是否真的能夠無需付出較大的學習成本，就能上手這個助手平臺。如果我們無法告訴用戶，我們該如何上手這個工具，那么用戶將永遠被擋在外頭。

因此我們幫助香港創(chuàng)新研究院在平臺的入口，構建了一個輕量而又更具實用性的介紹屬性首頁，包括實景演示、使用場景、技術優(yōu)勢、品牌背書等，提高用戶對平臺使用的信心。

從實際使用場景出發(fā)，配置高適用性功能

作為一個敦本務實的開發(fā)團隊，我們希望我們所構建的項目也能如我們所主張“以用戶為中心”的那樣恰如其分。我們發(fā)現(xiàn)，盡管醫(yī)療行業(yè)專業(yè)程度極高，專有名詞非常多，但部分醫(yī)護人員并沒有非常空閑的時間花費在文本的輸入上，并且時常需要有醫(yī)療附件來輔助需求的輸出。

考慮到醫(yī)護人員的工作需求，CARES Copilot用戶平臺攜帶了語音輸入功能，能夠優(yōu)先并且識別醫(yī)療相關的語音話題。除了文本和語音，平臺也支持圖片、視頻、文檔、壓縮包等附件的輸入，極大提高平臺的實用屬性。

另外，我們?yōu)槠脚_加入了文獻參考功能，當用戶接收到系統(tǒng)的答案時，界面右側會同時輸出系統(tǒng)所給答案的參考文獻，提升用戶對平臺信心的同時，也方便用戶拓展思維。除此之外，平臺也支持查看歷史記錄及導出聊天記錄，提升平臺的實用性?？偠灾?，我相信這樣一個從實際場景出發(fā)的醫(yī)療AI模型平臺，一定能協(xié)助醫(yī)護人員更加高效地解決日常工作。

添加API風控技術，確保平臺安全性

安全性一直是CARES Copilot用戶平臺需要解決的重點問題，我們通過實施訪問控制、調用頻率限制、輸入驗證、數據加密、監(jiān)控日志記錄、API接口版本管理，以及及時響應安全威脅的策略，有效減少API接口的安全風險和防范潛在的攻擊。同時限制接口的請求頻次，預防惡意刷屏。

設計平臺使用機制，提高平臺使用穩(wěn)定性

作為香港創(chuàng)新研究院的重點AI項目，穩(wěn)定性一直是主創(chuàng)人員的痛點問題，我們無法讓用戶自發(fā)去了解并執(zhí)行維護項目穩(wěn)定的工作，但服務器負載問題離不開用戶的協(xié)助。為了幫助香港創(chuàng)新研究院解決這個難題，我們在用戶的使用過程中加入了一些機制，讓用戶更好地使用這個平臺，比如多用戶使用時的排隊機制，以此形成一個緩沖，幫助服務器減輕負載壓力；單用戶請求過多的保護機制，當同一用戶短時間內請求次數過于頻繁時，系統(tǒng)將會觸發(fā)保護機制，以達到減輕服務器壓力。

我們同時也為主創(chuàng)人員構建了一個定制的后臺管理系統(tǒng)，方便其更好監(jiān)測服務器負載情況及管理運營平臺。

說在最后

增長超人很高興能與中國科學院香港創(chuàng)新研究院共創(chuàng)CARES Copilot用戶平臺。并努力通過我們的技術實力和項目經驗，幫助香港創(chuàng)新研究院和醫(yī)護人員實現(xiàn)人工智能和醫(yī)療行業(yè)的深度對話。

如果你認可我們的理念并且剛好也有軟件定制或數字營銷相關的需求，不妨和我聊一聊，相信我們彼此都會感到相識恨晚。