招商銀行首席信息官周天虹：銀行使用人工智能技術(shù)一定要落實(shí)人的責(zé)任

　　4月10日，以“人工智能與金融未來(lái)”為主題的國(guó)民財(cái)富發(fā)展研究合作平臺(tái)2025春季峰會(huì)正式召開(kāi)。

　　會(huì)上，招商銀行首席信息官周天虹表示，大語(yǔ)言模型確實(shí)很強(qiáng)大，但是也有一些局限性，比如，幻覺(jué)、精準(zhǔn)度、對(duì)齊能力、價(jià)值觀偏差、倫理偏見(jiàn)、性能成本等問(wèn)題。周天虹指出，大模型在主要的銀行已經(jīng)深入地應(yīng)用，但也要注意對(duì)于這些問(wèn)題要有一些應(yīng)對(duì)措施。

　　一是模型準(zhǔn)入評(píng)估。使用大語(yǔ)言模型主要是用開(kāi)源模型，開(kāi)源模型的引入過(guò)程一定要有管理，什么樣的模型可以進(jìn)入到銀行生產(chǎn)環(huán)境服務(wù)業(yè)務(wù)、員工，這個(gè)必須要有個(gè)嚴(yán)謹(jǐn)?shù)墓芾磉^(guò)程。

　　二是模型訓(xùn)練規(guī)范。大語(yǔ)言模型引入以后要在具體的領(lǐng)域發(fā)揮作用，通常是要進(jìn)行后訓(xùn)練，對(duì)于大語(yǔ)言模型后訓(xùn)練必須要建立規(guī)范的流程，要有相應(yīng)的系統(tǒng)、平臺(tái)來(lái)進(jìn)行管理。訓(xùn)練完了以后，真的進(jìn)生產(chǎn)之前，對(duì)訓(xùn)練后的大語(yǔ)言模型仍然要進(jìn)行評(píng)測(cè)，對(duì)大模型的后訓(xùn)練很有可能增強(qiáng)了一些能力，也損害了一些能力，一定要讓損害的能力要在可接受范圍內(nèi)。

　　三是生成內(nèi)容監(jiān)督。大語(yǔ)言模型，特別厲害的叫作生成式人工智能，特別厲害的是可以生成很多高價(jià)值的內(nèi)容，但是對(duì)于大模型生成的內(nèi)容都要進(jìn)行監(jiān)督，用算法、人工監(jiān)督，首先要把算法監(jiān)督這個(gè)工作要做深做實(shí)，另外就是在關(guān)鍵的業(yè)務(wù)環(huán)節(jié)人不能缺位。

　　四是落實(shí)人的責(zé)任。金融是一個(gè)講究責(zé)任的行業(yè)，從今年總局的態(tài)度來(lái)說(shuō)特別強(qiáng)調(diào)關(guān)鍵的領(lǐng)域、關(guān)鍵的環(huán)節(jié)要落實(shí)人的責(zé)任，對(duì)銀行業(yè)來(lái)說(shuō)，使用人工智能技術(shù)一定要落實(shí)人的責(zé)任。

【免責(zé)聲明】本文僅代表作者本人觀點(diǎn)，與和訊網(wǎng)無(wú)關(guān)。和訊網(wǎng)站對(duì)文中陳述、觀點(diǎn)判斷保持中立，不對(duì)所包含內(nèi)容的準(zhǔn)確性、可靠性或完整性提供任何明示或暗示的保證。請(qǐng)讀者僅作參考，并請(qǐng)自行承擔(dān)全部責(zé)任。郵箱：news_center@staff.hexun.com