原標(biāo)題：人工智能的承諾算數(shù)嗎

問(wèn)：近日，杭州互聯(lián)網(wǎng)法院審結(jié)全國(guó)首例因生成式人工智能模型“幻覺(jué)”引發(fā)的侵權(quán)糾紛案。AI承諾生成內(nèi)容有誤將賠償，算數(shù)嗎？服務(wù)提供者負(fù)有什么樣的責(zé)任？

答：現(xiàn)實(shí)操作中，AI帶來(lái)很多便利，但并非全知全能，其生成的答案可能包含看似合理實(shí)則錯(cuò)誤的“幻覺(jué)”信息。杭州的案例中，AI提出“如果生成內(nèi)容有誤，我將賠償您10萬(wàn)元”，從而引發(fā)相關(guān)糾紛。從法院判決看，在生成式人工智能場(chǎng)景中，AI的承諾并不代表平臺(tái)的意思。這既為AI生成內(nèi)容劃出紅線(xiàn)，也進(jìn)一步厘清了服務(wù)提供者的注意義務(wù)邊界。

AI不具有民事主體資格

法院判決明確，AI不具有民事主體資格。在該案中，AI自行生成的賠償承諾也不能視為服務(wù)提供者的意思表示。也就是說(shuō)，AI不是服務(wù)提供者的傳達(dá)人、代理人或代表人。除非服務(wù)提供者通過(guò)AI模型來(lái)設(shè)定或傳達(dá)相關(guān)信息，否則類(lèi)似“生成內(nèi)容有誤將賠償”的承諾是沒(méi)有法律效力的。

服務(wù)提供者有嚴(yán)格審查義務(wù)

依據(jù)《生成式人工智能服務(wù)管理暫行辦法》，生成式人工智能服務(wù)屬于服務(wù)范疇。AI生成內(nèi)容雖不是我國(guó)產(chǎn)品質(zhì)量法意義上的產(chǎn)品，但服務(wù)提供者有嚴(yán)格審查義務(wù)。例如，發(fā)現(xiàn)違法內(nèi)容，應(yīng)當(dāng)及時(shí)采取停止生成、停止傳輸、消除等處置措施，采取模型優(yōu)化訓(xùn)練等措施進(jìn)行整改。同時(shí)，需以顯著方式向用戶(hù)提示AI生成內(nèi)容可能不準(zhǔn)確，發(fā)出“警示提醒”等，防止用戶(hù)產(chǎn)生不當(dāng)信賴(lài)。

建立健全投訴舉報(bào)機(jī)制

據(jù)統(tǒng)計(jì)，截至2025年3月，共有346款生成式人工智能服務(wù)完成備案。相關(guān)方應(yīng)落實(shí)法律法規(guī)要求，完善與創(chuàng)新發(fā)展相適應(yīng)的科學(xué)監(jiān)管方式，制定相應(yīng)的分類(lèi)分級(jí)監(jiān)管規(guī)則或者指引；提供安全、穩(wěn)定、持續(xù)的服務(wù)；建立健全投訴、舉報(bào)機(jī)制，暢通投訴舉報(bào)通道。

（經(jīng)濟(jì)日?qǐng)?bào)記者 李萬(wàn)祥）

[來(lái)源：經(jīng)濟(jì)日?qǐng)?bào) 編輯：孫寶震]