2026年最高人民法院工作報(bào)告確立“促進(jìn)人工智能規(guī)范發(fā)展”的主基調(diào)，要求司法審判在依法妥善處置涉AI糾紛時(shí)，辯證把握科技創(chuàng)新的“容錯(cuò)”機(jī)制：既要包容技術(shù)探索的未知風(fēng)險(xiǎn)，又要嚴(yán)守權(quán)益保護(hù)的法定底線。報(bào)告中專門提及的全國首例生成式AI“幻覺”侵權(quán)案，深刻詮釋了這一司法理念。該裁判邏輯在于明晰責(zé)任邊界的同時(shí)，實(shí)現(xiàn)了技術(shù)創(chuàng)新激勵(lì)與民事權(quán)益保護(hù)的有機(jī)統(tǒng)一，以法治確定性消解技術(shù)不確定性，為新質(zhì)生產(chǎn)力的行穩(wěn)致遠(yuǎn)提供了堅(jiān)實(shí)的制度支撐與規(guī)則指引。

三個(gè)關(guān)鍵法律命題

2025年6月，梁某使用某人工智能公司開發(fā)的生成式AI對話應(yīng)用查詢云南職業(yè)高校報(bào)考信息時(shí)，該AI生成了“該學(xué)院主校區(qū)為楊林校區(qū)”的錯(cuò)誤信息。梁某發(fā)現(xiàn)信息不實(shí)后予以糾正、指責(zé)，但該AI仍堅(jiān)持錯(cuò)誤表述，還主動(dòng)承諾若生成內(nèi)容有誤將向梁某賠償10萬元，并建議其向法院起訴。同年7月，梁某以AI生成的錯(cuò)誤信息誤導(dǎo)自身為由，將涉事人工智能公司訴至法院，要求其承擔(dān)賠償責(zé)任。這起案件迅速引發(fā)關(guān)注，成為全國首例因生成式人工智能“幻覺”導(dǎo)致的侵權(quán)糾紛案。

該案的核心爭議聚焦三個(gè)關(guān)鍵法律命題：生成式AI生成的錯(cuò)誤信息是否構(gòu)成侵權(quán)，AI自行作出的賠償承諾是否具有法律效力，AI服務(wù)提供者的責(zé)任邊界如何界定。這一糾紛直指當(dāng)前生成式AI技術(shù)發(fā)展的核心痛點(diǎn)：“幻覺”作為技術(shù)固有局限，其引發(fā)的法律責(zé)任該如何分配，已成為司法實(shí)踐中亟待解決的新課題。

法院的裁判給出了極具指導(dǎo)性的答案，其核心邏輯貫穿“過錯(cuò)責(zé)任”原則與“發(fā)展與安全并重”理念。首先，明確人工智能不具有民事主體資格，這是界定責(zé)任的前提。AI本質(zhì)上是技術(shù)工具，既無法獨(dú)立作出具有法律約束力的意思表示，也不能獨(dú)立承擔(dān)民事責(zé)任，因此其自行生成的賠償承諾自然不具有法律效力。這一認(rèn)定打破了“AI行為等同于服務(wù)提供者行為”的認(rèn)知誤區(qū)，既符合我國民事法律的基本原理，也契合技術(shù)發(fā)展的客觀規(guī)律。其次，明確生成式AI服務(wù)提供者的雙重注意義務(wù)：一是顯著提示說明義務(wù)，需通過有效方式告知公眾AI的功能局限，防范公眾對AI生成內(nèi)容產(chǎn)生不當(dāng)信賴；二是功能可靠性保障義務(wù)，需采取行業(yè)通行技術(shù)措施，持續(xù)提升生成內(nèi)容的準(zhǔn)確性。本案中，涉事人工智能公司已充分履行上述兩項(xiàng)義務(wù)，既無主觀過錯(cuò)，也未對梁某的合法權(quán)益造成實(shí)際損害，因此法院依法認(rèn)定其不構(gòu)成侵權(quán)。這一裁判既尊重了技術(shù)發(fā)展的客觀局限，也為AI服務(wù)提供者劃定了清晰的責(zé)任標(biāo)尺。

容錯(cuò)并非縱容出錯(cuò)

這一判決的價(jià)值，遠(yuǎn)不止解決一起個(gè)案糾紛，更在于為人工智能產(chǎn)業(yè)發(fā)展提供了清晰的法治預(yù)期，彰顯了司法對科技創(chuàng)新的包容與審慎。當(dāng)前，生成式AI技術(shù)正處于高速迭代發(fā)展期，“幻覺”等技術(shù)局限難以完全避免。若法律苛求服務(wù)提供者實(shí)現(xiàn)“零錯(cuò)誤”，動(dòng)輒以侵權(quán)為由追責(zé)，必然會(huì)束縛創(chuàng)新者的手腳，阻礙技術(shù)迭代與產(chǎn)業(yè)升級。最高人民法院工作報(bào)告強(qiáng)調(diào)的“科技創(chuàng)新容錯(cuò)空間”正是通過該案的裁判得以具象化，即容錯(cuò)并非縱容出錯(cuò)，而是包容技術(shù)探索中的無心之失，接納產(chǎn)業(yè)發(fā)展中的合理試錯(cuò)成本，其核心前提是服務(wù)提供者已善盡合理注意義務(wù)，且未損害他人合法權(quán)益。這種“寬嚴(yán)相濟(jì)”的司法策略，既避免了“一放就亂”的無序發(fā)展，也防止了“一管就死”的過度規(guī)制，實(shí)現(xiàn)了民事權(quán)益保護(hù)與技術(shù)創(chuàng)新激勵(lì)的有機(jī)平衡。

國家網(wǎng)信辦聯(lián)合國家發(fā)展改革委、教育部等七部門公布的《生成式人工智能服務(wù)管理暫行辦法》，明確規(guī)定服務(wù)提供者須采取有效措施提升訓(xùn)練數(shù)據(jù)質(zhì)量，確保數(shù)據(jù)的真實(shí)性、準(zhǔn)確性、客觀性與多樣性；同時(shí)應(yīng)公開服務(wù)適用場景，引導(dǎo)用戶科學(xué)理性、依法合規(guī)使用。上述行政監(jiān)管要求與法院認(rèn)定的服務(wù)提供者“注意義務(wù)”高度契合，標(biāo)志著司法裁判與行政監(jiān)管形成了協(xié)同治理的合力。此外，作為全國首例AI“幻覺”侵權(quán)糾紛案，該案確立的裁判規(guī)則具有鮮明的標(biāo)桿意義：它不僅為后續(xù)同類案件提供了可參照的審理標(biāo)準(zhǔn)，有效填補(bǔ)了法律適用空白，更推動(dòng)構(gòu)建“有邊界、有保障、有激勵(lì)”的AI法治生態(tài)。

人工智能作為新質(zhì)生產(chǎn)力的重要組成部分，其健康發(fā)展離不開法治的全程護(hù)航。最高人民法院工作報(bào)告強(qiáng)調(diào)“對利用人工智能侵害他人合法權(quán)益、擾亂社會(huì)秩序等行為，堅(jiān)決依法規(guī)制，促進(jìn)科技向善”，這與本案確立的裁判規(guī)則高度契合，既要為科技創(chuàng)新留足容錯(cuò)空間，也要為技術(shù)應(yīng)用劃定紅線和底線。該案的判決清晰傳遞出三個(gè)核心導(dǎo)向：一是AI技術(shù)的發(fā)展不能脫離法治軌道，服務(wù)提供者必須嚴(yán)格履行法定注意義務(wù)，守住權(quán)益保護(hù)的底線。二是司法對科技創(chuàng)新的包容，必須以不損害他人合法權(quán)益為前提，實(shí)現(xiàn)容錯(cuò)與規(guī)制并行不悖。三是法治建設(shè)需主動(dòng)適配技術(shù)發(fā)展，通過精準(zhǔn)裁判回應(yīng)技術(shù)難題，為新質(zhì)生產(chǎn)力發(fā)展掃清法治障礙。

推動(dòng)AI技術(shù)朝著“向善、合規(guī)、高效”的良性方向穩(wěn)步發(fā)展

展望未來，隨著生成式AI技術(shù)的廣泛應(yīng)用，涉AI侵權(quán)糾紛還將不斷涌現(xiàn)，涉及信息準(zhǔn)確性、知識(shí)產(chǎn)權(quán)、個(gè)人信息保護(hù)等多個(gè)領(lǐng)域的法律難題亟待進(jìn)一步破解。該案帶來的深刻啟示在于，司法機(jī)關(guān)應(yīng)持續(xù)秉持“發(fā)展與規(guī)范并重”的核心理念，既要精準(zhǔn)把握科技創(chuàng)新的合理容錯(cuò)空間，為企業(yè)技術(shù)探索松綁賦能，鼓勵(lì)其大膽投身AI技術(shù)研發(fā)、攻克“幻覺”等核心技術(shù)難題，也要不斷完善涉AI糾紛裁判規(guī)則，進(jìn)一步明確生成式AI服務(wù)提供者的責(zé)任邊界，強(qiáng)化風(fēng)險(xiǎn)防控，堅(jiān)決防范技術(shù)濫用引發(fā)的合法權(quán)益侵害與社會(huì)秩序擾亂。與此同時(shí)，企業(yè)作為AI技術(shù)研發(fā)與落地應(yīng)用的核心主體，更應(yīng)主動(dòng)扛起社會(huì)責(zé)任，嚴(yán)格恪守法律規(guī)定與行業(yè)規(guī)范，持續(xù)加大技術(shù)研發(fā)投入、加快技術(shù)迭代速度，著力減少“幻覺”等技術(shù)固有局限帶來的糾紛隱患，推動(dòng)AI技術(shù)朝著“向善、合規(guī)、高效”的良性方向穩(wěn)步發(fā)展，實(shí)現(xiàn)技術(shù)創(chuàng)新與社會(huì)價(jià)值的有機(jī)統(tǒng)一。

法治是最好的營商環(huán)境，也是新質(zhì)生產(chǎn)力發(fā)展的重要保障。全國首例生成式AI“幻覺”侵權(quán)糾紛案的裁判，不僅厘清了AI服務(wù)相關(guān)的法律責(zé)任、劃定了技術(shù)發(fā)展的行為邊界，更以司法智慧平衡了創(chuàng)新與規(guī)范的關(guān)系，為人工智能產(chǎn)業(yè)高質(zhì)量發(fā)展注入了堅(jiān)實(shí)的法治信心。在科技飛速發(fā)展的今天，唯有堅(jiān)持容錯(cuò)與規(guī)制并行、創(chuàng)新與保護(hù)并重，才能讓人工智能技術(shù)在法治的軌道上穩(wěn)步前行，充分釋放新質(zhì)生產(chǎn)力的發(fā)展活力，為中國式現(xiàn)代化建設(shè)提供強(qiáng)大的科技支撐與法治保障。