☰
生成式 AI 進入法律界的初期，大眾最擔心的多半是 AI 幻覺，是否會導致模型引述不存在的虛構判例或法條。然而，美國新墨西哥州最高法院爆發的最新案例，卻徹底刷新法律人對 AI 風險的認知。
處理謀殺案上訴的刑事辯護律師史蒂芬‧阿倫斯（Stephen Aarons），利用ChatGPT處理長達數百頁的庭審筆錄與案件資料，最終提交給最高法院的主要上訴書狀，竟出現多名「完全不存在的警察證人」、虛構的目擊證言與完全背離事實的描述。
新墨西哥州最高法院9月9日重罰該律師藐視法庭、處以5,000美元罰金，並移送律師懲戒委員會調查資格，並直接撤銷上訴書狀，指派公設辯護人全部重來。這起案例宣告AI開始創造事實，對法律專業的查核義務、被告的有效辯護權與整體司法可信度提出最嚴峻的制度考驗。
過去兩年，全球各地陸續有律師因為直接複製AI生產的虛構判例而遭法院裁罰，但本案之所以震驚司法界，在於發生在極其嚴肅且牽涉終身監禁的刑事謀殺上訴案。當律師將庭審逐字稿與卷宗輸入ChatGPT，寄望AI提供完美摘要時，演算法卻平空捏造槍手穿著深色褲子與白色襯衫等虛構警方證詞。
當律師缺乏基本實證查核，將演算法想像的「虛構證人」當成法庭攻防主力，不僅是單純的技術無知，更是對被告獲得有效律師協助憲法權利的實質剝奪。新墨西哥州最高法院大法官在聽證會痛批律師，對新聞與社會常識毫無覺察，這段對話反映法理學的嚴肅警訊：當AI開始捏造事實，任何缺乏人類覆核的直接採信，都是對司法實體正義的致命傷害。
這起事件引發的第一個核心問題：AI出錯，法律責任究竟應由誰承擔？事件爆發後，涉案律師試圖以「對新技術了解不足的無心之過」答辯，並歸咎於ChatGPT不穩定的幻覺特性。然而，司法機關回答是毫無保留的否定。
現行法律職業倫理與民刑事責任體系，生成式AI定性為輔助工具，絕不具備獨立的法務主體資格，因此演算法幻覺絕不能當成律師違規免責的抗辯事由。不管是軟體開發商OpenAI，還是軟體演算法本身，都無法取代人類律師的法庭宣誓與簽名。當律師在訴狀簽字並提交給法院的那刻，就代表律師對文件記載的每件事實、每份證言與每條法律依據，都做了真實性擔保。律師必須為履職過程的極端疏忽負起全部職業懲戒與法律責任。
阿倫斯案徹底改變法律界對合理查核義務（Due Diligence）的定義標準。當生成式AI成為業界普遍使用的效率工具時，律師的合理查核義務不僅沒有因技術進步而減輕，反而得大幅提升。
將來法律執業倫理，必須建立嚴格的防禦查核標準：律師利用AI進行卷宗摘要、法條檢索或案情梳理時，對於AI列出的每位證人姓名、警方每句證言與引用的判例字號，都必須回歸原始卷宗或權威資料庫進行100%人工交叉驗證，嚴禁任何未經查證的直接複製貼上。
同時，法律從業者有義務了解AI工具的技術局限與風險特性。高風險的刑事訴訟與重大商業案件，律師使用AI輔助處理核心案卷前，應向當事人適度揭露，並建立事務所雙重審查機制，確保案件品質不受技術缺陷影響，全方位捍衛法律專業的公信力與當事人的合法權益。
這起ChatGPT捏造證人案，提醒所有法律從業者：生成式AI可以是極具價值的效率引擎，但它永遠無法取代人類律師的批判性思考、道德責任與對事實的嚴謹性。
法律專業的真正核心價值，在於捍衛正義與對事實細節絕對忠誠。唯有提升律師的合理查核標準，強化司法懲戒機制，並堅持人類必須成為最後審查者的原則，法律專業才能在AI浪潮的衝擊下守住社會的信任感，確保每次判決、每份訴狀，都依然扎根於真實不阿的事實與正義。
（首圖來源：Pixabay）
