<progress id="jvjdf"><var id="jvjdf"></var></progress>
<var id="jvjdf"></var>
<var id="jvjdf"></var>
<var id="jvjdf"><strike id="jvjdf"><thead id="jvjdf"></thead></strike></var><cite id="jvjdf"></cite>
<var id="jvjdf"><video id="jvjdf"></video></var>
<cite id="jvjdf"></cite>
<var id="jvjdf"><dl id="jvjdf"><listing id="jvjdf"></listing></dl></var>
<var id="jvjdf"></var><var id="jvjdf"><strike id="jvjdf"><thead id="jvjdf"></thead></strike></var>
<cite id="jvjdf"></cite>
<cite id="jvjdf"><span id="jvjdf"></span></cite>
<cite id="jvjdf"></cite>
<var id="jvjdf"></var>
<var id="jvjdf"></var>
<var id="jvjdf"></var>
<var id="jvjdf"></var>
<var id="jvjdf"></var>
 
本站首頁 關于我們 法律圖書館與法律信息研究會 法律信息研究 中外法律圖書館 法學文獻與檢索 政府信息公開 法律圖書館導航 法律法學網導航
法律信息資源
法律信息服務
數字信息檢索
數字技術發展
專業網站建設
澳門法律信息
  當前位置:首頁 > 法律信息研究 > 法律信息服務
法律信息服務
暫無下載資料

 智慧法院:人工智能介入司法的憂患與展望
            廖旋 點擊量:11165
中南大學法學院
【摘要】
目前智慧法院處于初級司法智能化階段,它以效率價值主導智慧法院改革,以公私合作研發推動司法信息化建設。但人工智能介入司法的過程也可能存在諸多問題,例如人工智能可能影響法官的自由裁量權、公私合作可能降低司法公信力及算法歧視可能影響司法正義等。因此,法院需要保障人工智能背景下法官的自由裁量權,不讓法官的自由裁量流于形式;充分利用公私合作研發的優勢,防止法院產生技術依賴;完善技術公平規則和算法司法審查原則,以規避算法歧視。
【關鍵字】
智慧法院;司法公信力;自由裁量權;算法歧視
    

  2017年4月20日,最高人民法院發布了《關于加快建設智慧法院的意見》,致力于打造網絡化、陽光化、智能化三位一體的智慧法院。智慧法院建設要求人工智能與司法緊密結合。隨著改革的推進,人工智能介入司法的程度已經從內部司法行政管理體系擴展到外部審判活動[1],學者們開始關注人工智能給司法原則、證據規則和司法認知帶來的沖擊。保守派學者認為人工智能不會改變司法的本質屬性,改革派學者認為人工智能會重構傳統的法律關系、法律行為和法律方法,甚至帶來一場法律革命[2-3]。因此,審慎觀察和分析人工智能語境下“司法改革”的動向,并積極探索解決對策,對審判活動現代化建設顯得尤為重要。、“人工智能+”背景下的法院智能化進程馬長山教授從實然法的角度構建了法律革命的宏大框架,認為未來“人工智能+法律”的發展會重塑司法認知、司法倫理和司法價值等基本法律理念[2]。但到目前為止,我國智慧法院改革仍處于初級發展階段,主要表現為以效率價值主導智慧法院發展的特點,還未進入重塑基本法律理念階段。

  一、人工智能介入司法

 。ㄒ唬┬蕛r值主導智慧法院的發展

  各地法院遵循效率邏輯,紛紛推出法官智能輔助辦案系統,簡化辦案流程、縮短審判時間,處處彰顯著對效率價值的偏愛。與此同時,地方試點開始的智能化改革也逐漸向全國推廣。2016年的第三屆世界互聯網大會,六國最高院大法官在司法信息化、司法公開、訴訟服務等方面達成了六大共識。2017年的《新一代人工智能發展規劃》也將“提升審判體系和審判能力智能化”作為人工智能發展的目標之一,無論是最高院還是國務院都顯示出建設智能司法系統的決心。

  司法實踐處處彰顯出對效率的追求,因為司法效率可以促進司法公正的實現。解決糾紛本質是法律關系、法律狀態的確定過程,所以準確高效地解決糾紛實質上有助于社會公平的實現[4]。司法智能化符合效率價值的目標,讓法官擺脫了繁雜機械化的司法工作,讓訴訟當事人走出復雜低效的司法程序。伴隨效率的提高,人們開始質疑人工智能只是一味地追求效率,可能忽視了司法公正。司法公正是司法價值的核心命題,但智慧法院呈現的特點是司法公正亦步亦趨,司法效率呈現質的飛躍。從嚴格意義上說,司法是一個以司法公正為第一價值的社會活動,目前卻反映出來一種以效率效益為第一要義的商業邏輯,兩者之間存在價值沖突,可能影響司法的良性循環。司法的良性循環表現為司法公正和司法效率相輔相成,人工智能卻難以在兩者之間達到平衡。人工智能專家在設計算法時力求精確化的表達,公正卻如普羅米修斯的臉,“公正”的裁量標準無法精確化,難以統一。換而言之,以算法為核心的人工智能不但無法理解人類社會對司法公正的追求,而且無法突破法律模糊化表達的困境,所以最后也可能陷入一個傳統的法律困境--公正效率之爭。為了避免陷入法律困境,無論是法院還是研發者都更愿意選擇以效率為首要價值指導司法智能化建設。

 。ǘ┲腔鄯ㄔ禾幱诔跫壦痉ㄖ悄芑A段

  人工智能分為“弱人工智能”“強人工智能”“超人工智能”[5]。智慧法院的重點在于利用人工智能技術實現法院再造,司法智能化水平也與人工智能發展呈現出對應關系。目前人工智能技術還處在“弱人工智能階段”,部分領域逐步邁進“強人工智能階段”,法院相應地處于初級司法智能化階段。

  伴隨弱人工智能的發展,上海法院推出了具有35個子系統的智能輔助辦案系統[6]。該系統利用算法提供5種服務:自動生成電子卷宗、自動關聯與當事人相關的案件、智能推送輔助信息、自動生成與輔助制作各類文書和智能分析裁量標準。這個系統主要為輔助性司法活動提供幫助,簡化司法審判的程序性活動,沒有為司法裁判的核心活動提供新分析工具。新分析工具的應用主要集中在司法推理模式的重構方面[7],司法推理包括對類似案件的分析和對法律規則的解釋等方面,并非是一個單調的線性推理過程,必須建立在類比演繹等深度學習的人工智能之上。新分析工具的應用需要與強人工智能相結合,弱人工智能階段的司法輔助系統無法處理法律與道德倫理的關系,也不符合以“社會效果”為導向的法律裁判邏輯,相應地法院改革也無法突破弱人工智能的限制。弱人工智能具備處理簡單特定任務的優勢,提升了法院內部司法系統的效率,卻沒有給智能司法外部系統的構建帶來實質性的成效。司法過程是一個法官居中裁判、當事人相互博弈的三方構造,除涉及法院內部司法行政系統之外,還涉及當事人之間、當事人和法院之間的法律互動過程。這種“法律互動過程”也可以稱之為“智能司法的外部系統”。外部系統的改造起始于“微信審判”和“QQ審判”[8],2007年,福建省沙縣法院利用QQ審理了一起跨國離婚案件,這起案件的審判改變了傳統法庭審判的地點,將物理空間置換成了網絡虛擬空間,節約了法院和當事人的時間成本,將一天的工作時長縮短為半個小時。外部系統利用互聯網技術改變了法庭審判的溝通交往媒介,利用了弱人工智能的語音識別、圖像識別傳送技術,卻沒有利用人工智能的分析、推理等與深度學習相關的核心技術,只是涉及到了人工智能的冰山一角。

 。ㄈ┲悄芩痉ㄏ到y的研發主要依靠公私合作

  根據以往的研發經驗,僅依托于最高人民法院自身的技術無法滿足提升司法效率的需求。以最高院裁判文書網為例,它的算法設計本身就存在天然缺陷,關鍵詞設計不合理,模糊檢索功能遠不如北大法寶、無訟、openlaw等網站。相較之下,私人企業的技術優勢得以凸顯,迄今為止公私合作研發智能司法系統逐漸成為擺脫技術桎梏的最佳途徑。

  全球的法律科技上市公司呈現出指數增長趨勢,從2009年到2016年增長了1149家[9]。其中國際律所Dentons研發的機器人律師ROSS于201年投入使用。無訟研發的機器人“法小淘”也于2017年投入使用。這證明市場導向的商業活動已經催生出一批批的人工智能法律產品。企業掌握著先進的人工智能技術,并與法院合作共同研發人工智能法律產品。如上海市浦東新區政協委員周蘭萍主張利用“互聯網+PPP”的優勢打造智慧法院。上海高院與科大訊飛公司合作,歷時5個月成功研制了“206”系統[10]。浙江省高級人民法院與阿里巴巴集團簽署戰略合作框架協議,聚焦阿里巴巴旗下的淘寶、阿里云和螞蟻金服在云計算、大數據和用戶方面的資源優勢,幫助浙江法院構建司法領域的大數據服務體系[11]。各地方紛紛積極地與私人企業合作,共同推動智慧法院的改革。

  二、人工智能介入司法的隱憂

 。ㄒ唬┤斯ぶ悄芸赡苡绊懛ü俚淖杂刹昧繖

  對人工智能介入司法,學者們持兩種觀點:一種觀點認為人工智能甚至可以取代法官、律師成為司法活動的主體[12],另一種觀點認為人工智能在司法裁判過程中只是占據輔助地位,無法取代法官的主體地位[13-14]。

  持前者觀點的學者對人工智能有著盲目的樂觀,甚至有技術萬能主義思想,認為人工智能的工具性價值可以彌合司法裁判模糊性和不確定性的缺陷,使自由裁量朝著統一性和可預見性方向發展。事實上智慧法院處于初級司法智能化階段,人工智能彌合司法缺陷的能力受到約束。不同于機械地參照適用法律,一個理性的裁判者形成自由心證的過程極為復雜,需要考慮法律解釋、利益衡量、道德倫理和價值判斷等方面,有時甚至還會受到輿論、權力和社會效果等因素的限制。法律專家系統設立的算法規則無法將主觀因素量化為代碼,所以人工智能裁量結果也往往有失偏頗。一個法官消極不作為,機械性地以人工智能裁量結果作為一個法律裁判的決定性因素,意味著法官對技術的盲目崇拜,無法正確認識到技術的局限性!胺ü俚淖杂刹昧俊弊兂扇斯ぶ悄芗夹g的附屬品,變成了“算法的自由裁量”。

  持后者觀點的學者堅持法官的主體地位,認為人工智能介入司法的優勢在于使法官的自由裁量趨于合理化,爭取同案同判的效果,從而有助于實現司法公正,提高司法公信力,防止司法腐敗。利用人工智能控制法官的自由裁量權是未來智慧法院改革的重點。法官的自由裁量分為“強自由裁量”和“弱自由裁量”[15],強自由裁量關注個案的特殊性,法官需要靈活運用法律原則,例如“許霆案”中法官利用法律原則突破了法律規則的限制。個案的特殊性與人工智能司法的普遍適用性相違背,人工智能在合理化約束強自由裁量權方面顯得捉襟見肘。弱自由裁量要求法官在相對確定的司法裁量界限內作出選擇,關注類似案件的普遍性,算法利用提公因式的方式,將相同的考量要素代碼化,形式上更符合算法邏輯,但也可能增加自由裁量的不確定性。以量刑系統為例,即使是簡單的幾個考量要素也可以任意組合成上百種裁量結果,對合理化約束法官的自由裁量權并無意義,反而增加法官自由裁量的難度。

  居于輔助地位的人工智能還可能抑制法官發揮主觀能動性,妨礙法官審理新型權利糾紛案件。新型權利是經濟發展和社會交往的產物,在審理新型權利糾紛案件中,法官更需要發揮主觀能動性去解釋法律,有時甚至需要發揮“法官造法”的功能。囿于弱人工智能無法深度學習理解法律語言,法律專家系統就無法以現有的數據庫為基礎作出合理預判,如果法官由于司法惰性而放棄行使自由裁量權,采納舊數據庫作出的預判或者建議,人工智能法律專家系統則會促使法官作出不公正、不合理的裁判。

 。ǘ┕胶献餮邪l可能降低司法公信力

  騰訊研究院發布的《全球人工智能人才白皮書》顯示,全球AI領域人才約10萬,而市場需求在百萬量級[16]。人工智能與法律相結合的高端復合型人才屬于稀缺資源,公私合作研發是這種情勢之下的必然選擇,而商業的逐利性則會誘使私人企業在設計算法時作出符合自身價值取向的判斷,或是利用數據存儲和管理優勢誤導法官的裁判。

  技術研發商在利用算法拆解司法裁判活動的過程中可能存在誤判。司法輔助系統的效益取決于技術研發商對司法活動的理解和算法對自然語言的處理能力。首先,大多數的技術研發商是人工智能方面的專家,無法充分理解司法活動。技術研發商將法律規則轉化為算法的過程是對法律規則的重新解構和建構,轉化為算法的法律規則必須遵循算法邏輯和法律邏輯,算法設計者必須將兩種邏輯融合一體。其次,符號主義算法和聯結主義算法模擬人處理自然語言的能力極度有限,以蘋果siri為代表的語音識別系統尚且無法高度精確化地處理自然語言,其他人工智能系統在處理生僻難懂的法律專業術語方面更是困難重重。因此,所設計的智能司法輔助系統往往是差之毫厘,失之千里。

  除此之外,技術研發商同時也是數據服務商,數據服務商是否會利用數據優勢不正當影響司法的問題還須進一步思考。例如阿里巴巴集團和順豐集團的數據權之爭,傳統的反不正當競爭法和反壟斷法完全沒有適用余地,但是兩家公司的數據權之爭又實質上侵害了消費者權利,如果提起消費者公益訴訟又無法將消費者的實質損害進行量化,從而形成有利證據。在無人提起公益訴訟的情況下,法院無法將其納入司法管轄的范疇。在他人提起民事訴訟的情況下,法院也可能作出駁回起訴的裁定,消費者的隱私權無法得到司法保障[17],司法的公信力也會降低。

 。ㄈ┧惴ㄆ缫曈绊懰痉ㄕx

  每個法官的自由心證實質上是一種“算法”,表現為法律解釋技術。法官在個案中依賴法律解釋技術,所以法律轉化為算法的過程存在人的主觀選擇,存在“算法歧視”。

  大數據、互聯網、云計算高度發展的時代,算法被特定化,算法由研發者設計,那么算法本身就帶有技術開發者的主觀意識判斷,算法絕對客觀中立的論斷就值得懷疑。算法決策的結果本來就可能帶有固有的歧視。Northpointe公司開發一款名為“COMPAS”的犯罪風險評估系統,用以輔助法官對犯罪嫌疑人進行再犯風險評估,但是最新的研究表明該系統本身就存在種族歧視[18-21]。該系統的最終目的是為了更好地預測犯罪人的再犯可能性、社會危害性及人的主觀惡性,以避免刑事裁判受到法官個人主觀偏好的影響。實踐卻背離了初衷,該系統在類似案件中評估黑人和白人的再犯風險時,黑人的再犯風險評估結果遠遠高于白人。這是由于算法在將法律規則轉化為代碼的過程中,同樣也承載著人類文化中固有的偏見。算法的運行是一個自發、無意識、不完全可控的過程,算法在“輸入與輸出”的交互式運算過程中也會習得人類的劣習。以微軟開發聊天機器人Tay為例,它在投入使用不久之后,產生了反猶太人、種族歧視、性別歧視等不良思想。人工智能介入司法同樣以“輸入與輸出”的運算模式為主,也容易導致法偏見與不公。

  更進一步,算法具有專業性和不透明性的特點,算法歧視所帶來的司法不公難以矯正。當犯罪嫌疑人將存在偏見的再犯風險評估結果訴諸法院時,Northpointe公司也會以算法是商業秘密作為抗辯理由,法官的審查可能受到限制[18]。而且大多數法官不具備審查算法客觀性的能力,沿襲以往的經驗積累,更容易認為算法是一種客觀中立的科學表達或者是數字表現形式,否定算法決策存在法律意義上的價值判斷,算法的正當性、客觀性也不會被審查。隨著法官一次次參照適用算法決策結果,算法歧視更難以被發現,長此以往算法會更加偏離司法公正的方向。

  三、人工智能介入司法的展望

 。ㄒ唬┍U先斯ぶ悄鼙尘跋路ü俚淖杂刹昧繖

  無論法官審判的主導地位是否能夠被人工智能取代,只要法官由于司法惰性選擇適用人工智能的司法裁量結果,人工智能都已經對法官的自由心證造成了實質性干擾。在這個語境之下,保障法官自由裁量權才變得有意義。

  首先,法律應當將人工智能裁量結果作為“參考”依據!皡⒖肌卑凳驹诰唧w案件中法官如果采納人工智能的裁量結果作為裁判依據之一,必須論證該裁量結果的正當性。法官必須承擔相應的說理義務,理由一旦遭到反駁或者質疑,法官也要承擔相應的法律責任。從法律形式主義出發,人工智能裁量結論可能代表著極端法律形式主義[17],法官可能會變成“法律的自動售貨機”。法官機械化地適用法律,可以規避創造性適用法律過程中所產生的不必要的說理責任,F代法官的評價管理制度,將上訪率和上訴率作為考核法官的重要指標,法官創造性地適用法律要比機械性地司法承擔更多不可預測的上訪風險[22]。法官為了個人的職業前途會選擇相對安全保守的裁判方式,規避風險。闡述說理義務的規定就是為了防止法官機械地適用人工智能裁量結果。

  其次,防止上下級法院監督的異化,讓法院的獨立審判流于形式。人工智能介入司法可以提高司法行政管理的效率,便于上下級法院的監督[6]。當地方司法行政管理系統接入全國系統時,上級法院法官點擊鼠標即可完成電子案卷、庭審視頻的傳送,對下級法院的司法監督變得輕而易舉。上級法院掌握了司法監督的絕對主動權,遠程監督可能使庭審變成法官的個人表演秀,使法官庭審流于形式。為防止形式化審判,上級法院的監督范圍和監督權限不能逾越法院獨立審判原則的限制。

 。ǘ┌l揮公私合作研發的優勢,防止法院產生技術依賴

  公私合作可能會降低司法公信力,原因在于法院的權威性源自公民授權、憲法和法律的擬制同意。當人工智能司法裁量結果的正當性存在困境時,人工智能是否可以視為是公民擬制同意的結果呢?公私合作研發的法律專家系統中的算法可能既包括了法院的意志又包括技術研發商的個人意志。個人意志如果超過了擬制同意的范圍,那么人工智能司法裁量的正當性則需要法律原則來彌補。法律原則可以通過內部證成解決人工智能裁量正當性不足的問題,當徒法不足以自行之時,則需要通過外部證成的方式加以彌補。同時,法院應該提高自身的研發能力,掌握數據的主控權。技術外包可能對司法公信力產生威脅,現行立法并未在算法設立與數據保全之間作明確劃分,我國私人公司在算法設計和數據儲存方面都兼具優勢,法院掌握數據主動權的方式就是增強法院的數據收集、整理和存儲方面的能力,擺脫對私人企業數據保密技術的過度依賴。然而,互聯網的傳播速度和廣度增加了數據的泄密風險,傳播的次數與泄密風險成正比關系,法院還應減少原始數據的傳播次數,防止數據泄露。法院與技術開發商簽訂合同時,須增加數據安全保障義務條款,建立數據等級保護體系。

 。ㄈ┩晟萍夹g公平規則和算法司法審查原則

  算法歧視分為兩種,一種是算法設計者主觀意識導致的歧視,一種為算法后天習得導致的歧視。這兩種算法歧視的規避路徑包括正當程序、算法司法審查和第三方評估。

  第一,法律代碼化后的算法理應遵守正當程序原則。正當程序原則的模糊性和包容性決定正當程序無法精準化、具體化和量化。人工智能評估系統無法衡量一個智能化量刑系統的算法是否遵守正當程序原則。智能化的量刑系統建立在個人裁決和規制制定之上,而法官更相信算法完美無漏洞,這會導致智能量刑系統、司法裁量系統侵害正當程序原則[23]。因此,需要設定技術規則增強算法的透明性、可問責性和明確性,避免算法侵蝕司法公正。

  第二,進一步明確算法的司法審查范圍。算法歧視分為“顯性”和“隱性”,遵循階段性審查的原則。第一步為初步審查,審查是否存在顯性的算法歧視,第二步為實質性的算法司法審查。因為算法審查成本可能比算法設計成本更加高昂[23],為了避免司法資源的浪費,分階段的算法司法審查可能更容易被法院采納。在EricL.Loomis案中,被告以COMPAS系統存在歧視為由提起上訴[24],由于算法是商業秘密的重要組成部分,法院無法做到徹底的、完全的、實質性的司法審查,只有加利福尼亞管教和康復局提供證據證明COMPAS系統存在顯性算法歧視,才能進行實質性的司法審查。第三,建立算法司法審查第三方評估制度。目前浙江省瑞安市法院引進了第三方評估機構,由第三方電子證據保全公司保存和校驗庭審錄音錄像的完整性[25]。算法司法審查有兩種路徑,一種是由第三方評估機構承擔實質性審查任務;另一種是由法院承擔實質性司法審查任務。前者更加適合缺乏技術人才的法院,但受到數據安全、司法不作為等質疑;后者更加適合擁有技術人才的法院,但存在增加司法成本等問題?紤]到目前法院缺乏技術人才的現實情況,大多數法院會選擇第一種方案。本文原載《湖南學院學報》2019年2期

【參考文獻】
[1]  王福華.電子法院:由內部到外部的構建[J].當代法學,2016(5)
[2] 馬長山.互聯網 + 時代“軟法之治”的問題與對策[J].現代法學,2016(5)
[3] 李晟.略論人工智能語境下的法律轉型[J].法學評論,2018(1)
[4] 姚莉.司法效率:理論分析與制度構建[J].法商研究,2006(3)
[5] 楊婕.全球人工智能發展的趨勢及挑戰[J].世界電信,2017(2)
[6] 羅書臻.以大數據戰略助推智慧法院[N ].人民法院報,2016- 11- 18
[7] 馮結.人工智能對司法裁判理論的挑戰:回應及其限度[J].華東政法大學學報,2018(2)
[8] 宋偉鋒“. 互聯網 + 審判”的實證研究--以“微信庭審‘PK’電子商務法庭”為視角[J].河北經貿大學學報(綜合版),2016(4)
[9] 曹建峰“. 人工智能 + 法律”十大趨勢[J].機器人產業,2017(5)
[10] 陳瓊珂.智能 206,能有效防范冤假錯案嗎?[N ].解放日報,2017- 07- 10(005).
[11] 余建華,孟煥良.浙江高院聯手阿里巴巴打造“智慧法院”[N ].人民法院報,2015- 11- 25
[12] 霍斯特·艾丹米勒,李飛,敦小匣.機器人的崛起與人類的法律[J].法治現代化研究,2017(4)
[13]吳習彧.司法裁判人工智能化的可能性及問題[J].浙江社會科學,2017(4)
[14]潘庸魯.人工智能介入司法領域的價值與定位[J].探索與爭鳴,2017(10)
[15]騰訊研究院《. 2017 全球人工智能人才白皮書》發布解讀世界頂級 AI 牛人的秘密[EB/ OL].(2017- 12- 01)[2018- 10- 12].http:/ / www.tisi.org/ 4960.
[16]Michele Taruffo,Judicial Decisions and Artificial Intelligence[J].Artificial Intelligence and Law,1998(6)
[17]徐駿.智慧法院的法理審思[J].法學,2017(3)
[18]曹建峰.人工智能:道德外包與“黑箱”中的算法歧視[EB/ OL].(2017- 01- 16)[2018- 10- 21].http:/ / www.tisi.org/ 4798.
[19]蘇令銀.透視人工智能背后的“算法歧視”[N ].中國社會科學報,2017- 10- 10(005).
[20]丁曉東.算法與歧視--從美國教育平權案看算法倫理與法律解釋[J].中外法學,2017(6)
[21]劉振宇.人工智能時代的司法建設[N ].中國社會科學報,2017- 08- 16(005).
[22]佀化強.事實認定“難題”與法官獨立審判責任落實[J].中國法學,2015(6)
[23]Citron. D K. Technological due process[J]. Washington University Law R eview,2007,85
[24]鈦媒體.當司法擁抱算法,正義與科技誰將笑到最后[EB/ OL].(2017- 05- 08)[2019- 01- 12].http:/ /www.sohu.com/ a/ 139023335_116132.
[25]溫萱“. 智慧法院”力促庭審記錄跨入數字時代[N ].浙江法制報,2017- 09- 20
        
        
      首都法學網       北京市高級人民法院       中美法律信息與圖書館論壇(CAFLL)
      國家圖書館       美國法律圖書館學會(AALL)       國家檢察官學院
      中國社科院法學所圖書館       國際法律圖書館協會(IALL)       最高人民法院圖書館

主管單位:中國法學會  主辦單位:中國法學法律網合作機制 技術支持:北大英華科技有限公司(北大法寶)
電話:010-82668266-152 傳真:010-82668268  京ICP證010230-5
加入收藏 | 本站首頁 | 聯系我們
go
国产精品久久九九精品视_国产精品久久九九视频_国产精品久久久