查看原文
其他

医疗人工智能伦理:儒家的观点和立场

张舜清 中国医学伦理学 2024-04-13

▲▲▲欢迎关注“中国医学伦理学”

医疗人工智能伦理:儒家的观点和立场

张舜清

(中南财经政法大学哲学院,湖北 武汉  430073,zhzhshshing@163.com)

医疗人工智能引发的伦理问题,如今备受生命伦理学界的关注。这是因为人工智能不仅极大改变着传统的医疗模式,也在相当程度上促使着人们对医学的本质和目的的全新理解。如何看待和解决医疗人工智能伦理问题,需要多方面的理论回应。本文旨在从儒学的角度,讨论儒家在医疗人工智能伦理问题上所采取的可能立场和观点,并期望借助这种讨论,为人们处理医疗人工智能伦理问题提供启示。

01 医疗人工智能

伦理的主要问题及其性质



从人工智能发展的现状及前景来看,目前学界根据人工智能与人类智能的比拟程度,区分了“强人工智能”(strong AI)与“弱人工智能”(weak or cautious AI)。“强人工智能”主要是指与人的智能高度相仿,甚至优于人的智能的人工智能。在未来,强人工智能不仅可以从事任何人类智能所担负的工作,而且在人们的预期中,它也是指具备了全部人类生命特征并在能力上优越于人类的超级智能体。这一意义上的强人工智能,有人也称之为“人工自为者(agent)”[1]。“弱人工智能”是指只具专门用途的人工智能,它完全不具备人类那样的自主性,而只是人类设计出来的代替人类某方面工作或者多方面工作的助手或工具,它只能在人类设定的程序内行动,而无论这种程序多么复杂。从目前的情况来看,人工自为者的出现还处于一种假想的状态。因此,由它引发的伦理问题只具有理论上的可能性。事实上,由于人类大脑的复杂性、意识的自主性、观念构造的特殊性,在目前以及可预见的将来,人类都无法在机器上复制或实现真正如人一样的智能,因此,“除非AI研究取得革命性进展,否则我们绝无可能进入后奇点时代,机器既不大可能会超越人类,更不大可能会取代人类。因此,人们担心的尊严风险、道德风险和生存风险在可以预见的未来都将是杞人忧天。”[2]由此看来,由人工智能引发的伦理问题,在当前以及可预期的很长一段时间来看,都属于应用弱人工智能引发的现实性的伦理问题。将人工智能应用于医疗领域产生的伦理问题,也主要是此类问题。大致说来,这些问题可归结为如下几类问题:

— 1.1基于医疗人工智能产品

的安全性和应用后果引发的责任归属问题

安全性问题并不直接等同于伦理问题。因为这种问题主要缘于生产该产品的技术水平,并且,解决这种问题,最终也要靠技术的进步。但是产品的安全性问题关联着产品的制造者和使用者的责任问题。同样,使用人工智能产品也存在这一问题。就医疗领域而言,人工智能技术正越来越广泛地运用到支持临床诊断决策、手术实施等具体的医疗实践当中,如果人工智能系统提供的决策有误,或者在代替医生给患者实施手术时发生故障,导致患者的严重伤亡等诸如此类的事故,那么就产生了要由谁承担责任的问题。

— 1.2人工智能体的“行为不当”问题

这里的人工智能体的“行为不当”,专指这样一种情况,即人工智能体能够完全地执行其固定指令,作为“机器”能够完全正常运转,但是它按程序指令而产生的行为却可能本身就是一种“恶”。比如人工智能体的“算法”本身就是邪恶的,那么这种人工智能体向医生提供的决策信息可能本身就是一种“有意的误导”,从而使医生的行为表现出(即使是非自觉的)某种偏见或偏差。由于这种人工智能体本身带有“邪恶的灵魂”,因而必然会造成某种危害性后果(可能很隐蔽)。它本质上是人工智能“算法”的设计者为达成个体私利或特殊目的,而故意设计出来的带有邪恶目的或某种歧视性的算法,因而体现的是人的主观之恶。

不过,人工智能体的算法偏见可能体现在多个方面,有的并非是人工智能的制造者主观为之的,而是人工智能体依据特定的数据而产生的“刻板印象”。解决这样的问题,则只能依赖于人工智能技术的完善。而如果因其使用造成危害性后果,那么理论上也只能诉诸制造者和使用者的责任,或者使用前告之患者相关风险,由各方共同分担责任。因为当事各方本身不存在主观失德的故意,因而这种问题本质上和上一类问题属于同一性质的问题,都和应用人工智能产品对当事人的人身生命财产安全所造成的直接的危害性后果相关。

1.3应用人工智能引发的社会伦理问题

在医疗领域,人工智能的普及和广泛应用,在极大提高社会生产效率、推动社会前进的同时,也可能会加剧一些业已存在的社会伦理问题,甚至造成新的社会伦理问题。

其一,随着人工智能技术在医疗领域的广泛使用和普及,传统上医护人员的一般劳动逐渐有被人工智能全面取代的趋势。这虽然有助于将医护人员从繁琐的日常劳动中解放出来,并有助于解决当今普遍存在的医患资源比例配备失衡的矛盾关系,但几乎没有疑问的是,这也容易引发或加剧医疗人员就业难和失业的问题。不过这一问题从性质上看,并没有增加传统科技伦理的内容。因为失业本质上是机器取代人力的结果,使用人工智能导致的“人力的解放”跟工业革命初期“机器解放了工人”在性质上是一样的,区别仅在于对人力的解放的程度不同。并且,“人力的解放”并不意味着失业,也可能意味着整体人类社会的进步和某种新的存在形式的诞生。

其二,人工智能毕竟是尖端高新技术,我们必须承认,对于这种技术具备开发和拥有能力的国家和个体是极少数的,而一旦对这种技术的开发和使用成了某些国家或某些人的“专利”,那么人工智能短期内不但不会给人类带来更多的福利,很可能还会拉大人类不同群体的差距和隔阂,进一步加大世界各国、各地区发展的不平衡以及贫富差距问题。特别是当这种技术被缺乏社会责任感的资本集团或个体所垄断时,部分人就可能利用这种技术进一步加大自身在整体社会中存在的优势,从而加剧业已存在的人群之间的鸿沟

1.4由人工智能的应用引发的

对医学的本质和目的以及对人的生命本质

和价值等问题的哲学思考

人工智能对人类社会的既有伦理秩序和价值观念的冲击无疑具有根本的挑战性。当人类无论是在肉体上还是在“灵魂”上都可以实现和人工智能的完美嵌合的时候,我们该怎么定义“人”?如果我们对于“人”的本质内涵的认识会发生颠覆性的理解,那么一切在原有“人”的观念下形成的伦理秩序都将发生动摇或改变。传统上的两性伦理、夫妻伦理、家庭伦理,以及友爱、互助等社会道德观念,都将变得模糊甚至无关紧要。试想,当人的情感和生理需求都可以被完美的人工智能体所取代,我们还能指望夫妇的琴瑟和谐吗?当一个人可以拥有“金刚狼”一样的身躯又拥有强大的“算法灵魂”时,人类基于同情、互助、合作等理由建立的道德感又如何产生和维持?当一个人可以最大可能摆脱与所有人的依附关系和联系的时候,也就是可以达到以其自身存在的绝对独立时,基于关系意识产生的伦理道德观念也必然淡漠。并且,如果人体可以通过技术改造而实现永生,那么医生和医院何为?或者,医院会沦落为一般的技术性的维修部门,甚至没有了存在的必要。当人机一体化实现之后,这时候的“人”对于医院而言,实质也即待检修的“机器”,甚至医院也可能只不过是由人工智能体操控的大型的智能机器。所以,人工智能和生命技术的完美结合,很可能会彻底改变人们对“疾病”的认识,以及对医生的角色、医学本质的全新理解。

以上是我们对在医疗领域应用人工智能产生的现实性伦理问题的大致概括。但是从人工智能发展的趋势来看,由强人工智能引发的有关人类的生存风险和尊严风险等问题,也不是完全没有可能。所以,要获得儒家在这些问题上的观点和立场,也需要我们对人工智能与儒家伦理的宏观关系有所把握。

02 人工智能对儒家伦理的冲击和挑战



人工智能技术的发展对任何一种传统道德理论来说,都是一个冲击或挑战,甚至可能是根本性的、致命的冲击或挑战。其实,从人类的技术发展史角度来看,任何一种极大提高生产力、改善或改变人类生存处境的技术开发和应用都会极大引起旧有哲学理论的震荡和社会伦理秩序的重新调整。这是因为任何传统道德理论都是立足于特定的现实的、历史的条件而形成的理论,因而一旦现实的、历史的条件发生改变,这种传统理论就必然会被扬弃。而技术往往担当了这种现实的、历史的条件改变的导引因素。可以说,技术发展是革命的物质力量的先头兵。人工智能作为一项极大体现人类生命本质力量甚至可能演化为对人的本质具有颠覆意义的现代技术,更是具有这种“革命”的性质。因而它对包括儒家思想在内的传统理论都必然会带来巨大的冲击和影响。不过,就问题的性质而言,有些冲击和影响也不能说全部是人工智能技术带来的,而只能说人工智能加剧了对传统理论的冲击和影响。人工智能对儒家伦理的冲击和影响也是如此。

首先,人工智能技术的开发与应用在很大程度上动摇着儒家伦理的理论基础。儒学是一种以人为本的理论学说,它的立足点就是具有天赋之性的作为自然个体的人。按照儒家的理解,人是天地父母遵循阴阳创生之道而生,它先天具有成人的内在要素,也具有先天的自然限制,即与生俱来的生命不完满在儒家看来,人先天具有的使人成为真正意义上的人的积极要素和生命与生俱来的不完满,因此对于儒家而言,人由纯粹的自然个体成为真正意义上的人,存在一个“修身”的过程。修身即培养人先天赋有的人之为人之性,而克服影响人的特殊生命本性得以彰显的自然本能之性,因而修身的过程,即“养性”的过程。通过修身、养性,人才能成为真正意义上的人,人的特殊的生命价值和意义才能得到体现。儒家伦理本质上就是这样一种旨在“成人”的学说。而这种学说的基础,正在于个体的修身。儒家把修身视为个体存在合法性的基本要求,也看成个体成人必要的方式和途径。故《礼记·大学》曰:“自天子以至于庶人,壹是皆以修身为本。”但个体所修之身乃自然之身,所养之性乃天赋之性,人并非生来就完美自足的,儒家这样一种身心的自然视域,在人工智能时代则难以维持。因为人的智能与机器的嵌合,个体的天然条件即遭到破坏,“修身”在某种意义上说乃成为“人为”的结果,而非出于“为人”的价值需求,甚至在物质力量极为发达的人工智能时代,这种旨在提高人的内在德性,并且需要人的主观自觉才能保证的修身理论已经变得没有必要。而如此一来,“自然个体” 作为社会伦理建构的基础性意义也就消失了,其连锁反应,就是导致整个儒家伦理大厦的崩塌。

其次,从儒学理论的运思模式来说,儒家基于天人会通的思考问题的模式,在人工智能时代,其合理性也颇受质疑。在儒家那里,人间的伦理秩序是依据天地创生之道而建立的,人类社会的伦理法则与宇宙创生万物的普遍法则具有同一性,遵循的都是阴阳之道。阴阳之道在人类社会的基本体现,即是男女、夫妇之道。对男女、夫妇之关系的处理,构成了儒家建构人间伦理秩序的始基。也就是说,儒家伦理的建立以自然个体为出发点,而个体的产生,则始于男女、夫妇的结合,因而从伦理关系角度说,夫妇关系即成为一切具有现实性的伦理关系的根始。儒家不仅在现实经验角度说明夫妇之道对于人伦社会的基础意义,也在形而上学层面对此加以论证,从而赋予这种关系以神圣性和恒久性。所谓“有天地然后有万物,有万物然后有男女,有男女然后有夫妇,有夫妇然后有父子,有父子然后有君臣,有君臣然后有上下,有上下然后礼义有所错。夫妇之道,不可以不久也,故受之以恒。”(《易·序卦传》)但问题是,慢说人工智能时代,即使基因技术的革命性发展,也使得这一人伦之道不再恒久。基因技术直接改变了人类生产和生命成长的自然秩序,生命的产生不再以两性交合为基础,人类可以根据自己的意愿创造可以想见的后代,孩子本质上成为被选择、被决定的“产品”,因之父母与子女之间基于天道自然法则而形成的自然权利和义务关系也被随之改变。可以说,“基因技术对伦理学的最根本、最深远的挑战,在于通过改造人的生物性的自然本性,和以生物性血缘关系为纽带的家庭的自然本性,消解传统意义上的‘自然人’和‘自然家庭’,从而从根本上颠覆传统道德和传统伦理赖以存在的基础。”[3]显然,人工智能技术的发展与应用,加剧了这一状况。

其一,基于自然男女而形成的两性关系这一人伦基础在人工智能时代更加难以维系。人之为人,从自然的层面上说,既有生理上性的需求,亦有情感需求。而假如人类能够创造出既具有高度仿人的生物性特征又懂人类感情的机器人,那么无论是生理上性的满足,还是高层次的情感需求,其实都可以通过机器人获得。这使得人工智能时代的家庭关系(如果还有的话)变得更加不确定。坦率地说,在当代各种生命技术和人工智能的综合作用下,正如美国学者萨根所说,“性和生殖之间的生物链已经断裂了”“电脑的使用将会加剧性与生殖相脱离的这一进化趋势。”他甚至预言,在未来的一天,性和生殖的完全脱离也不会是新鲜事[4]

其二,即便人类仍然以男女模式结合成家庭并繁衍人类,但是传统上家庭成员应当遵守的基本职责和义务,也将在人工智能时代变得没有区分的必要。譬如儒家认为“女正位乎内,男正位乎外。男女正,天地之大义也”(《易·家人·彖》)。但在人工智能的条件下,男女都可以从家庭劳动,甚至从任何劳动上解脱出来,男女在维护家庭上其内外职能的划分已经毫无意义,甚至在养育后代方面男女都无须承担生产、养育之责。并且,我们也有充分理由怀疑儒家坚持的“孝悌”这一根本的人伦观念是否还能维持。孝悌这一观念之所以能够成为社会中的观念基础,一个重要原因、即在于基于家庭血缘关系的人身依附和依赖关系构成了个体生命最初、最为切进和自然的保障,继而成为社会存在的基础,而一旦人工智能将个体改造成具有极大独立性的生命个体时,人们就将不再需要这种由家庭成员的义务关系而保障的生命条件,所以孝悌观念在人工智能时代的瓦解也将成为必然。

总体来看,儒家立足于具有自然神圣性的个体与夫妇之义建构出来的伦理学说很难成为人工智能时代有效的伦理观念和规范。特别是在奇点来临的时代,即强人工智能主宰宇宙的时代,儒家伦理就更难有立足之地。因为在奇点来临的时代,人在宇宙中的主体地位已经被更强的生命体——人工自为者降格为宇宙中一个普通的生命,人作为宇宙的中心地位和为万物立法的权利业已丧失。所以,儒家伦理的人学基础,自然也就无法发挥意义。面对着在智能和体力上都优越于人类的人工自为者,人已经不太可能成为天地万物的主宰了,更遑论让人工智能遵循基于“人”的需求而形成的伦理规范(除非人工智能不会进化成自我决定的人工自为者,或者可以“乖乖”听人类的话)。

03 儒家在

医疗人工智能伦理问题上的观点和立场



如果说人工智能对儒家伦理的整体理论根基都具有强烈冲击,有可能使整体儒家伦理的规范作用失效,那么这是不是说儒家伦理在思考人工智能问题上就没有价值了呢?对此,我们不能轻易下否定的结论。这是因为,讨论一种既有的伦理学说在处理人工智能问题上的是否具有价值或意义,关键还是要看当今人类究竟如何看待人类自身的生命特性及其未来的发展方向这一问题。如果我们承认保证人类生命的安全和尊严仍然是我们在发展人工智能技术上的首要问题的话,那么儒家伦理学说对我们思考诸如人工智能这样的问题就依然有效和富有启发意义。儒学的理论关怀始终和人类命运共呼吸,始终立足于对人性及其特殊生命价值和意义的拷问。人的问题是伦理问题的根源和中心,责任因人而生,价值依人而立。除非我们放弃人类自身的生命尊严,允许一种新的高于人类的生命形态与人类并存,甚至取代或消灭人类,那么,儒家对人类命运的关心及其学说,就仍然值得我们特别关注。不仅如此,事实上依据儒家的人本立场,儒家在应否发展人工智能以及怎样利用人工智能等问题上,它的观点也是十分明朗的。

首先,依据儒家的人本立场,儒家不太可能支持一种能够取代或消灭人类的人工智能技术的发展,也就是不主张创造人工自为者或者发展直接导致人工自为者的技术。儒家的整体学说都和人类的命运息息相关,都是在思考如何成就人类自身及开创人类的未来,因而儒家不会同意发展一种可能取代或消灭人类的技术,即不可能同意人为地创造一种给人类的生命安全带来灾难的事物。所以儒家不太可能支持发展人工自为者。即使是发展一种可能具备道德主体资格的高度仿人的机器,从儒家的立场来看,儒家应该也不会同意。因为在儒家那里,人是天地之生中最贵者,是万物之灵,而人具备这种地位的标志即人是唯一具有参赞天地之化育主体资格的存在,人是唯一的道德主体,也正是这一点,使人真正区别于动物,因而儒家不会支持将道德主体资格赋予人造物,而不管这种人工产品多么智能。因为这样一种作法,乃是对人的本质的伤害。儒学是如何“成人”“做人”的学问,是以确证特有的人性和生命本质为中心的理论。无论是儒家的人禽之辨、还是万物一体的理论,实质都是以不同形式、从不同角度在肯定人自身的生命价值和生命尊严。技术的开发和利用,必须以服务人类和维护人类的生命价值和尊严为目的,而不能伤害到人类自身。所以,在人工智能问题上,儒家既不会支持发展人工自为者,也反对赋予机器以道德主体资格。儒家赞赏这样的观点:“人工智能是一项‘人为的’和‘为人的’价值活动,必须始终坚持以人为本或以人为中心的原则”[5],人类今天之所以要思考人与智能机器的关系,“主要是突出人类在新的科技时代里如何维护自然人类的固有价值,努力不让科学技术的发展成为人类自我异化的异己力量。”[6]反之,技术的开发和利用即无伦理上的正当性。

其次,儒家虽然不赞成发展人工自为者,但对于弱的人工智能儒家则可能采取较为开放的支持态度。儒家对于弱人工智能的态度,涉及儒家看待技术的观点。由于儒家高扬人的精神价值,而较少论及技术,这可能给人造成儒家重人文而轻技术的印象。事实上,在儒家的早期文本中,也蕴含着儒家支持技术开发与应用的思想。比如《易·系辞传》就鲜明地表达了一种圣人在掌握天道基础上制器作物以利民用的思想。《易·系辞传》详细介绍了伏羲、黄帝、尧、舜等圣人因循“易道”发明创造网罟、耜耒、舟楫、弓矢、宫室等物以为利用的情况。圣人之所以为圣人,一个重要的表现就在于圣人能够充分发挥天赋性分制器作物以为民用、设礼施政以安天下。圣人是具有完善人格的人类代表,儒家将技术的开发和利用视为圣人为圣的重要表现,表明儒家有将技术的开发和利用视为人的生命本质力量显证方式的意思。也就是说,人类的生命特性之一或者说本质力量的体现之一,即在于人能够开发技术以为人类之用。也正是出于这种认识,荀子还将“制天命而用之”“善假于物”等视为君子修身的必要内容。所以,儒家对于技术的开发和利用不会一般地加以反对,相反,还会视之为一种“成人”的方式和途径。从这个角度看,儒家对于弱的人工智能的应用,应该会持有限的支持态度。之所以持有限的支持态度,是因为儒家认为这种技术的开发和利用,必须严格限定在人类价值需求之内,它的目的只能是为了使人类生活得更好,而不是其他。

不过,技术的迅猛发展很可能会使儒家的这一心愿成为不切实际的愿景。但是如果我们因此就说儒家思想业已在思考人工智能问题上丧失有效性,也为时过早。一方面,人工智能引发的伦理问题并没有突破儒家伦理的根本原则。儒家伦理在现实性上虽然以个体人的生命以及男女、夫妇为基点,但它在形而上学上遵循的却是具有宇宙普遍法则意义的“天道”。儒家相信任何事物均受天地宇宙普遍法则的支配,即使是人工创造物,也不可能摆脱宇宙法则和自然力量的支配。人工智能也不例外,它再强大,也无法突破天地宇宙的法则。从这个意义上说,儒家伦理的形上根基即对天道原则的推崇对于我们讨论强人工智能的伦理问题仍然有效。不过,同样不可否认的是,儒家,特别是原始儒家对人类经验世界之外缺乏深刻关照,而是始终以人类的经验事实作为立论的现实根基。儒家讲天道,是为了说明人道,是为了说明人之为人及其生命的价值和意义问题。所以,另一方面,儒家对于人工智能的支持,限定在人类的价值规范之内。

依据儒家在人工智能问题上的以上观点和立场,我们大致也可以判断出儒家在医疗人工智能伦理问题上所持的基本观点和立场。一般而言,儒家应该不会反对将人工智能技术应用到医疗活动中;相反,出于更好地成就人类自身的想法,儒家应该还会积极支持将一种旨在服务人类的人工智能技术应用于医疗实践中。对于儒家而言,医学的本质和目的即在于恢复人类应有的生命尊严,有助于促进人的生命意义的生成和完善。只有在这个意义上,医术才能称之为仁术。这决定了人类在医疗领域采用人工智能的唯一动机,即只能是出于为了更好地服务于患者,解决患者的痛苦,减轻和避免人类因疾病或生理缺陷而造成的生命尊严的损伤。从社会层面而言,是为了更好地促进人际的和谐与交流,形成健康的人与人之间的关系。假如人工智能技术在医疗活动中的应用,严重伤害到了人格的养成,不利于人的生命意义的形成,或者严重伤害到医患关系、加速和加剧了人群之间的分裂,儒家也许更愿意选择传统的医患关系模式。

依据儒家的这种立场和态度,在面对诸如前文所列举的医疗人工伦理问题上,我们也能简要回答儒家在这些问题上的立场和态度。其一,对于在医疗领域应用人工智能技术产生的责任归属问题以及人工智能的行为不当等问题,在儒家看来,解决这些问题的关键,还是在于如何规范人的行为问题,或者说人类应该持何种价值观念发展人工智能的问题。在医疗为领域应用人工智能的目的,并不是为了消解人的生命存在的价值和意义,恰恰相反,是为了更好地体现人的生命本质力量和生命尊严,是为了人性的完善。所以,儒家不会同意把责任付诸机器的想法。唯有人才具有道德主体资格,因此,责任只能由人来承担,赋予机器以道德主体地位的想法,儒家不仅反对,甚至认为有些荒谬。机器再高明,对于儒家而言,它本质上仍然是人工创造物,是服务于人类的工具。让人工智能承担本该由人类自身承担的道德和法律风险,既可能造成人、机不分,消解人的存在意义,在实践上也只会加剧人类社会的混乱。一个依固定程式执行杀人指令的机器人杀了人,难不成我们可以只追究机器人的责任、“法办机器人”,而不去追究给这个机器下达指令的人的责任吗?其二,对于应用人工智能可能造成的社会伦理问题,儒家的观点也是明确的。儒家当会明确反对只是出于个体私利(事实上可能如此)而在医疗领域采用人工智能。比如医院采用人工智能技术只是为了占领技术高位实现高额利润,在儒家看来,这即属不义行为。医院采取人工智能技术的根本动机,如前所述,只能是为了更好地服务于患者,有助于实现人类生命的价值和尊严,以及人类整体生命的和谐。所以,解决诸如此类的问题,除了要进一步明确人类的价值原则,还必须要加强法律规范的作用,德法并举,才能使人工智能技术的开发和利用,始终保持在人类的价值要求当中。而对于发展人工智能的终极追问,归根结底,还是我们怎么看待人类自身及其未来发展方向的问题。



参考文献向上滑动查阅参考文献)

[1]韩水法. 人工智能时代的人文主义[J]. 中国社会科学,2019(6):25-44.

[2]夏永红,李建会. 后奇点时代:人工智能会超越并取代人类吗?[J].教学与研究,2018(8):70.

[3]樊浩. 基因技术的道德哲学革命[J]. 中国社会科学,2006(1):125.

[4]马古利斯·萨根. 我的另一半:性和欲望的本质[M]. 南昌:江西教育出版社,2001:110.

[5]孙伟平. 关于人工智能的价值反思[J] . 哲学研究,2017(10):125.

[6]吴根友. 儒家的“人禽之辨”对机器人有效吗?[J].船山学刊,2019(2):3-4.






文献来源

张舜清.医疗人工智能伦理:儒家的观点和立场[J].中国医学伦理学,2020,33(7):789-795.



《中国医学伦理学》杂志由中华人民共和国教育部主管、西安交通大学主办。1988年创刊,自2003年起连续18年蝉联“中国科技核心期刊”,2019年影响因子为1.584。


编辑:张晨阳 孙小楠

审核:吉鹏程






继续滑动看下一个
向上滑动看下一个

您可能也对以下帖子感兴趣

文章有问题?点此查看未经处理的缓存