AI 不僅僅是一場(chǎng)新的技術(shù)革新，更是一場(chǎng)社會(huì )關(guān)系變革和價(jià)值觀(guān)念的重塑。它所帶來(lái)的不僅是技術(shù)創(chuàng )新和社會(huì )生活 的便利，還包括各種智能化風(fēng)險和倫理挑戰。人類(lèi)不能以純技術(shù)中心或者技術(shù)中立的視角來(lái)看待 AI 以及處理人類(lèi)與 AI 的關(guān)系，典型體現如 AI 技術(shù)與用戶(hù)隱私及數據濫用問(wèn)題。AI 技術(shù)的應用大量涉及個(gè)人數據的收集和處理，AI 系 統涉及的隱私和個(gè)人信息可能被用于未來(lái)模型的迭代訓練；AI 還可能被用來(lái)生成虛假信息或惡意軟件，從而造成重 大經(jīng)濟損失和引發(fā)法律糾紛。這些問(wèn)題都迫切需要建立與之適配的社會(huì )治理和價(jià)值體系。

很多學(xué)界代表在公開(kāi)論壇等場(chǎng)合表達了這一擔心。例如，復旦大學(xué)計算機科學(xué)技術(shù)學(xué)院教授、上海市數據科學(xué)重點(diǎn)實(shí) 驗室主任肖仰華在 2024 Inclusion 外灘大會(huì )上曾表示，人類(lèi)與其擔心 AI 產(chǎn)生意識，不如先去擔心 AI 過(guò)速發(fā)展引發(fā) 失控的風(fēng)險。肖仰華認為，AI 大規模應用的挑戰，首先在于當下的生產(chǎn)關(guān)系等社會(huì )發(fā)展上層建筑，如何適應以人工智 能為代表的先進(jìn)生產(chǎn)力的快速發(fā)展；其次，技術(shù)普惠問(wèn)題同樣值得關(guān)注，即如何避免少部分人借助先進(jìn)技術(shù)形成不正 當的競爭優(yōu)勢；此外，還應該特別注意防范技術(shù)成癮，防止先進(jìn)技術(shù)對人類(lèi)造成反噬。

1950 年，艾薩克·阿西莫夫出版了《我，機器人》一書(shū)，書(shū)的引言中提出的“機器人三大定律”，開(kāi)啟了人工智能倫 理（AI ethics）研究的先聲�！皺C器人三大定律”旨在約束自主機器，使其服從以保護人類(lèi)為目的的強制性人性倫理準 則，從宏觀(guān)層面規范了人工智能的運用邊界。面向未來(lái)，AI 應用的首要原則應該是以人為本，AI 應用要回歸科技服 務(wù)于人的本質(zhì)，凡是傷害人之本性的 AI 要格外謹慎使用。此外，應明確 AI 不應該成為少數人的特權，每個(gè)人都有權 利并且能夠參與其中。這些新的社會(huì )和倫理關(guān)系也構成了新的人機關(guān)系的重要組成部分，亟待進(jìn)一步從社會(huì )、倫理和 法律等層面對人機關(guān)系進(jìn)行新規范、新思考。

展望未來(lái)，隨著(zhù)應用的日益深入，作為人類(lèi)的創(chuàng )造物，人工智能將被賦予以前只能由人類(lèi)心智完成或嘗試的任務(wù)—— 產(chǎn)生接近乃至超越人類(lèi)智能所能完成的結果，這無(wú)疑挑戰了人何以為人的決定性屬性。AI 的發(fā)展促使人們重新思考人類(lèi)的獨特性和價(jià)值所在，促使人們從“以人類(lèi)理性為中心”轉變?yōu)椤耙匀祟?lèi)尊嚴和自主性為中心”，并需要在技術(shù)進(jìn) 步和人文關(guān)懷之間找到平衡。