本文轉(zhuǎn)自：TechSugar

近日，據(jù)英國(guó)《金融時(shí)報(bào)》報(bào)道，史蒂夫?班農(nóng)（Steve Bannon）、梅根?馬克爾（Meghan Markle）與斯蒂芬?弗萊（Stephen Fry）等公眾人物，聯(lián)合包括“AI教父杰弗里?辛頓（Geoffrey Hinton）、百度前總裁張亞勤在內(nèi)的800多位世界名流，簽署了一份聲明，呼吁禁止開(kāi)發(fā)“超級(jí)智能”，即在智力上超越大多數(shù)人類(lèi)的人工智能系統(tǒng)。這一事件引發(fā)了全球?qū)τ谌斯ぶ悄馨l(fā)展的廣泛關(guān)注和深刻思考。

人工智能的發(fā)展如同一場(chǎng)洶涌的浪潮，正以前所未有的速度和規(guī)模改變著世界。毫無(wú)疑問(wèn)，它帶來(lái)的正面影響無(wú)疑是巨大的，為諸多領(lǐng)域發(fā)展提供了強(qiáng)大的驅(qū)動(dòng)力。

在醫(yī)療領(lǐng)域，人工智能展現(xiàn)出了巨大的潛力。AI工具在解讀病毒基因組、整理臨床試驗(yàn)數(shù)據(jù)等方面發(fā)揮了重要作用，助力疫苗研發(fā)提速，流行病防范創(chuàng)新聯(lián)盟的目標(biāo)是實(shí)現(xiàn)100天內(nèi)研發(fā)并部署新疫苗，如今已接近這一目標(biāo)。AI工具還能輔助診斷中風(fēng)、癌癥及其他疾病，它正逐漸成為全球醫(yī)療體系的重要組成部分。

在工業(yè)生產(chǎn)中，人工智能推動(dòng)了工廠(chǎng)自動(dòng)化的發(fā)展。如在小米的“黑燈工廠(chǎng)”，高度自動(dòng)化可以實(shí)現(xiàn)每6秒生產(chǎn)一部智能手機(jī)，且僅需少數(shù)技術(shù)人員負(fù)責(zé)系統(tǒng)監(jiān)控。德國(guó)西門(mén)子研發(fā)的AI驅(qū)動(dòng)的工業(yè)輔助系統(tǒng)，能幫助工程師通過(guò)自然語(yǔ)言操控機(jī)器人，還能自主識(shí)別機(jī)械故障，讓生產(chǎn)效率提升30%。

此外，人工智能在教育、環(huán)保等領(lǐng)域也有著廣泛的應(yīng)用和積極的影響。

然而，人工智能快速發(fā)展背后所隱藏的負(fù)面影響也不容忽視。隨著人工智能技術(shù)越來(lái)越深入人們的生活，諸多倫理問(wèn)題逐漸顯現(xiàn)。據(jù)英國(guó)《衛(wèi)報(bào)》近日?qǐng)?bào)道，AI生成的極端貧困、兒童以及性暴力幸存者圖像正在大量涌入圖庫(kù)網(wǎng)站，并被越來(lái)越多的全球衛(wèi)生非政府組織使用，引發(fā)了全球衛(wèi)生專(zhuān)家的廣泛關(guān)注。在智能經(jīng)濟(jì)領(lǐng)域，人工智能推動(dòng)產(chǎn)業(yè)升級(jí)的同時(shí)，也帶來(lái)了結(jié)構(gòu)性失業(yè)風(fēng)險(xiǎn)和貧富差距拉大的風(fēng)險(xiǎn)，還存在數(shù)據(jù)泄漏或數(shù)據(jù)濫用帶來(lái)的大數(shù)據(jù)殺熟、金融欺詐等風(fēng)險(xiǎn)。

在智能生活領(lǐng)域，生成式人工智能的大規(guī)模應(yīng)用，使得深度偽造、虛假信息、數(shù)據(jù)失實(shí)、大模型幻覺(jué)等問(wèn)題愈發(fā)凸顯，極大地沖擊了社會(huì)誠(chéng)信體系。信息繭房可能導(dǎo)致群體極化，算法偏見(jiàn)會(huì)引發(fā)社會(huì)歧視，隱私泄漏則可能帶來(lái)網(wǎng)絡(luò)暴力等風(fēng)險(xiǎn)。

而對(duì)于“超級(jí)智能”的擔(dān)憂(yōu)，則是更深層次的問(wèn)題。隨著各大科技巨頭和初創(chuàng)企業(yè)競(jìng)相追求“超級(jí)智能”或“通用人工智能”的突破，人們擔(dān)心一旦這種在絕大多數(shù)任務(wù)上表現(xiàn)超越人類(lèi)的人工智能系統(tǒng)失控，將對(duì)人類(lèi)社會(huì)造成毀滅性的打擊。正如生命未來(lái)研究所主席馬克斯?泰格馬克所說(shuō)：“最大的威脅或許并非來(lái)自另一家公司，甚至不是另一個(gè)國(guó)家，而是我們自己正在建造的機(jī)器。”

此次800多位世界名流聯(lián)名呼吁禁止開(kāi)發(fā)超級(jí)智能，也反映出了全球?qū)τ谌斯ぶ悄馨l(fā)展的擔(dān)憂(yōu)和對(duì)安全、可控發(fā)展的渴望。民意調(diào)查結(jié)果顯示，僅有5%的美國(guó)人支持當(dāng)前“不受監(jiān)管的人工智能開(kāi)發(fā)現(xiàn)狀”，近四分之三的受訪(fǎng)者支持對(duì)人工智能實(shí)行強(qiáng)有力的監(jiān)管，這也表明了公眾對(duì)于人工智能監(jiān)管的強(qiáng)烈訴求。

全球范圍內(nèi)的人工智能監(jiān)管進(jìn)程雖然進(jìn)展緩慢，但已經(jīng)邁出了重要的步伐。歐盟《人工智能法案》正分階段實(shí)施，美國(guó)的加利福尼亞州、猶他州和得克薩斯州等也已頒布針對(duì)人工智能的具體法律。中國(guó)也在積極推動(dòng)人工智能的健康發(fā)展，2025年8月，國(guó)務(wù)院印發(fā)《關(guān)于深入實(shí)施“人工智能+”行動(dòng)的意見(jiàn)》，提出要加快形成人機(jī)協(xié)同、跨界融合、共創(chuàng)分享的智能經(jīng)濟(jì)和智能社會(huì)新形態(tài)。

人工智能的發(fā)展是一把雙刃劍，它既帶來(lái)了巨大的機(jī)遇，也帶來(lái)了諸多挑戰(zhàn)和風(fēng)險(xiǎn)。正如生命未來(lái)研究所主席馬克斯?泰格馬克（Max Tegmark）在發(fā)布申明后強(qiáng)調(diào)的，“我們絕非呼吁全面暫停人工智能的發(fā)展，但治愈癌癥、實(shí)現(xiàn)自動(dòng)駕駛，或大幅提升生產(chǎn)力和效率，這些目標(biāo)都不需要依賴(lài)超級(jí)智能即可達(dá)成。”

面對(duì)人工智能的發(fā)展，我們不能因噎廢食，停止人工智能的發(fā)展，但也絕不能忽視其潛在的問(wèn)題。如何在享受人工智能帶來(lái)的繁榮的同時(shí)，有效防范其可能帶來(lái)的隱憂(yōu)，是擺在我們面前的重要課題。這需要全球各國(guó)、各界人士共同努力，加強(qiáng)合作與交流，建立健全的監(jiān)管機(jī)制，確保人工智能的發(fā)展能夠真正造福人類(lèi)，而不是給人類(lèi)帶來(lái)災(zāi)難。