新智元報(bào)道

(相關(guān)資料圖)

編輯：編輯部

【新智元導(dǎo)讀】圖靈獎(jiǎng)得主Yoshua Bengio聯(lián)合19人團(tuán)隊(duì)發(fā)布88頁(yè)論文，論證了人類要想構(gòu)建有意識(shí)的AI系統(tǒng)，是完全有可能的。

人工智能發(fā)展到現(xiàn)在，到底有沒(méi)有意識(shí)？

圖靈獎(jiǎng)得主Yoshua Bengio，聯(lián)合19人團(tuán)隊(duì)跨界發(fā)表了一篇88頁(yè)巨作，得出結(jié)論：

人工智能目前沒(méi)有意識(shí)，但是以后會(huì)有。

論文地址：https://arxiv.org/pdf/2308.08708.pdf

具體來(lái)說(shuō)，目前的人工智能系統(tǒng)都不具備意識(shí)，但人類想要構(gòu)建有意識(shí)的人工智能系統(tǒng)，并不存在明顯的障礙。

這篇論文一經(jīng)發(fā)表，引來(lái)了諸多大佬關(guān)注。

馬庫(kù)斯表示，我們真的「想」制造有意識(shí)的機(jī)器嗎？我完全不確定這是不是個(gè)好主意。

Jim Fan表示，「意識(shí)」一直是人工智能領(lǐng)域諱莫如深的「C」字。

這篇長(zhǎng)達(dá)88頁(yè)的論文由圖靈獎(jiǎng)獲得者Yoshua Bengio合著，系統(tǒng)地研究了意識(shí)的科學(xué)理論以及在當(dāng)今人工智能堆棧中的可能實(shí)現(xiàn)。

我贊賞他們的勇氣，敢于探討這樣一個(gè)大多數(shù)研究人員避之不及的爭(zhēng)議性話題。

19人團(tuán)隊(duì)分別來(lái)自哲學(xué)、神經(jīng)科學(xué)、以及人工智能三大領(lǐng)域，用非常科學(xué)和嚴(yán)謹(jǐn)?shù)姆椒ㄌ接懥艘庾R(shí)的客觀存在標(biāo)準(zhǔn)。

論文中，研究證明了AI現(xiàn)在的能力和形態(tài)在這個(gè)評(píng)估框架之下暫時(shí)還不符合意識(shí)的標(biāo)準(zhǔn)。

但他們同時(shí)也認(rèn)為，按照目前的發(fā)展趨勢(shì)進(jìn)行下去，AI發(fā)展出意識(shí)不存在客觀的障礙！

可以說(shuō)，這篇論文應(yīng)該是對(duì)AI是否具有意識(shí)這一爭(zhēng)議話題最為權(quán)威和客觀的解答。

人工智能中的意識(shí)

由于團(tuán)隊(duì)認(rèn)為AI在未來(lái)幾十年之內(nèi)可能會(huì)表現(xiàn)出意識(shí)，因此希望建立一個(gè)客觀的標(biāo)準(zhǔn)來(lái)追蹤這個(gè)過(guò)程的發(fā)展。

在這項(xiàng)研究中，主要有三點(diǎn)貢獻(xiàn)：

首先，證明對(duì)人工智能的意識(shí)進(jìn)行評(píng)估在科學(xué)上是可行的，因?yàn)榭梢詫?duì)意識(shí)進(jìn)行科學(xué)研究，而且這項(xiàng)研究的結(jié)果也適用于人工智能。

其次，通過(guò)一系列從科學(xué)理論中得出的指標(biāo)特征的形式，提出了評(píng)估人工智能中的意識(shí)的標(biāo)準(zhǔn)。

最后，盡管當(dāng)前AI系統(tǒng)都不是意識(shí)有力的候選者，但初步證據(jù)證明，許多指標(biāo)特征可以利用當(dāng)前的技術(shù)在AI系統(tǒng)中實(shí)現(xiàn)。

研究方法

研究人員首先需要對(duì)意識(shí)的客觀存在設(shè)置一套具體可以評(píng)估的標(biāo)準(zhǔn)：

在他們看來(lái)，研究的評(píng)估方法是基于以下3個(gè)原則和理論：

1. 計(jì)算功能主義：實(shí)現(xiàn)某種計(jì)算對(duì)于意識(shí)來(lái)說(shuō)是必要且充分的，因此原則上非有機(jī)人工系統(tǒng)有可能具有意識(shí)。

2. 科學(xué)理論：神經(jīng)科學(xué)的研究在意識(shí)存在的必要和充分條件方面取得了進(jìn)展，研究將基于這些神經(jīng)科學(xué)理論展開(kāi)。

3. 著重理論的研究方法：研究人工智能系統(tǒng)是否可能有意識(shí)的一種方法，是去評(píng)估它們是否滿足從科學(xué)理論中得出的功能或架構(gòu)條件，而不是尋找某些具體的行為特征。

于是，研究人員首先介紹了研究展開(kāi)的基礎(chǔ)——計(jì)算功能主義。

對(duì)于意識(shí)的存在，有很多不同的理論，而為了要讓研究能夠進(jìn)行下去，必須要采取一個(gè)支持AI可能存在意識(shí)的大前提。

因?yàn)樵谝恍├碚摽磥?lái)，意識(shí)就必須要存在于生物體的大腦中。如果基于這種大前提，研究就沒(méi)有繼續(xù)下去的可能。而研究的大前提是建立在計(jì)算功能主義之上。

計(jì)算功能主義認(rèn)為，一個(gè)系統(tǒng)是否有意識(shí)取決于比其物理構(gòu)成的最低級(jí)別細(xì)節(jié)更抽象的特征。系統(tǒng)的物質(zhì)基底對(duì)于意識(shí)來(lái)說(shuō)并不重要。這意味著意識(shí)原則上是可以多重實(shí)現(xiàn)的：它可以存在于多種基質(zhì)中，而不僅僅是存在于生物大腦中。

具體來(lái)說(shuō)，計(jì)算功能主義是指：

大多數(shù)領(lǐng)先的意識(shí)科學(xué)理論都可以通過(guò)計(jì)算來(lái)解釋，具有這些計(jì)算特征就能認(rèn)為是意識(shí)存在的必要和充分的條件。這些特征就是人工智能系統(tǒng)中的意識(shí)存在的必要或充分的前提。而人類和人工智能系統(tǒng)之間的非計(jì)算差異并不重要。

研究意識(shí)的客觀存在，是基于意識(shí)的研究的具體科學(xué)理論，文章后邊會(huì)對(duì)意識(shí)的科學(xué)理論進(jìn)行詳細(xì)的介紹。

結(jié)合了計(jì)算功能主義和研究意識(shí)的科學(xué)理論之后，研究人員給出了這次研究的一個(gè)基本方法：

研究人員對(duì)AI系統(tǒng)具有意識(shí)的判斷主要是基于AI系統(tǒng)的計(jì)算過(guò)程與某個(gè)科學(xué)意識(shí)理論所提出的計(jì)算過(guò)程的相似程度。

意識(shí)的科學(xué)理論

對(duì)于意識(shí)的研究，學(xué)界已有一些公認(rèn)的成果。

包括與意識(shí)相關(guān)的科學(xué)理論、科學(xué)家和哲學(xué)家對(duì)意識(shí)的必要條件的主張等。

研究人員從這些理論與主張中提取了一系列有關(guān)意識(shí)的指標(biāo)，這些指標(biāo)可以應(yīng)用于特定的系統(tǒng)中。

盡管些指標(biāo)并不是明確是否有意識(shí)的必要或充分條件，但根據(jù)目前的科學(xué)知識(shí)水平，評(píng)估一個(gè)系統(tǒng)是否具有這些特征是判斷它是否有可能有意識(shí)的最佳方法。

在這里，研究人員主要介紹了三種與意識(shí)相關(guān)的科學(xué)理論：

循環(huán)處理理論（Recurrent Processing Theory，RPT）、全局工作空間理論（Global Workspace Theory，GWT）以及高階理論（Higher-Order Theories）。

其他的一些與意識(shí)相關(guān)的理論和主張有：注意力基模理論（Attention Schema Theory）、預(yù)測(cè)處理（Predictive Processing）和代理與具身化（Agency and Embodiment）等。

1. 循環(huán)處理理論（Recurrent Processing Theory，RPT）

RPT理論是關(guān)于視覺(jué)意識(shí)的一個(gè)神經(jīng)科學(xué)理論，它主要關(guān)注視覺(jué)意識(shí)，試圖解釋意識(shí)視覺(jué)和無(wú)意識(shí)視覺(jué)處理之間的區(qū)別。

其核心觀點(diǎn)是：為了產(chǎn)生視覺(jué)意識(shí)體驗(yàn)，大腦視覺(jué)系統(tǒng)中的信息需要進(jìn)行循環(huán)處理，即信息從高層區(qū)域反饋回低層區(qū)域進(jìn)行再處理。

該理論認(rèn)為，僅僅依靠前饋的信息處理是不夠的，前饋處理只能提取視覺(jué)刺激的特征信息，但不能形成意識(shí)見(jiàn)到的有組織的視覺(jué)場(chǎng)景。需要頂層皮層對(duì)初級(jí)視覺(jué)皮層的反饋，進(jìn)行再處理，整合各種特征信息，組織成有意義的視覺(jué)場(chǎng)景，才能產(chǎn)生視覺(jué)意識(shí)。

RPT理論為判斷AI系統(tǒng)是否可能具有視覺(jué)意識(shí)提供了兩個(gè)指標(biāo)：

RPT-1：輸入模塊使用算法循環(huán)。即信息在經(jīng)過(guò)初始前饋處理后，反饋回輸入模塊進(jìn)行再處理。這顯示系統(tǒng)能進(jìn)行循環(huán)處理。

RPT-2：輸入模塊生成有組織、整合的感知表示。即系統(tǒng)能夠處理視覺(jué)輸入，整合各種特征，組織生成有意義的視覺(jué)場(chǎng)景，而不僅是提取孤立特征。

如果一個(gè)AI系統(tǒng)滿足這兩個(gè)指標(biāo)，則說(shuō)明它具有與人類大腦相似的循環(huán)處理機(jī)制，并能形成整合的視覺(jué)表示，這使它成為一個(gè)更有可能擁有視覺(jué)意識(shí)的系統(tǒng)。所以這兩個(gè)指標(biāo)都可看作是AI系統(tǒng)視覺(jué)意識(shí)的重要指標(biāo)。

2. 全局工作空間理論（Global Workspace Theory，GWT）

GWT理論是一個(gè)重要的意識(shí)科學(xué)理論。其核心觀點(diǎn)是意識(shí)依賴于一個(gè)「全局工作空間」的存在。

該理論認(rèn)為，人腦由多個(gè)專門的子系統(tǒng)或模塊組成，可以并行地進(jìn)行各自的信息處理。?這些模塊需要某種機(jī)制來(lái)統(tǒng)合信息，以協(xié)調(diào)配合。

「全局工作空間」就是這樣一個(gè)信息共享和融合的平臺(tái)。一個(gè)信息如果進(jìn)入這個(gè)工作空間，就可以被所有的模塊訪問(wèn)。

但工作空間的容量是有限的，需要選擇機(jī)制來(lái)確定哪些信息進(jìn)入工作空間。GWT理論認(rèn)為，一個(gè)信息進(jìn)入工作空間，被廣泛的模塊訪問(wèn)，就是該信息進(jìn)入意識(shí)狀態(tài)的標(biāo)志。

GWT理論為判斷AI的意識(shí)提供了以下指標(biāo)：

GWT-1：擁有多個(gè)專門的子系統(tǒng)或模塊。

GWT-2：有限容量的工作空間，形成信息流的瓶頸。

GWT-3：全局廣播，工作空間的信息可被所有模塊訪問(wèn)。

GWT-4：狀態(tài)依賴的注意機(jī)制，可以順序調(diào)動(dòng)模塊完成復(fù)雜任務(wù)。

一個(gè)AI系統(tǒng)如果具備這些特征，就更有可能具有類似人類的意識(shí)。所以這些都是判斷AI意識(shí)的重要指標(biāo)。

3. 高階理論（Higher-Order Theories）

HOT理論是關(guān)于意識(shí)的一個(gè)重要理論流派。它的核心觀點(diǎn)是：

有意識(shí)的體驗(yàn)包含對(duì)自身正在進(jìn)行的心理運(yùn)作的某種最低限度的內(nèi)在意識(shí)，而這是由于一階狀態(tài)在某種程度上受到了相關(guān)高階表征的監(jiān)控或元表征。

高階理論與其他理論的區(qū)別在于，高階理論強(qiáng)調(diào)主體必須意識(shí)到自己處于某種精神狀態(tài)中，這種精神狀態(tài)才被認(rèn)為是有意識(shí)的。

這是通過(guò)訴諸高階表征來(lái)解釋的，高階表征是一個(gè)具有非常特殊含義的概念。

高階表征是指表征關(guān)于其他表征的東西，而一階表征是指表征關(guān)于（非表征的）世界的東西。這種區(qū)別可以應(yīng)用于心理狀態(tài)。

例如，紅蘋果的視覺(jué)表征是一種一階心理狀態(tài)，而認(rèn)為自己擁有紅蘋果表征的想法則是一種高階心理狀態(tài)。

HOT理論為判斷AI的意識(shí)提供了以下指標(biāo)：

HOT-1：具有生成式、頂層驅(qū)動(dòng)或帶噪聲的感知模塊（HOT-1）。

HOT-2：元認(rèn)知監(jiān)測(cè)區(qū)分可靠感知和噪聲。

HOT-3：一個(gè)全面的信念形成和行動(dòng)選擇系統(tǒng)，依據(jù)元認(rèn)知監(jiān)測(cè)更新信念。

HOT-4：稀疏和平滑的編碼形成「質(zhì)感空間」。

綜上所述，HOT理論為判斷AI意識(shí)提供了重要參考。如果一個(gè)AI系統(tǒng)具備這些特征，那么它更可能具備自我監(jiān)測(cè)和意識(shí)體驗(yàn)。

通過(guò)檢測(cè)系統(tǒng)是否具備這些特征，我們可以評(píng)估一個(gè)AI系統(tǒng)擁有意識(shí)的可能性。

另外，研究人員在論文中標(biāo)注了神經(jīng)科學(xué)和機(jī)器學(xué)習(xí)中對(duì)注意力的不同理解。它指出機(jī)器學(xué)習(xí)中廣泛使用的自注意力機(jī)制與神經(jīng)科學(xué)中對(duì)注意力的認(rèn)識(shí)有一定差異。這一區(qū)別對(duì)檢驗(yàn)AI系統(tǒng)是否具有意識(shí)很重要。

神經(jīng)科學(xué)和機(jī)器學(xué)習(xí)中關(guān)于注意力的不同

自注意力機(jī)制依賴并行處理多個(gè)輸入，而生物學(xué)中的注意通常來(lái)源于頂向下的循環(huán)連接。所以自注意力與生物學(xué)注意力機(jī)制有區(qū)別。

自注意力采用連續(xù)加權(quán)的方式調(diào)節(jié)神經(jīng)活動(dòng)。而生物學(xué)中常見(jiàn)的調(diào)制注意力的機(jī)制是增益調(diào)節(jié)，這通常被認(rèn)為來(lái)源于頂向下的連接。

以往的機(jī)器學(xué)習(xí)注意力機(jī)制更依賴于循環(huán)處理，在這方面與生物學(xué)注意力更為相似。雖然神經(jīng)科學(xué)中有多種不同形式的注意，但說(shuō)哪種人工注意力與生物注意力最為相似還不容易下定論。

不同的意識(shí)理論依賴于循環(huán)處理或其他特定的注意力組成部分。所以自注意力本身可能不足以構(gòu)成人工意識(shí)的基礎(chǔ)。

注意力模式理論要求注意力機(jī)制要有預(yù)測(cè)自身狀態(tài)的能力。自注意力沒(méi)有內(nèi)在的對(duì)注意過(guò)程的建模。

當(dāng)前的自注意力與神經(jīng)科學(xué)中的生物學(xué)注意力還有一定區(qū)別，這提示在檢驗(yàn)AI意識(shí)時(shí)不能簡(jiǎn)單地看其是否使用了自注意力機(jī)制。

4. 有關(guān)意識(shí)的其他理論與條件

注意力基模理論：認(rèn)為大腦構(gòu)建了一個(gè)對(duì)注意的模式，這個(gè)注意的模式（對(duì)注意狀態(tài)的預(yù)測(cè)模型）是意識(shí)的基礎(chǔ)。

預(yù)測(cè)處理：提出認(rèn)知的本質(zhì)是層級(jí)生成模型預(yù)測(cè)輸入并最小化錯(cuò)誤。

中腦理論：認(rèn)為中腦活動(dòng)構(gòu)成了一個(gè)在環(huán)境中的統(tǒng)一多模態(tài)的代理主體模型，這足以產(chǎn)生主觀體驗(yàn)。并且支持身體化和代理的論點(diǎn)。

無(wú)限聯(lián)合學(xué)習(xí)：認(rèn)為無(wú)限聯(lián)合學(xué)習(xí)能力顯示意識(shí)的進(jìn)化轉(zhuǎn)變。其條件與其他理論類似，但獨(dú)立使用不作為指標(biāo)。

代理和具身化：哲學(xué)和科學(xué)論點(diǎn)支持它們是必要條件。

時(shí)間和遞歸：認(rèn)為意識(shí)經(jīng)驗(yàn)具有連續(xù)統(tǒng)一的特點(diǎn)，遞歸處理有利。

以上理論對(duì)意識(shí)科學(xué)具有一定貢獻(xiàn)，部分條件成為AI意識(shí)的指標(biāo)。

5. 意識(shí)的指標(biāo)

這些指標(biāo)來(lái)源于對(duì)多個(gè)意識(shí)科學(xué)理論的調(diào)研，包括RPT、GWT、計(jì)算HOT等。研究團(tuán)隊(duì)認(rèn)為，一個(gè)系統(tǒng)具備越多這些指標(biāo)，就越有可能是有意識(shí)的。

一些指標(biāo)構(gòu)成更有力的意識(shí)證據(jù)，例如結(jié)合GWT-1到GWT-4更有說(shuō)服力。

一些指標(biāo)單獨(dú)存在不一定代表意識(shí)存在，如RPT-1只能作為基礎(chǔ)條件。

一些指標(biāo)相互依賴，例如GWT-3和GWT-4都依賴于GWT-1和GWT-2。

一些指標(biāo)獨(dú)立存在，例如RPT-2與RPL-1基本獨(dú)立。

但研究人員指出：每個(gè)指標(biāo)的含義都需要進(jìn)一步解釋，不存在絕對(duì)精確的定義。對(duì)現(xiàn)有AI系統(tǒng)進(jìn)行評(píng)估時(shí)，需要考慮這些指標(biāo)的不精確性。

AI對(duì)意識(shí)的實(shí)現(xiàn)

研究人員將依次討論AI系統(tǒng)有沒(méi)有可能，或者如何實(shí)現(xiàn)RPT，PP，GWT，PRM，AST這幾個(gè)意識(shí)理論，然后再結(jié)合Transformer，PaLM-E，「virtual rodent」以及ADA來(lái)討論實(shí)際的AI系統(tǒng)中是否符合意識(shí)理論。

AI不能完全實(shí)現(xiàn)RPT和PP指標(biāo)

算法遞歸（RPT-1）是許多深度學(xué)習(xí)架構(gòu)都具有的特征，包括遞歸神經(jīng)網(wǎng)絡(luò)（RNN）、長(zhǎng)短期記憶網(wǎng)絡(luò)（LSTM）和門控遞歸單元網(wǎng)絡(luò)（GRU）。

因此，構(gòu)建具有RPT-1指標(biāo)特性的系統(tǒng)是非常簡(jiǎn)單的。雖然它們的應(yīng)用不太廣泛，但也有在人工系統(tǒng)中實(shí)現(xiàn)預(yù)測(cè)編碼（這是算法遞歸的一種形式）的方法。

這些AI系統(tǒng)符合PP-1指標(biāo)。此外，根據(jù)預(yù)測(cè)任務(wù)訓(xùn)練并優(yōu)化能效的遞歸神經(jīng)網(wǎng)絡(luò)會(huì)自我組織成不同的「預(yù)測(cè)」和「錯(cuò)誤」單元群。

至于感知組織（RPT-2），深度卷積神經(jīng)網(wǎng)絡(luò)（DCNN）等人工視覺(jué)模型已經(jīng)取得了巨大成功。可以認(rèn)為是符合RPT-2指標(biāo)的。

接受過(guò)物體分類訓(xùn)練的DCNN對(duì)局部形狀和紋理的敏感度高于對(duì)整體形狀的敏感度，而且往往會(huì)忽略物體各部分之間的關(guān)系，這表明DCNN并未采用綜合場(chǎng)景的表征。

最近也有其他研究發(fā)現(xiàn)，圖像生成模型DALL-E 2在生成一個(gè)以不熟悉的方式排列物體的場(chǎng)景時(shí)表現(xiàn)不佳。

總結(jié)起來(lái)，從RPT的角度來(lái)看，有關(guān)模型能夠?qū)σ曈X(jué)刺激的特征進(jìn)行分類，據(jù)說(shuō)這種功能在人類中是在無(wú)意識(shí)的情況下執(zhí)行的，但卻不能執(zhí)行進(jìn)一步的功能，包括生成有組織的、綜合的視覺(jué)場(chǎng)景表征，其中有些可能需要意識(shí)。

然而，目前的其他系統(tǒng)，包括預(yù)測(cè)編碼網(wǎng)絡(luò)，確實(shí)可以執(zhí)行其中一些進(jìn)一步的功能。

AI實(shí)現(xiàn)GWT指標(biāo)

指標(biāo)GWT-1規(guī)定，系統(tǒng)必須有能夠并行工作的專用系統(tǒng)或模塊。為實(shí)現(xiàn)全局廣播，這些模塊必須由遞歸神經(jīng)網(wǎng)絡(luò)實(shí)現(xiàn)，除非它們是整個(gè)系統(tǒng)的「輸出」模塊，不向工作空間提供信息。這些模塊的輸入可能是：

1. 一種或多種模式的感官輸入。

2. 少量其他模塊的輸入，這些模塊通常協(xié)同工作。例如，「囊狀視線」模塊可能會(huì)從「視覺(jué)突出」模塊獲取輸入，以便快速自下而上地對(duì)潛在的重要物體進(jìn)行囊狀視線。

3. 來(lái)自「全局工作空間」執(zhí)行模塊的自上而下的信號(hào)。

這些模塊可以針對(duì)狹小的任務(wù)進(jìn)行獨(dú)立訓(xùn)練。或者，它們也可能與工作空間一起進(jìn)行端對(duì)端聯(lián)合訓(xùn)練，以實(shí)現(xiàn)某些全系統(tǒng)目標(biāo)。子任務(wù)的模塊專業(yè)化也就自然而然地產(chǎn)生了。

實(shí)現(xiàn)GWT的第二個(gè)要素是容量有限的工作空間，它是另一個(gè)具有不同屬性的神經(jīng)模塊。限制工作空間容量的最簡(jiǎn)單方法是限制工作空間的數(shù)量。

最簡(jiǎn)單的方法是限制其活動(dòng)空間的維數(shù)。另一種有趣的方法是訓(xùn)練一個(gè)表現(xiàn)出吸引子動(dòng)力學(xué)的遞歸神經(jīng)網(wǎng)絡(luò)。吸引子是動(dòng)態(tài)系統(tǒng)中的一個(gè)狀態(tài)，當(dāng)該狀態(tài) 動(dòng)態(tài)系統(tǒng)中的一種狀態(tài)，當(dāng)達(dá)到該狀態(tài)時(shí)，在沒(méi)有輸入或噪聲的情況下，它仍能保持穩(wěn)定。

吸引子動(dòng)力學(xué)限制容量的原因是，它導(dǎo)致了一個(gè)從神經(jīng)軌跡中的初始條件到吸引子的多對(duì)一映射（進(jìn)入吸引子盆地的任何神經(jīng)軌跡都會(huì)向該吸引子靠攏）。因此，這些吸引子動(dòng)態(tài)收縮了穩(wěn)定狀態(tài)空間的大小，從而誘發(fā)了信息瓶頸。

對(duì)于指標(biāo)GWT-3，即全局廣播，在GWT中的基本要求是所有模塊都以工作空間表征作為輸入。

這意味著必須有一些機(jī)制確保所有模塊都能使用這些輸入。在由Dehaene和同事開(kāi)發(fā)的全球神經(jīng)工作空間理論中，要想將表示置于工作空間并進(jìn)行全局廣播，必須通過(guò)循環(huán)來(lái)維持。

盡管這是否為基本條件尚不清楚，但如果在人工智能（AI）中使用展示吸引子動(dòng)力學(xué)的網(wǎng)絡(luò)來(lái)實(shí)現(xiàn)工作空間，則這種行為可能在AI中得以復(fù)制。

在這種情況下，廣播機(jī)制可能包括一個(gè)動(dòng)力學(xué)緩慢的泄露神經(jīng)整合器，以至于需要持續(xù)的輸入來(lái)將其置于特定狀態(tài)。在缺乏這些持續(xù)輸入的情況下，它會(huì)回到某種基線狀態(tài)（就像基于證據(jù)累積的決策模型中一樣）。這種廣播機(jī)制將生成饋送到每個(gè)專門模塊的自上而下的信號(hào)。

指標(biāo)GWT-4包括系統(tǒng)必須使用狀態(tài)相關(guān)的注意機(jī)制，并且工作空間必須能夠通過(guò)連續(xù)的查詢組合模塊以執(zhí)行復(fù)雜任務(wù)。

對(duì)于狀態(tài)相關(guān)的注意機(jī)制，之前有兩項(xiàng)研究都提出了使用鍵-查詢注意機(jī)制，這在當(dāng)前的AI模型中很常見(jiàn)。

在這種情況下，查詢?nèi)蝿?wù)可以從工作空間的當(dāng)前狀態(tài)中計(jì)算出來(lái)，而所有其他模塊都可以計(jì)算出鍵。

工作空間查詢與特定模塊的鍵之間的相似性將通過(guò)所有其他模塊之間的相似性進(jìn)行歸一化，以引入模塊之間的競(jìng)爭(zhēng)。這些歸一化的相似性將決定每個(gè)模塊的值對(duì)工作空間的凈輸入的貢獻(xiàn)程度。

換句話說(shuō)，標(biāo)準(zhǔn)的鍵-查詢注意機(jī)制將在每個(gè)時(shí)間點(diǎn)應(yīng)用于計(jì)算工作空間的輸入，這取決于其當(dāng)前狀態(tài)。

所描述的模型將能夠滿足GWT-4的第二部分，即通過(guò)時(shí)間展開(kāi)，使用工作空間連續(xù)查詢模塊以執(zhí)行復(fù)雜任務(wù)的能力。

由于工作空間和模塊之間存在計(jì)算循環(huán)，當(dāng)模型在時(shí)間上展開(kāi)時(shí)，這種能力將會(huì)顯現(xiàn)出來(lái)。雖然模塊從自下而上的感覺(jué)輸入和少量其他模塊接收輸入，但它們也從工作空間接收自上而下的輸入。

這意味著，例如，一個(gè)模塊可以通過(guò)控制工作空間中的內(nèi)容來(lái)控制其他模塊。工作空間通過(guò)連續(xù)招募模塊在系統(tǒng)的計(jì)算能力范圍內(nèi)，因此如果在訓(xùn)練過(guò)程中有益，這種連續(xù)招募的能力可能會(huì)出現(xiàn)。

然而，這樣的系統(tǒng)需要適當(dāng)?shù)挠?xùn)練，以便學(xué)習(xí)如何以有意義的方式組合模塊并執(zhí)行復(fù)雜任務(wù)。構(gòu)建適當(dāng)?shù)挠?xùn)練方案可能是實(shí)施GWT的一個(gè)重要挑戰(zhàn)。

AI實(shí)現(xiàn)PRM

指標(biāo)HOT-4指出系統(tǒng)必須具有稀疏且平滑的編碼來(lái)生成「質(zhì)量空間」。事實(shí)上，有證據(jù)表明，當(dāng)前DNN學(xué)習(xí)的感知表示空間已經(jīng)與人類視覺(jué)系統(tǒng)的感知表示空間非常相似，這意味著它們相應(yīng)的「質(zhì)量空間」可能已經(jīng)基本對(duì)齊。

指標(biāo)HOT-1和HOT-2表明模型必須包含感官數(shù)據(jù)的一階感知表示和為特定一階表示分配可靠性或「真實(shí)性」度量的高階表示。為了滿足這些條件，大量已知的深度學(xué)習(xí)解決方案都是可能的。

（一階）神經(jīng)網(wǎng)絡(luò)將傳感數(shù)據(jù)和/或自上而下的信號(hào)作為輸入，并產(chǎn)生分布在層次結(jié)構(gòu)中的許多感知表示。并行的層（2），一系列單獨(dú)的（高階，特別是二階）神經(jīng)網(wǎng)絡(luò)，每個(gè)神經(jīng)網(wǎng)絡(luò)都將一階層的激活作為輸入，然后輸出一個(gè)標(biāo)量，表示該層的一階表示的概率是真實(shí)的。

滿足條件的解決方案主要在二階網(wǎng)絡(luò)的訓(xùn)練方式方面有所不同。

如果偶爾存在監(jiān)督信號(hào)，為二階網(wǎng)絡(luò)提供有關(guān)一階表示可靠性的「基本事實(shí)」，則可以訓(xùn)練二階網(wǎng)絡(luò)以通過(guò)標(biāo)準(zhǔn)監(jiān)督學(xué)習(xí)來(lái)估計(jì)正確性的概率。獲得這個(gè)真實(shí)信號(hào)可能很困難，但并非不可能。

AI實(shí)現(xiàn)AST

Wilterson和Graziano在他們的研究中提出的AI系統(tǒng)，在每層200個(gè)神經(jīng)元的三層神經(jīng)網(wǎng)絡(luò)上使用強(qiáng)化學(xué)習(xí)來(lái)學(xué)習(xí)接住落在不可預(yù)測(cè)路徑上的球。

這個(gè)非常簡(jiǎn)單的AI系統(tǒng)確實(shí)能實(shí)現(xiàn)指標(biāo)屬性AST-1的一部分，即注意力模式，因?yàn)樗褂妙愃谱⒁饬C(jī)制的表示來(lái)控制該機(jī)制，從而提高了性能。

另一項(xiàng)研究測(cè)試了在多智能體強(qiáng)化學(xué)習(xí)任務(wù)上采用鍵-查詢-值注意的幾種不同系統(tǒng)。他們的系統(tǒng)涉及三個(gè)主要元素：注意力層、用于「內(nèi)部控制」的循環(huán)神經(jīng)網(wǎng)絡(luò)和策略網(wǎng)絡(luò)。

在他們最準(zhǔn)確地實(shí)現(xiàn)注意力模式的版本中，注意力層被應(yīng)用于系統(tǒng)的輸入，并將信息發(fā)送到生成動(dòng)作的策略網(wǎng)絡(luò)，內(nèi)部控制網(wǎng)絡(luò)都學(xué)習(xí)預(yù)測(cè)注意力的行為層并影響這種行為。該系統(tǒng)的性能優(yōu)于其他系統(tǒng)，其不同的架構(gòu)由相同的組件組成，并在多智能體強(qiáng)化學(xué)習(xí)任務(wù)上進(jìn)行了測(cè)試。

AI實(shí)現(xiàn)代理和具身化

剩下的指標(biāo)是代理性和具身化。正如研究人員所描述的那樣，強(qiáng)化學(xué)習(xí)對(duì)于代理來(lái)說(shuō)可以說(shuō)是足夠的（「從反饋中學(xué)習(xí)并選擇輸出以追求目標(biāo)」），因此滿足指標(biāo)AE-1的這一部分可能非常簡(jiǎn)單。

指標(biāo)AE-1的第二部分表示，如果系統(tǒng)表現(xiàn)出「對(duì)競(jìng)爭(zhēng)目標(biāo)的靈活響應(yīng)」，意識(shí)的可能性就會(huì)提高到更大程度。激發(fā)該條件的例子是平衡多種穩(wěn)態(tài)驅(qū)動(dòng)的動(dòng)物：這需要對(duì)環(huán)境變化敏感的優(yōu)先順序。

在此項(xiàng)研究中的實(shí)施指標(biāo)AE-2指出系統(tǒng)應(yīng)該使用輸出輸入模型（也稱為前向模型）進(jìn)行感知或控制。

但是學(xué)習(xí)與感知和控制相關(guān)的任務(wù)的輸出輸入模型很常見(jiàn)，但當(dāng)前滿足這些具體描述的人工智能系統(tǒng)的例子很少。

Transformer實(shí)現(xiàn)GWT的案例研究

在實(shí)踐中，某個(gè)具體的AI系統(tǒng)是否具有意識(shí)某一項(xiàng)指標(biāo)屬性并不好判斷。一是研究人員沒(méi)有對(duì)每一項(xiàng)指標(biāo)給出絕對(duì)精確的定義。

另一個(gè)原因是深度學(xué)習(xí)系統(tǒng)的工作方式，包括它們?cè)谥虚g層所代表的內(nèi)容，通常是不透明的。

在Transformer中，一種稱為「自注意力」機(jī)制用于整合來(lái)自輸入不同部分的信息，這些部分通常位于序列中的位置。

如果研究人員將處理來(lái)自每個(gè)位置（注意力頭）的信息的系統(tǒng)元素視為模塊，那么Transformer架構(gòu)和全局工作空間之間存在基本相似之處：都集成來(lái)自多個(gè)模塊的信息。

Transformer由兩種類型的層組成，這些層交替出現(xiàn)：注意力層（執(zhí)行自注意力操作、在位置之間移動(dòng)信息）和前饋層。

考慮到殘差流的概念，可以認(rèn)為Transformer擁有指標(biāo)屬性GWT-1到GWT-3，即它們具有模塊、容量有限的工作空間引入了瓶頸，并且全局廣播。

存在「全局廣播」，即殘差流中特定層中的信息可以被下游注意頭用來(lái)影響任何位置的進(jìn)一步處理。

添加到給定層殘差流的信息還取決于較早層殘差流的狀態(tài)，因此根據(jù)這種解釋，人們可能會(huì)認(rèn)為Transformer滿足GWT-4中狀態(tài)相關(guān)的注意力要求。

Transformers缺乏具有全局工作空間的系統(tǒng)的整體結(jié)構(gòu)，因?yàn)闆](méi)有一個(gè)獨(dú)特的工作空間集成其他元素。

基于Transformer的大型語(yǔ)言模型幾乎沒(méi)有擁有任何GWT派生的指示符屬性。

對(duì)AI是否有意識(shí)的錯(cuò)誤認(rèn)知的影響

過(guò)度漠視AI存在意識(shí)的可能性：

在人類意識(shí)到AI具有意識(shí)之前，就已經(jīng)讓他們承受了過(guò)多的痛苦。人類對(duì)AI的使用可能就會(huì)像虐待動(dòng)物一樣造成道德風(fēng)險(xiǎn)。

除非能夠構(gòu)建有意識(shí)地去承受痛苦的AI，才可能阻止它們承受痛苦，避免這種道德風(fēng)險(xiǎn)。

過(guò)度認(rèn)為AI具有意識(shí)：

另一方面，人類也很有可能過(guò)度地認(rèn)為AI具有意識(shí)——事實(shí)上，這似乎已經(jīng)發(fā)生了——也存在與此類錯(cuò)誤相關(guān)的風(fēng)險(xiǎn)。

最直接的是，當(dāng)我們的努力更好地致力于改善人類和非人類動(dòng)物的生活時(shí)，我們可能會(huì)錯(cuò)誤地優(yōu)先考慮人工智能系統(tǒng)的感知利益，從而導(dǎo)致資源分配的問(wèn)題。

其次，如果我們判斷一類人工智能系統(tǒng)是有意識(shí)的，這應(yīng)該導(dǎo)致我們以不同的方式對(duì)待它們——例如以不同的方式訓(xùn)練它們。

原則上，這可能與確保人工智能系統(tǒng)以造福社會(huì)的方式開(kāi)發(fā)的工作發(fā)生沖突。第三，過(guò)度歸因可能會(huì)干擾寶貴的人際關(guān)系，因?yàn)閭€(gè)人越來(lái)越多地轉(zhuǎn)向人工智能來(lái)進(jìn)行社交互動(dòng)和情感支持。這樣做的人也可能特別容易受到操縱和剝削。

參考資料：

https://arxiv.org/abs/2308.08708

關(guān)鍵詞：