亚洲免费www97爱|草草aⅴ在线观看视频|伊伊综合网在线视频免费|在线日本道二区免费v

    您的位置:首頁>AI>

    在受大腦啟發(fā)的計(jì)算機(jī)上優(yōu)化神經(jīng)網(wǎng)絡(luò)

    當(dāng)網(wǎng)絡(luò)的動(dòng)態(tài)處于“臨界點(diǎn)”時(shí),許多計(jì)算屬性會(huì)最大化,在這種狀態(tài)下,系統(tǒng)可以通過基本方式快速更改其總體特征,例如在有序和混沌或穩(wěn)定性和不穩(wěn)定性之間轉(zhuǎn)換。被廣泛認(rèn)為對于遞歸神經(jīng)網(wǎng)絡(luò)中的任何計(jì)算都是最佳的,遞歸神經(jīng)網(wǎng)絡(luò)已在許多AI應(yīng)用程序中使用。

    來自HBP合作伙伴海德堡大學(xué)和馬克斯-普朗克動(dòng)力學(xué)與自組織研究所的研究人員通過測試尖峰遞歸神經(jīng)網(wǎng)絡(luò)在一組復(fù)雜的任務(wù)上的性能來挑戰(zhàn)這一假設(shè),而這些任務(wù)在復(fù)雜且復(fù)雜的情況下都遠(yuǎn)離臨界動(dòng)力學(xué)。他們在模擬神經(jīng)形態(tài)BrainScaleS-2系統(tǒng)的原型上實(shí)例化了網(wǎng)絡(luò)。BrainScaleS是先進(jìn)的大腦靈感計(jì)算系統(tǒng),具有直接在芯片上實(shí)現(xiàn)的突觸可塑性。它是歐洲人腦計(jì)劃目前正在開發(fā)的兩個(gè)神經(jīng)形態(tài)系統(tǒng)之一。

    首先,研究人員表明,可以通過更改輸入強(qiáng)度輕松地在芯片中調(diào)整到關(guān)鍵點(diǎn)的距離,然后證明關(guān)鍵點(diǎn)和任務(wù)執(zhí)行之間的明確關(guān)系。關(guān)鍵性對每個(gè)任務(wù)都有益的假設(shè)尚未得到證實(shí):盡管信息理論方法都表明,關(guān)鍵性條件下網(wǎng)絡(luò)容量最大,但只有復(fù)雜的,占用大量內(nèi)存的任務(wù)才能從中獲利,而簡單的任務(wù)卻真正遭受了損失。因此,該研究可以更準(zhǔn)確地了解應(yīng)如何將集合網(wǎng)絡(luò)狀態(tài)調(diào)整為不同的任務(wù)要求以獲得最佳性能。

    從機(jī)械上講,通過調(diào)整平均輸入強(qiáng)度,可以輕松地在穩(wěn)態(tài)可塑性下為每個(gè)任務(wù)設(shè)置最佳工作點(diǎn)。這種機(jī)制背后的理論是馬克斯·普朗克研究所最近才發(fā)展起來的。MPIDS小組負(fù)責(zé)人Viola Priesemann說:“將其用于神經(jīng)形態(tài)硬件上表明,這些可塑性規(guī)則非常有能力將網(wǎng)絡(luò)動(dòng)態(tài)調(diào)整到與臨界點(diǎn)不同的距離。” 由此,可以在該空間內(nèi)最佳地解決各種復(fù)雜性的任務(wù)。

    該發(fā)現(xiàn)還可以解釋為什么生物神經(jīng)網(wǎng)絡(luò)不一定在臨界狀態(tài)下運(yùn)行,而是在臨界點(diǎn)的動(dòng)態(tài)豐富區(qū)域內(nèi)運(yùn)行,在那里它們可以根據(jù)任務(wù)要求調(diào)整其計(jì)算屬性。此外,它建立了神經(jīng)形態(tài)硬件,作為探索生物可塑性規(guī)則對神經(jīng)計(jì)算和網(wǎng)絡(luò)動(dòng)力學(xué)的影響的快速且可擴(kuò)展的途徑。

    海德堡大學(xué)的第一作者本杰明·克萊默說:“下一步,我們現(xiàn)在研究并表征突刺網(wǎng)絡(luò)的工作點(diǎn)對人工和現(xiàn)實(shí)世界中的話語進(jìn)行分類的影響。”

    免責(zé)聲明:本文由用戶上傳,如有侵權(quán)請聯(lián)系刪除!