「自主決策AI」與「開源AI」的監(jiān)管方向成為全球熱話。有鑒於此,嶺南大學(xué)(嶺大)與意大利博洛尼亞大學(xué)一連兩日(10月25日至26日)合辦「第二屆人工智能治理技術(shù)國際研討會(huì)」。該研討會(huì)是「第28屆歐洲人工智能大會(huì)」的一部分,匯聚多位世界頂尖專家、學(xué)者與政策制定者,旨在提升AI風(fēng)險(xiǎn)評(píng)估、責(zé)任追蹤及安全保障等方面的監(jiān)測,促進(jìn)亞洲與歐洲在AI治理上的跨區(qū)域交流。為期兩天活動(dòng)共吸引逾150名學(xué)者和學(xué)生參與。
研討會(huì)於博洛尼亞大學(xué)工程學(xué)院以線上及線下形式進(jìn)行,聚焦三大核心議題,包括(一)「開源AI」的治理;(二)「自主決策AI」的風(fēng)險(xiǎn)與治理;以及(三)邁向「以人為本的AI」的技術(shù)。

嶺大副校長姚新期望就AI治理的問題,將『亞洲觀點(diǎn)』帶入歐洲討論平臺(tái),同時(shí)汲取歐洲的經(jīng)驗(yàn),促進(jìn)全球在AI技術(shù)開發(fā)與應(yīng)用方面制定藍(lán)圖。
嶺大副校長(研究及創(chuàng)新)及唐天燊機(jī)器學(xué)習(xí)講座教授姚新教授就「開源AI治理」發(fā)表專題演講。他指出,人工智能正迅速改變世界,但AI透過內(nèi)部運(yùn)算所作出的建議或決策,背後原因仍然模糊,業(yè)界有必要透過技術(shù)提升AI模型的透明度和可解釋性。他表示:「監(jiān)管AI不僅是倫理或法律的問題,更需要利用技術(shù)支援監(jiān)測、審計(jì)與問責(zé),推動(dòng)發(fā)展更可靠、可監(jiān)管的AI系統(tǒng)。我們希望就AI治理的問題,將『亞洲觀點(diǎn)』帶入歐洲討論平臺(tái),同時(shí)汲取歐洲的經(jīng)驗(yàn),促進(jìn)全球在AI技術(shù)開發(fā)與應(yīng)用方面制定藍(lán)圖。」
IBM研究部(東京)資深技術(shù)人員Takayuki Osogami博士指出,某些AI系統(tǒng)可以自己做決策、計(jì)劃未來甚至制定策略,這類「自主AI」如果沒有適當(dāng)規(guī)管,可能帶來嚴(yán)重風(fēng)險(xiǎn),包括危及人類安全或引發(fā)全球性災(zāi)難。他認(rèn)為,目前大部分規(guī)管只看AI的運(yùn)算能力大小,這不足以判斷真正的風(fēng)險(xiǎn)。他建議應(yīng)觀察AI系統(tǒng)「自主行動(dòng)的程度」,即它能自己做多少?zèng)Q策,來作為評(píng)估風(fēng)險(xiǎn)的指標(biāo),這比單純看它處理的數(shù)據(jù)或環(huán)境更準(zhǔn)確。
歐洲人工智能、數(shù)據(jù)與機(jī)器人協(xié)會(huì)主席Emanuela Girardi女士指出,近年出現(xiàn)的「自主決策AI」與「實(shí)體AI」,能在數(shù)碼世界或現(xiàn)實(shí)中自行決策和行動(dòng),帶來前所未有的管治挑戰(zhàn)。這些AI系統(tǒng)幾乎毋須人類監(jiān)督就能運(yùn)作,遠(yuǎn)超現(xiàn)有針對(duì)人類操作系統(tǒng)而設(shè)的規(guī)管範(fàn)圍,可能引發(fā)多層面的風(fēng)險(xiǎn)。例如,「自主決策AI」可能採取意想不到的方式完成目標(biāo),甚至透過心理手法影響用戶;而「實(shí)體AI」則可能出現(xiàn)安全問題,從自動(dòng)駕駛汽車到家用機(jī)械人,一旦出錯(cuò)可能造成傷亡或財(cái)物損失。無論是AI伴侶可能引發(fā)的心理操控,還是工業(yè)及家居自動(dòng)機(jī)械人的部署,都顯示政府和機(jī)構(gòu)目前仍難以跟上快速發(fā)展的新技術(shù)。
她又指出,目前全球AI管治碎片化、缺乏協(xié)調(diào),即使有不少國家推出倫理原則或指引,仍未有具約束力的規(guī)管框架。她提出,歐洲及全球?qū)用娑夹枰⒖尚械墓苤慰蚣?,確保AI符合人類價(jià)值觀並接受有效監(jiān)管。
圖爾庫大學(xué)資訊系統(tǒng)科學(xué)教授Matti M?ntym?ki教授在研討會(huì)上指出,企業(yè)需要將倫理原則和監(jiān)管要求這些抽象概念,轉(zhuǎn)化為應(yīng)用AI的實(shí)際決策流程和問責(zé)機(jī)制。他又分享與業(yè)界合作五年的研究成果,提出一套專為不同組織設(shè)計(jì)的AI治理框架,在實(shí)際應(yīng)用中得到的寶貴經(jīng)驗(yàn)和教訓(xùn),能為不同企業(yè)建立可靠的AI治理提供清晰指引。
其他參與研討會(huì)的講者和嘉賓,均為世界各地學(xué)術(shù)界、產(chǎn)業(yè)界和政府部門等不同領(lǐng)域的知名且極具影響力的學(xué)者,包括嶺大數(shù)據(jù)科學(xué)學(xué)院工業(yè)數(shù)據(jù)科學(xué)部副教授劉佳琳教授;慕尼黑工業(yè)大學(xué)人工智能倫理研究所所長Christoph Lütge教授;倫敦大學(xué)學(xué)院計(jì)算機(jī)科學(xué)系教授Mirco Musolesi教授;費(fèi)拉拉大學(xué)數(shù)學(xué)與計(jì)算機(jī)科學(xué)系教授Fabrizio Riguzzi教授;博洛尼亞大學(xué)法律理論與人工智能與法律、法律哲學(xué)教授Antonino Rotolo教授;Convergence Analysis人工智能安全研究員Elliot Mckernon博士;特倫托大學(xué)博士後研究員Daniele Proverbio博士;麥基爾大學(xué)研究員Tomer Jordi Chaffer先生;弗勞恩霍夫智能分析與資訊系統(tǒng)研究所資深數(shù)據(jù)科學(xué)家Rebekka G?rge女士;以及生成式人工智能共享平臺(tái)聯(lián)合主席Anni Lai女士。
?。攬D 嶺大和意大利博洛尼亞大學(xué)合辦「第二屆人工智能治理技術(shù)國際研討會(huì)」。)