馬斯克公開表態(tài)挺人工智能安全法案SB1047！獲以太坊創(chuàng)始人V神支持
8月27日馬斯克于X上發(fā)文對頗具爭議的加州人工智能安全法案做出表態(tài)，他表示這是個(gè)艱難的選擇且可能會(huì)造成部分人的不安，但綜合考量后他認(rèn)為加州應(yīng)該通過SB1047人工智能安全法案。他補(bǔ)充：「20多年來，我一直倡導(dǎo)人工智能監(jiān)管，就像我們監(jiān)管任何對公眾構(gòu)成淺在風(fēng)險(xiǎn)的產(chǎn)品/技術(shù)一樣。」
SB1047旨在防止AI造成重大傷亡，遭AI新創(chuàng)及黨內(nèi)反對
根據(jù)報(bào)導(dǎo)這位億萬富翁所支持的人工智能法案全名叫做Safeand Secure Innovation for Frontier Artificial Intelligence Models Act前沿人工智能模型安全創(chuàng)新法案，又稱SB1047法案。
該法案由民 主 黨籍參議員Scott Wiener于今年二月提出，該法案要求人工智能開發(fā)人員實(shí)施安全協(xié)議，并為人工智能模型安裝強(qiáng)制停止按鈕，以防止大規(guī)模傷亡或重大網(wǎng)絡(luò)攻擊案件。該法案受到一眾美國新創(chuàng)AI公司反對，包括OpenAI。另外眾議院院長Nancy Pelosi、眾議院科學(xué)、太空和技術(shù)委員會(huì)的Zoe Lofgren、及硅谷選區(qū)的眾議員Ro Khanna等一眾民 主 黨籍的加州眾議員都反對該法案。
OpenAI策略長Jason Kwon警告，該法案可能會(huì)扼殺創(chuàng)新并將人才趕出加州。作為新創(chuàng)聚集地，尤其是科技新創(chuàng)的圣地硅谷，加州眾議員因此反對該法案可以理解。而OpenAI等公司也表示這類監(jiān)管已超出地方自治范圍，應(yīng)由聯(lián)邦負(fù)責(zé)，而非各州自行制定。AI新創(chuàng)公司Extropic創(chuàng)辦人丶前Google工程師Guillaume Verdon表示：「人工智能可能很強(qiáng)大，但對強(qiáng)大人工智能進(jìn)行控制的獨(dú) 裁政府更可怕」他也將此事件與Telegram創(chuàng)辦人Pavel Durov最近被捕的影響進(jìn)行了比較，稱這「對于人工智能來說這就像Telegram的情況。」
Vitalik贊同馬斯克：應(yīng)為人工智能模型進(jìn)行安全測試
以太坊創(chuàng)辦人Vitalik Buterin回應(yīng)馬斯克意見，他表示善意解讀的話，該法案目標(biāo)為強(qiáng)制進(jìn)行安全測試，如果你的人工智能模型在安全測試中被發(fā)現(xiàn)具有威脅世界的功能/行為，將不被允許發(fā)布該模型。
他也表示責(zé)任不該是「如果衍生模型出了問題，開發(fā)人員將被罰款」而是開發(fā)人員沒有合理的意識(shí)到模型的問題才會(huì)被處罰。他也補(bǔ)充他同意現(xiàn)階段這個(gè)標(biāo)準(zhǔn)是非常模糊的，但這和無限制地承擔(dān)后續(xù)模型使用風(fēng)險(xiǎn)不是同一回事。
他最后進(jìn)一步補(bǔ)充喜歡這個(gè)法案的一個(gè)特點(diǎn)，他說：「我喜歡該法案的一件事是，我認(rèn)為它沒有得到足夠的重視，那就是它引入了『嚴(yán)重傷害』類別，并明確地將其與其他不好的事情區(qū)分開來。我認(rèn)為這非常重要，尤其是在我們這個(gè)時(shí)代，很多人使用『言語暴力』之類的言詞，并試圖擴(kuò)展原本表示重度傷害的術(shù)語，使它們涵蓋一切造成傷害的事件(同時(shí)也擴(kuò)張安全事件)。語言膨脹無法避免，因?yàn)樗腔静┺恼摰慕Y(jié)果，但我們需要透過重新區(qū)分『常糟糕的東西』和『中等糟糕的東西』來進(jìn)行補(bǔ)償。」
以上就是馬斯克公開表態(tài)挺人工智能安全法案SB1047！獲以太坊創(chuàng)始人V神支持的詳細(xì)內(nèi)容，更多關(guān)于應(yīng)為人工智能模型進(jìn)行安全測試的資料請關(guān)注腳本之家其它相關(guān)文章！
