新聞中心
News
分類>>科技先驅(qū)警告：AI系統(tǒng)可能“與人類作對”
2024-11-22 12:11:58
瀏覽次數(shù)：
次
返回列表科技先驅(qū)警告：AI系統(tǒng)可能“與人類作對”Bengio在深度學(xué)習(xí)方面獲得了多個國際獎項，為AI的發(fā)展奠定了基礎(chǔ)，但他現(xiàn)在對這項技術(shù)擔(dān)憂擔(dān)憂，并警告說，一些擁有“強大力量”的人甚至可能希望看到人類被機器取代。
他表示：“展望未來，機器在許多方面和我們?nèi)祟愐粯勇斆?，這對社會意味著什么？”他補充說，機器可能很快就會擁有人類的大部分認知能力，通用人工智能(AGI)正在變成觸手可及的未來。
Bengio認為，只有少數(shù)組織和政府能夠負擔(dān)得起建造強大的AI機器，而且往往系統(tǒng)越大，它們就越智能?！斑@些機器，你知道的，花費數(shù)十億美元來建造和訓(xùn)練，很少有組織和國家能夠做到這一點，這已經(jīng)是事實了?！?/p>
Bengio指出，我們沒有辦法確保這些系統(tǒng)不會傷害人們或不會反對人們我們不知道如何做到這一點。
而且這樣的前景離我們并不遙遠，Bengio認為，幾十年內(nèi)就可能實現(xiàn)，因此，人類需要仔細研究許多針對性的問題，并盡快開始緩解可能的風(fēng)險。
還有觀點認為，AI機器目前的訓(xùn)練方式“將導(dǎo)致系統(tǒng)與人類對立”。“此外，有些人可能想要濫用這種權(quán)力，有些人可能很高興看到人類被機器取代，除非我們現(xiàn)在設(shè)置正確的護欄?！?/p>
在今年6月份，Bengio聯(lián)合許多科學(xué)家發(fā)表了一封題為“對先進AI發(fā)出警告的權(quán)利”的公開信，他們呼吁科學(xué)家、政策制定者和公眾為減輕這些風(fēng)險提供指導(dǎo)。
Bengio指出：“政府需要做的第一件事就是制定法規(guī)，迫使科技公司在建立這些前沿系統(tǒng)時進行注冊，政府應(yīng)該知道他們的邊界在哪里，你知道的，這些系統(tǒng)的細節(jié)?！?/p>
由于AI發(fā)展如此之快，政府必須“發(fā)揮自己的創(chuàng)造力”，制定能夠適應(yīng)技術(shù)變化的立法。Bengio表示：“為了享受人工智能帶來的好處，我們必須進行監(jiān)管，我們必須安裝護欄，我們必須對技術(shù)的開發(fā)進行監(jiān)督?！?/p>
至于AI系統(tǒng)最大的負面影響，Bengio認為短期內(nèi)應(yīng)該是虛假信息、錯誤信息、AI影響和認知的能力?！半S著我們的發(fā)展，將擁有能夠生成更逼真圖像、更逼真聲音和更逼真視頻的機器?！?/p>
最難的是，如果我們創(chuàng)造出比我們更聰明星空體育、有自己目標的實體，這對人類意味著什么？Bengio回答稱：“這些都是非常困難和重要的問題，目前還沒有答案。但我們需要更多的研究和預(yù)防措施來減輕潛在的風(fēng)險?！?/p>
