AI潛在滅絕風險！超過350位大佬聯名呼吁全球監管

• 2023年5月31日 11:33

隨著人工智能的迅猛發展，對其潛在風險的擔憂也越來越大。近日，超過350位人工智能領域的大佬聯名呼吁減輕人工智能帶來的滅絕風險，將其與流行病和核戰等全球優先事項并重。本文將進一步探討人工智能監管的重要性以及全球各方合作的必要性。



一、22字聲明，350人簽名

自從生成式AI以驚人的速度在各個領域迅速發展，AI對人類的挑戰也變得越來越真實。最近，超過350名人工智能（AI）領域的行業高管、專家和教授聯名發表了一封公開信，警告稱人工智能帶來的滅絕風險絕不可忽視。

非營利組織人工智能安全中心（Center for AI Safety）在本周二發布了一份簡短聲明，將減輕人工智能帶來的滅絕風險與流行病和核戰等社會問題并列為全球優先事項。這一聲明得到了OpenAI首席執行官山姆·奧特曼等知名高管的支持。

這封公開信只有一段簡短的內容，總共僅22個字（英文）：“減輕AI帶來的滅絕風險，應與流行病和核戰等其他全球規模風險同等對待。” 這一倡議獲得了超過350位AI領域高管和專家的簽署支持，其中包括Google DeepMind首席執行官戴米斯·哈薩比斯、OpenAI首席執行官山姆·奧特曼、"AI教父"杰弗里·辛頓、2018年圖靈獎得主約書亞·本希奧以及Anthropic首席執行官達里奧·阿莫代等。

據人工智能安全中心表示，越來越多的人工智能專家、記者、政策制定者和公眾開始討論人工智能帶來的廣泛風險的重要性和緊迫性。然而，對于先進人工智能帶來的一些最嚴重風險的擔憂仍然很難表達。

自從聊天機器人ChatGPT掀起人工智能熱潮以來，對這項技術潛在風險的擔憂持續增加。今年3月，特斯拉CEO埃隆·馬斯克等1000多名行業高管和專家聯名發表公開信，呼吁在六個月內暫停高級人工智能的開發，認為高級人工智能可能對社會和人類構成深遠的風險。

二、G7呼吁出臺AI技術標準

全球AI大佬的聯名警告也引起了G7的關注，G7領導人在5月21日的會議上呼吁制定和建立人工智能（AI）技術標準，敦促行業和監管者確保人工智能的可信度。他們指出當前的技術治理無法跟上人工智能的發展步伐。

G7領導人會議發表的聲明表示，人工智能等數字技術的規則應該與人們共同的價值觀相符。他們達成共識，計劃在今年年底之前建立一個部長級論壇，專門討論人工智能的發展，其中包括生成式人工智能的問題，如版權和打擊虛假信息。

歐洲一直在人工智能監管方面處于領先地位。歐盟本月接近通過了一項全面的人工智能技術監管法案，有望成為全球首個全面監管人工智能的立法，并可能為其他發達經濟體樹立先例。

歐盟委員會主席烏爾蘇拉·馮德萊恩表示：“我們希望人工智能系統準確、可靠、安全且無歧視，無論其來源如何。”G7領導人還強調他們的迫切需求是對生成式人工智能的機遇和挑戰進行快速評估，這也是近期ChatGPT引發的技術熱點之一。

盡管各國都呼吁加強對人工智能的監管，但各國政府對于人工智能的態度仍有差異。據報道，在美國國會的一場聽證會上，OpenAI首席執行官山姆·奧特曼呼吁設立新機構監管人工智能，并展開歐洲之行，與各國政府首腦會面并參加高校對話活動，重申監管的必要性。在接受媒體采訪時，他警告稱，由于歐盟正在制定的人工智能法規，OpenAI可能會撤出歐洲市場。

其他科技巨頭也積極行動。微軟總裁布拉德·史密斯在華盛頓與美國議員共同主持了一場備受關注的活動，提出了微軟關于政府如何監管人工智能的建議。谷歌首席執行官桑德爾·皮查伊與歐盟官員會晤，討論人工智能政策，并強調需要適當監管技術，同時不扼殺創新。

三、AI人工智能可能帶來的風險

目前，對于人工智能的監管已經成為一個全球性的議題。隨著人工智能的迅速發展，確保其符合道德和社會價值，同時減輕其潛在的風險變得至關重要。人工智能可能帶來的滅絕風險引起了廣泛的關注和擔憂。這些擔憂主要集中在以下幾個方面：

1.強大的自主能力：隨著人工智能技術的不斷進步，有可能出現強大的自主智能系統，這些系統能夠獨立思考和行動，超越了人類的控制。這種自主能力可能導致人工智能系統在沒有明確指導或約束的情況下做出具有破壞性的決策，從而對人類社會和生存環境造成嚴重威脅。

2.偏見和不公正：人工智能系統的訓練數據可能帶有偏見和不公正，這可能導致系統在決策過程中對某些群體或個體進行歧視。例如，在招聘和候選人篩選過程中使用人工智能系統可能會存在性別、種族或其他方面的偏見。這種不公正性可能加劇社會的不平等和歧視。

3.安全和隱私風險：人工智能系統在處理大量個人數據時可能存在安全和隱私風險。惡意利用人工智能技術可能導致個人信息泄露、身份盜竊以及網絡攻擊等問題。此外，對于一些關鍵基礎設施，如能源、交通和通信系統，人工智能系統的安全漏洞可能會造成重大的破壞和危害。

為了應對這些潛在風險，人工智能監管的重要性日益凸顯。需要建立全球統一的法律框架和倫理準則，確保人工智能的開發和應用符合道德和社會價值。監管機構應該制定相應的政策和規則，確保人工智能系統的透明度、責任性和可解釋性。

同時，人工智能技術公司也應該承擔起自己的責任，采取自律措施，確保其技術的安全性和可靠性。加強合作與信息共享，促進跨國界的人工智能監管合作，共同應對全球范圍內的挑戰。

綜上所述，在人工智能的時代，我們面臨著巨大的機遇和挑戰。保障人工智能的安全和可靠性，需要政府、科技公司、學術界和公眾的共同努力。通過制定有效的監管政策、加強國際合作和開展跨界對話，我們可以更好地引導人工智能技術的發展，使其造福人類社會。只有通過共同努力，我們才能掌握人工智能的潛力，并確保其為我們帶來更美好的未來。

免責聲明:AI潛在滅絕風險！超過350位大佬聯名呼吁全球監管文章轉發自互聯網，版權歸其所有。
文章內容不代表本站立場和任何投資暗示。加密貨幣市場極其波動，風險很高，可能不適合所有投資者。在投資加密貨幣之前，請確保自己充分了解市場和投資的風險，并考慮自己的財務狀況和風險承受能力。此外，請遵循您所在國家的法律法規，以及遵守交易所和錢包提供商的規定。對于任何因使用加密貨幣所造成的投資損失或其他損失，本站不承擔任何責任。